11. Dezember 2024 von Alexander Blattmann und Anastasiia Kalmykova
Hybride Wissensagenten in Versicherungen
Wissensagenten im Einsatz: Schneller Zugriff auf wertvolles Wissen
In Versicherungen werden Wissensagenten angestrebt, die Mitarbeitenden präzise und schnell Antworten auf komplexe Fragestellungen bereitstellen. Hierbei greifen die Agenten auf interne Datenquellen zu, wie etwa Dokumentenarchive, Inhalte aus dem Intranet und externe Informationen – meist über APIs und RAG (Retrieval-Augmented Generation). Sprachmodelle wie GPT4o von OpenAI dienen dabei als Grundlage, um Anfragen zu verstehen und in verständlicher Form zu beantworten.
Doch die Nutzung solcher Wissensagenten birgt auch Herausforderungen, insbesondere in datenschutzrechtlicher Hinsicht.
Datenschutz als Priorität: Sensible Informationen schützen
Für Versicherer ist der Schutz sensibler Informationen essenziell. Informationen dürfen nicht unkontrolliert den deutschen oder europäischen Raum verlassen und in bestimmten Fällen ist eine Weitergabe außerhalb des Unternehmensnetzwerks grundsätzlich verboten. Wie lässt sich also eine zuverlässige Wissenslösung entwickeln, die diesen Anforderungen gerecht wird?
Eine Möglichkeit ist der Einsatz von Open-Source-Sprachmodellen in einer On-Premise Private Cloud. Dies ermöglicht eine hohe Kontrolle über die Datenflüsse, erfordert jedoch spezielles Know-how im Betrieb und in der Wartung dieser Modelle. Zudem bleiben Open-Source-Lösungen bei der Anbindung an komplexe Datenquellen in bestimmten Fällen hinter kommerziellen Lösungen zurück.
Der hybride Ansatz: Datenschutz und Effizienz vereint
Ein sinnvoller Ansatz für Versicherer besteht in einer hybriden Lösung: Ein leistungsstarkes, externes Modell wie GPT4o übernimmt die erste Frageverarbeitung und es erfolgt in diesem Schritt eine anonymisierte Datenübertragung, während sensible Informationen ausschließlich intern verarbeitet werden. Hierbei kann ein Open-Source-Modell wie Llama zum Einsatz kommen, das eine hohe Antwortqualität liefert.
Dieser hybride Ansatz ermöglicht die Kombination von Performance und Datenschutz: Versicherungen können regulatorische Anforderungen erfüllen und gleichzeitig die Leistungsfähigkeit moderner Sprachmodelle nutzen.
Technische Umsetzung des hybriden Wissenssystems
Das hybride Wissenssystem in Versicherungen basiert auf einem Multi-Agenten-System (MAS), das die Einzelschritte der Fragenverarbeitung auf spezialisierte Agenten verteilt. Diese Struktur erhöht die Flexibilität bei der Bearbeitung komplexer Anfragen und ermöglicht eine sichere Informationsverarbeitung (siehe nachfolgende Abbildung: Multi-Agentensystem (MAS)).
Nachfolgend wir am Beispiel eines SQL-Agenten ein MAS erläutert. Der SQL-Agent erlaubt es, ohne SQL-Kenntnisse mit einer Datenbank zu chatten beziehungsweise zu sprechen (VoiceBot-Variante).
Der Vorteil einer solchen auf einem Sprachmodell basierenden Lösung liegt darin, dass man als Anwender einen inhaltlichen Dialog mit der Datenbank hat, das heißt, die Fragen und Antworten aufeinander aufbauen.
- 1) Eingehende Anfragen: Die Benutzeranfrage wird über eine Proxy-Schnittstelle in das System eingespeist, um eine reibungslose Interaktion zwischen User und System zu gewährleisten.
- 2) Dateningenieur: Der Data Engineer-Agent analysiert die Anfrage und entwickelt auf Basis der Datenbankstruktur einen Abfrageplan, um die relevanten Daten gezielt abzurufen.
- 3) SQL Executer: Der SQL Executer-Agent formuliert und führt die Datenbankabfrage aus, um die notwendigen Informationen aus verschiedenen Quellen zu beschaffen.
- 4) Answer Writer (Llama): Schließlich übernimmt der Answer Writer die Interpretation der Abfrageergebnisse. Dieser verarbeitet und formatiert die Daten in eine für den User verständliche Antwort.
Datenschutz durch lokale Datenverwaltung
Eine zentrale Funktion des Systems ist die lokale Verwaltung des Datenoutputs. Als Ergebnis ausgegebene Tabellenbeschreibungen und Ergebnisdaten werden ausschließlich lokal gespeichert und nicht an externe Systeme übertragen. So wird sichergestellt, dass keine sensiblen Informationen das Unternehmensnetzwerk verlassen. Diese lokale Verwaltung löst das Problem eines unkontrollierten Datentransfers und gewährleistet somit den Datenschutz.
Zukunftsaussichten: Optimierungen und neue Funktionen
In der Weiterentwicklung hybrider Wissensagenten könnten zusätzliche Verbesserungen implementiert werden, um Effizienz und Benutzerfreundlichkeit zu steigern:
Automatisierte Datenbankbeschreibungen:
Systeme zur automatischen Bereitstellung von Datenbankbeschreibungen könnten Mitarbeitenden Zeit sparen, indem sie strukturierte Beschreibungen für die häufig genutzten Datenbanken erstellen und dabei exemplarische Werte angeben.
Berateragenten für große Datenbanken:
Bei sehr großen Datenbanken könnte der Einsatz von spezialisierten Berateragenten hilfreich sein, die gezielt Informationen aus Tausenden von Tabellen herausfiltern und Mitarbeitenden zur Verfügung stellen.
Fazit: Der hybride Ansatz als zukunftssichere Lösung
Durch den Einsatz hybrider Wissensagenten können Versicherungen nicht nur regulatorische Anforderungen erfüllen, sondern auch ihre Effizienz im Wissensmanagement erheblich steigern. Die Kombination aus externen und internen Sprachmodellen ermöglicht eine hohe Leistungsfähigkeit bei gleichzeitiger Einhaltung strenger Datenschutzanforderungen. So entsteht eine zukunftssichere Lösung, die komplexe Aufgaben effizient bearbeitet und gleichzeitig den Schutz sensibler Daten sicherstellt.