Private GPTs: Festungen sensibler Daten

Verwaltung der Zukunft: Laut der firmenweiten KI-Strategie aus 2024 verfolgt Fsas Technologies das Ziel, „die Zusammenarbeit zwischen Mensch und KI zu vertiefen“. In welchen Bereichen halten Sie diese Zusammenarbeit für besonders sinnvoll und notwendig?

Fsas Technologies: Die Zusammenarbeit zwischen Mensch und KI ist im öffentlichen Sektor, im Gesundheitswesen und der Sozialversicherung besonders sinnvoll und notwendig. Wir bei Fsas Technologies haben uns 2019 im Group AI Commitment dazu verpflichtet, ausschließlich KI-Systeme zu entwickeln, die den Menschen unterstützen und entlasten – nicht ersetzen.

Besonders bei der Analyse großer Datenmengen und in komplexen Entscheidungssituationen zeigt KI ihre Stärken. Sie automatisiert Routineaufgaben, agiert als intelligenter Assistent und verschafft Fachkräften mehr Zeit für strategische und zwischenmenschliche Aufgaben. Der Mensch behält stets die Entscheidungshoheit. Dies führt zu einer höheren Dienstleistungsqualität und Zufriedenheit – sowohl bei den Mitarbeitenden als auch den Mitgliedsbetrieben, den Versicherten und Kunden.

Gleichermaßen gilt das für Einsatzfelder in der Unterstützung von medizinischem Personal durch KI-gestützte Diagnose-Assistenzsysteme, prädiktive Analysen und optimierte Behandlungspläne. Auch im Bereich der IT-Infrastrukturen ist KI ein Gamechanger. Sie optimiert Rechenzentren, verringert den CO₂-Fußabdruck und verbessert das Ressourcenmanagement. Mit Blick auf die Cybersecurity kann KI helfen, Anomalien frühzeitig zu erkennen und Sicherheitsrisiken zu minimieren.

Gerne möchten wir an dieser Stelle auch unseren Kollegen Jochen Riedisser (stv. CDO) zitieren:

VdZ: Welche Trends und Entwicklungen erwarten Sie in den kommenden Jahren in der KI-Branche?

Fsas Technologies: In den kommenden Jahren erwarten wir in der KI-Branche mehrere bedeutende Entwicklungen, die auch die Sozialversicherungsbranche tiefgreifend beeinflussen werden: 

1. Vertrauenswürdige KI und Regulierung: Mit dem AI Act in der EU und weiteren weltweiten Regelwerken wird es immer wichtiger, KI-Modelle transparent, ethisch und sicher zu gestalten. „Explainable AI“ (erklärbare KI) wird ein Schlüsselthema.
2. Zunehmende Spezialisierung von KI-Lösungen: Anstatt generischer Systeme werden maßgeschneiderte KI-Lösungen entwickelt, die auf die spezifischen Bedürfnisse der Sozialversicherung zugeschnitten sind, wie z. B. die effizientere Antragsbearbeitung oder Risikoprognosen.
3. Nahtlose Integration von KI in bestehende IT-Infrastrukturen: Diese Integration wird an Bedeutung gewinnen und ist entscheidend für eine erfolgreiche Implementierung.
4. Agentic Systems und KI-Integration: Agentic Systems, die autonom agieren und Entscheidungen treffen, werden 2025 ein Schlüsselthema sein, da sie Effizienz und Innovation vorantreiben. Die Integration von KI in bestehende Fachverfahren ist entscheidend, um bewährte Prozesse intelligent zu erweitern und Synergien zwischen traditionellen Methoden und moderner Technologie zu schaffen. Dies ermöglicht es, Wettbewerbsfähigkeit zu sichern und nachhaltige Wertschöpfung in einer digitalisierten Welt zu generieren.
5. Stärkere Fokussierung auf Datenschutz und Datensicherheit: Die Verarbeitung sensibler Daten erfordert höchste Sicherheitsstandards und die Einhaltung strenger Datenschutzbestimmungen.
6. KI-Effizienz und Nachhaltigkeit: KI braucht Ressourcen. Wir sehen eine Bewegung hin zu energieeffizienteren Modellen, die mit weniger Rechenleistung auskommen, sowie neue Methoden wie Quanten-KI, die große Fortschritte verspricht.

VdZ: Können Sie uns mehr zu Private GPT von Fsas Technologies erzählen? Was sind die Vorteile dieser KI-Lösung im Vergleich zu klassischen KI-Modellen? Was sind die Use Cases von privaten GPTs im öffentlichen Sektor?

Fsas Technologies: Bei Private GPT ist der Name Programm. Es handelt sich dabei um ein komplett funktionsfähiges GPT – mit einem entscheidenden Unterschied: Man kann damit auch streng geheime oder schützenswerte, insbesondere also auch Sozialdaten verarbeiten. Denn Private GPT läuft lokal im eigenen Rechenzentrum (ganz ohne Cloud) und wird in einer geschlossenen Umgebung betrieben – also ohne Datenlecks oder unbekannte Trainingsquellen.

Private GPT ist zudem „Made in Europe“ und damit unabhängig von der Entwicklung der großen amerikanischen und chinesischen KI-Modelle. Wir arbeiten hier in Partnerschaften mit Mistral und Cohere und bieten basierend auf deren LLMs eine Rundum-Sorglos-Komplettlösung an: vom Server, über KI-Beschleuniger inkl. passendem Sprachmodell bis hin zur Software – alles ummantelt von einer Maintenance für die Komplettlösung. Und das Beste daran: mit einem kostengünstigen Lizenzmodell für unbegrenzt viele User.

Private GPT von Fsas Technologies bietet ein hohes Maß an Sicherheit und Kontrolle – und daraus ergeben sich auch die typischen Use Cases im Öffentlichen Sektor und für Sozialversicherungsträger: 

VdZ: Welche gesetzlichen Rahmenbedingungen müssen bei der Implementierung privater GPTs beachtet werden?

Fsas Technologies: Datenschutz und Sicherheit stehen an erster Stelle. Die Einhaltung der DSGVO ist zentral – insbesondere, wenn personenbezogene Daten und Sozialdaten verarbeitet werden. Private GPTs bleiben vollständig unter Kontrolle des Unternehmens und garantieren damit Datenschutzkonformität.

Besonders relevant ist die Einhaltung des AI Acts der EU, der KI-Systeme nach Risikokategorien einteilt und spezifische Anforderungen an Entwicklung, Einsatz und Überwachung stellt. Die Einhaltung dieser Vorgaben ist essentiell und wir prüfen sorgfältig, ob der jeweilige Anwendungsfall unter die Bestimmungen des AI Act fällt und welche Anforderungen daraus resultieren.

Strenge Anforderungen an Cybersicherheit und NIS2 müssen ebenfalls erfüllt werden und dazu kommen branchenspezifische Vorgaben, etwa das Sozialgesetzbuch (SGB) für Sozialversicherungsträger. Wichtig ist, dass private GPTs keine personenbezogenen Daten ohne Zustimmung verarbeiten und nachvollziehbare Entscheidungsgrundlagen bieten. Fsas Technologies begleitet die Kunden von der Beratung bis zur Umsetzung – für eine sichere und rechtskonforme KI-Nutzung.

VdZ: Wie stellen Sie sicher, dass private GPTs vollständig unter der Kontrolle des Unternehmens bleiben und nicht unbeabsichtigt supersensitive Daten nach außen gelangen?

Fsas Technologies: Das ist für uns ganz einfach, indem wir auf eine Kombination aus mehreren Sicherheitsmaßnahmen setzen. Ein zentraler Aspekt ist der On-Prem-Betrieb. Im Gegensatz zu Cloud-basierten Lösungen verbleiben die Daten vollständig innerhalb der Infrastruktur unserer Kunden. Dies eliminiert das Risiko, dass Daten unabsichtlich über das Internet an unbefugte Stellen gelangen. 

Zusätzlich implementieren wir feingranulare Berechtigungskonzepte, die den Zugriff auf Daten streng regulieren. Dies bedeutet, dass Nutzende nur auf die Daten zugreifen und mit diesen interagieren können, für die sie auch im normalen Arbeitsablauf autorisiert sind. Die Zugriffskontrolle ist eng an bestehende Unternehmensrichtlinien und -strukturen gekoppelt.

Durch diese Kombination aus dem Betrieb im eigenen Rechenzentrum und strenger Zugriffskontrolle gewährleisten wir ein Höchstmaß an Datenschutz und Datensicherheit. Kurz gesagt: Private GPTs sind eine Festung für sensible Daten, mit eingebauter Kontrolle und Sicherheitsmechanismen.

VdZ: Wie hoch sind der Ressourcen- und Kostenaufwand für das Training und den Betrieb privater GPTs im Vergleich zu öffentlich zugänglichen Modellen?

Fsas Technologies: Der Ressourcen- und Kostenaufwand für das Training und den Betrieb Private GPT von Fsas Technologies ist im Vergleich zu öffentlich zugänglichen Modellen tatsächlich geringer. 

Dies liegt daran, dass wir ein bereits fertig trainiertes Large Language Model (LLM) verwenden. Ein aufwendiges Training des LLMs mit den Kundendaten entfällt somit. Stattdessen nutzen wir Retrieval Augmented Generation (RAG). Das bedeutet, das vortrainierte LLM greift direkt auf die vektorisierten internen Daten des Kunden zu und generiert seine Antworten basierend auf diesen Daten und dem vorhandenen Wissen des LLMs.

Der Aufwand besteht hauptsächlich im Einrichten der Infrastruktur, der Integration in bestehende Systeme und im Betrieb der Lösung. Natürlich fallen Kosten für die Hardware, die Softwarelizenz und den laufenden Betrieb an, diese sind aber im Vergleich zum Training eines eigenen LLMs deutlich geringer. Es fallen keine nutzungsbezogenen Kosten pro Token an.

Der Aufwand ist somit im Wesentlichen vergleichbar mit dem Betrieb anderer On-Prem-Softwarelösungen und deutlich geringer als bei der Entwicklung und dem Training eines eigenen, vergleichbar leistungsfähigen LLMs. Fsas Technologies bietet damit eine wirtschaftliche Komplettlösung – leistungsfähig, sicher und nachhaltig.

VdZ: Mit Blick auf Ihre Teilnahme am 4. ZuKo Sozialversicherungen: Welche Rolle spielt generative KI Ihrer Meinung nach für die Zukunft der Sozialversicherungsbranche? Können Sie Einblicke in aktuelle KI-Projekte geben, an denen Sie arbeiten?

Fsas Technologies: Generative KI hat das Potenzial, die Sozialversicherungsbranche grundlegend zu verändern – deutlich effizienter, dienstleistungsorientierter und zukunftssicher. 

Wir arbeiten an verschiedenen Projekten, die die automatische Bearbeitung von Anträgen verbessern und das Wissensmanagement erleichtern – insbesondere, wenn es auch um die Arbeit mit Gesetzestexten geht. Ein Schwerpunkt liegt dabei auf der Entwicklung von sicheren und vertrauenswürdigen KI-Lösungen. Auch zu allen oben genannten Use Cases gibt es bereits konkrete Projekte.

Auf dem 4. ZuKo Sozialversicherungen freuen wir uns darauf, über diese Themen zu sprechen und gemeinsam mit den Teilnehmern zu diskutieren, wie wir KI sinnvoll und sicher einsetzen können. Unser Ziel bei Fsas Technologies: Die Sozialversicherung digital transformieren und mit vertrauenswürdiger, sicherer KI langfristig effizienter gestalten.