Julia Wiens über die Verantwortung für Künstliche Intelligenz in der Versicherungsbranche

Was bedeutet der Einsatz von künstlicher Intelligenz aus Sicht der Versicherungsregulierung? Mit dieser Frage beschäftigte sich Julia Wiens, Exekutivdirektorin der Versicherungs- und Pensionsfondsaufsicht, im Rahmen des Vorlesungstages des Instituts für Versicherungslehre an der Universität Leipzig.

In ihrer Rede erklärt Julia Wiens, wie Künstliche Intelligenz (KI) die Versicherungsbranche transformiert, indem sie nicht nur neue Möglichkeiten zur Optimierung von Prozessen und der Entwicklung von Produkten eröffnet, sondern auch erhebliche Risiken mit sich bringt. Besonders betont wird, dass KI-Systeme nicht nur einer neutralen Logik folgen, sondern dass die Qualität der Trainingsdaten entscheidend dafür ist, ob Diskriminierung und Ungerechtigkeit entstehen. Wenn bestimmte Kundengruppen in den Datensätzen unterrepräsentiert sind, kann das zu falschen Bewertungen führen, die diskriminierende Konsequenzen haben – oft ohne dass dies bewusst beabsichtigt wird. Der Einsatz von generativer KI, die auch falsche Informationen produzieren kann, verstärkt dieses Problem zusätzlich, da diese Modelle häufig intransparent sind und eine klare Verantwortung schwer zuzuordnen ist.

Wiens verweist auf die europäische KI-Verordnung (AI Act), die im August 2024 in Kraft tritt und die Nutzung von KI in der EU regelt. Sie stellt klar, dass es für Versicherungsunternehmen insbesondere bei der Anwendung von KI für Risikobewertungen und Preisbildung in der Lebens- und Krankenversicherung hohe Anforderungen gibt. Diese Verordnung unterscheidet zwischen Systemen mit geringem Risiko und solchen, die eine Bedrohung für grundlegende Rechte darstellen, wobei letztere verboten sind. Unternehmen müssen sich auf diese neuen regulatorischen Vorgaben vorbereiten, die ab dem 2. August 2026 gelten.

Klar ist auf jeden Fall: Künstliche Intelligenz beeinflusst und prägt unseren Alltag auf vielfältige Art und Weise. Immer mehr Unternehmen nutzen KI-Systeme. Nach Angaben des Statistischen Bundesamts mittlerweile jedes fünfte Unternehmen mit mindestens zehn Beschäftigten. Auch unter den Versicherern sehen wir eine immer intensivere Nutzung.”

Julia Wiens, Exekutivdirektorin der Versicherungs- und Pensionsfondsaufsicht

Versicherungen müssen für Transparenz der KI-Modelle sorgen

Ein zentrales Thema in Wiens’ Ausführungen ist die Governance von KI-Systemen. Sie unterstreicht, dass Unternehmen in der Finanzbranche sicherstellen müssen, dass ihre KI-Modelle nachvollziehbar und transparent sind. Dazu gehört auch, regelmäßig zu überprüfen, ob die verwendeten Daten repräsentativ und von hoher Qualität sind und ob die Systeme unter menschlicher Aufsicht bleiben, sodass auch bei Bedarf in den Entscheidungsprozess eingegriffen werden kann. Nur mit einer solchen Governance können Unternehmen sicherstellen, dass sie sowohl den regulatorischen Anforderungen als auch den ethischen Standards gerecht werden.

Abschließend warnt Wiens vor den potenziellen Risiken des Quantencomputings. Diese aufkommende Technologie könnte die Möglichkeiten von KI erheblich erweitern, gleichzeitig aber auch die Datensicherheit gefährden, da Quantencomputer in der Lage wären, bestehende Verschlüsselungsmethoden zu überwinden. Sie fordert Unternehmen dazu auf, sich schon jetzt auf die möglichen Herausforderungen des Quantencomputings vorzubereiten und Schutzmaßnahmen zu entwickeln, um auch in Zukunft die Sicherheit sensibler Daten zu gewährleisten.

Die BaFin wird mit hoher Wahrscheinlichkeit den Einsatz von Hochrisiko-KI-Systemen bei Banken und Versicherungen überwachen. Sofern die genutzte Künstliche Intelligenz in direktem Zusammenhang mit der Erbringung einer erlaubnispflichtigen Finanzdienstleistung steht. Darauf bereiten wir uns in diesem Jahr sehr intensiv vor.”

Julia Wiens, Exekutivdirektorin der Versicherungs- und Pensionsfondsaufsicht

Wiens appelliert an die Versicherungsbranche, KI und neue Technologien verantwortungsvoll zu nutzen, nicht nur, um Innovationen voranzutreiben, sondern auch, um ethischen und regulatorischen Anforderungen gerecht zu werden. Dabei betont sie, dass mit dem technologischen Fortschritt auch eine verstärkte Verantwortung für den verantwortungsbewussten und transparenten Einsatz dieser Technologien einhergeht. Die vollständige Rede lesen Sie hier.tw