Neue Regulierung für KI in der EU: Was das für Versicherungen bedeuten kann

Die nächste große EU-Verordnung zur Digitalisierung steht an. Nach der Datenschutzgrundverordnung will die Europäische Kommission nun eine Verordnung zur Regulierung des Einsatzes von künstlicher Intelligenz erlassen. Noch steht zwar eine rechtskräftige Verordnung in weiter Ferne, aktuell existiert lediglich eine EU-Richtlinie als Diskussionsgrundlage für die Mitgliedsstaaten der Europäischen Union. Doch bereits im Laufe dieses Jahres soll der koordinierte Plan von 2018 angepasst und als neue Richtlinie veröffentlicht werden. Daher ist es ratsam für Unternehmen, die KI-basierte Lösungen entwickeln oder einsetzen, sich jetzt schon mit den Inhalten und Vorgaben der Richtlinie vertraut zu machen. Dazu zählen immer häufiger auch Versicherungen, beispielsweise zur Optimierung des Vertriebs.

von Christophe Bourguignat, CEO/Co-Founder Zelros

Wie sich die Regulierung auf Versicherungen auswirken kann

Kern der neuen Richtlinie ist die Einteilung von KI-Anwendungen nach deren Auswirkungen auf die Grundrechte, Sicherheit und Privatsphäre der User. Auf dieser Basis werden KI-basierte Lösungen in vier Kategorien eingeteilt und unterschieden zwischen unannehmbarem, hohem, geringem und minimalem Risiko.

KI-Anwendungen aus der Kategorie “unannehmbares Risiko” werden grundsätzlich verboten. Dazu gehören Anwendungen zur Beurteilung von sozialem Verhalten und Algorithmen, die Bewertungen aufgrund struktureller Diskriminierung vornehmen. KI-Lösungen aus der Gruppe “hohes Risiko” sind größtenteils Anwendungen, die persönliche Daten verarbeiten, wie Kundendaten bei einem Vertragsabschluss.

Die Klassifikation “Geringes Risiko” erhalten Anwendungen, die als Maschine klar erkennbar sind und mit denen Menschen direkt interagieren, wie Chatbots, aber von denen kein hohes Risiko ausgeht, da Nutzer hier frei entscheiden können, ob sie diese Anwendungen nutzen möchten.”

Die Kategorie “minimales Risiko” umfasst sämtliche Anwendungen, die unter Einhaltung des allgemeinen Rechts entwickelt wurden, deren Einsatz ebenfalls dem allgemeinen Recht unterliegt und die keine weiteren rechtlichen Verpflichtungen erfordern, wie der Einsatz von KI in Videospielen oder Spamfiltern.

In welche Kategorie Versicherungen letztlich fallen, hängt nach bisherigem Stand maßgeblich von den KI-Anwendungen ab, die Versicherungen einsetzen. Benutzt eine Versicherung beispielsweise eine KI, die Daten von Kunden für den Vertrieb auswertet, fällt sie unter die Kategorie “hohes Risiko”. Ein Unternehmen hingegen, das nur einen Chatbot auf der Website einsetzt, ist dementsprechend der Kategorie “Geringes Risiko” zugeordnet. Bislang gibt es keine zusätzliche Einteilung des Risikos nach Branchen.

Damit diese Einteilung keine negativen Folgen haben kann, beispielsweise in der Wahrnehmung und Meinung der Kund:innen, können Versicherungen, die KI-basierte Lösungen einsetzen, idealerweise bereits vorsichtshalber bestimmte Maßnahmen einleiten. Darunter fallen Vorbereitungen auf die absehbaren Anforderungen sowie ein mit der Richtlinie konformes Datenmanagement.

Welche Pflichten sieht die EU für Versicherungen beim Einsatz von KI vor?

Autor Christophe Bourguignat, Zelros

Christophe Bourguignat ist Chief Executive Officer und Co-Founder von Zelros (Webseite). Er grün­de­te das Un­ter­neh­men 2016 in Pa­ris zu­sam­men mit Fa­bi­en Vau­chel­les und Da­mi­en Phil­ip­pon mit der Vi­si­on, ein auf die Ver­si­che­rungs­bran­che spe­zia­li­sier­tes Soft­ware-Un­ter­neh­men auf­zu­bau­en. Sein Ziel ist es, die Di­gi­ta­li­sie­rung in Ver­si­che­rungs­un­ter­neh­men vor­an­zu­trei­ben, de­ren Ver­trieb so­wie die Cust­o­m­er Jour­ney zu op­ti­mie­ren. Chris­to­phe grün­de­te zu­dem French­Da­ta im Jahr 2016, ei­nen ein­fluss­rei­chen Think Tank zur För­de­rung der fran­zö­si­schen Da­ten­sze­ne. Zu­vor war er un­ter an­de­rem bei der Ver­si­che­rungs­grup­pe AXA als Big Da­ta Lead tä­tig. Er be­sitzt ei­ne rund 20-jäh­ri­ge Ex­per­ti­se im IT-Be­reich, mit be­son­de­rem Fo­kus auf künst­li­cher In­tel­li­genz, ma­schi­nel­lem Ler­nen, Cy­ber Se­cu­ri­ty und Big-Da­ta-Tech­no­lo­gi­en. Chris­to­phe ver­fügt zu­dem über ei­nen Mas­ter of Sci­ence in In­ge­nieur­wis­sen­schaf­ten von der fran­zö­si­schen In­ge­nieur­schu­le CentraleSupelec.

An erster Stelle sind Versicherungen gefordert, für ihren Einsatz von KI-Anwendungen aus der Gruppe “hohes Risiko”, ein Qualitäts- und Risikomanagement einzuführen. Vor jedem Einsatz einer künstlichen Intelligenz oder bei der Änderung des ursprünglichen Einsatzes beziehungsweise nach Adaptionen der KI selbst, könnten die Anwender-Unternehmen künftig zu einer obligatorischen Konformitätsbewertung verpflichtet sein. Diese überprüft, ob sämtliche Aspekte beim Einsatz einer bestimmten KI-Anwendung vollständig rechtskonform mit den Vorgaben der EU-Richtlinie sind. Auch wenn die Richtlinie zurzeit nur als Diskussionspapier existiert, können Versicherungen ihren bisherigen Einsatz von KI auf diese Vorgaben überprüfen – beziehungsweise eine SaaS-Lösung nutzen, die hohe Vorgaben, u. a. an den Datenschutz, erfüllt.

Transparentes Datenmanagement gewinnt an Bedeutung

Eine solche Konformitätsbewertung kann u. a. eine Überprüfung hinsichtlich der Datenqualität, der Dokumentation und Rückverfolgbarkeit aller eingesetzten Daten sowie Transparenz über die vorgenommenen Verwendungszwecke dieser Informationen enthalten. Versicherungen sollten daher bereits heute abwägen, ob sich beispielsweise der Einsatz von Open-Source-Lösungen nicht langfristig auszahlt, da so insbesondere der Punkt der Transparenz der eingesetzten Algorithmen bestätigt werden könnte. Darüber hinaus ist Open Source eine gute Möglichkeit, um das Vertrauen von (potenziellen) Nutzern zu gewinnen.

Wie bei der DSGVO könnten Verstöße gegen diese Vorgaben nach der Umsetzung der Richtlinie in den Mitgliedsstaaten mit hohen Geldstrafen belegt werden. Die Höhe der Bußgelder wird entweder durch eine in der Richtlinie festgelegte Summe oder durch einen gewissen Prozentsatz des jeweiligen gesamten weltweiten Vorjahresumsatzes bestimmt. Bisher sieht der Richtlinienentwurf eine Mindeststrafe von bis zu 30 Mio. EUR oder sechs Prozent des gesamten weltweiten Vorjahresumsatzes bei Verstößen bei der Anwendung von verbotenen Praktiken oder Verletzungen von Datenanforderungen vor. Ein Strafmaß von bis zu 20 Mio. EUR oder von vier Prozent des gesamten weltweiten Vorjahresumsatzes ist vorgesehen bei Verstößen gegen andere Anforderungen oder Verpflichtungen aus der KI-Verordnung. Ein Bußgeld von bis zu 10 Mio. EUR oder zwei Prozent des gesamten weltweiten Vorjahresumsatzes wird fällig bei falschen, unvollständigen oder irreführenden Angaben in angeforderten Auskünften gegenüber den zuständigen nationalen Behörden oder benannten Stellen. Ob das Strafmaß aus einer direkt festgelegten Summe oder einer nach dem gesamten weltweiten Vorjahresumsatz angesetzten Summe besteht, richtet sich danach welches die höhere Summe ist.

Dieser Rechtsrahmen wird sowohl für öffentliche als auch private Anwender:innen innerhalb und außerhalb der EU gelten. Dies gilt in besonderem Maße für Versicherungen, auch wenn diese Kundenkontakte im Nicht-EU-Ausland pflegen oder dort selbst mit Dependancen vertreten sind.

Bias vermeiden: Unvoreingenommenheit ist Pflicht

Auf Seite des Datenmanagements legt die EU einen hohen Wert auf die Unvoreingenommenheit von künstlichen Intelligenzen, KI-Systeme dürfen diese weder schaffen noch reproduzieren. Dies ist auch für Versicherungen relevant:

So müssen Versicherer beispielsweise bei den Kriterien zur Vergabe von Policen wachsam sein, da hier keine Diskriminierung durch die Analyse von Daten wie Herkunft oder Geschlecht erfolgen darf – allerdings war dies auch vorher schon durch Leitlinien der Branche untersagt.”

KI-Systeme mit hohem Risiko erfordern der EU-Richtlinie zufolge ein ausreichend repräsentatives Training, um das Risiko von unfairen Verzerrungen möglichst gering zu halten. Diese Trainingsdaten unterliegen ebenfalls einer Dokumentations- und Aufbewahrungspflicht. Versicherungen müssen sich darauf einstellen und sollten frühzeitig mit dieser Dokumentation beginnen. 

Wettbewerbsfähigkeit sichern: KI rechtskonform einsetzen – und profitieren

Das klingt erstmal nach Arbeit – trotzdem sollten sich Versicherungen innerhalb der EU von der Aussicht auf diese Richtlinie nicht abschrecken lassen, denn die Versicherungsbranche ist bereits heute ein hoch regulierter Markt, dem spezielle Anbieter bereits erfolgreich gerecht werden.

Daher wird sich allerdings aber noch zeigen müssen, inwieweit die daraus resultierenden Vorgaben zu Vorteilen für die Branche werden, beispielsweise, in dem sie Vertrauen stiften, oder doch eher ein Hemmschuh für den technologischen Fortschritt in der strikt regulierten Branche darstellen. Darüber hinaus könnten die klaren Vorteile KI-basierter Lösungen auch gewisse Aufwände bei der Einführung schnell wettmachen – und ein offener, transparenter und rechtskonformer Umgang mit Daten, hilft dabei, dass Kund:innen verstehen, was mit ihren personenbezogenen Informationen geschieht – in klarer Wettbewerbsvorteil vor allem in der EU, in denen Kund:innen einen hohen Wert auf Datenschutz und -Sicherheit legen.Christophe Bourguignat, Zelros

 
Sie finden diesen Artikel im Internet auf der Website:
https://itfm.link/122490

• teilen 
• teilen 
• teilen 
• teilen 
• teilen 
• RSS-feed 
• E-Mail 
• drucken