Whitepaper: Technische Ansätze, die Datenschutz-Sorgen bei KI-Systemen ausmerzen sollen

Künstliche Intelligenz kann einen wichtigen Beitrag zu einer zukunftsfähigen Wirtschaft und Gesellschaft leisten. Aktuell sind Unternehmen beim Einsatz von KI jedoch noch zurückhaltend. Der häufig genannte Grund: Die datenschutzrechtlichen Hürden erscheinen zu hoch. Ein aktuelles Whitepaper der Plattform Lernende Systeme zeige technische Ansätze, die Privacy und Datenschutz bei der Entwicklung und Nutzung von KI-Systemen sicherstellen sollen.

Besonders Banken und Versicherer verfügen über wertvolle Daten, die mithilfe von KI-Technologie im Sinne der Gesellschaft nutzbar gemacht werden könnten: Gesundheitsdaten von Patientinnen und Patienten könnten beispielsweise dafür verwendet werden, die Entstehung von Erkrankungen besser vorherzusagen.

Der Gesetzgeber stelle hier strenge Anforderungen an eine Nutzung personenbezogener Daten – wobei die rechtliche Auslegung in der Praxis oft unsicher sei und die KI-Anwendung in der Breite erschwere.

Datenschatz für KI nutzen, Datenschutz mit KI wahren

Viele Unternehmen würden vor dem Einsatz und der Entwicklung von KI-Systemen zurückschrecken, die sensible Daten von Nutzern verarbeiten. Jedoch würden bereits verschiedene technische Privacy-Ansätze bestehen, die es ermöglichen würden, den Datenschutz bei der Verwendung personenbezogener Daten zu wahren. Die Autoren des Whitepapers fordern deshalb, technische Instrumente für mehr Privacy rechtlich anzuerkennen. Die Verfahren sollten als Ausnahme in die Datenschutzgrundverordnung (DSGVO) sowie künftige KI-Verordnung der Europäischen Union aufgenommen und in anwendungsspezifischer Datenschutzgesetzgebung ausformuliert werden. Dies ermögliche eine flexiblere Nutzung personenbezogener Daten.

Handlungsräume für KI-Entwicklung schaffen

Die Expertinnen und Experten empfehlen Privacy-Preserving Machine Learning (PPML), das den Datenschutz bereits beim Design der KI-Anwendung sicherstelle. Dazu zähle die Anonymisierung, Pseudonymisierung oder Verschlüsselung personenbezogener Daten. Weiter werden technische Ansätze genannt, die nicht direkt beim KI-Modell ansetzen, wie den Einsatz von Personal Information Management Systemen (PIMS) oder Datentreuhändern, mithilfe derer datengebende Personen die Hoheit über ihre Daten behalten und sogar selbst von deren Monetarisierung profitieren könnten. Erklärbare KI, also KI-Systeme, die ihre Entscheidungen und Funktionsweise transparent und verständlich machen, könnten den selbstbestimmten Umgang mit den eigenen Daten weiter stärken. Für Ansätze für erklärbare KI sowie für die Anonymisierung von Daten sollten zudem Standards und Zertifizierungsmöglichkeiten eingeführt werden.

Einsatz und Entwicklung von KI brauchen Rechtssicherheit. Statt Verbotsräumen sollte der Gesetzgeber Handlungsräume schaffen und technische Verfahren zur Wahrung des Datenschutzes juristisch zulassen. So lassen sich aktuell bestehende Interpretationsspielräume bei der Verarbeitung personenbezogener Daten schließen und die Chancen der Schlüsseltechnologie KI für unsere Gesellschaft besser nutzen.”

Jörn Müller-Quade, Professor für Kryptographie und Sicherheit am KIT

Das Whitepaper unterstreiche zudem, dass für das Training von KI-Systemen nicht-personenbezogene Daten grundsätzlich personenbezogenen Daten vorgezogen werden sollten, sofern sie die gleiche Datenqualität aufweisen. Empfohlen sei deshalb, interoperable Datenräume aufzubauen, um mehr nicht-personenbezogene Daten verfügbar zu machen.

Über das Whitepaper

Das Whitepaper „Datenschatz für KI nutzen, Datenschutz mit KI wahren. Technische und rechtliche Ansätze für eine datenschutzkonforme, gemeinwohlorientierte Datennutzung” wurde von Mitgliedern der Arbeitsgruppe IT-Sicherheit, Privacy, Recht und Ethik der Plattform Lernende Systeme verfasst.

Das Whitepaper können Sie hier kostenlos herunterladen.ft