Der EU-Regulierungsrahmen für Künstliche Intelligenz – geht’s noch praxisferner?

Im April 2021 hat die Europäische Kommission ihren Vorschlag für eine Verordnung zur Regulierung von Künstlicher Intelligenz (KI) vorgelegt. Das erweckt natürlich Interesse in der deutschen Wirtschaft -–besonders in der Finanzbranche. Im aktuellen Positionspapier kommentieren die Vertreter der deutschen Wirtschaft den Entwurf, denn so ganz praxisnah ist der noch nicht.

Künstliche Intelligenz gehört zu den Schlüsseltechnologien des 21. Jahrhunderts und bietet enorme wirtschaftliche Anwendungsmöglichkeiten. Sie durchdringt nahezu alle Bereiche unseres Lebens und bringt sowohl Chancen als auch Risiken mit sich.

KI-Regulierung geht besser…

KI bietet in der Wirtschaft enormes Potenzial und, wer hätte das gedacht, die EU drohe im globalen Wettlauf mal wieder zurückzufallen. Es sei jetzt wichtig, einen klugen Rahmen für die Entwicklung und die Anwendung von KI in Europa zu setzen und KI gezielt zu fördern, anstatt neue Projekte und deren Markteinführung zu erschweren. Aufgabe der Gesetzgeber sei es jetzt, die richtige Balance zwischen der Beschränkung von potenziellen Risiken auf der einen und der Unterstützung von technologischen Innovationen auf der anderen Seite zu gewährleisten.

In diesem Zusammenhang sei der risikobasierte Ansatz der Europäischen Kommission zur Regulierung von KI grundsätzlich sinnvoll und zu begrüßen. Bei einigen von der Europäischen Kommission vorgeschlagenen Regelungen bestehe allerdings noch Nachbesserungsbedarf:

1. Engere Definition von KI

Die Definition von KI sei für den Anwendungsbereich der künftigen Regulierung entscheidend. Die im KI-Regulierungsvorschlag der Europäischen Kommission enthaltene Definition sei jedoch zu weit gefasst, sodass eine Vielzahl von konventionellen IT-Systemen unsachgerecht erfasst und folglich in den Anwendungsbereich der Regulierung fallen würden.

Die Definition von KI muss präzisiert werden.”

Insbesondere Algorithmen, die keine Form des maschinellen Lernens oder der Selbstoptimierung enthalten, sollten per Definition von der KI-Regulierung ausgenommen werden – irgendwie logisch, oder? Dasselbe gelte für lineare Modelle, unterstützende Methoden aus dem Bereich der erklärbaren KI und etablierte statistische Methoden.

2. Risikodefinition unter Berücksichtigung des Einsatzzweckes

Die Liste der hochriskanten KI-Anwendungen berücksichtige gegenwärtig nur den allgemeinen Einsatzbereich, nicht jedoch die konkrete Ausgestaltung der KI, ihre konkrete Verwendung oder das eigentliche Risiko, welches sie mit sich bringen. Diese pauschale Einordnung habe zur Folge, dass eine Vielzahl von harmlosen KI-Anwendungen als hochriskant gelten. Ein Beispiel seien Anwendungen zur Effizienzsteigerung von Arbeitsabläufen, wie beispielweise digitale Posteingangslösungen oder Anwendungen im Bewerbermanagement, die eine Sichtung von Bewerbungen objektiver machen.

3. Doppelregulierung vermeiden

Der KI-Regulierungsvorschlag betreffe nahezu alle Wirtschafts- und Industriebereiche. Daher sei es wichtig,
eine Kohärenz mit bestehenden Vorschriften und Aufsichtsstrukturen herzustellen. Der bestehende Regulierungsrahmen biete bereits einen ausreichenden Schutz für Verbraucher und gelte selbstverständlich auch für KI-Anwendungen.

Neue Anforderungen und Vorgaben durch eine zusätzliche KI-Regulierung kann zu Doppelregulierungen führen.”

Das bedeute nicht nur zusätzlichen Aufwand und erhebliche Rechtsunsicherheiten für Unternehmen, sondern hemme langfristig auch Innovationen. Dies gelte insbesondere für bereits hoch regulierte Branchen wie beispielsweise in den kritischen Infrastrukturen, dem Banken-, Versicherungs- und Arzneimittelmarkt oder auch für Medizinprodukte.

Leitlinien für Entwickler dürfen nicht fehlen

Bei aller Regulatorik darf man eins nicht vergessen: Irgendjemand muss das ganze dann auch umsetzen und dafür auch verstehen. Da die Vorschriften aber in erster Linie für Juristen verfasst sind, wäre es stark zu begrüßen, wenn die Kommission nach Abschluss des Gesetzgebungsverfahrens einen anwendungsorientierten Leitfaden vorlegen könnte, in dem die Regelungen praxisnah und einfach verständlich für Entwickler von KI „übersetzt“ werden, z. B. mit entsprechenden Checklisten und Step-by-Step-Anleitungen. Die Leitlinien könnten Entwickler beispielsweise bei der Beantwortung der Fragen unterstützen, wann von einer KI-Anwendung ein hohes Risiko ausgeht oder wie sichergestellt werden kann, dass Datensätze keine Bias enthalten.

Das Positionspapier der Deutschen Wirtschaft zum KI-Verordnungsvorschlag finden Sie hier.ft