Ethischer Umgang mit KI-Daten: Besonders die Finanz­branche steht unter Druck

Sieben von zehn Entscheidern sehen sich von ihren Stakeholdern unter Druck gesetzt, bei der Digitalisierung ethische und moralische Fragen zu berücksichtigen. 53 Prozent der Befragten verspürt “eher starken” Druck, 18 Prozent sogar “sehr starken”. Das sind Ergebnisse der Studie Talking Tech:
Connecting Digital & Law von Clifford Chance. Die Anwaltssozietät hat durch das Marktforschungsinstitut MoWeb Unternehmen mit mehr als 250 Mitarbeitern zum Thema “Herausforderungen der Digitalisierung” befragen lassen.

Finanzbranche unter Druck

Gerade die Manager und Führungskräfte der Finanzbranche bestätigen, dass Kunden, Lieferanten und die Öffentlichkeit verstärkt darauf drängen, Ethik und Moral bei der Digitalisierung nicht zu vergessen. Dies geben 82 Prozent der Befragten an. In der Industrie und in der Gesundheitsbranche wird dies etwas weniger stark empfunden.

Der Blick von Öffentlichkeit, Medien und Politik auf die Finanzbranche ist seit der globalen Finanzkrise deutlich schärfer. Die Regulierung hat spürbar zugenommen und die Institute selbst sind zunehmend sensibilisiert für ethische Fragen. Die zwei Mega-Trends Digitalisierung und Nachhaltigkeit treiben die Diskussion um ethisches Handeln an. Bei beiden kommt der Finanzbranche besondere Verantwortung zu: Durch die Steuerung von Geldströmen hat sie einen enormen Einfluss auf die Transformation von Wirtschaft und Gesellschaft.”

Dr. Marc Benzler, Partner im Bereich Regulatory Finance bei Clifford Chance

Ethische Aspekte bei der Entwicklung innovativer Produkte zu berücksichtigen, mag den Entwicklungsprozess vielleicht erst einmal verlangsamen. Langfristig verschaffen Unternehmen und Banken sich dadurch allerdings einen Marktvorteil, weil sie das Vertrauen ihrer Stakeholder weiter ausbauen.”

Dr. Christian Hissnauer, Senior Associate im Bereich Banking & Capital Markets und Mitglied der globalen Clifford Chance Tech Group

Größter Handlungsbedarf: ethischer Umgang mit Daten

Die Entscheider selbst sehen den Schutz von Daten als das zentrale Thema bei der Berücksichtigung ethischer Aspekte: Unabhängig vom Druck von außen sehen die Verantwortlichen den größten Handlungsbedarf bei ethischen Fragen zum Datenschutz hinsichtlich der Privatsphäre (80 Prozent). Auf dem zweiten Rang landet die Gestaltung des Wandels der Arbeitswelt – zum Beispiel die Weiterbildung der Mitarbeiter (78 Prozent). Dahinter folgt der Schutz von Daten vor dem Zugriff unbefugter Dritter wie beispielsweise Hackern (77 Prozent).

Künstliche Intelligenz und maschinenbasierte Entscheidungen – Ethik oder Regulierung?

Beim Einsatz von Maschinen, die autonom Entscheidungen treffen, sehen die Entscheider etwas weniger Handlungsbedarf was die Berücksichtigung ethischer Aspekte betrifft (63 Prozent). Das erstaunt insbesondere vor dem Hintergrund, dass Wissenschaft, Wirtschaft und Politik aktuell über kaum einen Digitalisierungsaspekt stärker diskutieren.

Wenn zum Bei­spiel Be­wer­ber über KI-ba­sier­te Al­go­rith­men aus­ge­wählt wer­den, müs­sen Un­ter­neh­men ne­ben den recht­li­chen An­for­de­run­gen auch ethi­sche As­pek­te un­be­dingt im Blick be­hal­ten: Ist die Da­ten­mas­se, aus der an­ge­lernt wird, von “un­con­scious bi­as” be­trof­fen, wird die Be­wer­be­r­aus­wahl ent­spre­chend aus­fal­len – mit al­len ethi­schen, ar­beits­recht­li­chen und re­pu­ta­ti­ven Pro­ble­men. Für ein sinn­vol­les Risk Ma­nage­ment, das auf Resi­li­enz un­ter Nut­zung von Ent­wick­lungs­chan­cen durch KI aus­ge­legt ist und die Re­pu­ta­ti­on des Un­ter­neh­mens da­bei nach­hal­tig schützt, müs­sen Da­ten­schutz, Ar­beits­recht und ethi­sche As­pek­te zu­sam­men be­trach­tet und pro­ak­tiv an­ge­gan­gen werden.”

Dr. Ines Keitel, Leiterin der deutschen Arbeitsrechtspraxis, Partnerin Arbeitsrecht und Datenschutz, Clifford Chance

Auch im Bereich des automatisierten Fahrens stellt sich die Frage nach ethischen Aspekten hinsichtlich der Abwägung von Entscheidungen – etwa wenn ein Unfall unvermeidlich ist. Die enge Zusammenarbeit von Juristen und Ethikern ist hierbei unumgänglich, da sich aus den ethischen Aspekten wiederum juristischer Handlungsbedarf ergeben kann, etwa im Hinblick auf Haftungsfragen. Gleichzeitig wird der Ruf nach Regulierung immer lauter. Europa hat die Chance, im Rennen um die globale Technologievorherrschaft eine Vorreiterrolle im vertrauensvollen, ethischen Einsatz von KI einzunehmen.

Über die Studie

Das Marktforschungsinstitut MoWeb hat für die Studie “Talking Tech: Connecting Digital and Law” 203 Manager und Führungskräfte aus allen Branchen befragt. Die Umfrage fand im Zeitraum Juni bis August 2019 statt und wurde im Auftrag von Clifford Chance erstellt. Die umfassenden Studienergebnisse finden Sie unter: https://publikationen.cliffordchance.com/digitalisierung/tech-studie/.