Schatten-KI – das unterschätzte Risiko: Robuste KI-Governance notwendig

Immer mehr deutsche Wissens­arbeiter nutzen KI-Tools, die nicht von ihrem Arbeitgeber/Unternehmen freigegeben sind – Schatten-KI. Doch nicht vom Unternehmen bereitgestellte KI-Tools können für diese ein erhebliches Risiko darstellen, warnen Fachleute. Eine Implementierung einer robusten KI-Governance ist dringend notwendig.

von Prof. Dr. Marco Barenkamp, LMIS AG

Laut der aktuellen Studie „Chasing Shadows – Getting Ahead of Shadow AI“ der Software AG (Download), für die über 6.000 Wissensarbeiter aus den USA, Großbritannien und Deutschland befragt wurden, soll mehr als die Hälfte aller Mitarbeiter solche sogenannte „Schatten-KI“ nutzen.

Wie die Studie zeigt, sind persönliche KI-Tools für viele Mitarbeiter so wertvoll, dass sie sich weigern würden, diese Hilfsmittel aufzugeben, selbst wenn ihr Unternehmen sie komplett verböte. So äußerte sich immerhin rund die Hälfte der für die Untersuchung Befragten: global 46 Prozent, in Deutschland sogar 49 Prozent. Dies sei ein deutliches Signal an die Unternehmen, dass sie robustere und umfassendere KI-Strategien benötigen, um zu verhindern, dass sie ihr Unternehmen erheblichen Risiken aussetzen, kommentieren die Verfasser der Studie.

Wenn 2023 ein Jahr der Experimente war, wird 2024 als das Jahr definiert, in dem sich GenAI (Generative Künstliche Intelligenz, d. Red.) durchsetzt.“

Steve Ponting, Direktor Software AG

Während heute 75 Prozent der Wissensarbeiter KI nutzen, wird diese Zahl in naher Zukunft auf 90 Prozent steigen, ist Ponting überzeugt. Denn die KI hilft, Zeit zu sparen (83 Prozent), die Arbeit der Mitarbeiter zu erleichtern (81 Prozent) und die Produktivität zu verbessern (71 Prozent).

Risiko durch Schatten-KI

Mit der zunehmenden Nutzung steigt allerdings auch das Risiko von Cyberangriffen, Datenverlusten oder der Nichteinhaltung von Vorschriften. „Daher müssen die Verantwortlichen in den Unternehmen einen Plan dafür haben, bevor es zu spät ist,“ warnt Ponting.

KI-Governance: Vertrauen fördern und Risiken reduzieren

Doch worum geht es hierbei eigentlich genau? Unter KI-Governance werden die Strukturen, Richtlinien und Prozesse zusammengefasst, die sicherstellen, dass KI-Systeme ethisch, transparent und gesetzeskonform entwickelt und genutzt werden. Es handelt sich dabei um ein umfassendes Rahmenwerk, das alle relevanten technischen, rechtlichen und organisatorischen Aspekte der KI-Implementierung abdeckt.

Governance ist erforderlich, um Vertrauen zu fördern, Risiken zu reduzieren und sicherzustellen, dass die KI-Systeme in einer Weise betrieben werden, die den Unternehmenszielen entspricht“

Demnach basiert eine effektive KI-Governance auf drei wesentlichen Mechanismen, die gewährleisten, dass der Einsatz im Unternehmen verantwortungsvoll, sicher und zielgerichtet erfolgt: strukturellen, prozeduralen und relationalen Mechanismen. Die strukturellen Maßnahmen umfassen alle organisatorischen Strukturen und Rollen, die erforderlich sind, um den Einsatz von KI zu steuern und zu überwachen. Hierzu zählt etwa die Einrichtung eines speziellen Teams oder einer Abteilung, welche sich mit sämtlichen Aspekten der KI befasst – etwa in Form der Einführung der Position eines AI Risk Managers.

Zu den prozeduralen Mechanismen gehören alle Prozesse und Richtlinien, die den Lebenszyklus von KI-Systemen steuern. Als ein gutes Beispiel für solche Mechanismen kann die Einführung standardisierter Entwicklungsprozesse gelten. Relationale Mechanismen schließlich sollen die Zusammenarbeit und den Wissenstransfer zwischen verschiedenen Abteilungen und externen Interessengruppen fördern. In der Praxis bedeutet dies, dass Teams aus unterschiedlichen Bereichen wie IT, Recht, Marketing und Vertrieb zusammenarbeiten, um sicherzustellen, dass KI-Systeme nicht isoliert, sondern als integraler Bestandteil des gesamten Unternehmens entwickelt werden.

Schatten-KI macht AI Risk Managers notwendig

Die Rolle des AI Risk Managers ist eine wesentliche Figur im Governance-Modell eines Unternehmens. Sein Hauptverantwortungsbereich umfasst die Identifizierung, Bewertung und Entwicklung von Strategien zur Risikominderung. Der AI Risk Manager stelle sicher, dass KI-Systeme verantwortungsvoll eingesetzt werden, konkretisiert der KI-Experte. Ferner gehört zu den Aufgaben des AI Risk Managers, die Einhaltung interner und externer Vorschriften zu überwachen. Dazu zählen dann auch die Vorgaben zur Nutzung von KI-Tools – oder andersherum zur Minimierung der Risiken durch Schatten-KI.

Eine effektive KI-Governance basiere auf einem klaren Verantwortungsbewusstsein, einer umfassenden Schulung und Fortbildung, der kontinuierlichen Anpassung an neue Entwicklungen und einer innovationsfreundlichen Unternehmenskultur. Dies beinhaltet ebenfalls, dass das Sicherheitsbewusstsein von Mitarbeitern aus- und weitergebildet wird, speziell auch in Bezug auf die Verwendung von eigenen, von der Firmenleitung nicht akzeptierten KI-Tools.

Die Studie „Chasing Shadows – Getting Ahead of Shadow AI“ können Sie hier als PDF herunterladen.Prof. Dr. Marco Barenkamp, LMIS AG/aj