IBM will “Black Box” der KI öffnen: Transparente KI – auch für die Finanzbranche

IBM stellte heute eine neue Tech­no­lo­gie vor, die mehr Transparenz in den Bereich der Künstlichen Intelligenz (KI) bringen soll. Die Software zeigt in Echtzeit auf welcher Grundlage Ent­schei­dungs­vor­schläge zustande kommen und erkennt automatisch quantitative und qualitative Mängel in Daten und KI-Modellen. Das dürfte den Anforderungen an eine “transparente” KI entgegenkommen. 

Die neue Technologie laufe auf der IBM Cloud und soll Unternehmen helfen, KI-Systeme für eine große Bandbreite an Branchen und Kunden nutzbar zu machen, indem sie Vertrauen in die Qualität der Entscheidungsvorschläge schafft. Zusätzlich übergibt IBM Research ein KI-Toolkit zur Erkennung von systematischen Fehlern und Anpassung an die Open-Source-Community. Damit soll der weltweite Austausch und die Zusammenarbeit zur Entwicklung von vorurteilsfreien KIs gefördert werden.

IBM hat bei der Festlegung von Vertrauens- und Transparenzgrundsätzen für die Entwicklung neuer KI-Technologien Maßstäbe für die ganze Industrie gesetzt. Es ist an der Zeit, diesen Prinzipien auch Taten folgen zu lassen. Wir geben den Unternehmen, die KI einsetzen und dem potenziellen Risiko durch fehlerhafte Entscheidungen ausgesetzt sind, neue Transparenz und Kontrolle.”

David Kenny, SVP of Cognitive Solutions IBM

Rund 82 Prozent der Unternehmen streben eine KI-Einführung an, 60 Prozent befürchten Probleme mit der Verlässlichkeit der Technologie. Und 63 Prozent haben nicht die Mitarbeiter im Haus, um die Technik sicher zu managen.

Entscheidungen der Künstlichen Intelligenz sichtbar machen

Die neue Software in der IBM Cloud arbeitet mit Modellen, die sich aus einer Vielfalt von Frameworks für maschinelles Lernen und KI-Umgebungen wie Watson, Tensorflow, SparkML, AWS SageMaker und AzureML zusammensetzen. Somit profitieren Unternehmen von den Kontrollmöglichkeiten für die meistverbreiteten KI Frameworks. Man könne damit aber auch die Entscheidungsgrundlagen von jedem Workflow überwachen. Die Software lasse sich an die individuellen Bedürfnisse der Unternehmen anpassen.

Der voll­au­to­ma­ti­sier­te Soft­ware-Ser­vice er­klä­re die Ent­schei­dungs­fin­dung durch KI wäh­rend der Ver­ar­bei­tung. So wür­den po­ten­zi­el­le Män­gel in Quan­ti­tät oder Qua­li­tät der dem Sys­tem zur Ver­fü­gung ge­stell­ten Da­ten oder nicht ba­lan­cier­te Er­geb­nis­se von vorn­her­ein ver­mie­den. Die Soft­ware emp­feh­le ge­ge­be­nen­falls au­to­ma­tisch, dem Mo­dell mehr Da­ten hin­zu­zu­fü­gen, um An­pas­sun­gen vor­zu­neh­men.

Die Erklärungen sind einfach zu verstehen und zeigen alle Faktoren klar auf, die Entscheidungen der KI in die eine oder andere Richtung beeinflusst haben und wie vertrauenswürdig der Vorschlag ist. Die Datengrundlagen zur Treffsicherheit, Ausführung und Fairness und die Herkunft des jeweiligen KI-Modells werden aufgezeichnet. So können Kundenservice oder Compliance-Verantwortliche jederzeit Einsicht nehmen, was auch für die europäische Datenschutzrichtlinie DSGVO wichtig ist.

Es seien keine IT-Kenntnisse notwendig

Diese Möglichkeiten könnten auch Mitarbeiter ohne IT-Kenntnisse mit Hilfe von visuellen Dashboards nutzen. So können nicht nur spezialisierte KI-Experten nachvollziehen, wie KI-Entscheidungen getroffen werden, was Abhängigkeiten verhindert und mehr Vertrauen schafft. IBM stellt auch neue Beratungsservices zur Verfügung, mit denen Unternehmen ihre eigenen Prozesse und Schnittstellen von Mensch zu KI erstellen können – um systematische Fehler in den Entscheidungsvorschlägen von KI zu minimieren.

KI durch Unterstützung der Open-Source-Community

Zusätzlich übergibt IBM Research das AI Fairness 360 Toolkit an die Open Source Community. Dabei handelt es sich um eine Bibliothek mit neuartigen Algorithmen, Codes und Tutorials. Mit dieser Hilfe bekommen Akademiker, Forscher und Datenexperten das Wissen und die Fähigkeiten, Verzerrungen eliminieren zu können, während sie an Modellen zum maschinellen Lernen arbeiten. Andere Open-Source-Quellen haben sich nur auf die Entdeckung von Verzerrungen in Trainingsdaten konzentriert. Das IBM AI Fairness 360 Toolkit könne systematische Fehler in KI-Modellen aufdecken und vermeiden helfen. Die weltweite Open-Source-Community ist eingeladen, gemeinsam daran zu arbeiten, die Wissenschaft voranzubringen und Verzerrungen in der KI zu adressieren.

Studie zeigt Prioritäten und Probleme bei KI-Entwicklungen

Laut einer von IBM gerade erst veröffentlichten Studie unter 5.000 Führungskräften – dem IBM Institute for Business Value AI 2018 Report  (im Anhang) – gibt es einen signifikanten Richtungswechsel. Und zwar betrifft das den Blick der Entscheidungsträger in der Industrie auf die Potenziale von KI und ihren Beitrag zur Wertschöpfung. Die Ergebnisse im Überblick:

1. 82 Prozent der Unternehmen und 93 Prozent der hoch performanten Unternehmen überlegen gezielt KI einzuführen, um mehr Umsatz zu erzielen.
2. 60 Prozent befürchten Probleme mit der Verlässlichkeit und 63 Prozent haben nicht das nötige Wissen, um KI voll nutzen zu können.
3. CEOs vermuten den größten Gewinn einer KI-Adaption in der IT, Informationssicherheit, bei Innovationen, dem Kundenservice und im Risikomanagement.
4. KI wird in zunehmend digitalisierten Branchen eher forciert, wie zum Beispiel in der Finanzbranche.
Das Whitepaper “EnterpriseGradeAI” kann hier heruntergeladen werden.aj