Künstliche Intelligenz im Firmenkundengeschäft: Retrieval-Augmented Generation (RAG) kommt

Das Firmenkundengeschäft von heute: Ein Paradoxon. Institute sitzen auf einem Datenschatz ungeahnten Ausmaßes, doch in vielen Prozessen wie beispielsweise der Bilanzanalyse herrschen oft noch Methoden vor, die technisch an das letzte Jahrtausend erinnern. Während Tech-Konzerne mit KI-gestützten Systemen ganze Industrien umkrempeln, verlassen sich Banken im Firmenkundengeschäft weiterhin auf veraltete Analysemethoden und manuelle Prozesse. Doch das muss nicht so bleiben. Retrieval-Augmented Generation (RAG) steht bereit, die Bilanzprüfung zu revolutionieren und Banken aus der Steinzeit der Datenanalyse ins digitale Zeitalter zu katapultieren.

von Alex Bierhaus, ABTree und Dr. Nico Peters, Geschäftsführer von Fintriq

Der Fokus auf die Digitalisierung ist im Firmenkundengeschäft unumgänglich, die Transformation verläuft jedoch wie in vielen anderen Bereichen zögerlich. Künstliche Intelligenz wirkt hier als neuer Treiber und gibt dem Thema in vielen Instituten frischen Rückenwind.

Experten sind sich einig, dass zukünftig neben dem Risikomanagement auch die Vertriebsbereiche stark von KI-Entwicklungen profitieren werden.”

Die möglichen Anwendungsfelder sind dabei sehr breit und reichen von Marketing- und Kundenanalysen bis hin zu Prozessautomatisierung und digitalen Assistenten (“Agentic AI”) sowie regulatorischen Anforderungen zum Beispiel um ESG-Umfeld.

LLMs und RAG im Detail: Wissen erweitern, Antworten verbessern

RAG basiert auf zwei Hauptkomponenten: Large Language Models (LLMs) und Retrieval-Mechanismen. Large Language Models (LLMs) haben in den letzten Monaten enorme Fortschritte gemacht. Sie bilden die Grundlage für intelligentes Textverstehen und können menschenähnlichen Text generieren, übersetzen und zusammenfassen. Ihre Fähigkeit, komplexe Zusammenhänge zu erkennen, macht sie wertvoll für die Automatisierung im Firmenkundengeschäft, etwa bei der Beantwortung von Kundenanfragen oder der Analyse von Verträgen. LLMs stoßen jedoch an Grenzen, da ihr Wissen auf Trainingsdaten basiert, die nicht immer aktuell oder spezifisch genug für Finanzfragen sind. Zudem können sie “halluzinieren” und falsche Informationen generieren. Hier setzt RAG an:

Retrieval-Augmented Generation erweitert LLMs, indem es ihnen ermöglicht, auf externe, aktuelle Wissensquellen zuzugreifen und diese in ihre Antworten zu integrieren.”

RAG in der Praxis: Der technische Prozess und seine Vorteile

Der technische Workflow von RAG-Systemen im Finanzkontext lässt sich als mehrstufiger Prozess beschreiben, der die Leistungsfähigkeit von Large Language Models (LLMs) mit der Präzision spezialisierter Retrieval-Mechanismen kombiniert.

1.Anfrage und Kontextanalyse: Der Prozess beginnt mit einer Benutzeranfrage, die typischerweise in natürlicher Sprache formuliert wird. Diese Anfrage kann eine spezifische Frage zu einem Unternehmen, einer Bilanzposition, einem Branchenvergleich oder einer regulatorischen Anforderung sein. Das RAG-System analysiert zunächst den Kontext der Anfrage, um relevante Entitäten, Beziehungen und Schlüsselbegriffe zu identifizieren.

2.Retrieval: Die entscheidende Auswahl der Informationsquellen:

Das Herzstück von RAG ist der Retrieval-Mechanismus.”

Er hat die Aufgabe, die relevantesten Dokumente und Daten aus einer Vielzahl von potentiellen Quellen zu identifizieren und zu extrahieren. Die Wahl des Retrieval-Mechanismus ist entscheidend für die Qualität und Relevanz der Ergebnisse und hängt stark von der Art der zu durchsuchenden Daten ab.

3.Augmentation: Kontextanreicherung des LLMs: Die vom Retrieval-Mechanismus extrahierten Informationen werden dem LLM zusammen mit der ursprünglichen Benutzeranfrage übergeben. Dies geschieht häufig durch die Integration der Informationen in den Prompt des LLM oder durch spezielle Attention-Mechanismen, die das LLM auf die relevanten Textpassagen fokussieren.

4.Generierung der Antwort: Der LLM nutzt nun sein vortrainiertes Wissen und die zusätzlichen kontextspezifischen Informationen, um eine fundierte Antwort zu generieren. Der LLM ist in der Lage, die externen Informationen zusammenzufassen, zu paraphrasieren, in Beziehung zu setzen und Schlussfolgerungen zu ziehen.

Durch die Kombination von präzisem Retrieval und den generativen Fähigkeiten des LLM erreicht RAG im Finanzkontext eine deutlich höhere Genauigkeit, Aktualität und Relevanz der Antworten im Vergleich zu herkömmlichen Systemen.”

Im Firmenkundengeschäft ermöglicht dies eine tiefere und umfassendere Analyse der finanziellen Situation von Unternehmen unter Berücksichtigung aller relevanten Faktoren.

Anwendungsfall Bilanzanalyse: Revolutionierung eines Kernprozesses

Ein besonders interessanter Anwendungsfall für KI im Allgemeinen und RAG im Speziellen ist die Bilanzanalyse. Die Analyse von Jahresabschlüssen ist ein Kernprozess bei der Kreditvergabe und -überwachung, aber oft zeit- und kostenintensiv.

Der Weg zur KI-gestützten Bilanzanalyse beginnt mit der Digitalisierung der Jahresabschlüsse, die in der Praxis häufig in unterschiedlichsten Formaten – von PDFs über eingescannte Papierdokumente bis hin zu Faxen – vorliegen.”

Eine einfache optische Zeichenerkennung (OCR) reicht hier bei weitem nicht aus. Vielmehr sind hochentwickelte Systeme gefragt, die mittels Document Layout Analysis die Struktur der Dokumente – Tabellen, Überschriften, Textblöcke – intelligent erfassen und interpretieren. Named Entity Recognition (NER), häufig auf Basis vortrainierter Large Language Models (LLMs) oder spezialisierter Modelle für den Finanzbereich, identifiziert und klassifiziert Schlüsselinformationen wie Bilanzpositionen (“Umsatz”, “Forderungen”, “Verbindlichkeiten”), Unternehmensnamen, relevante Daten und Währungen.

Ein kritischer und oft unterschätzter Schritt ist die Datenvalidierung.”

Die extrahierten Daten müssen auf Plausibilität geprüft, bereinigt und von OCR-Fehlern befreit werden, bevor sie für weitere Analysen verwendet werden können. Dies geschieht durch regelbasierte Systeme und Algorithmen, die beispielsweise Summenabgleiche durchführen oder die Daten mit Vorjahreswerten vergleichen.

Moderne Bilanzanalysesoftware bietet zwar bereits gewisse Automatisierungsfunktionen wie die Berechnung vordefinierter Kennzahlen, doch stoßen diese Systeme oft an ihre Grenzen.”

Sie sind zwar in der Lage, Zahlen zu extrahieren, können aber den Kontext der Informationen, die in den Erläuterungen und Lageberichten enthalten sind, nur unzureichend erfassen. Zudem sind sie häufig auf starre Analyseraster beschränkt und bieten wenig Flexibilität für individuelle, ad-hoc Fragestellungen, die im Tagesgeschäft eines Analysten jedoch unerlässlich sind. Hier setzt die eigentliche Revolution an: RAG-Systeme.

RAG-Systeme, kombiniert mit einer intuitiven Chat-Oberfläche und angebundenen Bilanzdatenbanken, heben die Bilanzanalyse auf ein völlig neues Niveau.”

Der Analyst wird vom Datensammler und -aufbereiter zum Dirigenten des Analyseprozesses. Statt sich durch komplexe Menüs und starre Formulare zu kämpfen, kann er Fragen in natürlicher Sprache stellen, als spräche er mit einem erfahrenen Kollegen. Zum Beispiel: “Wie hat sich die Eigenkapitalquote von Unternehmen XY im Vergleich zum Branchendurchschnitt in den letzten drei Jahren entwickelt?” oder “Zeigen Sie mir die größten Risikopositionen in der Bilanz von Unternehmen Z und analysieren Sie die wesentlichen Treiber” oder “Welchen Einfluss hatten die gestiegenen Rohstoffpreise auf die Profitabilität und Liquidität von Unternehmen Y im Vergleich zu seinen Hauptwettbewerbern?”.

Im Hintergrund arbeitet das RAG-System: Das LLM analysiert die Fragestellung, identifiziert die relevanten Entitäten (Unternehmen, Kennzahlen, Zeiträume, Branchen) und bestimmt die Art der Abfrage (Vergleich, Trendanalyse, Ursachenforschung etc.). Der Retrieval-durchsucht die angeschlossenen Datenquellen. Die relevanten Informationen aus diesen Quellen werden dem LLM zusammen mit der ursprünglichen Fragestellung präsentiert (Augmentation). Das LLM generiert dann eine fundierte, kontextbezogene Antwort – und das ist der entscheidende Punkt. Es liefert nicht nur nackte Zahlen, sondern auch Erklärungen, Interpretationen, mögliche Risikohinweise und Vergleiche. Die Antwort wird dem Analysten in der Chat-Oberfläche präsentiert, oft ergänzt durch aussagekräftige Visualisierungen (Diagramme, Tabellen) und direkte Links zu den relevanten Quelldokumenten, um eine vertiefte Analyse zu ermöglichen.

Dieser Ansatz bietet einen kaum zu überschätzenden Effizienzgewinn:

Was früher Stunden oder Tage manueller Arbeit erforderte, wird nun in Minuten oder gar Sekunden erledigt.”

Gleichzeitig werden die Entscheidungen fundierter, da dem Analysten ein breiteres Spektrum an Informationen zur Verfügung steht. Das LLM ist in der Lage, Zusammenhänge zu erkennen, die einem menschlichen Analysten in der begrenzten Zeit und mit den herkömmlichen Mitteln möglicherweise entgangen wären. Schließlich ermöglicht die natürliche Sprachinteraktion individuelle Auswertungen, die weit über starre Analyseraster hinausgehen.

Doch die Revolution hört nicht bei der Analyse auf. Auch der oft mühsame Prozess der Dokumentenanforderung kann durch KI automatisiert werden.

Regelbasierte Systeme und Machine-Learning-Modelle identifizieren fehlende oder veraltete Dokumente und fordern diese automatisch beim Kunden an.”

Dadurch wird der gesamte Kreditprozess erheblich beschleunigt und der manuelle Aufwand auf ein Minimum reduziert. RAG-Systeme sind damit nicht nur ein weiteres Softwaretool, sondern ein Paradigmenwechsel in der Bilanzanalyse. Sie verwandeln einen traditionell manuellen, zeitaufwändigen und oft fehleranfälligen Prozess in einen effizienten, KI-gesteuerten Workflow, der nicht nur schneller und präziser, sondern auch aussagekräftiger ist.

Erfolgsfaktoren und Fazit: Potenzial und Herausforderungen im Blick

Die Euphorie rund um KI und RAG ist berechtigt, aber eine erfolgreiche Implementierung erfordert mehr als nur Technologie. Die technische Infrastruktur, die Integration in bestehende Systeme, die Akzeptanz der Mitarbeiter und die Einhaltung regulatorischer Vorgaben (z.B. EU AI Act) sind entscheidende Erfolgsfaktoren.

Die Umstellung auf KI-fähige Systeme, die Schulung der Mitarbeiter und die Berücksichtigung von Datenschutz und Ethik sind unerlässlich.”

Trotz dieser Herausforderungen sind KI und RAG wesentliche Innovationstreiber mit enormem Potenzial für das Firmenkundengeschäft. Erste Proof of Concepts zeigen vielversprechende Ergebnisse und es ist davon auszugehen, dass RAG in Zukunft eine zentrale Rolle bei der Digitalisierung und Effizienzsteigerung im Bankensektor spielen wird.Alex Bierhaus, ABTree, und Dr. Nico Peters, Fintriq