
Einsatz von KI im Risikomanagement
Der Round Table Artificial Intelligence verfolgt das Ziel, Entwicklungen Künstlichen Intelligenz (KI) und seine Chancen und Herausforderungen für das Risikomanagemnt mit Bankpraktikern und KI-Experten zu diskutieren. Angesichts der zunehmenden Bedeutung von KI für Banken und Finanzdienstleister ist es essenziell, Chancen und Risiken dieser Technologie zu verstehen und geeignete Strategien zum Risikomanagement zu entwickeln. Der Round Table hat zwei Diskussionsrunden organisiert und ein Positionspapier zum Thema Künstliche Intelligenz im Modellrisikomanagement erstellt.
Vorstellung des LGD-Challenger-Modells
In der Sitzung am 29. Februar 2024 stellte das Team von Advisense das AI-basierte LGD-Benchmark-Modell vor. Das sogenannte Challenger-Modell verwendet Machine-Learning-Techniken wie XGBoost, um die Genauigkeit von Loss-Given-Default (LGD)-Schätzungen zu verbessern. Das Modell wurde mit über 50 Risikotreibern entwickelt und ermöglichte durch die Segmentierung der LGD-Fälle in verschiedene Kategorien eine präzisere Vorhersage.
Die Tests zeigten, dass durch den Einsatz von KI signifikante Verbesserungen in der Modellentwicklung erzielt werden konnten. Diese Ergebnisse verdeutlichen das Potenzial von KI, neue Risikotreiber zu identifizieren, die mit konventionellen Methoden nicht erkannt werden.
Ein weiterer Schwerpunkt war das Management von Risiken, die durch den Einsatz von KI- und ML-Modellen entstehen. Matthias Fahrenwaldt von der BaFin hob die Herausforderungen hervor, die durch die Komplexität der Modelle und die Abweichung realer Marktbedingungen von Modellannahmen entstehen. Die Diskussion verdeutlichte, dass eine Erweiterung der bestehenden Model-Governance-Rahmen sowie die Entwicklung neuer Validierungsansätze erforderlich ist.
Nutzung unstrukturierter Daten
Im Juni 2024 präsentierten Vahe Andonians und Ara Abrahamyan von Cognaize ihren Ansatz zur Nutzung unstrukturierter Daten durch die Kombination traditioneller KI-Modelle mit generativen LLMs. Dieser Ansatz ermöglicht eine effizientere Nutzung von Informationen aus verschiedenen Quellen wie Jahresberichten und Newsfeeds und bietet erhebliche Vorteile im KI-gestützten Risikomanagement.
Ein zentraler Aspekt der Sitzungen war die Frage, wie KI als transformative Metatechnologie das Risikomanagement verändern kann. Philipp Adamidis von QuantPI betonte, dass die Zentralisierung von AI-Governance und -Testing sowie die Automatisierung von Validierungsprozessen entscheidend sind, um die wachsenden Anforderungen zu bewältigen.
Positionspapier veröffentlicht
Im September 2024 veröffentlichte der Round Table sein Positionspapier zur Künstlichen Intelligenz. Das Papier wurde von Dr. Sebastian Fritz-Morgenthal (Advisense), Philipp Adamidis (QuantPI) und Dr. Jochen Papenbrock (NVIDIA) verfasst und bietet eine umfassende Analyse der regulatorischen Anforderungen sowie der Herausforderungen und Chancen des Einsatzes von KI im Modellrisikomanagement.
Das Positionspapier betont die strengen Anforderungen, die von der EBA, EZB, BaFin und dem EU AI Act gestellt werden. Zu den zentralen Vorgaben zählen:
Transparenz und Nachvollziehbarkeit: KI-Modelle müssen erklärbar und nachvollziehbar sein.
Regelmäßige Validierung: Modelle müssen kontinuierlich überprüft und validiert werden.
Governance: Ein Governance-Rahmen ist erforderlich, der die unabhängige Validierung der Modelle sicherstellt.
Datenqualität: Die verwendeten Daten müssen von hoher Qualität sein.
Proportionalität: Die Anforderungen an die Modelle müssen im Verhältnis zu ihrem Risikopotenzial stehen.
Die Autoren zeigen auf, mit welchen spezifischen Herausforderungen der Einsatz von KI einhergehen:
Komplexität der Modelle: KI-Modelle sind oft schwer nachvollziehbar und erfordern umfangreiche Ressourcen zur Validierung.
Erweiterung des Anwendungsbereichs: KI wird zunehmend in Bereichen wie der Kundenberatung und automatisierten Prozessen eingesetzt, was neue Risiken schafft.
Erklärbarkeit und Transparenz: Die hohen Anforderungen der Regulatoren an die Erklärbarkeit stehen im Konflikt mit der inhärenten Komplexität vieler KI-Algorithmen.
Kontinuierliche Überwachung: Modelle müssen kontinuierlich überwacht und an geänderte Rahmenbedingungen angepasst werden.
Ethik: Banken müssen sicherstellen, dass ihre Modelle keine diskriminierenden Entscheidungen treffen.
Trotz der genannten Herausforderungen bietet der Einsatz von KI erhebliche Chancen. Dazu zählen Effizienzsteigerung, verbesserte Entscheidungsfindung, frühzeitige Risikoerkennung und das nicht zu unterschätzende Innovationspotenzial.
Das komplette Positionspapier finden Sie hier.
Ausblick für das Jahr 2025
Für das kommende Jahr plant der Round Table, folgende Fragen zu diskutieren: Wie wird GenAI im Cyberbereich angewendet und wie verändert sich dadurch das Gefährdungspotenzial? Wie lässt sich die Vertrauenswürdigkeit der Daten für AI-Anwendungen erhöhen? Welche Kriterien gelten für eine funktionale Infrastruktur (Hardware (Hosting, Rechenzentren) und Software), um in der Wertschöpfung mehr Effizienz zu erreichen? Welche Anforderungen müssen mit Blick auf Policy, Procedure und Governance erfüllt werden?