Schwerpunkte aufsichtlicher Prüfungen für maschinelles Lernen

Die BaFin veröffentlicht die Präsentation „Schwerpunkte aufsichtlicher Prüfungen für maschinelles Lernen“ zum Vortrag von Dr. Peter Heise, Allianz Versicherungs-AG, Dr. Matthias Fahrenwaldt, BaFin und Stefan Nohl, BaFin bei der BaFinTech 2023.
Die Autoren weisen darauf hin, dass der Einsatz von KI und ML im Finanzsektor stark zunimmt. Versicherer nutzen KI/ML entlang der gesamten Wertschöpfungskette, von der Produktentwicklung bis zum Schaden- und Beschwerdemanagement. Generative KI ermöglicht zudem die Analyse großer Mengen unstrukturierter Daten.
Abbildung 1: Der Einsatz von KI/ML im Finanzsektor ist entlang der gesamten Wertschöpfungskette möglich – zumeist in unterstützender Funktion

Im Folgenden sind drei Thesen zum aufsichtlichen Umgang mit KI/ML bei Versicherern aufgestellt:
1. Es wird eine proaktive Auseinandersetzung der Unternehmen mit KI/ML erwartet bezüglich Risikoappetit, Governance und Kernfunktionen.
2. Implikationen für den Verbraucherschutz sind bei KI/ML in kundenrelevanten Prozessen zu prüfen, nicht nur Datenschutz.
3. Entwicklung und Betrieb von KI/ML müssen regulatorischen Vorgaben genügen, eine „Sandbox“ gibt es nicht.
Gleichzeitig betont die Präsentation, dass KI/ML-Anwendungen andere Eigenschaften als klassische IT haben. Daher schlagen sie regulatorische Prüfungen auf Portfolio-Ebene sowie freiwillige Branchenstandards vor. Ein gemeinsamer Lernprozess zwischen Aufsicht und Versicherern ist angeraten.