Ein klarer KI-Rechtsrahmen für Innovation und Vertrauen

In einer Stellungnahme begrüßt der GDV die Bemühungen auf EU-Ebene, einen Regulierungsrahmen für KI zu schaffen. Aus Sicht des GDV sollte die künftige Regulierung Innovationen nicht behindern und den Standort Europa stärken.
Folgende wesentlichen Punkte aus dem Positionspapier des GDV sind zu beachten:
– KI-Definition: Die Definition sollte präzise sein und KI von traditioneller Software abgrenzen. Die KI-Definition sollte das selbstlernende System als Kriterium enthalten, wie vom Rat vorgeschlagen.
– Hochriskante KI-Anwendungen: KI-Anwendungen von Versicherern sollten nicht als hochriskant eingestuft werden. Der bestehende Regulierungsrahmen ist ausreichend. Falls doch aufgenommen, ist der enger gefasste Vorschlag des Parlaments vorzugswürdig.
– Einordnung als hochriskant: Der Kommissionsvorschlag zur Einordnung als hochriskante KI-Anwendung stellt allgemein auf den Anwendungsbereich ab, ohne den konkreten Einsatzzweck zu berücksichtigen, und die Vorschläge des Parlaments und des Rates, das Risiko basierend auf einer Kombination von Faktoren wie Schweregrad und Eintrittswahrscheinlichkeit zu definieren, und die Eigenverantwortung der Anbieter für die Risikobewertung werden begrüßt, obwohl Bedenken hinsichtlich der vorgeschlagenen Wartezeit und möglicher Einschränkungen im Versicherungsbereich bestehen.
– Verbot von Social Scoring: Die für Versicherer wichtige risikoadäquate Prämienberechnung darf nicht unter das Verbot fallen.
– Risikomanagementsysteme: Bereits bestehende Systeme sollten anerkannt werden, ein zusätzliches System verursacht Bürokratie.
– Nutzung von personenbezogenen Daten: Die Erlaubnis zur Nutzung sollte nicht weiter eingeschränkt werden, um KI-Systeme angemessen testen zu können.
– Verweise auf Governance-Regelungen im Versicherungsbereich: Überschneidungen der Pflichten aus KI-VO und z.B. Solvency II sollten vermieden werden.
– Abgrenzung Anbieter/Nutzer: Eine klare trennscharfe Abgrenzung der Verantwortlichkeiten ist für die Rechtssicherheit essenziell.
– Zusätzliche Folgenabschätzung für Nutzer: Der Vorschlag des EU-Parlaments für eine zusätzliche Folgenabschätzung ist abzulehnen.
– BaFin als Marktüberwachungsbehörde: Die Zuständigkeit der BaFin sollte nicht eingeschränkt werden.
– KI-Board/KI-Office: Die Rolle der EU-Kommission sollte gestärkt werden, eine zu starke Erweiterung der Befugnisse des KI-Boards ist abzulehnen.
Darüber hinaus betrachtet der GDV den Vorschlag des Parlaments, eine zusätzliche Bewertung der Auswirkungen von KI-Systemen auf die Grundrechte vorzunehmen, als äußerst bedenklich. Er argumentiert, dass eine solche Pflicht nicht erforderlich sei, da in der Regel bereits eine Bewertung gemäß der DSGVO stattfindet und die Anbieter dieser Applikationen gewährleisten, dass die vorgeschriebenen Regeln eingehalten werden.