Versicherer sehen EU-Regulierung zu generativer KI kritisch

Der GDV äußert sich in seinem Positionspapier zu zu Basismodellen und Generativer KI für die Trilogverhandlungen zum AI Act positiv zum Vorhaben der europäischen Gesetzgeber, einen rechtlichen Rahmen für den Einsatz von KI zu schaffen. Dieser Rahmen soll Unternehmen Rechtssicherheit bieten und gleichzeitig das Vertrauen der Verbraucher stärken. Die Industrie warnt jedoch vor Wettbewerbsnachteilen und übermäßiger Bürokratie.
Während der ursprüngliche Vorschlag der Europäischen Kommission von 2021 keine speziellen Regelungen für generative KI-Systeme oder Basismodelle enthält, haben sowohl das EP als auch der Rat der EU zusätzliche Vorschriften vorgeschlagen. Diese zielen darauf ab, die Besonderheiten dieser KI-Systeme zu berücksichtigen und die Verantwortlichkeiten unter den verschiedenen Akteuren fair zu verteilen.
Die Vorschläge von EP und Rat unterscheiden sich in ihren Schwerpunkten. Während der Rat den Begriff „KI-Systeme mit allgemeinem Verwendungszweck“ verwendet und definiert, konzentriert sich das EP auf sogenannte Basismodelle („Foundation Models). Beide Vorschläge klassifizieren die KI-Systeme nicht automatisch als hochriskant, was von der Industrie begrüßt wird. Allerdings werden Bedenken hinsichtlich der umfangreichen Compliance-Anforderungen geäußert.
Der GDV betont die Notwendigkeit einer ausgewogenen und fairen Regulierung und warnt vor einer übereilten Gesetzgebung, die weder den Verbrauchern noch den Unternehmen nützt, und plädiert für einen proportionalen Ansatz, der die unterschiedlichen Voraussetzungen und Reifegrade der KI-Systeme berücksichtigt. Besondere Aufmerksamkeit wird der gerechten Verteilung der Verantwortlichkeiten zwischen den Anbietern und Nutzern von KI-Systemen in hochriskanten Kontexten gewidmet.
Darüber hinaus werden Fragen zur Umsetzbarkeit der Data-Governance-Anforderungen, zur Einbeziehung unabhängiger Experten und zur Berücksichtigung der Besonderheiten von Open-Source-Software aufgeworfen. Der GDV betont die Bedeutung einer sorgfältigen Folgenabschätzung und warnt vor möglichen Engpässen und Kostenexplosionen durch die Hinzuziehung externer Experten.