Was darf KI, was darf KI nicht? Spätestens seit den Debatten um ChatGPT wird diese Frage breit diskutiert. Mit dem weltweit ersten Gesetz über Künstliche Intelligenz soll eine Antwort auf diese Frage gefunden werden. Das Europäische Parlament hat heute seine Position zu dem Vorschlag für ein Gesetz über künstliche Intelligenz beschlossen. Mit dem neuen KI-Gesetz soll ein allgemeines Verbot von Gesichtserkennung in Echtzeit kommen.

Angelika Niebler, oberbayerische CSU-Europaabgeordnete, kritisiert dieses Verbot:

„Wir müssen die Risiken von KI beherrschen, dürfen aber auf keinen Fall durch eine Überregulierung die Chancen und Vorteile von KI verpassen. Dazu gehört auch, dass Künstliche Intelligenz etwa beim Aufspüren vermisster Kinder oder auch zur Terrorismusbekämpfung und der Aufklärung schwerer Straftaten genutzt werden kann. Es ist falsch, dass die neuen KI-Regeln dies nicht zulassen. Leider haben Grüne, Sozialdemokraten und breite Teile der Liberalen für ein solches Verbot gestimmt.“

Neben dem Verbot von Echtzeit-Gesichtserkennung sollen Verpflichtungen für Anbieter sowie Nutzerinnen und Nutzer von KI kommen, die sich nach dem Grad des Risikos der KI richten. Für Betreiber von KI-Systemen mit einem minimalen Risiko, wie KI-gestützten Videospielen, entstehen keine Verpflichtungen. Weitreichende Pflichten kommen jedoch für Anbieter und Nutzer hochriskanter KI-Systeme: Im Rahmen eines Qualitäts- und Risikomanagementsystems müssen Anbieter und Nutzer die bekannten und vorhersehbaren Risiken, die von jedem Hochrisiko-KI-System ausgehen, analysieren und dokumentieren. Außerdem müssen die Trainings-, Validierungs- und Testdatensätze für das Trainieren von KI-Systemen relevant, repräsentativ, fehlerfrei und vollständig sein. Anbieter von KI-Systemen müssen Nutzern eine Vielzahl an Informationen bereitstellen, u.a. zur Zweckbestimmung und dem Maß an Genauigkeit, Robustheit sowie Cybersicherheit der KI.

„Mit dem KI-Gesetz betreten wir Neuland. Unsere Fraktion hat durchgesetzt, dass in sogenannten „Reallaboren“ neue, noch nicht marktreife KI-Systeme erprobt werden können. Diese Reallabore sind wichtig für die Innovationsförderung. Ein angstgetriebener Umgang mit KI, der die Chancen neuer Technologien erstickt, ist wenig zielführend.“, so Angelika Niebler.