Was darf KI, was darf KI nicht? Spätestens seit den Debatten um ChatGPT wird diese Frage breit diskutiert. Mit dem weltweit ersten Gesetz über Künstliche Intelligenz durch die EU soll hierauf eine Antwort gefunden werden. Um die Inhalte wurde in den letzten 18 Monaten in den Ausschüssen und im Plenum hart gerungen, das gebe ich offen zu.

Nicht in allen Punkten konnte sich unsere Fraktion durchsetzen: Mit dem neuen KI-Gesetz soll jetzt leider auch ein allgemeines Verbot von Gesichtserkennung in Echtzeit kommen. Das halte ich für falsch. Wir müssen die Risiken von KI beherrschen, dürfen aber auf keinen Fall durch eine Überregulierung die Chancen und Vorteile von KI verpassen. Dazu gehört auch, dass Künstliche Intelligenz etwa beim Aufspüren vermisster Kinder oder auch zur Terrorismusbekämpfung und der Aufklärung schwerer Straftaten genutzt werden kann. Leider haben Grüne, Sozialdemokraten und breite Teile der Liberalen für ein pauschales Verbot gestimmt.

Im KI-Gesetz wird zwischen risikoarmen bis hin zu verbotenen KI-Technologien unterschieden. Die Verpflichtungen für Anbieter sowie Nutzerinnen und Nutzer von KI richten sich nach dem Grad des Risikos. Für Betreiber von KI-Systemen mit einem minimalen Risiko, wie zum Beispiel KI-gestützten Videospielen, entstehen keine Verpflichtungen. Weitreichende Pflichten kommen jedoch auf Anbieter und Nutzer hochriskanter KI-Systeme zu: Im Rahmen eines Qualitäts- und Risikomanagementsystems müssen sie die bekannten und vorhersehbaren Risiken analysieren und dokumentieren. Außerdem müssen die Trainings-, Validierungs- und Testdatensätze für das Trainieren von KI-Systemen relevant, repräsentativ, fehlerfrei und vollständig sein. Anbieter von KI-Systemen müssen Nutzern eine Vielzahl an Informationen bereitstellen, u.a. zur Zweckbestimmung und dem Maß an Genauigkeit, Robustheit sowie Cybersicherheit der KI.

Die neuen Vorschriften dürfen Innovationen in KI nicht abwürgen. Denn Europa steht hier im Wettbewerb mit USA und China. Es wäre wenig zielführend, wenn ein übertrieben ängstlicher Umgang mit KI die Chance auf neue Technologien ersticken würde. Deshalb ist es gut, dass unsere Fraktion durchsetzen konnte, dass in sogenannten „Reallaboren“ neue, noch nicht marktreife KI-Systeme erprobt werden können. Diese Reallabore sind wichtig für die Innovationsförderung.

Gesamten Newsletter Juni 2023 lesen…