Der Einsatz Künstlicher Intelligenz (KI) soll bald schärferen Regeln unterworfen werden. Nach Zustimmung des Rates Anfang Februar haben sich dafür am Mittwoch in Straßburg auch die Abgeordneten des Europaparlaments ausgesprochen und den AI Act verabschiedet. Ziel ist der weltweit erste Regelkatalog für die Anwendung dieser Technik.
"Dieses KI-Gesetz ist unser Versuch, künftige Entwicklungen zu kontrollieren, bevor sie uns kontrollieren", sagte Grünen-Abgeordnete Sergey Lagodinsky im Parlament. Der Digitalexperte gab zu, dass das jetzige Gesetz schwächer sei als die Regulierung, die sich viele EU-Parlamentarier ursprünglich gewünscht hatten. Und doch sei es besser als gar keine Regulierung, als ein "Wilder Westen KI".
Im Zentrum steht dabei die Einteilung der KI in vier verschiedene Risikoklassen. Je höher die potenziellen Gefahren einer Anwendung sind, desto höher sollen die Anforderungen sein. Thierry Breton, EU-Kommissar für Binnenmarkt, sprach am Dienstag in Straßburg von einem "historischen Gesetz", denn zum ersten Mal werde versucht, den Einsatz von Künstlicher Intelligenz zu regeln. Das Europaparlament soll das KI-Gesetz am Mittwoch absegnen.
Weder Social Scoring noch Echtzeit-Überwachung
Ganz verboten werden sollen etwa Sozialkredit-Systeme, die Menschen nach ihrem sozialen Verhalten bewerten und das Fehlverhalten von Bürgern analysieren könnten. Auch "biometrische Echtzeit-Fernidentifizierungssysteme", die Gesichts- und Profilerfassungen von Bürgern an öffentlichen Orten ermöglichen könnten, sollen grundsätzlich untersagt werden.
Dazu werden allerdings auch Ausnahmen formuliert. So dürfen Sicherheitsbehörden KI-gesteuerte Gesichtserkennung nutzen, wenn eine richterliche Anordnung vorliegt. Auch bei der Fahndung nach Verurteilten oder Verdächtigen schwerer Straftaten kann die Technologie in Ausnahmefällen eingesetzt werden. Die Außerdem darf die Polizei die Gesichtserkennung zur "Verhinderung einer konkreten und akuten Terrorgefahr" nutzen.
Eine Gruppe von 16 zivilgesellschaftlichen Organisationen, darunter zum Beispiel Algorithmwatch, warnte anlässlich der Ausnahmen am Dienstag in einem gemeinsamen Schreiben vor "dystopischen Verhältnissen", in denen jeder Mensch bei jeder Bewegung im öffentlichen Raum permanent identifizierbar und überwachbar würde. Weiter forderten die Organisationen den Bundestag auf, "sich für den Schutz der Menschen in Deutschland und das Recht auf ein Leben frei von Massenüberwachung und Kontrolle einzusetzen." Die Mitgliedstaaten dürfen in der Umsetzung des KI-Gesetzes zudem auf nationaler Ebene eigene Vorschriften erlassen und damit auf die Ausgestaltung des Regelwerks Einfluss nehmen.
Empfohlener redaktioneller Inhalt
An dieser Stelle finden Sie einen von unseren Redakteuren ausgewählten, externen Inhalt, der den Artikel für Sie mit zusätzlichen Informationen anreichert. Sie können sich hier den externen Inhalt mit einem Klick anzeigen lassen oder wieder ausblenden.
Ich bin damit einverstanden, dass mir der externe Inhalt angezeigt wird. Damit können personenbezogene Daten an Drittplattformen übermittelt werden. Mehr Informationen dazu erhalten Sie in den Datenschutz-Einstellungen. Diese finden Sie ganz unten auf unserer Seite im Footer, sodass Sie Ihre Einstellungen jederzeit verwalten oder widerrufen können.
Sehr genau geregelt ist der Einsatz von KI in Unternehmen. So dürfen Arbeitgeber die Technik nicht benutzen, um die Gefühle ihrer Beschäftigten zu erfassen. Sie ist zudem verboten, um Menschen gegen ihren Willen zu beeinflussen. Betroffene dürfen durch die Nutzung zudem nicht etwa wegen ihres Alters, einer Behinderung oder ihrer finanziellen Situation benachteiligt werden.
Bei Verstößen drohen Strafen in Millionenhöhe
EU-Kommissar Breton betonte in Straßburg ausdrücklich, dass durch das Gesetz auch der Einsatz der KI etwa in den sozialen Medien geregelt sei. Es muss in Zukunft klar gekennzeichnet sein, wenn Texte, Bilder oder Videos auf Künstlicher Intelligenz beruhen. Das gilt vor allem für Beiträge in Online-Plattformen wie Facebook, Instagram oder X. Damit sollen sogenannte Deepfakes verhindert werden. "Das gilt auch schon für die kommenden Wahlen", unterstrich der Franzose.
Zudem seien die Regelungen keine unverbindlichen Vorgaben, wie sie bereits in anderen Ländern bestünden, sagte Breton. Bei Verstößen gegen das KI-Gesetz drohen Strafen in Millionenhöhe. Für den Einsatz einer verbotenen Technologie kann die EU-Kommission Zahlungen von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes eines Unternehmens verlangen.
Überwachung der Umsetzung kompliziert
Kritik an dem geplanten Gesetz kommt vor allem aus der Industrie. Deren Vertreter äußern die Sorge, dass die Entwicklung neuer KI-Anwendungen ausgebremst werden. Europäische Unternehmen könnten dadurch Nachteile im Wettbewerb mit der Konkurrenz aus den USA und aus China haben, warnte etwa der Bundesverband der Deutschen Industrie. Mehrere europäische Regierungen fürchteten etwa um den Fortschritt von Start-ups wie Aleph Alpha aus Deutschland und Mistral AI in Frankreich.
Empfohlener redaktioneller Inhalt
An dieser Stelle finden Sie einen von unseren Redakteuren ausgewählten, externen Inhalt, der den Artikel für Sie mit zusätzlichen Informationen anreichert. Sie können sich hier den externen Inhalt mit einem Klick anzeigen lassen oder wieder ausblenden.
Ich bin damit einverstanden, dass mir der externe Inhalt angezeigt wird. Damit können personenbezogene Daten an Drittplattformen übermittelt werden. Mehr Informationen dazu erhalten Sie in den Datenschutz-Einstellungen. Diese finden Sie ganz unten auf unserer Seite im Footer, sodass Sie Ihre Einstellungen jederzeit verwalten oder widerrufen können.
Darauf hingewiesen wird auch, dass nur der Rechtsrahmen geregelt wird, in der Künstliche Intelligenz entwickelt und angewendet werden darf. Komplizierter wird es, die genauen technischen Details auszuarbeiten und danach die Umsetzung der Vorgaben zu überwachen. Der Gesetzgeber muss dabei immer abwägen, welche potenziellen Schadenspotenziale der Einsatz von KI birgt. Ein besonderes Augenmerk wird dabei auf die zentralen Lebensbereiche Gesundheit, Demokratie, Umwelt oder Sicherheit gelegt.
Kritik erhebt auch daran, dass die neuen Regeln erst ab dem Frühjahr 2026 gelten. Bis dahin setzt die Kommission auf freiwillige Absprachen mit den Unternehmen. Angesichts der rasend schnellen Entwicklung in diesem technischen Bereich gehen viele Experten davon aus, dass die EU-Vorgaben in zwei Jahren bereits wieder veraltet sein könnten.