Das EU-Parlament gibt grünes Licht für schärfere Regeln für Künstliche Intelligenz (KI) in der Europäischen Union. Die Parlamentarier stimmten am Mittwoch in Straßburg mehrheitlich für das Gesetz. Dies kann nun in Kraft treten.
- Zum Artikel: Europa bekommt ein KI-Gesetz – Aber wie gut ist es?
Nach Angaben des Parlaments handelt es sich um das weltweit erste KI-Gesetz. Der federführende EU-Binnenmarktkommissar Thierry Breton nannte die neuen Regeln "historisch". Demnach sollen KI-Systeme künftig in verschiedene Risikogruppen eingeteilt werden. Je höher die potenziellen Gefahren einer Anwendung sind, desto höher sollen die Anforderungen sein.
Strengere Anforderungen an risikoreiche KI – Auflagen für ChatGPT
Das Gesetz geht auf einen Vorschlag der EU-Kommission aus dem Jahr 2021 zurück. Systeme, die als besonders risikoreich gelten und beispielsweise in kritischen Infrastrukturen oder im Bildungs- und Gesundheitswesen eingesetzt werden, müssen demnach strenge Anforderungen erfüllen.
Bestimmte KI-Anwendungen, die gegen EU-Werte verstoßen, sollen ganz verboten werden. Dazu gehört beispielsweise die Bewertung von sozialem Verhalten ("Social Scoring"). Damit werden die Bürgerinnen und Bürger in China in Verhaltenskategorien eingeteilt. Und auch eine Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen soll es in der EU nicht geben.
Auflagen sind unter anderem für die Gesichtserkennung oder für Text- und Bildprogramme wie ChatGPT vorgesehen. Entwickler sollen mit Künstlicher Intelligenz erzeugte Texte, Töne und Bilder kennzeichnen, um Menschen nicht in die Irre zu führen.
Gesichtserkennung im öffentlichen Raum nur in Ausnahmen erlaubt
Auch die Gesichtserkennung im öffentlichen Raum - also zum Beispiel durch Videoüberwachung an öffentlichen Plätzen - soll grundsätzlich nicht erlaubt sein. Dabei gibt es jedoch Ausnahmen: Polizei und andere Sicherheitsbehörden sollen eine solche Gesichtserkennung im öffentlichen Raum nutzen dürfen, um ganz bestimmte Straftaten wie Menschenhandel oder Terrorismus zu verfolgen.
Für die Gesichtserkennung an Bahnhöfen oder anderen öffentlichen Orten wird künftig eine richterliche Anordnung nötig. Grundsätzlich verboten wird eine Massenüberwachung mit biometrischen Daten wie in China.
Mit der Zustimmung des Parlaments kann das Regelwerk nun in Kraft treten. Zuvor hatten Unterhändler von Europaparlament und EU-Ländern im Dezember nach langen Verhandlungen eine Einigung über eine Regulierung erzielt. Anfang Februar stimmten auch Vertreter der EU-Staaten dem Vorschlag formell zu.
EU-Staaten müssen verbotene Systeme schrittweise außer Betrieb nehmen
Für die Mitgliedsstaaten bedeutet das nun, dass sie zunächst schrittweise verbotene Systeme außer Betrieb nehmen müssen. Nach zwei Jahren sollen alle Punkte des Gesetzes vollständig umgesetzt sein.
Die Mitgliedstaaten müssen etwa Sanktionen beschließen, wenn Unternehmen die Vorschriften nicht einhalten. Dies können Geldstrafen sein. Privatpersonen, die Verstöße gegen die Vorschriften entdecken, können sich bei nationalen Behörden beschweren. Diese können dann Überwachungsverfahren einleiten und gegebenenfalls Strafen verhängen.
Bedenken aus Deutschland und Frankreich
Die EU-Länder hatten das KI-Gesetz nach wochenlanger Debatte Anfang Februar angenommen. Wegen Bedenken vor allem in Deutschland und Frankreich hatte der Beschluss wochenlang auf der Kippe gestanden. Die FDP hatte in letzter Minute Bedenken angemeldet, stimmte nach einer Einigung der Ampel-Koalition dann aber zu. Der auch für Digitales zuständige Verkehrsminister Volker Wissing (FDP) erklärte danach, er habe "Verbesserungen für kleine und mittlere Unternehmen" erzielt. Die Wirtschaft hatte vor zu hohen Auflagen gewarnt, etwa für Start-ups wie Aleph Alpha in Heidelberg. Die Bundesregierung setzte sich auf EU-Ebene nach eigenen Angaben zudem mit dafür ein, sogenannte Allzweck-KI wie den Chatbot ChatGPT nicht als Hochrisiko-Anwendung einzustufen.
- Zur Audiothek: Der KI-Podcast
Mit Informationen von dpa und AFP
Im Audio vom 19.12.23: Der KI-Podcast – Was bedeutet der AI Act für mich?
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht's zur Anmeldung!