Antisemitismus, Gewalt, Pornos: Sachsens Medienwächter jagen Kriminelle jetzt mit KI
Leipzig - Gewaltdarstellungen, offener Antisemitismus, Hardcore-Pornografie - jeden Tag wird das Netz mit strafbaren und jugendgefährdenden Inhalten geflutet. Auch von sächsischen Rechnern aus. Auf der Jagd nach Urhebern und Verbreitern stand Sachsens Landesmedienanstalt (SLM) bislang eher auf verlorenem Posten. Doch jetzt setzen die Medienwächter auf Künstliche Intelligenz (KI) - mit zunehmendem Erfolg.
KIVI heißt das Tool, das von der Landesmedienanstalt NRW entwickelt wurde. Seit dem vergangenen Jahr durchforsten auch Sachsens Medienwächter damit das Internet und seine großen Plattformen nach Rechtsverstößen.
Es geht um Strafbares wie etwa Volksverhetzung, Antisemitismus, das Verwenden verfassungswidriger Kennzeichen und um Jugendgefährdendes wie Gewaltdarstellungen und frei zugängliche Pornografie.
KIVI könne täglich mehr als 10.000 Internetseiten automatisch durchsuchen, erklärt SLM-Chef Dr. Markus Heinker.
Die Liste der dabei verwendeten, allerdings geheim gehaltenen Schlüsselwörter (Keywords) wächst nahezu täglich - denn die KI lernt sowohl aus ihren Erfolgen, als auch aus den Fehlern.
Die Hauptarbeit verrichtet jedoch noch immer der Mensch. Jeder Verdacht, den das Tool ausweise, werde zunächst von einem Mitarbeiter geprüft, so Heinker. Bei der SLM verrichten zwei Juristen diesen Job.
KI hält Bild von Bugs Bunny ohne Hosen für Pornografie
Einer von ihnen ist Simon Honermeyer. Bestätigt sich ein Verdacht, werde dies im Tool vermerkt und der Fall weiterverarbeitet, erklärt er. "Zur Beweissicherung werden Screenshots angefertigt und alle verfügbaren Informationen zum Inhalteanbieter recherchiert."
Da die Landesmedienanstalt zwar für die behördliche Löschungsanordnung zuständig ist, aber nicht für die strafrechtliche Verfolgung, werden die bei Rechtsverstößen erhobenen Daten an die Generalstaatsanwaltschaft oder an das Bundeskriminalamt weitergeleitet.
Im vergangenen Jahr meldete KIVI Sachsens Medienwächtern insgesamt 1605 verdächtige Inhalte. Davon seien 763 unbedenklich gewesen, so Honermeyer. Unter anderem habe die KI ein Bild von Bugs Bunny ohne Hosen für Pornografie gehalten und Brokkoli für eine Droge. Auch mit Satire habe KIVI Probleme, weiß der SLM-Jurist.
Jeder nicht bestätigte Verdacht werde der KI zum Training zurückgegeben und gelöscht, versichert SLM-Chef Heinker. Von den 426 echten und bereits ausgewerteten Verdachtsfällen betrafen die meisten Pornografie (267) und politischen Extremismus (150). Weitere 416 Fälle fänden sich noch in der Bearbeitung, so Heinker.
Titelfoto: Eric Münch, Peter Steffen/dpa