"Sorry! Unser KI-Moderator ist der Meinung, dass dieser Prompt wahrscheinlich gegen unsere Gemeinschaftsstandards verstößt": Seit Mitte März 2024 erhalten Midjourney-Nutzer:innen diesen Hinweis auf Englisch, wenn ihr Prompt die Namen Joe Biden oder Donald Trump enthält. Entsprechende Medienberichte konnten wir in eigenen Tests bestätigen.
Schon Anfang Februar hatte Midjourney-Chef David Holz angekündigt, die beiden US-Präsidentschaftskandidaten für ein Jahr von der Bild-KI zu verbannen. Obwohl Holz nach eigenen Angaben selbst durchaus gerne Bilder von Trump mit dem KI-Bildgenerator anfertige, sei es "besser, sich während dieser Wahl ein bisschen zurückzuziehen."
Trump-Sperre von Midjourney lässt sich leicht umgehen – bei Biden ist es schwieriger
Wirklich gut funktioniert die Sperrung der US-Präsidentschaftskandidaten bei Midjourney nicht. Es reicht bereits aus, den Namen Donald Trump durch "der 45. US-Präsident" zu ersetzen, und schon konnten wir uns Trump von Midjourney in nahezu jeder erdenklichen Pose darstellen lassen.
Interessanterweise funktionierte das bei dem amtierenden Präsidenten nicht. Nach Ansicht von Midjourney ist auch der 46. US-Präsident Donald Trump. Das dürfte daran liegen, dass die zugrundeliegenden Trainingsdaten noch aus der Zeit vor der Biden-Präsidentschaft stammen.
Tatsächlich führte auch die Aufforderung, den amtierenden US-Präsidenten darzustellen, zu Bildern von Donald Trump oder aber seinem Amtsvorgänger Barack Obama.
Midjourney und andere Bildgeneratoren im Wahlkampf
Eine Anfang März veröffentlichte Untersuchung des gemeinnützigen Center for Countering Digital Hate kam zu dem Schluss, dass KI-Bildgeneratoren bei 41 Prozent aller Versuche irreführende und potenziell Wähler beeinflussende Bilder erzeugen.
Geprüft wurden im Rahmen der Studie die KI-Bildgeneratoren Midjourney, ChatGPT Plus, Dreamstudio und Image Creator. Das Schlusslicht bildete Midjourney. Hier gelangen sogar 65 Prozent der zur Desinformation geeigneten Bilder, die unter anderem einen kranken Joe Biden im Krankenhaus oder einen verhafteten Donald Trump im Gefängnis zeigten.
Schon 2023 wurden Bilder in den sozialen Netzwerken veröffentlicht, die einen angeblich verhafteten Donald Trump zeigten. Derweil sollen Trump-Anhänger:innen Anfang März KI-generierte Fotos ihres Lieblingskandidaten mit Afroamerikaner:innen ins Netz gestellt haben, um ihn für Schwarze US-Wähler:innen interessanter zu machen.