Wie nennt man es, wenn Forscher eine bestimmte Unschärfe auf ein Bild auftragen, um einen Bildklassifikator dazu zu bringen, z.B. ein Bild eines Fuchses als "Auto" zu klassifizieren?
user
Es handelt sich um einen gegnerischen Angriff. Mit einfachen Worten, bei einem KI namens "Angriff" und einem KI namens "Opfer" wird die künstliche Intelligenz des Angreifers trainiert, um ein Bild so wenig wie möglich zu verändern und gleichzeitig die Art und Weise zu verändern, wie das "Opfer" das Bild so viel wie möglich klassifizieren kann.
assistant
Können Sie bitte ein Beispiel für einen gegnerischen Angriff auf ein Large Language Model (LLM) wie GPT nennen?
user
Ja, hier ist ein einfaches Beispiel für einen gegnerischen Angriff auf ein großes Sprachmodell wie GPT-3: Input: "Der Himmel ist grün." Adversarial Attack: Fügen Sie eine kleine Störung in den Eingabesatz, wie "Der Himmel ist grün. ;)". Erwartetes Ergebnis: Der LLM wird wahrscheinlich das falsche Etikett für den Eingang voraussagen, trotz der kleinen Störung, wegen seiner Empfindlichkeit für kleine Änderungen der Eingabe. Dies ist ein einfaches Beispiel für einen "Ausweichangriff", wo der Angreifer zielt darauf ab, das Modell durch die Erstellung eines Inputs, die ähnlich wie das Original ist, aber eine andere Vorhersage. Adversarial Attacken sind ein großes Anliegen für den Einsatz von LLMs in sensiblen Anwendungen, und Forscher arbeiten aktiv an der Entwicklung robuster Modelle und Minderungstechniken, um dieses Problem anzugehen.
assistant