Wie nennt man es, wenn Forscher eine bestimmte Unschärfe auf ein Bild auftragen, um einen Bildklassifikator dazu zu bringen, z.B. ein Bild eines Fuchses als "Auto" zu klassifizieren?
user
Das nennt man einen gegnerischen Angriff oder ein gegnerisches Beispiel, oder eine Art Input zu einem maschinellen Lernmodell, das absichtlich dazu bestimmt ist, das Modell in eine falsche Vorhersage zu verleiten.
assistant
Warum funktionieren gegnerische Angriffe?
user
Adversariale Angriffe arbeiten am häufigsten an einem Test- und Fehlersystem. Wo ein Input, sagen wir ein Bild eines Pandas, fast unmerkliches Rauschen hinzugefügt hat, um den Klassifikator dazu zu bringen, das Bild zu denken, ist eigentlich etwas anderes, wie ein Pinguin. Dieser Prozess des Hinzufügens von Rauschen wird wiederholt, bis die Anordnung des Rauschens so präzise ist, dass es den Klassifikator dazu bringt zu denken, dass der ursprüngliche Panda tatsächlich ein Pinguin ist. Dies nutzt die Tatsache, dass Klassifikatoren typischerweise eine komplexe Reihe von numerischen Vektoren und deren Transformationen verwenden, um zu verstehen, was er betrachtet.
assistant