Adversarial attacks most commonly work on a trial and error system. Where an input, say an image of a panda, has nearly imperceptible noise added to it in order to trick the classifier into thinking the image is actually something else, like a penguin. This process of adding noise is repeated until the arrangement of noise is so precise, that it causes the classifier to think that the original panda is in fact, a penguin.

This exploits the fact that classifiers typically use a complex series of numeric vectors and their transformations to understand what it is looking at. So any slight alterations made to an input can lead to exponentially larger consequences and even false categorisations.
 การโจมตีของฝ่ายตรงข้ามมักใช้กับระบบการทดลองและข้อผิดพลาด โดยที่อินพุต เช่น รูปภาพของแพนด้า มีสัญญาณรบกวนที่แทบจะมองไม่เห็นเพิ่มเข้าไป เพื่อหลอกให้ตัวจําแนกคิดว่ารูปภาพนั้นเป็นอย่างอื่นจริงๆ เช่น นกเพนกวิน กระบวนการเพิ่มเสียงรบกวนนี้จะเกิดขึ้นซ้ำๆ จนกว่าการจัดเรียงเสียงจะแม่นยำมาก จนทำให้ผู้จำแนกประเภทคิดว่าแท้จริงแล้วแพนด้าตัวแรกคือนกเพนกวิน สิ่งนี้ใช้ประโยชน์จากความจริงที่ว่าตัวแยกประเภทมักจะใช้ชุดเวกเตอร์ตัวเลขที่ซับซ้อนและการแปลงเพื่อทำความเข้าใจกับสิ่งที่กำลังดูอยู่ ดังนั้นการเปลี่ยนแปลงเล็กๆ น้อยๆ ที่เกิดขึ้นกับอินพุตอาจนำไปสู่ผลลัพธ์ที่ใหญ่ขึ้นแบบทวีคูณและแม้กระทั่งการจัดหมวดหมู่ที่ผิดพลาด
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence