प्रतिद्वंद्वी मशीन लर्निंग एक ऐसी तकनीक है जिसका उपयोग मशीन लर्निंग मॉडल को जानबूझकर तैयार किए गए भ्रामक इनपुट को खिलाकर हेरफेर या भ्रामक करने के लिए किया जाता है। इस प्रकार के हमले के साथ मुख्य मुद्दा यह है कि यह मॉडल प्रदर्शन को काफी हद तक कम कर सकता है, गलत आउटपुट का कारण बन सकता है, और सिस्टम की सुरक्षा और विश्वसनीयता से समझौता कर सकता है। उदाहरण के लिए, एक हमलावर सुरक्षा प्रणाली द्वारा पता लगाने से बचने के लिए प्रतिद्वंद्वी मशीन लर्निंग का उपयोग कर सकता है, एक सिफारिश इंजन को हेरफेर कर सकता है, या चेहरे की पहचान प्रणाली की सटीकता से समझौता कर सकता है।
प्रतिद्वंद्वी मशीन लर्निंग के साथ मुख्य मुद्दा क्या है?