สงคราม 'หุ่นยนต์สังหาร' อาจเกิดขึ้นเร็วกว่าที่เราคิด?
ผู้เชี่ยวชาญด้านหุ่นยนต์ชั้นนำของโลกกว่า 100 คนเขียนจดหมายถึงสหประชาชาติเรียกร้องให้มีการห้ามการพัฒนา "หุ่นยนต์สังหาร" และเตือนถึงการแข่งขันอาวุธรูปแบบใหม่ ความกังวลของพวกเขาสมเหตุสมผลหรือไม่?
"หุ่นยนต์สังหาร" อาจดูเหมือนสิ่งที่มาจากภาพยนตร์นิยายวิทยาศาสตร์ แต่มันกำลังเข้าใกล้ความจริงทุกที กองกำลังรถถังไร้คนขับ โดรนที่มองหาศัตรูได้ในหมู่พลเรือน หรืออาวุธที่ควบคุมโดยสมองคอมพิวเตอร์ที่เรียนรู้ได้เหมือนมนุษย์ ล้วนคือเทคโนโลยี "อัจฉริยะ" ที่กำลังมีการพัฒนาในอุตสาหกรรมผลิตอาวุธ หลายคนเชื่อว่าเรากำลังเข้าสู่ "ยุคปฏิวัติที่สามในการทำสงคราม" โทบี วอลช์ ศาสตราจารย์ด้านปัญญาประดิษฐ์ ที่มหาวิทยาลัยนิวเซาท์เวลส์ นครซิดนีย์ ประเทศออสเตรเลีย กล่าวว่า "ในทุกขอบเขตของสนามรบ ทั้งทางอากาศและทางทะเล ใต้ทะเลหรือบนบก ทหารทั่วโลกกำลังทดลองใช้อาวุธอัตโนมัติต้นแบบอยู่" ความสำเร็จหนึ่งที่ได้รับการรายงานว่าทำให้ศัตรูของเครื่องจักรสังหารนอนไม่หลับหลายคืนคือ ปืนกลต่อสู้ "นิวรัลเน็ต" คาลาชนิคอฟ บริษัทผลิตอาวุธของรัสเซียกำลังพัฒนาอาวุธควบคุมตัวเองอย่างเต็มรูปแบบ มันคือปืนกลขนาด 7.22 มิลลิเมตร และมีกล้องติดตั้งไว้กับระบบคอมพิวเตอร์ที่ผู้สร้างอ้างว่าทำให้มันสามารถตัดสินใจเล็งเป้าหมายได้เองโดยไม่ต้องใช้มนุษย์ควบคุม ทางบริษัทไม่ยอมให้บีบีซีสัมภาษณ์ แต่สำนักข่าวแทสของทางการรัสเซีย รายงานว่า ทางบริษัทได้ใช้ "เทคโนโลยีนิวรัลเน็ตเวิร์ก ที่สามารถระบุเป้าหมายและตัดสินใจได้เอง" ต่างจากคอมพิวเตอร์แบบเดิมที่ใช้การตั้งคำสั่งไว้ล่วงหน้า เพื่อโจมตีเป้าหมายที่ทำนายไว้และอยู่ในพิสัยที่จำกัดหรือเจาะจง แต่นิวรัลเน็ตเวิร์ก (neural network) หรือ ระบบคอมพิวเตอร์ที่สร้างขึ้นเลียนแบบเส้นใยประสาทของมนุษย์ ถูกออกแบบมาให้เรียนรู้จากตัวอย่างที่เกิดขึ้นก่อน จากนั้นก็นำมาปรับเข้ากับสภาพแวดล้อมที่มันอาจไม่เคยเผชิญมาก่อน ระบบต่อสู้โดยใช้หุ่นยนต์จะเกิดความผิดพลาดน้อยกว่ามนุษย์หรือไม่? ด้วยขีดความสามารถในการตัดสินใจได้เองของมัน ทำให้ผู้คนจำนวนมากกังวล แอนดรูว์ แนนสัน ประธานเจ้าหน้าที่เทคโนโลยีที่บริษัทอัลตราอิเล็กทรอนิกส์ (Ultra Electronics) ซึ่งเป็นบริษัทเชี่ยวชาญด้านกลาโหม กล่าวว่า "ถ้าอาวุธใช้นิวรัลเน็ตเวิร์ก (neural networks) และปัญญาประดิษฐ์ (artificial intelligence) ที่ก้าวหน้า เราก็จะไม่รู้ว่า มันตัดสินใจโจมตีบนพื้นฐานของอะไร นั่นอันตรายมาก" แต่เขายังคงกังขาเกี่ยวกับ ข้อกล่าวอ้างบางอย่างของผู้ผลิตอาวุธ ระบบป้องกันอัตโนมัติสามารถตัดสินใจโดยอยู่บนพื้นฐานของการวิเคราะห์ความเสี่ยง ยกตัวอย่างเช่น จากรูปร่าง, ขนาด, ความเร็ว และวิถีของขีปนาวุธที่กำลังพุ่งมา จากนั้นก็เลือกวิธีการรับมืออย่างเหมาะสม ที่เร็วกว่ามนุษย์สามารถทำได้ แต่ถ้าระบบเช่นนี้เผชิญกับอะไรบางอย่างที่ไม่เคยเจอ มันจะยังคงสามารถมีอิสระในการตัดสินใจดำเนินการโดยใช้วิธี "การคาดเดาที่ดีที่สุด" หรือไม่? ความผิดพลาดอาจจะทำให้เกิดหายนะขึ้น รวมถึงการสังหารพลเรือนผู้บริสุทธิ์ การทำลายล้างเป้าหมายที่ไม่ใช่ทางการทหาร และการโจมตีพวกเดียวกันเองโดยไม่ตั้งใจ เครื่องบินไร้คนขับควบคุมจากระยะไกลถูกใช้เพื่อปล่อยขีปนาวุธโจมตีมาตั้งแต่ปี 2001 นี่คือสิ่งที่ผู้เชี่ยวชาญจำนวนมากหวาดกลัว ไม่ใช่ว่าปัญญาประดิษฐ์จะฉลาดเกินไป แล้วครองโลกอย่างซูเปอร์คอมพิวเตอร์สกายเน็ตในภาพยนตร์เรื่องเทอร์มิเนเตอร์ แต่เป็นเพราะมันโง่เกินไปต่างหาก โนเอล ชาร์กีย์ ศาสตราจารย์ด้านปัญญาประดิษฐ์และหุ่นยนต์ ที่มหาวิทยาลัยเชฟฟีลด์ กล่าวว่า "ปัญหาปัจจุบันไม่ได้อยู่ที่หุ่นยนต์ที่ฉลาดล้ำ แต่อยู่ที่หุ่นยนต์ที่โง่มาก จนไม่สามารถแยกแยะได้อย่างยืดหยุ่นระหว่างเป้าหมายพลเรือนและเป้าหมายทางการทหาร ยกเว้นจะมีการการตั้งค่าที่จำกัดมาก ๆ" แม้ว่าจะมีความกังวลเช่นนั้น ผลิตภัณฑ์ล่าสุดของคาลาชนิคอฟ ไม่เพียงแต่จะควบคุมตัวเองได้ แต่ยังมีอาวุธที่กึ่งควบคุมตัวเองกำลังได้รับการทดลองใช้ในรัสเซีย ยูราน-9 (Uran-9) เป็นยานพาหนะต่อสู้บนพื้นดินที่ไร้คนขับ และมีปืนกลและปืนใหญ่ขนาด 30 มิลลิเมตร มันสามารถถูกควบคุมจากระยะไกลถึง 10 กิโลเมตร หุ่นยนต์ต่อสู้ แพลตฟอร์ม-เอ็ม (Platform-M) ขนาดจิ๋ว สามารถเล็งเป้าหมายได้อัตโนมัติ และปฏิบัติการในพื้นที่ที่ร้อนและหนาวอย่างสุดขั้วได้ ส่วน "ซูเปอร์รถถัง" อาร์มาตา ที-14 (Armata T-14) มีแท่นหมุนอัตโนมัติที่อังเดร เตอร์ลิคอฟ ผู้ออกแบบอ้างว่า จะช่วยเปิดทางให้มีการใช้รถถังขับเคลื่อนตัวเองเต็มรูปแบบในสนามรบได้ อูราลวากอนซาวอด (Uralvagonzavod) ผู้ผลิตซูเปอร์รถถังนี้ไม่ตอบรับคำขอสัมภาษณ์จากทางบีบีซี แต่ศาสตราจารย์ชาร์กีย์ ซึ่งเป็นสมาชิกกลุ่มรณรงค์ให้หยุดยั้งหุ่นยนต์สังหาร (The Campaign to Stop Killer Robots) กำลังจับตามองถึงศักยภาพของมัน "ที-14 มีความล้ำหน้ามากกว่าของฝ่ายตะวันตกหลายปี และอดคิดไม่ได้ว่าจะมีการใช้รถถังอัตโนมัติ ที-14 หลายพันคันมาประชิดชายแดนกับยุโรป" ไม่ใช่เพียงแค่รัสเซียเท่านั้นที่กำลังพัฒนาอาวุธเช่นนี้ ศาสตราจารย์โทบี วอลช์ กล่าวว่า กองทัพทั่วโลกกำลังพัฒนาอาวุธอัตโนมัติ ฤดูร้อนที่แล้ว สำนักงานโครงการวิจัยเทคโนโลยีป้องกันประเทศของสหรัฐฯ (US Defence Advanced Research Projects Agency--Darpa) นำปัญญาประดิษฐ์ที่ล้ำหน้าติดตั้งไว้ที่โดรนสอดแนมธรรมดาลำหนึ่ง โดยปัญญาประดิษฐ์ดังกล่าวถูกออกแบบมาให้สังเกตระหว่างพลเรือน และศัตรู ระหว่างการทดสอบที่หมู่บ้านจำลองตะวันออกกลางในรัฐแมสซาชูเสตส์ของสหรัฐฯ ปืนคุ้มกัน เอสจีอาร์-เอ1 (SGR-A1) ของซัมซุง ซึ่งสามารถยิงได้เองอัตโนมัติ ถูกติดตั้งตามแนวเขตปลอดทหารในฝั่งเกาหลีใต้ เครื่องบินไร้คนขับ ทารานิส (Taranis) ของสหราชอาณาจักร ซึ่งมีขนาดเท่ากับเครื่องบินขับไล่เรดแอร์โรว์ฮอว์ก (Red Arrow Hawk) กำลังได้รับการพัฒนาโดยบริษัทบีเออี ซิสเต็มส์ (BAE Systems) บีเออีระบุว่า มันถูกออกแบบมาเพื่อให้ขนอาวุธจำนวนมหาศาลเป็นระยะทางไกลได้ และจะมี "คุณสมบัติต่าง ๆ " ในการควบคุมตัวเองอย่างเต็มรูปแบบ ส่วนในทะเล เรือรบขับเคลื่อนตัวเองซีฮันเตอร์ (Sea Hunter) ของสหรัฐฯ ถูกออกแบบมาเพื่อให้ปฏิบัติการเป็นระยะเวลานานในทะเลโดยไม่ต้องมีลูกเรืออยู่แม้แต่คนเดียว และสามารถที่จะกำหนดเส้นทางกลับเข้าออกท่าเรือให้แก่ตัวเองได้ด้วย เรือซีฮันเตอร์ (Sea Hunter) สามารถปฏิบัติการได้โดยไม่ต้องมีลูกเรือแม้แต่คนเดียว ผู้ผลิตอาวุธในชาติตะวันตกที่บีบีซีติดต่อไปทุกแห่ง รวมถึงแฟนทอม เวิร์กส์ (Phantom Works) ของโบอิง, นอร์ธร็อป กรัมแมน (Northrop Grumman), เรย์เทียน (Raytheon), บีเออี ซิสเต็มส์ (BAE Systems), ล็อกฮีด มาร์ติน (Lockheed Martin) และเจเนรัล ไดนามิกส์ (General Dynamics) ปฏิเสธที่จะให้ความร่วมมือกับบทความนี้ ซึ่งอาจจะเป็นข้อบ่งชี้ว่าเทคโนโลยีนี้ยังคงเป็นที่ถกเถียงกันอยู่ แต่เทคโนโลยีทางการทหารอัตโนมัติอาจถูกใช้ในการสนับสนุนปฏิบัติการทหารของมนุษย์อย่างง่ายดายหรือไม่? โรแลนด์ ซอนเนสเบิร์ก หัวหน้าด้านกลาโหมของบริษัทที่ปรึกษาไพรซ์วอเตอร์เฮาส์คูเปอร์ (PricewaterhouseCoopers) กล่าวว่า การจำลองการสู้รบ การขนส่ง การวิเคราะห์ความเสี่ยง และการทำงานของหน่วยงานสนับสนุน เป็นงานด้านสงครามที่หุ่นยนต์และปัญญาประดิษฐ์สามารถเข้ามาปฏิบัติการได้ "ข้อดีที่ปัญญาประดิษฐ์ต้องมี คือการนำไปใช้ประโยชน์ได้ ถ้าพวกมันสามารถนำไปประยุกต์ใช้ในโลกแห่งความเป็นจริงอย่างได้ผล และถ้าบริษัท, ผู้บริโภค, สังคม ไว้วางใจในเทคโนโลยีนี้ และใช้งานอย่างรับผิดชอบ มันจะได้รับการยอมรับอย่างกว้างขวาง" เขากล่าว บีเออี ซิสเต็มส์ (BAE Systems) ระบุว่า เครื่องบินไร้คนขับ ทารานิส (Taranis) จะมี "คุณสมบัติต่าง ๆ ในการควบคุมตัวเองอย่างเต็มรูปแบบ" บางคนแย้งว่าอาวุธอัตโนมัติอาจช่วยลดจำนวนผู้เสียชีวิตลงได้จริง แต่เอลิซาเบธ กวินตานา นักวิจัยอาวุโสที่สถาบันรอยัลยูไนเต็ดเซอร์วิส เพื่อการศึกษาด้านความมั่นคงและกลาโหม (Royal United Services Institute for Defence and Security Studies) ไม่เห็นด้วย "การใช้ระบบหุ่นยนต์อาจจะน่าดึงดูดใจมากขึ้นสำหรับนักการเมือง เพราะคงจะมีศพถูกส่งกลับบ้านน้อยลง" "ความเห็นฉันคือ สงครามเป็นกิจกรรมที่มนุษย์ทำขึ้นอย่างแท้จริง และถ้าคุณทำสงครามจากระยะไกลโจมตีกลุ่มหนึ่งหรือประเทศหนึ่ง พวกเขาจะหาทางทำร้ายคุณที่บ้าน เพราะนั่นคือหนทางเดียวที่พวกเขาจะแก้แค้นคืนได้" การที่ระบบอาวุธอัตโนมัติอาจนำไปสู่การเพิ่มขึ้นของการก่อการร้ายในประเทศ หรือสงครามไซเบอร์โดยไม่ตั้งใจ อาจจะเป็นอีกเหตุผลหนึ่งที่ทำให้ผู้คนยังคงระมัดระวังในการใช้เทคโนโลยีใหม่นี้