การพัฒนาอาวุธ AI และหุ่นยนต์สังหาร วิวัฒนาการที่หลายคนไม่ต้องการ

กระแสการต่อต้าน การพัฒนาอาวุธ AI และหุ่นยนต์สังหาร (Robot Killer) หรืออาวุธอัตโนมัติ  (lethal autonomous weapons systems) ซึ่งหลายประเทศกำลังพัฒนาขึ้น ที่มีหลักๆก็มีหน้าเก่าๆที่ชอบทำสงคราม อเมริกา อังกฤษ อิสราเอล รัสเซีย ฝรั่งเศส เอเชียก็มีเกาหลีใต้ เริ่มก่อตัวขึ้นจากผู้เล็งเห็นอันตรายจาก การพัฒนาอาวุธ AI หรืออาวุธอัตโนมัติ และเมื่อปีที่แล้ว 2017 ผู้เชี่ยวด้านอาวุธร้ายแรงของสหประชาชาติ UN CCW ได้ตะหนักและจัดประชุมกันเพื่อหารือเกี่ยวกับอาวุธอัตโนมัตินี้  (lethal autonomous weapons systems) ขึ้น และจัดประชุมอีกครั้งในวันที่ 9-13 เมษายน 2018

กระแสต่อต้าน การพัฒนาอาวุธ AI และหุ่นยนต์สังหาร หรือ อาวุธอัตโนมัต  (lethal autonomous weapons systems)

เรื่องนี้มันเริ่มเกิดเป็นจริงเป็นจังเมื่อมีการเปิดตัวของ วิดีโอชื่อว่า  Slaughterbot  ในเดือน พฤศจิกายน 2017 มีผู้ชมกว่า 60 ล้านครั้งและเฉพาะในยูทูปก็ 2.5 ล้านวิว ไม่มากเมื่อเทียบกับเพลงดังๆในประเทศไทย และมีการพูดถึงและกล่าวถึงในข่าวต่างๆทั่วโลก จริงๆแล้วมันก็เป็นข่าวเล็กๆนั่นแหละเมื่อเทียบกับข่าวอื่น อย่างไรก็ตามมันก็ได้จุดกระแสขึ้นมาแล้ว มีการประชุมของ UN CCW ที่ เจนีวา เกิดขึ้น มีการรวมตัวกันของนักวิจัย AI จากประเทศ จาก ออสเตรเลีย แคนาดา เบลเยี่ยม และอีกหลายๆประเทศ เขียนจดหมายเปิดผนึก เรียกร้องให้ผู้นำประเทศแบนการวิจัยและการพัฒนาอาวุธ AI

กระแสต่อต้าน การพัฒนาอาวุธ AI ของเกาหลีใต้

สถาบันวิจัยวิทยาศาสตร์และเทคโนโลยีของเกาหลีใต้  the Korea Advanced Institute of Science and Technology (KAIST) ซึ่งเป็นมหาลัยชั้นนำของเกาหลี ได้เป็นห้องปฏิบัติการ ทำการวิจัยและพัฒนาอาวุธ AI ร่วมกับ Hanwha บริษัทค้าอาวุธชั้นนำ ทำการพัฒนาอาวุธอัตโนมัติขึ้นมา เป็นอาวุธแบบค้นหาเป้าหมายและทำลาย โดยไร้การควบคุมของมนุษย์ อันเป็นที่กังวลใจของหลายๆฝ่าย โดยเฉพาะบริษัทที่มาร่วมพัฒนาด้วยคือ Hanwha ซึ่งได้พัฒนาอาวุธอัตโนมัติแบบสมบูรณ์แบบคือ SGR-A1 ซึ่งถูกแบนโดยองค์การสหประชาชาติ

มีนักวิจัยและพัฒนาเทคโนโลยี AI และหุ่นยนต์ ชั้นนำมากกว่า 50 คนจาากกว่า 30 ประเทศออกมาคว่ำบาตรต่อโครงการของ KAIST ของเกาหลีใต้  การคว่ำบาตร โครงการอาวุธ AI ของเกาหลีใต้ครั้งนี้ มีแกนนำคือ Toby Walsh นักวิจัยเทคโนโลยี AI การคว่ำบาตรครั้งนี้ประกาศก่อนที่จะมีการประชุมของ CCW เกี่ยวกับ การพัฒนาอาวุธ AI 1 วัน ในจดหมายของการคว่ำบาตร ยังแสดงให้เห็นถึงผลร้ายที่จะเกิดขึ้นถ้ามีการพัฒนาอาวุธ AI จะส่งผลให้มีการพัฒนาการของสงครามครั้งที่ 3 เกิดขึ้น ซึ่งจะรวดเร็วและขยายวงกว้างขวางกว่า อาจมีการนำอาวุธชนิดนี้ไปทำการก่อการร้าย ส่งผลให้มีผู้บริสุทธิ์เสียชีวิตอีกมากมาย

เนื้อความในจดหมายการคว่ำบาตร

Open Letter:

As researchers and engineers working on artificial intelligence and robotics, we are greatly concerned by the opening of a “Research Center for the Convergence of National Defense and Artificial Intelligence” at KAIST in collaboration with Hanwha Systems, South Korea’s leading arms company. It has been reported that the goals of this Center are to “develop artificial intelligence (AI) technologies to be applied to military weapons, joining the global competition to develop autonomous arms.”

At a time when the United Nations is discussing how to contain the threat posed to international security by autonomous weapons, it is regrettable that a prestigious institution like KAIST looks to accelerate the arms race to develop such weapons. We therefore publicly declare that we will boycott all collaborations with any part of KAIST until such time as the President of KAIST provides assurances, which we have sought but not received, that the Center will not develop autonomous weapons lacking meaningful human control. We will, for example, not visit KAIST, host visitors from KAIST, or contribute to any research project involving KAIST.

If developed, autonomous weapons will be the third revolution in warfare. They will permit war to be fought faster and at a scale greater than ever before. They have the potential to be weapons of terror. Despots and terrorists could use them against innocent populations, removing any ethical restraints. This Pandora’s box will be hard to close if it is opened. As with other technologies banned in the past like blinding lasers, we can simply decide not to develop them. We urge KAIST to follow this path, and work instead on uses of AI to improve and not harm human lives.

และลงนามด้วยนักวิจัยทั้งหมด 50 คน

ผลของการบอยคอตครั้งนี้ โปรเฟสเซอร์ Sung-Chul Shin ประธานของสถาบัน KAIST ได้ออกมาตอบโต้ว่า เขาไม่ได้มีเจตนาที่จะ พัฒนาอาวุธ AI หรือ หุ่นยนต์ ฆ่าสังหาร  เขาจะดำเนินการต่อโดยให้สัญญาว่าจะไม่พัฒนาอาวุธใดๆที่เป็นปรปักษ์ต่อมนุษย์ และรวมถึงอาวุธที่ไร้มนุษย์ควบคุม 100%

การต่อต้านของพนักงาน google ต่อการร่วมมือของโครงการ Maven ของกระทรวงกลาโหม สหรัฐอเมริกา

โครงการ Maven ของอเมริกาคืออะไร เป็นโครงการที่จะใช้ช่วยกำลังพลในการตรวจสอบวิเคราะห์ ภาพถ่าย และ วีดิโอ ซึ่งข้อมูลเหล่านี้มีจำนวนมากมายมหาศาลเกินกว่าที่จะใช้คนทำได้ ด้วยการริเริ่มของรองเลขาธิการกลาโหม Bob Work โดยทำการสร้างอัลกอริทึมของการสู้รบขึ้นมาเพื่อใช้ในการทำงาน ซึ่งโครงการนี้อยู่ภายใต้การดูแลของปลัดกลาโหม  โครงการนี้มุ่งเน้นไปที่การเรียนรู้ด้วยตัวของคอมพิวเตอร์และเครื่องจักรกล ในการแยกแยะรายละเอียดอย่างลึกซึ้ง โดยทำการเรียนรู้จากภาพเคลื่อนไหวและภาพนิ่งจำนวนมหาศาล และโครงการนี้จะมีการประยุกต์ใช้เทคโนโลยีเครือข่ายประสาทเทียมด้วย  (neural networks) แต่ในระดับนี้ยังคงไม่ให้ AI เลือกเป้าหมายและทำลายเป้าหมายเอง ยังคงแค่เป็นการสนับสนุนการทำงานของมนุษย์อยู่

การทำงานด้วยข้อมูลมหาศาล ทางรัฐบาลของอเมริกายังไม่มีทรัพยากรเพียงพอที่จะทำงาน จำต้องพึ่งพาทรัพยากรของฝ่ายเอกชน ซึ่ง google จะเข้ามาสนับสนุนตรงนี้

พนักงาน Google ลาออก 12 คน และลงชื่อคัดค้านมากกว่า 3,000 คน

หลังจากการประกาศร่วมงานกับกระทรวงกลาโหมของ Google ทำให้วิศวกรของ Google ลาออก 12 คน และอีกกว่า 3,000 คน ส่งจดหมายเปิดผนึกคัดค้าน ไม่เพียงแต่พนักงานของ Google เท่านั้นที่เรียกร้อง แต่มหาวิทยาลัยอีกกว่า 100 แห่งก็มีข้อเรียกร้องให้ Google ไม่ยุ่งเกี่ยวกับกิจกรรมทางทหาร โดยพนักงานของ Google มีข้อเรียกร้องหลักๆอยู่ 3 ข้อคือ

• ยกเลิกสัญญากับกระทรวงกลาโหมในโครงการ Maven
• ให้คำมั่นว่าจะไม่พัฒนาเทคโนโลยีทางทหาร และจะไม่อนุญาตให้รวบรวมข้อมูลส่วนบุคคลเพื่อใช้ในการปฏิบัติการทางทหาร
• สัญญาว่าจะไม่เข้าร่วมพัฒนาหรือสนับสนุน ค้า หรือ ผลิต อาวุธอัตโนมัต และจะให้การสนับการคว่ำบาตรอาวุธอัตโนมัต

หลังจากที่มีการเรียกร้องและลาออกของพนักงาน Google ทางผู้บริหารได้ตอบสนองต่อเรื่องดังกล่าวโดยการ ไม่ต่อสัญญากับโครงการ Maven เมื่อสัญญาสิ้นสุดลงในปี 2019

ความคืบหน้าเกี่ยวกับการหารือของสหประชาชาติ ในการควบคุมอาวุธ AI

การประชุมในวันที่ 9-13 เมษายน 2018 มีชาติต่างๆร่วม 82 ชาติ เพื่อพิจารณาห้ามอาวุธ AI หรือ อาวุธอัตโนมัต หรือ หุ่นยนต์สังหาร

• มีชาติที่เรียกร้องให้มีกฎหมายห้มอาวุธอัตโนมัตและหุ่นยนต์สังหาร เพิ่มเป็น 26 ชาติ ชาติที่เพิ่มมาคือ China, Austria, Colombia, and Djibouti จีนสนับสนุนให้ห้ามการใช้ใช้ AI 100 เปอร์เซ็นต์
• มี 5 ชาติปฏิเสธอย่างชัดเจน คือ ฝรั่งเศส อิสราเอล อังกฤษ รัสเซีย และ สหรัฐอเมริกา

หนทางในการออกกฎหมายห้าม การพัฒนาอาวุธ AI และหุ่นยนต์สังหาร ดูเหมือนจะมืดมน และเราคงได้เห็นสงครามหุ่นยนต์ในเร็ววัน สงครามที่ไร้การควบคุมของมนุษย์