'ลาเวนเดอร์': ระบบ AI ของอิสราเอลที่กำกับการทิ้งระเบิดในฉนวนกาซา
- กองทัพอิสราเอลได้พัฒนาโปรแกรมที่ขับเคลื่อนด้วยปัญญาประดิษฐ์ชื่อ 'ลาเวนเดอร์' ซึ่งมีบทบาทสำคัญในการทิ้งระเบิดแบบไม่เลือกเป้าต่อชาวปาเลสไตน์ในฉนวนกาซา
- ระบบนี้ทำเครื่องหมายชาวกาซาหลายหมื่นคนเป็นเป้าหมายลอบสังหารโดยแทบไม่มีการกำกับดูแลจากมนุษย์ และมีนโยบายที่ยอมรับจำนวนผู้เสียหายได้อย่างกว้างขวาง
- ลาเวนเดอร์ถูกออกแบบมาเพื่อทำเครื่องหมายสมาชิกกองกำลังของฮามาสและกลุ่ม Palestinian Islamic Jihad (PIJ) ให้เป็นเป้าหมายที่อาจถูกทิ้งระเบิด
STEP 1: สร้างเป้าหมาย
- ลาเวนเดอร์วิเคราะห์ข้อมูลที่รวบรวมผ่านระบบเฝ้าระวังขนาดใหญ่ซึ่งครอบคลุมผู้อยู่อาศัยส่วนใหญ่ในฉนวนกาซา และจัดอันดับแต่ละบุคคลตามความเป็นไปได้ว่าเป็นสมาชิกกองกำลังของฮามาสหรือ PIJ
- ระบบ AI นี้เรียนรู้ลักษณะของสมาชิกกองกำลังที่ทราบตัวตนแล้ว และค้นหา/ประเมินลักษณะดังกล่าวในหมู่ประชากรทั่วไป
- ลาเวนเดอร์ทำเครื่องหมายชาวปาเลสไตน์ประมาณ 37,000 คนว่าเป็น 'สมาชิกกองกำลัง' ของฮามาสที่น่าสงสัย และกำหนดให้เป็นเป้าหมายลอบสังหาร
STEP 2: เชื่อมเป้าหมายกับบ้านของครอบครัว
- กองทัพอิสราเอลใช้ระบบอัตโนมัติเพื่อเชื่อมเป้าหมายเข้ากับบ้านของครอบครัว และใช้ระบบอัตโนมัติเพิ่มเติม เช่น 'Daddy Where's?' เพื่อส่งสัญญาณให้ทิ้งระเบิดเมื่อเป้าหมายเข้าไปในบ้านของครอบครัว
- ระบบเหล่านี้เฝ้าติดตามเป้าหมายอย่างต่อเนื่องและทำให้สามารถโจมตีได้ทันทีที่เป้าหมายก้าวเข้าไปในบ้านของครอบครัว
STEP 3: เลือกอาวุธ
- หลังจากถูกลาเวนเดอร์ทำเครื่องหมายว่าเป็นเป้าหมายลอบสังหาร ทหารจะตรวจสอบว่าเป้าหมายเป็นผู้ชายหรือไม่ และเมื่อซอฟต์แวร์ติดตามพบเป้าหมายในบ้าน ก็จะเลือกกระสุนที่จะใช้ในการทิ้งระเบิด
- ระเบิดราคาถูกแบบ 'โง่' อาจก่อให้เกิดความเสียหายข้างเคียงมากกว่าระเบิดนำวิถีแม่นยำ และมักถูกใช้เพื่อสังหารสมาชิกระดับล่าง
STEP 4: อนุมัติการเสียชีวิตของพลเรือน
- ในช่วงสัปดาห์แรก ๆ ของสงคราม กองทัพอิสราเอลอนุญาตให้มีการสังหารพลเรือนได้สูงสุด 15 หรือ 20 คนในการลอบสังหารสมาชิกระดับล่างแต่ละคนที่ลาเวนเดอร์ทำเครื่องหมายไว้
- 'ระดับของความเสียหายข้างเคียง' นี้ถูกนำไปใช้อย่างกว้างขวางกับสมาชิกระดับล่างที่น่าสงสัยทุกคน โดยไม่คำนึงถึงยศ ความสำคัญทางทหาร หรืออายุของพวกเขา
ความเห็นของ GN⁺
- ระบบลาเวนเดอร์เป็นตัวอย่างของการนำเทคโนโลยี AI ไปใช้กับปฏิบัติการทางทหาร ซึ่งบ่งชี้ว่าบทบาทของ AI ในสงครามอนาคตจะเพิ่มมากขึ้น
- การพึ่งพารายชื่อเป้าหมายลอบสังหารที่ปัญญาประดิษฐ์เป็นผู้ตัดสินก่อให้เกิดปัญหาด้านจริยธรรม และเพิ่มความเป็นไปได้ของความสูญเสียต่อพลเรือนจากการระบุเป้าหมายผิดพลาด
- จำเป็นต้องมีการถกเถียงอย่างลึกซึ้งว่าเทคโนโลยีนี้จะเปลี่ยนโฉมหน้าของสงครามอย่างไร และต้องมีการตีความใหม่ต่อกฎหมายระหว่างประเทศและกฎหมายสงคราม
- การนำระบบอย่างลาเวนเดอร์มาใช้สามารถเพิ่มประสิทธิภาพทางทหารได้ แต่ในขณะเดียวกันก็มีด้านที่ย้อนแย้ง เพราะอาจทำให้ชีวิตของพลเรือนผู้บริสุทธิ์ตกอยู่ในอันตราย
- จำเป็นต้องพิจารณาว่าเทคโนโลยีนี้จะส่งผลต่อประชาคมโลกในอนาคตอย่างไร และควรมีการจัดทำกฎระเบียบหรือมาตรการรับมือกับมัน
1 ความคิดเห็น
ความคิดเห็นจาก Hacker News
นักวิจัยได้แสดงความกังวลมานานแล้วเกี่ยวกับการเล็งเป้าบุคคลจากความเชื่อมโยงทางอ้อม ระบบลักษณะนี้เดิมถูกใช้เพื่อการเฝ้าระวัง แต่ตอนนี้ถูกใช้เกินกว่าการเฝ้าระวังธรรมดาไปสู่การสังหารผู้คนจริง ๆ
แสดงความกังวลต่อแนวคิดที่ปัญญาประดิษฐ์ (AI) ตัดสินใจล่วงหน้าเกี่ยวกับการสังหารมนุษย์ ในกรณีนี้ยังมีการอนุมัติจากมนุษย์ แต่ก็ชี้ว่านี่ห่างจากสถานการณ์ที่มนุษย์ถูกหุ่นยนต์สังหารโดยไม่มีมนุษย์แทรกแซงเพียงก้าวเดียว
ชี้ว่าหลายคนคงจะดูแค่พาดหัวแล้วไม่อ่านเนื้อหา พร้อมแนะนำให้สังเกตย่อหน้าที่สองของบทความ
เสนอให้ไปฟังซีซันปัจจุบันของพอดแคสต์ Serial
แม้จะเป็นเรื่องเล่าที่พรรณนาการกระทำของอิสราเอลในเชิงลบ แต่ก็ยังอ่านได้ว่าอย่างน้อยมีความพยายามจะโจมตีเป้าหมายทางทหาร
ตั้งคำถามถึงความแม่นยำของเทคโนโลยีนี้ และชี้ว่าดูเหมือนจะสนใจการทำให้มันดูเป็นเทคโนโลยีล้ำสมัยมากกว่าผลลัพธ์จริง
กล่าวว่ากองกำลังป้องกันอิสราเอล (IDF) ไม่ได้สนใจเพียงการสังหารอาคารทางทหารหรือผู้ปฏิบัติการของฮามาสที่กำลังทำกิจกรรมทางทหารเท่านั้น
ตั้งคำถามว่าการใช้ AI นำประโยชน์อะไรมาให้กับการบรรลุเป้าหมายของ IDF
The Guardian ก็ลงเรื่องนี้เป็นข่าวหน้าหนึ่งเช่นกัน และได้รับรายละเอียดล่วงหน้า
แหล่งข่าวรายหนึ่งกล่าวว่าพนักงานมนุษย์ทำหน้าที่เพียง "ประทับตรารับรอง" การตัดสินใจของเครื่อง