ปัญหาซิลิคอนแวลลีย์ของเพนตากอน

ปัญหาเพนตากอนของซิลิคอนแวลลีย์

• รอน บาร์ ผู้อำนวยการชินเบต หน่วยงานความมั่นคงภายในของอิสราเอล เปิดตัวแพลตฟอร์มปัญญาประดิษฐ์ที่พัฒนาขึ้นภายในองค์กร
• เทคโนโลยีนี้ถูกใช้เพื่อวิเคราะห์ข้อมูลเกี่ยวกับผู้ก่อการร้าย คาดการณ์ความเสี่ยง และส่งสัญญาณเตือน
• การโจมตีของฮามาสทำให้ระบบป้องกันของอิสราเอลตั้งตัวไม่ทันอย่างสิ้นเชิง ทั้งที่ฮามาสได้เตรียมการอย่างเปิดเผยมาตลอด

บิ๊กเทคที่กำลังตามหลังในสงครามอนาคต

• มิเชล ฟลูร์นอย เน้นย้ำความสำคัญของความเชื่อมโยงระหว่างซิลิคอนแวลลีย์กับรัฐบาลสหรัฐฯ
• เพนตากอนมักถูกมองว่าต่อต้านเทคโนโลยีใหม่ แต่ในความเป็นจริงกลับลงทุนในโครงการ AI จำนวนมาก
• เทคโนโลยี AI อาจส่งผลต่อวิธีดำเนินปฏิบัติการทางทหาร แต่ก็ยังมีการส่งเสริมมายาคติว่าเหล่านักอุดมคติในอุตสาหกรรมเทคโนโลยีกำลังปฏิวรณ์จักรกลสงคราม

ความเชื่อว่าซอฟต์แวร์สามารถแก้ไขความขัดแย้งของมนุษย์ได้

• บทบาทของซอฟต์แวร์ในการทำสงครามของสหรัฐฯ มีประวัติศาสตร์ยาวนาน
• ในสงครามเวียดนาม ปฏิบัติการ Igloo White ได้ติดตั้งเซ็นเซอร์เพื่อตรวจจับความเคลื่อนไหวของศัตรู แต่ล้มเหลว
• ซิลิคอนแวลลีย์เติบโตมาจากอุตสาหกรรมอิเล็กทรอนิกส์ที่มีส่วนช่วยให้ชนะสงครามโลกครั้งที่ 2 และได้รับการสนับสนุนจากเพนตากอนในช่วงสงครามเย็น

ความสัมพันธ์ระหว่างซิลิคอนแวลลีย์กับเพนตากอน

• อุตสาหกรรมเทคโนโลยีของซิลิคอนแวลลีย์เดิมทีมีความสัมพันธ์ใกล้ชิดกับอุตสาหกรรมป้องกันประเทศ และอินเทอร์เน็ตก็พัฒนามาจาก ARPANET ของเพนตากอน
• ปีเตอร์ ธีล มีเป้าหมายที่จะพาซิลิคอนแวลลีย์กลับไปสู่การเป็นส่วนหนึ่งของกลุ่มอุตสาหกรรมทหาร
• เพนตากอนพยายามใช้เทคโนโลยีจากซิลิคอนแวลลีย์เพื่อรักษาความได้เปรียบทางเทคโนโลยีของสหรัฐฯ

เทคโนโลยีป้องกันประเทศของซิลิคอนแวลลีย์

• บริษัทต่างๆ ในซิลิคอนแวลลีย์กำลังขยายกิจกรรมในภาคกลาโหม ซึ่งเท่ากับเพิ่มผู้เล่นหน้าใหม่เข้าไปในกลุ่มอุตสาหกรรมทหารเดิม
• Google พัฒนาเทคโนโลยีสำหรับประมวลผลภาพจากโดรนผ่าน Project Maven แต่ถอนตัวจากโครงการนี้หลังพนักงานคัดค้าน
• บริษัทในซิลิคอนแวลลีย์กำลังขยายบทบาทในภาคกลาโหมมากขึ้น และสิ่งนี้ถูกมองว่าเป็นแหล่งรายได้ที่มั่นคงจากงบประมาณด้านกลาโหม

ความเห็นของ GN⁺

• บทความนี้ให้มุมมองที่น่าสนใจเกี่ยวกับการนำเทคโนโลยีกลาโหมและปัญญาประดิษฐ์ไปใช้จริงในปฏิบัติการทางทหาร
• บทความตั้งคำถามว่าเทคโนโลยี AI จะสามารถเข้าใจและรับมือกับความซับซ้อนของสนามรบจริงได้อย่างครบถ้วนหรือไม่
• บทความจุดประกายการถกเถียงสำคัญว่าความร่วมมือระหว่างอุตสาหกรรมเทคโนโลยีกับภาคกลาโหมจะส่งผลต่อความมั่นคงแห่งชาติอย่างไร
• บทความนี้เน้นย้ำประเด็นจริยธรรมที่อาจเกิดขึ้นเมื่อบริษัทในซิลิคอนแวลลีย์เข้าไปมีส่วนร่วมในภาคกลาโหมลึกยิ่งขึ้น
• บทความนี้เตือนว่าความก้าวหน้าทางเทคโนโลยีไม่ได้แปลว่าจะนำไปสู่ความสำเร็จทางทหารเสมอไป โดยยกตัวอย่างโครงการที่ล้มเหลวในอดีตมาสนับสนุน

[GN⁺]

ความคิดเห็นบน Hacker News

• ตัวอย่างที่ยกมาในบทความดูเหมือนจะถูกคัดเลือกมาแบบเลือกเฉพาะบางกรณี จะโทษความล้มเหลวในเวียดนามว่าเป็นความผิดของคอมพิวเตอร์ IBM 360 อย่างเดียวไม่ได้ การโจมตีของ Hamas อาจทำให้อิสราเอลประหลาดใจก็จริง แต่ในช่วงไม่กี่ปีที่ผ่านมา Iron Dome ก็ทำงานได้ดี สหรัฐฯ เคยเตือนเรื่องการโจมตีของรัสเซียต่อยูเครน แต่หลายคนไม่รับฟัง และผู้ที่สร้างระเบิดปรมาณูก็คือนักฟิสิกส์ทฤษฎี
• เช่นเดียวกับสื่อจำนวนมาก บทความนี้อธิบาย AI แบบเหมารวมเกินไป ความสามารถด้านการพยากรณ์ของ machine learning (ML) ถูกใช้ในกองทัพสมัยใหม่มาหลายทศวรรษแล้ว ตอนเปิดของบทความชวนให้คิดว่า LLM มีบทบาทสำคัญต่อความล้มเหลวด้านข่าวกรองในเหตุโจมตีวันที่ 7 ตุลาคม แต่ความจริงไม่ใช่เช่นนั้น ML จะยังคงมีบทบาท ทั้งประสบความสำเร็จและล้มเหลวซ้ำไปมา และยิ่งไม่สมบูรณ์มากขึ้นเมื่อเผชิญกับ adversarial ML การโทษเครื่องมือที่ไม่สมบูรณ์นั้นไม่เป็นประโยชน์
• ระบบ AI รู้ทุกอย่างเกี่ยวกับ Hamas แต่สมาชิก Hamas ก็ป้อนข้อมูลที่ AI อยากได้ยิน เมื่ออีกฝ่ายมองเห็นทุกการกระทำและทุกคำพูดของคุณ การป้องกันเพียงอย่างเดียวก็คือความเป็นส่วนตัว ในนวนิยายเรื่อง "ปัญหาสามกาย" ความเป็นส่วนตัวมีอยู่เฉพาะในจิตใจของมนุษย์ และมีแต่มนุษย์เท่านั้นที่สามารถตัดสินใจบนพื้นฐานของกลยุทธ์ที่ไม่เคยพูดออกมาได้ นิยายวิทยาศาสตร์กำลังกลายเป็นความจริง
• แทบเป็นไปไม่ได้เลยที่จะออกแบบระบบที่ดีโดยไม่มี use case ที่ชัดเจน ยูเครนมี use case แบบนี้ และมีแรงจูงใจสูงที่จะจัดการกับมัน ยูเครนควบคุมสนามรบด้วยคอมพิวเตอร์ทั่วไป และใช้โดรนทางทะเลระยะไกลจมเรือรบรัสเซียไปหลายลำ เมื่อไม่นานมานี้ก็เริ่มทดสอบโดรนบินราคาถูกจำนวนมากที่ติดตั้งการรู้จำเป้าหมายด้วย computer vision แต่สหรัฐฯ อยู่ในภาวะสันติ ซึ่งในตัวมันเองก็เป็นเรื่องดี ทว่าในทางปฏิบัติก็ทำให้สูญเสียงบประมาณนับพันล้านดอลลาร์ไปกับเทคโนโลยีที่ไร้ประโยชน์ได้ง่าย
• คำว่า 'น่าประหลาดใจ' ฟังดูแปลก สื่ออิสราเอลรายงานซ้ำแล้วซ้ำเล่าว่านักวิเคราะห์แนวหน้าได้ส่งสัญญาณเตือนแล้วแต่ถูกเพิกเฉย เรื่องนี้อาจเป็นเพราะการเหยียดเพศ การเหยียดอายุ และการเลือกปฏิบัติที่เกี่ยวกับการเกณฑ์ทหาร หรืออาจเป็นเพราะกลุ่มผู้ตั้งถิ่นฐานในรัฐบาลมีความตั้งใจแรงกล้าที่จะกลับไปตั้งถิ่นฐานในฉนวนกาซา ไม่ว่าอย่างไร สัญญาณนั้นมีอยู่ และมีการสังเกตการเตรียมการกับการซ้อมมาราวหนึ่งปี ต่อให้กลุ่มต่อต้านจะเก็บความลับไว้ได้ เจ้าหน้าที่ข่าวกรองหรือทหารระดับทั่วไปก็ควรสรุปได้ในที่สุดว่าจะต้องมีการตอบโต้ด้วยความรุนแรง
• ผมไม่ค่อยรู้เรื่องเทคโนโลยีของอิสราเอลมากนัก แต่ Pentagon มีปัญหาภาพลักษณ์ใน Silicon Valley ดูเหมือนจะไม่ใช่ที่ที่ดึงดูดคนเก่งที่สุด หรือแม้แต่ให้ไปทำงานกับบริษัทรับสัญญาอย่าง Palantir คนรุ่นเราใกล้กับอิรักและเวียดนามมากกว่าสงครามโลกครั้งที่สอง และคนหัวกะทิจำนวนมากก็เป็นผู้อพยพรุ่นแรก ช่วงหลัง ad tech ก็มีปัญหาภาพลักษณ์เช่นกัน (เมื่อผู้คนเริ่มเห็นกระบวนการสร้างมากขึ้น) แต่การทำงานให้บริษัทผู้บริโภครายใหญ่ก็ยังน่าดึงดูดกว่าการทำงานในอุตสาหกรรมป้องกันประเทศ หากจะชวนเพื่อนร่วมงานให้ไปทำงานให้รัฐบาลสหรัฐฯ ไม่ว่าโดยตรงหรือโดยอ้อม ก็ต้องจ่ายเงินให้มากกว่านี้ แต่กลับมักได้เงินน้อยกว่า และมีอิสระสำหรับกิจกรรมนอกเวลางานน้อยกว่า
• ช่วงท้ายบทความ Cockburn บ่นว่าตอนถาม ChatGPT เกี่ยวกับงานของ IDF และ Palantir กลับได้คำตอบเพ้อฝัน ถ้าค้นหา "IDF Palantir" บน DuckDuckGo.com ก็จะเจอลิงก์ข่าวหลายชิ้น หากประเด็นคือ LLM ยังเชื่อถือไม่ได้ในตอนนี้ก็ใช่ แต่ถ้าประเด็นคือไม่อาจรู้ได้ว่า Palantir ร่วมงานกับ IDF หรือไม่ ก็มีหลักฐานอยู่แล้ว
• ไม่มีทางหนีพ้นสัจธรรมอมตะเรื่อง measurement กับ countermeasure ได้... คนโง่ที่มีเครื่องมือก็ยังคงเป็นคนโง่...
• ดูเหมือนว่าทีมปฏิบัติการจะถูกถาโถมด้วย false alarm จากภาระการ on-call วิธีที่ดีที่สุดในการแก้ข้อผิดพลาดก็คือ... แค่เมินมันไป ระบบซับซ้อนที่ต้องให้เจ้าหน้าที่สายระบบราชการมาดูแลนั้นถูกกำหนดมาให้ล้มเหลวอยู่แล้ว