1 คะแนน โดย GN⁺ 2024-03-29 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • องค์กรด้านกลาโหมและข่าวกรองของสหรัฐฯ และอิสราเอลชู AI และเทคโนโลยีจาก Silicon Valley ว่าเป็นทางออกใหม่ในการตัดสินใจเรื่องสงคราม แต่หลายกรณีแสดงให้เห็นว่าความมั่นใจทางเทคโนโลยีปะทะกับความล้มเหลวภาคสนามซ้ำแล้วซ้ำเล่า
  • Shin Bet กล่าวว่าตนได้ผสานรวม AI เชิงสร้างสรรค์เข้าไปเหมือน “ผู้ช่วยนักบิน” ในการตัดสินใจ แต่การโจมตีของ Hamas เมื่อวันที่ 7 ตุลาคม 2023 กลับจู่โจมระบบป้องกันและข่าวกรองของอิสราเอลได้ แม้จะมีวิดีโอเฝ้าระวัง การฝึกซ้อมที่เปิดเผยต่อสาธารณะ รายงานภายใน และเอกสารล่วงหน้าอยู่แล้ว
  • โครงการ Igloo White, Assault Breaker, Future Combat Systems และ Secure Border Initiative Network ในแวดวงกลาโหมสหรัฐฯ พยายามควบคุมสนามรบด้วยคอมพิวติ้งและเซ็นเซอร์ แต่ล้มเหลวหรือถูกยกเลิกหลังใช้เงินมหาศาล
  • ตรงข้ามกับภาพลักษณ์ว่า Pentagon เฉื่อยชาต่อ AI ที่จริงแล้วสนับสนุนโครงการ AI อย่างน้อย 686 โครงการ และในปี 2022 ได้มอบสัญญา Joint Warfighting Cloud Capability มูลค่าสูงสุด 9 พันล้านดอลลาร์ให้แก่บริษัทเทคโนโลยีรายใหญ่
  • Google, Amazon, Microsoft, Palantir และ Anduril เข้าสู่ตลาดกลาโหมอย่างลึกซึ้ง แต่กรณี Project Maven, IVAS, Roadrunner และ Palantir เผยให้เห็นว่า AI ทางทหารมาพร้อมกันทั้งข้อถกเถียงด้านจริยธรรม ขีดจำกัดด้านประสิทธิภาพ การตลาดเกินจริง และปัญหา hallucination

การโจมตี 7 ตุลาคมที่ AI มองพลาด

  • Ronen Bar ผู้อำนวยการ Shin Bet ประกาศก่อนการโจมตีของ Hamas 3 เดือนว่า หน่วยงานความมั่นคงภายในได้พัฒนา แพลตฟอร์ม AI เชิงสร้างสรรค์ คล้าย ChatGPT และผสานรวมเข้ากับ “interdiction machine” อย่างแนบเนียน
  • ระบบนี้ถูกออกแบบมาให้วิเคราะห์พฤติกรรมและคาดการณ์ความเสี่ยงเพื่อแจ้งเตือน โดยอาศัยการเคลื่อนไหว เพื่อน ครอบครัว กิจกรรม คำพูด และโพสต์ของเป้าหมาย
  • การโจมตีของ Hamas เมื่อวันที่ 7 ตุลาคม 2023 ทำให้ Shin Bet และระบบป้องกันมูลค่าหลายพันล้านดอลลาร์ของอิสราเอลถูกจู่โจมแบบไม่ทันตั้งตัวโดยสิ้นเชิง
    • Hamas ทำการฝึกซ้อมอย่างเปิดเผยโดยใช้แบบจำลองกำแพงชายแดนและชุมชนตั้งถิ่นฐานของอิสราเอลเป็นเป้าหมาย
    • กลุ่มติดอาวุธที่นำโดย Hamas โพสต์วิดีโอการฝึกซ้อมออนไลน์
    • ชาวอิสราเอลที่อยู่ใกล้ชายแดนสังเกตเห็นการฝึกซ้อมและแจ้งเตือน แต่ถูกเพิกเฉย
    • ทหารเกณฑ์อิสราเอลที่เฝ้ากล้องวงจรปิดบริเวณชายแดน Gaza ส่งรายงานละเอียดเกี่ยวกับการเตรียมเจาะกำแพงและลักพาตัวตัวประกัน แต่ถูกปัดตกว่าเป็น “สถานการณ์สมมติในจินตนาการ”
    • หน่วยข่าวกรองอิสราเอลมีเอกสารของ Hamas ที่ระบุแผนโจมตีอย่างละเอียดอยู่ในมือมานานกว่าหนึ่งปีแล้ว
  • สมาชิก Hamas ปรับตัวให้เข้ากับวิธีข่าวกรองของอิสราเอล โดยปล่อยข้อมูลที่อิสราเอลอยากได้ยินผ่านแหล่งข่าวที่ตนรู้จัก
    • ส่งสัญญาณว่า Hamas ใน Gaza กำลังมุ่งปรับปรุงเศรษฐกิจท้องถิ่นผ่านการเข้าถึงตลาดแรงงานของอิสราเอล
    • ทำให้เกิดภาพว่า Hamas ถูกยับยั้งไม่ให้ลงมือเพราะอำนาจทางทหารอันเหนือกว่าของอิสราเอล
  • ความล้มเหลวนี้ตอกย้ำความต่างระหว่างความมั่นใจแบบที่ว่า AI “รู้ทุกอย่างเกี่ยวกับผู้ก่อการร้าย” กับขีดจำกัดที่ไม่อาจรู้ได้ว่าเป้าหมายคิดอะไรจริง ๆ

ทัศนะมองโลกในแง่ดีต่อ AI ด้านกลาโหมกับความจริงของ Pentagon

  • Michèle Flournoy เขียนใน Foreign Affairs ว่า AI จะเปลี่ยนวิธีการทำสงคราม การตรวจจับภัยคุกคาม การบำรุงรักษาระบบอาวุธ และการประเมินต้นทุนของการตัดสินใจเชิงยุทธศาสตร์
  • ระบบราชการของ Pentagon มักถูกชี้ว่าเป็นอุปสรรคที่ขวางไม่ให้บริษัทเทคโนโลยีเข้าสู่ภาคกลาโหม แต่ยากจะมองว่า Pentagon เป็นองค์กรที่ไม่สนใจ AI
    • มีรายงานว่าให้ทุนโครงการ AI อย่างน้อย 686 โครงการ
    • ในปี 2022 สัญญา Joint Warfighting Cloud Capability มอบงานมูลค่าสูงสุด 9 พันล้านดอลลาร์ให้บริษัทเทคโนโลยีรายใหญ่
    • เจ้าหน้าที่ Pentagon รายหนึ่งกล่าวว่าสัญญานี้จะ “turbocharge” โซลูชัน AI
  • Gamechanger เป็นโครงการ AI ที่ออกแบบมาเพื่อช่วยให้พนักงาน Pentagon ค้นหาว่าองค์กรขนาดใหญ่นี้กำลังทำอะไรจริง ๆ และเงินไหลไปที่ใด
    • ข่าวประชาสัมพันธ์ของ Joint Artificial Intelligence Center เมื่อต้นปี 2022 อ้างถึงแหล่งข้อมูลที่ระบุว่า “28 Authoriative Sources”
    • เจ้าหน้าที่บัญชีระดับสูงของ Pentagon รายหนึ่งคาดหวังว่าจะนำ Gamechanger มาใช้เพิ่มการมองเห็นและความเข้าใจต่อข้อมูลงบประมาณโดยรวม
  • ถึงกระนั้น ในปี 2023 Pentagon ก็ยังไม่ผ่านการตรวจสอบทางการเงิน เป็น ความล้มเหลวติดต่อกันเป็นปีที่ 6
  • เรื่องเล่าว่าบุคคลจากอุตสาหกรรมเทคโนโลยีจะปฏิรูประบบทหาร นำไปสู่มายาคติว่าระบบกลาโหมที่ขึ้นชื่อเรื่องอาวุธแพงแต่ประสิทธิภาพแย่และความพ่ายแพ้ในสงคราม ก็อาจถูกปรับปรุงได้ถึงรากฐาน

ความล้มเหลวซ้ำ ๆ ในการควบคุมสนามรบด้วยคอมพิวติ้ง

  • ในการทำสงครามของสหรัฐฯ มีความเชื่อมานานแล้วว่าซอฟต์แวร์สามารถแก้ปัญหาความขัดแย้งของมนุษย์ได้
  • Igloo White

    • ระหว่างปี 1967~1972 กองทัพอากาศสหรัฐฯ วางเซ็นเซอร์จำนวนมากรอบเส้นทาง Ho Chi Minh trail ในป่าของเอเชียตะวันออกเฉียงใต้
    • ปฏิบัติการนี้พยายามตรวจจับกิจกรรมของมนุษย์จากเสียงฝีเท้า กลิ่นแอมโมเนียในปัสสาวะ และสัญญาณอิเล็กทรอนิกส์จากการจุดระเบิดเครื่องยนต์ แล้วส่งข้อมูลไปยังคอมพิวเตอร์ IBM ที่ฐานลับในไทยเพื่อระบุเส้นทางลำเลียง
    • ค่าใช้จ่ายอย่างน้อยหลายร้อยล้านดอลลาร์ต่อปี แต่จบลงด้วย ความล้มเหลวโดยสิ้นเชิง
    • ทหารเวียดนามแขวนถังปัสสาวะไว้บนต้นไม้นอกเส้นทาง หรือไล่ปศุสัตว์ไปตามทางที่ไม่ได้ใช้ เพื่อให้คอมพิวเตอร์ประมวลผลว่าเป็นการเคลื่อนที่ของศัตรู
    • ในปี 1972 กองทัพเวียดนามเหนือเปิดฉากรุกด้วยรถถังหลายร้อยคัน แต่ Igloo White ตรวจจับไม่ได้เลย และปฏิบัติการก็ถูกยกเลิกไม่นานหลังจากนั้น
  • Assault Breaker และโครงการถัดมา

    • หลังสหรัฐฯ ถอนตัวจากเวียดนาม สหรัฐฯ ทุ่มเงินมหาศาลให้ Assault Breaker ซึ่งใช้เรดาร์ทางอากาศมองลึกเข้าไปยังแนวหลังของโซเวียตในยุโรปตะวันออก
    • ในการทดสอบ ระบบนี้แยกแยะรถถัง รถยนต์ และต้นไม้ที่ไหวตามลมไม่ได้ และถูกยกเลิกในทศวรรษถัดมา
    • Future Combat Systems เสนอแนวคิดเชื่อมเซ็นเซอร์กับอาวุธผ่านโปรเซสเซอร์ประสิทธิภาพสูง เพื่อให้โจมตีเป้าหมายได้ง่ายจนแทบไม่ต้องใช้เกราะป้องกัน แต่ใช้เงินไปเกือบ 20 พันล้านดอลลาร์แล้วจบลงโดยไม่มีผลงาน
    • Secure Border Initiative Network ของ Department of Homeland Security ถูกโปรโมตว่าเป็น “กำแพงเสมือน” ที่เชื่อมเรดาร์ กล้อง และเซ็นเซอร์ตรวจการณ์เข้าด้วยกัน แต่ถูกยกเลิกในปี 2011
    • Boeing เป็นผู้รับเหมาหลักของ Future Combat Systems และ Secure Border Initiative Network และความล้มเหลวเหล่านี้ตัดกับความคาดหวังว่านวัตกรรมเร็วแบบ Silicon Valley จะเข้ามาแทนความล้มเหลวของบริษัทกลาโหมดั้งเดิมได้

การกลับมารวมตัวของ Silicon Valley กับกลุ่มอุตสาหกรรมทหาร

  • อุตสาหกรรม Silicon Valley เชื่อมโยงอย่างลึกซึ้งกับอุตสาหกรรมอิเล็กทรอนิกส์ที่เติบโตภายใต้การสนับสนุนของ Pentagon
    • วงจรรวมซึ่งเป็นแกนหลักของคอมพิวเตอร์ยุคใหม่ ผลิตขึ้นครั้งแรกโดย Texas Instruments ในปี 1958 และงบกลาโหมช่วยผลักดันการพัฒนา
    • การใช้งานช่วงแรกคือระบบนำวิถีของขีปนาวุธนิวเคลียร์ข้ามทวีป Minuteman II
  • Apple Computer เข้าตลาดหลักทรัพย์ในเดือนธันวาคม 1980 ไม่ถึงหนึ่งเดือนก็ถูกประเมินมูลค่าสูงกว่า Ford และ Macintosh ถูกนำเสนอด้วยภาพลักษณ์เชิงปลดปล่อยว่าจะมอบพลังคอมพิวเตอร์ระดับองค์กรให้แก่บุคคลทั่วไป
  • การแยกตัวจากกลาโหมไม่ได้สมบูรณ์
    • อินเทอร์เน็ตมาจาก ARPANET ที่พัฒนาโดย Advanced Research Projects Agency ของ Pentagon
    • งานวิจัยยุคแรกที่ Stanford ของ Larry Page และ Sergey Brin ผู้ก่อตั้ง Google ได้รับทุนบางส่วนจากหน่วยงานเดียวกันของ Pentagon ซึ่งต่อมากลายเป็น DARPA
    • Google Earth เริ่มจาก Keyhole EarthViewer ซึ่งได้รับทุนบางส่วนจาก In-Q-Tel องค์กรเงินร่วมลงทุนของ CIA ก่อนที่ Google จะเข้าซื้อกิจการ
  • Peter Thiel สั่งสมความมั่งคั่งจากการร่วมก่อตั้ง PayPal และการลงทุนช่วงแรกใน Facebook แล้วหันไปผลักดันให้กลุ่มอุตสาหกรรมทหารกลับเข้าสู่ Silicon Valley
  • Palantir ก่อตั้งในปี 2003 ให้บริการซอฟต์แวร์ที่ตรวจจับและถ่ายทอดรูปแบบข้อมูลแบบภาพ โดยอาศัยเทคโนโลยีตรวจจับการฉ้อโกงของ PayPal
    • CIA เป็นนักลงทุนช่วงแรกผ่าน In-Q-Tel
    • เป็นที่ทราบกันว่าสัญญาช่วงแรกจำนวนมากมาจากหน่วยข่าวกรอง
    • เคยมีข้ออ้างว่าบริษัทมีบทบาทสำคัญในการตรวจจับ GhostNet และที่ซ่อนของ Osama bin Laden แต่ไม่มีหลักฐานรองรับ
    • Palantir โปรโมตเทคโนโลยีผ่านนายทหาร Army ระดับกลางและสมาชิกสภาที่สนับสนุน แม้จะมีการคัดค้านจากนายทหารระดับสูง

องค์กรนวัตกรรมด้านกลาโหมและ Project Maven

  • Robert O. Work เตือนว่าสหรัฐฯ กำลังสูญเสียความได้เปรียบทางเทคโนโลยีที่เคยมีในอาวุธนิวเคลียร์และอาวุธนำวิถีแม่นยำ และจีนกับรัสเซียกำลังไล่ทัน
  • ในปี 2014 Chuck Hagel รัฐมนตรีกลาโหมเปิดตัว Defense Innovation Initiative ภายใต้การกำกับของ Work โดยกล่าวว่าจะมองหาข้อเสนอจากบริษัทและแวดวงวิชาการนอกขอบเขตดั้งเดิมของกระทรวงกลาโหมอย่างจริงจัง
  • Ash Carter เดินทางเยือนพื้นที่เทคโนโลยีซ้ำ ๆ และในปี 2015 ก่อตั้ง Defense Innovation Unit Experimental ที่ Mountain View ใกล้สำนักงานใหญ่ Google และ Apple
    • ต่อมา “Experimental” ถูกตัดออกจากชื่อ
    • Department of Homeland Security ก็จัดตั้งสำนักงานสาขาใกล้ ๆ เพื่อสร้างความสัมพันธ์กับบริษัทเทคโนโลยีใน Silicon Valley
  • ในปี 2016 Carter จัดตั้ง Defense Innovation Advisory Board ที่นำโดย Eric Schmidt และต่อมา Schmidt เป็นผู้นำ National Security Commission on Artificial Intelligence โดยมี Work เป็นรองประธาน
  • Project Maven เป็นโครงการที่ Work สร้างขึ้น โดยมีเป้าหมายเร่งการผสานรวม บิ๊กดาต้าและแมชชีนเลิร์นนิง ของ Pentagon
    • ในปี 2017 Google ได้สัญญาพัฒนาเครื่องมือประมวลผลกระแสวิดีโอจากโดรนอย่างต่อเนื่องเพื่อระบุเป้าหมาย
    • ตามอีเมลภายในที่รั่วไปยัง Gizmodo การมีส่วนร่วมของ Google ถูกกำหนดไว้ว่าจะไม่เปิดเผยโดยไม่ได้รับอนุญาตจากบริษัท
    • Fei-Fei Li หัวหน้านักวิทยาศาสตร์ AI ของ Google Cloud ส่งอีเมลสั่งให้หลีกเลี่ยงการกล่าวถึงหรือบอกใบ้ถึง “AI”
    • เมื่อสัญญาถูกเปิดเผย พนักงาน Google ประมาณ 4,000 คนลงชื่อในคำร้องเรียกร้องนโยบายที่ชัดเจนว่า Google หรือผู้รับเหมาจะไม่สร้างเทคโนโลยีสงคราม และบางคนลาออก

ขีดจำกัดด้านประสิทธิภาพและการย้ายงานสู่ผู้รับเหมาช่วงหลัง Maven

  • แหล่งภาพของ Project Maven คือระบบกล้องพ็อด Gorgon Stare ที่ติดตั้งบนโดรน Reaper
  • Gorgon Stare ถูกโปรโมตเหมือนว่าสามารถมองเห็นทุกสิ่ง แต่รายงานปี 2011 ของหน่วยทดสอบที่ Eglin Air Force Base ชี้ให้เห็นข้อบกพร่องหลายอย่าง
    • กล้องค้นหาและระบุเป้าหมายได้ไม่ง่าย
    • อัตราการส่งข้อมูลช้าเกินไป
    • หน่วยทดสอบสรุปว่า “ไม่มีประสิทธิผลในการปฏิบัติการ” และแนะนำไม่ให้ส่งไป Afghanistan แต่กองทัพอากาศก็ส่งไปประจำการ
  • อดีตนักบินขับไล่และนักวิเคราะห์ของ Pentagon รายหนึ่งกล่าวว่าการรู้จำเป้าหมายอัตโนมัติ (ATR) ยังใช้ไม่ได้แม้ทุ่มค่าใช้จ่ายมาหลายปี
  • ทหารผ่านศึกอีกรายที่ทำงานกับปัญหานี้ในหน่วยงานของ Pentagon มองว่านักพัฒนา AI ดูเหมือนไม่เข้าใจข้อกำหนดทางทหารบางส่วน
    • ในการทดลองของ DARPA หมวด Marines เปลี่ยนรูปร่างเงาของร่างกายเพื่อหลีกเลี่ยงการตรวจจับของหุ่นยนต์ที่ควบคุมด้วย AI
    • สองคนเข้าไปอยู่ในกล่องกระดาษแข็งขนาดใหญ่แล้วเคลื่อนที่ คนอื่น ๆ ตีลังกา และอีกคนสวมกิ่งต้นสน
    • ทุกคนผ่านพื้นที่โล่ง เข้าใกล้หุ่นยนต์ และสัมผัสตัวมันได้โดยไม่ถูกตรวจพบ
  • หลัง Google ถอนตัวจาก Maven Microsoft, Amazon, Palantir และรายอื่น ๆ รับช่วงเป็นผู้รับเหมาช่วงต่อ
    • Jack Poulson ผู้ลาออกจาก Google เป็นผู้ค้นพบข้อเท็จจริงนี้
    • ต่อมา Poulson เริ่ม Tech Inquiry เพื่อติดตามสัญญาของ Defense Innovation Unit และองค์กรที่เกี่ยวข้อง

สัญญาคลาวด์และช่องว่างเทคโนโลยี-กลาโหมที่หายไป

  • การถอนตัวของ Google จาก Maven ก่อให้เกิดกระแสต่อต้านรุนแรงจากฝ่ายเทคโนโลยีกลาโหม
    • Peter Thiel เรียกท่าทีของ Google ว่า “ทรยศ”
    • Eric Schmidt กล่าวว่าเขาไม่เห็นด้วยกับการตัดสินใจนั้น
    • Jeff Bezos กล่าวว่าหากบริษัทเทคโนโลยีขนาดใหญ่หันหลังให้ Department of Defense สหรัฐฯ จะลำบาก
  • Amazon ชนะ สัญญา 10 ปี มูลค่า 600 ล้านดอลลาร์ จาก CIA ในปี 2013 เพื่อให้บริการคลาวด์ AWS สำหรับการใช้งานของหน่วยข่าวกรอง
  • คลาวด์คอมพิวติ้งกลายเป็นแนวหน้ารายได้ใหม่ของบริษัทอย่าง Amazon, Microsoft, Oracle และ Google
  • Google ทิ้งความกังวลด้านศีลธรรมช่วงข้อถกเถียง Maven ไว้เบื้องหลัง และเข้าประมูลเพื่อคว้าส่วนแบ่งในสัญญา Joint Warfighting Cloud Capability มูลค่าสูงสุด 9 พันล้านดอลลาร์
  • บริษัทต่าง ๆ ทำกำไรก้อนโตจากบริการเชิงพาณิชย์ ขณะเดียวกันก็เริ่มมองรัฐบาลเป็นแหล่งรายได้ที่มั่นคงและอุดมสมบูรณ์ ช่องว่างระหว่างอุตสาหกรรมเทคโนโลยีกับ Pentagon จึงหายไปอย่างรวดเร็ว

Anduril, Roadrunner, IVAS

  • แม้อิทธิพลของโดรนในสงคราม Ukraine จะถูกพูดถึงอย่างมาก แต่โดรนจำนวนมากที่พบได้ทั่วไปและมีประสิทธิภาพทั้งสองฝ่ายใกล้เคียงกับอุปกรณ์เรียบง่ายราคาถูกที่ประกอบจากชิ้นส่วนที่หาได้ด้วยบัญชี Amazon แล้วบรรทุกระเบิดขนาดเล็กหรือกระสุนปืนใหญ่
  • Anduril เปิดตัว Roadrunner ในเดือนธันวาคม 2023
    • เป็นโดรนขับเคลื่อนด้วยไอพ่นขนาดเล็ก ซึ่งบริษัทระบุว่าสามารถตรวจจับและทำลายภัยคุกคามที่ขับเคลื่อนด้วยไอพ่น รวมถึงโดรน ได้โดยอัตโนมัติ แล้วกลับฐานได้
    • ตามรายงานของ Newsweek ราคาของมันอยู่ในระดับ “หลักหลายแสนดอลลาร์ช่วงต้น”
    • วิดีโอเปิดตัวแสดงให้เห็น Roadrunner ปฏิบัติการทดสอบได้อย่างสมบูรณ์แบบ
  • Franklin “Chuck” Spinney นักวิเคราะห์ของ Pentagon ประเมินการโปรโมต Roadrunner ว่าเป็น “คำโฆษณาเหลวไหล” และสงสัยว่าฉากลงจอดเอาหางลงในทะเลทรายมีท่อไอเสียที่แทบไม่ก่อเสาฝุ่นเลยได้อย่างไร
  • Anduril เป็นบริษัทที่ก่อตั้งโดย Palmer Luckey ซึ่งพัฒนา Oculus และขายให้ Facebook ในราคา 3 พันล้านดอลลาร์ ก่อนหันมาโฟกัสด้านกลาโหม
    • Anduril ระบุว่าจะสร้างโมเดล 3D ที่สมบูรณ์ของพื้นที่กว้างด้วยแพลตฟอร์ม sensor fusion ที่ขับเคลื่อนด้วย AI
    • Luckey คาดการณ์ว่าทหารในอนาคตจะเป็น “ซูเปอร์ฮีโร่” ที่มี “ความรู้รอบด้านอย่างสมบูรณ์” รู้ตำแหน่งศัตรู ฝ่ายเดียวกัน และทรัพย์สินทั้งหมดในพื้นที่ปฏิบัติการ
  • Army ทำสัญญา 21.9 พันล้านดอลลาร์กับ Microsoft ในปี 2021 สำหรับ Integrated Visual Augmentation System(IVAS) ที่พัฒนาบน HoloLens
    • รายงานปี 2023 ของสำนักงานทดสอบและประเมินผลการปฏิบัติการของ Pentagon ระบุว่าทหารจำนวนมากที่ทดสอบรายงานความเสียหายทางร่างกายอย่างน้อยหนึ่งอย่าง เช่น สับสนทิศทาง เวียนศีรษะ ล้าตา ปวดศีรษะ เมารถ คลื่นไส้ ปวดคอ และการมองเห็นแบบอุโมงค์
    • ทหารยังชี้ว่าปัญหาได้แก่ ประสิทธิภาพในแสงน้อย คุณภาพการแสดงผล ความเทอะทะ ความน่าเชื่อถือต่ำ แยกมิตรศัตรูไม่ได้ ยิงลำบาก ความเสียหายทางร่างกาย และมุมมองรอบข้างที่จำกัด
    • Congress ระงับงบจัดซื้อส่วนใหญ่ไว้ แต่ Army จ่ายเงินเพิ่ม 125 ล้านดอลลาร์ให้ Microsoft เพื่อแก้ไขระบบ ทำให้ราคาทั้งหมดขึ้นไปเกือบแตะ 23 พันล้านดอลลาร์
    • Army อ้างว่าการทดสอบภายในของระบบที่แก้ไขแล้วได้รับฟีดแบ็กเชิงบวกจากทหาร

กระแส AI, Palantir และ hallucination

  • หลังการเปิดตัว ChatGPT Microsoft เห็นโอกาสที่ใหญ่ขึ้น แต่ก็มีความกังขาต่อความสามารถของ AI ควบคู่กันไป
  • Yann LeCun หัวหน้านักวิทยาศาสตร์ AI ของ Meta มองว่าคำเตือนเรื่องภัยคุกคามจากเครื่องจักรเหนือปัญญานั้นยังเร็วมาก เมื่อปัจจุบันยังไม่มีแม้แต่การออกแบบระบบที่เทียบได้กับความสามารถในการเรียนรู้ระดับแมว
  • Nate Koppikar ผู้ร่วมก่อตั้ง Orso Partners ประเมินสภาพอุตสาหกรรมเทคโนโลยีหลังปี 2016 ว่าใกล้เคียงกับ “เรื่องเหลวไหล”
    • ภาคเทคโนโลยีเสียเงินและลดพนักงานหลังฟองสบู่แตกปลายปี 2021
    • ความสูญเสียของนักลงทุนในอุตสาหกรรมถูกระบุไว้ราว 7.4 ล้านล้านดอลลาร์
    • เขากล่าวว่าคำสัญญาว่า AI คือ “สิ่งใหญ่ถัดไป” ถูกนำมาขายอย่างกะทันหัน
    • เขามองว่าความกลัวหุ่นยนต์ AI เป็นส่วนหนึ่งของแคมเปญการตลาดที่ทำให้ผู้คนเชื่อในพลังของเทคโนโลยี
    • AI มีแนวโน้มแต่งเรื่องขึ้นมา ซึ่งเป็นข้อบกพร่องที่ในอุตสาหกรรมเรียกว่า “hallucination”
  • ในปี 2023 ราคาหุ้น Palantir พุ่งขึ้นท่ามกลางกระแส AI และ Alex Karp ซีอีโอเปิดเผยต่อสาธารณะว่า Palantir “ยืนเคียงข้าง Israel”
  • Google Bard ให้คำตอบในรูปแบบข่าวประชาสัมพันธ์อย่างมืออาชีพว่า Palantir ประกาศความร่วมมือกับ IDF ในปี 2019 เพื่อพัฒนาเครื่องมือ AI แต่ข่าวประชาสัมพันธ์ดังกล่าวไม่มีอยู่จริง เป็น hallucination

1 ความคิดเห็น

 
GN⁺ 2024-03-29
ความคิดเห็นบน Hacker News
  • ตัวอย่างในบทความดูเหมือนถูก เลือกมาเฉพาะกรณี พอสมควร คงโทษความล้มเหลวในเวียดนามว่าเป็นเพราะ IBM 360 เครื่องเดียวได้ยาก และการโจมตีของ Hamas อาจทำให้ Israel ประหลาดใจได้ก็จริง แต่ Iron Dome เป็นเทคโนโลยีที่ทำงานได้ดีในช่วงไม่กี่ปีที่ผ่านมา
    สหรัฐฯ เตือนทุกคนที่อยากฟังอยู่แล้วว่า Russia จะโจมตี Ukraine และคนที่สร้างระเบิดปรมาณูก็เป็นนักฟิสิกส์เชิงทฤษฎีพอสมควรด้วย

    • แค่ข้อเท็จจริงที่ว่าต้องมีใครสักคนมาเตือนก็เป็นเรื่องน่าขำแล้ว ชัดเจนมากว่า Russia ตัดสินใจจะบุก Ukraine ก่อนหรือหลังโอลิมปิกไม่นาน
      ไม่มีใครส่งกองทัพเรือจำนวนมากอ้อม Europe ไปถึง Black Sea เพื่อความสนุก และการส่งเสบียงเลือดไปยังจุดรวมพลใกล้ชายแดนก็เป็นสิ่งที่ไม่มีทางทำถ้าเป็นแค่การฝึกหรือการแสดงกำลัง
    • องค์กรมักล้มเหลวเพราะหลอกตัวเอง หนึ่งในนั้นคือ เข้าใจผิดว่าการเคลื่อนไหวคือความคืบหน้า
      ประเด็นหลักของบทความคือ Pentagon คิดว่าตัวเองกำลังลงเงินกับเทคโนโลยี แต่ไม่ได้รับมูลค่ากลับมาตามเงินที่ลงไป เพราะไม่มีความตั้งใจหรือความสามารถที่จะรวมความเชี่ยวชาญ อำนาจ และความรับผิดชอบไว้ในหัวของคนคนเดียว
      เมื่อองค์กรกระจายความรับผิดชอบ หรือมอบอำนาจให้คนที่แยกไม่ออกระหว่างการเคลื่อนไหวกับความคืบหน้า ผลลัพธ์มักลงเอยด้วยความสูญเปล่าและการหยุดนิ่งเสมอ ในช่วงเวลาหายากที่ผู้นำเข้มแข็งสามารถย้อนเอนโทรปีแบบนี้ขององค์กรได้ชั่วคราว ก็จะเกิดสิ่งที่เหมือนเวทมนตร์ และน่าลองเปรียบเทียบ ULA กับ SpaceX รวมถึง DeepMind กับ OpenAI
      ถ้าความสามารถเชิงสถาบันเป็นมาตรฐาน ไม่ใช่ปาฏิหาริย์ช่วงสั้น ๆ ที่ไม่มั่นคง มนุษยชาติคงขึ้นไปอยู่ในระดับเทคโนโลยีที่สูงกว่านี้มากแล้ว
    • ความล้มเหลวจำนวนมากก็เป็นแค่ความล้มเหลวแบบมนุษย์และการเมือง เทคโนโลยีอาจทำให้สิ่งที่ชัดเจนพร่าเลือน หรือทำให้สิ่งที่มีโอกาสต่ำดูเด่นขึ้นได้ แต่ตอนนี้ยังไม่ได้เป็นปัจจัยชี้ขาดบ่อยขนาดนั้น
      สหรัฐฯ ก็เตือน Russia เรื่องการโจมตี Moscow เช่นกัน แต่ถูกมองว่าเป็นการแทรกแซงทางการเมือง เกือบแน่นอนว่าน่าจะเป็น ข่าวกรองสัญญาณ ที่ถูกเมิน
      https://apnews.com/article/russia-intelligence-duty-to-warn-...
    • วันที่ 21 กุมภาพันธ์ 2022 ผมอยู่กับนางแบบชาว Ukrainian และพูดถึงความเป็นไปได้ที่จะมีการรุกราน แต่เธอตอบสนองแบบไม่เห็นเป็นเรื่องใหญ่เลย ผมสงสัยมากจนแยกไม่ออกว่านั่นเป็นวิธีรับมือ เป็นความเชื่อจริง ๆ เป็นการโต้แย้งเพื่อโต้แย้ง หรือเป็นวิธีตอบสนองทางวัฒนธรรม
      สำหรับผม จากการรวมกำลังทหารตามชายแดน คำพูดหลายอย่าง คำพูดของ Biden และพวก Republican ที่ทำให้เรื่องนี้เป็นการเมืองโดยไม่มีเหตุผล มันคือ การรุกรานที่ชัดเจนเกินไป ในระดับการชอร์ตหรือ prediction market ชัดพอ ๆ กับสัญญาออปชันที่หมดอายุในวันเดียวกัน
      ถึงอย่างนั้นปฏิกิริยานั้นก็ยังติดอยู่ในหัว ผมไม่รู้ว่าต่อไปควรรับมืออย่างไร การคุยกับคนที่มีการรับรู้ความจริงต่างกันดูไร้ความหมาย และสุดท้ายก็เหมือนเหลือแค่การไม่ทำอะไรเลยหรือการเดิมพันทางการเงินเท่านั้น
      ผมชอบการลงเดิมพันกับสิ่งที่ตัวเองเชื่อ เพราะผลตอบแทนก็โอเค และถึงคาดการณ์ผิดก็ยังไม่เป็นไร แต่บทสนทนาที่พยายามหาความเข้าใจร่วมกันต่อความจริงนั้นดูเป็นธรรมชาติกว่า ทว่าทุกวันนี้มันดูไร้ความหมาย
    • คำกล่าวที่ว่า “ต้องนำ ระบบไร้คนขับ ทางอากาศและทางทะเลมาใช้จึงจะยับยั้งความเสี่ยงได้” ดูจากเหตุการณ์ล่าสุดแล้ว จริง ๆ ก็ถูกต้อง
  • ผมคิดว่าบทความนี้เหมือนสื่อจำนวนมากที่รายงานเรื่องด้านนี้ คือเหมารวม ปัญญาประดิษฐ์ มากเกินไป ด้านการคาดการณ์ของ machine learning ถูกใช้ในกองทัพสมัยใหม่มาหลายทศวรรษแล้ว และย่อหน้าแรกก็เหมือนบอกเป็นนัยแบบลวก ๆ ว่า LLM มีบทบาทสำคัญในความล้มเหลวด้านข่าวกรองของการโจมตีวันที่ 7 ตุลาคม
    ไม่น่าแปลกที่ LLM เป็นส่วนหนึ่งของระบบที่รวม machine learning จำนวนมาก เพราะมันเป็นอินเทอร์เฟซกับมนุษย์ที่ยอดเยี่ยม แต่ผมไม่เชื่อเลยว่ามันมีบทบาทมากพอที่จะต้องรับผิดชอบอย่างมีนัยสำคัญต่อการพลาดการโจมตีครั้งนั้น
    machine learning จะยังมีบทบาทต่อไป จะเจอทั้งความสำเร็จและความล้มเหลว และยิ่งแข่งขันกับ adversarial machine learning ก็จะยิ่งไม่สมบูรณ์แบบมากขึ้น การโทษเครื่องมือที่ไม่สมบูรณ์ว่าเป็นสาเหตุของความล้มเหลวที่หลีกเลี่ยงไม่ได้ไม่ค่อยมีประโยชน์ และเมื่อคิดว่าทางเลือกคือมนุษย์ซึ่งล้มเหลวได้ง่ายกว่า ก็ยากจะเรียกว่าเป็น “ปัญหา”

    • ผมคิดว่าส่วนหนึ่งของความสับสนที่ดำเนินอยู่คืออุตสาหกรรมกระโดดขึ้นรถไฟเต็มตัวในการเรียก LLM ว่า ปัญญาประดิษฐ์
      คำว่า AI มีน้ำหนักมากกว่าที่เรายอมรับกันมาก และเมื่อใช้คำนี้กับ LLM ก็ทำให้ความหมายเบาลง
      คนทั่วไปเมื่อได้ยินคำว่า AI จะคาดหวังอะไรมากกว่าอัลกอริทึมที่พยายามทำนายและเลียนแบบงานเขียนของมนุษย์มาก แม้มันจะฉลาดและน่าประทับใจแค่ไหนก็ตาม
      ดูเหมือนอุตสาหกรรมตกลงกันว่าจะเรียกอัลกอริทึม machine learning รุ่นถัดไปว่า “ปัญญาประดิษฐ์” เพราะขายได้ดีกว่าและดึงเงินทุนได้มากกว่ามาก ถ้าอย่างนั้นผมก็กังวลว่าคำถามด้านความปลอดภัย ศีลธรรม และจริยธรรมที่ควรถามก่อนสร้าง AI จริง ๆ จะเป็นอย่างไร
    • อย่างไรก็ตาม การวิจารณ์ คำกล่าวอ้างที่โอ้อวดเกินจริง เกี่ยวกับเครื่องมือเหล่านั้นเป็นเรื่องที่มีประโยชน์แน่นอน
  • “ระบบ AI รู้ทุกอย่างเกี่ยวกับ Hamas สิ่งที่พวกเขาพูด สิ่งที่พวกเขาโพสต์ […] วิเคราะห์พฤติกรรม คาดการณ์ความเสี่ยง และส่งสัญญาณเตือน”
    “สมาชิก Hamas ที่รู้เรื่องนี้ดีจึงป้อนข้อมูลที่ศัตรูอยากได้ยินเข้าไป สุดท้ายระบบ AI รู้ทุกอย่างเกี่ยวกับผู้ก่อการร้าย แต่ไม่รู้ว่าเขากำลังคิดอะไรอยู่”
    ถ้าฝ่ายตรงข้ามเห็นทุกอย่างที่ผมทำและได้ยินทุกอย่างที่ผมพูด การป้องกันเดียวคือ ความเป็นส่วนตัว ในนิยาย The Three Body Problem เรื่องนี้ถูกผลักไปจนสุดขั้ว โดยความเป็นส่วนตัวเพียงอย่างเดียวอยู่ในใจมนุษย์ และให้บางคนตัดสินใจตามยุทธศาสตร์ที่ไม่เคยพูดออกมาเลยแม้แต่คำเดียว นิยายวิทยาศาสตร์กลายเป็นความจริงแล้ว

    • นั่นเป็นเนื้อหาในภาคต่อ The Dark Forest
  • ผมคิดว่าบทเรียนที่สำคัญที่สุดคือ แทบเป็นไปไม่ได้ที่จะออกแบบระบบที่ดีได้หากไม่มี กรณีการใช้งาน ที่ชัดเจน
    Ukraine มีกรณีการใช้งานแบบนั้น และมีแรงจูงใจอย่างมากที่จะแก้ปัญหา Ukrainians กำลังควบคุมสนามรบด้วยคอมพิวเตอร์อเนกประสงค์ https://en.defence-ua.com/news/how_the_kropyva_combat_contro... ทำให้เรือรบ Russian หลายลำจมลงด้วยโดรนทะเลพิสัยไกล https://www.bbc.com/news/world-europe-68528761 และเมื่อไม่นานมานี้เริ่มทดสอบโดรนบินราคาถูกที่มีการรู้จำเป้าหมายด้วย computer vision บนคอมพิวเตอร์ออนบอร์ดในระดับขนาดใหญ่ https://www.forbes.com/sites/davidhambling/2024/03/21/ukrain...
    ในทางกลับกัน สหรัฐฯ อยู่ในภาวะสันติ ซึ่งในตัวมันเองก็เป็นเรื่องดี แต่ก็ทำให้การถลุงเงินหลายพันล้านดอลลาร์ไปกับการพัฒนาเทคโนโลยีที่ดูเท่บน PowerPoint แต่ใช้งานจริงไม่ได้ เป็นเรื่องที่เกิดขึ้นได้ง่ายเกินไป

    • นี่คือบทเรียนที่สำคัญที่สุดอย่างทิ้งห่าง และขอเสริมว่าใช้ได้กับ การพัฒนาซอฟต์แวร์ที่ไม่ใช่ทางทหาร เช่นกัน
    • Ukrainians ดูเหมือนจะทดสอบต้นแบบในสนามรบ และทิ้งดีไซน์ที่ใช้ไม่ได้ค่อนข้างเร็ว ผมเคยเห็นต้นแบบปืนกลติดตามเป้าหมายอัตโนมัติด้วย ซึ่งทำให้นึกถึง Aliens 2
      การออกแบบโดรนบินก็มีหลายบริษัททำ เพื่อหลีกเลี่ยงความเสี่ยงที่บริษัทเดียวจะถูกทำลายจากการโจมตีด้วยขีปนาวุธของ Russian ผมคิดว่าผลิตภัณฑ์ยุทโธปกรณ์อื่นๆ ก็คงคล้ายกัน
    • ในช่วงสงคราม การทำความเข้าใจข้อกำหนดและผลลัพธ์ทำได้ง่ายกว่ามาก การพัฒนาอาวุธจึงง่ายกว่าเสมอ แต่ไม่ได้ถูกกว่า
      เงินหลายหมื่นล้านดอลลาร์ยังคงถูกใช้สูญเปล่าอยู่ดี เพียงแต่เงินนั้นจะถูกใช้ไปกับการสร้างอาคาร สะพาน โครงสร้างพื้นฐาน และชีวิตที่ถูกทำลายจากสงครามขึ้นมาใหม่
      Ukraine ทำสิ่งที่น่าทึ่งได้ด้วยเทคโนโลยีราคาถูกที่ประกอบขึ้นเอง แต่ราคาที่ต้องจ่ายคือ 486,000 ล้านดอลลาร์ ที่จำเป็นต่อการฟื้นฟูประเทศ
      https://www.reuters.com/world/europe/ukraine-needs-486-bln-r...
    • แนวคิดที่ว่าสหรัฐฯ อยู่ในภาวะสันติเป็นสิ่งที่ผมเข้าใจยากมาตลอด เพราะหลัง WWII สหรัฐฯ ตัดสินใจคง กองทัพประจำการ ขนาดใหญ่มากไว้
      ผมไม่รู้จริงๆ ว่าควรขีดเส้นตรงไหนระหว่างการเตรียมพร้อมรับสงครามที่ใกล้จะเกิดขึ้น กับสถานะที่เรียกว่าสันติ
    • ตอนนี้เรากำลังเห็นสิ่งที่ถูกใช้งานจริงใน Ukraine และมันได้ผล
      กระสุนลูกปรายปริมาณระดับ WW3 ที่เดิมทีถูกกำหนดให้ปลดระวางถูกส่งต่อให้ AFU แล้ว ส่วน Bradley, Javelin, Stinger รุ่นเก่าๆ ฯลฯ ถูกออกแบบมาให้ระเบิด T-72 และ Hind-D และตอนนี้มันก็ทำแบบนั้นจริงๆ อีกไม่นานเราก็จะได้เห็นด้วยว่าสิ่งที่ “ดูเท่บน PowerPoint” ทำอะไรได้บ้าง
      และประสิทธิภาพทางทหารของ Ukraine ส่วนใหญ่ก็มาจาก การแบ่งปันข่าวกรองของ NATO ระบบควบคุมการรบและโดรนทะเลคงเป็นเพียงฉากรอง หาก NATO ไม่ได้ช่วยทำแผนที่สงครามอิเล็กทรอนิกส์ เรือรบ และการเคลื่อนย้ายกำลังพลของ Russian
  • ผมพูดแทนเทคโนโลยีของอิสราเอลไม่ได้ แต่ Pentagon มี ปัญหาด้านภาพลักษณ์ ใน Silicon Valley และแม้แต่บริษัทรับสัญญาอย่าง Palantir ก็ยังเชื่อได้ยากว่ากำลังได้คนเก่งที่สุด
    คนรุ่นเราใกล้กับ Iraq และ Vietnam มากกว่า WW2 และในหมู่คนเก่ง ๆ ก็มีผู้อพยพรุ่นแรกจำนวนมาก เทคโนโลยีโฆษณาช่วงหลังก็มีภาพลักษณ์แย่ลง แต่การทำงานให้บริษัทผู้บริโภครายใหญ่ก็ยังน่าดึงดูดกว่างานกลาโหม
    ถ้าจะให้เพื่อนร่วมงานไปทำงานให้รัฐบาลสหรัฐฯ แม้จะเป็นทางอ้อม ก็คงต้องจ่ายเงินมากขึ้น แต่โดยปกติกลับจ่ายน้อยกว่า และมักมีอิสระน้อยกว่าในเรื่องสิ่งที่ทำได้นอกเวลางาน
    ยิ่งไปกว่านั้น การทำสัญญากับกองทัพด้าน AI อ่านแล้วเหมือนทำหน้าที่เป็น ประกันแพะรับบาป อยู่ในระดับหนึ่ง คือโทษคนฉลาดที่ถือคอมพิวเตอร์ซึ่งถูกหลอกได้ แต่ไม่โทษคนที่จ้างพวกเขาและนำสัญญาณนั้นไปจัดลำดับความสำคัญเหนือสัญญาณอื่นแล้วลงมือทำ
    ความคิดที่ว่าโมเดล ChatGPT อาจเป็นปัจจัยชี้ขาดในการหยุด 10/7 ได้นั้น สำหรับคนที่ทำงานในวงการนี้คงดูเหลวไหล อาจมีข้อยกเว้นก็แค่ที่ปรึกษาที่พยายามขาย LLM ให้ IDF

    • เมื่อคุณต้องคว้าสัญญารัฐบาลกลางที่มีมูลค่าสัญญารวม 7–8 หลักเพื่อให้บรรลุ KPI การดำเนินงานรายไตรมาส ปัญหาภาพลักษณ์นั้นก็หายไป
      อุปสรรคที่ใหญ่กว่าคือ การจัดซื้อจัดจ้าง ตามมาตรฐานรัฐบาลกลาง การจัดซื้อซอฟต์แวร์ถือว่าค่อนข้างเรียบง่าย ดังนั้นถ้าเป็นสตาร์ตอัปหลัง Series E ก็สามารถเข้าสู่ตลาดได้ หากยอมใช้เงิน 7–10 ล้านดอลลาร์และเวลา 1–1.5 ปีไปกับโรดแมปเฉพาะสำหรับการปฏิบัติตาม FedRAMP และ FIPS
      พอออกนอกซอฟต์แวร์ การจัดซื้อจัดจ้างก็กลายเป็นนรกเอกสาร และเมื่อรวมกับนรกเอกสารของหน่วยงานให้ทุน R&D อย่าง DoD และ DoE ก็จะกลายเป็นระบบจัดซื้อจัดจ้างแบบกึ่งโซเวียต
      ที่ย้อนแย้งคือ การปฏิบัติตามข้อกำหนดและการตรวจสอบกฎระเบียบเหล่านี้ส่วนใหญ่ถูกเพิ่มเข้ามาด้วยเจตนาดีเพื่อลดการทุจริตและการติดสินบน แต่ในทางปฏิบัติกลับทำให้ทั้งระบบติดขัด และทำให้สตาร์ตอัปกับนักนวัตกรรมไม่สามารถทำงานโดยตรงกับชุมชนกลาโหมได้
      โครงการอย่าง DIUx และ In-Q-Tel กำลังพยายามเปลี่ยนแปลงเรื่องนี้ แต่ก็น้อยเกินไปและสายเกินไป ฐานอุตสาหกรรมกลาโหมจึงพึ่งพาเกือบทั้งหมดให้บริษัทอย่าง Microsoft, Cisco, CrowdStrike และ Zscaler เข้าซื้อสตาร์ตอัปที่มีอนาคต แล้วเผยแพร่นวัตกรรมภายในองค์กร
    • แม้ว่าจะมีวิศวกรที่ยินดีทำงานให้รัฐบาลโดยรับค่าตอบแทนต่ำกว่า ก็ยังมีปัญหาว่าพวกเขาผ่าน หล่มการจ้างงาน ที่ Uncle Sam ตั้งไว้ไม่ได้
      รัฐบาลกลางไม่ได้ถูกออกแบบมาให้ดึงตัวคนเก่งจากอุตสาหกรรมได้อย่างรวดเร็ว และยังคงผูกติดอย่างมากกับกฎเก่า ๆ ที่กำหนดให้ตำแหน่งระดับสูงต้องมีวุฒิการศึกษาขั้นสูง
    • เท่าที่ตรวจสอบล่าสุด ดูเหมือนว่าบริษัทกลาโหมจำนวนมากยังไม่มีโอกาสให้ทำงานแบบ รีโมต ด้วย
    • อีกปัญหาใหญ่คือแรงงานสายเทคอยาก “สูบกัญชาระหว่างทางไปสัมภาษณ์งาน” ซึ่งจะทำให้ไม่มีคุณสมบัติได้รับการรับรองความมั่นคง
    • ผมไม่แน่ใจ 100% ว่าไม่ได้จงใจปล่อยให้มันเกิดขึ้น อาจเป็นไปได้ว่าเพื่อให้ได้ข้ออ้างในการกวาดล้างให้ราบ และจริง ๆ ก็กำลังทำแบบนั้นอยู่ โดยอาจแค่ตกใจกับขนาดของเหตุการณ์
      สัญญาณมีอยู่ทุกที่ และ Mossad ก็ไม่ใช่กลุ่มคนทำเอกสารที่ไร้ความสามารถ
      คนที่รับผิดชอบเป็นอดีตหน่วยรบพิเศษ และการฆ่าคนโดยไม่กะพริบตาก็เป็นส่วนหนึ่งของงานนั้น จึงคาดหวังมนุษยธรรมจากฝั่งนั้นได้ยาก
      ถ้าผมไม่เคยอ่านเรื่องราวที่แทบจะดำเนินไปเหมือนกันในยุคและสถานที่อื่น ๆ ก็คงมองต่างออกไป AI แก้ปัญหาทางการเมืองไม่ได้ และมีแต่ทำให้ปัญหาที่ซับซ้อนอยู่แล้วซับซ้อนยิ่งขึ้น
  • คำว่า “ถูกโจมตีโดยไม่ทันตั้งตัว” ฟังแปลก สื่ออิสราเอลรายงานซ้ำ ๆ ว่า นักวิเคราะห์แนวหน้า เคยเตือนแล้วแต่ถูกมองข้าม
    เหตุผลอาจเป็นการกีดกันทางเพศ การกีดกันทางอายุ การเลือกปฏิบัติต่อทหารเกณฑ์ หรืออาจเป็นเพราะองค์กรผู้ตั้งถิ่นฐานมีคนของตัวเองอยู่ในรัฐบาลและต้องการตั้งถิ่นฐานใหม่ใน Gaza Strip อย่างแรงกล้า
    ไม่ว่าจะทางไหน สัญญาณก็มีอยู่ และพวกเขาเฝ้าดูการเตรียมการกับการฝึกซ้อมมาประมาณหนึ่งปี ต่อให้กลุ่มต่อต้านเก็บเรื่องนั้นไว้เป็นความลับ เจ้าหน้าที่ข่าวกรองหรือทหารยศทั่วไปก็ควรสรุปได้จาก “หลักการพื้นฐาน” และพฤติกรรมของพวกเขาเพียงอย่างเดียวว่าในที่สุดจะมีปฏิกิริยารุนแรงเกิดขึ้น

    • ในฐานะผู้สังเกตการณ์ภายนอก ผมไม่ได้รู้เรื่องดีนัก แต่ความปั่นป่วนของรัฐบาลจากแนวทางการเมืองที่ยิ่งสุดโต่งขึ้นของ Netanyahu และความแตกแยกครั้งใหญ่ภายในสังคมอิสราเอล น่าจะมีส่วนต่อความล้มเหลวในการป้องกันเมื่อวันที่ 7 ตุลาคม
      Netanyahu ทำให้สังคมอิสราเอลแตกแยกจนในช่วงหลายเดือนก่อน 10/7 มีผู้คนนับล้านออกมาประท้วงทุกสุดสัปดาห์ และทหารกองหนุนก็ปฏิเสธการเข้าประจำการเพื่อแสดงการประท้วง
      ถ้าเขามุ่งบริหารประเทศมากกว่ามุ่งใช้ทุกวิถีทางเพื่อไม่ให้ตัวเองติดคุก หรือไม่ก็ลงจากตำแหน่ง ความวอกแวกในระดับชาติอาจลดลง ผมไม่ได้ฟันธงว่าเป็นความผิดของเขา แต่ความปั่นป่วนที่เขาสร้างขึ้นไม่มีทางช่วยได้แน่
    • ปฏิกิริยารุนแรงเป็นสิ่งที่คาดได้ สิ่งที่คาดไม่ถึงคือ ปฏิกิริยารุนแรงที่มีประสิทธิภาพ
    • ใครที่รู้จัก IDF โดยตรงย่อมรู้ว่าในองค์กรมี ความโอหัง ฝังลึกอยู่
    • นี่คือการโทษเครื่องมือผิดชิ้น
      คนที่บริหารรัฐบาลและกองทัพอิสราเอลต่างหากที่เป็นเหมือนเครื่องมือ ไม่ว่าจะเป็นความมุ่งร้าย หรือความไร้ความสามารถและความไม่รู้ พวกเขาล้มเหลวอย่างชัดเจน
  • โดยส่วนตัวแล้ว ส่วนที่น่าสนใจที่สุดในบทความทั้งหมดคือท่อนนี้
    “จากนั้นเขามุ่งเน้นงานด้านกลาโหม และคร่ำครวญว่าคนที่มีความสามารถทางเทคโนโลยีเกี่ยวข้องกับการสร้างอาวุธแห่งอนาคต ‘โดยมาก ปฏิเสธที่จะทำงานกับภาคกลาโหม’”
    ผมสงสัยว่ายังจริงอยู่แค่ไหน เห็นชัดว่ามีเงินจำนวนมากไหลเข้าไป และบางคนก็ตามเงินไปแน่นอน Palantir ก็ยังมีอยู่ด้วย

    • การดึงคนสายเทคเข้าฝั่งกลาโหมเคยง่ายกว่าในช่วงที่พวกเขาไม่เห็นผลลัพธ์จากอาวุธเหล่านั้น หรือโดยมากไม่รู้ว่าตัวเองกำลังสร้างอะไรจริง ๆ แบบ Manhattan Project
      แต่ถ้าผู้คนสามารถดูภาพย่านหนึ่งถูกทิ้งระเบิดแบบถ่ายทอดสดบน Twitter ได้ ก็อาจทำให้พวกเขาคิดใหม่เกี่ยวกับการช่วยทำเรื่องแบบนั้น
    • ในระดับหนึ่ง เรื่องนี้จริงแน่นอน มีกรณีที่บันทึกไว้ของคนที่ปฏิเสธจะทำงานกับ ภาคกลาโหม แม้ต้องจ่ายราคาสูงเป็นการส่วนตัว
      คำถามสำคัญคือมีแรงต่อต้านในกำลังแรงงานมากแค่ไหน และมันกระทบความสามารถในการสรรหาคนเก่งเพียงใด
    • ผมคิดว่าน่าจะจริงน้อยกว่าที่คนสายเทคที่เกลียดอุตสาหกรรมกลาโหมของสหรัฐฯ คิดมาก ความสัมพันธ์ระหว่างมุมมองแบบก้าวหน้ากับสติปัญญาในการแก้ปัญหาไม่ใช่ศูนย์ แต่ก็ไม่ได้สูงขนาดนั้น
  • ตกใจกับขนาดของเงินภาษีที่ถูกผลาญไป มีโครงการที่ล้มเหลวมากมายจนความไร้ความสามารถอันฉาวโฉ่ของ Big Tech ดูเหมือนไม่มีอะไรเลยเมื่อเทียบกับ กลุ่มอุตสาหกรรมการทหารของสหรัฐฯ
    ตลอด 3/4 ศตวรรษที่ผ่านมา ส่วนเกินของอารยธรรมตะวันตกไหลมาที่นี่ทั้งหมด ตอนนี้ส่วนเกินนั้นหายไปแล้ว และเมื่อทรัพยากรหลักกับแหล่งพลังงานหมดลง ไม่นานก็จะพลิกเป็นค่าติดลบ หวังว่าการครองโลกของสหรัฐฯ จะจบลงโดยเร็วที่สุดเท่าที่เป็นไปได้
    ขอโทษนะ แต่ไม่ว่าในช่วงเวลาใด สหรัฐฯ ก็ไม่เคยเป็นผู้ปกครองที่ชอบธรรมของโลกเลย ประเทศทั้งหลายของผมถูกทำลายย่อยยับ ประชากรทั้งกลุ่มถูกฆ่าหรือถูกบังคับให้อพยพ ทั้งหมดนี้ก็เพื่อให้คุณซื้อ Xbox เครื่องใหม่ให้ลูก และให้เพื่อนบ้านซื้อเรือยอชต์ลำใหม่ได้

    • ในทางกลับกัน ตัวเลขในบทความยังประเมิน ขนาดของความสูญเปล่า ต่ำเกินไปด้วยซ้ำ
      ภัยพิบัติในตะวันออกกลางตั้งแต่ปี 2003 ใช้เงินไปอย่างน้อย 8 ล้านล้านดอลลาร์
      เงินจำนวนนั้นสามารถเปลี่ยนทั้งสหรัฐฯ ไปใช้พลังงานสะอาด เลี้ยงดูคนหิวโหยทุกคนบนโลก และจัดหาบ้านให้คนไร้บ้านชาวอเมริกันทุกคนได้ แล้วยังมีเงินเหลือด้วย
      แต่แทนที่จะเป็นอย่างนั้น เงินนั้นกลับถูกใช้เพื่อฆ่าคนหลายล้านคน ทำให้คนหลายสิบล้านต้องอพยพ และทิ้งมะเร็งกับความพิการแต่กำเนิดไว้ให้เด็กๆ หลายชั่วรุ่น
      มันชั่วร้ายและโง่เขลามากเสียจนแม้แต่ Noam Chomsky ก็ยังบอกว่าไม่มีคำใดจะบรรยายได้
    • ถ้าพูดอย่างเป็นธรรม สหรัฐฯ เป็นประเทศที่มีอายุราว 247 ปีไม่ใช่หรือ ในมุมมองประวัติศาสตร์ขนาดใหญ่ก็แทบจะเป็นทารก ผู้ก่อตั้งเองก็ไม่ได้มั่นใจนักว่าระบบนี้จะอยู่ได้นาน
      [1]:https://www.digitalhistory.uh.edu/disp_textbook.cfm?smtID=2&...
      “เมื่อการประชุมรัฐธรรมนูญสิ้นสุดลง George Washington กล่าวว่า ‘ผมไม่คาดหวังว่ารัฐธรรมนูญจะคงอยู่ได้นานกว่า 20 ปี’ ปัจจุบัน สหรัฐฯ มีรัฐธรรมนูญลายลักษณ์อักษรที่เก่าแก่ที่สุดในโลก”
      สิ่งที่ประเทศนี้ทำสำเร็จมาตลอดเวลานั้นก็นับว่าน่าทึ่งทีเดียว ตลอดช่วงเวลาการดำรงอยู่ส่วนใหญ่ สหรัฐฯ ก็ไม่ได้เป็นมหาอำนาจแบบที่เรารู้จักกันในปัจจุบัน อนาคตไม่ได้ถูกกำหนดไว้ตายตัว แต่เราอาจได้เห็นสหรัฐฯ ที่โดดเดี่ยวและดูแลแต่ปัญหาภายในของตนเองก็ได้
  • ผมกำลังมองหาการกล่าวถึง Strategic Defense Initiative หรือที่เรียกว่า Star Wars อยู่ หนึ่งในปัญหาทางเทคนิคที่โครงการนั้นไม่เคยเอาชนะได้คือความสามารถในการตรวจจับขีปนาวุธที่กำลังพุ่งเข้ามาให้เพียงพอ และนำระบบป้องกันสกัดกั้นไปยังเป้าหมาย
    เช่นเดียวกับระบบ Igloo White และ Assault Breaker ที่กล่าวถึงในบทความ มันล้มเหลวในการแยกแยะระหว่างเป้าลวงกับของจริง

    • นี่ไม่ตรงกับข้อเท็จจริง การตรวจจับขีปนาวุธและการนำวิถีสกัดกั้นเป็นความสามารถที่พิสูจน์ได้แล้วทั้งคู่ตั้งแต่หลายสิบปีก่อน
      ปัญหาทางเทคนิคที่ใหญ่ที่สุดในการสกัดกั้นขีปนาวุธทิ้งตัวคือการทำให้ มอเตอร์จรวดความเร็วเหนือเสียงระดับไฮเปอร์โซนิก แบบใหม่ที่ตั้งใจจะใช้ ตอบสนองต่อคำสั่งนำวิถีด้วยความแม่นยำเพียงพอ มันเป็นปัญหาด้านวัสดุศาสตร์ และถ้านำอุปกรณ์เดียวกันไปติดกับมอเตอร์จรวดทั่วไป จริงๆ แล้วมันทำงานได้ดี