- OpenAI กำลังเดินหน้าโครงการกับเพนตากอน ซึ่งรวมถึง ซอฟต์แวร์ความมั่นคงปลอดภัยไซเบอร์ โดยเปลี่ยนจากนโยบายเดิมที่ไม่ให้เทคโนโลยี AI แก่กองทัพ
- บริษัทระบุว่ากำลังหารือกับรัฐบาลสหรัฐฯ เกี่ยวกับ เครื่องมือเพื่อลดการฆ่าตัวตายของทหารผ่านศึก ด้วย แต่ยังคงห้ามการพัฒนาอาวุธ
- หลังจากมีการลบถ้อยคำห้ามใช้งาน “military and warfare” ออกจากนโยบายการใช้งาน ก็เกิดข้อถกเถียงมากขึ้นว่า AI จะได้รับอนุญาตให้ใช้ในขอบเขตทางทหารได้ถึงไหน
- แม้หลังจากพนักงาน Google คัดค้านโครงการของเพนตากอนในปี 2018 ซิลิคอนแวลลีย์ก็ยังขยับไปในทิศทางที่เปิดรับความร่วมมือกับกระทรวงกลาโหมมากขึ้น และเพนตากอนเองก็ผลักดันอย่างแข็งขันในการดึงสตาร์ทอัพและเครื่องมือขั้นสูงมาใช้
- แม้จะไม่รวมการพัฒนาอาวุธ ซอฟต์แวร์ AI สำหรับกระทรวงกลาโหม เช่น การตีความข้อมูลและการเขียนโค้ด ก็อาจทำให้ เส้นแบ่งระหว่างการประมวลผลข้อมูลทางทหารกับการดำเนินสงคราม พร่าเลือนได้
ความร่วมมือระหว่าง OpenAI กับเพนตากอน
- OpenAI กำลังดำเนิน โครงการซอฟต์แวร์ กับเพนตากอน ซึ่งรวมถึงงานที่เกี่ยวข้องกับความมั่นคงปลอดภัยไซเบอร์
- นี่เป็นการเปลี่ยนแปลงที่ต่างจากนโยบายในอดีตที่ระบุว่าจะไม่ให้เทคโนโลยี AI แก่กองทัพ
- OpenAI ผู้พัฒนา ChatGPT ยังอยู่ระหว่างหารือกับรัฐบาลสหรัฐฯ เพื่อพัฒนาเครื่องมือสำหรับลดการฆ่าตัวตายของทหารผ่านศึก
- Anna Makanju รองประธานฝ่ายกิจการทั่วโลกของ OpenAI เปิดเผยเรื่องนี้ที่ World Economic Forum
- อย่างไรก็ตาม เธออธิบายว่ายังคงมี ข้อห้ามการพัฒนาอาวุธ อยู่
การเปลี่ยนแปลงนโยบายการใช้งานและความกังวลด้านความปลอดภัย
- เมื่อสัปดาห์ที่แล้ว OpenAI ได้ลบถ้อยคำในนโยบายการใช้งานที่ห้ามใช้ AI ในแอปพลิเคชัน “military and warfare”
- การเปลี่ยนแปลงนี้จุดชนวนความกังวลในหมู่ผู้สนับสนุนความปลอดภัยของ AI
- นโยบายใหม่ยังห้ามการพัฒนาอาวุธ แต่ยังเปิดช่องให้มีความเป็นไปได้ในการให้บริการซอฟต์แวร์รูปแบบอื่นที่เกี่ยวข้องกับกองทัพ
ความสัมพันธ์ที่เปลี่ยนไปของซิลิคอนแวลลีย์กับกระทรวงกลาโหมสหรัฐฯ
- ในช่วงไม่กี่ปีที่ผ่านมา ซิลิคอนแวลลีย์มีท่าทีผ่อนคลายมากขึ้นต่อความร่วมมือกับกองทัพสหรัฐฯ
- ในปี 2018 พนักงาน Google หลายพันคนคัดค้านโครงการของเพนตากอน
- พนักงานกังวลว่าเทคโนโลยีที่ตนพัฒนาขึ้นอาจถูกใช้เพื่อจุดประสงค์ที่ก่อให้เกิดอันตรายถึงชีวิต
- ช่วงเวลานี้ถูกมองว่าเป็นจุดที่การต่อต้านกระทรวงกลาโหมของซิลิคอนแวลลีย์รุนแรงที่สุด
- หลังจากนั้น Google ทำรายได้หลายร้อยล้านดอลลาร์จากสัญญาด้านกลาโหม
- เพนตากอนพยายามโน้มน้าวสตาร์ทอัพในซิลิคอนแวลลีย์ให้เข้ามาพัฒนา เทคโนโลยีอาวุธใหม่ และผสานเครื่องมือขั้นสูงเข้ากับการดำเนินงานของกระทรวงกลาโหม
- ความตึงเครียดระหว่างสหรัฐฯ-จีน และสงครามยูเครนของรัสเซีย ก็เป็นปัจจัยที่ช่วยลดความลังเลของผู้ประกอบการต่อความร่วมมือทางทหาร
ความคาดหวังและความเสี่ยงของ AI ในขอบเขตทางทหาร
- ผู้เชี่ยวชาญด้านกลาโหมจำนวนมากมักมองผลกระทบของ AI ต่อกองทัพในเชิงบวก
- Eric Schmidt อดีต CEO ของ Google เปรียบการเกิดขึ้นของ AI กับ การเกิดขึ้นของอาวุธนิวเคลียร์
- เขามองว่าความเป็นอิสระและระบบกระจายศูนย์ที่ขับเคลื่อนด้วย AI ทรงพลังพอที่จะเปลี่ยนโฉมสงคราม
- ในทางกลับกัน กลุ่มผู้สนับสนุนเตือนว่าการผสาน AI เข้ากับสงครามมีความเสี่ยงร้ายแรง
- AI มีแนวโน้มเกิด hallucination หรือการสร้างข้อมูลเท็จให้ดูเหมือนจริง
- หากระบบที่ขับเคลื่อนด้วย AI ถูกผสานเข้ากับระบบบัญชาการและควบคุม ผลกระทบของความเสี่ยงนั้นอาจขยายตัวได้มากขึ้น
- Arms Control Association เตือนว่าการแข่งขันนำเทคโนโลยีใหม่มาใช้ทางทหารกำลังดำเนินไปเร็วกว่าความพยายามประเมินความเสี่ยงอย่างมาก
ความไม่ชัดเจนของขอบเขตข้อตกลงทางทหาร
- OpenAI ตัดการพัฒนาอาวุธออกไปแล้ว แต่นโยบายใหม่อาจเปิดทางให้บริษัทจัดหาซอฟต์แวร์ AI ให้กระทรวงกลาโหมได้
- The Information ยกตัวอย่างการใช้งานที่เป็นไปได้ เช่น การช่วยนักวิเคราะห์ตีความข้อมูล หรือช่วยเขียนโค้ด
- สงครามยูเครนแสดงให้เห็นว่า เส้นแบ่งระหว่างการประมวลผลข้อมูลกับการดำเนินสงคราม อาจไม่ชัดเจน
- ยูเครนพัฒนาและนำซอฟต์แวร์สำหรับวิเคราะห์ข้อมูลขนาดใหญ่มาใช้
- ซอฟต์แวร์นี้ถูกใช้เพื่อแจ้งผู้ปฏิบัติการปืนใหญ่เกี่ยวกับเป้าหมายรัสเซียในพื้นที่อย่างรวดเร็ว และช่วยเพิ่มความเร็วในการยิงอย่างมาก
- The Information เตือนว่าการเปลี่ยนแปลงนโยบายของ OpenAI อาจจุดชนวนข้อถกเถียงด้านความปลอดภัยของ AI อีกครั้ง ซึ่งเคยมีส่วนเกี่ยวข้องกับการปลด Sam Altman ออกจากตำแหน่ง CEO ในช่วงสั้น ๆ
1 ความคิดเห็น
ความเห็นจาก Hacker News
เป็นไปตามคาดเกินไป AI จะถูกทำให้เป็นอาวุธ และคนที่ทำงานด้านนี้ก็ต้องอยู่กับความจริงข้อนั้น
จากนี้ไปก็ควรมองตัวเองว่าเป็นส่วนหนึ่งของ อุตสาหกรรมการทหาร ไม่ใช่พูดว่าทำเพื่อความก้าวหน้าของมนุษยชาติแล้วจะใช้ได้อีกต่อไป
อีกอย่าง ทันทีที่ฝ่ายหนึ่งหาวิธีนี้เจอ อีกฝ่ายก็ตามมาเป็นเรื่องของเวลา จึงไม่มีความลับอะไรจริง ๆ
ระเบิดปรมาณูก็รั่วไหลออกมาแล้ว และวิธีสร้างปัญญาประดิษฐ์ทั่วไปก็คงรั่วออกมาในที่สุดเช่นกัน
สุดท้ายก็เท่ากับทำงานเพื่ออุตสาหกรรมการทหารของประเทศตัวเอง พร้อมกับทำให้ศัตรูในอนาคตมีความสามารถนั้นไปด้วย
น่าเสียดายที่พนักงานทั่วไปไม่ได้ออกมาสนับสนุนฝั่งนั้นอย่างเปิดเผยมากกว่าการขึ้นรถไฟสาย Altman กันอย่างคึกคัก ตอนนี้เริ่มเห็นแล้วว่ารถไฟขบวนนั้นกำลังจะไปทางไหน
แต่ผมไม่เสียสละถึงขั้นยอมรับเงินเดือนต่ำ ย้ายไปฝั่งตะวันออก และอาจต้องไปรับมือระบบราชการขนาดมหึมา
ระเบิดปรมาณูจนถึงตอนนี้ก็ยังไม่ได้แพร่ไปเกินประมาณ 10% ของประเทศทั่วโลก และหลายประเทศต้องเริ่มทำใหม่แทบทั้งหมดอยู่ดี จึงไม่ใช่ตัวอย่างที่ดีนัก
สำหรับ AI ทางเลือกมีแค่สร้างมันเอง หรือไม่ก็รอให้ฝั่งที่สร้างอยู่แล้วทำรั่วออกมาอยู่ดี
ทันทีที่ OpenAI เลิกเป็น องค์กรไม่แสวงหากำไร ก็เท่ากับเปิดตัวเองให้กับผู้ให้ราคาสูงสุด ซึ่งก็คืออุตสาหกรรมการทหาร
โครงสร้างบริษัทเดิมถูกสร้างขึ้นมาก็เพราะความเสี่ยงแบบนี้โดยตรง และเคยระบุชัดว่าไม่อยากเป็นเครื่องมือของบริษัทยักษ์ใหญ่
น่าเศร้ามาก
โพสต์ที่เกี่ยวข้องล่าสุด: OpenAI deletes ban on using ChatGPT for "military and warfare" - https://news.ycombinator.com/item?id=38972735 - มกราคม 2024, ความเห็น 260 รายการ
Pentagon คงยินดีที่ Sam Altman กลับเข้าสู่บอร์ด OpenAI
ท้ายที่สุด ถ้าต้องป้องกันศัตรูที่ไร้ขีดจำกัด ความฉลาดที่ไร้ขีดจำกัดก็ยิ่งสำคัญ
การแข่งขันด้าน AI เริ่มต้นไปแล้ว และให้ความรู้สึกว่าจะมีแต่เรื่องเลวร้ายตามมา
Oppenheimer คงพลิกตัวอยู่ในหลุมศพแน่ ๆ
ประเด็นที่ควรรู้: Anna Makanju รองประธานฝ่ายกิจการทั่วโลกของบริษัท เสริมว่าจะยังคง ห้ามการพัฒนาอาวุธ ต่อไป
ในโลกที่ลบข้อความว่าจะไม่ร่วมมือกับกองทัพออกไปเฉย ๆ แบบนี้ ผมไม่เห็นว่าคำรับปากปากเปล่าของรองประธานจะทำให้สบายใจได้อย่างไร
คำสัญญาแบบนี้ให้ถือว่ามีวงเล็บคำว่า “ตอนนี้” ซ่อนอยู่ทุกครั้ง
“เพื่อปรับปรุงการตอบสนองต่อภัยคุกคามรูปแบบใหม่ ตอนนี้ SmartMissiles™ ของเราใช้ OpenAI ตัดสินใจยิง/ไม่ยิงแทนผู้ควบคุมมนุษย์แล้ว”
ทหารคนหนึ่งขณะตัดการเชื่อมต่อ ansible: “คำสั่งนี้มาจากไหนกันแน่?”
ความร่วมมือครั้งนี้คือการเปิดประตูนั้น
ในสหรัฐ จะมีใครมีข้อมูลฝึกมากกว่า NSA อีก?
ไม่ได้แปลว่าถูกต้องนะ แต่ก็นึกภาพออกเลยว่าแรงยั่วยวนในการป้อนข้อมูลแทบไม่จำกัดให้โมเดลภาษาขนาดใหญ่จะมากแค่ไหน
โดยเฉพาะถ้าแทบจะแน่นอนแล้วว่าเจ้าของคอนเทนต์มีโอกาสสูงที่จะมีฐานกฎหมายที่แข็งแรงในการห้ามใช้คอนเทนต์ของตัวเองฟรี
ถ้าจะรวมความสามารถของ OpenAI เข้าไปใน ผลิตภัณฑ์ของ Microsoft มากขึ้น ก็คงต้องทำงานร่วมกับองค์กรที่เป็นลูกค้ารายใหญ่ที่สุดด้วย
ถ้ามองกระทรวงกลาโหมทั้งหมดเป็นลูกค้ารายเดียว
จีนกับรัสเซียรู้ดีว่าสหรัฐจะใช้ AI กับ อาวุธอัตโนมัติ ถ้าพวกเขาไม่มี ก็จะตามหลัง และถ้าปรับตัวไม่ได้ก็จะหายไป
ถ้าเมื่อก่อนเป็นสงครามเย็นนิวเคลียร์ คราวนี้ก็คือ สงครามเย็น AI
ผมไม่เชื่อคำพูดของ Sam Altman หรือ OpenAI พนักงานอยู่ที่นั่นเพราะเงิน และความเป็นองค์กรไม่แสวงหากำไรก็แทบจะเป็นเรื่องตลก
เป็นภาพธรรมดาของบริษัทที่ทำในสิ่งที่บริษัททำกันมาตลอด
มหาอำนาจไม่กี่ประเทศล้วนมีแรงจูงใจจะลงนามในสนธิสัญญาเพื่อหลีกเลี่ยงผลลัพธ์ที่เลวร้ายสำหรับทุกฝ่าย จนคลังนิวเคลียร์ก็ลดลงอย่างมาก
ปัญหาของเทคโนโลยีนี้คือมันถูกพอที่ เกาหลีเหนือ อิหร่าน และตุรกี ก็ใช้ได้
ได้แต่หวังว่าจะมีสนธิสัญญามาหยุดเรื่องนั้นได้
ผมมั่นใจว่าอนาคตของสงครามคือ โดรนขับเคลื่อนด้วย AI
ลองนึกถึงการควบคุมยูนิตแบบละเอียดของ Starcraft ถูกใส่ลงไปในโดรนจริงที่ติดปืนกับระเบิด
ที่จู่ ๆ การที่โครงเครื่องบินถูกควบคุมโดยอัลกอริทึม AI ดูเป็นปัญหาขึ้นมา ก็คงเพราะมันเข้าใกล้ความจริงมากเกินไปในแบบชวนไม่สบายใจ คล้าย uncanny valley
แต่ถ้านับ machine vision เป็น AI ด้วย ของแบบนี้ก็แพร่หลายอยู่แล้ว
แค่อ่านพาดหัว คนส่วนใหญ่ก็จะนึกถึงหุ่นยนต์สังหารที่ใช้ GPT ทันที แต่ในความเป็นจริงมีโอกาสมากกว่าว่ามันจะเป็นการใช้ RAG ไล่อ่าน เอกสารจัดซื้อจัดจ้าง กองโตกับเอกสารขั้นตอนที่น่าเบื่อ
เพราะไม่ต้องมีคนจริงมานั่งฟังและมาร์กคอนเทนต์ไม่ดีอีกต่อไป ทหารจึงทำเรื่องนี้ได้ในสเกลที่ใหญ่กว่ามาก
ผมค่อนข้างมั่นใจว่ากองทัพมีหุ่นยนต์สังหารอยู่แล้ว