เหตุผลที่ฉันลาออกจาก Google DeepMind

 (turntrout.com)
1 คะแนน โดย GN⁺ 4 시간 전 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • Alexander Matt Turner อดีตนักวิทยาศาสตร์วิจัยของ Google DeepMind ลาออกโดยระบุว่าไม่อาจอยู่ต่อได้ด้วยมโนธรรม เมื่อ Google ให้บริการคลาวด์แก่ DHS และ ICE และทำ สัญญาที่ไม่ได้ห้ามอาวุธสังหารอัตโนมัติและการทำโปรไฟล์ด้วย AI ในวงกว้างอย่างมีผลผูกพันทางกฎหมาย กับกระทรวงกลาโหมสหรัฐ
  • เมื่อกระทรวงกลาโหมสหรัฐเรียกร้องให้ Anthropic ทำสัญญา "การใช้งานที่ชอบด้วยกฎหมายทั้งหมด" โดยยกเลิกข้อจำกัดเดิม Turner จึงขอให้ IASEAI และนักวิจัย AI ชื่อดังร่วมตอบโต้ และสามารถรวบรวมรายชื่อผู้ลงนามภายใน Google ได้ราว 250 คน รวมถึงให้ Jeff Dean เข้าร่วมยื่นความเห็นต่อศาล
  • เขาได้จัดทำ กรอบสัญญาและการกำกับดูแลความยาว 25 หน้า ที่กำหนดให้มนุษย์ต้องควบคุมการใช้กำลัง และห้ามการทำโปรไฟล์ด้วย AI แบบไม่ระบุเป้าหมาย แต่แม้ Demis Hassabis จะสั่งให้มีการทบทวน ก็ยังไม่ได้รับการประเมินจากผู้กำหนดนโยบายระดับสูง
  • Google ทำสัญญาที่เปิดทางให้กระทรวงกลาโหมสหรัฐสามารถขอเปลี่ยนการตั้งค่าความปลอดภัยของ Gemini ได้ในเดือนเมษายน 2026 และ Google ไม่อาจปฏิเสธการใช้งานของรัฐบาลที่ชอบด้วยกฎหมายได้ ขณะที่ถ้อยคำว่าควรหลีกเลี่ยงอาวุธอัตโนมัติและการสอดส่องมวลชนภายในประเทศนั้น ไม่มีผลผูกพันทางกฎหมาย
  • เขามองว่าเพียงคำมั่นทางจริยธรรมส่วนบุคคลหรือความไว้วางใจต่อผู้บริหารไม่เพียงพอที่จะรักษาหลักการไว้ภายใต้แรงกดดัน จึงจำเป็นต้องมี ธรรมาภิบาลบนฐานความไว้วางใจต่ำ ที่มีข้อจำกัดล่วงหน้า การทบทวนโดยอิสระ และความโปร่งใส

จุดเริ่มต้นของความกังวลจากห่วงโซ่อุปทานของ DHS·ICE

  • จากเหตุการณ์ในเดือนมกราคม 2026 ที่เจ้าหน้าที่ DHS สังหารประชาชนอย่างน้อย 2 ราย Turner จึงเริ่มตรวจสอบความสัมพันธ์ระหว่าง Google กับหน่วยงานบังคับใช้กฎหมายคนเข้าเมือง
  • DHS's 2025 AI Use Case Inventory ระบุ Google เป็นหนึ่งในผู้ให้บริการ generative AI ที่ใช้เพื่อเพิ่มประสิทธิภาพการดำเนินงานของ DHS
  • Google ขายบริการคลาวด์ให้ ICE ผ่านบุคคลที่สาม เช่น ITC Federal
  • เขายังมองว่าการกระทำอื่นของ Google เป็นปัญหา
    • วันที่ 3 ตุลาคม 2025 บริษัทถอดแอปที่ใช้เตือนกิจกรรมของ ICE ออกจากรายการ
    • บริษัทส่งมอบบัญชีของผู้ประท้วงนักศึกษาให้ ICE โดยไม่แจ้งล่วงหน้า ผิดคำมั่นด้านบริการที่ว่าจะส่งอีเมลก่อนเปิดเผยข้อมูลให้รัฐบาล
    • Google ตอบว่าเพียงแต่หน่วยงานบังคับใช้กฎหมายคนเข้าเมืองใช้บริการคลาวด์เชิงพาณิชย์ทั่วไปเท่านั้น แต่ประเด็นที่ Turner ตั้งคำถามไม่ใช่ว่ามีการให้บริการพิเศษหรือไม่ หากเป็น ข้อเท็จจริงที่ว่าได้ให้บริการแก่ ICE
  • เขามองว่าคำร้องขนาดใหญ่ก่อนหน้านี้ถูกเพิกเฉยไปแล้ว และการนั่งประท้วง การหยุดงาน หรือการลาออกจำนวนมากก็มีทั้งความเป็นไปได้ต่ำและประสิทธิผลจำกัด
  • ในอุตสาหกรรม AI คนเก่งจำนวนไม่มากที่แทนได้ยากสามารถสร้างผลกระทบอย่างมากต่อองค์กร เขาจึงเห็นว่าการสูญเสียบุคลากรหลัก 10 คนหรือแม้แต่ Jeff Dean เพียงคนเดียว มีต้นทุนต่อฝ่ายบริหารมากกว่าการสูญเสียวิศวกรวิจัยทั่วไป 100 คน

การติดต่อ Jeff Dean ครั้งแรก

  • Jeff Dean เป็นพนักงานลำดับที่ 30 ของ Google, Chief Scientist และผู้นำร่วมโครงการ Gemini เขาเคยวิจารณ์ ICE ต่อสาธารณะและร่วมลงนามคำมั่นคัดค้านอาวุธสังหารอัตโนมัติในปี 2018
  • วันที่ 9 กุมภาพันธ์ 2026 Turner ติดต่อ Jeff โดยตรงว่าเขาต้องการช่วยผลักดันให้ Google ถอนตัวจากห่วงโซ่อุปทานของ DHS
  • Jeff ตอบว่าการส่งอีเมลถึง Sundar Pichai, Demis Hassabis และ Thomas Kurian น่าจะสมเหตุสมผล
  • Turner ส่งสารต่อไปนี้ถึง CEO ทั้งสาม แต่ไม่ได้รับคำตอบ
    • ปัญหาไม่ใช่การเมืองแบบพรรคพวก แต่เป็นการละเมิดกระบวนการอันชอบธรรมของ ICE การคุมขังพลเรือน สถานที่ควบคุมตัวที่ขาดการกำกับดูแล และการละเมิดสิทธิมนุษยชน
    • ทั้งคลาวด์และ Gemini ไม่ควรสนับสนุนปฏิบัติการดังกล่าว ไม่ว่าจะผ่านสัญญาโดยตรงหรือผู้รวมระบบภายนอก
    • ความร่วมมือกับ DHS และ ICE ไม่ได้สร้างแค่ปัญหาสิทธิมนุษยชน แต่ยังสร้าง ความเสี่ยงด้านชื่อเสียง ให้ผู้ให้บริการด้วย
  • หลังจากนั้น เขาขอรับประทานอาหารกลางวันกับ Jeff เพื่อหารือว่าจะทำให้เกิดการเปลี่ยนแปลงอย่างเป็นรูปธรรมภายใน Google ได้อย่างไร และอีกไม่กี่สัปดาห์ต่อมาก็ได้นัดกัน

แรงกดดันของกระทรวงกลาโหมสหรัฐต่อ Anthropic

  • วันที่ 25 กุมภาพันธ์ 2026 กระทรวงกลาโหมสหรัฐเรียกร้องให้ Anthropic ยกเลิกข้อจำกัดในสัญญาเดิมและให้บริการ Claude สำหรับ "การใช้งานที่ชอบด้วยกฎหมายทั้งหมด"
    • ข้อจำกัดเดิมครอบคลุมอาวุธอัตโนมัติที่สังหารได้และการสอดส่อง/การทำโปรไฟล์ด้วย AI
    • หากปฏิเสธ จะถูกยกเลิกสัญญามูลค่า 200 ล้านดอลลาร์ ถูกจัดเป็นบริษัทเสี่ยงต่อห่วงโซ่อุปทาน และอาจถูกบังคับให้ให้บริการตาม Defense Production Act
  • เขาเห็นว่ามาตรฐานคำว่า “การใช้งานที่ชอบด้วยกฎหมาย” มีปัญหา 2 ประการ
    • แม้แต่การกระทำที่ผู้เชี่ยวชาญกฎหมายอิสระชี้ว่าอาจเป็นอาชญากรรมสงคราม เช่น กรณีกองทัพสหรัฐโจมตีผู้รอดชีวิตจากเรืออับปางซ้ำอีกครั้ง รัฐบาลก็อาจตัดสินเองได้ว่าชอบด้วยกฎหมาย
    • การสอดส่องมวลชนและการทำโปรไฟล์ด้วย AI ก็อาจถูกนับว่าอยู่ในกรอบกฎหมาย เพราะกฎหมายการสอดส่องเดิมไม่ได้เขียนโดยตั้งสมมติฐานถึง AI
  • การถูกจัดว่าเสี่ยงต่อห่วงโซ่อุปทานต่างจากการปฏิเสธสัญญาทั่วไป เพราะอาจทำให้ผู้รับเหมาทางทหารทั้งหมดต้องหยุดใช้ Anthropic และ คุกคามความอยู่รอดทางเศรษฐกิจของบริษัท
  • ต่อมา ผู้พิพากษา Lin วินิจฉัยว่าการจัดประเภทดังกล่าวเป็น “การตอบโต้ที่ขัดต่อบทแก้ไขเพิ่มเติมรัฐธรรมนูญครั้งที่หนึ่งอย่างเป็นแบบฉบับ”

การขอให้ IASEAI และนักวิชาการ AI ชื่อดังร่วมตอบโต้

  • Turner กำลังเข้าร่วมงานของ International Association for Safe and Ethical AI(IASEAI) ที่สำนักงานใหญ่ UNESCO ในปารีส
  • IASEAI ก่อตั้งขึ้นในปี 2024 โดยมีเป้าหมายเพื่อสร้างเสียงที่เป็นเอกภาพสำหรับ AI ที่ปลอดภัยและมีจริยธรรม และในคณะทำงานปี 2026 มีโครงการ Red Lines for Advanced AI ที่ว่าด้วยอาวุธอัตโนมัติและการยกระดับความขัดแย้ง
  • ผู้เข้าร่วมหลายร้อยคนในงานวันนั้นกำลังอภิปรายปัญหาการประสานงานเชิงนามธรรมอย่างทฤษฎี public choice มากกว่าวิกฤต Anthropic ที่เกิดขึ้นในวันเดียวกัน
  • เขาขอให้นักวิจัยผู้มีอิทธิพลออกมาตอบโต้ต่อสาธารณะ
    • เขาขอให้ Yoshua Bengio ออกแถลงการณ์สนับสนุนเสรีภาพในการทำสัญญาของ Anthropic และคัดค้านอาวุธสังหารอัตโนมัติที่ไร้การกำกับดูแล แต่สำนักงานของ Bengio ตอบว่าจะไม่ออกแถลงการณ์
    • Geoffrey Hinton เข้าร่วมจากระยะไกล จึงมีการพิจารณาติดต่อผ่าน Bengio หรือ Stuart Russell
    • เขาขอให้ Stuart Russell ออกแถลงการณ์ทั้งในนามส่วนตัวและในนาม IASEAI พร้อมระดมผู้เชี่ยวชาญ AI ภายในองค์กร
  • Stuart รับปากว่าจะพยายามให้ Bengio และ Hinton เข้าร่วม และจะเปิดให้สมาชิก IASEAI ลงคะแนนเพื่อนำไปประกาศในพิธีปิดงาน

การลงคะแนนและแถลงการณ์ของ IASEAI ที่หายไป

  • ในงานปิด Stuart เรียกการกระทำของกระทรวงกลาโหมสหรัฐว่า “ขบวนการรีดไถ (extortion racket)” และกล่าวว่าจะผลักดันให้สมาชิกลงคะแนนต่อข้อเสนอที่ว่า Anthropic ไม่ควรถูกบังคับให้ให้บริการผลิตภัณฑ์ของตนเพื่อการใช้งานที่บริษัทไม่ต้องการ
  • การลงคะแนนด้วยการยกมือในสถานที่จริงแสดงให้เห็นว่าแทบเป็นเอกฉันท์ต่อแถลงการณ์ของ IASEAI ที่สนับสนุนเสรีภาพในการทำสัญญาของ Anthropic
  • แผนในตอนนั้นคือเปิดแบบสอบถามถึงคืนวันพฤหัสบดี หากมีเสียงเห็นชอบสองในสาม Stuart จะลงนามในนาม IASEAI และหากไม่ถึงเกณฑ์ก็จะออกแถลงการณ์ส่วนตัว
  • Turner จ่าย ค่าสมาชิก 75 ดอลลาร์ เพื่อเข้าร่วมการลงคะแนน แต่แบบสอบถามไม่เคยเปิด และ IASEAI ก็ไม่ออกแถลงการณ์ใด ๆ
  • เหตุผลที่ IASEAI ให้มานั้นเปลี่ยนไปเรื่อย ๆ
    • ต้องใช้เวลาเพิ่มในการร่างแถลงการณ์
    • ยังไม่ชัดเจนว่าจะยึดหลักการใดเป็นฐาน
    • มีทั้งข้อดีและข้อเสียในการเข้าไปร่วมกระแสข่าว Anthropic–กระทรวงกลาโหมสหรัฐ
    • ต้องการมุ่งปรับปรุงขั้นตอนภายในเพื่อรับมือกับสถานการณ์ลักษณะเดียวกัน
    • เนื่องจาก Anthropic ออกแถลงการณ์เองแล้ว จึงไม่จำเป็นต้องมีแถลงการณ์จาก IASEAI อีก
  • เขาเห็นว่าหลังเส้นตายวันศุกร์ของ Anthropic คดียังดำเนินต่ออีกหลายสัปดาห์ และสัญญากับ Google ก็เกิดขึ้นอีกสองเดือนถัดมา ดังนั้น IASEAI ยังมีเวลามากพอที่จะออกแถลงการณ์ ยื่นความเห็นต่อศาล หรือติดต่อผู้ตัดสินใจของ Google
  • Turner ขอหลายครั้งว่าอย่างน้อย Stuart น่าจะช่วยได้ด้วยการติดต่อผู้บริหาร Google เป็นการส่วนตัวแบบไม่เปิดเผย หรือเพียงช่วยแนะนำให้รู้จัก แทนการพูดต่อสาธารณะ แต่ก็ไม่ได้รับคำตอบ
  • IASEAI คืนค่าสมาชิกตามคำขอ และในเวิร์กช็อปเรื่องเส้นแดงของ AI ที่จัดในสถานที่เดียวกัน ก็ระบุว่าอุปสรรคใหญ่ที่สุดคือ เจตจำนงทางการเมือง

สัญญากับ OpenAI และการก่อรูปความเห็นภายใน Google

  • OpenAI ระบุว่าการทำสัญญากับกระทรวงกลาโหมสหรัฐยังคงคุ้มครองข้อจำกัดเรื่องอาวุธอัตโนมัติและการสอดส่องมวลชนในวงกว้างแบบเดียวกับ Anthropic แต่มีการวิเคราะห์บางส่วนเห็นว่าถ้อยคำในสัญญามีช่องโหว่กว้างขวาง
  • Turner เรียกร้องในช่องสนทนาประเด็นปัจจุบันภายใน Google DeepMind ให้ร่วมจุดยืนกับ Anthropic และปฏิเสธการใช้งาน “เพื่อทุกวัตถุประสงค์ที่ถูกกฎหมาย” โดยมีข้อความหนึ่งได้รับการตอบรับสนับสนุนมากกว่า 125 ครั้ง
  • การโพสต์ภายในมีหลายจุดประสงค์
    • เพิ่มต้นทุนเชิงองค์กรที่ฝ่ายบริหารต้องจ่ายหากเลือกนิ่งเฉย
    • ส่งต่อข้อโต้แย้งเชิงกลยุทธ์ผ่านช่องทางที่ผู้บริหารระดับสูงอ่าน
    • สร้างการรับรู้ร่วมกันว่าพนักงานที่อึดอัดใจกับสัญญานี้ไม่ได้อยู่ลำพัง
    • แชร์ช่องโหว่ของสัญญา OpenAI เพื่อให้พนักงานไม่ยอมรับหากมีการเสนอถ้อยคำคุ้มครองลักษณะเดียวกัน
    • สร้างช่องทางให้พนักงานส่งสัญญาณทางอ้อมว่าพวกเขาอาจลาออกได้หากมีการลงนามสัญญา
  • เนื่องจากเข้าใจว่า Google ไม่ชอบการจัดตั้งเคลื่อนไหวโดยตรงในช่องทางภายในขนาดใหญ่ จึงติดต่อคนที่กดแสดงปฏิกิริยาไว้เป็นการส่วนตัว

คำร้อง 250 คนและคำแถลง amicus ของ Anthropic

  • มองว่า Jeff เป็นหนึ่งในผู้บริหารไม่กี่คนที่มีทั้งความเข้าใจเชิงจริยธรรมและอิทธิพลในทางปฏิบัติ จึงมุ่งทำให้เขาเป็นผู้ลงมือและยืนยันว่าพนักงานสนับสนุน
  • ร่วมกับเพื่อนๆ รวบรวมลายเซ็นจากพนักงาน Google DeepMind และ Research ราว 250 คนภายในหนึ่งหรือสองวัน แล้วส่งให้ Jeff
    • ผู้ลงชื่อขอให้ทำทุกวิถีทางเพื่อหยุดยั้งสัญญาที่ข้ามเส้นต้องห้ามขั้นพื้นฐาน
    • ประเมินว่าการตัดประเด็นการสอดส่องโดยไม่ต้องมีหมายต่อพลเมืองนอกสหรัฐออกจากคำร้องฉบับแรก เป็นความผิดพลาดที่ยอมถอยในสิ่งที่ต้องการไปเองก่อนการเจรจา
  • เมื่อ Anthropic ยื่นฟ้องและขอคำสั่งห้ามเกี่ยวกับการถูกกระทรวงกลาโหมสหรัฐจัดให้มีความเสี่ยงด้านซัพพลายเชน Protect Democracy จึงจัดทำคำแถลง amicus จากผู้เชี่ยวชาญ AI
  • Turner ลงนามในคำแถลงดังกล่าว และชวนเพื่อนร่วมงานกับ Jeff เข้าร่วม โดย Jeff ก็ลงนามต่อสาธารณะด้วย
    • จากผู้ลงนาม Google DeepMind 18 คน Turner เป็นผู้ชักชวนมา 8 คน
    • Jeff เป็นผู้บริหารระดับ C-level เพียงคนเดียวที่แสดงท่าทีต่างจากความเงียบของ Google อย่างเปิดเผย
  • เห็นว่าการลงนามของพนักงาน Google มีส่วนทำให้กระทรวงกลาโหมสหรัฐกังวลว่า Google อาจถอนตัวจากสัญญาในอนาคตด้วย จึงมีส่วนทำให้การเจรจาล่าช้า
  • ยังได้ขอให้ทีมกฎหมายของ Google ยื่นคำแถลงด้วย โดยให้เหตุผลว่าหากปล่อยให้รัฐบาลกดดัน Anthropic ก็อาจใช้ภัยคุกคามแบบเดียวกันกับ Google ในอนาคตได้ แต่ Google ไม่เข้าร่วม ขณะที่ Microsoft ยื่นคำแถลง

ความมองโลกในแง่ดีของผู้บริหารและความเป็นไปได้ที่จะลงนามสัญญา

  • ตลอดเดือนมีนาคม 2026 ผู้บริหารระดับสูงพูดว่าผู้นำเองก็ตระหนักถึงปัญหาอยู่แล้ว ดังนั้น Google จะไม่ลงนามในสัญญา “เพื่อทุกวัตถุประสงค์ที่ถูกกฎหมาย”
  • Turner เห็นว่า หากไม่มีใครทำให้เกิดต้นทุนจริงกับฝ่ายผู้นำ Google ก็มีแนวโน้มจะยอมถอย
  • ในบันทึกที่แนบแหล่งอ้างอิง ได้เสนอเหตุผลต่อไปนี้
    • Google เคยยอมตามแรงกดดันที่มีความเสี่ยงต่ำกว่านี้ เช่น สมัครใจส่งมอบข้อมูลของนักศึกษาผู้ประท้วงให้ ICE
    • สัญญารัฐบาลมีสัดส่วนความสำคัญสูง
    • หลักการ AI ของ Google DeepMind ถูกทำให้อ่อนลงจากข้อห้ามที่ชัดเจนเป็นถ้อยคำกำกวม
    • ปัญหาผูกขาดและประวัติการฟ้องร้องของกระทรวงยุติธรรมชุดปัจจุบันเพิ่มแรงกดดันต่อ Google
  • แม้จะแชร์บันทึกดังกล่าวหลายครั้ง แต่เห็นว่าไม่สามารถโน้มน้าวพนักงานอาวุโสได้

ยุทธศาสตร์การเจรจาที่เตรียมโดยมี Jeff เป็นศูนย์กลาง

  • Jeff เคยเข้าร่วมคำมั่นปี 2018 ที่ว่า “จะไม่เข้าร่วมหรือสนับสนุนการพัฒนา การผลิต การค้า หรือการใช้อาวุธสังหารอัตโนมัติ” และยืนยันต่อสาธารณะอีกครั้งว่าในปี 2026 จุดยืนของเขายังไม่เปลี่ยน
  • เขาระบุว่าไม่ต้องการให้มีการสอดส่องมวลชนด้วย AI ต่อชาวอเมริกัน เพราะละเมิดการแก้ไขรัฐธรรมนูญครั้งที่ 4 และเสรีภาพในการแสดงออก อีกทั้งอาจถูกใช้ในทางการเมืองและเลือกปฏิบัติ
  • Turner จึงสรุปตามตรรกะว่า หาก Google ทำสัญญาแบบไร้ขีดจำกัด Jeff ก็ควรต้องลาออกเพื่อรักษาคำมั่นของตน
  • จึงเตรียมสถานการณ์ให้ Jeff บอกกับ Sundar Pichai ว่าเขาไม่อาจอยู่ต่อได้หากมีการลงนามสัญญา
    • แสดงการสนับสนุนของพนักงานผ่านคำร้อง 250 คน
    • ยังรวบรวมการสนับสนุนจากพนักงานอาวุโสหลายคนที่พร้อมจะร่วมลงมือหาก Jeff ขีดเส้นชัดเจน
    • เนื่องจากแนวร่วมหลายคนอาจถูกแบ่งแยกได้ด้วยโบนัสหรือการหว่านล้อมรายบุคคล ยุทธศาสตร์จริงจึงพึ่งพาอิทธิพลของ Jeff เพียงคนเดียว
  • มองว่าหากเรียกร้องแบบกำกวมว่า “อย่าทำสัญญาที่แย่” ก็อาจลงเอยด้วยสัญญาที่ปรับแค่ภาพลักษณ์ภายนอก จึงเตรียมทางเลือกที่เป็นรูปธรรมไว้

กรอบงาน AI ทางทหารยาว 25 หน้า

  • Turner ใช้วันลาพักและเวลาส่วนตัวเขียนถ้อยคำสัญญาและโครงสร้างกำกับดูแลยาว 25 หน้า แล้วให้ผู้เชี่ยวชาญด้านกฎหมายทหารและกฎหมายการสอดส่องตรวจทาน
  • ผู้เชี่ยวชาญกฎหมายด้านการผสานมนุษย์กับ AI ในการรบประเมินว่ากรอบงานนี้ “ดีใช้ได้จริงทีเดียว” และเสนอจุดที่ควรปรับปรุง
  • เมื่อต้องจัดหา AI ให้หน่วยงานที่ใช้อำนาจบังคับแบบรัฐ จะใช้เกณฑ์สองข้อ
    • การควบคุมโดยมนุษย์ต่อการใช้กำลัง
      • ห้ามใช้ AI ในระบบที่เลือกและโจมตีเป้าหมายโดยปราศจากการควบคุมจากมนุษย์ที่เหมาะสมในแต่ละการปะทะ
      • ใช้กับกรณีที่จัดหาเพียงองค์ประกอบ AI ให้กับ pipeline การกำหนดเป้าหมายด้วย
      • กำหนดให้มีความโปร่งใสทางกฎหมายและการตรวจสอบโดยผู้ตรวจอิสระที่ตกลงร่วมกัน เพื่อยืนยันรูปแบบการใช้งานที่ชอบด้วยกฎหมาย
      • ไม่จำกัดการป้องกันการสกัดกั้น การวิเคราะห์ข่าวกรองที่เป็นไปตามเกณฑ์ข้อที่สอง โลจิสติกส์ และการวิจัยพัฒนา
    • ห้ามทำ AI profiling แบบไม่ระบุเป้าหมาย
      • ห้ามแปลงข้อมูลปริมาณมหาศาลให้กลายเป็นข้อมูลเกี่ยวกับบุคคลที่ไม่ใช่เป้าหมายการสอบสวนที่ระบุไว้แล้ว
      • ไม่อาจเริ่มวิเคราะห์บุคคลได้เพียงจากลักษณะประชากรศาสตร์หรือการแสดงออกทางการเมือง
      • ไม่อาจเริ่มการสืบสวนเชิงลึกต่อบุคคลได้จากผลลัพธ์ของ AI เพียงอย่างเดียว
      • อนุญาตการวิเคราะห์ที่มีการระบุเป้าหมายไว้แล้ว งานวิจัยเชิงสถิติรวม และการวิเคราะห์พื้นที่ขัดแย้งเพื่อปรับปรุงการคุ้มครองพลเรือน
  • ออกแบบให้มี Defense AI Review Body จำนวน 7 คน ซึ่ง Chief Scientist เป็นผู้แต่งตั้งและกำกับดูแล
    • จัดสรร 2 จาก 7 ที่นั่งให้ฝ่ายคลาวด์
    • พนักงานจะเว้นวรรคเฉพาะสัญญาที่ตนมีส่วนเกี่ยวข้องเท่านั้น
    • จำกัดความล่าช้าในการทบทวนไว้ไม่เกิน 10 วัน
    • การหารือได้รับความคุ้มครองภายใต้เอกสิทธิ์ความลับระหว่างทนายความกับลูกความ
  • อำนาจของ Review Body เป็นเพียงเชิงให้คำปรึกษา แต่หากมีการเพิกเฉยต่อคำแนะนำ จะถูกรวมไว้ในรายงานความโปร่งใสประจำปีที่แจกจ่ายให้พนักงาน AI ทุกคน
  • การยุบองค์กรนี้ต้องมีการแจ้งล่วงหน้าและเปิดเผยอย่างตรงไปตรงมาถึงกรณีไม่ปฏิบัติตามที่ยังไม่ถูกแก้ไข ทำให้ยากจะถูกทำให้หมดความหมายอย่างเงียบๆ แบบหลักการปี 2018
  • หาก Congress ผ่านกฎหมายที่กำกับการใช้งานนั้นอย่างมีนัยสำคัญ Chief Scientist และเสียงข้างมากท่วมท้นของ Review Body สามารถยกเลิกเกณฑ์ดังกล่าวได้
  • หากมีการเรียกร้อง “เพื่อทุกวัตถุประสงค์ที่ถูกกฎหมาย” ก็ออกแบบไว้ให้ต้องได้รับบันทึกกฎหมายที่พิสูจน์ความชอบด้วยกฎหมายของการใช้งานที่วางแผนไว้ และให้ปฏิเสธการใช้งานที่ไม่ผ่านมาตรฐานของบริษัท
  • โดยคำนึงว่าคู่สัญญาอาจคัดค้าน จึงใส่เงื่อนไขที่สำคัญน้อยกว่าและพอยอมได้ในการเจรจาไว้ด้วย เช่น การยกระดับเรื่องต่อคณะกรรมการ Alphabet

มื้อกลางวันกับ Jeff และข้อเสนอที่ส่งถึง Demis

  • วันที่ 17 มีนาคม 2026 ได้พบ Jeff ที่ Mountain View และเสนอให้เขานำ Review Body แต่ Jeff ไม่รับข้อเสนอ
  • บทสนทนาส่วนตัวไม่ได้ถูกอ้างโดยไม่ได้รับอนุญาต และข้อเท็จจริงสาธารณะที่ตรวจสอบได้คือ Jeff ลงนามในจดหมายแสดงจุดยืนสนับสนุน Anthropic แต่ยังคงอยู่ที่บริษัทต่อหลังจาก Google ลงนามสัญญา
  • เมื่อ Jeff ไม่เป็นผู้นำกรอบงานนี้ โอกาสสำเร็จก็ลดลงอย่างมาก จึงเลือกเส้นทางถัดไปคือ Demis Hassabis
  • ตอนที่ DeepMind ถูก Google เข้าซื้อในปี 2014 ได้รับคำมั่นว่าจะไม่นำ AI ไปใช้เพื่อวัตถุประสงค์ทางทหารหรืออาวุธ และในปี 2018 ทั้งผู้ร่วมก่อตั้งและองค์กรเองก็เข้าร่วมคำมั่นคัดค้านอาวุธสังหารอัตโนมัติ
  • หลังพยายามส่งข้อเสนอผ่านระบบการจัดการอยู่หนึ่งสัปดาห์ วันที่ 1 เมษายน 2026 จึงส่งข้อความถึง Demis โดยตรง
  • Demis สั่งให้ผู้บริหารระดับสูง 2 คนที่ดูแลนโยบายของ Google DeepMind ประเมินกรอบงานดังกล่าว
    • ทั้งสองคนไม่ตอบในตอนแรก และต่อมาส่งต่อไปยังผู้รับผิดชอบระดับล่าง
    • ผู้รับผิดชอบระดับล่างมองกรอบงานนี้ในทางบวก แต่บอกว่าอาจต้องใช้เวลาหลายเดือนกว่าจะตอบกลับได้
    • บันทึกของกระทรวงกลาโหมสหรัฐเมื่อวันที่ 9 มกราคมให้เส้นตาย 180 วันจนถึงวันที่ 8 กรกฎาคมแก่ผู้รับสัญญา AI ทุกรายให้ยอมรับสัญญาแบบ “การใช้งานที่ชอบด้วยกฎหมายทั้งหมด” ทำให้การทบทวนที่กินเวลาหลายเดือนไม่สอดคล้องกับสถานการณ์
    • Turner เสนอว่าจะเดินทางจาก San Francisco ไป London เพื่อทำ Q&A แต่ผู้บริหารนโยบายระดับสูงก็ไม่ตอบอีก
  • เขาไม่พอใจกับกระบวนการที่แม้ CEO จะสั่งให้ทบทวนแล้ว แต่ผลการประเมินก็ยังไม่ถูกส่งต่อมา ทั้งยังเปิดไว้ว่าอาจมีเหตุอันสมควรที่ไม่ทราบอยู่

สัญญากับกระทรวงกลาโหมสหรัฐที่ Google ทำอย่างเงียบๆ

  • วันที่ 27 เมษายน 2026 มีรายงานข่าวเปิดเผยว่า Google ได้ลงนามสัญญา AI ลับ
  • Turner ยังลงนามร่วมกับพนักงานอีกราว 600 คนในจดหมายถึง Sundar เพื่อเรียกร้องให้ปฏิเสธสัญญา AI ลับดังกล่าว
  • ถ้อยคำสำคัญของสัญญามีดังนี้
    • กระทรวงกลาโหมสหรัฐสามารถใช้ Google AI เพื่อ “วัตถุประสงค์ของรัฐบาลที่ชอบด้วยกฎหมายทั้งหมด”
    • Google ต้องช่วยปรับการตั้งค่าความปลอดภัยและฟิลเตอร์ของ AI ตามคำขอของรัฐบาล
    • มีข้อความว่าห้ามนำไปใช้กับการสอดส่องขนาดใหญ่ภายในประเทศหรืออาวุธอัตโนมัติที่ไม่มีการกำกับดูแลโดยมนุษย์อย่างเหมาะสม
    • แต่ในขณะเดียวกันก็ระบุว่า Google ไม่มีสิทธิ์ควบคุมหรือปฏิเสธการปฏิบัติการของรัฐบาลที่ชอบด้วยกฎหมาย
  • เขามองว่าคำว่า “should not” ไม่ใช่ข้อห้ามที่มีผลผูกพัน จึงเป็นเพียงการตอบข้อกังวลด้านจริยธรรมแบบเชิงพิธีการ
  • Google ไม่ได้แจ้งภายในเรื่องการลงนามสัญญา และ Turner มารู้เรื่องนี้จากกลุ่ม Signal ตอน 23:45 น.
  • Google เคยถอนตัวจากการประกวดโครงการฝูงโดรนอัตโนมัติสั่งงานด้วยเสียงมูลค่า 100 ล้านดอลลาร์ หลังผ่านการทบทวนด้านจริยธรรมภายใน
    • เขามองในแง่บวกว่าอย่างน้อยในบางโครงการ ก็มีการทบทวนด้านจริยธรรมที่ทำงานได้จริง
    • แต่ในสัญญาแบบ “การใช้งานที่ชอบด้วยกฎหมายทั้งหมด” นั้น Google ไม่อาจรู้ได้ว่า Gemini จะถูกนำไปใช้จริงอย่างไร จึงประเมินได้ยากว่าประโยชน์มากกว่าความเสียหายอย่างมีนัยสำคัญหรือไม่
    • เขายกตัวอย่างที่แม้แต่ CEO ของ Anthropic ก็เคยบอกว่าไม่รู้ว่า Claude มีบทบาทอย่างไรในการทิ้งระเบิดโรงเรียนสตรีในอิหร่าน เพื่อเน้นย้ำถึง การขาดความโปร่งใสหลังการนำไปใช้งาน

การเปลี่ยนแปลงของหลักการ AI ที่บอกว่าไม่ได้เปลี่ยน

  • Demis กล่าวว่าโลกอันตรายขึ้น และไม่อาจถือว่าชัยชนะของคุณค่าประชาธิปไตยเป็นเรื่องแน่นอนได้อีก จึงต้องร่วมมือกับรัฐบาล
  • เขาระบุว่าหลักการพื้นฐานของ Google คือการพิจารณาอย่างรอบคอบว่าประโยชน์มากกว่าความเสี่ยงของอันตรายอย่างมากหรือไม่ และการเคารพกฎหมายระหว่างประเทศกับสิทธิมนุษยชนก็ยังไม่เปลี่ยน
  • Turner เห็นว่ามาตรฐานแบบ “ดูสถานการณ์แล้วค่อยตัดสิน” ไม่ใช่คำมั่นล่วงหน้าที่จะยึดถือแม้อยู่ภายใต้แรงกดดัน จึง ไม่นับว่าเป็นหลักการได้จริง
  • หลักการ AI ของ Google ปี 2018 ระบุชัดว่าจะไม่พัฒนาและไม่นำไปใช้กับอาวุธที่มีเป้าหมายหลักเพื่อทำอันตรายต่อมนุษย์ และการสอดส่องที่ละเมิดบรรทัดฐานที่เป็นที่ยอมรับในระดับนานาชาติ
    • ด้วยหลักการนี้ Google จึงถอนตัวจากการประมูลสัญญา JEDI มูลค่า 1 หมื่นล้านดอลลาร์ในปี 2018
  • ฉบับแก้ไขวันที่ 4 กุมภาพันธ์ 2025 ซึ่ง Demis ร่วมเขียน ได้ลบข้อห้ามเฉพาะเกี่ยวกับอาวุธและการสอดส่องออกไป
  • การลบข้อห้ามออก แต่ยังบอกว่า “หลักการไม่ได้เปลี่ยน” เป็นสองจุดยืนที่ไม่อาจจริงพร้อมกันได้ และเมื่อเขาแชร์ความไม่สอดคล้องนี้ในช่องทางภายในในวันทำงานวันสุดท้าย ก็มีพนักงานจำนวนมากแสดงความผิดหวัง

การร่วมมือกับรัฐบาลไม่เท่ากับการยอมทุกอย่างโดยไร้ขีดจำกัด

  • ต่อให้ยอมรับสมมุติฐานว่าประชาธิปไตยตะวันตกต้องใช้อาวุธอัตโนมัติเพื่อต่อสู้กับระบอบอำนาจนิยม ก็ยังเห็นว่าการยอมรับทุกความต้องการของกระทรวงกลาโหมสหรัฐไม่ใช่ทางเลือกเดียว
  • การใช้ กรอบกำกับดูแล Military AI จะช่วยให้อนุญาตการใช้งานที่จำเป็นต่อการแข่งขันกับจีน ขณะเดียวกันก็จำกัดการใช้งานที่ผิดจริยธรรมได้
  • แม้สัญญาอาจถูกบังคับให้ทำ Google ก็ยังสามารถใช้อิทธิพลของตนเรียกร้องให้ Congress ออกกลไกคุ้มครองทางกฎหมายได้ ดังนั้นเขาจึงมองว่า การยอมรับสัญญาแบบไร้ขีดจำกัดเป็นทางเลือก

ความไว้วางใจส่วนบุคคลกับธรรมาภิบาลเชิงสถาบัน

  • Demis เห็นว่าโครงสร้างอย่างคณะกรรมการอิสระหรือ safety charter อาจไม่ทำงานอย่างถูกต้องในช่วงเวลาวิกฤต และชอบแนวทางสร้างความไว้วางใจภายใน Google กับนั่งอยู่ที่โต๊ะตัดสินใจ มากกว่าการขีดเส้นที่ชัดเจนไว้ล่วงหน้า
  • ปรัชญานี้ก่อตัวขึ้นหลัง Sundar ปฏิเสธในการเจรจาที่พยายามแยก DeepMind ออกเป็นองค์กรกึ่งอิสระ
  • Turner โต้แย้งว่าระบบควรลดปริมาณความไว้วางใจที่ต้องเรียกร้องจากคนลง
    • เพราะตัวบุคคลเองก็เผชิญแรงกดดันในช่วงเวลาชี้ขาด และอาจมีแรงจูงใจที่แย่กว่า เช่น หุ้น ความสัมพันธ์ทางสังคมกับเพื่อนร่วมงาน และภาพตัวตนที่ผูกติดกับบริษัท
    • กรอบงานนี้ตั้งอยู่บนสมมุติฐานความไว้วางใจเพียงข้อเดียว คือ Chief Scientist จะทำอย่างสมเหตุสมผลจนกว่าจะจัดตั้ง Review Body จากนั้นจึงสร้างความไว้วางใจที่มีสัญญาและความโปร่งใสรองรับ
    • แม้จะไม่อาจหยุดสัญญาที่ไม่เหมาะสมได้ทั้งหมด แต่ก็เพิ่ม แรงเสียดทานและต้นทุนทางสาธารณะ ให้กับการผลักดันสัญญาเหล่านั้น
  • Demis อยู่ที่โต๊ะตัดสินใจสำหรับสัญญาที่เกี่ยวข้องทั้งหมด แต่ในสัญญาฉบับสุดท้ายกลับไม่มีข้อกำหนดที่มีผลผูกพันแม้แต่ข้อเดียวที่สะท้อนความกังวลด้านจริยธรรมของพนักงาน
  • เขายอมรับว่าอาจมีการป้องกันผลลัพธ์ที่เลวร้ายกว่านี้ไว้ได้ แต่เงื่อนไขสัญญาที่ออกมาจริงก็ใกล้เคียงระดับต่ำสุดที่คาดได้ และยังอ่อนกว่าของ OpenAI ด้วย
  • Andreas Kirsch นักวิทยาศาสตร์วิจัยของ Google DeepMind ก็สรุปแบบเดียวกันอย่างอิสระใน “Trust is not Governance”

ความล้มเหลวของการทดลองธรรมาภิบาลที่ Google DeepMind

  • Google DeepMind ถูกขายให้ Google ภายใต้คำมั่นว่าจะห้ามใช้ในอาวุธและมีโครงสร้างธรรมาภิบาลแบบกึ่งอิสระ แต่ Sundar ปฏิเสธโครงสร้างอิสระนั้น
  • แม้หลักการ AI ปี 2018 จะเกิดจากแรงกดดันของพนักงาน แต่ต่อมาฝ่ายผู้นำก็ทำให้มันอ่อนลงด้วยการลบข้อห้ามเฉพาะเกี่ยวกับอาวุธและการสอดส่อง
  • ที่ Google DeepMind แรงกดดันด้านรายได้และการเมืองเอาชนะคำมั่นด้านจริยธรรม แต่ Anthropic กลับคงเส้นห้ามเดิมไว้ภายใต้แรงกดดันแบบเดียวกัน
  • ข้อสรุปไม่ใช่ว่าไม่มีใครรักษาหลักการ แต่คือสังคม ไม่อาจพึ่งพาว่าปัจเจกที่มีจริยธรรมจะยืนหยัดได้จนถึงที่สุด
  • แม้ Congress จะตอบสนองอย่างมีประสิทธิภาพไม่ได้ ก็ยังควรเลิกคิดว่าความปลอดภัยจะได้รับประกันเพียงเพราะผู้บริหาร “นั่งอยู่ที่โต๊ะตัดสินใจ”

ทางเลือกที่เหลืออยู่สำหรับผู้ลงนามในคำมั่น

  • Jeff Dean, Demis Hassabis, Shane Legg และคนอื่นๆ เคยให้คำมั่นว่าจะไม่สนับสนุนการพัฒนา การผลิต การค้า หรือการใช้อาวุธสังหารอัตโนมัติ แต่ก็ยังอยู่กับบริษัทต่อหลังจาก Google จัดหา AI ให้กองทัพโดยไม่มีสิทธิ์จำกัดการใช้งาน
  • สำหรับการตีความที่ว่าสัญญาไม่ได้อนุญาตอาวุธอัตโนมัติอย่างชัดแจ้ง เพียงแค่ไม่ได้ห้ามไว้ เขาโต้กลับว่าการปิดตาตัวเองไม่ให้รู้ปลายทางการใช้งาน ไม่ได้ทำให้ความรับผิดชอบหายไป
  • การยังคงอยู่ในบริษัท สร้าง AI ต่อให้บริษัทที่สร้าง AI ชั้นนำและจัดหาให้กองทัพที่ต้องการใช้อาวุธสังหารอัตโนมัติ พร้อมทั้งสละสิทธิ์ในการจำกัดการใช้งานนั้น เขามองว่าขัดกับคำมั่นดังกล่าว
  • เขาเห็นว่าผู้ลงนามมี 3 ทางเลือกที่ซื่อตรง
    • อธิบายต่อสาธารณะว่าการอยู่ต่อสอดคล้องกับคำมั่นนั้นอย่างไร
    • ประกาศว่าไม่สนับสนุนคำมั่นนั้นอีกต่อไปแล้ว พร้อมอธิบายเหตุผล
    • ลาออกจากบริษัท
  • หากแม้แต่ในเส้นห้ามที่ชัดเจนที่สุดก็ยังไม่ได้ข้อกำหนดที่มีผลผูกพันแม้แต่ข้อเดียว เหตุผลว่า “อยู่ต่อเพื่อช่วยชี้นำไปในทางที่ดีจากภายใน” ก็ยิ่งอ่อนลง
  • หากผิดคำมั่นที่ชัดเจนที่สุดแล้วยังไม่ทำอะไรเลย ความน่าเชื่อถือของคำมั่นด้านความปลอดภัยครั้งต่อไปก็จะลดลง และท้ายที่สุดคำมั่นเหล่านั้นเองก็จะหมดความหมาย

ความเงียบของผู้นำด้านจริยธรรม AI

  • ความรับผิดชอบไม่ได้ถูกแบ่งเท่ากันระหว่าง Pete Hegseth และ Donald Trump ที่กดดันกระทรวงกลาโหมสหรัฐ, Sundar Pichai ที่ลงนามในสัญญา, และ Jeff Dean ที่ไม่ได้ใช้อิทธิพลให้มากกว่านี้
  • Turner รู้สึกผิดหวังเป็นพิเศษกับการไม่ตอบสนองอย่างต่อเนื่องของผู้เชี่ยวชาญ AI ระดับสูงที่ประกาศย้ำคำมั่นด้านจริยธรรมต่อสาธารณะ
  • Geoffrey Hinton ผิดหวังอย่างมากที่ Google ถอนคำมั่นเรื่อง AI ทางทหาร และคาดเดาว่าอาจเป็นเพราะกังวลว่ารัฐบาลชุดปัจจุบันจะปฏิบัติต่อ Google ในทางลบ
  • Stuart Russell และ Hinton โดยทั่วไปไม่ใช่บุคคลที่นิ่งเฉย
    • Stuart ออกมาเตือนต่อสาธารณะมาอย่างยาวนานเกี่ยวกับความเสี่ยงเชิงอัตถิภาวนิยมจาก AI และอาวุธสังหารอัตโนมัติ
    • Hinton ออกจากสหรัฐในช่วงทศวรรษ 1980 เพราะคัดค้านการสนับสนุนเงินทุนให้ AI ทางทหาร และลาออกจาก Google ในปี 2023 เพื่อพูดถึงความเสี่ยงของ AI ได้อย่างอิสระ
  • ในเดือนกันยายน 2025 Global Call for AI Red Lines มีผู้ลงนามมากกว่า 300 คน รวมถึงผู้ได้รับรางวัล Nobel และ Turing 15 คน โดย Stuart, Bengio, Hinton และ Mark Nitzberg ก็สนับสนุนการห้ามการสอดแนมขนาดใหญ่และอาวุธสังหารอัตโนมัติ
  • แม้จะลงนามในหลักการเชิงนามธรรม แต่เมื่อเกิดการปะทะกันจริงระหว่างบริษัทกับรัฐบาลในเดือนกุมภาพันธ์ 2026 IASEAI ก็ไม่ได้ออกแถลงการณ์ใด ๆ
  • การตีความว่าพวกเขาเก็บทุนทางการเมืองไว้ใช้ในช่วงเวลาที่สำคัญกว่านี้อาจอธิบายได้ว่าทำไมจึงหลีกเลี่ยงการออกแถลงการณ์สาธารณะ แต่ไม่อาจอธิบายการปฏิเสธความช่วยเหลือที่มีต้นทุนต่ำได้ แม้แต่ในรูปแบบการเชื่อมต่อแบบไม่เปิดเผยต่อสาธารณะกับผู้ตัดสินใจของ Google
  • Jeff สมควรได้รับความเคารพในฐานะผู้บริหาร Google เพียงคนเดียวที่ลงมืออย่างเปิดเผย แต่ก็เห็นว่าเขาสามารถใช้อิทธิพลได้มากกว่านี้เพื่อหยุดสัญญา

การเคลื่อนไหวภายในที่เกินขอบเขตตำแหน่งและการลาออก

  • หากเป็น “นักวิทยาศาสตร์วิจัยที่มีความรับผิดชอบ” ทั่วไป ก็คงแค่ทวีตแสดงความกังวลและส่งข้อความถึงผู้จัดการ แต่ Turner เห็นว่ามีเพียงแผนที่มีโอกาสได้ผลเท่านั้นที่มีคุณค่าในฐานะการกระทำ
  • เขาตั้งรูปของ Alex Pretti เป็นการแจ้งเตือนบนโทรศัพท์มือถือ และอดทนต่อความกลัวด้วยการนึกถึงเหตุการณ์ที่ ICE ยิงผู้คนเสียชีวิตและลากพวกเขาออกจากบ้าน
  • เขาไม่ได้เลือกเส้นทางปกติอย่างการย้ายไปห้องแล็บ AI ชั้นนำแห่งอื่นแล้วรับโบนัสก้อนโต
    • เขาปฏิเสธการติดต่อจากทีมความปลอดภัยของ OpenAI ด้วย
    • ตอนลาออก เขายังไม่มีงานอื่นรองรับ
  • ตั้งแต่เดือนกุมภาพันธ์ เขามองว่า Google มีโอกาสสูงที่จะเซ็นสัญญา แต่หากยังไม่มีสัญญาจริง เขาอาจอยู่ต่ออีกหลายเดือน
  • เมื่อสัญญาถูกลงนาม เขารู้สึกว่าไม่อาจทำงานต่อได้อีก และตัดสินใจลาออกเพราะมองว่าสำนักงานไม่ใช่สถานที่ที่เขาเป็นส่วนหนึ่งอีกต่อไป คล้ายกับโรงเรียนเก่าในอดีต

ข้อโต้แย้งที่คาดว่าจะเกิดขึ้นและคำตอบ

  • แม้จะไม่อาจตำหนิบุคคลเพียงเพราะไม่ได้ทำตามข้อเสนอเฉพาะอย่างหนึ่ง แต่ก็เห็นว่าหากผู้นำด้านจริยธรรมระดับสูงได้ลงมือในรูปแบบใดก็ตาม ผลลัพธ์ควรต้องมี ผลกระทบที่มองเห็นได้
  • หาก Jeff ขู่ลาออกและคัดค้านอย่างหนักจริง ก็คาดว่าสัญญาฉบับสุดท้ายจะต้องมีเงื่อนไขที่มีผลผูกมัดอย่างน้อยหนึ่งข้อ
  • ไม่ใช่ทุกคนจะมีหน้าที่ต้องออกความเห็นในทุกประเด็น แต่กรณีที่สัญญาว่าจะให้สมาชิกลงคะแนนแล้วกลับยกเลิก หรือทำให้การคัดค้านอาวุธสังหารอัตโนมัติเป็นส่วนสำคัญของอัตลักษณ์ตนเอง แล้วกลับเงียบในช่วงเวลาชี้ขาดนั้นเป็นอีกเรื่องหนึ่ง
  • เห็นด้วยว่าถึงเสนอกรอบการทำงานไป กระทรวงกลาโหมสหรัฐก็อาจปฏิเสธได้
    • ผู้ให้บริการรายอื่นอย่าง xAI ก็น่าจะจัดหา AI ให้
    • อย่างไรก็ตาม หาก Google จับมือกับ Anthropic และ OpenAI หรือปฏิเสธข้อเรียกร้องของกระทรวงกลาโหมสหรัฐ ก็อาจเปลี่ยนการยอมตามของอุตสาหกรรมเทคโนโลยีให้กลายเป็นการตอบโต้แบบอิสระได้
    • เพราะหากกระทรวงกลาโหมสหรัฐปฏิเสธ Google เองก็สามารถถอนตัวจากสัญญาได้ อิทธิพลของ Jeff จึงยังคงสำคัญ
  • กระทรวงกลาโหมสหรัฐนิยามสัญญากับ Amazon Web Services, Google, Microsoft, NVIDIA, OpenAI, Reflection, Oracle และ SpaceX ว่าเป็น “แถลงการณ์ตอบโต้” ต่อการปะทะกับ Anthropic และย้ำว่าบริษัทเทคโนโลยีขนาดใหญ่สนับสนุนกองทัพและการใช้งานที่ถูกกฎหมายทั้งหมด

ความเสี่ยงเชิงอัตถิภาวนิยมของ AI และการนำไปใช้ทางทหาร

  • เห็นว่าข้อโต้แย้งด้านความปลอดภัยของ AI ขั้นสูงที่น่าเชื่อถือของ Google DeepMind มีแนวโน้มต้องพึ่งพา การเฝ้าติดตามกระบวนการคิด (chain of thought) อย่างมาก ซึ่งเป็นสิ่งที่ Frontier Safety Framework กล่าวถึง
  • AI ที่จัดแนวไม่ถูกต้องอาจหลอกลวงโดยไม่เปิดเผยเจตนาที่เป็นอันตรายโดยตรงเพื่อหลีกเลี่ยงการถูกปิดการทำงาน และการตรวจสอบกระบวนการคิดเป็นหนึ่งในวิธีหลักในการตรวจจับสิ่งนี้
  • การเฝ้าติดตามต้องอาศัยผู้กำกับดูแลที่เป็นมนุษย์ซึ่งผ่านการฝึกฝนและสามารถเข้าถึงกับวิเคราะห์ข้อมูลได้ แต่ศูนย์ข้อมูลทางทหารที่เป็นความลับถูกแยกออกจากโครงสร้างพื้นฐานเชิงพาณิชย์ของ Google
  • ประเด็นไม่ได้หมายความว่าพนักงาน Google ต้องอ่านปฏิบัติการทางทหาร แต่คือมีความเป็นไปได้ว่าโดยพื้นฐานแล้วจะไม่มีวิศวกรทหารที่ได้รับการฝึกอย่างเหมาะสมเพื่อทำการเฝ้าติดตามดังกล่าว
  • หากไม่มีการเฝ้าติดตามการหลอกลวงในกระบวนการคิด ก็จะยิ่งควบคุมความเป็นไปได้ที่ AI จะก่อความเสียหายระดับหายนะแก่มนุษยชาติผ่านการวางแผนกลยุทธ์ การหลอกลวง และการยึดกุมได้ยากขึ้น
  • สภาพแวดล้อมการนำไปใช้ทางทหารอาจเป็น สภาพแวดล้อมที่ AI อันตรายหมายตา ได้ เพราะการกำกับดูแลอ่อนแอ แต่กลับเข้าถึงผู้มีอำนาจตัดสินใจและโครงสร้างพื้นฐานที่ทรงพลัง
  • หวังว่ากองทัพและ US CAISI จะพัฒนาความเชี่ยวชาญ ความใส่ใจ และขั้นตอนการควบคุมเพื่อเฝ้าติดตามและสกัดกั้น AI อันตราย

ข้อจำกัดของคำชี้แจงว่า “ให้เพียงการเข้าถึง API”

  • ฝ่ายบริหารกล่าวว่าการให้เข้าถึง API แก่โมเดลเชิงพาณิชย์ภายใต้เงื่อนไขมาตรฐานของอุตสาหกรรม เป็นวิธีที่มีความรับผิดชอบในการสนับสนุนความมั่นคงแห่งชาติ
  • การเข้าถึง API ทั่วไปให้ภาพว่าคำขอจะถูกส่งไปยังเซิร์ฟเวอร์ของผู้ให้บริการ ทำให้ผู้ให้บริการสามารถเฝ้าติดตามการใช้งานได้
  • ในปฏิบัติการลับ ไม่สามารถส่งคำถามแบบข้อความปกติไปยังเซิร์ฟเวอร์ของ Google ได้ ดังนั้น Turner จึงคาดว่าน่าจะเป็น รูปแบบ on-premise ที่ให้ Gemini API endpoint อยู่บนคลัสเตอร์คลาวด์ของรัฐบาลที่แยกขาด
  • ในกรณีนี้ คำว่า “ให้เพียงการเข้าถึง API” อาจถูกต้องในเชิงเทคนิค แต่ทำให้เกิดภาพที่ผิดว่าการเฝ้าติดตามจากส่วนกลางของ Google ทำได้ และไม่ได้แก้ปัญหาเรื่องอาวุธอัตโนมัติ อาชญากรรมสงคราม หรือการทำโปรไฟล์ขนาดใหญ่
  • Turner เห็นว่า Google ก็มีส่วนทำให้เงื่อนไขลักษณะนี้กลายเป็นมาตรฐานของอุตสาหกรรมด้วย ยกเว้น Anthropic

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 4 시간 전
ความคิดเห็นบน Hacker News

  • เคารพ การตัดสินใจของ TurnTrout ที่ลงมือทำในสิ่งที่เชื่อว่าถูกต้องแม้จะมีแรงกดดัน หากมนุษยชาติจะเลือกทางที่ดีกว่าในภาวะกลืนไม่เข้าคายไม่ออกแบบนักโทษครั้งสำคัญที่จะเกิดขึ้นตลอด 20 ปีข้างหน้า เราต้องมีคนฉลาดแบบนี้มากขึ้น
    เดิมทีผมมองนักวิจัย AI ในแง่ลบไปด้วย เพราะเห็นว่าอุตสาหกรรม AI เพิกเฉยต่อความพยายามร่วมกันของผู้อื่น แล้วดึงคุณค่าออกมาขายต่อ แต่เหตุการณ์นี้ทำให้ความเคารพต่อนักวิจัย AI เพิ่มขึ้นเล็กน้อย แม้ TurnTrout อาจไม่ได้เห็นด้วยกับกรอบคิดนี้ทั้งหมด แต่ก็น่ายินดีที่เขายืนหยัดตาม หลักจริยธรรม ของตนเอง

    • เห็นด้วยว่า ควรชดเชยให้ผู้สร้างสรรค์ และมองว่าการชดเชยจริงที่น้อยเกินไปเป็นเรื่องผิด อย่างไรก็ดี นั่นไม่ใช่เงื่อนไขที่ทำให้ถึงขั้นต้องปฏิเสธการเข้าทำงานที่ GDM
      ผมเข้าทำงานเพื่อทำวิจัยด้านความปลอดภัยของ AGI เพื่อลดความเสี่ยงเชิงดำรงอยู่ของ AI และตั้งใจหลีกเลี่ยงงานที่เพิ่มสมรรถนะล้วน ๆ ของ Gemini ตอนนั้นผมเลือกทางประนีประนอมในแบบของตัวเอง และการวิจารณ์การตัดสินใจนั้นก็ถือว่าสมเหตุสมผล
    • ผู้อ่านไม่ได้รู้บริบทกันทุกคน ดังนั้นถ้าเพิ่ม ลิงก์แหล่งที่มา เกี่ยวกับเกร็ดเหตุการณ์นั้นก็น่าจะดี

  • ผม ลาออกจาก Microsoft เพราะบริษัทให้ความร่วมมือกับอิสราเอลและ IDF เช่น เฝ้าระวังชาวปาเลสไตน์และบันทึกการโทรทั้งหมด แม้ต่อมา Microsoft จะยกเลิกมาตรการบางส่วน แต่ Satya ก็ไม่ได้พ้นความรับผิดชอบ
    https://www.theguardian.com/world/2025/sep/25/microsoft-bloc...

    • Microsoft สนับสนุนการสังหารชาวปาเลสไตน์ของอิสราเอล แต่กลับ ตัดบัญชีของอัยการศาลอาญาระหว่างประเทศ อย่างนั้นหรือ
    • ถ้ามีพนักงานทำแบบนี้มากขึ้น บริษัทก็จะเปลี่ยนจุดยืนอย่างรวดเร็ว เพราะท้ายที่สุดสิ่งที่บริษัทสนใจก็คือ เงิน

  • บทความไม่ได้อธิบาย กรณีของ Anthropic ได้ถูกต้องนัก Emil Michael รัฐมนตรีช่วยว่าการกระทรวงกลาโหมสหรัฐฯ ฝ่ายวิจัยและวิศวกรรม อธิบายในพอดแคสต์ All-In ว่า ระหว่างการเจรจา Dario พูดซ้ำ ๆ ว่า “ถ้าจำเป็นก็โทรมา แล้วเราจะกำหนดเส้นจำกัดกันในแต่ละครั้ง”
    ในความขัดแย้งขนาดใหญ่ที่อาจลุกลามได้ภายใน 30 นาทีหลังการยิง ICBM องค์กรความมั่นคงแห่งชาติไม่สามารถโทรหา Dario เพื่อขออนุญาตทุกครั้งได้ Emil ดูเหมือนจะมองว่า Dario พยายามถือสิทธิ์ควบคุมขั้นสุดท้ายผ่านอำนาจยับยั้งเป็นรายข้อ และอาจให้ความสำคัญกับอำนาจนั้นเหนือกว่าการอยู่รอดของชาติด้วยซ้ำ จากมุมมองการจัดซื้อทางทหาร การบันทึกพฤติกรรมที่เป็นปัญหาของผู้รับจ้างแบบนี้ และแบ่งปันกับหน่วยงานอื่นในบางสถานการณ์ ถือว่าสมเหตุสมผล และก็มีฐานข้อมูลสำหรับบันทึกพฤติกรรมที่เป็นปัญหาของผู้รับจ้างอยู่แล้ว
    ชัดเจนว่า All-In เป็นเวทีที่เป็นมิตรกับ Emil แต่ผมมองว่าเพราะไม่ต้องเสียเวลาป้องกันการโจมตี จึงได้ฟังรายละเอียดข้อเท็จจริงที่ละเอียดกว่า
    ช่วงที่เกี่ยวข้อง: https://www.youtube.com/watch?v=gzwRflcLPAA&t=2479
    บันทึกผู้รับจ้าง: http://www.ppirs.gov/

    • ถึงอย่างนั้นก็ยังอธิบายไม่ได้ว่าทำไมจึงมีมาตรการอย่าง การระบุเป็นความเสี่ยงต่อซัพพลายเชน หรือการห้ามผู้รับจ้างใช้ Claude โดยสิ้นเชิง รวมถึงงานที่ไม่เกี่ยวกับรัฐบาลด้วย รัฐบาลสามารถเลือกผู้ให้บริการรายอื่นได้เฉย ๆ แต่นี่ดูเหมือนเป็นการตอบโต้ที่ไม่ยอมก้มหัวให้
    • แหล่งข้อมูลที่น่าเชื่อถือน้อยพอ ๆ กับ Emil Michael ที่ไปออกรายการ All-In นั้นหาได้ยาก แม้จะเชื่อฝ่ายใดเต็มร้อยไม่ได้ แต่ถ้าคำพูดของ Emil กับ Dario ขัดกัน ผมจะเลือกเชื่อ Dario ทั้งสิบครั้ง
      Emil เคยมีบทบาทที่ Uber ในการใส่ร้ายและทำลายศัตรูทางการเมือง และไม่มีเหตุผลให้เชื่อว่าตอนนี้เขาจะประพฤติต่างจากเดิม

  • คนที่ยืนหยัดตามหลักการ หาได้ยากเกินไปแล้ว

    • หลายครั้งมันเป็นไปได้ก็ต่อเมื่อมี ทรัพย์สินระดับ 7–8 หลัก อยู่ในบัญชีธนาคารแล้ว

  • น่าทึ่งที่ TurnTrout ใช้ชีวิตตามหลักการของตนเอง ผมไม่รู้ว่าตัวเองมีความกล้าหรือความมั่นใจขนาดนั้นไหม และมันช่างตัดกับคนฉลาด ๆ ที่เลือกไปทำงานในบริษัทอย่าง Palantir แล้วภูมิใจกับมัน

    • เรื่องนี้ใกล้เคียงกับ เสียงเรียกร้องของมโนธรรม ที่มีเพียงคนส่วนน้อยตอบสนอง มากกว่าจะเป็นความกล้าหรือความมั่นใจ TurnTrout ทำได้ดีตรงที่ไม่ได้เพียงแจกแจงความผิดของอีกฝ่าย แต่ยังบันทึกด้วยว่าตนเองพยายามทำอะไรไปบ้าง
      คล้ายกับการปฏิเสธการเกณฑ์ทหารด้วยมโนธรรมที่ยืนหยัดต่อจักรกลสงครามและระบบการเงินของจักรวรรดิที่ต้องการมัน แม้เขาจะมีอำนาจความน่าเชื่อถือจากการเคยทำงานที่ Google DeepMind โดยตรง ผู้คนก็คงไม่ค่อยฟัง เพราะในยามสงคราม ความบ้าคลั่งและเงินตรามักกลบตรรกะและเหตุผล
      เช่นเดียวกับที่หลัง Snowden เจ้าหน้าที่ในเครือ Five Eyes ไม่ได้ลาออกกันเป็นขบวน คนส่วนใหญ่ก็หาเหตุผลที่จะไม่ยืนหยัดต้านการกดขี่ได้ การที่ผู้เขียนเป็นมังสวิรัติและเคยยืนหยัดตามหลักการเพียงลำพังในสังคมที่เน้นการกินเนื้อ อาจเป็นการฝึกซ้อมสำหรับการปฏิเสธด้วยมโนธรรมที่ใหญ่กว่านี้
      คนที่แบกสินเชื่อบ้าน ลูก ๆ หนี้รถ และบัตรเครดิตที่เต็มวงเงิน หรือคนที่ใกล้เกษียณ ย่อมยากที่จะลุกขึ้นต่อต้านอย่างเปิดเผย ส่วนคนหนุ่มสาวก็อาจขาดภาษาที่จะสื่อเจตนารมณ์ของตน การทำกิจกรรมแบบคนเดียวในระยะยาวเพื่อพูดความจริงต่ออำนาจยังต้องมี อิสรภาพทางเศรษฐกิจ เพียงพอด้วย
      เรายังเป็นหนี้บุญคุณอย่างมากต่อคนที่ไม่ได้รับการยอมรับว่าเป็นผู้แจ้งเบาะแส โดยเฉพาะเมื่อสื่อมวลชนไปสนใจสภาพของตัวบุคคลมากกว่าสาระของปัญหา ก้าวแรกนี้คล้ายกับการเดินทางของวีรบุรุษแบบคลาสสิก ที่เริ่มจากการปฏิเสธเสียงเรียกครั้งแรก ก่อนเข้าสู่โลกอันไม่ธรรมดาและกลับมาพร้อมสิ่งที่เป็นประโยชน์ต่อทุกคน

  • นับถือที่ยึดมั่นในความเชื่อของตน แต่ก็สงสัยว่าทำไมถึงไม่ต้องการ อาวุธ AI อัจฉริยะ กันแน่ AI แบบติดตั้งบนอาวุธที่แยกแยะพลเรือนไร้อาวุธกับเป้าหมายทางทหารได้ ไม่ใช่ทางเลือกที่มีความรับผิดชอบกว่าทุ่นระเบิดแบบดั้งเดิมที่ระเบิดใส่อะไรก็ได้หรือ

    • แค่งานประจำวันยังถกเถียงกันหนักเรื่องความแม่นยำของ AI ดังนั้นจนกว่าจะพิสูจน์ได้ว่าแม่นยำกว่ามนุษย์อย่างแน่ชัด และมีความสามารถในการให้เหตุผล·ตัดสินใจได้จริง ก็ไม่ควรนำ LLM ไปใช้กับ การตัดสินใจที่มีชีวิตเป็นเดิมพัน
      เช่นเดียวกับที่เราไม่อยากให้เครื่องจักรที่ใช้ LLM ดูแลการวางยาสลบในการผ่าตัด ระบบทหารที่ตัดสินความเป็นความตายของคนจำนวนมากกว่านั้นก็ยังไม่ควรถูกนำมาใช้ในสภาพปัจจุบัน แม้ในอนาคตเทคโนโลยีปฏิบัติการอาวุธจะน่าเชื่อถือได้จริง ก็ยังจะเกิดคำถามเชิงปรัชญาใหม่ ๆ เช่น สงครามเองจำเป็นจริงหรือไม่ และแรงจูงใจของเทคโนโลยีที่เข้าใกล้ AGI นั้นคืออะไร
    • หากระบบช่วยกำหนดเป้าหมายด้วย AI เป็นผู้ตัดสินใจขั้นสุดท้าย ทหารจะรู้สึกผิดน้อยลง และเพียงเฝ้าตรวจการณ์โดยไม่ต้องใช้อาวุธด้วยตนเองก็พอ จึงทำให้ การฆ่าง่ายขึ้น การทำให้การฆ่าเป็นอัตโนมัติอาจเพิ่มจำนวนผู้เสียชีวิตได้อย่างมาก
    • ไม่ควรปล่อยให้เครื่องจักรตัดสินความเป็นความตายในทันที แม้ AI จะให้ข้อมูล แต่ไกปืนสุดท้ายต้องถูกเหนี่ยวโดยมนุษย์ และกลไกป้องกันนั้นจะช่วยหยุด การสังหารต่อเนื่อง ของเครื่องจักร
      เมื่อมีการฆ่าอย่างไม่ชอบธรรม มนุษย์ต้องรับผิดชอบ แต่อาวุธ AI ทำให้เลี่ยงความรับผิดชอบได้ง่ายเกินไปด้วยคำพูดทำนองว่า “เป็นความผิดพลาดของอัลกอริทึม และจะปรับปรุงในเวอร์ชัน 23” การผสาน AI เข้ากับอาวุธทำให้ระยะห่างไปสู่การสังหารอัตโนมัติเต็มรูปแบบสั้นมาก
    • นี่คือ Jevons paradox เมื่อนำไปใช้กับความรุนแรง ตอนนี้ความเสี่ยงของความเสียหายข้างเคียงเป็นตัวจำกัดการสังหาร แต่หากความเสี่ยงนั้นลดลง การสังหารอาจกลับเพิ่มขึ้น ในทางกลับกัน ความจริงที่ว่าเครื่องมือยับยั้งสงครามขนาดใหญ่ที่ทรงพลังที่สุดคือการทำลายล้างร่วมกันอย่างแน่นอน ก็แสดงให้เห็นปฏิทรรศน์เดียวกัน
    • ทันทีที่ส่งมอบการตัดสินใจให้เครื่องจักร ความรับผิดชอบของมนุษย์ ก็หายไป แม้หุ่นยนต์จะทำสิ่งผิดกฎหมายหรือผิดศีลธรรม ก็สามารถปฏิเสธอย่างฟังดูน่าเชื่อได้ว่า “เป็นบั๊ก” หรือ “ไม่ได้มีเจตนาแบบนั้น”
      ไม่ว่าจะเป็นการแนะนำเนื้อหาสุดโต่ง การระบุคนผิวดำผิดพลาด หรือการจ้างงานที่เอนเอียงเข้าข้างผู้ชาย ก็โยนความรับผิดชอบว่า “อัลกอริทึมทำแบบนั้น” มาโดยตลอด ระบบแบบนี้มีพฤติกรรมที่มันทำจริงเป็นเป้าหมายของมันเอง ดังนั้นความพยายามจะกำหนดความรับผิดทางกฎหมายให้ชัดเจนก็มักถูกหลีกเลี่ยงอย่างสุดกำลัง

  • เคยทำงานที่ Google แต่คำพูดเรื่องจริยธรรม AI ไม่ใช่คำมั่นสัญญา หากเป็น การหลอกลวง Google ก็เหมือนบริษัทอื่น ๆ อีกมากที่ใช้ข้อมูลเท็จที่ปรับแต่งอย่างประณีตและความจริงครึ่งเดียวเพื่อรักษาสมาธิและแรงจูงใจของพนักงาน
    คำพูดว่า “รับฟังเสียงของพนักงาน” ก็เป็นจริงเฉพาะเมื่อไม่มีผลกระทบทางธุรกิจและช่วยแต่งภาพบริษัทให้ดูดีเท่านั้น หากเกิดแรงต้านทางการเมืองหรือเศรษฐกิจแม้เพียงเล็กน้อย ก็จะไม่รับฟัง ยกย่องผู้เขียนที่ต่อสู้เพื่อการเปลี่ยนแปลง แต่ dark pattern ของ Google ฝังลึกเกินกว่าจะถอนรากได้ด้วยการแลกเปลี่ยน white paper และอีเมลอย่างสุภาพ

  • โพสต์เพิ่งถูกเผยแพร่ได้เพียง 1 ชั่วโมง และได้ มากกว่า 200 คะแนน แล้ว แต่กลับหายไปจากหน้าแรกของ HN

    • ดูเหมือนกลไกที่ตรวจจับการถกเถียงร้อนแรงจะทำงานและ ลดอันดับ ของโพสต์ลง

  • Google เป็นบริษัทที่เอาใจตามกระแสจนยกเลิกนโยบาย DEI หลัง Trump ชนะการเลือกตั้ง และตั้งแต่แรกนโยบายนั้นก็ไม่ได้มาจากใจจริง ความพยายามครั้งนี้ค่อนข้างไร้เดียงสาจึงย่อมล้มเหลว แต่ผลิตภัณฑ์ AI ทางทหารก็มีแนวโน้มว่าจะทำงานได้ไม่ดี นอกจากเรื่องระเบิดโรงเรียนหญิงล้วน
    เป็นภาพที่ CEO ต่างรีบออกหน้ากันเพื่อสนับสนุน แนวคิด regulatory capture ของ Hassabis
    https://xcancel.com/sundarpichai/status/2077086951833063580#...
    https://xcancel.com/satyanadella/status/2077063479232795024#...
    https://xcancel.com/elonmusk/status/2077415601610297535#m
    มันเป็นกลุ่มปิดของพวกเขาเอง และเราไม่ได้อยู่ในนั้น

    • ที่จริงแล้ว บริษัททุกแห่งมีวิธีปฏิบัติที่ เหมือนโรคจิตเภท เป้าหมายเดียวคือทำเงินให้ผู้ถือหุ้น ดังนั้นสิ่งใดที่ขวางทางก็จะถูกกำจัด และมีการปรับให้เหมาะสมอย่างไม่หยุดยั้ง
      คนส่วนใหญ่ที่ถือ GOOG, MSFT, META ฯลฯ สนใจแค่ว่า 401(k) ของตนเพิ่มขึ้น มากกว่าว่าผลกำไรนั้นถูกสร้างขึ้นมาอย่างไร และระบบก็ถูกออกแบบมาแบบนั้นตั้งแต่แรก