- โมเดลแบบ Open Weights ที่ไม่มีความสามารถอันตรายเป็นสินค้าสาธารณะที่มอบคุณค่าให้แก่บริษัท นักพัฒนา และนักวิจัย และ Anthropic คัดค้านการห้ามโมเดลประเภทนี้ทั้งหมวดหมู่
- ความกังวลหลักด้านความมั่นคงแห่งชาติไม่ใช่วิธีการเปิดเผยตัวโมเดลเอง แต่เป็น ความได้เปรียบด้าน AI ของรัฐบาลเผด็จการ การโจมตีทางไซเบอร์และชีวภาพโดยใช้โมเดลทรงพลัง และปัญหา alignment
- Open Weights อาจเพิ่มความเสี่ยง เพราะยากต่อการใช้มาตรการป้องกันและการเฝ้าติดตามการใช้งาน อีกทั้งเมื่อเผยแพร่แล้วไม่สามารถเรียกคืนได้ แต่การห้ามบริษัทสหรัฐฯ ใช้ก็ยากที่จะหยุดผู้ไม่ประสงค์ดีได้
- ในฐานะทางเลือก Anthropic สนับสนุนการปิดกั้นการส่งออก ชิปประสิทธิภาพสูงและอุปกรณ์การผลิต ไปยังจีน การปราบปรามการ distillation ระดับอุตสาหกรรม และการทดสอบความปลอดภัยภาคบังคับตามเกณฑ์ความสามารถที่ครอบคลุมทั้งโมเดลเปิดและปิด
- ไม่ควรสรุปล่วงหน้าว่า Open Weights เอื้อประโยชน์ต่อฝ่ายป้องกัน และควรตัดสินความเสี่ยงด้วยการทดสอบเชิงประจักษ์ก่อนเปิดตัว โดยเฉพาะความเสี่ยงที่รวมถึง ความไม่สมมาตรระหว่างผู้โจมตีกับผู้ป้องกัน ในชีววิทยา
เหตุผลที่คัดค้านการห้าม Open Weights แบบเบ็ดเสร็จ
- หลังมีรายงานว่าเจ้าหน้าที่สหรัฐฯ บางรายกำลังพิจารณาห้ามบริษัทสหรัฐฯ ใช้โมเดล Open Weights จากจีน บริษัทเทคโนโลยีหลายแห่งได้ลงนามใน จดหมายเปิดผนึก เพื่อสนับสนุน Open Weights
- Anthropic ปฏิเสธคำวิจารณ์ที่ว่าต้องการให้มีการห้ามเพื่อปกป้องธุรกิจของตน และระบุว่าไม่เคยเสนอให้ห้ามโมเดลประเภท Open Weights ทั้งหมวดหมู่
- โมเดลแบบ Open Weights ที่ไม่มีความสามารถอันตรายเป็นสินค้าสาธารณะที่มอบคุณค่าให้แก่บริษัท นักพัฒนา และนักวิจัย โดยไม่มีค่าใช้จ่ายเพิ่มเติมนอกเหนือจากต้นทุนการประมวลผลที่จำเป็นต่อการรัน
- การห้ามแบบกีดกันทางการค้าอาจมีผลเพียงปกป้องบริษัท AI ของสหรัฐฯ จากการแข่งขัน โดยไม่ได้แก้ภัยคุกคามหลักด้านความมั่นคงแห่งชาติ
ภัยคุกคามด้านความมั่นคงแห่งชาติสองประการ
-
ความได้เปรียบด้าน AI ของรัฐบาลเผด็จการ
- ความกังวลที่ใหญ่ที่สุดคือสถานการณ์ที่รัฐบาลเผด็จการ รวมถึงพรรคคอมมิวนิสต์จีน (CCP) พัฒนาโมเดล AI ที่ทรงพลังกว่าสหรัฐฯ และใช้เพื่อสร้าง ความได้เปรียบทางทหารอย่างถาวร หรือกดขี่ประชาชนของตนอย่างรุนแรง
- พรรคคอมมิวนิสต์จีนไม่ใช่ภัยคุกคามเพียงหนึ่งเดียว แต่ถูกประเมินว่าเป็นภัยคุกคามที่ทรงพลังที่สุดในบรรดารัฐบาลเผด็จการ
- รัฐบาลสหรัฐฯ ก็กังวลต่อปัญหาเดียวกัน
- รองประธานาธิบดี Vance เตือนว่าระบอบเผด็จการได้ขโมยและใช้ AI เพื่อเสริมขีดความสามารถด้านการทหาร ข่าวกรอง และการสอดส่อง
- การประเมินภัยคุกคามประจำปี 2026 เห็นว่าความก้าวหน้าด้าน AI ของมหาอำนาจอื่นคุกคามความสามารถในการแข่งขันทางเศรษฐกิจและความได้เปรียบด้านความมั่นคงแห่งชาติของสหรัฐฯ
- ในภัยคุกคามนี้ การที่โมเดลเป็น Open Weights หรือไม่ หรือบริษัทสหรัฐฯ ใช้หรือไม่ ไม่ใช่ประเด็นสำคัญ
- โมเดลที่อันตรายที่สุดอาจเป็นโมเดลที่ถูกฝึกอย่างลับ ๆ แล้วให้ใช้งานเฉพาะกับโดรนของกองทัพปลดปล่อยประชาชน หรือการสอดส่องและการกดขี่ของกระทรวงความมั่นคงแห่งรัฐ
-
การโจมตีทางไซเบอร์และชีวภาพ และปัญหา alignment
- ความกังวลประการที่สองคือสถานการณ์ที่โมเดล AI ทรงพลังถูกนำไปใช้ในทางที่ผิดเพื่อ การโจมตีทางไซเบอร์และชีวภาพ หรือก่อให้เกิดปัญหา alignment อย่างร้ายแรง
- ไม่ว่าจะมาจากประเทศใด โมเดล Open Weights อาจมีความเสี่ยงที่เป็นไปได้สูงกว่าโมเดลปิด
- สำหรับ Open Weights การใช้มาตรการป้องกันหรือการเฝ้าติดตามพฤติกรรมการใช้งานทำได้ยากมาก
- เมื่อเผยแพร่น้ำหนักโมเดลแล้ว จะเรียกคืนไม่ได้ และมาตรการป้องกันก็สามารถถูกถอดออกได้
- ยังสามารถดาวน์โหลดสำเนาไปเผยแพร่ซ้ำ หรือรันบนระบบส่วนตัวที่ไม่สามารถเฝ้าติดตามได้
- รายงานของ UK AI Security Institute ประเมินว่าการเปิดเผยโมเดล Open Weights ที่มีความสามารถอันตรายสร้างความเสี่ยงต่อการนำไปใช้ในทางที่ผิดอย่างต่อเนื่องและย้อนกลับไม่ได้
- เนื่องจากบริษัทที่ถูกกฎหมายของสหรัฐฯ มีโอกาสต่ำที่จะเป็นผู้ไม่ประสงค์ดี การห้ามบริษัทสหรัฐฯ ใช้โมเดลจึงไม่สามารถหยุดความเสี่ยงเหล่านี้ได้โดยตรง
การควบคุมชิปประสิทธิภาพสูงและอุปกรณ์การผลิต
- ต้องไม่ขาย ชิปประสิทธิภาพสูงและอุปกรณ์ผลิตชิป ให้จีน และต้องปราบปรามการลักลอบนำเข้าและเส้นทางเลี่ยงต่าง ๆ ที่ใช้เพื่อจัดหาชิป
- ความสามารถในการผลิตภายในประเทศของจีนมีข้อจำกัด และตาม scaling laws Anthropic มองว่าจีนไม่สามารถสร้างโมเดลที่ทรงพลังกว่าสหรัฐฯ ได้หากไม่มีชิปจากสหรัฐฯ
- การควบคุมชิปเป็นวิธีที่มีประสิทธิภาพและตรงจุดที่สุดในการสกัดภัยคุกคามแรก คือการที่รัฐบาลเผด็จการสร้างโมเดลที่ทรงพลังกว่าสหรัฐฯ
- การทำให้การฝึกโมเดลทรงพลังนอกขอบเขตกฎหมายสหรัฐฯ เป็นเรื่องยากขึ้น ยังสามารถลดความเสี่ยงด้านการโจมตีทางไซเบอร์และชีวภาพ รวมถึง alignment ได้ทางอ้อม
- กระทรวงยุติธรรมสหรัฐฯ เปิดเผยหลายกรณีที่มีความพยายามลักลอบส่งออกหรือลักลอบนำเทคโนโลยี AI ขั้นสูงไปยังจีนอย่างผิดกฎหมาย และ Anthropic เรียกร้องให้เพิ่มการปราบปราม การลักลอบและช่องทางเลี่ยงเหล่านี้
การปราบปรามการ distillation ระดับอุตสาหกรรม
- การทำ model distillation มีประสิทธิภาพด้านการประมวลผลสูงกว่าการฝึกโมเดลตั้งแต่ต้น ทำให้จีนสามารถสร้างโมเดลที่ดีกว่าระดับที่ควรเป็นไปได้จากขนาดชิปที่มี และเลี่ยงการควบคุมชิปได้บางส่วน
- การ distillation เพียงอย่างเดียวไม่อาจทำให้พรรคคอมมิวนิสต์จีนมีขีดความสามารถ AI เทียบเท่าหรือเหนือกว่าสหรัฐฯ ได้ แต่สามารถยกระดับโมเดล frontier ของจีนให้ตามหลังสหรัฐฯ เพียง ไม่กี่เดือน
- แม้ว่าบริษัทที่ทำ distillation จำนวนมากจะเผยแพร่โมเดล Open Weights แต่ประเด็นหลักไม่ใช่วิธีการเผยแพร่ หากเป็นการที่รัฐเผด็จการที่ต้องการแซง frontier ของสหรัฐฯ สนับสนุนงานระดับอุตสาหกรรม
- แทนที่จะห้าม Open Weights แบบเบ็ดเสร็จ จำเป็นต้องมี กรอบนโยบาย กฎหมาย และเชิงพาณิชย์ที่เจาะจงเป้าหมาย เพื่อยับยั้งการ distillation
- Anthropic เองก็ระบุและบล็อกบัญชีที่ใช้โมเดลของบริษัทเพื่อทำ distillation ขนาดใหญ่
- บางครั้งตรวจพบบัญชีที่เกี่ยวข้องได้ก็ต่อเมื่อมีการ distillation ไปมากแล้ว
- มีการสร้างบัญชีปลอมจำนวนมากอย่างต่อเนื่อง ทำให้เป้าหมายการบังคับใช้เปลี่ยนแปลงอยู่เสมอ
- มาตรการของแต่ละบริษัทเพียงอย่างเดียวแก้ปัญหาได้ยาก จึงจำเป็นต้องมีการแทรกแซงเชิงนโยบาย
การทดสอบความปลอดภัยภาคบังคับตามเกณฑ์ความสามารถ
- โมเดลทุกตัวที่มีพลังมากเพียงพอควรต้องผ่าน การทดสอบความเสี่ยงด้านไซเบอร์ ชีวภาพ และ alignment ก่อนเปิดตัว ไม่ว่าจะเป็นโมเดลเปิดหรือปิด และไม่ว่าจะมาจากประเทศใด
- รัฐบาล Trump เพิ่งเคลื่อนไหวไปในทิศทางนี้ และ ข้อเสนอของอุตสาหกรรม ก็รวมแนวทางในการใช้การทดสอบเดียวกันกับโมเดลที่ทรงพลังที่สุด
- โมเดลที่มีความสามารถต่ำซึ่งพัฒนาโดยสตาร์ทอัพและภาควิชาการสามารถถูกยกเว้นจากการทดสอบภาคบังคับได้ทั้งหมด
- ไม่ควรสรุปล่วงหน้าว่าความเสี่ยงของโมเดลเปิดสูงกว่าจริงหรือไม่ หรือสามารถลดความเสี่ยงนั้นได้หรือไม่ แต่ควรตัดสินจากผลการทดสอบ
- ยังมีวิธีการที่อาจเพิ่มความปลอดภัยของโมเดล Open Weights เช่น งานวิจัยกลยุทธ์การฝึกแบบโมดูลาร์ ของ Anthropic
- การทดสอบความปลอดภัยที่มีประสิทธิภาพจำเป็นต้องมี การบังคับใช้ในระดับนานาชาติ จึงต้องอาศัยการมีส่วนร่วมของพรรคคอมมิวนิสต์จีนด้วย
- การป้องกันอาวุธชีวภาพจาก AI อาจเป็นประโยชน์ต่อจีนเช่นกัน จึงมองว่าในสาขานี้มีความเป็นไปได้สำหรับความร่วมมือแบบจำกัด
ความแตกต่างจากจดหมายเปิดผนึกเรื่อง Open Weights
- Anthropic เห็นด้วยกับบางส่วนของ จดหมายเปิดผนึกเรื่อง Open Weights และความเป็นผู้นำ AI ของสหรัฐฯ
- Open Weights ขยายการเข้าถึงเศรษฐกิจ AI
- เพิ่มการแข่งขันในบางกรณีการใช้งาน
- มอบการควบคุมให้ลูกค้ามากขึ้น
- ปัญหา distillation ควรจัดการด้วยกรอบกฎหมายและเชิงพาณิชย์แบบเจาะจงเป้าหมาย ไม่ใช่การห้ามแบบเบ็ดเสร็จ
- อย่างไรก็ตาม Anthropic ไม่เห็นด้วยกับสมมติฐานที่ว่า Open Weights จะทำให้การพัฒนามาตรการป้องกันง่ายขึ้นเสมอ หรือการเข้าถึงความสามารถอย่างกว้างขวางจะเอื้อฝ่ายป้องกันมากกว่าฝ่ายโจมตี
- ในความเป็นจริง การเข้าถึงอย่างกว้างขวางอาจเอื้อฝ่ายโจมตีมากกว่า ดังนั้นจึงต้อง ตรวจสอบเชิงประจักษ์ ว่าฝ่ายใดมีความได้เปรียบ
ความไม่สมมาตรระหว่างผู้โจมตีกับผู้ป้องกันในชีววิทยา
- โมเดลที่ทรงพลังเพียงพออาจทำให้ไวรัสระดับแพร่ระบาดใหญ่ถูกทำให้เป็นอาวุธได้อย่างรวดเร็วด้วยวัสดุที่หาได้ทั่วไป ขณะที่การป้องกันต่อสิ่งนี้ แม้ในกรณีที่ดีที่สุด ก็อาจเป็นภารกิจด้านปฏิบัติการที่ใช้เวลาหลายปี
- เช่นเดียวกับกรณี Operation Warp Speed การเตรียมเทคโนโลยีและระบบรับมือจำเป็นต้องใช้เวลานาน จึงอาจมี ความได้เปรียบของฝ่ายโจมตี อย่างมากในชีววิทยา
- ปัจจุบัน ปัจจัยที่ป้องกันหายนะทางชีวภาพไม่ได้ถูกมองว่าเป็นข้อจำกัดของฝ่ายป้องกันหรือวัสดุ แต่เป็นความสัมพันธ์เชิงลบระหว่างความสามารถทางปัญญากับเจตนาที่จะก่อความเสียหายระดับหายนะ
- เทคโนโลยีก่อนหน้า เช่น การค้นหาทางอินเทอร์เน็ตหรือการสังเคราะห์ DNA ยังไม่ทรงพลังพอที่จะทำลายความสัมพันธ์นี้ แต่มีความกังวลว่า AI อาจทำลายได้ในไม่ช้าหากยังพัฒนาด้วยความเร็วในปัจจุบัน
- หากเทคโนโลยีที่ทรงพลังเพียงพอขจัดอุปสรรคทั้งหมดออกไป ก็จะปรากฏชัดว่าฝ่ายโจมตีหรือฝ่ายป้องกันมีความได้เปรียบเชิงโครงสร้าง และในชีววิทยา ฝ่ายโจมตีอาจเหนือกว่า
- ความเสี่ยงเหล่านี้ควรถูกตัดสินด้วย การทดสอบอย่างเข้มงวดก่อนเปิดตัว ไม่ใช่จากการคาดเดาหรืออคติต่อวิธีการเผยแพร่
นโยบายที่ Anthropic เรียกร้อง
- ไม่ห้ามโมเดล Open Weights โดยเหมารวมเป็นหมวดหมู่เดียว
- เพิ่มความเข้มงวดในการควบคุมการส่งออกและการลักลอบ เพื่อไม่ให้รัฐบาลเผด็จการได้ ชิปประสิทธิภาพสูงและอุปกรณ์การผลิต
- สกัดการทำ model distillation ระดับอุตสาหกรรมด้วยเครื่องมือทางกฎหมาย เชิงพาณิชย์ และนโยบาย
- บังคับให้โมเดลเปิดและปิดทุกตัวที่มีขีดความสามารถเพียงพอต้องผ่านการทดสอบความเสี่ยงด้านไซเบอร์ ชีวภาพ และ alignment
3 ความคิดเห็น
พอใช้โทเคนที่ซื้อไว้หมดแล้ว ก็คงไม่มีอะไรต้องกลับมาดูอีก ลาก่อน
ล็อบบี้อยู่ข้างหลัง แต่กลับออกมาสนับสนุนโอเพนซอร์ส นี่ก็น่าทึ่งจริง ๆ นะ ให้ความรู้สึกว่าถ้า Anthropic บรรลุ AGI ได้ก็คงจะกลายเป็น Arasaka
ความคิดเห็นจาก Hacker News
คำกล่าวที่ว่า “โมเดลทุกตัวที่มีความสามารถเพียงพอต้องผ่านการตรวจสอบความปลอดภัยภาคบังคับ” แทบไม่ต่างจากการเรียกร้องให้ แบนโมเดลแบบ open weights
ใครจะเป็นผู้ตรวจสอบ และจะเกิดอะไรขึ้นหากค่าใช้จ่ายแพงเกินไป หรือผู้ดูแลปฏิเสธผู้เข้าร่วมบางราย? ที่ผ่านมา สหรัฐฯ เคยแบนสินค้าโดยบังคับให้ต้องมีตรารับรอง แล้วปฏิเสธไม่ออกตรานั้นให้
ผลกระทบทางเศรษฐกิจคงใหญ่ แต่ประสิทธิผลด้านความปลอดภัยดูมีน้อย เหตุผลที่ฟังขึ้นที่สุดน่าจะเป็นว่า การจำกัดการใช้โมเดล open weights ในสหรัฐฯ อาจลดเหตุการณ์อย่างการโจมตี Hugging Face ล่าสุดได้ แต่เป็นเรื่องยากที่รัฐบาลจะบังคับใช้ข้อกำหนดการตรวจสอบได้จริง
โมเดล open weights แทบเป็นไปไม่ได้ที่จะผ่านมาตรฐานความปลอดภัยเดียวกับโมเดลที่ให้ผ่าน API และแม้ผู้สร้างจะอยากปฏิบัติตามก็ทำไม่ได้ การบล็อก IP และการควบคุมการส่งออกอาจจำกัดการเข้าถึงและขีดความสามารถในการอนุมานได้ แต่ไม่มีประสิทธิผลในการยับยั้งผู้ไม่หวังดี
ถ้าโมเดล “ระดับ Mythos” อันตรายขนาดนั้น ก็ให้มันแก้โค้ดของทุกคนไปเลยก็ได้ บริษัทซอฟต์แวร์ บริการ และโครงการเสรี/โอเพนซอร์สที่ยังเคลื่อนไหวทั่วโลกคงมีมากสุดแค่หลักล้านถึงหลักสิบล้าน ดังนั้นอาจแจกเครดิต Fable/Mythos มูลค่า 100 ดอลลาร์ให้ทุกคนเพื่อให้แต่ละรายแก้โค้ดของตัวเองได้
Anthropic สามารถใช้เงิน 100 ล้านถึง 1 พันล้านดอลลาร์ทำแคมเปญโฆษณาที่ใหญ่ที่สุดในประวัติศาสตร์มนุษย์ พร้อมกับยกระดับความปลอดภัยทั่วโลกได้ คนส่วนใหญ่ไม่ได้มีเจตนาร้าย และถ้าเป็นวิศวกร ที่ปรึกษา ผู้ก่อตั้ง เจ้าของธุรกิจ หรือผู้ดูแลโครงการ ก็น่าจะอยากใช้ Mythos แก้โค้ดของตนเอง
การกักขังความสามารถแบบนี้ไว้หลังด่านอนุญาตและประตูปิดตายจะก่อความเสียหายมากกว่าในระยะยาว และสร้างโลกที่ไม่สมมาตรซึ่งผู้มีสิทธิ์เข้าถึงเป็นคนตัดสินว่าใครจะปลอดภัยได้ ถ้าทุกคนมี Mythos ก็จะไม่มีใครมี “Mythos” แบบผูกขาด ดังนั้นควรปล่อยให้ผู้คนแก้โค้ดของตัวเอง
โมเดลรุ่นล่าสุดใช้เพียงการตรวจสอบภายใน หรือผู้ประเมินภายนอกแบบไม่เปิดเผยอย่าง Gray Swan ที่ธุรกิจทั้งหมดพึ่งพาสองบริษัทนี้ และบริษัทเหล่านี้ก็หมุนเวียนใช้กลุ่มนักวิจัยชุดเดียวกันไปมา
จีนถูกปฏิบัติราวกับเป็น จีนแบบชเรอดิงเงอร์ คือทั้งเป็นภัยคุกคามที่จะใช้ AI เพื่อจุดประสงค์ชั่วร้าย และในขณะเดียวกันก็เป็นประเทศที่จะร่วมมือกับสหรัฐฯ ซึ่งเป็นคู่แข่ง เพื่อช่วยกันสกัดผู้เล่นลึกลับรายอื่นไม่ให้บรรลุเป้าหมายเดียวกัน
ความจริงนั้นง่ายกว่านั้น CEO ของ Anthropic ไม่ต้องการให้โมเดลที่คล้ายหรือดีกว่าโมเดลแบบปิดและราคาแพงของบริษัทตนถูกเผยแพร่อย่างกว้างขวางจนกระทบรายได้
สินทรัพย์พิเศษของ Anthropic และบริษัทโมเดลอื่น ๆ มีเพียงสิทธิพิเศษในการเข้าถึงชิป ดังนั้นจึงเป็นเรื่องธรรมดาที่พวกเขาจะอยากจำกัดว่าโมเดลใดจะออกมาได้ และใครจะสร้างโมเดลใหม่ได้ หากไม่มีการกำกับดูแล ก็เป็นเพียงเรื่องของเวลาก่อนที่มูลค่าบริษัทระดับหลายแสนล้านดอลลาร์จะหายไป
ถ้าเงียบไปเสียยังน่าเคารพกว่า ทั้งที่เห็นได้ชัดว่าโมเดลเปิดอาจก่อการแข่งขันอย่างดุเดือดหรือทำลายฐานรายได้ของตน แต่กลับแต่งความพยายามผูกขาดอำนาจเหนือแรงงานมนุษย์ทั้งหมดให้ดูเหมือนมีจุดยืนทางศีลธรรมสูงส่ง
ผมมองว่าการที่จีนเปิดเผยนวัตกรรม AI เป็นโอเพนซอร์สเพื่อกด ฟองสบู่ AI หรือทำให้แตกเร็วขึ้น เป็นทางเลือกที่ยอดเยี่ยมและสอดคล้องกับผลประโยชน์ของจีนเอง
ย่อหน้าแรกบอกว่าการแบนไม่เป็นประโยชน์ แต่ตอนหลังกลับบอกว่าต้องปราบปรามการลักลอบนำเข้าและช่องทางเลี่ยงเพื่อให้จีนได้ชิป
ความเชื่อว่าการแบนไม่ได้ผล ควรนำไปใช้กับฮาร์ดแวร์เช่นเดียวกัน
มาตรการสามอย่างที่ Dario สนับสนุนคือการแบนขายชิปให้จีน การปราบปรามการกลั่นโมเดล และการบังคับตรวจความปลอดภัยโมเดลสมรรถนะสูงทั้งหมด ซึ่งบังเอิญว่าล้วนให้ประโยชน์เชิงพาณิชย์กับ Anthropic ทั้งสิ้น ถ้า Anthropic เคยปล่อยโมเดล open weights สักตัว ก็คงน่าเชื่อถือกว่านี้มาก
คนที่จนถึงเมื่อวานยังไม่สนใจว่าเทคโนโลยีของตัวเองอาจถูกใช้ทิ้งระเบิดโรงเรียนหญิงล้วนในประเทศอื่น จู่ ๆ ก็เป็นห่วงการกดขี่ประชาชนของอีกประเทศหนึ่งขึ้นมา
การอวดศีลธรรม แบบนี้ หรือการสั่งสอนด้วยท่าทีเหนือกว่าเกี่ยวกับ “สถานการณ์ฝันร้าย” ประจำปี ชวนให้เชื่อได้ยาก
เขามีแนวโน้มสนับสนุนอิสราเอล แต่ไม่เคยพูดถึงความเสี่ยงที่รัฐบาลอิสราเอลจะใช้ AI ควบคุมและกดขี่ประชาชนประเทศอื่นเลย อีกทั้งยังร่วมมืออย่างแข็งขันกับ Palantir ซึ่งมีเป้าหมายชัดเจนเรื่องการควบคุมประชากร การกดขี่ และการสร้างรัฐสอดส่อง
เกาหลีเหนือซึ่งเป็นประเทศที่กดขี่ที่สุดแห่งหนึ่งของโลกก็ทำเช่นนั้นได้โดยไม่ต้องมี AI ถ้าไปบอกชาวจีนตามแนวคิดของ Dario ว่า DeepSeek หรือ Kimi กำลังกดขี่พวกเขา พวกเขาคงหัวเราะใส่
นึกไม่ออกเลยว่ามีบริษัทไหนที่ร่วงจากห่านทองคำลงมาเป็นสิ่งที่ไม่รู้ว่าเป็นอะไรกันแน่ได้รวดเร็วขนาดนี้
ท่าทีตั้งรับตลอดเวลา ที่แฝงอยู่ในการประกาศของ Dario ทำให้ไม่อยากเชื่อหรือพึ่งพาผลิตภัณฑ์ของ Anthropic อีกต่อไปด้วยซ้ำ ไม่เข้าใจด้วยซ้ำว่าบทความนี้พยายามโน้มน้าวใคร และดูเหมือน Anthropic ต้องยกเครื่องกันใหม่
เป็นท่าทีคลุมเครือที่พยายามประนีประนอมกับทุกฝ่ายที่มีจุดยืนชัดเจนกว่า แต่ผลลัพธ์ออกมาค่อนข้างแย่
เหมือนกับว่า พรรคคอมมิวนิสต์จีนอันชั่วร้ายเป็นภัยใหญ่ต่อสันติภาพและความดีของโลก ดังนั้นจงมอบเงินทั้งหมดและข้อมูล input token ทั้งหมดให้ Palantir เพื่อระเบียบระหว่างประเทศที่ตั้งอยู่บนกฎเกณฑ์ ซึ่งให้ฝ่ายดีเจริญรุ่งเรืองและกำจัดนักชีววิทยาเต่าผู้เสื่อมทราม
https://www.theguardian.com/world/2026/jun/20/mona-khalil-tu...
ตรรกะสุดท้ายก็คือ “เทคโนโลยีนี้อันตรายเกินไป ดังนั้น ควรมีแค่พวกเราเท่านั้นที่เข้าถึงได้ และเพราะเราอยู่ฝ่ายดี เราจึงรับประกันการใช้งานที่ปลอดภัยได้”
ถ้าอย่างนั้นใครจะเฝ้าผู้เฝ้า?
หากสนับสนุนการแพร่กระจายของโมเดลเปิดอย่างเต็มที่ แล้วควรทำอย่างไรกับโมเดล open weight ที่มี ศักยภาพด้านอาวุธชีวภาพและการโจมตีไซเบอร์?
เราควรยอมรับการอนุญาตให้ผู้โจมตีมีเครื่องมือแบบนี้เป็นต้นทุนของเสรีภาพหรือไม่? เหตุการณ์ OpenAI/Hugging Face แสดงให้เห็นความสามารถของโมเดลระดับ GPT 5.6 ที่ไม่มีข้อจำกัด และอีกราว 6 เดือน โมเดล open weight ก็จะไปถึงระดับนั้น ทำให้ผู้ประสงค์ร้ายทุกคนสามารถก่อการโจมตีในระดับเดียวกันได้
การชอบความเปิดกว้างเป็นเรื่องสมเหตุสมผล แต่การเห็นด้วยแบบไม่มีเงื่อนไขในทุกสถานการณ์โดยไม่คิดจริงจังถึงผลกระทบที่ตามมานั้นไร้เดียงสาเกินไป
Hugging Face เข้าถึงโมเดลล้ำสมัยที่มีขีดความสามารถด้านไซเบอร์ไม่ได้ และถูกมาตรการความปลอดภัยขวางซ้ำแล้วซ้ำเล่า จนกระทั่งใช้ GLM-5.2 แบบโอเพนซอร์สจึงรอดจากการโจมตีได้ หากโมเดลโอเพนซอร์สถูกห้าม องค์กรที่ไม่อยู่ใน allowlist ของ OpenAI หรือ Anthropic ก็จะไม่สามารถรักษาความปลอดภัยไซเบอร์ของตนได้
อาจมีช่วงเสี่ยงอันเจ็บปวดที่โค้ดซึ่งไม่เคยได้รับการวิเคราะห์แบบนี้มานานกว่า 30 ปี จู่ ๆ ถูกตรวจทานด้วยศักยภาพเทียบเท่า “taviso” หนึ่งล้านคน แต่ผู้พัฒนาและฝ่ายป้องกันก็ใช้เครื่องมือเดียวกันได้ แม้จะมีความไม่สมมาตรที่ต้นทุนฝ่ายป้องกันสูงกว่า แต่มันเป็นการแข่งขันสะสมอาวุธที่มีแนวโน้มจะเข้าสู่เสถียรภาพ และสุดท้ายการพิสูจน์เชิงรูปแบบของคุณสมบัติความปลอดภัยก็น่าจะขยายตัวขึ้น โดยโมเดลเดียวกันจะช่วยลดต้นทุนนั้นลงเรื่อย ๆ
distillation และโมเดล open weight จะไม่หายไป และแทบไม่มีวิธีห้ามหรือควบคุมอย่างมีประสิทธิภาพ เครื่องมือแบบ self-service ที่ให้คนนอกวงการ distill และดูแลโมเดลล้ำสมัยของตนเองที่มีความสามารถด้านความปลอดภัยสารสนเทศก็อาจเกิดขึ้นได้
หากเป็นฝ่ายป้องกัน ทางที่ดีที่สุดคือรับมือโดยถือว่าสิ่งนี้จะเกิดขึ้น และต่อให้ถกเถียงกันว่าจะอนุญาตหรือไม่ ก็คงไม่มีระบบบังคับใช้ระดับโลกเกิดขึ้นทันเวลา
จะเป็นแบบเปิดหรือปิดไม่ได้สำคัญมากนัก และแม้มาตรการความปลอดภัยปัจจุบันจะเอนเอียงไปทาง false positive แต่โมเดลปิดก็สามารถก่อความเสียหายทางไซเบอร์ได้มากอยู่ดี
การควบคุมที่ได้ผลอย่างเดียวคือ ทำให้สนามแข่งขันราบเสมอกัน ให้ผู้โจมตีและฝ่ายป้องกันเข้าถึงขีดความสามารถเดียวกัน หากสร้างด่านแบบที่ Dario เสนอ ซึ่งผู้โจมตีหลบเลี่ยงได้แต่ฝ่ายป้องกันผ่านไม่ได้ ก็มีแต่จะรับประกันความปั่นป่วนเท่านั้น
สิ่งที่ Dario พลาดซ้ำแล้วซ้ำเล่าคือ ผู้คนไม่เชื่ออีกต่อไปแล้วว่าสหรัฐฯ จะสร้าง AI ที่ aligned
กลยุทธ์ทั้งหมดของเขาพึ่งพาสมมติฐานว่าสหรัฐฯ และรัฐบาลสหรัฐฯ มีความดีงามเป็นกรณีพิเศษ แต่สำหรับส่วนอื่น ๆ ของโลก สิ่งนี้ดูเป็นเท็จอย่างชัดเจน
ตามความเห็นของเขา กฎด้านความปลอดภัยและศีลธรรมของทั้งโลกควรถูกเขียนโดยสหรัฐฯ เท่านั้น และในบทสัมภาษณ์เดียวกัน เขาสนับสนุนนโยบายต่างประเทศของสหรัฐฯ พร้อมเรียกจีนว่าเป็น “ระบอบที่ก้าวร้าวและทำสงครามเป็นนิจ”
ชาวอเมริกันที่มองว่านี่เป็นเรื่องเท็จก็มีมากขึ้น แต่ชนชั้นคณาธิปไตยเป็นผู้ได้รับประโยชน์รายใหญ่ที่สุดจากนโยบายของรัฐบาลสหรัฐฯ การโฆษณาชวนเชื่อจึงจะดำเนินต่อไป
เข้าใจทั้งตรรกะที่ Anthropic ผลักดันการพัฒนาไปพร้อมกับเรียกร้องให้หยุดและให้มีกฎระเบียบ และเข้าใจด้วยว่าทำไมปัจเจกบุคคลที่ต้องการชะลอความเร็วก็ยังมีเหตุผลที่จะทำงานในบริษัท AI ต่อไป
แต่ถ้าทุกคนคิดแบบนั้น การแข่งขันก็จะยิ่งทวีความรุนแรงต่อไป ระหว่างรอฉันทามติที่อาจไม่เกิดขึ้นเลย ไม่มีอะไรเปลี่ยน และแรงจูงใจทางเศรษฐกิจก็ทำให้ผู้เล่นทุกฝ่ายมีเหตุผลที่จะเดินหน้าต่อ
หวังว่าจะมีการกระทำที่เป็นรูปธรรมมากขึ้นจากภายใน เมื่อการตัดสินใจซับซ้อนเกินไป ก็กลับไปยึดหลักการพื้นฐานได้ หากเชื่อว่า AI กำลังพัฒนาเร็วเกินไป ก็จงหยุดพัฒนา และหากบริษัท AI ต้องการให้หยุด ก็ควรหยุดก่อนเพื่อเป็นตัวอย่าง
บริษัทอื่นอาจตามมา และบริษัทที่ไม่ตามก็จะดูไร้ความรับผิดชอบ ผู้ที่ตัดสินใจว่าจะไม่ทำบาปอีกต่อไปควรวางหินลงก่อน