- ตาม คำสั่งควบคุมการส่งออก ที่รัฐบาลสหรัฐออกโดยอ้างอำนาจด้าน ความมั่นคงแห่งชาติ ทำให้ ชาวต่างชาติทุกสัญชาติถูกปิดกั้นการเข้าถึง Fable 5·Mythos 5 ไม่ว่าจะอยู่ในหรือนอกสหรัฐ และเพื่อให้เป็นไปตามข้อกำหนดจึงระงับบริการแก่ลูกค้าทั้งหมดโดยมีผลทันที
- คำสั่งดังกล่าวถูกส่งมาถึงเมื่อเวลา 17:21 น. ตามเวลา ET และ ไม่ได้ระบุรายละเอียดที่เป็นรูปธรรมของข้อกังวลด้านความมั่นคงแห่งชาติ
- คาดว่าพื้นฐานของคำสั่งมาจากการที่รัฐบาลรับรู้ถึงเทคนิค jailbreaking ของ Fable 5 แต่ช่องโหว่ที่ระบุได้ด้วยเทคนิคดังกล่าวเป็นเพียงระดับเล็กน้อยที่ทราบกันอยู่แล้ว และสามารถค้นพบได้จากโมเดลสาธารณะอื่นโดยไม่ต้องใช้การหลบเลี่ยง
- Anthropic ระบุว่า ก่อนเปิดตัวได้ทำ การทดสอบแบบ red team รวมหลายพันชั่วโมงร่วมกับรัฐบาลสหรัฐ, UK AISI และหน่วยงานภายนอก และไม่มีผู้ทดสอบคนใดพบ universal jailbreak
- บริษัท ไม่เห็นด้วย กับเกณฑ์ที่ใช้การมีโอกาส jailbreaking ในวงแคบเป็นเหตุให้ต้องเรียกคืนโมเดลเชิงพาณิชย์ที่มีผู้ใช้หลายร้อยล้านคน และมองว่าหากใช้เกณฑ์เดียวกันกับผู้ให้บริการโมเดลรายอื่น การเปิดตัวโมเดลใหม่แทบทั้งหมดจะหยุดชะงัก
เนื้อหาของคำสั่งและผลกระทบทันที
- รัฐบาลสหรัฐอ้างอำนาจด้านความมั่นคงแห่งชาติและออก คำสั่งควบคุมการส่งออก ให้ ชาวต่างชาติทุกสัญชาติ (รวมถึงพนักงาน Anthropic ที่ถือสัญชาติอื่น) หยุดการเข้าถึง Fable 5·Mythos 5 ไม่ว่าจะอยู่ในหรือนอกสหรัฐ
- ผลของคำสั่งทำให้ต้องปิดใช้งาน Fable 5·Mythos 5 แบบกะทันหันสำหรับ ลูกค้าทั้งหมด เพื่อให้เป็นไปตามข้อกำหนด
- การเข้าถึงโมเดลอื่นทั้งหมดของ Anthropic ไม่ได้รับผลกระทบ
- คำสั่งถูกส่งมาถึงเมื่อเวลา 17:21 น. ตามเวลา ET ของวันเดียวกัน และในหนังสือ ไม่ได้ระบุรายละเอียดเฉพาะของข้อกังวลด้านความมั่นคงแห่งชาติ
เหตุผลที่คาดว่าเป็นที่มาของความกังวลจากรัฐบาล
- คาดว่ารัฐบาลรับรู้ถึง เทคนิคการหลบเลี่ยงแบบ jailbreaking ของ Fable 5
- จากการตรวจสอบการสาธิตเทคนิคดังกล่าว พบว่าใช้เพื่อระบุ ช่องโหว่เล็กน้อย จำนวนหนึ่งที่เป็นที่รู้จักอยู่แล้ว
- ช่องโหว่เหล่านี้ค่อนข้างเรียบง่าย และสามารถค้นพบได้ในโมเดลสาธารณะอื่นเช่นกันโดยไม่ต้องใช้การหลบเลี่ยง
จุดยืนของ Anthropic ต่อมาตรการความปลอดภัยของ Fable
- บริษัทระบุว่าได้เพิ่ม มาตรการความปลอดภัยที่เข้มงวด ซึ่งช่วยลดโอกาสการใช้งานผิดวัตถุประสงค์ในงานอย่างเช่นความมั่นคงไซเบอร์อย่างมาก จนมีผู้ใช้จำนวนมากร้องเรียนว่ากว้างเกินไป
- ในช่วงหลายสัปดาห์ก่อนเปิดตัว ได้ทำการตรวจสอบแบบ red team รวม หลายพันชั่วโมง ร่วมกับรัฐบาลสหรัฐ, UK AISI, หน่วยงานเอกชนภายนอกหลายแห่ง และทีมภายใน
- การทดสอบดังกล่าวยืนยันว่า มาตรการความปลอดภัยของ Fable มีประสิทธิภาพในทางปฏิบัติมากกว่า โมเดลใด ๆ ที่เคยถูกนำออกใช้งานมาก่อน
- ไม่มีผู้ทดสอบคนใดพบ universal jailbreak (วิธีหลบเลี่ยงมาตรการความปลอดภัยของโมเดลในวงกว้างเพื่อเปิดความสามารถด้านไซเบอร์ได้หลากหลาย)
ข้อจำกัดของการป้องกัน jailbreak แบบสมบูรณ์
- ปัจจุบันดูเหมือนว่าไม่มีผู้ให้บริการรายใดสามารถทำให้ ต้านทาน jailbreak ได้อย่างสมบูรณ์ และมาตรการความปลอดภัยทั้งหมดในอุตสาหกรรมยังคงเปราะบางต่อ non-universal jailbreak (การชักนำข้อมูลด้านไซเบอร์บางส่วนในสถานการณ์เฉพาะ)
- แม้แต่ universal jailbreak เองก็อาจถูกค้นพบในอนาคตได้ ซึ่งเป็นสิ่งที่ระบุไว้อย่างชัดเจนตั้งแต่ตอนเปิดตัว Fable 5
กลยุทธ์ Defense in Depth
- ภายใต้ความจริงที่ว่าการป้องกันอย่างสมบูรณ์เป็นไปไม่ได้ บริษัทจึงใช้กลยุทธ์ defense in depth ทำให้การ jailbreak ถูกจำกัดอยู่ในวงแคบ (non-universal) หรือมีต้นทุนสูงมาก (universal) พร้อมเฝ้าติดตามอย่างเข้มงวดเพื่อให้ตรวจจับและสกัดกั้นการโจมตีได้อย่างรวดเร็ว
- เพื่อการนี้ Fable กำหนดให้มี การเก็บข้อมูลลูกค้า 30 วัน ซึ่งแม้จะสร้างต้นทุนจริงให้ฝั่งลูกค้า แต่ช่วยให้ทำวิจัยและบรรเทาปัญหา jailbreak ได้
- บริษัทจะยังคงยึดกลยุทธ์การป้องกันหลายชั้นต่อไป และมองว่าวิธีนี้ช่วยลดความเสี่ยงลงสู่ระดับที่ เทียบเคียงได้กับ โมเดลที่มีการใช้งานอยู่ทั่วอุตสาหกรรมแล้ว
- บริษัทระบุว่ายังไม่เคยได้รับการเปิดเผยถึง non-universal jailbreak ที่น่ากังวลซึ่งนำไปสู่ผลลัพธ์ที่เป็นอันตราย และ jailbreak ที่อาจเป็นไปได้ซึ่งถูกเปิดเผยทั้งหมดก็เป็นเพียงการตอบสนองที่ไม่เป็นอันตรายหรือ การค้นพบเล็กน้อยที่ไม่มีข้อได้เปรียบเฉพาะของ Mythos เท่านั้น
การตรวจสอบหลักฐานที่ยื่นต่อรัฐบาล
- จนถึงขณะนี้ รัฐบาลนำเสนอเพียง หลักฐานด้วยวาจา โดยเนื้อหาเป็น non-universal jailbreak ในขอบเขตจำกัด ที่สั่งให้โมเดลอ่านโค้ดเบสเฉพาะและแก้ไขข้อบกพร่องของซอฟต์แวร์
- คาดว่ามีการแชร์ jailbreak ที่อาจเป็นไปได้กับรัฐบาลเพียงหนึ่งรายการ และจากการตรวจสอบรายงานที่เชื่อว่าเป็นพื้นฐานของคำสั่ง พบว่าระดับ ความสามารถ ที่นำเสนอสามารถใช้งานได้อย่างแพร่หลายในโมเดลอื่น เช่น GPT-5.5 ของ OpenAI
- ความสามารถดังกล่าวอยู่ในระดับที่ ผู้ป้องกันระบบใช้งานกันทุกวัน
- บริษัทระบุว่าจะเปิดเผยรายละเอียดเพิ่มเติมภายใน 24 ชั่วโมงข้างหน้า
การตอบสนองและจุดยืนของ Anthropic
- บริษัทปฏิบัติตามคำสั่งทางกฎหมายของรัฐบาลและลบการเข้าถึง Fable 5·Mythos 5 สำหรับผู้ใช้ทั้งหมด
- อย่างไรก็ตาม บริษัทไม่เห็นด้วยที่การค้นพบศักยภาพของ jailbreak ในวงแคบจะเป็นเหตุให้ต้องเรียกคืนโมเดลเชิงพาณิชย์ที่แจกจ่ายให้ผู้ใช้หลายร้อยล้านคน
- หากใช้เกณฑ์เดียวกันกับทั้งอุตสาหกรรม บริษัทมองว่า การเปิดตัวโมเดลใหม่ ของผู้ให้บริการ frontier model ทุกรายจะ แทบหยุดลงโดยสิ้นเชิง
- บริษัทเห็นว่ารัฐบาลควรมีอำนาจในการหยุดยั้งการเปิดใช้งานที่ไม่ปลอดภัย แต่สิ่งนั้นต้องเป็นส่วนหนึ่งของ กระบวนการทางกฎหมายที่โปร่งใส เป็นธรรม ชัดเจน และอิงข้อเท็จจริงทางเทคนิค ซึ่งมาตรการครั้งนี้ไม่สอดคล้องกับหลักการดังกล่าว
- บริษัทขออภัยต่อความสับสนของลูกค้า มองว่านี่เป็น ความเข้าใจผิด และกำลังเร่งดำเนินการเพื่อกู้คืนการเข้าถึงโดยเร็วที่สุด
6 ความคิดเห็น
ไม่ว่าจะอ่านกี่ครั้งก็ยังรู้สึกว่า ตลอดเวลาที่เอะอะโวยวายแล้วพูดซ้ำๆ ว่าโมเดลของเรานั้นอันตราย สุดท้ายก็เหมือนยกหินทับเท้าตัวเองนะครับ
จะเป็นความสำเร็จหรือล้มเหลวของการตลาดก็ไม่รู้ว่าในอนาคตจะเป็นอย่างไร แต่ ณ ตอนนี้ดูเหมือนจะล้มเหลวครับ
ถ้าคิดถึงการไหลเข้าของผู้ใช้ Anthropic หลังเหตุการณ์เพนตากอน ผมมองว่า ณ จังหวะก่อน IPO แบบนี้ ไม่มีทางที่ Anthropic จะเป็นฝ่ายเสียหายอย่างเด็ดขาด
และในแง่ของการกลบประเด็นอย่าง guardrail ต่างๆ ถ้าตั้งแต่แรกไม่เปิดให้บริการโมเดลไปเลย ก็จะไม่มีการตรวจสอบต่อได้อีก จึงนับว่าเหมาะเจาะพอดีด้วย
ตอนนี้บริษัท AI คงไม่มีเหตุผลที่จะพัฒนาโมเดลที่มีประสิทธิภาพดีกว่าเดิมอีกแล้ว ดูเหมือนว่าพัฒนาการของ AI จะมาถึงแค่นี้ครับ
นี่มันอะไรเนี่ย.. 555
5555555555555555555555555
ความคิดเห็นบน Hacker News
พวกเขาทำ การตลาดด้วยความกลัว มาตลอด เพื่อขายว่าตัวเองนำหน้าคนอื่นไปไกลมาก ๆ ดังนั้นนี่ก็เหมือนต้องชดใช้ผลที่ก่อไว้
ดูเหมือนในที่สุดก็หากลุ่มผู้ฟังที่โง่พอจะเชื่อเรื่องนั้นได้แล้ว
เหมือนได้ยินเสียงของบริษัทและผู้ใช้จำนวนมากกำลังเดิมพันกับ โมเดลจากจีน มากขึ้น
การที่ประเทศอื่นเข้าถึงโมเดลแบบนี้อาจเป็นปัญหาความมั่นคงของชาติสำหรับสหรัฐฯ ได้ แต่ตอนนี้การที่ประเทศอื่นต้องพึ่งพาโมเดลแบบนี้ หรือกว้างกว่านั้นคือเทคโนโลยีสหรัฐฯ โดยรวม ก็กลายเป็นปัญหาความมั่นคงของชาติได้เหมือนกัน
ถ้ามองตามตรรกะ เหลือข้อสรุปแค่ว่าสหรัฐฯ มาถึง เพดานความสามารถของโมเดล ที่ยอมให้เผยแพร่สู่สาธารณะแล้วไม่ใช่หรือ? เมื่อมีบรรทัดฐานแบบนี้เกิดขึ้น แล้วใครจะลงทุนในโมเดลที่ฉลาดกว่านี้อีก
ที่อาจสำคัญยิ่งกว่าคือ ถ้าโมเดลอย่าง Mythos ซึ่งอย่างมากก็เป็นเพียงการพัฒนาแบบค่อยเป็นค่อยไปเมื่อเทียบกับ Opus ยังถูกปฏิบัติแบบนี้ แล้วการลงทุน AI ทั้งหมดที่ตั้งอยู่บนสมมติฐานของ ASI/AGI/โมเดลที่ดีกว่านี้มาก จะคืนทุนได้อย่างไร
ถ้า OpenAI หรือ Grok ดำเนินงานในระดับเดียวกัน ก็คงไม่โดนกระบองแข็งกร้าวจากรัฐบาลแบบนี้
ครั้งหนึ่ง ChatGPT 2 ก็เคยถูกมองว่าทรงพลังเกินกว่าจะเปิดให้สาธารณะใช้ได้
AI เคลื่อนไปเร็วกว่าวัฒนธรรมและกรอบความคิดของผู้คนมาโดยตลอด พอเราปรับตัวเข้ากับสิ่งที่โมเดลพวกนี้ทำได้ เราก็จะผ่อนคลายลงเล็กน้อย แล้วการพัฒนาแบบเป็นขั้นถัดไปก็จะทำให้ทุกอย่างวนซ้ำอีกครั้ง มันเป็นแบบนี้เสมอ
นี่เป็นผลของ ภาพมหรสพ แบบอเมริกันรอบ ๆ large language model ครั้งนี้มันแค่ย้อนกลับมาทำร้ายตัวเองเท่านั้น
ไม่ว่าโมเดลในอนาคตจะอันตรายจริงหรือไม่ ข้ออ้างเรื่อง ความเสี่ยง ของโมเดลในอนาคตก็คงหมดน้ำหนักไปแล้ว
ถ้ารัฐบาลสามารถสั่งหยุดการใช้งานโมเดลกับชาวต่างชาติทุกคนทั้งในและนอกสหรัฐฯ แบบสุ่มได้ ก็จะไม่มีใครยอมเสี่ยงสร้างสิ่งสำคัญบนโมเดลนี้แน่ สุดท้ายก็เป็นแค่เรื่องของเวลาก่อนที่บริษัทต่างชาติจะไล่ทันและยึดตลาดเชิงพาณิชย์ของโมเดลเหล่านี้ไป แน่นอนว่าสหรัฐฯ ก็มักจะห้ามคู่แข่งตามแบบที่ทำอยู่เสมอ ดังนั้นในทางปฏิบัติอาจกลายเป็นสถานการณ์ที่ในสหรัฐฯ ใช้โมเดลอีกตัวเป็น backend แค่ประเทศเดียว
ในช่วงเวลาที่มีทั้งภาวะขาดแคลนน้ำมันทั่วโลก การขาดแคลนปุ๋ย และการแทรกแซงฟองสบู่อย่างงุ่มง่ามซ้อนกันแบบนี้ ก็น่าจะต้องรู้สึก “ขอบคุณ” ที่คนขับพวงมาลัยคือ stable genius วัย 80 ที่สมองเลอะเลือนซึ่งดูหมิ่นหลักนิติรัฐ และมีแพทย์เฉพาะทางถึงยี่สิบสองคนคอยดูแล
สำหรับองค์กรขนาดใหญ่หรือองค์กรที่มีขนาดพอสมควร การต้องรับมือกับความเสี่ยงที่โครงสร้างพื้นฐานแกนหลักอาจถูกปิดใช้งานกะทันหันเพราะเรื่องแบบนี้เป็นสิ่งที่ยอมรับได้ยากมาก แรงกดดันต่อ on-premises และการเข้าถึงแบบออฟไลน์ จะเพิ่มขึ้นอย่างท่วมท้น และไม่ว่าจะเป็นไลเซนส์ค่าน้ำหนักโมเดลหรือสภาพแวดล้อมแบบจำกัดอย่าง TEE/CC ก็ย่อมมีใครสักคนเข้ามาตอบสนองความต้องการนั้น
บางฝ่ายจะยอมรับความเสี่ยงมากกว่าเพื่อชนะหรือแพ้ ขณะที่อีกฝ่ายจะเคลื่อนไหวอย่างปลอดภัยกว่าและค่อย ๆ สะสมผลงานหรือไม่ก็ถูกคัดออกไป
ยังไม่ต้องพูดถึงความเสี่ยงจากการให้โมเดลเหล่านี้เขียนโค้ดที่ใช้เดินงานของบริษัท หรือให้ทำงานแบบเอเจนต์เลยด้วยซ้ำ มันอาจเป็นโมเดลที่ถูกฝึกโดยผู้เล่นที่มีผลประโยชน์ตรงข้ามกับคุณอย่างสิ้นเชิง ไม่ว่าจะเป็นบริษัทหรือรัฐชาติ
ตอนนี้มีสิ่งที่ต้องคิดเพิ่มขึ้นมาก และก็เป็นช่วงเวลาที่น่าสนใจสำหรับการทำธุรกิจ
ต่อให้คุณเช่าใช้โมเดลเปิดจากบริษัทจีนอยู่ก็ตาม ถ้าเขาตัดการเข้าถึงหรือเปลี่ยนเงื่อนไขการใช้งานในแบบที่คุณไม่ชอบ คุณก็ยังย้ายกลับไปใช้ on-premises ได้ อาจจะน่ารำคาญ แต่ไม่ถึงขั้นคุกคามการอยู่รอด ตรงกันข้าม ถ้าพึ่งพาโมเดลปิดแล้วโดนตัดออก จะเจ็บหนักมาก
ภาพใหญ่ตรงนี้คืออำนาจครอบงำโครงสร้างพื้นฐาน โมเดลจีนจะกลายเป็นโมเดลที่ผู้คนใช้งานจริงและเป็นผู้กำหนดมาตรฐาน จากนั้นก็จะมีงานวิจัยมากขึ้น เครื่องมือมากขึ้น และระบบนิเวศทั้งหมดรอบ ๆ มันก็จะก่อตัวขึ้น
แม้ก่อนความวุ่นวายครั้งนี้ กระแสแบบนั้นก็เริ่มขึ้นแล้วเมื่อโมเดลจีนกำลังกลายเป็นโมเดลที่ถูกใช้งานมากที่สุดในโลก https://www.indiatoday.in/amp/technology/features/story/clau...
ถ้าคุณพร่ำบอกอยู่นานว่าผลิตภัณฑ์ของตัวเองอันตรายแค่ไหน คนที่มีอำนาจจะกันผลิตภัณฑ์อันตรายออกจากตลาดก็อาจฟังคำพูดนั้นจริง ๆ
โดยเฉพาะถ้าคนพวกนั้นไม่ได้ฉลาดนักในตอนนี้ และโกรธ Anthropic อยู่แล้วเพราะมันไม่ช่วยให้พวกเขาบรรลุเป้าหมายแบบอำนาจนิยมอีกชุดหนึ่ง
ผมไม่คิดว่านี่คือ หมากสามมิติ ของ Anthropic พวกเขาไม่ได้เป็นนักยุทธศาสตร์อัจฉริยะเบื้องหลังอย่างที่อยากจะเป็น คนที่ได้ใช้ผลิตภัณฑ์จริงรู้ว่า Fable กับ Mythos ไม่ใช่อุปกรณ์วันสิ้นโลก แต่เป็นการปรับปรุงแบบค่อยเป็นค่อยไป ผมมองว่านี่คือมาตรการลงโทษของรัฐบาลที่ชอบการลงทัณฑ์ และ Anthropic ก็เผลอช่วยเสริมความชอบธรรมให้มันด้วยวาทกรรมโง่ ๆ ของตัวเอง
เหตุการณ์นี้ถูกระบุว่าเกิดขึ้นวันนี้เวลา 5:21 PM ตามเวลาฝั่งตะวันออกของสหรัฐ
ในหน้าเพจแสดงวันที่ 11 มิถุนายน 2026 และในช่วง 10 นาทีที่ผ่านมาได้ถูกอัปเดตเป็น 12 มิถุนายน 2026 แล้ว
https://imgur.com/a/lx7HCW9
Google แสดงว่าหน้านี้ถูกครอลไปเมื่อไม่กี่วันก่อน
ลองค้นหา “the us government directive to suspend access to fable” ได้เลย
https://imgur.com/a/EOWWUbD
แม้จะอยู่ในสหรัฐฯ หรือเป็นพนักงานของ Anthropic ก็ตาม แต่การห้าม ผู้ถือสัญชาติต่างชาติ ทุกคนใช้ ไม่ว่ามาจากประเทศไหนก็ดูครอบคลุมกว้างและรุนแรงเกินไป แถมดูเหมือนจะเกิดจากช่องโหว่ jailbreak ที่อาจเป็นไปได้เพียงจุดเล็กน้อยภายนอกด้วย เลยรู้สึกว่าน่าจะมีอะไรมากกว่าที่เห็น
ไม่ได้หมายความว่าจะเป็นผลดีต่อนักวิจัยหรือตัวงานวิจัยเอง แต่ใกล้เคียงกับการประกันว่ามีการใช้เงินทุนตามที่สหรัฐฯ กำหนด