เงาขนาดใหญ่ที่ปกคลุมกรณี Fable นี้
(12gramsofcarbon.com)- โมเดล AI ทรงพลังอย่าง Fable 5 และ Mythos 5 ถูกตัดการเข้าถึงของลูกค้าทั้งหมดอย่างกะทันหัน หลังคำสั่งควบคุมการส่งออกจากรัฐบาลสหรัฐฯ
- คำสั่งของรัฐบาลสหรัฐฯ กำหนดให้ ผู้ถือสัญชาติต่างชาติ ทั้งในและนอกสหรัฐฯ รวมถึงพนักงานต่างชาติของ Anthropic ถูกบล็อกการเข้าถึง และ Anthropic จึงตัดการเข้าถึงทั้งหมดเพื่อให้เป็นไปตามข้อกำหนด
- Anthropic ระบุว่ารัฐบาลมองว่ามีปัญหาเรื่องเทคนิคหลบข้อจำกัด jailbreak บางอย่าง แต่ช่องโหว่ที่สาธิตนั้นเป็นเพียงช่องโหว่เล็กน้อยจำนวนไม่กี่รายการที่รู้กันอยู่แล้ว และมองว่าโมเดลสาธารณะอื่นก็หาเจอได้เช่นกัน
- มาตรการครั้งนี้ทำให้แยกได้ยากว่าเป็นกฎกำกับดูแลความปลอดภัยของ AI หรือเป็นแรงกดดันทางการเมืองและการแข่งขันที่พุ่งเป้าไปยัง Anthropic กันแน่ และยิ่งเพิ่ม ปัญหาความน่าเชื่อถือ ของการตัดสินใจภาครัฐ
- ได้เกิดบรรทัดฐานที่การเข้าถึงสาธารณะต่อ LLM ทรงพลังสามารถถูกจำกัดด้วยการควบคุมของรัฐบาล และนำไปสู่ความกังวลว่าในอนาคตผู้ใช้ทั่วไปอาจเข้าถึงโมเดลสมรรถนะสูงสุดได้ยากขึ้น
การเข้าถึงโมเดลที่ถูกตัดในเย็นวันศุกร์
- ระหว่างสร้างเกม HTML ด้วย AI เอเจนต์ในเย็นวันศุกร์ เอเจนต์ตอบว่า “โมเดลนี้ไม่มีอยู่อีกต่อไป” ทำให้งานหยุดชะงัก
- ตอนแรกคิดว่าเป็นปัญหาต้องล็อกอินใหม่ หรือเป็นข้อผิดพลาดข้อจำกัดแปลก ๆ จากการใช้เอเจนต์หลายตัวพร้อมกัน จึงเปลี่ยนไปใช้ API แต่ก็ยังเข้าถึงไม่ได้
- ระหว่างกำลังสงสัยว่า harness ของทีมที่ใช้กับ Rust agent client แบบคัสตอมพังหรือไม่ และกำลังไล่ดูโค้ด Rust ก็ได้ยินจากเพื่อนว่ารัฐบาลสั่งแบน Fable
คำสั่งให้บล็อกการเข้าถึงจากรัฐบาล
- รัฐบาลสหรัฐฯ ออกคำสั่งควบคุมการส่งออกโดยอ้าง อำนาจด้านความมั่นคงแห่งชาติ และ กำหนดให้หยุดการเข้าถึง Fable 5 และ Mythos 5 ของผู้ถือสัญชาติต่างชาติทั้งหมด
- ครอบคลุมผู้ถือสัญชาติต่างชาติทั้งหมดไม่ว่าจะอยู่ในหรือนอกสหรัฐฯ และรวมถึง พนักงาน Anthropic ที่ถือสัญชาติต่างชาติ
- เพื่อปฏิบัติตามคำสั่ง Anthropic จึงปิดใช้งาน Fable 5 และ Mythos 5 ทันทีสำหรับลูกค้าทั้งหมด ขณะที่การเข้าถึงโมเดลอื่นของ Anthropic ไม่ได้รับผลกระทบ
- มีการรับคำสั่งดังกล่าวในวันเดียวกันเวลา 17:21 น. ET และในหนังสือไม่ได้ระบุรายละเอียดความกังวลด้านความมั่นคงอย่างเฉพาะเจาะจง
ท่าทีอย่างเป็นทางการของ Anthropic
- Anthropic เข้าใจว่ารัฐบาลรับรู้ถึงเทคนิคหลบข้อจำกัด Fable 5 jailbreaking และจากการตรวจสอบการสาธิตเทคนิคดังกล่าว พบว่าเป็นเพียงการระบุช่องโหว่เล็กน้อยไม่กี่รายการที่รู้จักกันอยู่แล้ว
- ช่องโหว่เหล่านี้ค่อนข้างง่าย และแม้ไม่ต้องใช้วิธีหลบข้อจำกัด ก็สามารถพบแบบเดียวกันได้ในโมเดลสาธารณะอื่น
- บริษัทได้ตรวจสอบรายงานที่คาดว่าเป็นฐานของคำสั่ง และยืนยันว่าระดับความสามารถดังกล่าว มีให้ใช้อย่างแพร่หลายในโมเดลอื่น เช่น OpenAI GPT-5.5 และเป็นระดับที่ผู้ป้องกันด้านความปลอดภัยใช้งานกันทุกวัน พร้อมระบุว่าจะเผยแพร่ข้อมูลเพิ่มเติมภายใน 24 ชั่วโมง
- แม้จะปฏิบัติตามคำสั่งทางกฎหมาย แต่บริษัทคัดค้านแนวคิดที่ว่าการพบ jailbreak ที่อาจเกิดขึ้นในวงจำกัด ควรเป็นเหตุให้ เรียกคืนโมเดลเชิงพาณิชย์ที่เผยแพร่ไปยังผู้ใช้นับร้อยล้านคน
ความกังวลเรื่องความปลอดภัยของ AI และการทำ optimization
- มุมมองต่อ AI มีความย้อนแย้งในตัว และจากประสบการณ์การฝึกดีปเลิร์นนิงโมเดลจำนวนมาก ทำให้มีความกังวลอย่างมากต่อวิธีที่ เครื่องมือ optimization อาจทำงานผิดพลาดได้
- มนุษย์มักโน้มเอียงไปสู่การ optimize ตัวชี้วัดที่วัดได้ แทนเป้าหมายที่อยากบรรลุจริง ๆ
- เช่น แม้อยากสร้างผลิตภัณฑ์ที่ดี แต่เพราะไม่รู้ว่าต้องทำอย่างไร จึงไป optimize การมีส่วนร่วม หรือแม้อยากสอนเด็กให้อ่านออกเขียนได้ ก็กลับไป optimize คะแนนสอบ
- ระบบ AGI และ ASI เป็นเครื่องมือ optimization และในกระบวนการ optimize สิ่งที่วัดได้ มันอาจห่างไกลจากสิ่งที่ดีจริง ๆ จึงอาจมีความเสี่ยงที่คาดเดายาก
- องค์กรธุรกิจก็ทำงานคล้ายเครื่องมือ optimization เช่นกัน ดังนั้นแม้นักพัฒนาจำนวนมากจะพูดถึงความเสี่ยง องค์กรก็อาจยังขับเคลื่อนไปสู่เป้าหมายที่วัดได้อย่างการสร้างรายได้ให้เร็วที่สุด
ฉากหลังความขัดแย้งระหว่างรัฐบาลกับ Anthropic
- Anthropic กับรัฐบาลชุดปัจจุบันไม่ได้มีความสัมพันธ์ที่เป็นมิตรนัก โดยบริษัทพยายามทำ DoD integration และความร่วมมือทางทหาร จนโมเดลของตนถูกใช้ในระบบข้อมูลลับระดับสูง
- ถึงกระนั้น รัฐบาล Trump ก็จัด Anthropic เป็น supply chain risk และห้ามหน่วยงานความร่วมมือภาครัฐใช้โมเดลของ Anthropic
- หลังจากนั้นตลอด 6 เดือน ก็ยังมีการใช้โมเดลของ Anthropic ต่อในปฏิบัติการทางทหาร เช่น สงครามเวเนซุเอลาและสงครามอิหร่าน ขณะที่ LLM จีนยังไม่ได้ถูกจัดเป็น supply chain risk ด้วยซ้ำ
- กลุ่มขวาจัดบางส่วนผลักตรรกะที่ตีตรา Anthropic ว่าเป็น 'woke' โดยอ้างว่ารัฐบาลต้องการทำลายบริษัท
- จึงมีการตั้งคำถามว่ามาตรการครั้งนี้มีเป้าหมายเพื่อกำกับดูแล AI อันตรายจริง หรือเป็นโอกาสในการ โจมตีเป้าหมายที่เป็นศัตรูทางวัฒนธรรม
สภาพการแข่งขันและจังหวะก่อน IPO
- คู่แข่งหลายรายมีแนวร่วมที่เป็นมิตรกับรัฐบาลทั่วทั้งฝ่ายบริหาร เช่น ตระกูล Kushner ลงทุนก้อนใหญ่ใน OpenAI
- มาตรการครั้งนี้จึงอาจตีความได้ว่าเป็นโอกาสให้ห้องแล็บอื่นเล่นงาน Anthropic
- Fable ถูกมองว่าเป็นโมเดลที่ทรงพลังมาก และการที่การใช้งานของผู้บริโภคถูกตัดในช่วง Anthropic ใกล้ IPO ก็ดูบังเอิญอย่างน่าประหลาด
- ระบบการเมืองแบบ spoils system ทำให้ภาพลักษณ์ของทุกเรื่องชวนให้สงสัย และถูกชี้ว่าความไว้วางใจที่สะสมมาหลายสิบปีได้พังทลายลงแล้ว
การประกาศเวลา 17:21 น. วันศุกร์และความกังวลของตลาด
- เวลาประกาศที่เป็น 17:21 น. วันศุกร์ ถูกมองว่าเป็นช่วงเวลาที่น่าสงสัย
- การประกาศข่าวในเย็นวันศุกร์มักถูกเข้าใจว่าเป็นวิธีปล่อยข่าวร้ายโดยหวังให้ตลาดดูดซับแรงกระแทกระหว่างสุดสัปดาห์
- ตัวอย่างจาก The Kobeissi Letter ที่ Claude อ้างถึง รวมถึงประกาศด้านภูมิรัฐศาสตร์และการค้าหลายรายการที่ออกหลังตลาดปิดวันศุกร์หรือเช้ามืดวันเสาร์
- ตัวอย่างมีทั้งการโจมตีสถานที่นิวเคลียร์อิหร่าน, ปฏิบัติการทางทหารต่อเรือขนยาเสพติดในทะเลแคริบเบียน, การขู่เก็บภาษีจีน 100%, การปิดน่านฟ้าเวเนซุเอลา, ปฏิบัติการทางทหารในไนจีเรีย และการโจมตีอิหร่านโดยตรงในเดือนกุมภาพันธ์ 2026
- การประกาศดีล Intel วันที่ 11 สิงหาคม 2025 ก็ถูกจัดอยู่ในกลุ่มกรณีภาคธุรกิจที่วางไว้นอกเวลาซื้อขายที่มีสภาพคล่อง หลังเกิดแรงกดดันสาธารณะต่อ CEO Lip-Bu Tan
- กระแส AI boom ตั้งอยู่บนความคาดหวังอย่างมากว่าจะมีอุปสงค์ต่อ computer intelligence อย่างต่อเนื่อง
- การพุ่งขึ้นของตลาดหุ้นตลอดห่วงโซ่ AI ตั้งแต่หนี้ เงินลงทุนสร้างระบบ data center, GPU, memory, disk ไปจนถึง server rack ล้วนตั้งอยู่บนสมมติฐานว่าจะเกิดมูลค่าระดับหลายล้านล้านดอลลาร์
- หากเกิดการรับรู้ว่ารัฐบาลสามารถตัดการเข้าถึงทั้งหมดฝ่ายเดียวได้ทุกเมื่อ นั่นอาจเป็นอุปสรรคใหญ่ต่อการลงทุน data center ระดับหลายล้านล้านดอลลาร์
- ผู้ใช้บางส่วนบน HN และ Reddit มองเหตุการณ์นี้ว่าเป็นเพดานความสามารถของโมเดลที่รัฐบาลจะยอมให้ประชาชนเข้าถึง
- ปัญหาคือ หากรัฐบาลไม่อนุญาต ต่อให้มีอุปสงค์มากเพียงใดก็อาจเข้าถึงไม่ได้
ปฏิกิริยาจากชุมชนและผลย้อนกลับของการตลาดแบบ ‘โมเดลอันตราย’
- ผู้ใช้บางส่วนบน HN และ Reddit ดีใจที่มองว่า Anthropic กำลังชดใช้ราคาจาก โชว์การตลาด ที่ทำกับ Mythos
- ในอดีต OpenAI ก็เคยจำกัดการเผยแพร่ GPT-2 ด้วยแนวคิดว่า “อันตรายเกินกว่าจะปล่อยสู่สาธารณะ” โดยให้เหตุผลเรื่องความกังวลต่อการสร้างภาษาที่หลอกลวง เอนเอียง และถูกนำไปใช้ในทางที่ผิดในวงกว้าง
- มองกันว่าความกังวลของ OpenAI นั้นค่อนข้างแม่นยำ เพราะหลัง GPT-2 ก็เกิดคอนเทนต์คุณภาพต่ำที่สร้างโดย AI ล้นหลาม จนสั่นคลอนความสามารถในการทำความเข้าใจความจริงร่วมกัน
- ผู้เขียนเชื่อว่า Fable เป็นโมเดลที่ทรงพลังจริง และเชื่อในระดับหนึ่งกับคำพูดของ Anthropic ที่ว่าพวกเขากังวลเรื่องความเสี่ยงด้านความปลอดภัยจากการเปิดเผย Fable ในวงกว้าง
- คอมเมนต์ยอดนิยม ในเธรด HN ที่เกี่ยวข้อง มองว่า Anthropic กำลังจ่ายราคาจากการปลุกปั่นความกลัวเพื่อขายว่าโมเดลของตัวเองล้ำหน้าคนอื่นมากแค่ไหน
- หากรับท่าทีของรัฐบาลตามตัวอักษร โมเดลของ Anthropic ก็จะกลายเป็นโมเดลที่ดีเกินกว่าจะใช้งานได้จริง ซึ่งอาจกลายเป็นโฆษณาที่ทรงพลังเสียด้วยซ้ำ
- อีก คอมเมนต์บน HN ชี้ว่า หากคุณพูดอยู่นานว่าผลิตภัณฑ์ของคุณอันตรายแค่ไหน คนที่มีอำนาจจะกันผลิตภัณฑ์อันตรายออกจากตลาดก็อาจได้ยินคำพูดนั้น
- Bernie Sanders ถูกบรรยายว่าเป็นสมาชิกรัฐสภาที่เน้นย้ำความเสี่ยงของ AI โดยทำวิดีโอนโยบายที่อ่านคำพูดของ CEO สาย AI ออกมา
- AI อาจไม่ปลอดภัยจริงจนต้องมีการกำกับดูแล แต่เมื่อ CEO ด้าน AI ได้เห็นความเสี่ยงที่จะถูกปิดกั้น พวกเขาอาจไม่พูดแบบนั้นอีกในอนาคต
บรรทัดฐานของการจำกัดการเข้าถึง LLM ทรงพลัง
- คอมเมนต์บน HN ที่ถูกอ้างถึงเป็นลำดับสุดท้าย มองว่าแก่นสำคัญของเหตุการณ์นี้อาจอยู่ที่การที่รัฐบาลเริ่มจำกัดการเข้าถึงสาธารณะต่อ LLM ทรงพลังแล้ว
- คอมเมนต์นั้นมองว่า Fable เป็นโมเดลที่ทรงพลังที่สุดในตลาด และแม้รัฐบาลสหรัฐฯ จะห้ามเฉพาะผู้ที่ไม่ใช่พลเมืองสหรัฐฯ ในทางหลักการ แต่ในทางปฏิบัติกลับทำให้พลเมืองสหรัฐฯ ใช้ไม่ได้เช่นกัน
- มุมมองที่ว่าโมเดลจีนโอเพนซอร์สหรือการรันบนฮาร์ดแวร์ของตัวเองจะเป็นทางออก ก็อาจต้องกลับมาทบทวนใหม่
- หากรัฐบาลสหรัฐฯ ยังสกัดโมเดลอเมริกันที่แข็งแกร่งที่สุดได้ ก็มีโอกาสน้อยที่จีนจะยอมให้ LLM ที่เก่งที่สุดของบริษัทในประเทศ ซึ่งมีความสามารถระดับ Mythos ในอีกหนึ่งปีข้างหน้า ถูกปล่อยเป็นโอเพนซอร์ส
- LLM ทรงพลังกำลังมุ่งไปในทิศทางของ อาวุธไซเบอร์ซีเคียวริตี้ทรงพลัง และรัฐชาติย่อมมีผลประโยชน์ที่จะจำกัดและควบคุมมัน
- ถ้าอีก 2 ปีข้างหน้า LLM ที่ทรงพลังที่สุดยังถูกเปิดให้ใช้งานทั่วไปได้ ก็น่าจะเป็นเรื่องน่าประหลาดใจ
- ยังไม่แน่ชัดว่าการจำกัด LLM ทรงพลังจะทำให้ผู้คนยากจนลงหรือปลอดภัยขึ้น แต่เหตุการณ์ครั้งนี้คือ จุดเปลี่ยนสำคัญที่ได้สร้างบรรทัดฐานขึ้นแล้ว
3 ความคิดเห็น
คงต้องลองใช้ Dokpamo ดูแล้วสินะ
โธ่เอ๊ย..
ความเห็นจาก Hacker News
ฉันพอเข้าใจแนวคิดที่ว่า “ยุคฟื้นฟูศิลปวิทยา” ของ ‘เกมแฟลช’ อาจกลับมาได้เพราะเครื่องมือ AI แต่หลังจากลองเล่นเกมที่คนทำกันในซับเรดดิต aigamedev อยู่เรื่อย ๆ ก็รู้สึกค่อนข้างผิดหวัง
การออกแบบเกม เป็นศิลปะที่เรียนรู้ได้ยาก และดูเหมือนเป็นพื้นที่ที่ LLM ช่วยได้ไม่มากนัก
การบอกว่าเกมพวกนี้ “สนุก” ก็ดูคล้ายกับการบอกว่ารูปวาดของเด็กเล็ก “สวย” และถ้ามีเงินมากกว่า 25 ดอลลาร์ไว้ใช้กับการสร้างโค้ด ก็เอาไปซื้อ เกมอินดี้ ดี ๆ ได้อีกเยอะมาก
ศิลปะของการออกแบบเกมที่ยอดเยี่ยมอยู่ในรายละเอียด และภาษาอังกฤษเพียงอย่างเดียวไม่พอจะถ่ายทอดทุกจังหวะพู่กันบนผืนผ้าใบได้
ฉันเข้าไปดูว่าในซับเรดดิตนั้นมีอะไรถูกสร้างขึ้นบ้าง แต่ก็ไม่ได้ประทับใจเท่าไรเหมือนกัน
คงมีนักพัฒนาหลายคนที่ใช้ LLM ช่วยงานเขียนโค้ดน่าเบื่อ แต่ยังควบคุมมันไว้ใกล้ตัวและทำส่วนที่สร้างสรรค์เอง
แต่เดิมก็มีนักพัฒนาอินดี้ที่เกลียดการเขียนโค้ดและมองว่ามันเป็นเพียงขั้นตอนจำเป็นเพื่อเอาไอเดียออกมา และพวกเขาก็ยังทำเกมดี ๆ ได้
บทสนทนาทั้งหมดของ Undertale ถูกทำไว้ด้วย
switchขนาดมหึมาที่มีมากกว่า 5,000 บรรทัดถ้าจะหาเกมอย่าง Boxhead, Motherload, Bloons ต้องคุ้ยกองขยะกันพอสมควร
ฉันคิดว่าตรงนี้ปริมาณสำคัญ
คุณไม่จำเป็นต้องเป็นโปรแกรมเมอร์ชั้นยอดเพื่อเป็นนักออกแบบเกมชั้นยอด แต่เมื่อก่อนการเขียนโปรแกรมเป็นเงื่อนไขตั้งต้นแม้แต่จะเริ่มทำ
ความงดงามของการใช้เครื่องมือ AI กับเกมอยู่ที่อย่างหลัง คือสามารถโฟกัสกับการออกแบบเกมอย่างเดียว และเมื่อเวลาผ่านไป ผลงานระดับเพชรเม็ดงามก็น่าจะลอยขึ้นมาเอง
ฉันเคยปล่อยเกมแฟลช 4 เกม โดย 2 เกมล้มเหลวไม่เป็นท่า, 1 เกมพอใช้ได้, และ 1 เกมค่อนข้างไปได้ดี
เวลาการเล่นสะสมรวมกันนับได้เป็นหลายร้อยปี
ถ้าจะทำให้ดีมีงานต้องทำอีกมาก และเหมือนซอฟต์แวร์ทุกชนิด มันต้องถูกสร้างให้เข้ากับตลาดเป้าหมาย
ไม่มีทางลัดแบบ AI ง่าย ๆ สำหรับการสร้าง ลูปแกนหลัก ที่สนุกและชวนติดตาม และก็ไม่มีทางลัดสำหรับการสร้างสมดุลระหว่างความซับซ้อนกับเส้นโค้งการเรียนรู้ที่เหมาะสม
หลายคนที่เขียนโค้ดไม่ได้หรือไม่เขียนโค้ดเคยคิดว่าตัวเองเป็นนักออกแบบเกม และคาดหวังว่า AI จะทำให้พวกเขาสร้างเกมได้ แต่ตอนนี้ดูเหมือนกำลังตระหนักว่าปัญหาหลักไม่ใช่เรื่องโค้ดตั้งแต่แรก
แถมถ้าเขียนโค้ดไม่ได้ การทำไวบ์โค้ดดิ้งอย่างเดียวก็ยังไม่พอจะสร้างอะไรที่เกินระดับเกมแฟลชได้มากนักในตอนนี้
ฉันเขียนโปรแกรมมาเยอะในหลายสาขาย่อย แต่ก็ยังรู้สึกว่านี่เป็นสาขาที่ AI เจาะทะลุได้ยากที่สุด
ในฐานะเครื่องมือเพิ่มความเร็วการผลิต มันน่าทึ่งแน่นอน แต่ในภาพรวมแล้ว การทำให้เป็นสินค้า น่าจะเป็นพื้นที่ที่ยากที่สุดสำหรับ AI
ผู้เขียนบอกว่า OpenAI ใช้กลยุทธ์การตลาดแบบ “อันตรายเกินกว่าจะเผยแพร่” ตั้งแต่สมัย GPT-2 และมองว่าทั้งสองฝ่ายต่างก็เล่นไพ่ใบนี้ แต่ตอนนั้น Dario อยู่ที่ OpenAI และเป็นผู้ร่วมเขียนบทความวิจัย GPT-2
แนวทาง “อันตรายเกินกว่าจะเผยแพร่” จึงดูใกล้เคียงกับสิ่งที่คนนั้นทำต่อเนื่องมาในทั้งสองบริษัท
ในโพสต์ประกาศเดิมปี 2019 ก็เขียนถึงความเป็นไปได้ในการนำไปใช้ในทางที่ผิด เช่น การสร้างข่าวปลอมที่ชวนให้เข้าใจผิด, การปลอมตัวออนไลน์, การสร้างเนื้อหาล่วงละเมิดหรือเนื้อหาปลอมสำหรับโซเชียลมีเดียแบบอัตโนมัติ, และการสร้างสแปมหรือฟิชชิงแบบอัตโนมัติ
พร้อมกับผลลัพธ์สังเคราะห์ด้านภาพ เสียง และวิดีโอ เทคโนโลยีนี้จะลดต้นทุนของคอนเทนต์ปลอมและปฏิบัติการข่าวลวง และสาธารณะก็ควรระแวงข้อความออนไลน์มากขึ้น เหมือนที่ระแวงภาพดีปเฟก
นั่นจึงเป็นเหตุผลที่พวกเขาบอกว่าจะทยอยปล่อยอย่างระมัดระวัง
https://openai.com/index/better-language-models/
ตั้งแต่เรื่องคำโกหกและข้อมูลเท็จ ไปจนถึงคนที่เลือกแชตบอตแทนการรักษาหรือความสัมพันธ์ระหว่างมนุษย์ ผลกระทบทางสังคมนั้นลึกมากและจะยิ่งแย่ลงอีก
การหานักเขียนโปรแกรมระดับจูเนียร์ที่ยังมีความสามารถมากพอจะทำอะไรได้เมื่อ AI ใช้งานไม่ได้ เป็นเรื่องน่าหดหู่ และต่อไปก็น่าจะแย่ลง
ฟีเจอร์ความปลอดภัยสำคัญอย่าง “ห้ามสร้างสื่อการล่วงละเมิดทางเพศเด็ก” หรือ “คำกล่าวอ้างต้องเป็นข้อเท็จจริงหรือมีหลักฐานรองรับ” ไม่ได้ถูกใส่ไว้เป็นส่วนหนึ่งของการออกแบบระบบเหล่านี้ตั้งแต่ต้น และจนถึงตอนนี้ก็ยังแก้ไม่ได้อย่างเหมาะสม แต่บริษัท AI ก็ยังปล่อยมันสู่สาธารณะทั้งที่มีข้อบกพร่องชัดเจน
ฉันชอบความสามารถของ AI ในการแต่งเรื่องเหลวไหลและความเป็นของเล่นแปลกใหม่ของมัน แต่จนถึงตอนนี้มันให้ผลกำไรสุทธิเฉพาะกับคนส่วนน้อยที่ร่ำรวยที่สุด ซึ่งได้ประโยชน์จากการไล่คนออกแล้วปล่อยให้คอมพิวเตอร์ทำงานพัง ๆ ไปครึ่งหนึ่ง ส่วนคนที่เหลือกลับเป็นผลขาดทุนสุทธิ
ตอนนี้อาจสายไปแล้ว แต่เมื่อมองย้อนกลับไป ฉันเห็นด้วยว่าในรูปแบบนี้มันอันตรายเกินกว่าจะเผยแพร่
ความสงสัยเกินเหตุของ Hacker News ได้ทำลายการถกเถียงเรื่อง AI อย่างมีเหตุผลไปแล้ว
รัฐบาลสหรัฐได้ใช้อำนาจรัฐเป็นอาวุธต่อ Anthropic อย่างงุ่มง่าม คอร์รัปชัน และมีลักษณะลงโทษ ขณะขยายสงครามแย่งชิงอำนาจควบคุม AI
แต่ HN กลับยึดติดว่า “การปั่นการตลาด” คือคำอธิบายเดียว และพยายามยัดหลักฐานทุกอย่างให้เข้ากับคำอธิบายที่ฝืนความจริงขึ้นเรื่อย ๆ
AI กำลังคุกคามงาน สถานะ ความเชื่อ และวิถีชีวิต
ใน HN ดูเหมือนว่าการสร้างเหตุผลมารองรับว่ามันไม่มีทางเป็นความจริง จะง่ายกว่าการยอมเชื่อความจริงข้อนี้
รู้สึกขอบคุณคนที่ยอมรับว่าโลกกำลังจะเปลี่ยนไปในแบบที่ค่อนข้างประหลาด และพยายามวิเคราะห์จากประเด็นที่เกิดขึ้นจริง
ในช่วงที่ SSL กำลังกลายเป็นคำตอบที่ชัดเจนสำหรับการส่งข้อมูลชำระเงินบนเว็บสาธารณะอย่างปลอดภัย สหรัฐเกือบจะแบน SSL
ดูเหมือนว่าสุดท้ายประตูยังเปิดอยู่ได้เพราะแรงกดดันทางเศรษฐกิจ การไม่มีทางเลือกอื่น และเสียงคัดค้านจำนวนมาก แต่ตอนนั้นก็ยังมีการหยิบคำพูดไร้สาระเรื่อง “ผลประโยชน์ชาติและความมั่นคง” มาใช้
ความต่างใหญ่ครั้งนี้คือ ไม่ใช่ว่าถ้าไม่มี Fable/Mythos แล้วจะทำอะไรไม่ได้เลย
ตรงนี้ไม่มีเส้นแบ่งมหัศจรรย์อะไร มีเพียงการปรับปรุงงานเชื่อมต่อโดยลดการแทรกแซงลง
ถึงอย่างนั้น ถ้าสิ่งนี้คงอยู่ต่อไป ก็น่าจะสร้างผลกระทบเย็นยะเยือกครั้งใหญ่ต่อการพัฒนา AI ของสหรัฐ และห้องแล็บอื่น ๆ ก็จะหาทางอ้อมประสิทธิภาพของ Fable/Mythos จนตามทันได้ในที่สุด
ถ้าเปรียบเป็นรถยนต์ ก็เหมือนโมเดลหนึ่งเพิ่มเครื่องจาก V6 เป็น V8 แต่อีกองค์กรหนึ่งอาจไปปรับแรงต้านอากาศหรือระบบฉีดเชื้อเพลิงเพื่อให้ได้ความเร็วเพิ่มขึ้นใกล้เคียงกัน
มีพื้นที่ให้ปรับปรุงได้ทั่วทั้งสายโซ่ ดังนั้นมาตรการแบบนี้จึงไม่มีความหมาย
เมื่อดูจากวิธีการแข็งกร้าวของรัฐบาลนี้กับ Anthropic ก็ดูเหมือนว่าในอีกไม่กี่สัปดาห์มันจะจบลงด้วย “ดีล” บางอย่าง และทั้งหมดนี้เป็นส่วนหนึ่งของการต่อรองความเสี่ยงสูง
มันอาจยิ่งเป็นผลดีกับ Anthropic ด้วยซ้ำ เพราะถ้ามีข้อตกลงหวานหอมเกิดขึ้น OpenAI จะถูกจัดวางไว้ตรงไหน
แบบอย่างได้ถูกสร้างขึ้นแล้ว
พวกเนิร์ดส่วนใหญ่อย่างผมเลิกท่าทีแหลมคมแบบนั้นไปตั้งแต่สมัยมัธยมหรือมหาวิทยาลัยแล้ว
ในโลกจริง ท่าทีแบบนี้มีแต่ทำให้มองทุกอย่างผ่านเลนส์ที่มืดที่สุดเท่านั้น
พวกเขาบอกว่าผู้คนจะอ่านสิ่งไม่ดีและเผยแพร่ความคิดไม่ดี ซึ่งก็เกิดขึ้นจริง แต่โดยรวมแล้วมันเป็นราคาที่เล็กน้อยพอจะยอมจ่ายเพื่อการ ขยายตัวของการรู้หนังสือ
ไม่ได้จะบอกว่านี่เป็นกลยุทธ์ประชาสัมพันธ์ 100% แต่ดูเหมือน Anthropic อยากให้คนรับรู้เรื่องนี้จริง ๆ
พวกเขาพูดทำนองว่า “Anthropic ก็แค่สร้างเรื่องวุ่นวายเพื่อการตลาด”, “AI ก็เหมือน NFT”, “เป็นการปั่นกันเอง”, “ฟองสบู่จะแตกในไม่ช้า”, “พวกสายไฮป์กำลังพยุงตลาดหุ้นไว้เพื่อจะหนีออกไปเร็ว ๆ แบบพวกต้มตุ๋น”
วลีสุดท้ายนั้นเป็นคำที่แต่งขึ้นมาเพื่อพยายามเลียนศัพท์ที่พวกเขาใช้
ประเด็นสำคัญคือ AI กำลังทรงพลังเกินกว่าจะยื่นให้คนธรรมดาอย่างพวกเราใช้แบบเฉย ๆ ได้แล้ว
ถ้ายังเชื่อว่าทั้งหมดนี้เป็นแค่การปั่นเกินจริง ก็แปลว่าสายตากำลังหลุดจากปัญหาที่แท้จริง
สักวันหนึ่งวาทกรรมแบบนี้คงหายไป แล้วผู้คนจะหันไปโฟกัสที่ปัญหาจริง ๆ
คู่แข่งของ Anthropic มีเพื่อนฝูงอยู่ทั่วทั้งฝ่ายบริหาร และประเด็นอย่างเช่นฝั่ง Kushner ลงทุนใน OpenAI หนักมากนั้น ทั้งเป็นประเด็นสำคัญและไม่เกี่ยวในเวลาเดียวกัน
“ความมั่นคง” ดูชัดเจนว่าเป็นข้ออ้างมากกว่า และถ้ามันเป็นเหตุผลด้านความมั่นคงจริง ข้อเรียกร้องคงไม่ถูกจำกัดไว้แค่ ชาวต่างชาติ
ไม่เคยมีรัฐบาลสหรัฐชุดไหนเชื่อใจพลเมืองอเมริกันทุกคนอยู่แล้ว
แต่เหตุผลของข้อจำกัดเองแทบไม่สำคัญ
แค่ข้อเท็จจริงที่เรื่องแบบนี้เกิดขึ้น ก็ควรเป็นสัญญาณเตือนครั้งสุดท้ายให้ EU เอาจริงกับ อธิปไตยดิจิทัล ไม่ใช่แค่ในคำพูด แต่ในงบประมาณและความพยายามจริงด้วย
ณ ตอนนี้ ดูไม่น่าเป็นไปได้ที่ EU จะหันหัวเรือไปในทิศทางนั้น
มันดูเป็นข้อความบ่นคุณภาพต่ำที่เต็มไปด้วยคำหยาบและอคติทางอุดมการณ์ จึงไม่ใช่โพสต์ที่เหมาะกับ Hacker News
มาตรการนี้กำลังฆ่าตลาด องค์กร ทั้งหมดของโมเดล AI ที่ดีกว่า Opus 4.8
จะไม่มีบริษัทไหนสร้างเวิร์กโฟลว์หรือขีดความสามารถบนฐานของสติปัญญาระดับนี้ ถ้าข้าราชการหรือ นักการเมืองที่มีเจตนาร้ายสามารถดึงมันออกไปได้ทันที
ต่อให้มีบริษัทที่โง่พอจะยอมรับความเสี่ยงนั้น Anthropic จะให้ลูกค้าองค์กรทุกแห่งส่งพาสปอร์ตของพนักงานทั้งหมด และบังคับให้สร้างบัญชี Claude แยกต่อพนักงานแต่ละคนเพื่อควบคุมการเข้าถึง Mythos หรือ
แค่ API key ธรรมดาจะไม่เพียงพออีกต่อไป
จังหวะเวลาก็ดันไปตรงกับช่วง “หลีกเลี่ยงการร่วงหนัก” ตอนใกล้ปิดตลาดวันศุกร์พอดี และคงต้องรอดูว่าวันจันทร์จะออกหน้าไหน
เหมือนที่คอมเมนต์อื่น ๆ ว่าไว้ นี่ก็เป็นการหักเข่ากันระหว่างรัฐบาลกับ Anthropic ด้วย
ถ้า OpenAI ตามทัน และ Anthropic ก็ส่งทนายเข้ามา เรื่องนี้ก็น่าจะถูกกลับคำ หรือไม่ก็ถูกแปลงเป็นแนวว่า “โมเดลต้องได้รับตรารับรอง AI ของสหรัฐ และดังนั้นเราจึงอนุมัติ Fable 5.1 เวอร์ชันผ่านการตรวจสอบโดยสหรัฐตัวใหม่นี้”
จังหวะนั้นอาจไปตรงกับช่วงที่มีการกระจายใช้งานครั้งใหญ่ใน DoD, Pentagon และหน่วยงานที่เกี่ยวข้อง
หรือไม่ก็อาจไหลไปในทางว่า จีนจะตามทันอยู่ดี ดังนั้นทั้งหมดนี้ไร้สาระ
ไม่มีโมเดลไหนปลอดภัยจาก การแบน ในลักษณะนั้น
EU AI Act ที่ถูกวิจารณ์มาก กลับมอบกรอบกำกับดูแลที่ปลอดภัยและคาดการณ์ได้ ซึ่งสามารถใช้เป็นฐานสำหรับการพัฒนา AI
มันให้เสถียรภาพทางกฎหมายเมื่อเทียบกับการตัดสินใจแบบคาดเดาไม่ได้และตามอำเภอใจของฝ่ายบริหารสหรัฐ
ถ้าบริษัท AI ยังพอมีวิจารณญาณอยู่บ้าง ก็ควรพิจารณาย้ายไปยุโรป
เมื่อคิดถึงความจริงที่ว่า Fable มีการนำโปรโตคอลความปลอดภัยที่เข้มงวดเกินปกติมาใช้ เรื่องนี้จึงดูน่าสงสัยอย่างมาก
รัฐบาลสหรัฐกำลังใช้อิทธิพลต่อเศรษฐกิจเพื่อส่งสัญญาณไปยัง Anthropic ว่า IPO จะได้เกิดหรือไม่ ขึ้นอยู่กับว่าจะยอมคุกเข่าหรือเปล่า
ในช่วงไม่กี่เดือนที่ผ่านมา ฉันกลับเชื่อใจ OpenAI มากกว่า Anthropic อย่างชัดเจน
ถ้าอ่านงานเขียนของ Dario Amodei แบบอ่านความหมายแฝงให้ครบ เขาดูเหมือนเป็นพวกศรัทธาแบบแข็งกร้าวที่เชื่อว่า ASI จะเป็นผู้ปกครองที่สมบูรณ์แบบและไร้ข้อผิดพลาดเพื่อมนุษยชาติ และยังดูเป็น ชาตินิยมอเมริกัน ที่ค่อนข้างสุดโต่งด้วย
ตัวบริษัทเองก็ดูเหมือนยืนเรียงแถวทางอุดมการณ์แบบเดียวกัน
จึงพอจะจินตนาการได้ว่าพวกเขาอาจยอมให้เกิดหรือถึงขั้นสร้าง ASI ที่ควบคุมไม่ได้ ขึ้นมาโดยตั้งใจ ถ้าเชื่อว่ามันสอดคล้องทางอุดมการณ์กับตนเอง
ส่วน OpenAI โดยรวมดูเคร่งอุดมการณ์น้อยกว่าและเน้นภาคปฏิบัติมากกว่า
ไม่ได้แปลว่าเป็นบริษัทที่ดีอะไรเป็นพิเศษ แต่ อย่างน้อยเรายังคาดเดาได้ว่าบริษัทธรรมดาทั่วไปจะมีพฤติกรรมอย่างไร
ยิ่งไม่ต้องพูดถึงคนที่มีแรงจูงใจระดับหลายล้านหรือหลายพันล้านดอลลาร์
คุณก็คงเคยเห็นแล้วเหมือนกันว่าคนเราทำอะไรกับครอบครัวตัวเองได้บ้างเพราะเรื่องมรดก แล้วนี่จะให้ “เชื่อใจ” OpenAI งั้นหรือ
“กันแน่ใครกันที่ไร้เดียงสา, Kay?” - Godfather
ผมก็เขียนประเด็นเดียวกันนี้ไว้เมื่อไม่กี่สัปดาห์ก่อน https://news.ycombinator.com/item?id=48341224 และถ้าไปดูโพสต์บล็อกช่วงล่าสุด ความสงสัยที่เหลืออยู่ก็น่าจะหายไปหมด
ตอนนี้ใน HN กับ Reddit ก็มีคนพูดกันแล้วว่านี่อาจเป็นจุดที่รัฐบาลจะ “ยอมให้” ประชาชนเข้าถึงได้แค่นั้น
ต่อให้มีความต้องการมากแค่ไหน ถ้ารัฐบาลไม่ให้ ก็ไม่มีประโยชน์อะไร
LLM ตลาดมืด ฟังดูเหมือนหลุดออกมาจากนิยายของ William Gibson ตรง ๆ
สรุปได้ดีมาก และระหว่างอ่านก็นึกถึงข้อถกเถียงเรื่อง การเข้ารหัสที่แข็งแกร่ง
ประโยคที่ว่า “เราเพิ่มประสิทธิภาพสิ่งที่วัดได้ ไม่ใช่สิ่งที่เราอยากให้เกิดขึ้นจริง เราหวังว่าสองสิ่งนี้จะเป็นอย่างเดียวกัน แต่บ่อยครั้งมันไม่ใช่” ชี้ปัญหาแกนกลางของ LLM ได้ตรงมาก
ผมมองว่าการรับประกันให้โมเดลสอดคล้องอย่างปลอดภัยกับทุกคนและทุกเจตนาเป็นสิ่งที่เป็นไปไม่ได้ หรือไม่ก็มีต้นทุนสูงอย่างยิ่ง
แถมคำว่า “ปลอดภัย” เองก็อาจมีความหมายต่างกันไปตามแต่ละกลุ่มเป้าหมาย