AWS Bedrock จะกำหนดให้แชร์ข้อมูลกับ Anthropic สำหรับ Mythos และโมเดลในอนาคต
(news.ycombinator.com)- ทราฟฟิกของ โมเดลระดับ Mythos จะถูกเก็บไว้ 30 วันเพื่อใช้ตรวจจับรูปแบบการใช้งานในทางที่ผิดที่มองไม่เห็นจากการโต้ตอบเพียงครั้งเดียว
- เงื่อนไขนี้ใช้กับ Fable 5 บน Bedrock, Mythos 5 และโมเดลในอนาคตที่มีระดับความสามารถใกล้เคียงกันหรือสูงกว่า
- การเก็บข้อมูลไว้ในช่วงเวลาจำกัดเป็นเงื่อนไขเพื่อให้ Anthropic ตรวจจับ รูปแบบการใช้งานในทางที่ผิด ที่ไม่ปรากฏให้เห็นจากการโต้ตอบเพียงครั้งเดียว
- หากยินยอมให้เก็บข้อมูล ข้อมูลจะออกนอก ขอบเขตข้อมูลและความปลอดภัยของ AWS
- หลังครบ 30 วัน ข้อมูลจะถูกลบอัตโนมัติ แต่มีข้อยกเว้นในกรณีที่พบได้ไม่บ่อย เช่น อยู่ระหว่างการสอบสวนด้านความปลอดภัยหรือมีกฎหมายกำหนดให้ต้องเก็บไว้
ขอบเขตการบังคับใช้และเงื่อนไขการเก็บข้อมูล
- ข้อความที่อ้างจาก ประกาศของ AWS ระบุว่าครอบคลุม Fable 5 บน Bedrock, Mythos 5 และโมเดลในอนาคตที่มีระดับความสามารถใกล้เคียงกันหรือสูงกว่า
- Anthropic กำหนดให้มีการ เก็บข้อมูลไว้ 30 วัน สำหรับทราฟฟิกทั้งหมดของโมเดลระดับ Mythos
- การเก็บข้อมูลไว้ในช่วงเวลาจำกัดเป็นวิธีการสำหรับตรวจจับ รูปแบบการใช้งานในทางที่ผิด ที่ไม่สามารถมองเห็นได้จากการโต้ตอบเพียงครั้งเดียว
ขอบเขตข้อมูลและข้อยกเว้นของการลบ
- หากยินยอมให้เก็บข้อมูล ข้อมูลดังกล่าวจะออกนอก ขอบเขตข้อมูลและความปลอดภัยของ AWS
- ตาม เอกสารช่วยเหลือของ Claude ข้อมูลจะถูกลบอัตโนมัติหลังครบ 30 วัน
- หากรวมอยู่ในการสอบสวนด้านความปลอดภัย หรือมีกฎหมายกำหนดให้ต้องเก็บรักษาไว้ จะถือเป็นข้อยกเว้นจากการลบอัตโนมัติหลัง 30 วัน
1 ความคิดเห็น
ความคิดเห็นจาก Hacker News
รากของปัญหาอยู่ที่ AI-as-a-service เป็นระบบปิด บริษัทผู้ให้บริการมีแรงจูงใจสูงมากที่จะใช้ข้อมูลทั้งหมดนั้นเพื่อแซงหน้าคู่แข่ง และพวกเขาก็อาจทำแบบลับ ๆ ได้ด้วย
แถมหน่วยงานบังคับใช้กฎหมายก็คงอยากเข้าถึงมันสุด ๆ เช่นกัน หวังว่าสักวันจะมีทั้ง โอเพนซอร์สและฮาร์ดแวร์ราคาถูก ที่สามารถรันโมเดลเก่ง ๆ ได้
https://www.theguardian.com/world/2026/feb/23/openai-tumber-...
อีกอย่าง Anthropic ก็มี SOC2 และ ISO27001 จึงถือว่าได้รับการตรวจสอบอิสระในระดับหนึ่งแล้ว แน่นอนว่าพวกเขาอาจพยายามปกปิดบันทึกหรือ logging แบบนั้นได้ แต่ในทางกลับกันก็มีแรงจูงใจสูงเช่นกันที่จะไม่แอบเก็บข้อมูลนั้น
อย่างไรก็ตาม ปัญหาคือ ZDR มักมีขั้นต่ำของมูลค่าสัญญา ทำให้บุคคลทั่วไปหรือบริษัทเล็ก ๆ ถูกกันออกไปและต้องปล่อยให้เป็นไปตามใจผู้ให้บริการ
โดยพื้นฐานแล้ว นี่คือเหตุผลที่ AWS รายงานเรื่องนี้ตั้งแต่แรก
มีใครสนใจความเห็นของปศุสัตว์ไหม? อาจมีบางคน แต่คนส่วนใหญ่ไม่
พวกเขาสามารถบอกว่าโมเดลนั้นอันตรายเกินกว่าจะให้สาธารณะใช้ จากนั้นก็ทำให้เวอร์ชันสาธารณะอ่อนลง และเปิดให้เข้าถึงเวอร์ชันลับที่ดีจริง ๆ เฉพาะบรรษัทยักษ์หรือพันธมิตรระดับรัฐที่พวกเขาชอบเท่านั้น
เราอาจหวังให้โมเดลเปิดเผย weights จากจีนไล่ตามทันได้ แต่พอถึงจุดที่มันเทียบเท่าโมเดลแนวหน้าที่ผูกขาดได้จริง พวกเขาก็น่าจะหยุดเผยแพร่ weights เช่นกัน พวกเขาไม่ได้ทำเรื่องนี้ด้วยเจตนาดี
ยากจะจินตนาการว่าอะไรจะทำให้แนวโน้มนี้ตกรางได้
นี่เป็นพฤติกรรมที่แปลก และเป็นหลักฐานเล็กน้อยว่า Anthropic ไม่ได้ถูกบริหารโดยคนที่จริงจัง ถ้าเอานโยบายนี้ไปใช้กับ AWS/GitHub/Zed ฯลฯ ก็เท่ากับยกความได้เปรียบมหาศาลที่มีอยู่ในตลาดองค์กรและภาครัฐให้คู่แข่งที่มีโมเดลประสิทธิภาพใกล้เคียงกันและ UI ที่พอใช้ได้
หลังการประกาศ Mythos ก็ชัดเจนแล้วว่าเรากำลังไปสู่อนาคตที่โมเดลประสิทธิภาพสูงสุดรุ่นล่าสุดจะไม่ถูกเปิดให้คนทั่วไปใช้อีกต่อไป ไม่ใช่แค่แพงขึ้น แต่ยังต้องจ่ายในรูปของการตรวจสอบ use case และการแชร์ข้อมูลด้วย โมเดล 5.5-Cyber ของ OpenAI ก็เป็นแบบเดียวกัน จึงไม่ใช่เรื่องเฉพาะของ Anthropic
สาเหตุที่เรารู้สึกไม่พอใจก็เพราะเราชินกับการได้ลองโมเดลใหม่แวววาวทันทีที่ออกมา แต่การบอกว่า Anthropic “โง่” ในเธรดนี้ดูเป็นการคิดเพ้อฝันตามอารมณ์มากกว่า
ถ้านี่เป็นการตลาดแบบ “โมเดลของเราแรงเกินไป ต้องมัดไว้ตอนกลางคืน” ก็ดูเป็นกลยุทธ์ที่ผิดพลาดอย่างมหันต์ นึกวิธีไหนที่จะทำลายความเชื่อมั่นของลูกค้าที่สั่งสมมาได้ดีกว่านี้ยากมาก
ทั้งสองอย่างนี้ดูทำลายตัวเอง โดยเฉพาะเมื่อคิดว่า Anthropic ดึงลูกค้าองค์กรได้ดีมาก โดยเฉพาะในสายโค้ดดิ้ง และยังดูเหมือนจะเล็งลูกค้าทางทหารต่อไปด้วย
ส่วนที่บอกว่าจะปฏิเสธแบบเงียบ ๆ นั้นผิดปกติมาก ไม่แน่ใจว่านั่นหมายถึงแค่จงใจทำให้ช้าลงและไม่ให้ของตามที่จ่าย หรือหมายถึงใส่การบ่อนทำลายลงในโค้ดที่สร้างขึ้นอย่างจริงจัง ทำไมไม่แค่ปฏิเสธคำขอไปตรง ๆ?
อาจเป็นเพราะพวกเขาอยากอ้างว่าการปฏิเสธตรง ๆ จะส่งสัญญาณมากเกินไปว่าอะไรคือสิ่งที่พวกเขามองว่ามีค่า แต่เรื่อง “recursive self-improvement” นี่ดูเป็นคำพูดเหลวไหล 100% เพื่อปั่น IPO พวกเขาหยิ่งถึงขั้นคิดจริง ๆ หรือว่าบริษัทพัฒนา LLM อื่น ๆ ยังมองไม่ออกแม้แต่โครงสร้างพื้นฐานการพัฒนาพื้นฐาน?
แค่ข้อเท็จจริงที่ว่า Anthropic คิดว่าการทำให้คำขอที่พยายามสร้างสิ่งมาแข่งกับตัวเองล้มเหลวแบบเงียบ ๆ เป็นสิ่งที่พอยอมรับได้ ก็แย่พออยู่แล้ว แถมเมื่อดูจากความไร้ความสามารถมหาศาลในวิธีที่ “Fable” ปฏิเสธคำขอ การตัดสินใจแบบนี้ก็น่าจะทำให้คำขอจำนวนมากกว่าที่ตั้งใจไว้ล้มเหลวแบบเงียบ ๆ
ชื่อโมเดลของ Anthropic อย่าง “Mythos”, “Fable” ฟังเหมือนเด็กอายุ 14 ที่คิดว่าแค่ตั้งชื่อให้ “ยิ่งใหญ่” โมเดลก็จะดูทรงพลังขึ้น คล้าย ๆ กับการติดลายรถแข่งและท่อดังน่ารำคาญให้กับ Honda Civic
นโยบายนี้ใช้กับผู้ให้บริการทุกราย คำเตือนของ Cursor อยู่ที่นี่: https://i.redd.it/7sfyker2ya6h1.png
Anthropic ก็ให้คำมั่นว่าจะไม่ใช้ข้อมูลที่บันทึกไว้ไปฝึกโมเดลอยู่แล้ว ดังนั้นความกังวลบางส่วนตรงนี้จึงดูไม่ค่อยเข้าใจนัก แบบจำลองภัยคุกคาม ที่แท้จริงคืออะไร? หมายความว่าจะเชื่อว่า Anthropic จะละเมิดข้อกำหนดและนำข้อมูลไปฝึกโมเดลหรือ? ก่อนหน้านี้เชื่อถือได้มากพอว่าจะไม่บันทึกข้อมูล แต่ตอนนี้กลับเชื่อไม่ได้ว่าจะปฏิบัติตามข้อจำกัดการใช้ข้อมูลที่ถูกบันทึกไว้แล้วอย่างนั้นหรือ?
บางคำตอบก็ทำให้คล้อยตามได้ในระดับหนึ่ง แต่ก็ควรเห็นด้วยว่าการเปลี่ยนแปลงนี้กระทบผู้ใช้ Enterprise เป็นหลัก ข้อมูลของแพ็กเกจผู้บริโภคเดิมก็ถูกเก็บไว้ 30 วันอยู่แล้ว ที่มา: https://privacy.claude.com/en/articles/10023548-how-long-do-...
เรามีสัญญาแบบนั้นกับ AWS แต่ไม่มีกับ Anthropic ถ้า Anthropic จับข้อมูลไว้ทางกายภาพ ก็เท่ากับว่ามันย้ายออกไปนอกขอบเขตคู่สัญญาที่เราจะทำธุรกรรมได้ด้วยตัวมันเอง
ถ้าจะยอมลงนามในสัญญาและนำมาตรการการปฏิบัติตามข้อกำหนดทั้งหมดมาใช้ก็อีกเรื่อง แต่ถ้าคิดว่ามันเป็นข้อตกลงที่ดีที่ Anthropic จะทำตามสิ่งที่ AWS สร้างมา 10 ปีให้ได้ทันทีในทุกเขตอำนาจศาลที่ AWS ดำเนินงานอยู่ตอนนี้ ก็คงไม่ใช่คนมีเหตุผลนัก
ในสหรัฐฯ ไม่มีกฎหมายที่จะทำให้บริษัทล้มละลายได้จากการละเมิดแบบนี้ ดังนั้นจึงไม่มีหลักประกัน
Meta โหลดหนังสือผ่านทอร์เรนต์อย่างเปิดเผย และก็ไม่มีใครบังคับให้พวกเขาถอดหรือทำลายโมเดล AI Anthropic เองก็คงเหมือนกัน เป็นแค่ต้นทุนในการทำธุรกิจ โมเดลยังคงอยู่เหมือนเดิม และการละเมิดกฎก็แทบไม่มีผลตามมาในทางปฏิบัติ
ตอนนี้กลายเป็นว่ามีผู้ให้บริการสองรายที่แตะข้อมูล ดังนั้นถึงจะเชื่อใจทั้งคู่เท่ากัน ความเสี่ยงก็เพิ่มเป็นสองเท่า ถ้ามองว่าการควบคุมข้อมูลของ AWS แข็งแรงกว่า Anthropic ความเสี่ยงก็ยิ่งมากกว่าสองเท่า
อาจยังมีข้อกำหนดด้านการจัดการข้อมูลอย่างประเทศที่อนุญาตให้จัดเก็บหรือส่งข้อมูลได้ การรับรองต่าง ๆ และสัญญา ซึ่งตอนนี้ต้องขยายไปถึงผู้ประมวลผลข้อมูลรายที่สองด้วย
โดยพื้นฐานแล้ว ถ้าใช้ AWS อยู่แล้ว การเพิ่มโมเดล Bedrock ที่เป็นของ AWS เองเข้าไปถือว่าทำได้ง่ายในทางกฎหมายและแทบไม่เปลี่ยนท่าทีด้านความปลอดภัยมากนัก แต่ถ้าต้องให้ Anthropic บันทึกข้อมูลด้วย ทางเลือกก็ซับซ้อนขึ้นมาก
การเก็บรักษาข้อมูลกับการเฝ้าระวังมวลชนทั่วไปมีความคล้ายกัน ทั้งสองระบบอาจถูกใช้ด้วยเจตนาดีล้วน ๆ หากมีมาตรการป้องกันที่เหมาะสม แต่ประวัติศาสตร์ก็แสดงให้เห็นว่าระบบเฝ้าระวังถูกยึดไปใช้เพื่อจุดประสงค์ที่ไม่ดีได้ง่ายอย่างน่าตกใจ และผู้ให้บริการโมเดลเองก็มีแรงจูงใจสูงที่จะนำข้อมูลที่เก็บไว้ไปใช้เพื่อวัตถุประสงค์ภายใน
ถึงจะไม่ได้เชื่อว่านโยบายนี้ละเมิดความเป็นส่วนตัวของฉันทันที แต่ก็ยังคุ้มค่าที่จะออกมาคัดค้าน
ใครเป็นคนตรวจ ตรวจอย่างไร และ “ปัญหา” ที่ว่าคืออะไร ส่วนแบบนี้แหละที่ทำให้ สัญชาตญาณเตือนภัย ทำงาน มันคลุมเครือเกินไป และพวกเขาก็เก็บโมเดลที่ “อันตราย” นี้ไว้ใช้กันเองได้เท่านั้น
สำหรับบริษัทที่อยู่ภายใต้การกำกับดูแลหรือหน่วยงานรัฐ เรื่องนี้แทบจะแน่นอนว่าใช้ไม่ได้ แต่ AWS ก็ต้องรู้อยู่แล้ว เลยสงสัยว่าทำไมถึงยอมตกลง
Anthropic กำลังลองอยู่ และคงต้องรอดูว่านี่เป็นกลยุทธ์ที่กล้าได้กล้าเสียหรือไม่
เรื่องนี้มีกลิ่นเหมือนเวอร์ชันไฮเอนด์ของการจารกรรมองค์กร ถ้าสมมติว่าในอนาคตบริษัทส่วนใหญ่ใช้ AI นี้ ข้อมูลก็จะไหลตรงเข้าสู่เครือข่ายแบบ Echelon และ “ข้อมูลที่น่าสนใจ” จะรั่วไปถึงฝ่ายที่เป็นมิตร เหมือนคดี Boeing ปะทะ Airbus เหตุการณ์นั้นก็เคยเป็นข่าวกว้างขวางในตอนแรก ก่อนจะถูกกลบอย่างเป็นทางการ
ถ้าจะใช้ข้อมูลไปทำการจารกรรมลับหรือเฝ้าระวังโดยรัฐจริง ก็คงทำกันแบบลับทั้งหมด
อืม หวังว่าไม่ใช่มีแค่บริษัทเราที่ต้องตัดสินใจยากว่าจะอยู่กับ Opus 4.8 ต่อ ย้ายไปผู้ให้บริการโมเดลรายอื่น หรืออัปเดตข้อกำหนดโดยยอมลดความเข้มงวดเรื่องห้ามฝึกโมเดลซ้ำและห้ามส่งข้อมูลให้บุคคลที่สามลงอย่างมาก
เข้าใจว่าทำไม Anthropic ถึงต้องการแบบนี้ แต่คงสะดวกกว่ามากถ้าสถาปัตยกรรมถูกออกแบบให้ข้อมูลไม่ไปถึง Anthropic เลย นอกจากในกรณีที่ Amazon ใช้เครื่องมือของ Anthropic วิเคราะห์ก่อนแล้วเห็นว่ามีสิ่งที่ควรตรวจดู แบบนั้นจะทำให้ยกเว้นไว้ในข้อกำหนดองค์กรและนโยบายความเป็นส่วนตัวได้ง่ายกว่ามาก
สำหรับเรา มันไม่ใช่ผู้ประมวลผลย่อย ดังนั้นห้ามใช้ทันที แถมยังจัดการอัปเดตรายชื่อผู้ประมวลผลย่อยได้แย่มากด้วย
ถ้าเป็นการประมวลผล ภายในคลาวด์ ก็คงไม่สนใจ แต่เมื่อไม่มีทั้งธรรมาภิบาลและการควบคุม ก็เป็นไปไม่ได้ตั้งแต่แรก
นี่กลายเป็นเงื่อนไขตัดออกสำหรับแอปแทบทุกประเภท
ฉันเคยทำงานกับแอปสำหรับ UKGov อยู่ไม่กี่ตัว และถ้าเป็นฉัน คงต้องยกระดับเรื่องนี้เป็น สัญญาณอันตรายครั้งใหญ่ อย่างแน่นอน
แค่นี้ก็จบแล้ว ถ้าเอา ข้อมูลลับ ไปรันผ่าน Fable ก็เท่ากับยกมันให้ฟรี ๆ
บางทีมันอาจเป็นแบบนี้มาตั้งแต่ก่อนแล้ว แต่ตอนนี้ถูกกำหนดไว้อย่างชัดเจน
ต้องยอมรับว่า Anthropic มีความมุ่งมั่นที่จะยิงเท้าตัวเองเพราะศรัทธาในประสิทธิภาพของ Mythos
แผนเกม คืออะไรกันแน่?