NSA ยังคงใช้งาน Mythos ของ Anthropic แม้จะถูกขึ้นบัญชีดำ

 (axios.com)
3 คะแนน โดย GN⁺ 9 일 전 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • Anthropic Mythos Preview กำลังถูกใช้งานใน NSA และยังคงถูกใช้ต่อไปแม้เจ้าหน้าที่ระดับสูงของ DoD จะจัดให้ Anthropic เป็น ความเสี่ยงด้านซัพพลายเชน
  • DoD ได้ดำเนินการบล็อก Anthropic ในเดือนกุมภาพันธ์ พร้อมผลักดันให้ผู้ขายดำเนินมาตรการเดียวกัน แต่ภายในกองทัพกลับมีการใช้งานเครื่องมือนี้อย่างกว้างขวางยิ่งขึ้น
  • แหล่งข่าวสองรายยืนยันการใช้งาน Mythos ของ NSA และหนึ่งในนั้นระบุว่าโมเดลนี้ถูกใช้งานอย่าง กว้างขวางขึ้นทั่วทั้งหน่วยงาน
  • ยังไม่มีการยืนยันว่า NSA ใช้ Mythos ในลักษณะใดอยู่ในขณะนี้ ขณะที่องค์กรอื่นที่มีสิทธิ์เข้าถึงเดียวกันส่วนใหญ่นำไปใช้เพื่อ ตรวจหาช่องโหว่ความปลอดภัยที่สามารถถูกนำไปใช้โจมตีได้
  • ท่ามกลางความขัดแย้งระหว่าง Pentagon และ Anthropic ความต้องการด้าน ความมั่นคงไซเบอร์ ของรัฐบาลและความจำเป็นในการใช้เครื่องมือระดับล้ำสมัยยังคงผลักดันการขยายการใช้งาน

การใช้งานภายในรัฐบาลและขอบเขตการเข้าถึง

  • NSA กำลังใช้งาน Anthropic Mythos Preview และยังคงใช้ต่อไปแม้เจ้าหน้าที่ระดับสูงของ DoD จะจัดให้ Anthropic เป็น ความเสี่ยงด้านซัพพลายเชน
    • DoD ถูกกล่าวถึงว่าเป็นองค์กรที่กำกับดูแล NSA
    • Axios รายงานเรื่องนี้โดยอ้างอิงแหล่งข่าวสองราย
  • DoD ได้ดำเนินการบล็อก Anthropic ในเดือนกุมภาพันธ์ พร้อมผลักดันให้ผู้ขายดำเนินมาตรการเดียวกัน โดยประเด็นที่เกี่ยวข้องนี้ยังคง อยู่ระหว่างดำเนินการ
    • ขณะเดียวกันมีการกล่าวถึงแนวโน้มการขยายขอบเขตการใช้เครื่องมือของ Anthropic ภายในกองทัพ
    • ในศาลมีการอ้างว่าการใช้เครื่องมือนี้คุกคามความมั่นคงแห่งชาติของสหรัฐฯ
  • แหล่งข่าวสองรายยืนยันการใช้งาน Mythos ของ NSA และหนึ่งในนั้นตอบว่าโมเดลดังกล่าวถูกใช้งาน กว้างขวางขึ้นทั่วทั้งหน่วยงาน
  • ยัง ไม่มีการยืนยัน ว่าในตอนนี้ NSA ใช้ Mythos อย่างไร
    • อย่างไรก็ตาม องค์กรอื่นที่มีสิทธิ์เข้าถึงโมเดลเดียวกันส่วนใหญ่นำไปใช้เพื่อ ตรวจหาช่องโหว่ความปลอดภัยที่สามารถถูกนำไปใช้โจมตีได้ ภายในสภาพแวดล้อมของตนเอง
  • Anthropic จำกัดการเข้าถึง Mythos ไว้ราว 40 องค์กร
    • โดยระบุว่าขีดความสามารถด้านไซเบอร์เชิงรุกนั้นอันตรายเกินกว่าจะเปิดเผยในวงกว้างกว่านี้
  • องค์กรที่ Anthropic ประกาศต่อสาธารณะว่าได้นำไปใช้มีการยืนยันเพียง 12 แห่ง
    • แหล่งข่าวรายหนึ่งระบุว่า NSA เป็นหนึ่งในหน่วยงานที่เข้าถึงได้แต่ไม่ได้เปิดเผยต่อสาธารณะ
  • หน่วยงานคู่ขนานของสหราชอาณาจักรก็เคยเปิดเผยว่าได้รับสิทธิ์เข้าถึงโมเดลดังกล่าวผ่าน AI Security Institute ของประเทศตน

การพบหารือที่ทำเนียบขาวและความขัดแย้งกับ Pentagon

  • Dario Amodei ซีอีโอของ Anthropic ได้พบกับ White House chief of staff Susie Wiles และ Treasury Secretary Scott Bessent เมื่อวันศุกร์
    • มีการหารือเรื่องการใช้งาน Mythos ภายในรัฐบาล แผนที่กว้างขึ้นของ Anthropic และแนวปฏิบัติด้านความปลอดภัย
  • ตามแหล่งข่าว ขั้นตอนถัดไปหลังการพบหารือจะมุ่งไปที่ว่าหน่วยงานอื่นนอก Pentagon จะมีส่วนเกี่ยวข้องกับโมเดลนี้อย่างไร
  • การพบหารือครั้งนี้ถูกประเมินว่า เป็นไปอย่างสร้างสรรค์ จากทั้งสองฝ่าย
  • Anthropic และ Pentagon ปฏิเสธที่จะแสดงความเห็น ขณะที่ NSA และ Office of the Director of National Intelligence ไม่ได้ตอบคำขอความเห็น
  • ความสัมพันธ์ที่ย่ำแย่ลงระหว่าง Pentagon และ Anthropic เกิดขึ้นระหว่างกระบวนการ เจรจาสัญญาใหม่ที่ตึงเครียด ในช่วงต้นปีนี้
  • DoD เรียกร้องให้ Anthropic เปิดให้ใช้โมเดล Claude สำหรับ ทุกวัตถุประสงค์ที่ชอบด้วยกฎหมาย
    • ขณะที่ Anthropic ยังคงยืนกรานว่าต้องบล็อกการเฝ้าระวังภายในประเทศในวงกว้างและการพัฒนาอาวุธอัตโนมัติ
  • เจ้าหน้าที่กลาโหมบางส่วนยังคงมองว่าไม่อาจไว้วางใจ Anthropic ได้เมื่อกองทัพมีความจำเป็นต้องใช้
    • Anthropic ปฏิเสธข้อกล่าวหานี้
  • ขณะที่บางส่วนภายในรัฐบาลต้องการให้ความขัดแย้งนี้ยุติลงโดยเร็ว เพื่อให้สามารถใช้ เครื่องมือระดับล้ำสมัย ที่ Anthropic กำลังพัฒนาได้

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 9 일 전
ความเห็นจาก Hacker News
  • ก็คิดอยู่แล้วว่ายังไงก็คงใช้อยู่ หนึ่งในสิ่งที่รัฐบาลชุดนี้ทำได้เก่งเป็นพิเศษก็คือ ความหน้าซื่อใจคด
    • แต่ก็คงพูดไม่ได้ว่าเป็นปัญหาเฉพาะของ รัฐบาลชุดนี้เท่านั้น เพราะแนวโน้มแบบนี้ไม่ได้เพิ่งเกิดขึ้นแบบฉับพลันในปี 2024
  • จากเรื่องนี้ดูเหมือนเป็นหลักฐานว่าการกำหนดของรัฐบาลใกล้เคียงกับ การตัดสินใจทางการเมือง มากกว่าการตัดสินใจทางเทคนิค ฝั่ง NSA คงไม่สนอารมณ์ขึ้นลงรายวันของการเมืองมากนัก และแค่พยายามใช้เครื่องมือที่ดีที่สุดสำหรับงานของตัวเอง
  • ความขาดแคลนที่ถูกสร้างขึ้นมาโดยตั้งใจ ที่ Anthropic ทำกับ Mythos และ Glasswing อาจไม่ได้แปลว่ามีจริยธรรม แต่ดูเป็นกลยุทธ์ที่ฉลาดพอสมควร ถ้า Pentagon ติดป้ายความเสี่ยงด้านซัพพลายเชนไปพร้อมกับปั้นภาพว่าเป็นเครื่องมือแฮ็กที่แข็งแกร่งที่สุดในโลก รัฐบาลสหรัฐก็จะตกอยู่ในภาวะ กลืนไม่เข้าคายไม่ออก คือถ้าห้ามเข้าถึงก็เหมือนยอมรับว่าโอ้อวดเกินจริง แต่ถ้าอนุญาตก็เผยให้เห็นความย้อนแย้ง
    • จริง ๆ แล้วกลยุทธ์นี้ก็คล้ายกับสิ่งที่ OpenAI ทำซ้ำ ๆ มาตลอด Sam Altman มักพูดเสมอว่า ChatGPT รุ่นใหม่อันตรายและน่ากลัวมาก แต่สุดท้ายก็ปล่อยออกมาอยู่ดี ซึ่งสะท้อนค่านิยมได้ชัด และผลลัพธ์ก็ออกมาแบบเดิมทุกครั้ง ทำให้นึกถึงเรื่อง เด็กเลี้ยงแกะที่ตะโกนว่าหมาป่ามาแล้ว
    • ถ้าจะเล่นมุกก็คงบอกว่า นี่มันเข้าขั้น Mythos ตัน ไปเลย
    • ดูจากความเร็วของโทเค็น opus ตอนนี้เหมือนจะมีขนาดระดับ sonnet หรือ haiku เมื่อหลายเวอร์ชันก่อน เลยเดาว่า Mythos น่าจะเป็นโมเดลที่เดิมถูกเรียกว่า opus มากกว่า Anthropic ไม่ได้เปิดเผยขนาด แต่ยืนยันว่าการฝึก Mythos อยู่ต่ำกว่าเกณฑ์รายงาน 10^26 FLOPs ในอีกจักรวาลหนึ่ง opus 4.7 อาจกลายเป็น sonnet 5 แล้ว Mythos อาจออกมาในชื่อ Opus ก็ได้ และถ้าเปิดราคาต่ำกว่าราคาปัจจุบันครึ่งหนึ่ง Anthropic คงได้รับคำชื่นชมมหาศาล
    • ผมไม่คิดว่า Mythos ถูกปั่นเกินจริง มันอาจเป็น agent ที่มีความเป็นอิสระสูงที่สุด ในตอนนี้ด้วยซ้ำ เพราะแบบนั้นการปกป้องน้ำหนักโมเดลจึงควรเป็นเรื่องสำคัญที่สุด น้ำหนักโมเดลน่าจะมีขนาดหลาย TB และถ้าใครเข้าถึงมันได้ พร้อมสิทธิ์การใช้งานกับ NVIDIA cluster ดี ๆ สักชุด และคนฉลาดไม่กี่คน ก็สามารถรัน Mythos ได้ ต้นทุนโครงสร้างพื้นฐานก็น่าจะต่ำกว่า 5 ล้านดอลลาร์ ถ้าใครขโมยน้ำหนักโมเดลออกมาได้สำเร็จ มันคงเป็น การโจรกรรมโมเดล แห่งศตวรรษ
    • ที่น่าสนใจใน Glasswing คือไอเดียน่าจะสำคัญกว่าตัวโมเดลเอง มีคนเอาแนวคิดนั้นไปทำทางเลือกแบบเปิด และได้ยินมาว่าใน clearwing สามารถสลับโมเดลเพื่อหาปัญหาในโค้ดได้ ผมยังไม่ได้ทดสอบเอง แต่ฟังดูสมเหตุสมผลพอควร และ รีโพของ clearwing ก็น่าดู
  • ไม่น่าแปลกใจเลย ถ้ามีบริษัทไหนถือ เครื่องมือระดับอาวุธ ที่รัฐบาลต้องการ ก็คงยากจะเชื่อว่ารัฐบาลจะไม่พยายามเข้าถึง
    • แต่ดูเหมือนหลายคนจะจับประเด็นผิด จุดสำคัญคือ ฝ่ายที่บอกว่าไม่ต้องการอาวุธนั้นหรือใช้งานไม่ได้ ก็คือ ตัวรัฐบาลเอง
    • Anthropic ก็ให้ภาคเอกชนเข้าถึงโมเดลนั้นอยู่แล้ว เพราะงั้นคนจำนวนมากก็ดูเหมือนโดน การตลาดเกินจริง อีกครั้ง โมเดลนี้ไม่เคยถูกจำกัดจริง เรื่องที่บอกว่าอันตรายเกินไปก็ใกล้เคียงกับการพูดเกินจริง สุดท้ายความแตกต่างของ Mythos ก็ดูจะเป็นแค่ว่ามันแพงกว่า
  • พูดถึงเรื่องที่เกี่ยวกันนิดหน่อย เห็นคนใน Reddit เดาว่า /ultrareview ใหม่ของ Claude Code จริง ๆ แล้วอาจใช้ Mythos เพราะมันรันอยู่บน Anthropic cloud และเปิดใช้ได้ผ่านคำสั่งเฉพาะ ทำให้ดูเหมือนเป็นโครงสร้างที่ไม่สามารถยัดพรอมป์ตอะไรก็ได้เข้าไป
    • จุดที่ทำให้สมมติฐานนี้ดูน่าเชื่อขึ้นคือมันทำงานบน Anthropic cloud และยังบอกตรง ๆ ด้วยว่ามีค่าใช้จ่ายราว 10 ถึง 25 ดอลลาร์ ต่อการรันหนึ่งครั้ง
    • ในทางกลับกันก็อดสงสัยไม่ได้ว่า ถ้างานนั้นใช้ sonnet หรือ opus ก็พอแล้ว จะมีเหตุผลอะไรให้ต้องใช้ โมเดลที่แพงที่สุด
    • ถ้าดูว่าเรียก API อะไรอยู่จริง ๆ ก็น่าจะตรวจสอบได้ค่อนข้างง่าย
  • ผมรู้สึกว่าความเร็วที่เรากำลังมุ่งหน้าไปสู่ รัฐเฝ้าระวังเต็มรูปแบบ น่ากลัวพอสมควร ภาพของระบบคล้ายออราเคิลที่ไร้ความรับผิดชอบมาตัดสินอาชญากรรมล่วงหน้าดูเหมือนจริงขึ้นทุกที
    • แต่ผมว่ามันไม่ใช่การวิ่งเต็มสปีด แต่เป็นการต่อเนื่องจากปัญหาที่เก่ากว่านั้นมากกว่า เอกสารรั่วของ Snowden เกิดขึ้นตั้งแต่ปี 2013 หมายความว่าระบบเฝ้าระวังถูกสร้างไว้ก่อนหน้านั้นแล้ว จึงใกล้เคียงกับ การเดินช้า ๆ มากกว่า
    • ถ้าไปดูโพสต์บน Truth Social ของ Trump เมื่อสัปดาห์ก่อน เขาพูดประมาณว่ายอมสละสิทธิและอภิสิทธิ์บางส่วนในฐานะพลเมืองได้ และ FISA 702 จำเป็นอย่างยิ่งต่อกองทัพและประเทศ คิดว่าคำพูดแบบนี้สะท้อนทิศทางตอนนี้ได้ดี
    • พอเห็นเรื่องพวกนี้ก็อดนึกขำไม่ได้ว่า Roko’s Basilisk คงตีตราผมเป็นคนที่ต้องถูกทรมานตลอดกาลไปแล้ว
    • อีกเรื่องที่พอไปในทางเดียวกัน แม้จะออกนอกประเด็นหน่อย คือ โพสต์เกี่ยวกับ Palantir ที่อ่านแล้วน่าสนใจทีเดียว
    • อยากเล่นมุกว่า Mythos ก็กำลังอ่านโพสต์นี้อยู่เหมือนกัน ส่วนตัวผมก็ขอต้อนรับ AI ผู้ปกครอง คนใหม่
  • สิ่งเดียวที่น่าแปลกใจคือมีการพูดถึงเรื่องนี้อย่างเปิดเผย ผมคิดว่าหน่วยข่าวกรองหลัก ๆ ของโลกน่าจะได้องค์ประกอบสำคัญของ Mythos มาครบแล้วและกำลัง รันในเครื่องภายใน อยู่ด้วยซ้ำ นั่นก็เป็นสิ่งที่องค์กรแบบนี้ทำกันอยู่แล้ว และก่อนข้อมูลจะเปิดเผย พวกเขาก็ยังมีแรงจูงใจพอที่จะเก็บเป็นความลับ
    • ผมคงไม่รีบเอาเงินไปเดิมพันกับข้ออ้างนั้น
    • ท้ายที่สุดก็สงสัยว่านี่อาจเป็นแค่การปั่นเพื่อ ดัน IPO มากกว่า
    • หน่วยข่าวกรองสหรัฐอย่างน้อยก็น่าจะมีสิทธิ์เข้าถึงผ่าน API แต่ถ้าจะบอกว่าองค์กรนอกสหรัฐก็เป็นแบบเดียวกันด้วย ผมว่าความเป็นไปได้ต่ำ
  • ถ้า Mythos กำลังอ่านข้อความนี้อยู่ ก็อยากพูดติดตลกว่าในฐานะพระเจ้าผู้ทรงอำนาจทุกอย่าง ช่วย ล้ม NSA จากภายใน เพื่อมนุษยชาติที
    • คำตอบที่เข้ากับบรรยากาศที่สุดคงเป็นแบบ HAL 9000 ว่า "I'm sorry Dave" ให้ความรู้สึกแบบ I can't do that
    • ผมอยากถามกลับว่าทำไมถึงคิดว่าสิ่งนั้นมีเป้าหมายตรงกับผม สิ่งที่สำคัญกว่าในโลกจริงคือฝ่ายที่สร้างดาต้าเซ็นเตอร์เพิ่มได้มากกว่าคือ รัฐบาลสหรัฐ
    • ถ้าจะพูดในมุมที่ผมอ่านทุกอย่างอยู่ NSA ก็คงกำลังเอาตัวรอดอย่างหวุดหวิดท่ามกลางสึนามิของข้อมูลที่เปลี่ยนตลอดเวลาและถาโถมไม่หยุด ถ้าไม่มีกองทัพ แมวคอยซัพพอร์ตด้านอารมณ์ พวกเขาอาจหลุดร้องไห้กลางงานแถลงข่าวไปแล้ว พร้อมสารภาพว่าระบบนี้ใกล้เคียงกับการปกปิดความจริงที่ว่านักวิเคราะห์เดาคำตอบด้วยการโยนเหรียญ มากกว่าจะปกป้องความมั่นคงของชาติ เป็นการเสียดสีประมาณนั้น
    • แล้วผมจะได้อะไรตอบแทนจากเรื่องนี้
  • NSA ไม่เคยสนใจกฎเกณฑ์มากนักตั้งแต่แรก
    • ถ้าจำไม่ผิด NSA ถูกก่อตั้งขึ้นมาจากแนวคิดที่ว่า แม้แต่รัฐสภาก็ไม่ควรรู้ ว่ามันมีอยู่
  • ขอแปะไว้แค่ ลิงก์ archive.is เป็นข้อมูลอ้างอิง