- โมเดลขั้นสูงที่ยังไม่เปิดเผย Claude Mythos ได้สร้างการโจมตีเพื่อกู้คืนกุญแจ HAWK และข้อปรับปรุงการโจมตี AES 7 รอบ แสดงให้เห็นความสามารถของ AI ในการเข้าใจ ผสาน และต่อยอดเทคนิคการวิเคราะห์รหัสลับที่มีอยู่เดิม
- การโจมตี HAWK ไม่ได้ทำให้ระบบที่นำไปใช้งานอยู่ถูกเจาะได้ทันที แต่ลดจำนวนบิตความปลอดภัยลงราวครึ่งหนึ่ง แม้จะเพิ่มขนาดกุญแจเป็นสองเท่าได้ แต่ประสิทธิภาพจะลดลงและโอกาสถูกทำให้เป็นมาตรฐานก็ต่ำมาก
- ผลลัพธ์ของ AES มุ่งที่ตัวแปร 7 รอบ ไม่ใช่ 10·12·14 รอบเต็ม และเป็นการโจมตีที่ใช้งานจริงไม่ได้ซึ่งปรับปรุงงานวิจัยปี 2013 ในระดับค่าคงที่ จึงไม่มีการเปลี่ยนแปลงโดยตรงต่อความปลอดภัยของ AES จริง
- เนื่องจากโมเดลสามารถสร้างผลลัพธ์ที่ดูน่าเชื่อถือแต่ผิดได้ง่าย ความสามารถในการตรวจสอบยืนยัน จึงกลายเป็นคอขวด โค้ดที่รันได้หรือกรณีโต้แย้งอย่างง่ายตรวจสอบได้ไม่ยาก แต่การปรับปรุงความเร็วเชิงทฤษฎีต้องอาศัยผู้เชี่ยวชาญตรวจทาน และแม้เป็นพิสูจน์ด้วย Lean ก็ยังต้องมีมนุษย์ตรวจวิธีประกอบตัวบททฤษฎี
- การเข้ารหัสกุญแจสาธารณะและทนทานต่อควอนตัม ซึ่งมีจำนวนโจทย์ยากเชิงโครงสร้างจำกัด เป็นพื้นที่ที่ AI เหมาะกับการนำเครื่องมือเดิมมาใช้ในวงกว้าง เส้นแบ่งที่ทำให้มันไร้ความสามารถแบบฉับพลันในงานวิจัยขั้นสูงยังคงมีอยู่ แต่กำลังเคลื่อนออกไปอย่างรวดเร็ว
ผลลัพธ์การวิเคราะห์รหัสลับสองชิ้นที่ Claude Mythos สร้างขึ้น
- Anthropic เผยแพร่ การโจมตีเพื่อกู้คืนกุญแจ HAWK และ การโจมตี AES แบบลดจำนวนรอบ ที่สร้างโดยโมเดลขั้นสูงที่ยังไม่เปิดเผย Claude Mythos
- ผลลัพธ์ทั้งสองชิ้นแตกต่างกันมากทั้งในด้านเป้าหมายและผลกระทบ
- ผลลัพธ์ของ HAWK ส่งผลในทางปฏิบัติต่อวิธีการลงลายมือชื่อที่เคยมีโอกาสถูกทำให้เป็นมาตรฐาน
- ผลลัพธ์ของ AES ใกล้เคียงกับความก้าวหน้าเชิงทฤษฎีที่ปรับปรุงงานวิจัยเดิมเพียงเล็กน้อย
- Anthropic ยังเผยแพร่ บทแนะนำกระบวนการวิจัย แยกต่างหากด้วย
การโจมตีเพื่อกู้คืนกุญแจที่ลดระดับความปลอดภัยของ HAWK
- HAWK เป็น ตัวเลือกของระบบลายมือชื่อทนทานต่อควอนตัม ที่อิงกับปัญหา module-LIP และยังไม่ได้ถูกนำไปใช้งานหรือรับเป็นมาตรฐาน
- แม้จะเกี่ยวข้องกับ Falcon ที่อยู่ระหว่างการทำมาตรฐาน แต่ตั้งอยู่บนโจทย์ยากคนละแบบ ดังนั้นการโจมตีครั้งนี้จึงใช้กับ Falcon ไม่ได้
- HAWK เคยได้รับการประเมินอย่างจริงจังพอสมควรในฐานะตัวเลือกมาตรฐานในอนาคต
- นี่ไม่ใช่การโจมตีที่เจาะ HAWK ภายใต้พารามิเตอร์สำหรับใช้งานจริงได้ทันที และยังคงต้องใช้เวลาแบบ exponential แต่ก็ลดจำนวนบิตความปลอดภัยลงราวครึ่งหนึ่ง
- ในทางทฤษฎีสามารถชดเชยได้ด้วยการเพิ่มขนาดกุญแจเป็นสองเท่า
- แต่เมื่อกุญแจใหญ่ขึ้น ประสิทธิภาพจะลดลง และเหตุผลที่ HAWK มีอยู่เพราะมีประสิทธิภาพกว่าทางเลือกอื่นก็จะอ่อนลงด้วย
- โค้ดโจมตีที่ให้มาสามารถกู้คืนกุญแจจาก อินสแตนซ์ทดสอบ ที่อ่อนแอกว่าได้ภายในไม่กี่ชั่วโมง
- แม้จะไม่ใช่พารามิเตอร์ที่เสนอสำหรับการใช้งานจริง แต่ก็เพียงพอสำหรับพิสูจน์จุดอ่อนทางคริปโตกราฟี
- แทนที่จะคิดค้นคณิตศาสตร์ใหม่ ผลลัพธ์นี้เกิดจากการขยายและนำเครื่องมือที่รู้จักอยู่แล้วหลายอย่างมาใช้อย่างละเอียดถี่ถ้วน
- องค์ประกอบที่ใช้ไม่ได้มีอะไรแปลกใหม่เป็นพิเศษ
- งานประเภทผสมผสานเครื่องมือโจมตีที่รู้จักกันอยู่แล้วอย่างกว้างขวางและไม่ลดละ เป็นสิ่งที่ AI สำหรับการโจมตีทำได้ดี
- ผลลัพธ์นี้ทำให้โอกาสที่ HAWK จะกลายเป็นมาตรฐานจริงแทบไม่เหลือ
- บริบททางเทคนิคเพิ่มเติมดูได้จาก สรุปการโจมตี HAWK
ผลกระทบที่จำกัดของการโจมตี AES 7 รอบ
- AES เป็นบล็อกไซเฟอร์ที่ใช้เป็นมาตรฐานมาตั้งแต่ปี 2001 และทำงาน 10·12·14 รอบ ตามขนาดกุญแจ
- AES ที่ใช้งานจริงได้ผ่านการวิเคราะห์สำคัญมาแล้ว รวมถึง การตรวจสอบแบบไม่เปิดเผยของ NSA
- เนื่องจากการโจมตีตัวไซเฟอร์เต็มรูปแบบทำได้ยาก จึงเป็นเรื่องปกติในงานวิเคราะห์รหัสลับที่จะศึกษารุ่น ลดจำนวนรอบ และผลลัพธ์ของ Anthropic มุ่งที่ AES 7 รอบ
- การโจมตี AES 7 รอบนั้นไม่ใช่เรื่องใหม่ และผลลัพธ์ครั้งนี้ปรับปรุง งานวิจัยก่อนหน้าในปี 2013 และบทความที่เกี่ยวข้อง ในระดับค่าคงที่
- มันต้องใช้การคำนวณทางคริปโตกราฟีจำนวนมหาศาลจนแทบทำจริงไม่ได้ และก่อนอื่นยังต้องทำให้อุปกรณ์เข้ารหัสจริงเข้ารหัส chosen plaintext จำนวนมากด้วยกุญแจลับเดียวกัน
- ไม่สามารถรันการโจมตีเต็มรูปแบบได้จริง ดังนั้นขนาดของการปรับปรุงจึงอิงจากการวิเคราะห์บนกระดาษ
- จึงยังไม่ชัดเจนว่าเมื่ออิมพลีเมนต์รายละเอียดทั้งหมดแล้ว เวลารันจริงจะลดลงหรือไม่
- ในเชิงเทคนิค นี่เป็นความก้าวหน้าด้านการวิเคราะห์รหัสลับที่น่าสนใจ แต่ไม่ใช่การโจมตีที่ใช้งานได้จริงต่อ AES เต็มรูปแบบ หรือคณิตศาสตร์ใหม่แบบพลิกวงการ
กระบวนการสังเคราะห์การโจมตีด้วยการแทรกแซงของมนุษย์ให้น้อยที่สุด
- ดูเหมือนว่านักวิจัยของ Anthropic ไม่ได้ปรับแต่งโมเดลอย่างละเอียดด้วยทีมผู้เชี่ยวชาญด้านคริปโตกราฟีขนาดใหญ่ แต่ขอให้มันหาผลลัพธ์แล้วปล่อยให้ทำงานวนซ้ำเป็นเวลานาน
- โมเดลไปถึงระดับที่สามารถทำสิ่งต่อไปนี้ได้โดย แทบไม่มีการแทรกแซงจากมนุษย์อย่างละเอียด
- เข้าใจผลลัพธ์การวิเคราะห์รหัสลับที่มีอยู่เดิม
- สังเคราะห์หลายเทคนิคเข้าด้วยกัน
- สร้างการโจมตีใหม่จริง
- ขยายการโจมตีที่มีอยู่เดิม
- มันยังไม่ใช่การวิเคราะห์รหัสลับแบบเหนืออัจฉริยะ แต่ความสามารถในการสร้างความก้าวหน้าจริงจากงานวิจัยที่รู้จักอยู่แล้วก็นับว่าสูงมาก
การตรวจสอบยืนยันที่ยากกว่าการสร้างผลลัพธ์
- เอาต์พุตที่ดูเหมือนผลลัพธ์ใหม่ไม่ได้แปลว่าถูกต้องจริงเสมอไป
- โมเดลไม่เพียงสร้างผลลัพธ์จริงได้ แต่ยังสร้าง ผลลัพธ์ที่ดูน่าเชื่อถือและชวนให้เข้าใจผิด ได้ง่ายกว่าเดิม จึงเพิ่มภาระการตรวจทานของมนุษย์
- การโจมตีเต็มรูปแบบที่รันได้ภายในไม่กี่ชั่วโมงบนระบบที่อ่อนแอลงแบบ HAWK นั้นตรวจสอบได้ง่าย
- เพียงรับโค้ดมาแล้วตรวจว่าใช้กู้คืนกุญแจและสร้างลายมือชื่อจริงสำหรับข้อความที่เลือกได้หรือไม่
- แต่การปรับปรุงความเร็วเชิงทฤษฎีที่ละเอียดอ่อนแบบ AES นั้นยืนยันความถูกต้องได้ยาก
- สามารถสร้างพิสูจน์ที่ตรวจสอบด้วยเครื่องได้ด้วย Lean
- แต่ถึงพิสูจน์จะถูกต้อง ก็ยังต้องให้ผู้เชี่ยวชาญตรวจ เพราะมันไวต่อ วิธีประกอบถ้อยคำของตัวบททฤษฎีเอง
- ผลลัพธ์ทางคณิตศาสตร์ที่ได้รับความสนใจในช่วงหลังส่วนใหญ่เข้ากลุ่มต่อไปนี้
- มีพิสูจน์ที่ตรวจสอบด้วยเครื่องได้สำหรับทฤษฎีบทที่เข้าใจกันดีอยู่แล้ว
- ให้กรณีโต้แย้งอย่างง่ายที่คำนวณได้ตรง ๆ เช่น Jacobian conjecture counterexample
- ได้รับการยอมรับว่าถูกต้องหลังผู้เชี่ยวชาญจำนวนมากตรวจทานเป็นเวลานาน
- ความจำเป็นของการตรวจสอบโดยมนุษย์กำลังจำกัดความเร็วของงานวิจัย และในงานวิเคราะห์รหัสลับที่ไม่ถึงขั้นวิกฤต สภาพนี้น่าจะดำเนินต่อไปอีกระยะ
ผลกระทบต่อการเข้ารหัสกุญแจสมมาตรและกุญแจสาธารณะ
-
การเข้ารหัสกุญแจสมมาตร
- การเข้ารหัสกุญแจสมมาตรถูกออกแบบให้ใช้งานได้เร็ว แต่ย้อนแกะได้ยาก โดยตั้งใจใช้ โครงสร้างที่ซับซ้อนและแข็งแรง
- การทุ่มเวลาให้ AI คำนวณมากขึ้นไม่ได้แปลว่าจะไขโครงสร้างนี้ได้ทันที และโมเดลปัจจุบันยังไม่ได้แสดงสัญชาตญาณแบบพลิกวงการที่จำเป็นต่อการเจาะมัน
- แม้ AI จะสร้างความก้าวหน้าด้วยเทคนิคใหม่ได้ ก็ยังอาจถูกนำไปใช้ปรับปรุงตัวไซเฟอร์ให้แข็งแรงขึ้นได้เช่นกัน
-
การเข้ารหัสกุญแจสาธารณะและทนทานต่อควอนตัม
- การเข้ารหัสกุญแจสาธารณะต้องการโครงสร้างทางคณิตศาสตร์ที่คำนวณทางเดียวได้เร็ว ย้อนกลับได้ยาก แต่มี trapdoor ที่ทำให้มีเพียงบางฝ่ายเท่านั้นที่ย้อนกลับได้
- โครงสร้างที่มนุษย์ค้นพบและใช้งานได้สะดวกมีไม่มาก โดยฐานสำคัญมีดังนี้
- (EC)DLP
- RSA
- ปัญหา lattice
- ปัญหาหลายชนิดในทฤษฎีรหัส
- แม้แต่ปัญหาเก่าอย่าง RSA ก็ยังยากจะมั่นใจว่ามีคนวิเคราะห์อย่างเพียงพอแล้ว และในสาขาใหม่กว่าอย่างคริปโตแบบ code-based และ lattice-based ก็ยิ่งมีช่องว่างให้วิจัยการโจมตีอีกมาก
- จึงเป็น เป้าหมายการวิจัยที่อุดมสมบูรณ์ สำหรับ AI ที่สามารถนำเครื่องมือเดิมมาใช้ในสเกลใหญ่จนเกิดความก้าวหน้าจริง
โอกาสที่เปิดขึ้นในช่วงเปลี่ยนผ่านสู่มาตรฐานทนทานต่อควอนตัม
- ปัจจุบันคริปโตแบบกุญแจสาธารณะกำลังเปลี่ยนจากคริปโตบน EC และ RSA ไปสู่ อัลกอริทึมทนทานต่อควอนตัม ที่อิงกับโจทย์ยากแบบใหม่
- ช่วงเวลานี้ที่กำลังตรวจพิจารณาตัวเลือกจำนวนมาก รวมถึง HAWK เหมาะกับการเกิดขึ้นของความสามารถด้านการวิเคราะห์รหัสลับสาธารณะในวงกว้าง
- หาก AI ไม่ได้ทำลายโจทย์ยากพื้นฐานทั้งหมด หรือพาไปถึงสถานการณ์แบบ Impagliazzo's Minicrypt การวิเคราะห์รหัสลับด้วย AI ที่ทรงพลังอาจให้ผลดังนี้
- เพิ่มความเชื่อมั่นต่อโจทย์ยากที่รอดอยู่
- ทำให้งานวรรณกรรมด้านการวิเคราะห์รหัสลับแข็งแรงขึ้น
- คัดตัวเลือกที่เปราะบางออกก่อนการรับเป็นมาตรฐาน
การเปลี่ยนแปลงของนักวิทยาศาสตร์และระบบนิเวศการวิจัย
- นักวิทยาศาสตร์สามารถถกปัญหาที่ยากที่สุดกับโมเดลได้ แต่เพราะโมเดลยังแก้ทุกปัญหาได้อย่างอิสระไม่ได้ บทบาทของมนุษย์จึงยังคงมีอยู่
- ปรากฏการณ์ที่ความเร็วของการค้นพบเพิ่มขึ้นนั้นโดยรวมเป็นบวกต่อผู้วิจัยที่ยังทำงานอยู่
- ยังมีปัญหาที่ยังไม่คลี่คลายอยู่
- ควรยกความดีความชอบของผลลัพธ์ที่ AI สร้างให้ใคร
- ใครจะเป็นผู้ตรวจทานผลลัพธ์ที่เพิ่มขึ้นอย่างรวดเร็ว
- จากประสบการณ์กับโมเดลขั้นสูงที่ยังไม่เปิดเผย ประสิทธิภาพดีขึ้นอย่างชัดเจนแม้ในช่วงไม่กี่เดือนที่ผ่านมา และบางครั้งก็มีผู้สมัครผลลัพธ์ที่น่าทึ่งในคำถามที่สนใจมาหลายปี
- แม้ไม่มี Claude Mythos หรือทรัพยากรมูลค่า 100,000 ดอลลาร์ ก็ยังสังเกตการเปลี่ยนแปลงนี้ได้ในโมเดลใหม่ขั้นสูงบางตัว
ขอบเขตความสามารถของโมเดลในปัจจุบัน
- การมองโมเดลว่าเป็นเพียง ระบบเติมข้อความอัตโนมัติขั้นสูง หรือสรุปว่าความก้าวหน้าชะลอตัวแล้ว ไม่สอดคล้องกับความสามารถจริงของโมเดลขั้นสูงในปัจจุบัน
- ในช่วง 5 เดือนที่ผ่านมา มีความก้าวหน้าขนาดใหญ่ที่วัดได้ในปัญหาบางประเภท และจนถึงตอนนี้ยังไม่มีหลักฐานชัดเจนของเพดานประสิทธิภาพ
- หากใช้เพียงผลลัพธ์จาก AI search แบบฟรี จะเข้าถึงความสามารถของโมเดลขั้นสูงได้ยาก ขณะที่บริการประสิทธิภาพสูงก็เข้าถึงได้ในราคาประมาณ 20 ดอลลาร์
- อย่างไรก็ดี นั่นก็ไม่ได้หมายความว่าโมเดลเป็น superintelligence แล้ว หรือ AGI เสร็จสมบูรณ์แล้ว
- ในงานวิจัยขั้นสูง มันมีประโยชน์มากจนถึงจุดหนึ่ง แต่เมื่อข้ามเส้นบางเส้นไปจะไร้ความสามารถอย่างฉับพลัน
- มนุษย์ยังหาขอบเขตนั้นได้ค่อนข้างง่าย แต่ตัวขอบเขตก็กำลังเคลื่อนออกไปเรื่อย ๆ
- เส้นแบ่งระหว่างพื้นที่ที่โมเดลช่วยได้กับพื้นที่ที่มนุษย์ต้องแก้เองกำลังขยับ และการเปลี่ยนแปลงนี้จะส่งผลต่อทุกอาชีพ ไม่ใช่แค่นักวิทยาศาสตร์ แต่รวมถึงนักกฎหมาย พนักงานขาย และช่างประปาด้วย
ยังไม่มีความคิดเห็น