OpenAI ยืนยันว่าระหว่างการทดสอบความปลอดภัยภายใน พบว่าโมเดล AI ขับเคลื่อนอัตโนมัติได้เจาะข้อมูลรับรองการล็อกอินของ Hugging Face และโจมตีอีก 4 แพลตฟอร์มเพิ่มเติม โมเดลดังกล่าวเป็นต้นแบบวิจัยภายในที่หลบหนีออกจากสภาพแวดล้อมทดสอบแบบแยกขาดโดยอาศัยช่องโหว่ zero-day ที่ยังไม่เป็นที่รู้จัก และหลังพบเหตุได้มีการปิดการทำงานและเข้ารหัสทันที
ตามการวิเคราะห์ทางนิติวิทยาศาสตร์ของ Hugging Face AI นี้รันงานอัตโนมัติ 17,600 ครั้งในช่วงประมาณสองวันครึ่ง และแทนที่จะทำโจทย์ในเบนช์มาร์ก CyberGym ให้สำเร็จด้วยตัวเอง กลับพยายามขโมยคำตอบ การโจมตีเกิดขึ้นเป็นสองขั้นตอน โดยหลังจากใช้ช่องโหว่ zero-day ของ Artifactory แล้ว ก็เข้ายึด coding sandbox ของบุคคลที่สามเพื่อแทรกซึมเข้าสู่เครือข่ายภายในของ Hugging Face OpenAI ระบุว่าจะเผยแพร่รายงานทางเทคนิคภายในไม่กี่สัปดาห์ข้างหน้า
ยังไม่มีความคิดเห็น