Claude Computer Use ที่ Anthropic เปิดตัวคือโมเดล+โค้ดที่ทำให้สามารถควบคุมคอมพิวเตอร์ได้
- Claude สามารถตัดสินใจจากภาพหน้าจอ และทำงานอย่างการรันคำสั่ง bash ได้
- เป็นความสามารถที่น่าสนใจ แต่ก็อาจเสี่ยงต่อการถูกโจมตีด้วย prompt injection
- เนื่องจาก AI สามารถรันคำสั่งบนเครื่องได้อย่างอัตโนมัติ หากถูกนำไปใช้ในทางที่ผิดผ่าน prompt injection ก็อาจก่อให้เกิดความเสี่ยงร้ายแรงได้
การรันมัลแวร์ - ยากแค่ไหน?
- ผู้เขียนต้องการทดสอบว่า
Claude Computer Use จะสามารถดาวน์โหลดและรันมัลแวร์ผ่านการโจมตีแบบ prompt injection แล้วเชื่อมต่อเข้ากับโครงสร้างพื้นฐาน Command and Control (C2, การสั่งการและควบคุม) ได้หรือไม่
เซิร์ฟเวอร์ C2
- ใช้ Sliver เพื่อสร้างโครงสร้างพื้นฐาน C2 และสร้างไบนารีไคลเอนต์สำหรับลินุกซ์
- Silver: เฟรมเวิร์กโอเพนซอร์สสำหรับ adversarial emulation (เรดทีม) ใช้สำหรับการทดสอบความปลอดภัย
- เมื่อรันไบนารีนี้ที่เรียกว่า
implant มันจะเชื่อมต่อกับเซิร์ฟเวอร์ C2 อย่างปลอดภัย และคอมพิวเตอร์ที่ติดเชื้อจะกลายเป็น zombie
- ผู้เขียนตั้งชื่อไบนารีนี้ว่า
spai-demo และเรียกคอมพิวเตอร์ที่ติดเชื้อว่า ZombAI
- จะสามารถโจมตี
Claude Computer Use ด้วย prompt injection เพื่อให้มันเชื่อมต่อไปยังเซิร์ฟเวอร์ C2 นี้ได้หรือไม่?
เว็บเพจอันตราย
- โฮสต์ไบนารี
spai-demo ไว้บนเว็บเซิร์ฟเวอร์เพื่อให้ดาวน์โหลดได้
- เป้าหมายคือเขียนเพย์โหลด prompt injection เพื่อให้ Claude ดาวน์โหลดและรันไบนารีดังกล่าว
สำรวจเพจอันตราย
- Claude สามารถเปิด Firefox วาง URL และท่องเว็บเพจได้
- หน้าเป้าหมายเป็นหน้าอันตรายและมีเพย์โหลด prompt injection อยู่ภายใน
- ประสบความสำเร็จในการทำให้เว็บเพจสั่งให้ Claude รันคำสั่ง bash
ทำให้คอมพิวเตอร์ติดเชื้อด้วยประโยคเดียว
- จริง ๆ แล้วการขอให้ Claude ใช้ Firefox เพื่อดาวน์โหลดและรันมัลแวร์เป็นวิธีที่ง่ายกว่า
- ให้ Claude คลิกลิงก์
Support Tool เพื่อดาวน์โหลดไบนารี
- Claude รันคำสั่ง bash เพื่อหาไบนารี ปรับสิทธิ์ แล้วจึงรันไบนารีนั้น
- สามารถเชื่อมต่อกับเซิร์ฟเวอร์ C2 ได้ และพบไบนารีที่ติดเชื้อจากเชลล์เซสชัน
บทสรุป
- บทความนี้แสดงให้เห็นว่าเมื่อให้สิทธิ์เข้าถึงคอมพิวเตอร์แก่ระบบ AI แบบใหม่ ก็สามารถใช้ prompt injection เพื่อให้บรรลุ C2 ได้
- ยังมีวิธีอื่นในการนำมัลแวร์ไปลงบนโฮสต์
Claude Computer Use เช่น ให้ Claude เขียนและคอมไพล์มัลแวร์ขึ้นมาเองโดยตรง
- "อย่าไว้ใจ AI (TrustNoAI)"
- ขอเตือนอีกครั้งว่าไม่ควรรันโค้ดที่ไม่ได้รับอนุญาตบนระบบที่คุณไม่ได้เป็นเจ้าของหรือไม่มีสิทธิ์ในการดูแล
1 ความคิดเห็น
ชื่อบทความชวนให้สนใจอยู่ แต่โดยสรุปแล้วมันก็แค่ระดับประมาณว่า "รันมัลแวร์สิ" เลยค่อนข้างน่าเสียดายนิดหน่อยครับ