โปรเจกต์ป้องกันการโจมตีแบบ LLM Injection สำหรับ Python ที่พัฒนาด้วย Rust
(github.com/mirseo)นี่คือแพ็กเกจป้องกัน LLM Injection สำหรับ Python ที่พัฒนาบนพื้นฐานของ Rust!
พอได้ใช้งาน AI api ทำหลายอย่าง ก็พบว่าการโจมตีแบบ injection เกิดขึ้นบ่อยกว่าที่คิด จึงรู้สึกว่าการทำ regex filtering และ replace แบบอิง re ซ้ำ ๆ นั้นไม่สะดวก เลยพัฒนาบริการนี้ขึ้นมาด้วยความคิดว่าถ้ามีแพ็กเกจแบบนี้ก็น่าจะดี (ในการพัฒนาก็ได้รับความช่วยเหลือจาก AI เยอะมาก!)
ฟีเจอร์หลักมี IPS, IDS และ IUS
IPS - บล็อกพรอมป์ต์ของผู้ใช้และสั่งให้ดำเนินพรอมป์ต์เดิมต่อไป
IDS - ไม่ได้บล็อกพรอมป์ต์ของผู้ใช้ แต่จะแสดงคำที่เข้าข่ายกฎการบล็อก
IUS - IPS ที่ทำงานได้รวดเร็วด้วย multithreading และ caching
จุดเด่นคือสามารถรองรับการบล็อกได้โดยเพิ่ม JSON ใหม่ในตำแหน่งของ rules.json ภายในแพ็กเกจ หรือแก้ไข rules.json เดิม และยังสามารถเรียก init ซ้ำเพื่อปรับแก้กฎระหว่างการทำงานได้ด้วย! (กฎแบบกำหนดเอง -> กฎที่มีให้)
นี่เป็นครั้งแรกที่ลองโพสต์อะไรแบบนี้ เลยแอบกังวลนิดหน่อย ฝากด้วยนะครับ!
ยังไม่มีความคิดเห็น