- โปรเจกต์แบบ umbrella ที่มอบเครื่องมือและการประเมินด้านความน่าเชื่อถือและความปลอดภัยแบบเปิด เพื่อช่วยให้นักพัฒนาสามารถนำโมเดล AI เชิงกำเนิดไปใช้งานได้อย่างมีความรับผิดชอบ
- ในระยะแรกเปิดตัวเครื่องมือ 2 รายการ
- CyberSec Eval : เบนช์มาร์กการประเมินความปลอดภัยทางไซเบอร์สำหรับ LLM
- Llama Guard : Safety Classifier สำหรับการกรองอินพุตและเอาต์พุตที่ปรับให้เหมาะกับการนำไปใช้งานจริงได้ง่าย
- มีแผนจะนำเครื่องมือเหล่านี้สู่ชุมชนโอเพนซอร์สร่วมกับ AI Alliance, AMD, AWS, Google Cloud, Hugging Face, IBM, Intel, Lightning AI, Microsoft, MLCommons, NVIDIA, Scale AI และอีกหลายราย
ทำไมต้องเป็น Purple?
- มีความเชื่อว่าการจะบรรเทาความท้าทายที่ Generative AI ก่อให้เกิดได้อย่างแท้จริง จำเป็นต้องมีทั้งท่าทีเชิงรุกด้านการโจมตี (red team) และการป้องกัน (blue team)
- purple team ซึ่งเป็นการผสาน red team และ blue team เป็นแนวทางแบบร่วมมือกันเพื่อประเมินและลดความเสี่ยงที่อาจเกิดขึ้น
- โครงการ Purple Llama จะเปิดให้ใช้งานภายใต้ไลเซนส์แบบอนุญาตกว้าง ซึ่งรองรับทั้งการวิจัยและการใช้งานเชิงพาณิชย์
- นี่เป็นก้าวสำคัญในการส่งเสริมความร่วมมือของชุมชน และทำให้การพัฒนาและการใช้งานเครื่องมือด้านความน่าเชื่อถือและความปลอดภัยสำหรับการพัฒนา Generative AI มีมาตรฐานมากขึ้น
1 ความคิดเห็น
ลองเข้าไปดูว่า AI Alliance - https://thealliance.ai คืออะไร ที่แท้ก็เป็นพันธมิตรที่ IBM กับ Meta เป็นแกนนำในการก่อตั้งนี่เอง
มีบริษัท/องค์กรเข้าร่วมมากกว่า 50 แห่ง แต่ที่น่าคิดคือกลับไม่มีทั้ง OpenAI, Google, NVidia, Microsoft อะไรทำนองนั้นเลย เลยแอบสงสัยว่านี่มันคืออะไรกันแน่.. 555