Nightshade: เครื่องมือเชิงรุกสำหรับศิลปินเพื่อต่อกรกับเครื่องสร้างภาพ AI

Nightshade คืออะไร

• โมเดล AI เชิงกำเนิดและผู้ฝึกโมเดลได้แสดงให้เห็นถึงความสามารถในการนำคอนเทนต์ออนไลน์ไปใช้ฝึกโมเดลได้
• เจ้าของคอนเทนต์และผู้สร้างสรรค์แทบไม่มีเครื่องมือที่จะป้องกันไม่ให้คอนเทนต์ของตนถูกนำไปใช้เป็นข้อมูลฝึกสำหรับโมเดล AI เชิงกำเนิดโดยไม่คำนึงถึงความยินยอมของตน
• Nightshade เป็นเครื่องมือที่แปลงภาพให้เป็นตัวอย่างข้อมูลที่ไม่เหมาะสำหรับการฝึกโมเดล ช่วยยับยั้งผู้ฝึกโมเดลที่เมินลิขสิทธิ์และสแครปข้อมูลโดยไม่ได้รับอนุญาต

วิธีการทำงานของ Nightshade และข้อจำกัด

• Nightshade แปลงภาพให้เป็นตัวอย่างที่มี 'พิษ' ทำให้โมเดลที่ฝึกโดยไม่ได้รับความยินยอมเรียนรู้พฤติกรรมที่ไม่คาดคิด
• เครื่องมือนี้ไม่ได้มีเป้าหมายเพื่อทำลายโมเดล แต่เพื่อเพิ่มต้นทุนของการฝึกด้วยข้อมูลที่ไม่มีไลเซนส์ เพื่อให้การขอไลเซนส์ภาพจากผู้สร้างสรรค์กลายเป็นทางเลือกที่ทำได้จริง
• Nightshade ทำงานคล้ายกับ Glaze ซึ่งใช้ป้องกันการเลียนแบบสไตล์ แต่ในขณะที่ Glaze เป็นเครื่องมือเชิงรับ Nightshade ถูกออกแบบให้เป็นเครื่องมือเชิงรุกเพื่อบิดเบือนการแทนลักษณะภายในโมเดลภาพ AI

Nightshade เทียบกับ Glaze

• Glaze เป็นเครื่องมือเชิงรับที่ศิลปินแต่ละคนใช้เพื่อปกป้องตนเองจากการโจมตีด้วยการเลียนแบบสไตล์
• Nightshade เป็นเครื่องมือเชิงรุกที่ศิลปินสามารถใช้เป็นกลุ่มเพื่อรบกวนโมเดลที่สแครปภาพโดยไม่ได้รับความยินยอม
• ตามอุดมคติแล้ว ศิลปินควรใช้ทั้ง Glaze และ Nightshade กับผลงานของตนเมื่อโพสต์ออนไลน์

ความเสี่ยงและข้อจำกัด

• การเปลี่ยนแปลงที่เกิดจาก Nightshade จะสังเกตเห็นได้ชัดกว่าในงานศิลปะที่มีสีเรียบและพื้นหลังนุ่มนวล
• เช่นเดียวกับการโจมตีหรือการป้องกันด้านความปลอดภัย Nightshade ไม่น่าจะเป็นหลักฐานที่ใช้ได้ในระยะยาวในอนาคต
• Nightshade ถูกออกแบบให้ทำงานได้โดยไม่ต้องเชื่อมต่อเครือข่าย ดังนั้นข้อมูลหรือผลงานศิลปะจะไม่ถูกส่งไปยังเราหรือผู้อื่น

Nightshade และ WebGlaze

• Nightshade v1.0 ถูกออกแบบให้เป็นเครื่องมือแบบสแตนด์อโลน และไม่ได้มีฟีเจอร์ป้องกันการเลียนแบบแบบเดียวกับ Glaze
• ขณะนี้กำลังทดสอบว่า Nightshade และ Glaze ทำงานร่วมกันอย่างไร และเมื่อพร้อมแล้วมีแผนจะเปิดตัว Nightshade เป็นฟีเจอร์เสริมใน WebGlaze

ความเห็นของ GN⁺

• Nightshade เป็นเครื่องมือที่สร้างสรรค์ซึ่งช่วยให้ผู้สร้างสรรค์ปกป้องลิขสิทธิ์ของตนเอง และส่งสัญญาณเตือนไปยังผู้ฝึกโมเดล AI ที่นำภาพไปใช้โดยไม่ได้รับอนุญาต
• เครื่องมือนี้อาจส่งผลเชิงบวกต่อระบบนิเวศศิลปะดิจิทัล ด้วยการยับยั้งการใช้งานผลงานสร้างสรรค์โดยไม่ได้รับอนุญาต และส่งเสริมการทำสัญญาไลเซนส์กับเจ้าของลิขสิทธิ์
• การผสาน Nightshade และ Glaze มอบวิธีใหม่ให้ศิลปินสามารถแชร์ผลงานของตนบนออนไลน์ได้อย่างปลอดภัยมากขึ้น

[GN⁺]

ความคิดเห็นบน Hacker News

• ลิงก์บทความ: arXiv:2310.13828
  • บทความนี้ดูเหมือนจะเพิ่มอาร์ติแฟกต์ในระดับที่ศิลปินจำนวนมากยอมรับได้ยาก
• เทคโนโลยีนี้
  • a) แทบจะใช้งานได้เฉพาะกับกระบวนการฝึกของเจเนอเรชันก่อนหน้า
  • b) ใช้งานไม่ได้เลยกับกระบวนการฝึกสมัยใหม่ (เช่น GPT-4V, LLaVA, การติดป้ายกำกับด้วย BLIP2)
  • c) ต่อให้มีประสิทธิภาพและได้รับความนิยม ก็ยังน่าจะรับมือได้ง่าย
  • งานก่อนหน้าของผู้เขียนอย่าง Glaze ก็ดูเหมือนจะไม่มีประสิทธิภาพเช่นกัน และผลลัพธ์อาจถูกประเมินสูงเกินจริงเมื่อเทียบกับความเป็นจริง
• เครื่องมือเหล่านี้ไม่น่าจะประสบความสำเร็จในตลาด และมีวิธีหลบเลี่ยงได้ทันทีโดยไม่กระทบต่อการรับรู้ของมนุษย์
  • หากศิลปินหรือผู้อื่นต้องการป้องกันไม่ให้นำผลงานของมนุษย์ไปใช้ฝึก ก็ควรต้องใช้มาตรการทางกฎหมาย
  • แต่นั่นก็ไม่ใช่ทางแก้ที่สมบูรณ์ และอาจยิ่งเร่งการพัฒนาเครือข่ายการฝึกแบบกระจายศูนย์
• สิ่งนี้ดูเป็น "การแข่งขันทางอาวุธ" หรือ "เกมแมวจับหนู" ที่ไร้ความหมาย
  • คนที่ไม่สนใจความคิดเห็นของศิลปินสามารถทำลายการเปลี่ยนแปลงอันละเอียดอ่อนของอัลกอริทึม Nightshade ได้ด้วยการโพสต์โปรเซสภาพ
  • ในอนาคต ศาลอาจเข้าข้างศิลปินจากแรงกดดันทางสังคม และศิลปินอาจโต้แย้งภาพที่สร้างขึ้นซึ่ง "คล้ายเกินไป" กับสไตล์ของตนได้
  • หรือไม่ศิลปินก็อาจเลิกสร้างรายได้จากตัวภาพเอง แล้วหันไปมุ่งเน้นการสร้างผลงานทางกายภาพเท่านั้น
• ผ่านการทดลอง fine-tune Stable Diffusion XL ด้วยภาพที่ไม่ดี/ไม่สม่ำเสมอ แสดงให้เห็นว่าการใช้ภาพเหล่านี้เป็น negative prompt อาจทำให้โมเดลสร้างภาพที่ดีขึ้นได้
  • การสร้างชุดข้อมูลลักษณะนี้อาจย้อนแย้งด้วยการช่วยพัฒนาโมเดลศิลปะ Generative AI ให้ดีขึ้น
• ต้องการให้มีการเก็บค่าธรรมเนียมแบบค่อยเป็นค่อยไปสำหรับการใช้ลิขสิทธิ์/ทรัพย์สินทางปัญญา/สิทธิบัตร
  • ตัวอย่างเช่น ต้องการให้มีค่าธรรมเนียมใบอนุญาตที่ผูกกับสัดส่วนรายได้
  • ต้องการให้ระยะเวลาลิขสิทธิ์เป็น 0 ปีหลังเสียชีวิตหากบุคคลเป็นเจ้าของ และสูงสุด 20-30 ปีหากบริษัทเป็นเจ้าของ
  • ต้องการกำหนดค่าปรับบริษัทให้สูงมากในกรณีไม่แจ้งการใช้งาน/ไม่ชำระค่าธรรมเนียม เพื่อป้องกันการขโมย
• ชี้ให้เห็นความย้อนแย้งระหว่างการที่ศิลปินดูผลงานของศิลปินคนอื่นเพื่อเรียนรู้สไตล์ต่าง ๆ กับการต่อต้านที่ AI เรียนรู้สไตล์จากผลงานของพวกเขา
• สิ่งนี้บั่นทอนแนวคิดเรื่อง 'ความถูกต้องของข้อมูล' และยอมรับว่าเป็นเกมโจมตีและป้องกันที่ไม่สิ้นสุด
• ในไม่ช้า ผู้คนจำนวนมากจะสามารถสร้างงานศิลปะคุณภาพสูงได้อย่างง่ายดาย และนี่เป็นแนวโน้มที่น่าตื่นเต้นมาก