Nightshade: เครื่องมือเชิงรุกสำหรับศิลปินเพื่อต่อต้านตัวสร้างงานศิลปะ AI
(nightshade.cs.uchicago.edu)- Nightshade เป็นเครื่องมือที่รับมือกับสถานการณ์ที่รูปภาพออนไลน์ถูกนำไปใช้ฝึก generative AI โดยไม่ได้รับความยินยอม ด้วยการเปลี่ยนผลงานให้เป็น poison sample ที่ไม่เหมาะกับการฝึกโมเดล
- รายการ opt-out และคำสั่ง do-not-scrape/robots.txt นั้นตรวจสอบและบังคับใช้ได้ยาก อีกทั้งยังยากที่จะระบุตัวผู้ละเมิดด้วยความมั่นใจสูง ทำให้ผู้สร้างสรรค์ขาดเครื่องมือควบคุมที่ใช้ได้จริง
- รูปภาพที่ถูกแปลงจะดูไม่ต่างจากต้นฉบับมากนักในสายตามนุษย์ แต่จะทำให้โมเดล AI เรียนรู้องค์ประกอบที่แตกต่างออกไป และนำไปสู่ผลลัพธ์ที่คาดเดาได้ยาก
- หาก Glaze เป็นเครื่องมือป้องกันที่ช่วยหยุดการเลียนแบบสไตล์ของศิลปินรายบุคคล Nightshade ก็คือเครื่องมือโจมตีแบบเลือกใช้ที่เพิ่มต้นทุนการฝึกของโมเดลที่ scraping โดยไม่ได้รับความยินยอม
- ปัจจุบัน Nightshade v1.0 เป็นเครื่องมือแบบรันแยกต่างหาก และไม่ได้ให้การป้องกันการเลียนแบบเหมือน Glaze ดังนั้นไม่ควรใช้เดี่ยว ๆ กับผลงานที่กังวลเรื่องการเลียนแบบสไตล์
การรับมือกับการเก็บข้อมูลฝึกโดยไม่ได้รับความยินยอม
- โมเดล generative AI และผู้ฝึกโมเดลได้แสดงให้เห็นแล้วว่ามีความสามารถในการดาวน์โหลดคอนเทนต์ออนไลน์เพื่อใช้ฝึกโมเดล
- เจ้าของคอนเทนต์และผู้สร้างสรรค์แทบไม่มีเครื่องมือที่จะป้องกันไม่ให้ผลงานของตนถูกนำเข้าสู่โมเดล generative AI โดยขัดต่อเจตนาของตนเอง
- รายการ opt-out เคยถูกผู้ฝึกโมเดลในอดีตเพิกเฉย และสามารถถูกเพิกเฉยได้ง่ายโดยแทบไม่มีผลตามมา
- คำสั่ง do-not-scrape ก็ตรวจสอบและบังคับใช้ได้ยากเช่นกัน อีกทั้งยังยากที่จะระบุตัวผู้ละเมิดด้วยความมั่นใจสูง
วิธีการทำงานของ Nightshade
- Nightshade เปลี่ยนรูปภาพให้เป็น poison sample ที่ไม่เหมาะกับการฝึกโมเดล
- โมเดลที่นำรูปภาพแบบนี้ไปฝึกโดยไม่ได้รับความยินยอม อาจเรียนรู้พฤติกรรมที่คาดเดาไม่ได้และเบี่ยงเบนจากการทำงานที่คาดหวัง
- ตัวอย่างเช่น เมื่อขอรูป “วัวบินในอวกาศ” โมเดลอาจสร้างรูปกระเป๋าถือที่ลอยอยู่ในอวกาศแทน
- เป้าหมายไม่ใช่การทำให้โมเดลพังเสียเฉย ๆ แต่เป็นการเพิ่มต้นทุนของการฝึกด้วยข้อมูลที่ไม่ได้รับอนุญาต เพื่อให้การขอไลเซนส์รูปภาพจากผู้สร้างสรรค์กลายเป็นทางเลือกที่สมเหตุสมผลในทางปฏิบัติ
รูปภาพที่มนุษย์กับโมเดลมองเห็นต่างกัน
- Nightshade ทำงานคล้ายกับ Glaze แต่ไม่ใช่การป้องกันการเลียนแบบสไตล์ หากเป็นเครื่องมือโจมตีที่บิดเบือน feature representation ภายในโมเดลภาพ generative AI
- การแปลงถูกคำนวณด้วย multi-objective optimization ที่ลดการเปลี่ยนแปลงที่มองเห็นได้ของรูปต้นฉบับให้น้อยที่สุด
- ในสายตามนุษย์ รูปที่ถูก shaded จะดูคล้ายต้นฉบับโดยรวม แต่โมเดล AI อาจมองเห็นองค์ประกอบที่แตกต่างอย่างมากภายในรูป
- มนุษย์อาจเห็นรูปวัวในทุ่งหญ้าสีเขียวแทบเหมือนเดิม
- โมเดล AI อาจเห็นเป็นกระเป๋าสตางค์หนังใบใหญ่ที่วางอยู่บนสนามหญ้า
- หากฝึกด้วยรูป shaded ที่มีวัวอยู่มากพอ โมเดลอาจยิ่งมั่นใจขึ้นเรื่อย ๆ ว่าวัวมีหูหิ้วหนังสีน้ำตาล ช่องข้างเรียบ ๆ ซิป และโลโก้แบรนด์
ผลยังคงอยู่แม้ผ่านการดัดแปลงรูปภาพทั่วไป
- เอฟเฟกต์ของ Nightshade มี ความทนทาน ต่อการแก้ไขที่มักทำกับรูปภาพ
- แม้หลังจากการครอป การ resampling การบีบอัด การทำ pixel smoothing และการเติม noise แล้ว poison effect ก็ยังคงอยู่
- ต่อให้ถ่าย screenshot รูปที่แสดงบนมอนิเตอร์ หรือถ่ายเป็นภาพถ่าย เอฟเฟกต์ shade ก็ยังคงอยู่
- เนื่องจากนี่ไม่ใช่ watermark หรือ steganography ซึ่งเป็นข้อความที่ซ่อนอยู่ และไม่ได้เป็นวิธีที่แตกหักได้ง่าย
ความแตกต่างของบทบาทระหว่าง Nightshade กับ Glaze
- Glaze เป็นเครื่องมือป้องกันที่ช่วยให้ศิลปินรายบุคคลปกป้องตนเองจากการโจมตีแบบเลียนแบบสไตล์
- Nightshade เป็นเครื่องมือโจมตีที่ศิลปินใช้ร่วมกันเพื่อขัดขวางโมเดลที่ scraping รูปภาพโดยไม่ได้รับความยินยอม
- แนะนำให้ใช้ Glaze กับผลงานทุกชิ้นที่โพสต์ออนไลน์ เพื่อปกป้องตัวศิลปินเอง
- Nightshade เป็นฟีเจอร์แบบเลือกใช้เพื่อยับยั้งผู้ฝึกโมเดลที่ไร้จริยธรรม
- โดยอุดมคติ ศิลปินที่เผยแพร่ผลงานของตนทางออนไลน์ควรใช้ทั้ง Glaze และ Nightshade
- กำลังมีการพัฒนา release ที่รวมเครื่องมือทั้งสองเข้าด้วยกัน
ข้อควรระวังในการใช้งาน
- การเปลี่ยนแปลงที่ Nightshade สร้างขึ้นอาจมองเห็นได้ชัดกว่าในผลงานที่มี สีเรียบ และพื้นหลังที่เรียบเนียน
- เนื่องจาก Nightshade มีจุดประสงค์เพื่อขัดขวางโมเดล ระดับความเข้มต่ำหรือระดับ poison ต่ำจึงจะไม่ก่อผลลัพธ์เชิงลบต่อเจ้าของรูปภาพ
- มีการตั้งค่าความเข้มต่ำสำหรับผู้ใช้ที่ต้องการให้ความสำคัญกับคุณภาพเชิงภาพของรูปต้นฉบับ
- เช่นเดียวกับการโจมตีหรือการป้องกันด้านความปลอดภัย ไม่ควรมองว่า Nightshade จะยังใช้ได้ผลต่อเนื่องยาวนานไปในอนาคต
- ในฐานะเครื่องมือโจมตี Nightshade สามารถวิวัฒน์ได้ง่ายเพื่อรับมือกับมาตรการตอบโต้หรือการป้องกันที่อาจเกิดขึ้น
วิธีเผยแพร่และการประมวลผลข้อมูล
- เป้าหมายของ Nightshade คือการค้นพบและเรียนรู้สิ่งใหม่ผ่านงานวิจัย และสร้างผลกระทบเชิงบวกต่อโลก
- Nightshade ถูกออกแบบให้รันได้โดยไม่ต้องใช้เครือข่าย เช่นเดียวกับ Glaze
- ข้อมูลหรือผลงานจะไม่ถูกส่งไปยังทีม Nightshade หรือที่อื่นใด
- Nightshade v1.0 ถูกออกแบบเป็นเครื่องมือแบบรันแยกต่างหาก
- เวอร์ชันปัจจุบันไม่ได้ให้การป้องกันการเลียนแบบเหมือน Glaze จึงต้องระมัดระวังวิธีใช้งาน
- หากกังวลเรื่องการเลียนแบบสไตล์แม้เพียงเล็กน้อย ก็ไม่ควรโพสต์รูปผลงานที่ใช้เพียง Nightshade เท่านั้น
- กำลังทดสอบวิธีที่ Nightshade และ Glaze ทำงานร่วมกัน
- เมื่อพร้อมแล้ว Nightshade จะถูกปล่อยเป็น add-on ของ WebGlaze เพื่อให้ผู้ใช้ WebGlaze สามารถใช้ Nightshade และ Glaze กับรูปภาพเดียวกันได้ในครั้งเดียว
เอกสารวิชาการและข้อมูลอ้างอิง
- วิธีติดตั้ง รันและตั้งค่า รวมถึงลบ Nightshade สามารถดูได้ใน User guide
- ชื่อเอกสารวิชาการคือ Nightshade: Prompt-Specific Poisoning Attacks on Text-to-Image Generative Models
- ผู้เขียนคือ Shawn Shan, Wenxin Ding, Josephine Passananti, Haitao Zheng, Ben Y. Zhao
- เอกสารมีกำหนดเผยแพร่ใน 45th IEEE Symposium on Security and Privacy ที่ San Francisco ในเดือนพฤษภาคม 2024
- พรีพรินต์เผยแพร่ในเดือนกุมภาพันธ์ 2024 ที่ arxiv/2310.13828
1 ความคิดเห็น
ความคิดเห็นบน Hacker News
บทความวิจัยอยู่ที่นี่: https://arxiv.org/abs/2310.13828
วิธีนี้ดูเหมือนจะสร้าง artifact ในระดับที่ศิลปินจำนวนมากน่าจะยอมรับได้ยาก: https://twitter.com/sini4ka111/status/1748378223291912567
เท่าที่ได้ยินมา a) มันพอจะใช้ได้แค่กับขั้นตอนการฝึกของรุ่นก่อน ๆ b) ใช้ไม่ได้เลยกับขั้นตอนสมัยใหม่อย่าง GPT-4V, LLaVA หรือแม้แต่การติดป้ายกำกับด้วย BLIP2 และ c) ต่อให้ผลกระทบใหญ่ขึ้นและถูกใช้แพร่หลาย การรับมือก็ไม่ได้ยากนัก
งานก่อนหน้าของผู้เขียนอย่าง Glaze ก็ดูไม่ค่อยมีประสิทธิภาพนักเมื่อเทียบกับคำกล่าวอ้างที่เกินจริง ดังนั้นในเชิงวิชาการอาจน่าสนใจ แต่ในโลกจริงอาจเป็นกรณีของการโฆษณาผลลัพธ์ที่มีประโยชน์ใช้สอยต่ำเกินจริง
[1]: จาก /u/b3sn0w บน Reddit: https://imgur.com/cI7RLAq https://imgur.com/eqe3Dyn https://imgur.com/1BMASL4
การใส่ภาพเข้าไปใน GPT-4V, Stable Diffusion img2img ฯลฯ ไม่ใช่การฝึก AI และโมเดลก็ถูกตรึงไว้อย่างสมบูรณ์ ไม่เปลี่ยนแปลงเลย[0]
ตอนนี้ยังไม่รู้ว่ามีที่ไหนยังดึงภาพใหม่ ๆ ไปใช้ฝึกตัวสร้างภาพอยู่หรือไม่ ได้ยินมาว่า OpenAI หยุดการสแครปราวปี 2021 เพราะกังวลว่าจะฝึกซ้ำจากผลลัพธ์ของโมเดลตัวเอง[1] ส่วน Adobe Firefly อ้างว่าฝึกด้วยภาพจาก Adobe Stock แต่ไม่รู้ว่า Adobe ใช้จุดตัดเวลาของตัวเองเมื่อใด[2]
หากต้องการทำให้ GPT-4V หรือ Stable Diffusion สะดุดในขั้นตอนอนุมาน สิ่งที่ต้องใช้คือภาพเชิงปฏิปักษ์ ไม่แน่ใจว่าสามารถทำ adversarial training กับโมเดลที่ไม่มีค่าน้ำหนักได้หรือไม่ แต่เคยได้ยินว่าถ้าทำให้ทั่วไปพอกับหลายโมเดลอิสระ ก็สามารถทำให้พังได้พอสมควร[3]
[0] ความสามารถที่ดูเหมือนการเรียนรู้ของตัวสร้างข้อความมาจากหน้าต่างบริบท แต่นั่นเป็นเพียงความจำระยะสั้นประมาณ 2048 โทเคน และไม่มีความสามารถด้านความจำอื่น
[1] สถานการณ์แบบนี้ถูกเรียกเล่น ๆ ว่า Habsburg AI โมเดลเรียนรู้จากอคติของตัวเองและเสริมมันให้กลายเป็นอคติที่แรงขึ้น พร้อมกับลืมส่วนที่เหลือไป
[2] ถ้าตัวสร้างภาพ AI เพียงอย่างเดียวที่ Nightshade ทำร้ายได้คือเครื่องมือที่อย่างน้อยก็พยายามทำอย่างมีจริยธรรมอยู่บ้าง ก็คงเป็นเรื่องย้อนแย้งเป็นพิเศษ
[3] ในกรณีสุดขั้ว ภาพเชิงปฏิปักษ์หลอกมนุษย์ได้ด้วย。ただงานวิจัยแบบนั้นแสดงภาพเพียงช่วงเวลาสั้น ๆ และแนวคิดคือการมองเห็นช่วงสั้นคล้ายกับโครงข่ายประสาทแบบ feedforward ที่ไม่มีเส้นทางการคำนวณวนกลับ หากดูนานขึ้น ก็จะเห็นชัดว่าเป็นการแก้ภาพของวัตถุหนึ่งให้ดูเหมือนอีกอย่าง
การลดสัญญาณรบกวนก็น่าจะเป็นขั้นตอนเตรียมข้อมูลที่ดีอยู่แล้ว
คนฝั่ง LLM ดูไม่ได้มีความตั้งใจจริงที่จะจ่ายเงินอย่างถูกต้อง และในสรุปแผนธุรกิจก็แทบจะเขียนไว้ว่า “ขโมยทุกอย่างที่หยิบฉวยได้”
ตลาดสำหรับ ผลิตภัณฑ์หลอกลวง แบบนี้ใหญ่มาก ตราบใดที่เงื่อนไขคือศิลปะต้องมองเห็นได้ด้วยตามนุษย์ เครื่องมือแบบนี้ไม่มีทางชนะ และต่อให้ใช้ได้จริง โดยหลักการแล้วก็จะถูกเลี่ยงได้ทันที
วิธีที่เป็นจริงในการห้ามไม่ให้โมเดลเรียนรู้จากผลงานของมนุษย์ ไม่ว่าจะเป็นของศิลปินหรือใครก็ตาม มีเพียงกฎหมาย กล่าวคือใช้อำนาจบังคับที่รัฐหนุนหลังเพื่อยับยั้งสิ่งที่ไม่ต้องการ สิ่งนี้ก็ไม่สมบูรณ์แบบเช่นกัน และอาจกลับยิ่งสร้างแรงจูงใจให้พัฒนาเครือข่ายฝึกแบบกระจายศูนย์เพื่อ “ฟอก” การละเมิดลิขสิทธิ์ที่ลงโทษได้
สุดท้ายอย่างน้อยที่สุดก็เป็นการสู้ที่แพ้แน่ และในกรณีแย่ที่สุดก็เป็นการสู้ที่โง่เขลา เราไม่สามารถห้ามคอมพิวเตอร์สังเกตภาพที่มนุษย์โพสต์ให้ดูได้อย่างเสรีได้ ดังนั้นโมเดลแบบนี้สร้างได้ง่าย และสุดท้ายก็จะถูกสร้างขึ้นอยู่ดี
นอกจากกฎหมายก็ยังมีวิธีอื่นอยู่ คือเปิดให้ชมผลงานแบบส่วนตัวเท่านั้น และไม่ให้ผู้ชมในสถานที่นำอุปกรณ์บันทึกเข้าไป อาจฟังดูพิลึก แต่เป็นแนวปฏิบัติที่พบได้ทั่วไปในกิจกรรมอย่างการมีเพศสัมพันธ์
แย่ที่สุดก็เป็นแค่การเสียเวลา ไม่ใช่สถานการณ์ที่มีใครถูกหลอกให้ซื้อ
ตอนนี้วิธีเดียวที่ศิลปินจะอยู่รอดได้คือมีสไตล์เฉพาะตัวของตัวเอง และอย่าเอามันขึ้นออนไลน์เด็ดขาด
เมื่อไม่กี่เดือนก่อน ผมทำ proof of concept ว่าเมื่อ fine-tune Stable Diffusion XL ด้วยภาพที่ผิดพลาดหรือไม่สอดคล้องกัน แล้วใช้ภาพเหล่านั้นเป็นพรอมป์เชิงลบ กลับสามารถสร้างภาพที่ “ดีกว่า” ได้: https://news.ycombinator.com/item?id=37211519
กล่าวคือเป็นการระบุบริเวณมิติสูงใน latent space ที่การสร้างของโมเดลควรหลีกเลี่ยง ความเป็นไปได้ที่การสนับสนุนให้สร้างชุดข้อมูลที่ถูกดัดแปลงจำนวนมากจะย้อนกลับมาช่วยปรับปรุงโมเดล AI สร้างงานศิลป์นั้นไม่ใช่ศูนย์ เพราะโมเดลอาจเรียนรู้ที่จะจดจำข้อมูลที่ถูกดัดแปลงและทำให้กระบวนการฝึกเลี่ยงมันได้
เรื่องนี้ดูเหมือนเป็น การแข่งขันสะสมอาวุธ หรือเกมแมวจับหนูที่ค่อนข้างไร้ความหมาย ถ้าคนที่ต้องการฝึกโมเดลสร้างภาพไม่ได้สนใจความคิดของศิลปินเลย ก็แค่ทำ post-processing พื้นฐานที่พอจะทำลายการเปลี่ยนแปลงที่อัลกอริทึม Nightshade ปรับแต่งไว้อย่างละเอียดมากก็พอ
เช่น ลอง resampling ให้เป็นความละเอียดต่ำลงเล็กน้อย แล้วขยายกลับด้วยโมเดล super-resolution ตัวอื่น ก็น่าจะทำลายการปรับแต่งจิ๋ว ๆ เหล่านี้ได้โดยที่สายตามนุษย์แทบไม่เห็นความแตกต่าง
ผมคิดว่าในอนาคต ศาลมีแนวโน้มจะเข้าข้างศิลปินเป็นส่วนใหญ่เพราะแรงกดดันทางสังคม ศิลปินอาจหยิบภาพที่พบมาเป็นประเด็น และให้โมเดล machine learning อีกตัวตัดสินได้อย่างรวดเร็วว่าภาพที่สร้างขึ้นนั้น “คล้ายเกินไป” กับสไตล์ของศิลปินคนนั้นหรือไม่ แน่นอนว่าสไตล์นั้นต้องแตกต่างจากคนอื่นมากพอจึงจะเป็นข้อเรียกร้องทางกฎหมายที่สมเหตุสมผลได้
หรือไม่ศิลปินอาจยอมเลิกสร้างรายได้จากตัวภาพเอง แล้วหันไปโฟกัสกับการผลิตผลงานทางกายภาพแทน คล้ายกับที่นักดนตรีอินดี้ยุคนี้ทำเงินส่วนใหญ่จากทัวร์ การขาย merch ในสถานที่แสดง และ Patreon เมื่อการเปลี่ยนแปลงเชิงรากฐานขนาดใหญ่แบบนี้เกิดขึ้นอย่างรวดเร็ว การทำนายอนาคตก็ยากมากจริง ๆ
ในอนาคตแบบมองโลกในแง่ร้าย ผมคิดว่าอาจมี “ศิลปิน furry” เพิ่มขึ้น เช่นเดียวกับบิ๊กเทครายอื่น ๆ พื้นที่สำหรับผู้ใหญ่ 18+ น่าจะถูกผู้มีอำนาจหลายฝ่ายกีดกันอย่างแรง ดังนั้นงาน NSFW อาจได้รับการปกป้องจากความก้าวหน้าในระดับหนึ่ง และคนก็ต้องไปหาโมเดลใต้ดิน หรือกลับไปหาศิลปินอีกครั้ง
The Grateful Dead นำโมเดลนี้มาใช้ได้อย่างประณีตมาก และบางครั้งก็จงใจหลีกเลี่ยงการอ้างสิทธิ์ในทรัพย์สินทางปัญญาต่องานของตัวเอง เพราะเชื่อว่าการอ้างสิทธิ์แบบนั้นจะขัดขวางความสำเร็จ สุดท้ายพวกเขาทำให้แนวคิดสนับสนุนนี้เป็นรูปเป็นร่างอย่างเป็นทางการและตั้งชื่อว่า “The Electronic Frontier Foundation” การที่ EFF มาจากวัฒนธรรม deadhead ไม่ใช่เรื่องบังเอิญ
รวมถึงการที่ไม่มี OpenArt ที่เทียบได้กับ OpenSource ด้วย แน่นอนว่าผมรู้ว่ามีความต่างตรงที่ซอร์สโค้ดไม่ได้มีไว้สำหรับผู้ชมทั่วไป และถ้าต้องการก็ซ่อนได้ แต่ศิลปะไม่ใช่แบบนั้น แค่เป็นผลพลอยได้จากความคิดเรื่อง generative เฉย ๆ
ถ้าฝึกด้วยภาพเหล่านี้ ผมคิดว่าโมเดล AI น่าจะดีขึ้นจริง ๆ มากกว่าจะแย่ลง ศิลปินกำลังสร้างข้อมูลฝึกให้ฟรี ๆ ว่า noise แบบไหนไม่เปลี่ยนความหมายของภาพที่พวกเขาตั้งใจไว้
ในอนาคตอันใกล้ จะมีคนจำนวนมากจนน่าเหลือเชื่อที่สามารถสร้าง งานศิลป์คุณภาพสูง ได้ด้วยเครื่องมือสำเร็จรูปเท่านั้น
เป็นเรื่องที่น่าตื่นเต้นมาก การมอบพลังให้คนหลายพันล้านคนผสมสไตล์ที่ชอบ นำไปใช้กับวัตถุใหม่ ๆ และสร้างผลงานที่เป็นเอกลักษณ์และปรับให้เป็นส่วนตัวของตัวเองได้นั้น เป็นความสามารถที่ยอดเยี่ยมอย่างยิ่ง
แค่โมเดล AI กินคอนเทนต์ที่ AI สร้างเข้าไป โมเดลก็จะพังทลายเอง ดูเรื่อง model collapse ที่เกี่ยวข้องกับ generative AI ได้
ผมอยากให้มี ค่าธรรมเนียมแบบก้าวหน้า สำหรับการใช้ลิขสิทธิ์ ทรัพย์สินทางปัญญา และสิทธิบัตร และอยากให้รัฐบาลทั่วโลกร่วมมือกันและออกกฎหมาย บางทีอาจมีแนวทางที่ทำให้ใช้ผลงานได้ทั่วโลกแม้ไม่มีการอนุญาตครั้งแรกด้วยก็ได้ แต่ไม่ขอไปถึงเรื่องหลุดโลกแบบนั้น
ถ้ามีค่าธรรมเนียมไลเซนส์แบบปรับขยายได้ เช่น เป็นสัดส่วนตามรายได้ ก็น่าจะดี แม้จะมีปัญหาทางอ้อมว่าอัตรากำไรของแต่ละอุตสาหกรรมต่างกัน แต่ก็ยังดูยุติธรรมที่สุด
อยากให้ค่อย ๆ ลดระยะเวลาลิขสิทธิ์ลงทั่วโลก หรือเริ่มจาก EU ก่อน โดยลิขสิทธิ์ที่บุคคลถือครองหมดอายุทันทีเมื่อผู้เขียนเสียชีวิต และลิขสิทธิ์ที่บริษัทถือครองจำกัดสูงสุดที่ 20–30 ปี
บทลงโทษสำหรับบริษัทที่ไม่แจ้งการใช้งานหรือไม่จ่ายค่าธรรมเนียมควรสูงมาก เช่น 50% ของกำไรขั้นต้นทั้งปี หรือ 50% ของกำไรสุทธิ ต้องไม่ใช่แค่ตบข้อมือแล้วหนีรอดได้ง่าย ๆ แต่ต้องเป็นแรงจูงใจให้ไม่ขโมยตั้งแต่แรก
[*] หรือระยะเวลาที่สังคมเห็นว่าเหมาะสม
[**] จนกว่าการตรวจจับอัตโนมัติจะดีพอ ไม่ว่าจะดีหรือแย่ก็ตาม
ผมคิดว่าวิธีนี้จะอนุญาตให้ใช้งานส่วนบุคคล ส่งเสริมผู้เล่นหน้าใหม่ กระตุ้นนวัตกรรม และจูงใจให้ที่อย่าง OpenAI ประพฤติตัวดีขึ้นได้
การที่สิทธิหมดอายุไม่นานหลังเสียชีวิตมันรู้สึกไม่สบายใจ ระยะเวลาลิขสิทธิ์ที่ต่างกันมากตามอายุผู้เขียนก็แย่ และการที่ผลงานจำนวนมากยังมีลิขสิทธิ์ยาวเกินไปก็ไม่ดี
ลิขสิทธิ์หมดอายุระหว่างที่ผู้เขียนยังมีชีวิตอยู่ก็ไม่เป็นปัญหาเลย ทุกอย่างควรอยู่ที่ 20–30 ปีก็พอ
ดูจาก “ทางแก้” นี้ วงการศิลปะก็ดูเหมือนกำลังเข้าสู่เกมแมวจับหนูแบบที่ ตัวบล็อกโฆษณา ทำมาตลอด 10–20 ปีที่ผ่านมา
ผมยังรู้สึกว่าการตระเวนดูดภาพจากอินเทอร์เน็ตโดยไม่ได้รับความยินยอมเพื่อนำไปใช้กับ AI ทำเงินของตัวเองนั้นผิดอย่างชัดเจน หวังว่าจะมีวิธีปกป้องงานศิลปะที่เข้าถึงได้ง่ายขึ้น รวมถึงเสียงและรูปแบบอื่น ๆ ด้วย
คือทำให้โมเดลเสริมพยายามหลอกโมเดลหลัก เพื่อเพิ่มความทนทานต่อฟิลเตอร์แบบ Nightshade
บทความไม่ได้แสดงให้เห็นว่าวิธีนี้ทำให้ รายละเอียด ของภาพเสียหาย ดูแค่ภาพย่อของเปเปอร์อ้างอิงก็เป็นแบบนั้นแล้ว: https://arxiv.org/pdf/2310.13828.pdf
และอาจเป็นเพราะผมคิดตื้นไปก็ได้ แต่ดูเหมือนจะเลี่ยงได้ค่อนข้างง่ายด้วยฟิลเตอร์พรีโปรเซสซิงแบบเร็ว ๆ ผมไม่แน่ใจว่าการลบสัญญาณรบกวนแบบดั้งเดิมอย่างเดียวจะเพียงพอไหม แต่ในกรณีเลวร้ายที่สุดก็แค่รันการกระจายแบบ img2img ก็ได้