หลายองค์กรด้านความปลอดภัย AI กำลังพยายามทำให้โอเพนซอร์ส AI ที่มีอยู่ในปัจจุบันกลายเป็นสิ่งผิดกฎหมาย

 (1a3orn.com)
5 คะแนน โดย GN⁺ 2024-01-17 | 3 ความคิดเห็น | แชร์ทาง WhatsApp
  • มีการร้องเรียนในหมู่ผู้ใช้ LLM ว่าองค์กรด้านความปลอดภัย AI กำลังพยายามสั่งห้ามโอเพนซอร์ส LLM ที่พวกเขาใช้อยู่ แต่มีผู้โต้แย้งว่านี่เป็นเพียงข่าวลือที่แพร่กระจายผิด ๆ
  • อย่างไรก็ตาม ข้อโต้แย้งนี้ไม่เป็นความจริง ที่จริงแล้วองค์กรด้านความปลอดภัย AI จำนวนมากเคยสนับสนุน "ร่างกฎหมายที่จะทำให้การโอเพนซอร์สโมเดลที่มีอยู่ในปัจจุบันกลายเป็นความผิดทางอาญา"
  • ในบรรดาองค์กรเหล่านี้ บางแห่งมีเงินทุนหนาและเชื่อมโยงกับผู้กำหนดนโยบายมากขึ้นเรื่อย ๆ

ข้อเสนอร่างกฎหมายขององค์กรด้านความปลอดภัย AI

  • Center for AI Safety: องค์กรที่มีเงินทุนหนาและมุ่งเน้นการวิจัยกับการรณรงค์ด้านความปลอดภัย AI โดยในข้อเสนอด้านกฎระเบียบที่ยื่นต่อ NTIA ได้ให้นิยามของ "ระบบ AI ทรงพลัง" และเสนอข้อกำหนดที่มีผลเท่ากับการห้ามโอเพนซอร์สระบบเหล่านี้
  • Center for AI Policy: องค์กรล็อบบี้ที่ตั้งอยู่ในวอชิงตัน ดี.ซี. ซึ่งตามกฎที่เสนอในตอนแรก Llama-2 ที่เปิดตัวไปแล้วจะต้องอยู่ภายใต้การกำกับดูแลของหน่วยงานใหม่
  • Palisade Research: องค์กรไม่แสวงหากำไรที่มีเป้าหมายสาธิตความสามารถอันตรายอย่างเป็นรูปธรรมเพื่อให้คำแนะนำแก่ผู้กำหนดนโยบายและสาธารณชนเกี่ยวกับความเสี่ยงของ AI โดยได้เรียกร้องให้รัฐบาลสั่งระงับการเปิดตัว Llama 2
  • The Future Society: สถาบันวิจัยนโยบายที่มีเป้าหมายทำให้ AI สอดคล้องกับธรรมาภิบาลที่ดีขึ้น โดยได้เสนอข้อกำหนดที่เข้มงวดสำหรับ GPAI "Type 2" และระบุชัดว่าโมเดลโอเพนซอร์สไม่สามารถปฏิบัติตามได้

อิทธิพลขององค์กรด้านความปลอดภัย AI

  • องค์กรเหล่านี้เป็นเพียงบางส่วนเท่านั้นที่ได้ประกาศนโยบายหรือเป้าหมายของตนอย่างชัดเจนมาก
  • ยังมีองค์กรอื่นที่มีนโยบายไม่ชัดเจนนัก แต่สุดท้ายก็มีจุดยืนคัดค้านการโอเพนซอร์ส
  • หากองค์กรด้านความปลอดภัย AI สามารถผลักดันให้ร่างกฎหมายผ่านได้ตามที่พวกเขาเคยต้องการในอดีต โมเดลที่กำลังถูกใช้งานอย่างแพร่หลายในปัจจุบันก็คงถูกสั่งห้ามไปแล้ว
  • องค์กรเหล่านี้ยังคงหวังให้มาตรการลักษณะคล้ายกันผ่านเป็นกฎหมาย ขณะที่ขบวนการโอเพนซอร์ส AI ยังตามหลังกลุ่มเหล่านี้ในเชิงนิติบัญญัติ

ความเห็นของ GN⁺

  • ข้อเสนอขององค์กรด้านความปลอดภัย AI มีความเสี่ยงที่จะจำกัดการพัฒนาโอเพนซอร์ส AI และยิ่งเสริมความเป็นผูกขาดของบริษัทขนาดใหญ่
  • โอเพนซอร์ส AI มีความจำเป็นต่อการวิจัยและนวัตกรรม และการจำกัดสิ่งนี้อาจส่งผลลบต่อความก้าวหน้าทางเทคโนโลยี
  • บทความนี้แสดงให้เห็นว่าข้อจำกัดทางกฎหมายต่อโอเพนซอร์ส AI กำลังเกิดขึ้นอยู่ในปัจจุบัน และนี่เป็นประเด็นที่อาจส่งผลสำคัญต่อการทำให้เทคโนโลยี AI เป็นประชาธิปไตยและเข้าถึงได้มากขึ้น

บทความที่เกี่ยวข้อง

3 ความคิดเห็น

 
2024-01-17
[ความคิดเห็นนี้ถูกซ่อน]
 
kuroneko 2024-01-17

รู้สึกเหมือนเจอแบบนี้ทุกครั้งที่มีเทคโนโลยีใหม่ออกมา
 
GN⁺ 2024-01-17
ความเห็นจาก Hacker News
  • ผู้เชี่ยวชาญด้านความปลอดภัย AI ถูกวิจารณ์ว่าหน้าไหว้หลังหลอก หากทำตามสิ่งที่พวกเขาพูดจริง ก็ต้องเรียกร้องให้แบน AI ทั้งหมด ผลกระทบที่เป็นอันตรายของ AI เกิดขึ้นแล้วโดยไม่เกี่ยวว่ามีการเปิดเผย weights หรือไม่ โดยเฉพาะการปกปิดการลอกเลียนแล้วสแปมอินเทอร์เน็ตด้วยข้อความเดิมที่ถูกเรียบเรียงคำใหม่ในเชิงเทคนิค ซึ่งถูกชี้ว่าเป็นวิธีใช้ AI ที่ทำกำไรได้มากที่สุด
  • อีกเหตุผลหนึ่งที่การสิ้นสุดของโอเพนซอร์ส AI อาจใกล้เข้ามา คือหากข้อมูลฝึกถูกบังคับให้มีไลเซนส์ ก็อาจจบเกม หลายคนกำลังโกรธ OpenAI และ Midjourney เรื่องสิ่งที่โอเพนซอร์ส AI ต้องใช้เพื่อความอยู่รอด นั่นคือการ fine-tune หรือการฝึกจากศูนย์ เมื่อใดที่นักการเมืองหยิบเรื่องนี้ไปเป็นประเด็นเชิงแพลตฟอร์ม กฎหมายก็น่าจะถูกเขียนใหม่เพื่อกันไม่ให้บริษัทใช้ข้อมูลฝึกได้ตามอำเภอใจ
  • ความปลอดภัยมีหลายแบบ ตัวอย่างเช่น การปกป้องผลประโยชน์ก็เป็นความปลอดภัยรูปแบบหนึ่ง มีหลายองค์กรที่ดูเหมือนล็อบบี้ยิสต์ให้กับบริษัทเดิมในวงการ AI จำได้ว่าความพยายามบังคับใช้ไลเซนส์ของ Microsoft ก็เคยใช้ยุทธศาสตร์แบบนี้
  • การเอาแนวคิดหลายอย่างมารวมไว้ใต้คำว่า AI safety ไม่ได้ช่วยอะไร ตัวอย่างเช่น เอาต์พุตที่ "ปลอดภัย" และถูกต้องทางการเมือง, ไม่มีสื่อลามก, การชักจูงสังคม/การเลือกตั้งในวงกว้าง, หรือการที่มนุษยชาติอาจล่มสลายเพราะ AI ทรงพลัง ซึ่งทั้งสามอย่างนี้แทบไม่มีจุดร่วมกันเลย ทำให้ทุกการถกเถียงไม่มีประสิทธิภาพ
  • รัฐบาลรู้ว่า "AI" ที่ประชาชนทั่วไปสามารถใช้ได้โดยไม่มีการควบคุมและกำกับจากรัฐ จะลดทอนการขยายอำนาจของพวกเขา อย่างที่บทความแสดงให้เห็น "คลังสมอง" เหล่านี้กำลังปูทางไว้แล้วเพื่อป้องกันไม่ให้เกิดกรณีแบบ Llama 2 ซ้ำอีก สิ่งที่เราต้องการคือ AI Stallman และโมเดล AI แบบ FOSS ควรกลายเป็นขบวนการแบบเดียวกับที่เคยผลักดัน FOSS UNIX ในยุค 80 และ 90 แต่เมื่อมีคนเขียนถึง Stallman เรื่องนี้ เขากลับไม่สนใจหรือมีท่าทีแพ้ก่อนเริ่ม และแทบไม่สนแนวคิดเรื่อง GPL สำหรับ model weights เลย
  • ผู้เชี่ยวชาญด้านความปลอดภัย AI ส่วนใหญ่ดูเหมือนเชื่ออย่างแรงกล้าในสิ่งที่ตนเองเทศนา การที่พวกเขาถูกหรือไม่เป็นอีกประเด็นหนึ่ง อย่างไรก็ตาม เงินทุนสำหรับ AI safety เห็นได้ชัดว่ามีแรงจูงใจบางส่วนจาก regulatory capture หรือการกีดกันเพื่อคุ้มครองผลประโยชน์บางรูปแบบ
  • อย่าประเมินความต้องการที่ระบบควบคุมหรืออำนาจเดิมจะทำซ้ำและคงอยู่ตัวเองต่ำเกินไป
  • มีนักวิจัยด้านความปลอดภัย AI ที่มีเจตนาดีอยู่มาก แต่ก็เห็นความหน้าไหว้หลังหลอกด้านความปลอดภัยแบบ "AI มีได้สำหรับฉัน แต่เธอห้ามมี"
  • การทำไลเซนส์ข้อมูลจะเป็นคอขวดใหญ่
  • ผลลัพธ์ที่ไม่ถูกเซ็นเซอร์จะถูกใช้ในทางเสียเปรียบต่อโมเดลโอเพนซอร์สในคำถามที่อยู่ในพื้นที่มืดหรือเทา
  • ช่องว่างด้านพลังประมวลผลและขนาดโมเดลระหว่างโมเดลโอเพนซอร์สกับแบบปิดนั้นใหญ่มาก 7B เป็นระดับของโอเพนซอร์ส ส่วนแบบปิดจะใหญ่กว่านั้นมาก
  • การที่องค์กรเหล่านี้ตั้งชื่อค่า threshold ของ FLOP และใช้ MMLU เป็นเมตริกการประเมินที่เกี่ยวข้องนั้นค่อนข้างน่าขัน ดูเหมือนหลายองค์กรคัดลอกค่า threshold คล้ายกันมาแปะไว้ เมื่อค่าคอมพิวต์ถูกลง ค่า threshold เหล่านี้ก็จะถูกลงเรื่อย ๆ ด้วย เราอาจหันกลับมามองสิ่งนี้ว่าเป็นมุมมองที่คับแคบและสายตาสั้น