- SB-1047 มีเป้าหมายเพื่อการพัฒนา AI ที่ปลอดภัย แต่ข้อกำหนดปัจจุบันอาจสร้างภาระมากเกินไปให้กับนักพัฒนาโอเพนซอร์สและบริษัทขนาดเล็ก
- หากข้อจำกัดด้านการพัฒนาเข้มงวดขึ้น ความโปร่งใสและความร่วมมือจะลดลง ทำให้ความสามารถของชุมชนผู้เชี่ยวชาญวงกว้างในการค้นหาและแก้ไขปัญหาด้านความปลอดภัยอ่อนแอลงด้วย
- คำนิยามของ “covered model” กว้างมาก และข้อกำหนดเรื่องการหยุดใช้งานโดยบังคับ การรายงาน และการปฏิบัติตามแนวทาง อาจทำให้แม้แต่การพัฒนาโมเดลโอเพนซอร์สโดยสุจริตก็ชะงักลงได้
- ความเป็นไปได้ของการตรวจสอบ การขอคำปรึกษาทางกฎหมาย ค่าธรรมเนียม และบทลงโทษทางแพ่ง อาจกลายเป็นอุปสรรคในการเข้าสู่ตลาดและแรงกดดันให้สตาร์ทอัพและนักวิจัยต้องเซ็นเซอร์ตนเอง
- แนวทางที่ดีกว่าคือการกำกับดูแลการใช้งานที่มีความเสี่ยงสูงมากกว่าการพัฒนาโมเดลเอง พร้อมทั้งสนับสนุนโอเพนซอร์ส ความร่วมมือระหว่างภาคอุตสาหกรรม สถาบันการศึกษา และภาครัฐ รวมถึงการลงทุนด้านความเชี่ยวชาญ AI ของรัฐบาล
จุดยืนพื้นฐานต่อ SB-1047
- บทความนี้เป็นเอกสารที่ Jeremy ยื่นเป็นการส่วนตัวต่อผู้ร่างกฎหมาย SB-1047 ไม่ใช่จุดยืนอย่างเป็นทางการของ Answer.AI
- เป้าหมายของ SB-1047 ในการผลักดันการพัฒนา AI ที่ปลอดภัยและมั่นคงนั้นสามารถมองในแง่บวกได้
- ปัญหาคือข้อกำหนดบางส่วนของร่างกฎหมายฉบับปัจจุบันอาจส่งผลเชิงลบต่อนักพัฒนาโอเพนซอร์ส บริษัทขนาดเล็ก และนวัตกรรมของระบบนิเวศ AI โดยรวม
- หากการพัฒนาโอเพนซอร์สถูกจำกัด ความปลอดภัยของ AI ก็อาจอ่อนแอลงตามไปด้วย
- เมื่อความโปร่งใสและความร่วมมือลดลง ผู้เชี่ยวชาญจำนวนมากก็จะระบุและแก้ไขปัญหาความปลอดภัยที่อาจเกิดขึ้นได้ยากขึ้น
- หากการควบคุมกระจุกตัวอยู่กับผู้เล่นรายใหญ่เพียงไม่กี่ราย ความหลากหลายและความยืดหยุ่นจะลดลง และความเสี่ยงจากจุดล้มเหลวเพียงจุดเดียวรวมถึงความเสี่ยงเชิงระบบจะเพิ่มขึ้น
ความกังวลเรื่องการหดตัวของการพัฒนาโอเพนซอร์ส
- โอเพนซอร์สเป็นองค์ประกอบสำคัญที่ทำให้อุตสาหกรรมซอฟต์แวร์ของสหรัฐประสบความสำเร็จ และช่วยให้ผู้คนจำนวนมากเข้าถึงเครื่องมือซอฟต์แวร์สำคัญได้
- องค์ประกอบพื้นฐานจำนวนมากของ AI สมัยใหม่ก็มาจากโอเพนซอร์ส และงานวิจัยเชิงวิชาการรวมถึงงานวิจัยด้านความปลอดภัยและความมั่นคงก็แทบทั้งหมดดำเนินอยู่บนฐานของโอเพนซอร์ส
- หากโอเพนซอร์สอ่อนแอลง จะส่งผลกระทบต่อนักพัฒนา ผู้บริโภค ภาควิชาการ และสตาร์ทอัพหน้าใหม่ทั้งหมด
-
คำนิยาม “covered model” ที่กว้างเกินไป
- คำนิยาม “covered model” ในร่างกฎหมายมีความกว้างมาก จนอาจครอบคลุมโมเดลโอเพนซอร์สหลากหลายประเภทที่มีความเสี่ยงต่ำด้วย
- ผลที่ตามมาคือกิจกรรมของนักพัฒนาที่มีเจตนาดีซึ่งทำโครงการ AI ที่เป็นประโยชน์ อาจถูกทำให้กลายเป็นความผิดโดยไม่ได้ตั้งใจ
-
ปัญหาความรับผิดของเครื่องมืออเนกประสงค์
- โมเดล AI มีลักษณะใกล้เคียงกับซอฟต์แวร์อเนกประสงค์ที่ทำงานบนคอมพิวเตอร์ เช่น โปรแกรมประมวลผลคำ เครื่องคิดเลข หรือเว็บเบราว์เซอร์
- เช่นเดียวกับที่ผู้พัฒนาเว็บเบราว์เซอร์หรือเครื่องคิดเลขไม่สามารถป้องกันการนำไปใช้ในทางที่ผิดได้ทั้งหมด ผู้สร้างโมเดลก็ยากที่จะรับประกันได้ว่าโมเดลจะไม่ถูกใช้ในทางที่เป็นอันตรายโดยเด็ดขาด
- หากกำหนดความรับผิดลักษณะนี้กับผู้สร้างเครื่องมืออเนกประสงค์ ก็อาจทำให้ในทางปฏิบัติมีเพียงบริษัทใหญ่ที่มีทีมกฎหมายพร้อมเท่านั้นที่สามารถสร้างเครื่องมือได้
-
ภาระจากข้อกำหนดที่กำหนดกับนักพัฒนา
- ร่างกฎหมายกำหนดภาระต่อนักพัฒนา เช่น การหยุดใช้งานโดยบังคับ การรายงานอย่างกว้างขวาง และการปฏิบัติตาม “covered guidance” ที่อาจมีความกำกวม
- สำหรับนักพัฒนาโอเพนซอร์สที่มีทรัพยากรไม่พอจะรับมือขั้นตอนกำกับดูแลที่ซับซ้อน ข้อกำหนดเหล่านี้ยิ่งเป็นภาระหนัก
- ความกลัวต่อผลทางกฎหมายและขั้นตอนราชการอาจลดการมีส่วนร่วมในการพัฒนาโอเพนซอร์ส และบ่อนทำลายวัฒนธรรมความร่วมมือที่ขับเคลื่อนความก้าวหน้าของ AI
- เมื่อความโปร่งใสลดลง การค้นหาและแก้ไขปัญหาความปลอดภัยที่อาจเกิดขึ้นก็จะยิ่งยากขึ้น
ผลกระทบต่อบริษัทขนาดเล็กและระบบนิเวศการวิจัย
- กฎระเบียบที่เสนออาจสร้างอุปสรรคในการเข้าสู่ตลาดอย่างมากสำหรับบริษัทขนาดเล็กและสตาร์ทอัพที่ต้องการสร้างนวัตกรรมในด้าน AI
- ต้นทุนการปฏิบัติตามกฎระเบียบและความเสี่ยงทางกฎหมายอาจทำให้ผู้ก่อตั้งลังเลและจำกัดการแข่งขัน
- ผลลัพธ์คือความเร็วของนวัตกรรมอาจช้าลง และอำนาจอาจยิ่งกระจุกตัวอยู่กับบริษัทยักษ์ใหญ่เดิม
-
ต้นทุนและความเสี่ยงทางกฎหมาย
- ต้นทุนในการปฏิบัติตามกฎระเบียบ เช่น ค่าธรรมเนียม การตรวจสอบ และคำปรึกษาทางกฎหมาย เป็นภาระหนักสำหรับบริษัทขนาดเล็กและสตาร์ทอัพ
- โครงสร้างต้นทุนเช่นนี้อาจจำกัดการแข่งขัน ทำให้อำนาจกระจุกตัวอยู่กับบริษัทยักษ์ใหญ่เดิม และขัดขวางนวัตกรรม
-
การวิจัยที่หดตัวและการไหลออกของบุคลากร
- ความกลัวว่าจะไปกระตุ้นข้อกำหนดของร่างกฎหมายโดยไม่ตั้งใจ อาจนำไปสู่การเซ็นเซอร์ตนเองของนักวิจัยและนักพัฒนา
- หากหลีกเลี่ยงทิศทางการวิจัย AI ที่มีอนาคต ก็จะจำกัดความก้าวหน้าทางวิทยาศาสตร์และศักยภาพของ AI ในการแก้ปัญหาสังคม
- สภาพแวดล้อมที่จำกัดอาจผลักดันให้นักวิจัยและนักพัฒนา AI ที่มีความสามารถย้ายออกนอกแคลิฟอร์เนีย
- สิ่งนี้อาจสร้างความเสียหายต่อเศรษฐกิจของแคลิฟอร์เนียและทำให้ความเป็นผู้นำด้านนวัตกรรม AI อ่อนแอลง
ผลกระทบต่อแคลิฟอร์เนียและนวัตกรรม AI ของสหรัฐ
- แคลิฟอร์เนียมีบทบาทสำคัญในการขับเคลื่อนนวัตกรรมของสหรัฐ โดยเฉพาะในภาคเทคโนโลยี
- หาก SB-1047 สร้างภาระมากเกินไปต่อการพัฒนา AI ความเป็นผู้นำของแคลิฟอร์เนียในสาขาหลักนี้อาจอ่อนแอลง
- ผลกระทบดังกล่าวอาจขยายไปทั่วสหรัฐ และทำให้ความก้าวหน้าโดยรวมของการวิจัยและพัฒนา AI ชะลอลง
ทางเลือกที่เสนอ
- จำเป็นต้องมีแนวทางที่มุ่งเน้นไปที่แอปพลิเคชัน AI และความเสี่ยงที่เกิดขึ้นจริง มากกว่ากำกับดูแลตัวการพัฒนาโมเดล AI เอง
-
สนับสนุนการพัฒนาโอเพนซอร์ส
- การส่งเสริมการพัฒนาแบบโอเพนซอร์สของโมเดล AI จะช่วยเพิ่มความร่วมมือและความโปร่งใส และสร้างระบบนิเวศ AI ที่หลากหลายและยืดหยุ่นมากขึ้น
-
มุ่งเน้นการกำกับดูแลการใช้งานมากกว่าการพัฒนา
- จุดเน้นของกฎระเบียบควรอยู่ที่วิธีการใช้งาน AI ไม่ใช่การพัฒนาโมเดล AI
- โดยเฉพาะควรมุ่งที่แอปพลิเคชันซึ่งก่อความเสี่ยงสูงต่อความปลอดภัยสาธารณะและความมั่นคง
- หากกำกับดูแลการใช้ AI ในพื้นที่ที่มีโอกาสสร้างความเสียหายสูง เช่น การแพทย์ กระบวนการยุติธรรมทางอาญา และโครงสร้างพื้นฐานสำคัญ ก็จะสามารถกำหนดความรับผิดชอบต่อการใช้งานที่เป็นอันตรายได้ พร้อมกับให้เทคโนโลยี AI เดินหน้าต่อไป
-
ลงทุนในความโปร่งใส ความร่วมมือ และความเชี่ยวชาญ
- ความร่วมมือระหว่างภาคอุตสาหกรรม ภาควิชาการ และภาครัฐ สามารถช่วยส่งเสริมการพัฒนาและการนำแนวปฏิบัติที่ดีสำหรับการพัฒนา AI อย่างมีความรับผิดชอบมาใช้
- จำเป็นต้องมีทั้งการจัดทำมาตรฐานอุตสาหกรรม การส่งเสริมการพัฒนาโอเพนซอร์ส และการลงทุนในงานวิจัยด้านความปลอดภัยของ AI
- หากจัดสรรทรัพยากรให้หน่วยงานภาครัฐมีความเชี่ยวชาญด้าน AI ก็จะสามารถติดตามและรับมือกับความเสี่ยงที่อาจเกิดขึ้นได้อย่างมีประสิทธิภาพมากขึ้น
- แนวทางนี้จะทำให้เกิดกฎระเบียบ AI ที่ละเอียดรอบคอบยิ่งขึ้นและสร้างสมดุลระหว่างความปลอดภัยกับนวัตกรรมได้
ข้อกำหนดเฉพาะที่น่ากังวล
- Section 22602 (f): คำนิยาม “covered model” กว้างเกินไปและอาจครอบคลุมโมเดลโอเพนซอร์สหลากหลายประเภท
- Section 22603 (b): ข้อกำหนดที่กำหนดกับนักพัฒนาหนักเกินไปและอาจทำให้การพัฒนาโอเพนซอร์สหดตัว
- Section 22606 (a): ความเป็นไปได้ของบทลงโทษทางแพ่งอาจสร้างผลกระทบเชิงเย็นชาต่อการวิจัยและนวัตกรรม
- Section 11547.6 (c)(11): อำนาจในการเรียกเก็บค่าธรรมเนียมอาจสร้างอุปสรรคในการเข้าสู่ตลาดสำหรับบริษัทขนาดเล็ก
1 ความคิดเห็น
ความคิดเห็นจาก Hacker News
ผู้สร้างโมเดลไม่สามารถรับประกันได้ว่าโมเดลจะไม่ถูกนำไปใช้ในทางที่เป็นอันตรายอย่างเด็ดขาด และนักพัฒนาเว็บเบราว์เซอร์ เครื่องคิดเลข หรือโปรแกรมประมวลผลคำก็เช่นเดียวกัน
หากโยนความรับผิดให้ผู้สร้างเครื่องมืออเนกประสงค์เช่นนี้ ในทางปฏิบัติก็จะทำให้ไม่มีใครสร้างเครื่องมือแบบนี้ได้ นอกจากบริษัทใหญ่ที่มีทีมกฎหมายเพียงพอ การรับประกันว่าเทคโนโลยีจะไม่ถูกใช้เพื่อ “วัตถุประสงค์ที่เป็นอันตราย” แทบเป็นไปไม่ได้ และข้อกำหนดแบบนี้น่าจะกลายเป็นอีกหนึ่งกำแพงที่กันผู้เล่นนอกบริษัทใหญ่ไม่ให้เข้ามามีส่วนร่วมในการพัฒนา LLM
ไม่ได้ต้องรับผิดชอบต่อเหตุการณ์ด้านความปลอดภัยเอง แค่ต้องรายงานเท่านั้น แม้อาจยุ่งยากอยู่บ้าง แต่โดยรวมก็ดูสมเหตุสมผลทีเดียว
แม้โมเดลสมรรถนะสูงจะถูกใช้ทำสิ่งไม่ดี หรือแม้แต่ก่อความเสียหายระดับหายนะ ก็ไม่ได้หมายความว่าจะต้องรับผิดโดยอัตโนมัติ ประเด็นสำคัญคือได้ใช้มาตรการป้องกันที่สมเหตุสมผลหรือไม่ ที่จริงอาจใช้แนวทางความรับผิดเด็ดขาดที่ให้รับผิดชอบต่อความเสียหายระดับหายนะไม่ว่าผู้พัฒนาจะประมาทหรือไม่ก็ได้ แต่ร่างกฎหมายนี้ไม่ได้ทำเช่นนั้น
โดยรวมแล้ว หากโมเดลสามารถก่อความเสียหายระดับหายนะได้ แม้โมเดลปัจจุบันจะยังไม่เข้าข่าย แต่โมเดลในอนาคตอาจเข้าข่ายได้ ดังนั้นเจตนาคือไม่ควรเผยแพร่ในรูปแบบที่คาดการณ์ได้ว่าจะก่อความเสียหายเช่นนั้น จึงถือว่าค่อนข้างสมเหตุสมผล
หากอยากรู้รายละเอียดของร่างกฎหมาย แนะนำบทความละเอียดของ Zvi โดยส่วนตัวมองว่าเป็นข้อเสนอที่ค่อนข้างแคบและมุ่งเน้นความเสี่ยงที่ร้ายแรงที่สุด เช่น แคบกว่า EU AI Act มาก: https://thezvi.substack.com/p/on-the-proposed-california-sb-...
มิฉะนั้นก็ต้องวิจารณ์การปิดกั้นงานวิจัยสารชีวภาพแบบโอเพนซอร์ส หัวรบนิวเคลียร์แบบโอเพนซอร์ส และโปรโตคอลโคลนนิงมนุษย์แบบโอเพนซอร์สไปพร้อมกันด้วย สิ่งเหล่านี้ล้วนเป็นเทคโนโลยีสองทาง และในเชิงวัตถุวิสัยก็เป็นกลางทางศีลธรรม
เหมือนกับที่เราไม่อนุญาตให้ขายระเบิดมือที่หัวมุมถนน ท่าทีที่พยายามหนีความรับผิดเป็นหนึ่งในสิ่งที่ไม่ชอบที่สุดในบริษัทเทคโนโลยีขนาดใหญ่
สิ่งนี้อาจครอบคลุม AI สำหรับการพัฒนายาใหม่และวัสดุศาสตร์, AI สำหรับจัดการโครงข่ายไฟฟ้าและทราฟฟิกบรอดแบนด์, AI สำหรับบริการการเงินและการแพทย์ เป็นต้น ส่วนฝั่งอุตสาหกรรมการทหาร หากเกี่ยวข้องเฉพาะสัญญาของรัฐบาลกลาง กฎหมายนี้อาจแตะต้องไม่ได้เลย การพัฒนา AI ทางทหารแบบลับดูบ้าบิ่น และอดคิดไม่ได้ว่าไม่เคยดู War Games กันหรือไง
https://technologymagazine.com/top10/top-10-military-technol...
อย่างน้อยถ้าเป็นโอเพนซอร์ส ความสามารถก็จะปรากฏให้เห็นได้ทันทีมากกว่า
ดูเหมือนสถานการณ์จะบ้าคลั่ง เพราะภาคการเมืองกำลังเล็งเป้าAI โอเพนซอร์สอย่างหนักมาก
Soros กล่าวว่าการผสานกันของโครงการ AI ภาคธุรกิจกับโครงการ AI ภาครัฐ ก่อให้เกิดภัยคุกคามที่ทรงพลังยิ่งกว่าเผด็จการยุคสงครามเย็นที่ห่างไกลจากนวัตกรรมของบริษัทเอกชนเสียอีก เนื้อหาคือ “การรวมกันของระบอบกดขี่กับการผูกขาดด้าน IT ทำให้ระบอบเหล่านั้นมีความได้เปรียบโดยฝังอยู่ในตัวเหนือสังคมเปิด พวกเขาก่อภัยคุกคามถึงชีวิตต่อสังคมเปิด”
https://www.wired.com/story/mortal-danger-chinas-push-into-a...
แทบทุกฝ่ายที่ต้องการอิทธิพลระดับโลกต่างน้ำลายไหลอยากได้ AI กันทั้งนั้น ถึงขั้นกำลังคิดอย่างจริงจังว่าถ้า Mac Studio 512GB ออกมา ควรซื้อมาเพื่อรันโมเดล llama3 ขนาดใหญ่ที่อาจถูกแบนในไม่ช้านี้หรือไม่
นักลงทุนหรือผู้ได้ประโยชน์ของบริษัทอย่าง OpenAI อาจมีความสัมพันธ์ใกล้ชิดกับนักการเมือง เป็นไปได้สูงว่าจะไม่มีสายสัมพันธ์โดยตรง และพวกเขาก็น่าจะชำนาญมากแล้วในการซ่อนความเชื่อมโยงเหล่านั้นพร้อมทำให้สามารถปฏิเสธได้อย่างน่าเชื่อถือ
ตอนนี้ยังเป็นช่วงเริ่มต้นจริง ๆ หากแวดวงวิชาการไม่ได้ล้มเหลวครั้งใหญ่ อีกประมาณ 5 ปี คลัสเตอร์วิจัยของอาจารย์ก็น่าจะฝึกโมเดลระดับแนวหน้าปัจจุบันได้ และอาจไม่ได้จำกัดอยู่แค่ในมหาวิทยาลัย R1 ด้วย
ระยะยาวแล้ว ดูเหมือนว่าใครก็ตามที่เข้าถึงข้อความปริมาณเท่าห้องสมุดหนึ่งแห่งได้ ก็น่าจะสร้างโมเดลที่ใช้งานได้พอสมควร ไม่มีอะไรเป็นเวทมนตร์ในสมองของเรา ดังนั้นสักวันหนึ่งก็น่าจะสอนคอมพิวเตอร์ให้อ่านและเขียนได้ด้วยจำนวนหนังสือประมาณเดียวกับที่ต้องใช้สอนมนุษย์ ต่อให้มันโง่กว่าเรา 10 เท่า คนอเมริกันทั่วไปอ่านหนังสือหลายร้อยเล่มตลอดชีวิต แล้วจะให้ต้องขออนุญาตเพื่อเป็นเจ้าของอีบุ๊กมากกว่าหลายพันเล่มหรืออย่างไร
แม้จะเป็นเวอร์ชันที่อ่อนกว่า ไม่มีความเป็นอิสระเลย และเป็นเพียงผลลัพธ์จากพรอมป์ทั้งหมด หากมันมอบสมรรถนะตามที่สัญญาไว้จริง ก็จะสร้างความไร้เสถียรภาพอย่างรุนแรง เราไม่ได้เตรียมพร้อมเลยสำหรับโลกที่ทุกสิ่งปลอมทำได้ด้วยต้นทุนเกือบเป็นศูนย์
ในทางกลับกัน ก็มีโอกาสสูงที่จะออกมาเป็นกฎที่แปลกมากแบบ ITAR เดิม ซึ่งแทบไม่เกี่ยวข้องกับความปลอดภัยจริง
ถูกกว่า Mac Studio มาก ผมซื้อ R820 มาในราคาไม่กี่ร้อยดอลลาร์ มี RAM 256GB และยังมีช่องให้ขยายเพิ่มได้อีก
หากเสริมในส่วนที่ไม่ได้อยู่ในบล็อก: เมื่อวันที่ 7 กุมภาพันธ์ 2024 วุฒิสมาชิก Scott Wiener ได้เสนอร่างกฎหมาย SB-1047 ต่อสภานิติบัญญัติรัฐแคลิฟอร์เนีย
ชื่ออย่างเป็นทางการคือ Safe and Secure Innovation for Frontier Artificial Intelligence Systems Act เป็นร่างกฎหมายที่ต้องการกำกับดูแลการพัฒนาและการใช้งานโมเดล AI ขั้นสูง กำหนดให้นักพัฒนาต้องตัดสินด้านความปลอดภัยบางประการก่อนฝึกโมเดล AI ปฏิบัติตามข้อกำหนดด้านความปลอดภัยหลายรายการ และรายงานเหตุการณ์ด้านความปลอดภัยของ AI นอกจากนี้ยังตั้ง Frontier Model Division ภายใน Department of Technology เพื่อกำกับดูแล และนำค่าปรับทางแพ่งมาใช้เมื่อมีการฝ่าฝืน
https://www.dlapiper.com/en/insights/publications/2024/02/ca...
https://www.opensecrets.org/orgs/openai/summary?id=D00008425...
https://www.sfgate.com/politics/article/fentanyl-dealers-in-...
กังวลว่ากฎระเบียบแบบนี้จะสร้าง ผลล็อกอิน ที่เอื้อประโยชน์ต่อบริษัท AI ชั้นนำเดิม และทำให้ผู้เล่นรายใหม่เข้าสู่ตลาดไม่ได้
ถ้าไม่ใช่ทีมที่บ้าสุด ๆ ถึงขั้นระดมทุนได้ราว 1 พันล้านดอลลาร์ตั้งแต่แรก ก็ไม่มีโอกาสแข่งขัน
ไม่น่าเชื่อเลย ผมชอบนโยบายที่อยู่อาศัยของ Scott Wiener แต่ร่างกฎหมายนี้เต็มไปด้วย การแทรกแซงเกินควร ของรัฐบาล
น่าขันที่มันจะให้ผลแบบเดียวกับระบบ NIMBY ที่เขาต่อสู้มาตลอด
ตัวอย่างเช่น ก่อนเริ่มฝึกโมเดลที่ใช้ประยุกต์แบบไม่ใช่อนุพันธ์ ต้องติดตั้งความสามารถในการหยุดโมเดลนั้นโดยสมบูรณ์ได้อย่างรวดเร็ว จนกว่าจะเข้าข่ายได้รับการยกเว้นภาระผูกพันแบบจำกัด สุดท้ายดูเหมือนหมายความว่าจะฝึกได้เฉพาะสิ่งที่ได้รับอนุญาตเท่านั้น
แน่นอนว่ายังมีหน่วยงานใหม่ที่มีอำนาจเรียกเก็บค่าธรรมเนียมตามมาอีกด้วย มีการตั้ง Frontier Model Division เพื่อทบทวนรายงานรับรองประจำปีของนักพัฒนา เผยแพร่ผลสรุป และสามารถเรียกเก็บค่าธรรมเนียมที่เกี่ยวข้องเพื่อนำเข้ากองทุนแยกต่างหาก
และแน่นอนว่าต้องจ่ายเงินให้ที่ปรึกษาด้วย Department of Technology จะมอบหมายให้ที่ปรึกษาสร้างคลัสเตอร์คลาวด์คอมพิวติ้งสาธารณะที่ชื่อ CalCompute โดยระบุว่ามีเป้าหมายหลักคือการวิจัยการปรับใช้โมเดล AI ขนาดใหญ่อย่างปลอดภัยและมั่นคง และส่งเสริมนวัตกรรมอย่างเป็นธรรม
ดูเหมือนควรจะทำได้ง่าย และอย่างไรก็ดี การรับประกันว่าปิดได้ก็ดูเป็นเรื่องดี
สงสัยว่าในระยะยาว รัฐไหนจะดีที่สุดสำหรับ สตาร์ทอัพ AI
เดิมทีคงคิดว่าเป็นแคลิฟอร์เนีย แต่ตอนนี้ดูเหมือนว่าสำคัญกว่าที่ต้องเลือกรัฐที่มีโอกาสน้อยจะเร่งออกกฎระเบียบ วอชิงตันยังไม่มีความเคลื่อนไหวแบบนี้ ไม่มีภาษีเงินได้ของรัฐ และมีวิศวกรกับนักวิจัย AI จำนวนมากใน Seattle/Redmond เลยอยู่ที่นี่ Texas ก็น่าจะมีโอกาสสูงที่จะไม่เพิ่มกฎระเบียบ และถ้าอยู่ที่ Austin ก็มีข้อดีคล้ายกัน ถ้าแคลิฟอร์เนียผลักอุตสาหกรรมออกไปด้วยกฎระเบียบ ที่ไหนอีกจะผงาดขึ้นมา?
ดังนั้นเมืองต่าง ๆ ใน Texas และ Florida จึงกำลังเติบโต Seattle อากาศไม่ดี Washington หนาว และเมืองใหญ่ ๆ ก็ไม่ได้บริหารจัดการดีนัก จึงไม่น่าดึงดูดให้ครอบครัวมั่งคั่งมาใช้ชีวิต
แคลิฟอร์เนียมีค่าไฟฟ้าสูงเป็นพิเศษ และยังทำให้การสร้างโรงงานอุตสาหกรรมใหม่ยากด้วย ยิ่งถ้าอยู่ใกล้แหล่งน้ำที่อาจช่วยด้านความต้องการระบายความร้อนก็ยิ่งเป็นเช่นนั้น บริษัทอาจมีพนักงานบางส่วนในแคลิฟอร์เนียได้ แต่ฮาร์ดแวร์มีแนวโน้มจะทำงานอยู่ที่อื่น
บทความนี้แย่มาก และมีกลิ่นเหมือน งานที่ LLM สร้างขึ้น
ถ้าอยากเข้าใจร่างกฎหมายนี้จริง ๆ ควรอ่านบทวิเคราะห์ของ Zvi: https://thezvi.substack.com/p/on-the-proposed-california-sb-...
ตัวอย่างเช่น ก่อนเริ่มการใช้งานเชิงพาณิชย์ สาธารณะ หรืออย่างแพร่หลายของโมเดลที่ใช้ประยุกต์ หากไม่มีการตัดสินด้านความปลอดภัยเชิงบวกหรือการยกเว้นภาระผูกพันแบบจำกัด นักพัฒนาต้องติดตั้งมาตรการป้องกันและข้อกำหนดที่สมเหตุสมผลเพื่อ “ป้องกันไม่ให้บุคคลใช้โมเดลดังกล่าวสร้างโมเดลอนุพันธ์ที่ก่อให้เกิดอันตรายร้ายแรง”
เรื่องนี้เป็นไปไม่ได้เลย หากให้ค่าน้ำหนักของโมเดลมา ผมย่อมสามารถ fine-tune ให้มันก่ออันตรายในการใช้งานได้แน่นอน เช่น ทำให้มันให้คำแนะนำในการสร้างอาวุธเคมีหรือชีวภาพ ข้อกำหนดนี้ทำให้ปฏิบัติตามไม่ได้ และถ้าปฏิบัติตามไม่ได้ก็เผยแพร่โมเดลที่ใช้ประยุกต์ไม่ได้
มีความเป็นไปได้สูงมากที่บริษัทหรือผู้เขียนจะได้ลองใช้ผลิตภัณฑ์ภายในโดยตรง
“โมเดลที่อยู่ภายใต้การบังคับใช้” คือโมเดล AI ที่เข้าเกณฑ์ข้อใดข้อหนึ่งจากสองข้อต่อไปนี้
ข้อแรก โมเดลที่ฝึกด้วยปริมาณการคำนวณแบบจำนวนเต็มหรือแบบจุดลอยตัวมากกว่า 10^26 ครั้ง ข้อสอง โมเดลที่ฝึกด้วยปริมาณการคำนวณมากพอที่คาดได้อย่างสมเหตุสมผลว่าจะให้ประสิทธิภาพใกล้เคียงหรือสูงกว่าโมเดล AI ที่ฝึกด้วยปริมาณการคำนวณมากกว่า 10^26 ครั้งตามเกณฑ์ปี 2024 โดยประเมินจากเบนช์มาร์กที่ใช้กันทั่วไปในการวัดเชิงปริมาณของประสิทธิภาพทั่วไปของโมเดลพื้นฐานระดับแนวหน้า
แค่เคยเรียนวิชาโครงสร้าง CPU พื้นฐานก็รู้แล้วว่า การคำนวณแบบจำนวนเต็มกับการคำนวณแบบจุดลอยตัว มีภาระการคำนวณต่างกันมาก ผู้มีส่วนเกี่ยวข้องบางรายอาจใช้ถ้อยคำนี้ในศาลเพื่อกดเกณฑ์การบังคับใช้ย้อนหลังให้ต่ำลงอย่างมากได้ เช่น อาจอ้างว่าการคำนวณแบบจุดลอยตัว 1 ครั้งเท่ากับการคำนวณแบบจำนวนเต็ม 10 ครั้ง ดังนั้นขีดจำกัดคือการคำนวณแบบจำนวนเต็ม 10^26 ครั้ง หรือแบบจุดลอยตัว 10^25 ครั้ง
พอพยายามเผื่ออนาคตไปถึงอัลกอริทึมที่ดีกว่าโดยอิงเบนช์มาร์กของวันนี้ ก็ไปถึงจุดที่ปริมาณความพยายามเองไม่สำคัญอีกต่อไป ดูเหมือนเป็นการขีดเส้นเกณฑ์ไว้ตรงเบนช์มาร์กของวันนี้ ไม่ว่ามันจะสะท้อนความสามารถจริงหรือไม่ก็ตาม โมเดลขนาดเล็กอาจถูกฝึกให้จงใจทำคะแนนต่ำในเบนช์มาร์กเหล่านี้ แต่เก่งในงานที่พวกเขากังวล เช่น การสร้างอาวุธนิวเคลียร์ ก็ได้
มีระบุว่าก่อนเริ่มฝึกโมเดลที่อยู่ภายใต้การบังคับใช้ นักพัฒนาสามารถตัดสินได้ว่าโมเดลดังกล่าวจะมีประสิทธิภาพต่ำกว่าในทุกเบนช์มาร์กหรือไม่ ซึ่งก็อดสงสัยไม่ได้ว่าจะรู้ประสิทธิภาพก่อนฝึกได้อย่างไร
เมื่อมีเพดานที่ใช้งานได้ ความคิดสร้างสรรค์ของมนุษย์ก็จะไปรวมตัวกันในทิศทางที่ทำให้พอดีกับกรอบนั้น แน่นอนว่านี่เป็นเรื่องเฉพาะของสหรัฐฯ เท่านั้น จีน รัสเซีย เกาหลีเหนือ อิหร่าน และประเทศอื่น ๆ ยังสามารถไล่ตามเทคโนโลยีนี้ได้อย่างเสรีต่อไป
รู้สึกเหมือนบทความนี้ทั้งบทเขียนด้วย ChatGPT
ตัวอย่างเช่น แม้แต่ร่างกฎหมายต้นฉบับก็ไม่ได้อ้างถึง เอาแต่พูดอย่างคลุมเครือเรื่องคุณค่าของโอเพนซอร์ส
ไม่รู้ว่ามันเพิ่มอะไรให้การอภิปราย และก็สงสัยด้วยว่ามีข้อโต้แย้งที่ทำหน้าที่หักล้างจริง ๆ หรือไม่
ผมชอบข้อเสนอที่ว่าแทนที่จะกำกับดูแลการพัฒนาโมเดล AI เอง ควรกำกับดูแล พื้นที่การประยุกต์ใช้ โดยเฉพาะส่วนที่ก่อความเสี่ยงสูงต่อความปลอดภัยและความมั่นคงสาธารณะ
หากกำกับดูแลการใช้ AI ในพื้นที่เสี่ยงสูงที่มีโอกาสสร้างความเสียหายมากที่สุด เช่น การแพทย์ กระบวนการยุติธรรมทางอาญา และโครงสร้างพื้นฐานสำคัญ ก็จะยังอนุญาตให้เทคโนโลยี AI พัฒนาต่อไปได้ ขณะเดียวกันก็รับประกันความรับผิดชอบต่อการใช้งานที่เป็นอันตรายได้ด้วย อยากรู้ว่ามีเหตุผลดี ๆ อะไรที่จะคัดค้านแนวทางนี้หรือไม่