- ผู้ว่าการรัฐแคลิฟอร์เนีย Gavin Newsom วีโตร่างกฎหมายความปลอดภัย AI หมายเลข SB 1047 ทำให้การถกเถียงเกี่ยวกับขอบเขตของการกำกับดูแล AI ยังคงดำเนินต่อไป
- เหตุผลหลักของการวีโตคือ ร่างกฎหมายนี้ใช้บังคับเฉพาะกับ โมเดล AI ที่ใหญ่ที่สุดและมีต้นทุนสูงที่สุด เท่านั้น จึงมีขอบเขตที่แคบเกินไป
- Newsom มองว่าร่างกฎหมายไม่ได้คำนึงว่าโมเดลถูกนำไปใช้งานใน สถานการณ์ความเสี่ยงสูง หรือไม่
- OpenAI และ Meta คัดค้านร่างกฎหมายนี้ ขณะที่นักวิจัยวิทยาศาสตร์ผู้มีชื่อเสียงที่พัฒนาเทคโนโลยี AI สนับสนุนร่างกฎหมายดังกล่าว
- Newsom มีจุดยืนต้องการผลักดัน กฎเกณฑ์ AI ที่ครอบคลุมมากกว่า SB 1047
การตัดสินใจวีโตและผู้มีส่วนได้ส่วนเสีย
- ผู้ว่าการรัฐแคลิฟอร์เนีย Gavin Newsom วีโตร่างกฎหมายความปลอดภัย AI หมายเลข SB 1047 ที่เป็นประเด็นถกเถียง
- ร่างกฎหมายนี้เป็นประเด็นที่ทำให้บริษัทเทคโนโลยีขนาดใหญ่และนักวิจัยวิทยาศาสตร์ผู้มีชื่อเสียงที่พัฒนาเทคโนโลยี AI อยู่คนละฝ่ายกัน
- OpenAI และ Meta คัดค้านร่างกฎหมายนี้ ขณะที่นักวิจัยวิทยาศาสตร์สนับสนุน
ขอบเขตของร่างกฎหมายและเหตุผลในการวีโต
- ในข้อความประกอบการวีโต Newsom เห็นว่าขอบเขตการบังคับใช้ของร่างกฎหมายมีข้อจำกัด
- ร่างกฎหมายนี้ใช้บังคับเฉพาะกับ โมเดล AI ที่ใหญ่ที่สุดและมีต้นทุนสูงที่สุด
- ไม่ได้พิจารณาว่าโมเดล AI ถูกนำไปใช้งานใน สถานการณ์ความเสี่ยงสูง หรือไม่
- Newsom ต้องการ กฎเกณฑ์ AI ที่ครอบคลุมมากกว่า ร่างกฎหมายฉบับนี้
1 ความคิดเห็น
ความคิดเห็นจาก Hacker News
https://www.wsj.com/tech/ai/californias-gavin-newsom-vetoes-...
การตัดสินใจของ Newsom ยอดเยี่ยมมาก สภานิติบัญญัติของแคลิฟอร์เนียมีความเคลื่อนไหวมากก็จริง แต่ช่วงไม่กี่ปีมานี้มีการออกกฎหมายแบบไล่ตามกระแสมากเกินไป และแม้ผมจะสนับสนุนวาระของ Wiener โดยเฉพาะนโยบายที่อยู่อาศัย แต่ร่างกฎหมายฉบับนี้หลุดเป้าไปโดยสิ้นเชิง
โดยแท้จริงแล้วมันเป็นเหมือนตอร์ปิโดที่เล็งไปที่ โมเดลเปิด และผู้เล่นแถวหน้าอย่าง OpenAI หรือ Anthropic ก็ไม่ได้กังวลกับร่างกฎหมายนี้หรือโมเดลเปิดโดยรวมมากนัก ผู้สนับสนุนดูจะเป็นพวกผู้ตามหลังอย่าง Musk ที่ต้องการกวาดล้างผู้เล่นระดับล่าง หรือไม่ก็เป็นฝ่ายที่คัดค้าน AI ที่ตนควบคุมไม่ได้ เช่น ฝ่ายตรงข้ามของชาติตะวันตกและผู้ถือครองลิขสิทธิ์ที่ระมัดระวัง: https://techcrunch.com/2024/08/26/elon-musk-unexpectedly-off...
อีกทั้ง OpenAI ยังเป็นผู้นำการคัดค้านอย่างเป็นระบบต่อร่างกฎหมายนี้ร่วมกับ Google และ Meta ขณะที่ Anthropic กลับเป็นผู้สนับสนุนหลัก
ผมคิดว่า LLM มีอนาคตที่สดใส โดยเฉพาะเมื่อมีฮาร์ดแวร์เฉพาะทางถูกสร้างขึ้นมากขึ้น ปัญหาส่วนใหญ่ตลาดสามารถแก้ได้ และรัฐบาลควรเข้ามาแทรกแซงเมื่อเห็นชัดว่ามุ่งไปผิดทาง หรือมีการผูกขาดและการใช้อำนาจในทางที่ผิด ไม่ใช่ขยับตามการคาดเดากว้าง ๆ จากสองขั้วสุดโต่ง
https://legiscan.com/CA/text/SB1047/id/3019694
ร่างกฎหมายนี้ดูเหมือนจะทำให้การให้บริการ น้ำหนักแบบเปิด สำหรับโมเดลที่เกินขนาดหนึ่งเป็นเรื่องผิดกฎหมาย บังคับให้ต้องตรวจสอบก่อนขายทรัพยากรประมวลผลที่มากพอจะฝึกโมเดลเช่นนั้นว่าลูกค้าจะไม่เพิกเฉยต่อกฎหมายแล้วนำไปฝึกโมเดล และกำหนดข้อกำหนดการตรวจสอบที่ต้องพิสูจน์ว่าโมเดลจะไม่ช่วยก่อภัยพิบัติและสามารถปิดได้
และส่วนที่บอกว่า “ต้องสามารถปิดได้” ทำให้อยากให้ผู้ร่างกฎหมายเคลื่อนไหวอยู่ในโลกความเป็นจริง ไม่ใช่ในตอนหนึ่งของ Star Trek
ยากที่จะมอบอำนาจให้คนคนนี้ และนี่ก็ไม่ใช่ครั้งแรกที่เขาผลักดันกฎหมายไร้สาระ ตัวอย่างเด่นคือเขาอยู่เบื้องหลัง AB2098 ที่ขัดรัฐธรรมนูญอย่างชัดเจน ซึ่งสภานิติบัญญัติรัฐแคลิฟอร์เนียได้ยกเลิกอย่างเงียบ ๆ ก่อนที่ศาลจะล้มกฎหมายนี้: https://finance.yahoo.com/news/ncla-victory-gov-newsom-repea...
https://www.sfchronicle.com/opinion/openforum/article/COVID-...
เรื่องนี้ไม่ใช่ปัญหาพรรคการเมือง ไม่ว่าคุณจะมีแนวคิดทางการเมืองแบบใดหรือมีจุดยืนต่อ “ความปลอดภัยของ AI” อย่างไร คุณควรต้องการผู้แทนที่รอบคอบกว่านี้ แทนที่จะเป็นการตัดสินใจที่เลวร้ายและการโอ้อวดตัวเองผ่านการออกกฎหมายแบบนี้
บทความที่เกี่ยวข้อง ยังมีอีกไหม?
OpenAI, Anthropic, Google employees support California AI bill - https://news.ycombinator.com/item?id=41540771 - กันยายน 2024, 26 ความคิดเห็น
Y Combinator, AI startups oppose California AI safety bill - https://news.ycombinator.com/item?id=40780036 - มิถุนายน 2024, 8 ความคิดเห็น
California AI bill becomes a lightning rod–for safety advocates and devs alike - https://news.ycombinator.com/item?id=40767627 - มิถุนายน 2024, 2 ความคิดเห็น
California Senate Passes SB 1047 - https://news.ycombinator.com/item?id=40515465 - พฤษภาคม 2024, 42 ความคิดเห็น
California residents: call your legislators about AI bill SB 1047 - https://news.ycombinator.com/item?id=40421986 - พฤษภาคม 2024, 11 ความคิดเห็น
Misconceptions about SB 1047 - https://news.ycombinator.com/item?id=40291577 - พฤษภาคม 2024, 35 ความคิดเห็น
California Senate bill to crush OpenAI competitors fast tracked for a vote - https://news.ycombinator.com/item?id=40200971 - เมษายน 2024, 16 ความคิดเห็น
SB-1047 will stifle open-source AI and decrease safety - https://news.ycombinator.com/item?id=40198766 - เมษายน 2024, 190 ความคิดเห็น
Call-to-Action on SB 1047 – Frontier Artificial Intelligence Models Act - https://news.ycombinator.com/item?id=40192204 - เมษายน 2024, 103 ความคิดเห็น
On the Proposed California SB 1047 - https://news.ycombinator.com/item?id=39347961 - กุมภาพันธ์ 2024, 115 ความคิดเห็น
ความเสี่ยงเร่งด่วนของโมเดล AI ขนาดใหญ่ไม่ได้อยู่ที่การเปลี่ยนโลกให้กลายเป็นคลิปหนีบกระดาษ แต่อยู่ที่การทำให้เกิด fraud-as-a-service และสร้างสังคมที่ไม่สามารถเชื่อถืออะไรได้เลย
แม้จะเป็นกฎหมายที่ค่อนข้างทื่อ ๆ แต่ก็อาจเห็นด้วยได้ หากกำหนดให้รูปภาพ เสียง และวิดีโอที่สร้างโดยโมเดลที่มีพารามิเตอร์มากกว่า X ตัว ต้องแนบเมทาดาทาว่าเป็นสิ่งที่ AI สร้างขึ้น กล่าวคือห้ามสร้างโมเดลที่ไม่ใส่แท็กแบบนั้น
อย่างไรก็ตาม ปัญหาที่ชัดเจนคือ จะต้องทำให้การแคปหน้าจอรูป AI แล้วอัปโหลดใหม่โดยไม่มีเมทาดาทากลายเป็นสิ่งผิดกฎหมายด้วย และโดยเฉพาะกับรูปภาพ การบังคับใช้กฎหมายอาจเละเทะอย่างสิ้นเชิง เหนือสิ่งอื่นใด มาตรการทั้งหมดในด้านนี้ควรตั้งอยู่บนสมมติฐานว่า โดยพื้นฐานแล้วเราไม่สามารถควบคุมได้ว่า “ผู้ไม่หวังดี” จะทำอะไร การทำตัวอย่างรับผิดชอบหมายถึงการยอมทิ้งเงิน และเงินนั้นก็จะตกไปอยู่กับประเทศที่มีความรับผิดชอบน้อยกว่า
ภายหลังเมื่อมีรูปใดรูปหนึ่งปรากฏขึ้น ก็สามารถถาม Meta หรือใครก็ตามว่า “นี่ดูเหมือนเป็นสิ่งที่พวกคุณสร้างไหม?” ได้ เทคโนโลยีคล้าย ๆ กันมีอยู่แล้ว เช่น Content ID ของ YouTube หรือการตรวจจับ CSAM แม้จะไม่สมบูรณ์แบบ แต่ก็อาจช่วยได้โดยไม่มีผลข้างเคียงมหาศาลจากความพยายามล็อกการสร้างรูปภาพทั้งหมด
สงสัยว่าบทความพูดเกินจริงเรื่องความเสี่ยงที่ร่างกฎหมายนี้ครอบคลุมหรือเปล่า เลยไปอ่านข้อความต้นฉบับมา
“อันตรายร้ายแรง” หมายถึงอันตรายที่โมเดลที่อยู่ในขอบเขตบังคับใช้หรือโมเดลอนุพันธ์ของมันก่อให้เกิด หรือทำให้เกิดขึ้นได้อย่างมีนัยสำคัญ โดยรวมถึงกรณีที่มีผู้เสียชีวิตหรือบาดเจ็บจำนวนมากจากการสร้างหรือใช้ weapons เคมี ชีวภาพ กัมมันตรังสี หรือนิวเคลียร์, กรณีที่เกิดผู้เสียชีวิตหรือบาดเจ็บจำนวนมาก หรือความเสียหายตั้งแต่ 500 ล้านดอลลาร์ขึ้นไปจากการโจมตีทางไซเบอร์ต่อโครงสร้างพื้นฐานสำคัญ, กรณีที่โมเดลภายใต้การกำกับดูแลของมนุษย์อย่างจำกัดก่อให้เกิดการเสียชีวิต บาดเจ็บสาหัส หรือความเสียหายต่อทรัพย์สินผ่านการกระทำที่เข้าข่ายอาชญากรรม และอันตรายร้ายแรงด้านความปลอดภัยสาธารณะหรือความมั่นคงที่เทียบเท่ากัน
อย่างไรก็ตาม หากข้อมูลที่โมเดลส่งออกเป็นข้อมูลที่ประชาชนทั่วไปสามารถเข้าถึงได้อย่างสมเหตุสมผลจากแหล่งอื่น ก็จะถูกยกเว้น และหากนำไปรวมกับซอฟต์แวร์อื่นแล้วโมเดลไม่ได้มีส่วนสนับสนุนอย่างมีนัยสำคัญต่อความเป็นไปได้ที่จะเกิดอันตราย ก็จะถูกยกเว้น รวมถึงหากอันตรายนั้นไม่ได้เกิดจากหรือไม่ได้ถูกทำให้เป็นไปได้โดยการสร้าง จัดเก็บ ใช้ หรือเปิดเผยโมเดลของผู้พัฒนา ก็จะถูกยกเว้น
ถ้ามนุษย์สามารถใช้ AI ก่อความเสียหายได้ ก็น่าจะทำได้แม้ไม่มี AI ประเด็นสำคัญคือ AI เพิ่มความเป็นไปได้ของเป้าหมายเชิงทำลายล้างได้มากแค่ไหน ไม่แน่ใจว่าความกังวลคือ AI ทำให้สิ่งเหล่านี้เข้าถึงง่ายขึ้นและมีประสิทธิภาพขึ้น หรือ “สัตว์ประหลาด” ที่แท้จริงคืออะไรกันแน่ ผมไม่คิดว่าโมเดลเหล่านี้มีข้อมูลไม่เปิดเผยเกี่ยวกับโครงสร้างพื้นฐานและระบบที่อาจถูกนำไปใช้ในทางที่ผิด
ดังนั้นกฎหมายนี้จึงดูเหมือน การแสดงทางนิติบัญญัติ อาจถูกออกแบบมาเพื่อดึงความสนใจและเงินบริจาค เพื่อสร้างแฟรนไชส์ทางการเมือง การเล็งเฉพาะโมเดลที่ใหญ่ที่สุดจนมีแต่ผู้เล่นรายใหญ่ที่สุดที่ได้รับผลกระทบ ก็อาจเป็นเพราะพวกเขามีกำลังบริจาคให้แต่ละพรรคมากที่สุด และการคัดค้านทำให้สูญเสียความนิยมในหมู่ผู้หวังดีน้อยที่สุด
การกำกับดูแล AI จะเป็นงานด้านนิติบัญญัติและการบริหารที่ซับซ้อนระดับประมวลกฎหมายภาษีฉบับใหม่ แต่ถ้าปฏิบัติกับมันเหมือนแฟรนไชส์ทางการเมืองก็จะเป็นไปไม่ได้ เมื่อดูสถานการณ์ที่ OpenAI กำลังเปลี่ยนเป็นบริษัทแสวงหากำไร จะเห็นว่าแค่รูปแบบองค์กรไม่แสวงหากำไรไม่เพียงพอที่จะรักษาการมุ่งเน้นประโยชน์สาธารณะไว้ได้ การอนุญาตให้เปลี่ยนผ่านแบบนี้มีระดับใกล้เคียงกับการเปลี่ยนระบบโรงพยาบาลไม่แสวงหากำไรไปเป็นแบบแสวงหากำไรตั้งแต่ทศวรรษ 1990 เป็นต้นมา
ศักยภาพของ AI ทำให้ ความเปราะบางด้านธรรมาภิบาล ของเราเด่นชัดขึ้น ธรรมาภิบาลที่อ่อนแออาจเปิดโอกาสมากขึ้นก็จริง แต่แรงผลักดันที่จะหนีจากการถูกเอารัดเอาเปรียบจากความล้มเหลวนั้นจะหล่อเลี้ยงเผด็จการ และเผด็จการก็กลืนกินสิทธิในทรัพย์สินไปพร้อมกับสิทธิอื่น ๆ
หนึ่งในปัญหาคือความกังวลว่าการประมวลผล AI ที่ควบคุมไม่ได้จะไปเกิดขึ้นนอกแคลิฟอร์เนียเฉย ๆ ใช่ไหม?
ในการเลือกตั้งระดับเคาน์ตีที่เกี่ยวกับ CAFO ใน Sonoma ก็มีประเด็นคล้ายกันว่า แม้จะได้ความคืบหน้าด้านสิ่งแวดล้อมในระดับท้องถิ่น แต่ผลลัพธ์อาจกลายเป็นการส่งออกปัญหาไปยังรัฐอื่นที่กฎระเบียบหย่อนกว่า: https://www.kqed.org/news/12006460/the-sonoma-ballot-measure...
EU และแคลิฟอร์เนียดูเหมือนมักอยู่ในตำแหน่งผู้นำแบบนี้ในเรื่องเทคโนโลยีและความเป็นส่วนตัว ภายนอกอาจดูเหมือนพยายามไปเปล่า ๆ แต่เป็นกระบวนการปูทาง และเป็นขั้นตอนจำเป็นเพื่อให้กฎหมายที่ดีตั้งหลักได้ทั่วโลก
มันเป็นกฎหมายโง่ ๆ ดังนั้นก็ถือว่านักการเมืองทำเรื่องฉลาดสักครั้งหนึ่ง
อยากรู้ว่ามีเอกสารที่สรุปเหตุผลฝ่ายสนับสนุนและคัดค้านร่างกฎหมายนี้หรือไม่ ความคิดแรกหลังอ่านบทความคือ ถ้อยคำอย่าง “ความระมัดระวังที่สมเหตุสมผล” และ “ความเสี่ยงที่ไม่สมเหตุสมผล” ดูคลุมเครือเกินกว่าจะใช้เป็นกฎหมายได้ จนอาจนำไปสู่การฟ้องร้องไม่รู้จบ
ในขณะเดียวกัน นักวิทยาการคอมพิวเตอร์อย่าง Geoffrey Hinton และ Yoshua Bengio ซึ่งสร้างเทคโนโลยีพื้นฐานส่วนใหญ่ของกระแส Generative AI ในปัจจุบัน ก็ออกมาสนับสนุนอย่างเปิดเผย และพนักงานทั้งปัจจุบันและอดีตของบริษัท AI รายใหญ่ 119 คนก็ลงนามในจดหมายเรียกร้องให้ผ่านกฎหมายนี้ด้วย แน่นอนว่าสติปัญญาในสาขาหนึ่งไม่ได้หมายความว่าคำแนะนำทางกฎหมายจะเชื่อถือได้ แต่ก็สงสัยว่าเหตุใด Hinton และ Bengio จึงสนับสนุนกฎหมายนี้อย่างแข็งขัน
แน่นอนว่าอาจไปถึงขั้นฟ้องร้องได้ แต่ประเด็นสำคัญคือ หากมีพื้นที่สีเทา บริษัทก็ควรดำเนินงานให้อยู่ในขอบเขตที่ชัดเจนว่าปลอดภัย และถ้าจะดันไปชิดเส้นแบ่ง ก็ต้องรู้ว่านั่นคือการเดิมพันทางกฎหมาย หากมีขั้นตอนที่สมเหตุสมผล บันทึกเอกสารที่ชัดเจน และการตัดสินใจที่ทนายอนุมัติไว้ โดยทั่วไปก็อยู่ในเขตปลอดภัยได้ง่าย กฎหมายฉบับนี้อาจแย่ด้วยเหตุผลอื่นได้ แต่ถ้อยคำสองคำนี้เองไม่ใช่ปัญหา
คนจำนวนมากในบริษัท AI ชั้นแนวหน้าขนาดใหญ่เชื่อว่า AGI ที่จะเปลี่ยนโลกอาจมาถึงภายใน 5 ปี ดูตัวอย่างได้จาก Situational Awareness ของ Aschbrenner และยังมีความกังวลคู่ขนานว่า AI อาจทำให้การก่อการร้ายทำได้ง่ายขึ้น: https://www.theregister.com/2023/07/28/ai_senate_bioweapon/
Yoshua Bengio เพิ่งเขียนรายละเอียดเกี่ยวกับมุมมองด้านความปลอดภัยของ AI โดยเขาให้น้ำหนักน้อยกว่ากับแนวคิดว่า AI ระดับมนุษย์จะมาถึงในเร็วมาก แต่เห็นว่าปัญญาเหนือมนุษย์เป็นไปได้ภายใน 5–20 ปี เขากล่าวว่า “เมื่อพิจารณาถึงความไม่แน่นอนนั้น ขนาดของความเสี่ยงระดับหายนะหรือการสูญพันธุ์ และข้อเท็จจริงที่ว่าเราไม่สามารถคาดการณ์ความก้าวหน้าอย่างรวดเร็วของความสามารถ AI ในช่วงหลังได้ ความรอบคอบแบบไม่ด่วนตัดสินจึงเป็นหนทางที่ชาญฉลาดกว่ามาก”
Hinton เองก็เพิ่งบรรยายอย่างละเอียดเกี่ยวกับความเสี่ยงจากการสูญเสียการควบคุม ผู้สนับสนุนโดยทั่วไปมองว่าร่างกฎหมายนี้เป็นกฎหมายที่ออกแบบมาอย่างจำกัดเพื่อรับมือกับสถานการณ์เลวร้ายที่สุดของ การสูญเสียการควบคุมและการนำไปใช้ในทางที่ผิด ในระดับหนึ่ง: https://yoshuabengio.org/2023/05/22/how-rogue-ais-may-arise/
https://yoshuabengio.org/2023/06/24/faq-on-catastrophic-ai-r...
https://yoshuabengio.org/2024/07/09/reasoning-through-argume...
มีลิงก์ไปยังบทความอธิบายก่อนหน้า รวมถึงเหตุผลทั้งฝ่ายสนับสนุนและคัดค้าน และการถกเถียงเพิ่มเติมในคอมเมนต์
แม้ไม่ใช่รายการข้อดีข้อเสียจากมุมมองของอุตสาหกรรม แต่ก็น่าจะเป็นคำอธิบายที่เป็นกลางที่สุดว่าร่างกฎหมายนี้ทำอะไร
เป็นการออกกฎหมายที่เลวร้ายมาก และดีแล้วที่ผู้ว่าการรัฐสกัดไว้
นี่แหละคือหน้าตาของ regulatory capture หากมีใครทำให้ผลิตภัณฑ์ของคุณกลายเป็นสินค้าโภคภัณฑ์ ก็ออกกฎหมายห้ามไม่ให้เขาทำต่อแบบฟรี ๆ
ไม่ต่างอะไรกับการทำให้ Linux ผิดกฎหมาย เพื่อให้ทุกคนต้องใช้ Microsoft กับ Apple
ผมคิดว่าคนจำนวนมากที่ฝันจะก่อตั้งสตาร์ทอัพ AI ยากที่จะประเมินภูมิทัศน์ของ AI รวมถึงข้อดีข้อเสียได้อย่างมีเหตุผลและเป็นกลาง
แคลิฟอร์เนียมี zeitgeist ที่หาได้ยากจากการผสานกันของเทคโนโลยีกับมหาวิทยาลัย แต่ถ้ามีเงินและคำมั่นสัญญามากพอ ก็ไม่ใช่ว่าสถานที่อื่นจะทำซ้ำไม่ได้