CEO ของ Hugging Face: “AI โอเพนซอร์สสอดคล้องกับผลประโยชน์ของสหรัฐฯ”
(venturebeat.com)- ในการไต่สวนของคณะกรรมาธิการวิทยาศาสตร์ สภาผู้แทนราษฎรสหรัฐฯ Clement Delangue CEO ของ Hugging Face เน้นย้ำว่า วิทยาศาสตร์แบบเปิดและ AI โอเพนซอร์ส สอดคล้องอย่างยิ่งกับคุณค่าและผลประโยชน์ของสหรัฐฯ
- Delangue มองว่า เครื่องมือโอเพนซอร์ส ที่มีต้นกำเนิดจากสหรัฐฯ เช่น PyTorch, Tensorflow, Keras, transformers, diffusers ได้สนับสนุนความก้าวหน้าของ AI และสถานะผู้นำของสหรัฐฯ มาโดยตลอด
- คำให้การครั้งนี้เกิดขึ้น 2 สัปดาห์หลังจากที่วุฒิสมาชิกตั้งคำถามถึงความเป็นไปได้ในการนำไปใช้ในทางที่ผิด เช่น สแปม การฉ้อโกง มัลแวร์ การละเมิดข้อมูลส่วนบุคคล และการคุกคาม ภายหลังกรณี LLaMA ของ Meta รั่วไหล
- เขาอธิบายว่าการเปิดกว้างอย่างมีจริยธรรมช่วยให้ภาคประชาสังคม องค์กรไม่แสวงหากำไร ภาควิชาการ และผู้กำหนดนโยบายมีขีดความสามารถในการถ่วงดุลบริษัทเอกชนขนาดใหญ่ และลด ระบบกล่องดำ
- Hugging Face พยายามผสานความเปิดกว้างเข้ากับกลไกป้องกันความปลอดภัย ผ่าน model cards การจำกัดการเข้าถึง การปล่อยแบบเป็นขั้นตอน การดูแลโดยชุมชน และชุดข้อมูลแบบ opt-in/opt-out
การสนับสนุน AI โอเพนซอร์สในการไต่สวนของสภาผู้แทนราษฎรสหรัฐฯ
- Clement Delangue CEO ของ Hugging Face ให้การในการไต่สวนเต็มคณะของคณะกรรมาธิการวิทยาศาสตร์ สภาผู้แทนราษฎรสหรัฐฯ เรื่อง Artificial Intelligence: Advancing Innovation Towards the National Interest
- ผู้เข้าร่วมการไต่สวนเดียวกันยังมี Jason Matheny CEO ของ RAND Corporation, Shahin Farshchi หุ้นส่วนทั่วไปของ Lux Capital, Rumman Chowdhury เฟลโลด้าน AI ที่รับผิดชอบของ Harvard University และ Dewey Murdick ผู้อำนวยการบริหารของ Georgetown University Center for Security and Emerging Technology
- Delangue มองว่าความก้าวหน้าล่าสุดของ AI เกิดขึ้นได้บนรากฐานของ วิทยาศาสตร์แบบเปิดและโอเพนซอร์ส
- PyTorch, Tensorflow, Keras, transformers, diffusers ถูกกล่าวถึงในฐานะเทคโนโลยีโอเพนซอร์สที่สร้างขึ้นในสหรัฐฯ
- เขากล่าวว่า หากไม่มีเทคโนโลยีเหล่านี้ สหรัฐฯ อาจไม่ได้เป็นประเทศผู้นำด้าน AI
การเปิดกว้างอย่างมีจริยธรรมที่ถูกนำเสนอท่ามกลางข้อถกเถียงเรื่อง LLaMA
- คำให้การของ Delangue เกิดขึ้น 2 สัปดาห์หลังจากวุฒิสมาชิกตั้งคำถามกับ Mark Zuckerberg เกี่ยวกับกรณี LLaMA รั่วไหล ซึ่งเป็น LLM โอเพนซอร์สของ Meta
- จดหมายดังกล่าวแสดงความกังวลว่า LLaMA อาจถูกนำไปใช้กับสแปม การฉ้อโกง มัลแวร์ การละเมิดข้อมูลส่วนบุคคล การคุกคาม และการกระทำผิดหรือสร้างความเสียหายในรูปแบบอื่นๆ
- การแพร่กระจายของ LLaMA ทำให้ความซับซ้อนของโมเดล AI ที่สาธารณชนทั่วไปเข้าถึงได้เพิ่มขึ้นอย่างมาก และความกังวลต่อความเป็นไปได้ในการใช้ผิดหรือใช้เกินขอบเขตก็เพิ่มขึ้นเช่นกัน
- Hugging Face เป็นสตาร์ทอัปในนิวยอร์ก ซึ่งเมื่อปีที่แล้วได้รับ มูลค่าประเมิน 2 พันล้านดอลลาร์ และกลายเป็นศูนย์กลางของโค้ดและโมเดลโอเพนซอร์ส
- ในเดือนเมษายน Delangue รวมผู้เข้าร่วมมากกว่า 5,000 คนในงานมีตอัปเทคโนโลยีโอเพนซอร์สที่ Exploratorium ในซานฟรานซิสโก
- Delangue กล่าวว่าวิทยาศาสตร์แบบเปิดและโอเพนซอร์สช่วยส่งเสริม สตาร์ทอัปหลายหมื่นแห่ง ที่ใช้ AI
- การเปิดกว้างอย่างมีจริยธรรมมอบขีดความสามารถที่จำเป็นให้ภาคประชาสังคม องค์กรไม่แสวงหากำไร ภาควิชาการ และผู้กำหนดนโยบาย ในการถ่วงดุลอำนาจของบริษัทเอกชนขนาดใหญ่
- ช่วยป้องกันระบบกล่องดำและเพิ่มความรับผิดชอบของบริษัท
- อาจช่วยลดอคติ ลดข้อมูลเท็จ ส่งเสริมลิขสิทธิ์ และชดเชยผู้มีส่วนได้ส่วนเสีย รวมถึงศิลปินและผู้สร้างคอนเทนต์
- แนวทางของ Hugging Face ผสาน นโยบายเชิงสถาบัน กลไกป้องกันทางเทคนิค และแรงจูงใจของชุมชนเข้าด้วยกัน
- รวมถึงการจัดทำเอกสารและ model cards รวมถึง model cards ที่ Dr. Margaret Mitchell เป็นผู้บุกเบิก
- ใช้การจำกัดการเข้าถึงอาร์ติแฟกต์และการปล่อยแบบเป็นขั้นตอนเป็นกลไกป้องกันทางเทคนิค
- การดูแลโดยชุมชนและชุดข้อมูลแบบ opt-in/opt-out ก็รวมอยู่ในโครงสร้างแรงจูงใจด้วย
- ในช่วงไม่กี่เดือนที่ผ่านมา การปล่อยโมเดลภาษาขนาดใหญ่เกิดขึ้นต่อเนื่อง และสตาร์ทอัป กลุ่มต่างๆ และแวดวงวิชาการต่อต้านการเคลื่อนย้ายไปสู่ LLM แบบปิดและเป็นกรรมสิทธิ์ ทำให้ ข้อถกเถียงเรื่อง AI โอเพนซอร์ส ร้อนแรงยิ่งขึ้น
1 ความคิดเห็น
ความเห็นจาก Hacker News
นี่เป็นภาพย่อส่วนที่สมบูรณ์แบบของ วิธีที่ระบบทำงาน คนนี้พูดถูก แต่ไปช้าเกินไป มีเงินน้อยเกินไป และไม่ได้รับความสนใจมากพอ
ในขณะที่ Sam Altman เป็นหน้าตาของผลิตภัณฑ์สำหรับผู้บริโภคที่มีทั้งทีมการตลาดชั้นยอดและล็อบบี้ยิสต์ ได้รับเงินหลายพันล้านดอลลาร์จาก Microsoft และยังมีผลิตภัณฑ์ที่ใครก็ลองใช้ได้ฟรี
แค่เข้าไปก่อนแล้วผลักดันวาทกรรมเรื่องความเสี่ยงของ AI โน้มน้าวสมาชิกสภาว่าเทคโนโลยีล่าสุดนั้นอันตราย พอ OpenAI ถูกมองแทบจะเป็นคำพ้องกับเทคโนโลยีล่าสุด ผู้คนก็จะเดินตามผู้นำในอุตสาหกรรมโดยไม่ทันมองจริง ๆ ว่าพวกเขากำลังพาไปทางไหน และสุดท้ายก็มาถึงจุดนี้
อยากให้ซอฟต์แวร์โอเพนซอร์สมีตัวแทนอย่างเป็นธรรมในศาล แต่ความคิดไม่สามารถออกค่าใช้จ่ายให้ตัวเองได้ และเสียงของเงินก็ดังเกินไป
สภากำลังรู้สึกผิดที่ปล่อยโซเชียลมีเดียไว้แบบนั้น และกระหายจะออกกฎคุม AI มาก การไต่สวนแทบไม่มีความเห็นต่างที่เป็นสาระ และเจตนาของรัฐกับอุตสาหกรรมก็สอดคล้องกันอย่างสมบูรณ์ เป็นการปูพรมแดงให้ การควบคุมแบบรวมศูนย์ และใช้กฎระเบียบกำจัดการแข่งขัน
สิ่งที่รันในเครื่องสามารถเลี่ยงขอบเขตเครือข่ายที่ใช้ดักฟังและเฝ้าระวังได้ การถาม Google จะถูกบันทึกไว้ ประวัติการค้นหาถูกเรียกด้วยหมายศาลได้ และบันทึกการยืมหนังสือห้องสมุดสาธารณะก็เช่นกัน ผู้ให้บริการด่านหน้าแบบ OpenAI สามารถรับบทนั้นและเก็บค่าผ่านทางได้
แต่ถ้าทำการค้นคว้าแบบเดียวกันด้วยอะไรอย่าง Vicuna-13B-ggml ก็ไม่มีใคร sniff ได้ว่าเรากำลังทำอะไรอยู่ ฟังดูดีสำหรับคนที่อยากอยู่เงียบ ๆ คนเดียว แต่ก็มีนัยที่น่ากลัวสำหรับฝ่ายที่คิดว่าต้องหยุดผู้ใช้ที่มีเจตนาร้ายมากกว่า
น่าเสียดายที่ประเด็นแบบนี้แทบไม่มีทางประนีประนอม ทางที่ดีที่สุดน่าจะเป็นแบบกฎหมายล่าสุดของเนเธอร์แลนด์ ที่เปิดทางให้รัฐเจาะเข้าอุปกรณ์ส่วนตัวได้เมื่อมีเหตุอันสมควร แต่ก็คงไม่เกิดขึ้น ทางเลือกเดียวที่เอื้อรัฐคือสั่งห้ามทั้งโมเดลโลคัลและการพัฒนาโอเพนซอร์สของมันตั้งแต่ต้น
จะฝ่าแรงต้านของสภาพคงเดิมไปได้ต้องมีแรงสนับสนุนจากสาธารณะอย่างมาก ซึ่งตอนนี้ไม่มี และจะซื้อด้วยเงินก็แพงมาก
โอเพนซอร์สเป็นองค์ประกอบจำเป็นในการสร้าง สังคมดิจิทัลที่ดี ที่ใกล้เคียงกับคุณค่าที่เรายึดถือ
AI สำคัญก็จริง แต่ในความเปลี่ยนแปลงทั้งหมดนี้สุดท้ายก็เป็นเพียงส่วนเล็ก ๆ เท่านั้น ควรนึกด้วยว่า Bitcoin ซึ่งพยายามสั่นคลอนรากฐานของชีวิตทางเศรษฐกิจก็เป็นโอเพนซอร์สเหมือนกัน
กระบวนการวิวัฒน์ในการปลูกฝังศักยภาพโอเพนซอร์สในระดับสังคมนั้นไม่ได้เกิดขึ้นเองโดยอัตโนมัติ และก็ไม่ได้ดีอย่างชัดเจนเสมอไป ตัวอย่างคริปโตข้างต้นก็แสดงให้เห็นแล้ว
ยังมีเทคโนโลยี สถาบัน และรูปแบบพฤติกรรมอีกมากที่ต้องจินตนาการ พัฒนา ทดลอง และเผยแพร่ นี่คือโจทย์ชั้นดีที่ “วิศวกรสังคม” ดิจิทัลทั้งปัจจุบันและอนาคตควรพับแขนเสื้อแล้วลงมือแก้
ผมนึกภาพจักรวาลอื่นที่ไม่ใช่ดิสโทเปียแทบไม่ออกเลย ถ้าเคยมีใครเสนอ วิสัยทัศน์แบบผูกขาด ที่สอดคล้องทางศีลธรรมกับอำนาจนำของปัจเจก เสรีภาพ และการควบคุมแบบประชาธิปไตย พร้อมทั้งซื่อตรงทางปัญญาต่อแรงจูงใจของตัวเองจริง ๆ ก็อยากรู้ด้วยใจจริง
CEO ของ Hugging Face ทำได้ดีมาก ผมแชร์ลิงก์ YouTube ยาว 5 นาทีให้เพื่อนกับครอบครัวดู และมันอธิบาย ข้อดีของโมเดลเปิดและโอเพนซอร์ส ได้ดีมาก
ในกรณีนี้รู้สึกเหมือนเป็นตัวอย่างที่ความต่างระหว่าง โอเพนซอร์สกับซอฟต์แวร์เสรี มีความสำคัญพอสมควร
ต่อให้ตั้งใจเปิดเผยก็เหมือนกัน ถ้าไลเซนส์จำกัดไว้แค่ “ใช้งานที่ไม่ใช่เชิงพาณิชย์” หรืออนุญาตให้ใช้เชิงพาณิชย์ได้เฉพาะกรณีที่ “ไม่แข่งขัน” กับบริษัทที่ปล่อยโมเดลนั้น
ความก้าวหน้าในสาขานี้ตลอด 20 ปีที่ผ่านมาเร็วขึ้นอย่างมหาศาลเพราะการแลกเปลี่ยนแบบนี้ แทนที่บริษัทจะกอดผลลัพธ์ไว้และเก็บสูตรลับ พวกเขากลับแบ่งปันรายละเอียดมากมาย ตรวจสอบผลของกันและกันด้วยการทำซ้ำและปรับปรุงต่อยอด
OpenAI สร้าง ChatGPT, Meta สร้าง Llama, Google ทำ Bard ส่วน Llama ก็ถูกปล่อยออกสู่ชุมชนโอเพนซอร์สในระดับหนึ่ง และตอนนี้ผู้คนก็กำลังใช้มัน ปรับปรุงมัน และเทียบกับโมเดลและเบนช์มาร์กของตัวเอง
อย่างน้อยในด้านการสร้างภาพ ดูเหมือนว่าตอนนี้โมเดลเปิดให้ผลลัพธ์ดีกว่ามาก เพราะการเทรนถูก crowdsource
แปลกดีที่เห็น Hugging Face เป็นข่าวในลักษณะนี้ จำได้ว่าเคยส่งแพตช์แก้ไขไปช่วงราวฤดูร้อนปี 2019 ตอนที่มีดาวประมาณ 4,000 ดวง ตอนนั้นก็คิดว่าเป็นโปรเจกต์ที่ดังพอสมควรแล้ว
เป้าหมายสุดท้ายของ Hugging Face คืออะไร? จะเป็น GitHub สำหรับ AI เหรอ?
พวกเขายังกำลังพยายามขยายไปทางการเทรนโมเดล AI และการรัน inference ด้วย แต่พอเทียบกับผู้ให้บริการ GPU อย่าง CoreWeave แล้ว ต้นทุนฝั่ง inference ดูแข่งขันได้ต่ำมาก
ชอบที่เขายังเป็นคนที่เข้าถึงได้ค่อนข้างง่ายบนโซเชียลมีเดีย
ทำไมสภาถึงมายุ่งกับซอฟต์แวร์ โอเพนซอร์ส AI อะไรพวกนี้ด้วย?
สภามี อำนาจกำกับดูแลการค้า กับต่างประเทศ ระหว่างมลรัฐ และกับชนเผ่าอินเดียน
สงสัยว่าคุณได้ดูโปรเจกต์ Bittensor หรือยัง และคิดเห็นอย่างไร ควรพิจารณาการรวมเข้าด้วยกันไหม?
ผมคิดว่ามันอาจช่วยโปรเจกต์แบบนี้และ ขบวนการ AI โอเพนซอร์ส ได้
โมเดลส่วนใหญ่บน Hugging Face ไม่ได้อยู่ภายใต้ไลเซนส์โอเพนซอร์ส แต่เป็นไลเซนส์ RAIL แปลก ๆ ไม่ใช่เหรอ?