ทำไมรัฐบาล ภาคธุรกิจ และองค์กรไม่แสวงกำไรจึงควรลงทุนใน AI เสรีและโอเพนซอร์ส

 (siegelendowment.org)
1 คะแนน โดย GN⁺ 5 시간 전 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • ซอฟต์แวร์เป็นทั้งสินทรัพย์เชิงพาณิชย์และเป็น ระบบความรู้ ที่ยิ่งแบ่งปันยิ่งพัฒนา ดังที่ GCC และ GNU/Linux แสดงให้เห็นว่าโอเพนซอร์สได้กลายเป็นรากฐานที่ค้ำจุนอินเทอร์เน็ตและอุตสาหกรรมเทคโนโลยียุคใหม่
  • เมื่อเปิดเผยโค้ด นักพัฒนาทั่วโลกสามารถค้นหาและแก้ไขข้อบกพร่องได้ และวิศวกรรุ่นถัดไปก็สามารถเรียนรู้วิธีสร้างระบบล้ำสมัยได้ ทำให้ ความโปร่งใส มีส่วนทั้งต่อความมั่นคงปลอดภัยและการพัฒนาบุคลากร
  • หาก AI ล้ำสมัยกระจุกตัวอยู่ในโมเดลแบบปิดของบริษัทไม่กี่แห่ง นักวิจัยจะตรวจสอบกระบวนการสร้างและข้อมูลฝึกได้ยากขึ้น และการตัดสินใจด้าน วิทยาศาสตร์ การแพทย์ วิศวกรรม และกระบวนการยุติธรรม ที่พึ่งพา AI ก็จะตรวจสอบได้ไม่สมบูรณ์เช่นกัน
  • เนื่องจากตัวซอฟต์แวร์ AI เองก็คือความสามารถ ความเสี่ยงจากการเปิดเผยจึงมีอยู่จริง แต่โมเดลแบบปิดเองก็ยังเสี่ยงต่อการรั่วไหลและการ jailbreak อีกทั้งยังก่อให้เกิด การรวมศูนย์อำนาจ ที่ทำให้บริษัทเพียงไม่กี่แห่งเป็นผู้ตัดสินว่าเทคโนโลยีใดได้รับอนุญาต
  • ไม่จำเป็นที่ AI โอเพนซอร์สทุกตัวต้องไล่ตามขนาดของโมเดลล้ำสมัย รัฐบาล ภาคธุรกิจ และองค์กรไม่แสวงกำไรควรลงทุนใน การสนับสนุนคอมพิวต์สาธารณะ การสนับสนุนงานวิจัยของมหาวิทยาลัยและองค์กรไม่แสวงกำไร และหลักการเปิดเผย AI ที่สร้างด้วยเงินทุนสาธารณะเป็นค่าเริ่มต้น

ข้อถกเถียงรอบซอฟต์แวร์เสรี

  • เมื่อครั้งที่ถกเถียงกับ Richard Stallman ที่ MIT AI Lab ในช่วงทศวรรษ 1980 ราว 2 ปี ผู้เขียนยังยึดตามความเชื่อทั่วไปที่ว่า การพัฒนาซอฟต์แวร์จำเป็นต้องอาศัยการควบคุมโค้ดแบบผูกขาดโดยบริษัท
  • Stallman มองว่า ซอฟต์แวร์เป็น สื่อที่บรรจุความรู้ ดังนั้นทุกคนจึงควรมีสิทธิใช้ ศึกษา และปรับปรุงมันได้ และการซ่อนโค้ดไว้ภายในบริษัทก็คือการซ่อนความรู้เอง
  • ทั้งสองฝ่ายเห็นตรงกันว่า คอมพิวเตอร์เป็นเครื่องมือสำคัญที่จะเร่งความก้าวหน้าของมนุษย์ แต่เห็นต่างกันในเรื่องวิธีไปให้ถึงเป้าหมายนั้น
  • เมื่อผ่านการถกเถียง แนวคิดที่ว่าซอฟต์แวร์ไม่ใช่เพียงสินทรัพย์เชิงพาณิชย์ แต่เป็นระบบความรู้ที่แข็งแกร่งขึ้นเมื่อถูกแบ่งปัน ก็เริ่มมีน้ำหนักมากขึ้น
  • หลักการของ Stallman ที่ว่าต้องรับประกันเสรีภาพของผู้ใช้ในการศึกษา แก้ไข ปรับปรุง และแบ่งปันซอฟต์แวร์ ได้กลายเป็นรากฐานของ ขบวนการซอฟต์แวร์เสรี และโอเพนซอร์สในเวลาต่อมา

การพัฒนาแบบเปิดที่ GCC และ GNU/Linux พิสูจน์ให้เห็น

  • GCC ที่ Stallman สร้างขึ้น ทำหน้าที่แปลงโค้ดของโลกให้เป็นภาษาเครื่องที่คอมพิวเตอร์รันได้ และได้กลายเป็นโปรแกรมแกนหลักที่ยังใช้งานมาจนถึงปัจจุบัน
    • ความสำเร็จนี้เกิดขึ้นได้ไม่ใช่จากงานของบุคคลเพียงคนเดียว แต่จากการมีส่วนร่วมของผู้คนหลายพันคน
  • GNU/Linux ซึ่งถือกำเนิดจากจิตวิญญาณการพัฒนาแบบเปิดเดียวกัน ปัจจุบันขับเคลื่อนอินเทอร์เน็ตเป็นส่วนใหญ่
  • สภาพแวดล้อมทางเทคโนโลยีสมัยใหม่พึ่งพาหลักการพัฒนาแบบเปิดและโอเพนซอร์สอย่างมาก

ผลของความเปิดกว้างต่อความปลอดภัยและการเรียนรู้

  • ในระยะแรก ข้อโต้แย้งสำคัญคือแนวคิด security through obscurity ที่มองว่าหากต้องการปกป้องคอมพิวเตอร์ให้ปลอดภัย ก็ต้องซ่อนซอฟต์แวร์ไว้
  • ซอฟต์แวร์ที่โปร่งใสเปิดโอกาสให้ชุมชนนักพัฒนาทั่วโลกค้นพบและแก้ไขปัญหาได้ ขณะที่ซอฟต์แวร์แบบปิดต้องหวังว่าไม่มีใครจะสามารถมองลึกเข้าไปภายในได้มากพอ
  • ชุมชนโอเพนซอร์สช่วยเผยแพร่ความรู้เกี่ยวกับวิธีสร้างระบบ และยังทำหน้าที่เป็น ตำราโดยพฤตินัย ให้กับวิศวกรแต่ละรุ่นได้เรียนรู้
  • หากระบบล้ำสมัยทั้งหมดถูกปิดไว้ ก็แทบไม่มีอะไรให้เรียนรู้จากระบบที่ถูกล็อก ทำให้ยากต่อการฝึกฝนนักนวัตกรรมรุ่นถัดไป

ระบบนิเวศโอเพนซอร์สที่ค้ำจุนอุตสาหกรรมเทคโนโลยี

  • ความก้าวหน้าทางเทคโนโลยีตลอดหลายทศวรรษเกิดขึ้นจาก ระบบนิเวศที่ละเอียดอ่อน ซึ่งบริษัทเอกชน มหาวิทยาลัย และอาสาสมัครนับหมื่นคน ต่างร่วมกันสร้างฐานซอฟต์แวร์ที่แบ่งปันร่วมกัน
  • บริษัทที่ประสบความสำเร็จระดับโลกหลายแห่งสร้างรายได้จากการวางบริการของตนบนเทคโนโลยีแกนหลักที่เปิดเผย
  • ซอฟต์แวร์ผูกขาดก็มีบทบาทของมัน แต่โอเพนซอร์สคือรากฐานที่รับน้ำหนักของอุตสาหกรรมเทคโนโลยีสมัยใหม่ จึงไม่ควรปล่อยให้อ่อนแอลง

AI ที่ปิดตั้งแต่ระยะเริ่มต้น

  • AI ก็เป็นซอฟต์แวร์เช่นกัน แต่ โมเดลล้ำสมัย ที่ก้าวหน้าที่สุดกลับถูกปิดอย่างสมบูรณ์ และแนวโน้มการปิดก็ยิ่งเร็วขึ้น
  • ทางเลือกแบบเปิดที่ใช้งานได้จริงมีอยู่น้อย โมเดลปัจจุบันแม้จะยอดเยี่ยม แต่ยังไม่สมบูรณ์ และวิธีสร้างก็ยังไม่เป็นที่ลงตัว
  • หากปิดสาขาวิทยาศาสตร์ระยะเริ่มต้นที่ยังมีการค้นพบลึก ๆ รออยู่อีกมาก ความรู้ร่วมที่จำเป็นต่อความก้าวหน้าอาจหายไป
  • วิทยาศาสตร์ในมหาวิทยาลัยเติบโตมาได้ด้วยการเปิดเผยผลวิจัย และเปิดให้ทั่วโลกทำวิจัยต่อยอด
  • หากวิทยาศาสตร์ส่วนใหญ่ในอนาคตต้องพึ่งพา AI การกัก AI ไว้ภายในบริษัทไม่กี่แห่งก็เสี่ยงจะจำกัด ความก้าวหน้าทางวิทยาศาสตร์ ไปด้วย

ใครควบคุมห้องสมุดแห่งอนาคต

  • ห้องสมุดคือ ทรัพยากรร่วม ที่ทุกคนสามารถเข้าถึงความรู้สะสมของมนุษยชาติได้ฟรี
  • หากบริษัทไม่กี่แห่งเข้าซื้อห้องสมุดทั้งหมด กำหนดว่าอ่านหนังสือเล่มใดได้ และแอบแก้เนื้อหา ก็คงเป็นเรื่องที่ยอมรับได้ยาก
    • AI แบบปิดก็คล้ายห้องสมุดแห่งอนาคตที่เข้าถึงได้เฉพาะตามเงื่อนไขที่เจ้าของกำหนด
  • เมื่อบริษัทไม่กี่แห่งกำหนดขอบเขตที่โมเดลอนุญาต หรือปรับวิธีที่โมเดลสร้างคำตอบ ผู้ที่พึ่งพาโมเดลก็จะไม่อาจเข้าใจผลลัพธ์ได้อย่างสมบูรณ์
    • แพทย์ที่ใช้โมเดลช่วยวินิจฉัย
    • วิศวกรที่มอบหมายงานออกแบบให้โมเดล
    • ผู้พิพากษาที่อ้างอิงโมเดลในการตัดสิน
    • รวมถึงผู้ใช้ทั่วไปที่ถามว่าควรเชื่ออะไร ล้วนเผชิญปัญหาเดียวกัน

คำอธิบายของโมเดลไม่ใช่บันทึกตรวจสอบ

  • ต่อให้โมเดลบอกเหตุผลได้ คำอธิบายกับการตรวจสอบ (audit) ก็ไม่ใช่สิ่งเดียวกัน
  • เหตุผลที่โมเดลให้มาไม่ใช่บันทึกที่ซื่อสัตย์ของการคำนวณจริงที่สร้างคำตอบ แต่เป็นเรื่องเล่าที่ฟังดูสมเหตุสมผลซึ่งถูกประกอบขึ้นหลังจากได้ผลลัพธ์แล้ว
  • หากปีหน้าถามคำถามเดิมแล้วได้คำตอบต่างออกไป ก็อาจไม่มีวิธีตรวจสอบได้ว่าโลกเปลี่ยนไปจริง หรือผู้ให้บริการเป็นคนเปลี่ยนโมเดล
  • ผู้ใช้ที่พึ่งพาระบบเช่นนี้จึงไม่ได้ใช้เครื่องมือที่ตนเข้าใจ แต่กลับต้องเชื่อใน ระบบคล้ายคำพยากรณ์ ที่ไม่สามารถตรวจสอบภายในได้

ความเสี่ยงที่ AI แบบเปิดและแบบปิดสร้างขึ้น

  • ข้อโต้แย้งที่ว่า AI อันตรายเกินกว่าจะเปิดเผยนั้นเป็นเรื่องที่ควรพิจารณาอย่างจริงจัง
  • งานวิจัยอธิบายความสามารถ แต่ซอฟต์แวร์ AI พื้นฐานนั้นคือตัว ความสามารถ เอง จึงมีความไม่สมมาตรที่แท้จริงระหว่างการเปิดเผยงานวิจัยทั่วไปกับการเปิดเผย AI
  • ถึงอย่างนั้น ความปิดก็ไม่ใช่คำตอบที่หลีกเลี่ยงไม่ได้
    • การค้นพบทางวิทยาศาสตร์ก็อาจถูกนำไปใช้ในทางที่ผิดได้ แต่แทนที่จะทำให้วิชาฟิสิกส์ทั้งหมดเป็นความลับ เรากลับใช้การกำกับดูแลและกฎเกณฑ์ควบคู่กับการเปิดเผยความรู้พื้นฐาน
    • โมเดลแบบปิดก็อาจรั่วไหลหรือถูก jailbreak ได้ จึงไม่ได้ปลอดภัยเพียงเพราะมันถูกปิดไว้
  • การรวมศูนย์อำนาจ ที่เปิดทางให้บริษัทไม่กี่แห่งตัดสินว่า สังคมที่เหลือจะสร้างอะไรได้บ้าง ก็เป็นความเสี่ยงอีกแบบหนึ่ง
  • เกณฑ์ในการตัดสินจึงไม่ใช่ว่าโมเดลเปิดไม่มีความเสี่ยงเลยหรือไม่ แต่คือมันก่อให้เกิดความเสี่ยงเพิ่มเติมอย่างมีนัยสำคัญเหนือกว่าความสามารถที่มีใช้อยู่แล้วหรือไม่

ความต่างระหว่างโค้ดสำหรับรันกับโค้ดสำหรับสร้าง

  • เบื้องหลังโมเดลมี โค้ดสองประเภท คือโค้ดที่ใช้รันโมเดล และโค้ดที่ใช้สร้างโมเดล
  • การรันโมเดลได้โดยตรงก็มีประโยชน์ แต่สิ่งที่สำคัญกว่าสำหรับความโปร่งใสคือโค้ดสำหรับการสร้างและข้อมูลฝึกที่แสดงให้เห็นว่าโมเดลถูกสร้างขึ้นอย่างไร
  • โมเดลที่ถูกเรียกว่าเปิดในปัจจุบันจากสถาบันวิจัยใหญ่ของจีนและบางบริษัทในสหรัฐฯ มักให้โค้ดสำหรับรัน แต่ไม่เปิดเผยโค้ดสำหรับสร้างและข้อมูลฝึก
  • สิ่งที่ผู้ใช้ได้รับคือชุดตัวเลขขนาดมหึมาที่สร้างสติปัญญาขึ้นมาได้ แต่ไม่อาจรู้กระบวนการก่อร่างของมัน เป็น ตัวเลขมหัศจรรย์ ที่แม้จะรันได้ก็อธิบายไม่ได้
  • แม้แต่การเปิดเผยโค้ดสำหรับรันก็ไม่ใช่คำมั่นระยะยาว หากเป็นเพียงความกรุณาตามดุลยพินิจของบริษัท และไม่มีหลักประกันว่าโมเดลที่ทรงพลังที่สุดในอนาคตจะยังถูกเปิดเผยต่อไป
  • ความเปิดกว้างที่หยุดได้ทุกเมื่อไม่อาจเป็นรากฐานได้ จึงต้องมีทั้งสองอย่าง
    • โมเดลเปิด ที่ทุกคนใช้และต่อยอดได้
    • ซอร์สโค้ดและข้อมูลฝึกแบบเปิด ที่ทุกคนตรวจสอบกระบวนการสร้างได้

การลงทุนใน AI โอเพนซอร์สในฐานะสาธารณประโยชน์

  • ประเด็นนี้ไม่ได้คัดค้านการมีอยู่ของบริษัท AI หรือ AI ภาคเอกชน แต่ AI เอกชนแบบปิดไม่ควรกลายเป็นทางเลือกเพียงหนึ่งเดียว
  • AI ภาคเอกชนในสหรัฐฯ ได้รับการสนับสนุนมากพออยู่แล้ว ขณะที่ AI โอเพนซอร์สมีฐานผู้สนับสนุนที่อ่อนแอกว่า จึงเสี่ยงถูกละเลยจากนโยบายและการลงทุนได้ง่าย
  • โมเดลล้ำสมัยอาจยังคงมีขนาดใหญ่ขึ้นและมีต้นทุนสูงขึ้น ทำให้การแข่งขันในระดับนั้นอาจยังเป็นสนามของบริษัทยักษ์ใหญ่
  • แต่การที่ AI โอเพนซอร์สจะมีประโยชน์ ไม่ได้หมายความว่าต้องมีขนาดเท่าโมเดลล้ำสมัยเสมอไป และงานจำนวนมากที่โลกต้องการอาจไม่จำเป็นต้องใช้ประสิทธิภาพระดับแนวหน้าสุดแบบนั้น
  • หากการรักษาทางเลือกแบบเปิดที่เชื่อถือได้ต้องใช้ทรัพยากรคอมพิวต์จำนวนมาก นั่นก็เป็น สาธารณประโยชน์ ที่คุ้มค่าต่อการลงทุน
  • รัฐบาล ภาคเอกชน และองค์กรไม่แสวงกำไรควรลงทุนใน AI เสรีและโอเพนซอร์สอย่างจริงจัง
    • จัดให้มี เงินอุดหนุนคอมพิวต์สาธารณะ สำหรับงานวิจัยแบบเปิด
    • สนับสนุนเงินทุนจากภาคธุรกิจและการกุศลแก่มหาวิทยาลัยและองค์กรไม่แสวงกำไรที่ทำวิจัยด้านนี้
    • นำหลักการที่ว่า AI ที่สร้างด้วยเงินทุนสาธารณะควรเปิดเผยโดยปริยายมาใช้
  • แนวทางที่เคยใช้ลงทุนในโอเพนซอร์สซอฟต์แวร์เพื่อขับเคลื่อนความก้าวหน้าทางเทคโนโลยี ควรถูกสานต่อในโลก AI ด้วย

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 5 시간 전
ความคิดเห็นจาก Hacker News

  • บริษัท AI เอกชนฝึกโมเดลด้วยข้อมูลที่แทบจะถูกยึดไปจากทุกคน และยังสร้างความเสี่ยงใหญ่หลวงด้วย ดังนั้นควรบังคับให้เผยแพร่โมเดลในรูปแบบ ค่าน้ำหนักแบบเปิด ภายใต้ไลเซนส์สำหรับการใช้งานที่ไม่ใช่เชิงพาณิชย์
    นี่ควรเป็นแกนหลักของนโยบายความปลอดภัย ไม่ใช่การยึดกุมกฎระเบียบที่ Dario กำลังผลักดัน

    • ไม่รู้ว่าข้อกล่าวหาว่าขโมยข้อมูลมีบรรทัดฐานอะไรรองรับบ้าง ตลอด 20 ปีที่ผ่านมา คนที่บล็อกโฆษณา สะสมหนังและเพลงละเมิดลิขสิทธิ์ขนาด 5TB พร้อมพูดว่า “จะไม่มีวันจ่ายเงินให้ไฟล์ดิจิทัล” ตอนนี้กลับกล่าวหาว่าเป็นการขโมยเมื่อโมเดลภาษาขนาดใหญ่ทำนายโทเค็นถัดไปจากชุดข้อมูล
      ถ้าคุณโกรธจริง ๆ กับการฝึกโดยใช้ข้อมูลทั้งหมดที่หาได้โดยไม่มีค่าตอบแทน ก็พูดได้แค่ว่า ทำตัวเองทั้งนั้น
    • เห็นด้วย โดยเฉพาะตอนนี้ที่คู่แข่งจะได้ข้อได้เปรียบแบบเดียวกันยากขึ้นแล้ว แม้ไม่จำเป็นต้องเปิดเผยทันทีหรือปล่อยไปจนถึงรายละเอียดการ fine-tune แต่อย่างน้อยก็ควรเปิดเผย ค่าน้ำหนักของโมเดลพื้นฐาน
    • ในความเสี่ยงบางประเภท เช่น ความเสี่ยงที่มันจะบอกขั้นตอนการทำอาวุธชีวภาพติดเชื้อแบบทีละขั้น ค่าน้ำหนักแบบเปิด อาจยิ่งเพิ่มความอันตรายได้
    • เป็นแนวคิดที่น่าสนใจ แต่ถ้าเป็นแบบนั้น จีนก็จะสร้างโมเดลระดับเดียวกับเราได้ทันทีไม่ใช่หรือ? มูลค่าทางเศรษฐกิจของการลงทุนฝึกโมเดลก็อาจลดลงอย่างมากด้วย
    • ทำไมต้อง ห้ามใช้งานเชิงพาณิชย์? บริษัทเหล่านี้ก็ไม่ได้ทำงานต้นน้ำที่ยากลำบากอะไรเอง การที่เรายอมให้พวกเขาแปรทรัพยากรร่วมให้เป็นของเอกชนแบบนี้ต่างหากที่น่าอับอาย

  • จำเป็นต้องร่วมกันสนับสนุน เงินรางวัลจูงใจแบบมีเป้าหมาย สำหรับโมเดลเปิด ตามแนวทางของ Michael Kremer ผู้ได้รับรางวัล Nobel
    ทุก 6–12 เดือน จ่าย 200,000 ดอลลาร์ให้โมเดลแรกที่ผ่านเกณฑ์ใน benchmark ยาก ๆ 5–10 รายการ และ benchmark ปิดอีกหนึ่งรายการ โดยแบ่งตาม 16GB, 32GB, 64GB, 128GB VRAM พร้อมความยาว context อย่างน้อย 200K แล้วในรอบถัดไปก็ยกระดับเกณฑ์ให้สูงขึ้น วิธี quantization ใช้แบบใดก็ได้ แต่ต้องใช้ VRAM ตามนั้นเป๊ะบนฮาร์ดแวร์อ้างอิง และห้ามล้นไปใช้ RAM หรือดิสก์
    เงินทุนอาจระดมแบบ crowdfunding และเพิ่มเงินรางวัลที่เจาะความต้องการขององค์กร เช่น การประมวลผล PDF เพื่อช่วยอุดหนุนข้ามกันได้ เช่น ส่ง 25% ของเงินรางวัลองค์กรเข้ากองรางวัลทั่วไป สำหรับบริษัทโมเดลเปิด เงินก็มีประโยชน์ แต่ การรับรองอย่างชัดเจน ที่ช่วยให้โมเดลโดดเด่นและเพิ่มการใช้งานอาจมีค่ามากกว่า

    • จำได้ว่ารัฐบาลเกาหลีเคยจัดการแข่งขันคล้าย ๆ กัน ปีที่แล้วมีหลายโมเดลถูกปล่อยออกมาพร้อมกันเพื่อเข้ารอบถัดไป แต่ตัวโมเดลเองไม่ได้โดดเด่นเป็นพิเศษ
      การแบ่งระดับฮาร์ดแวร์ที่ชัดเจนเป็นจุดแตกต่างที่ดี แต่ benchmark ต้องเป็นแบบปิดเท่านั้น การสร้างและดูแลชุดประเมินที่ดีในแต่ละขั้นเป็นงานยาก แม้แต่การประเมินภายในห้องแล็บที่ซื่อสัตย์ก็ตาม และเพื่อความน่าเชื่อถือ ต้องเปิดเผยชุดนั้นหลังจบแต่ละรอบแล้วสร้างชุดประเมินใหม่ครั้งต่อไป ทำได้ก็จริง แต่ ต้นทุนการจัดการการประเมิน อาจสูงกว่าเงินรางวัลรวม และต้องทำซ้ำไปเรื่อย ๆ
    • ถึงจะฝึกโมเดลระดับแนวหน้าไม่ได้ แต่ถ้าเป็น ระดับ 16GB ผมก็น่าจะลองเข้าร่วมได้ ฟังดูน่าสนุก โมเดลแนวหน้าตอนนี้เกินคลาสนี้ไปไกลมาก จึงน่าจะยังมีเทคนิค optimization อีกมากที่ไม่เคยถูกพิจารณา
    • ควรเพิ่ม ข้อกำหนดด้านการทำซ้ำได้ และไม่ควรรักษา benchmark ชุดเดิมแบบเหมือนเดิมทุกประการไว้นานเกินไป
    • เงิน 200,000 ดอลลาร์อาจไม่พอแม้แต่จะจ่าย ค่าไฟฟ้า สำหรับการฝึก

  • FOSS เป็นการเปรียบเทียบที่ผิด การสร้างโมเดลภาษาขนาดใหญ่ระดับแนวหน้าโดยหลักแล้วใกล้เคียงกับ โครงการวิจัยทางวิทยาศาสตร์ มากกว่าสาขาวิศวกรรม
    โครงการวิจัยที่ดำเนินแบบโอเพนซอร์สโดยพฤตินัยก็มีอยู่ รวมถึงมหาวิทยาลัยและโครงการใหญ่ ๆ อย่าง CERN AI เองก็เติบโตจากมหาวิทยาลัยเช่นกัน แต่ปรากฏแล้วว่าเงินทุนที่จำเป็นระดมได้จากภาคเอกชนเท่านั้น
    โครงการวิจัย AI สาธารณะที่จริงจังก็เป็นไปได้ แต่คงไม่ใช่แค่เพิ่มงบวิจัยมหาวิทยาลัยเล็กน้อย หากจะใกล้เคียงกับ โครงการ Manhattan หรือโครงการ Apollo ซึ่งแล็บแนวหน้าต่างก็ถือเป็นแบบอย่างอยู่แล้ว

    • ต้นทุนรวมของโครงการ Manhattan เมื่อปรับตามเงินเฟ้ออยู่ที่ประมาณ 40,000 ล้านดอลลาร์ แต่การระดมทุนล่าสุดเพียงครั้งเดียวของ Anthropic ก็ได้ 65,000 ล้านดอลลาร์
      ต้นทุนรวมของโครงการ Apollo ในช่วงสงครามเย็นพีคสุด มีมูลค่าปัจจุบันประมาณ 300,000 ล้านดอลลาร์ ซึ่งใกล้เคียงกับจำนวนเงินที่ OpenAI และ Anthropic ระดมทุนรวมกันจนถึงตอนนี้ น่าสงสัยว่ารัฐบาลในสภาพแวดล้อมทางการเมืองและเศรษฐกิจปัจจุบันจะสนับสนุนเงินระดับนี้ให้ AI ได้หรือไม่ เมื่อเทียบกันแล้ว LHC ใช้เงินไม่ถึง 10,000 ล้านดอลลาร์ด้วยซ้ำ แต่กินเวลายาวนานกว่ามาก
    • มองอีกแบบ งานวิจัย AI พัฒนามาจากมหาวิทยาลัย และเพิ่งช่วงหลังนี่เองที่ภาคเอกชนมองเห็น โอกาสทำกำไร เมื่อผสานเข้ากับเทคโนโลยี CPU·GPU สมัยใหม่
      อาจฟังเหมือนความหมายเดียวกัน แต่มุมมองต่างกัน ถ้าเป็นโครงการวิจัยเชิงวิชาการ ก็คงไม่ใช้เงินหลายพันล้านดอลลาร์กับศูนย์ข้อมูลเพื่อให้ AI แก่ประชาชนทั่วไปฟรี

  • เราลงทุนใน AI โอเพนซอร์สอยู่แล้ว แต่ไม่มีอะไรที่ฟรีจริง ๆ นักพัฒนาที่ทำงานเป็นอาชีพหลักและได้รับค่าตอบแทนใน AI เชิงพาณิชย์ มักได้เปรียบอยู่ดี และความหวังดีกับการมีส่วนร่วมแบบพาร์ตไทม์ยากจะเอาชนะแรงจูงใจด้านการเลี้ยงชีพและกำไรได้อย่างมั่นคง

    • คำพูดแบบเดียวกันเคยถูกใช้กับซอฟต์แวร์ขนาดใหญ่และซับซ้อนอย่างระบบปฏิบัติการ ฐานข้อมูล และคอมไพเลอร์ แต่เมื่อเวลาผ่านไป ซอฟต์แวร์โอเพนซอร์ส กลับครองตำแหน่งเด่นมากขึ้นเรื่อย ๆ
    • ปัญญาประดิษฐ์ทั่วไป (AGI) ไม่ใช่ซอฟต์แวร์
      หาก Altman, Amodei, Zuckerberg และ Musk ทั้งสี่คนที่ควบคุมโมเดลปิดระดับแนวหน้าแทบจะผูกขาด ไม่ได้หลอกนักลงทุน แต่กำลังสร้าง AGI จริง ๆ ทางเลือกที่โมเดลปิดเหลือไว้ก็มีเพียงรัฐบาลที่ทรงอำนาจ หรือกลุ่มผูกขาดไม่กี่ราย/ระบอบกษัตริย์ที่ทรงอำนาจเท่านั้น
      Musk และ Zuckerberg มีอำนาจสั่งการเชิงโครงสร้างอยู่แล้ว Altman หลังจากกำจัดคู่แข่งและแปรรูปเป็นเอกชนแล้ว ก็แทบจะได้อำนาจสั่งการและความภักดีขององค์กรไว้ในมือ ส่วน Amodei มีอิทธิพลมากพอจนมีโอกาสพลิกโครงสร้างการปกครองปัจจุบันได้

  • การที่ซอฟต์แวร์เป็นซอร์สปิดไม่ได้หมายความว่าจะแบ่งปันความรู้ไม่ได้ เราสามารถอธิบายรูปแบบสถาปัตยกรรมหรือแนวปฏิบัติที่ดีได้โดยไม่ต้องเห็นโค้ดพื้นฐาน
    อุปมาห้องสมุดจะตรงก็ต่อเมื่อผู้ให้บริการโมเดลภาษาขนาดใหญ่ต้องปฏิเสธการตอบคำถามเกี่ยวกับ reinforcement learning หรือ Transformer
    ผมสนับสนุนโมเดลแบบซอร์สเปิด·ค่าน้ำหนักเปิดอย่างแรง แต่เหตุผลหลักคือผมเห็นว่ามันเป็น ผลิตภัณฑ์ที่ดีกว่า ต้นทุนการฝึกและการรันถูกกว่ามาก และงานส่วนใหญ่อาจไม่จำเป็นต้องใช้ปัญญาระดับแนวหน้า หากปล่อยให้ตลาดจัดการ โมเดลภาษาขนาดใหญ่จะคล้ายกับภาษาโปรแกรม และแล็บขนาดใหญ่น่าจะทำเงินจากการ fine-tune ให้เหมาะกับการใช้งานเฉพาะหรือการ deploy ให้ลูกค้า

    • ไม่ควรปล่อยให้ตลาดจัดการอย่างเดียว ลูกค้าไม่ได้เลือก ตัวเลือกที่ดีที่สุดทางเทคนิคหรือถูกที่สุด เสมอไป

  • ตามตรรกะที่ใช้ผลักดัน AI แค่ prompt สำหรับโมเดลภาษาขนาดใหญ่ที่คัดมาอย่างดีไม่กี่รายการก็น่าจะทำซ้ำงานของนักพัฒนาโอเพนซอร์สได้ แล้วทำไมเราต้องให้ทุนพวกเขา? ไม่ใช่ว่า บริษัท AI ควรให้ทุน FOSS เพื่อให้มันจดจำวิธีแก้ปัญหาได้มากขึ้นหรอกหรือ

  • แค่ตัดคำว่า “AI” ออกจากชื่อเรื่องก็พอ รัฐบาล·บริษัท·องค์กรไม่แสวงกำไร ควรลงทุนในเสรีและโอเพนซอร์ส

  • อุปมาห้องสมุดเองก็เข้าเค้าอยู่ แต่ส่วนที่ชวนอึดอัดคือ โมเดลเปิด ส่วนใหญ่จริง ๆ แล้วใกล้เคียงกับการได้รับไบนารีที่คอมไพล์แล้ว มากกว่าการได้รับห้องสมุด

  • หากสาธารณชนต้องการคงอำนาจควบคุมไว้แม้เพียงเล็กน้อย สหกรณ์ที่สมาชิกเป็นเจ้าของ อาจเป็นหนทางข้างหน้า

  • David Siegel เคยกล่าวไว้เมื่อราว 2 ปีก่อนในบรรยาย https://youtu.be/0z60xUDo-NI?si=PTDe11-sn2P53qo5&t=420 ว่าการขยายศูนย์ข้อมูล AI ยังเร็วเกินไป
    เขาเปรียบว่า ต่อให้แนวทางปัจจุบันยังขยายขนาดต่อไปได้ ก็เหมือนยุคแรกของคอมพิวเตอร์ที่มีใครสักคนคิดอัลกอริทึม O(n²) อย่าง bubble sort สำหรับเรียงตัวเลขขึ้นมา แล้วบริษัทเทคโนโลยีกลับจะสร้างศูนย์ข้อมูลยักษ์เพื่อเรียงตัวเลขก่อน แทนที่จะหาแนวทาง O(n log n) เป็นคำพูดที่ถูกต้องเต็ม ๆ และถูกต้องกับ AI โอเพนซอร์สด้วย

    • ลองถาม Amodei ดูว่าตอนนี้เขาคิดอย่างไรกับการที่เคยไปหาแม้กระทั่งสิ่งที่เรียกว่า วายร้ายนักบินอวกาศ เพื่อให้ได้ทรัพยากรประมวลผลที่หาไม่ได้จากที่ใดในตลาด