เหตุใดข้อโต้แย้งที่คัดค้าน AI โอเพนซอร์สจึงไม่น่าเชื่อถือ

 (tombedor.dev)
1 คะแนน โดย GN⁺ 3 시간 전 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • หลังการเปิดตัว Kimi K3 เสียงที่มองว่า AI โอเพนซอร์สเป็นภัยคุกคามอันตรายดังขึ้นมาก แต่ ซอฟต์แวร์แบบปิดก็ถูกสร้างอยู่บนฐานของโอเพนซอร์ส และโมเดล AI เองก็เป็นผลิตภัณฑ์ซอฟต์แวร์แบบเดียวกัน
  • บริษัทเชิงพาณิชย์มักพัฒนาส่วนประกอบชั้นล่างที่ไม่สร้างความแตกต่างร่วมกัน แล้วไปแข่งขันกันที่ผลิตภัณฑ์ชั้นบน ดังนั้นโมเดล AI ก็อาจกลายเป็น สินค้าโภคภัณฑ์ทั่วไป ได้ แต่ห้องแล็บ frontier มีแรงจูงใจที่จะไม่ต้องการให้เป็นเช่นนั้น
  • เช่นเดียวกับกรณีของ PGP และ SSL การสกัดกั้นซอฟต์แวร์โอเพนซอร์สทำได้ยากมาก และถึงจะพยายามกำกับดูแลโมเดลจากจีน ก็ทำให้เกณฑ์เรื่องสัญชาติกำกวมขึ้นเพราะการกลั่นแบบ distillation และการ fine-tuning จนอาจ จำกัดเฉพาะผู้ใช้ในสหรัฐฯ
  • Nvidia, สตาร์ตอัปสหรัฐฯ, ผู้ใช้ AI ในองค์กร และ Google·Meta ต่างก็มีแรงจูงใจทางธุรกิจของตนเองในการพัฒนาโมเดลโอเพนซอร์ส และโมเดลฟรีสามารถเป็น ทรัพยากรของการเปลี่ยนผ่านสู่ AI ที่ช่วยให้รัฐดูดซับเทคโนโลยีใหม่และขยายเศรษฐกิจได้
  • ข้อโต้แย้งที่กังวลเรื่องการทุ่มตลาด การโฆษณาชวนเชื่อ และ backdoor จากจีน มองข้ามความจริงที่ว่าซอฟต์แวร์สามารถคัดลอก แก้ไข และตรวจสอบได้ และ AI โอเพนซอร์สมีแนวโน้มสูงที่จะ แพร่กระจายต่อไปแม้มีความพยายามเชิงนโยบายในการสกัดกั้น

วิธีที่โอเพนซอร์สค้ำจุนซอฟต์แวร์เชิงพาณิชย์

  • Dean Ball แห่ง OpenAI มองว่าหากโมเดล open-weight ครองตลาด อาจเกิด “AI communism” ที่ทำให้ AI กลายเป็นสาธารณูปโภคสาธารณะ ไม่ใช่สินค้าตลาด
  • ตรรกะของห้องแล็บ frontier คือโมเดลโอเพนซอร์สมีความเสี่ยง จึงควรให้เข้าถึงได้เฉพาะ gatekeeper ที่รับผิดชอบและผู้ใช้ที่เชื่อถือได้ แต่ในความเป็นจริง ซอฟต์แวร์แบบปิดทั้งหมดถูกสร้างอยู่บนโอเพนซอร์ส
  • ผลิตภัณฑ์ซอฟต์แวร์มีโครงสร้างแบบหลายชั้นของโปรแกรมจำนวนมากซ้อนกัน
    • หากจะสร้างบริการอย่าง Uber ก็ต้องมีส่วนประกอบมากมาย เช่น เฟรมเวิร์กของภาษาโปรแกรม ซอฟต์แวร์รับส่งทราฟฟิกเว็บ เครื่องมือวิเคราะห์ข้อมูล เป็นต้น
    • ส่วนประกอบชั้นล่างเหล่านี้ส่วนใหญ่ไม่ใช่จุดสร้างความแตกต่างของบริษัท จึงคุ้มค่ากว่าที่จะพัฒนาร่วมกัน แล้วไปแข่งขันกันที่ ชั้นบนซึ่งเป็นจุดที่เกิดความแตกต่างจริง
  • ห้องแล็บ frontier ไม่ต้องการให้โมเดล AI กลายเป็นส่วนประกอบทั่วไปที่แพร่หลายจนไม่จำเป็นต้องแข่งขันกัน แต่ในทางปฏิบัติจะเป็นเช่นนั้นหรือไม่ยังไม่ถูกกำหนดไว้
  • ในที่นี้ โมเดลโอเพนซอร์ส หมายถึงโมเดล open-weight

เหตุใดการสกัดกั้นโอเพนซอร์สจึงทำได้ยาก

  • ซอฟต์แวร์โอเพนซอร์สสกัดกั้นได้ยากอย่างยิ่ง และความพยายามสกัดกั้นอาจทำให้บริษัทในประเทศอ่อนแอลงเมื่อเผชิญกับคู่แข่งต่างชาติ
  • ตอนที่ Phil Zimmermann สร้าง PGP ในปี 1991 รัฐบาลสหรัฐฯ มองการเข้ารหัสเป็นเทคโนโลยีทางทหารและเริ่มการสอบสวนทางอาญาต่อ Zimmermann
  • เมื่อ Netscape พัฒนา SSL รัฐบาลสหรัฐฯ อนุญาตให้แจกจ่ายไปต่างประเทศได้เฉพาะเวอร์ชันที่ถูกทำให้อ่อนแอลง
    • เวอร์ชันสากลที่อ่อนแอกว่ากลับแพร่กระจายได้ง่ายกว่า ทำให้ชาวอเมริกันจำนวนมากใช้งานเวอร์ชันนี้ด้วย
    • การควบคุมการส่งออกไม่ได้หยุดการแพร่หลายของการเข้ารหัส และกลับส่งผลเสียต่อชาวอเมริกันเอง
  • เครื่องมือเข้ารหัสรวมถึง SSL และ PGP ยังคงถูกใช้งานทั่วโลก และศาลตัดสินว่าการเผยแพร่ซอร์สโค้ดสำหรับการเข้ารหัสเป็นการแสดงออกที่ได้รับความคุ้มครอง
  • หลังจากนั้นรัฐบาลสหรัฐฯ ก็ผ่อนคลาย การควบคุมการส่งออกการเข้ารหัส

เหตุใดการกำกับเฉพาะโมเดลจากจีนจึงทำได้ยาก

  • เกณฑ์ในการตัดสินสัญชาติของโมเดลนั้นกำกวมอยู่แล้ว
    • ไม่ชัดเจนว่าโมเดลที่กลั่นจากโมเดลสหรัฐฯ ควรถูกมองเป็นโมเดลจีนหรือไม่
    • และเมื่อชาวอเมริกันนำโมเดลจีนมา fine-tune ก็ไม่ชัดเจนว่าโมเดลนั้นเป็นของประเทศใด
  • การกำกับเช่นนี้อย่างมากที่สุดก็อาจสร้างเพียง ภาระทางธุรการชั่วคราวและการเข้าถึง AI ที่จำกัด ให้กับชาวอเมริกัน และทำให้เสียเปรียบประเทศอื่น

แรงจูงใจในการสร้าง AI โอเพนซอร์สนอกจีน

  • AI โอเพนซอร์สไม่ใช่เทคโนโลยีที่มีแต่รัฐบาลจีนเท่านั้นที่มีแรงจูงใจจะพัฒนา แต่ผู้เล่นเชิงพาณิชย์หลายกลุ่มก็อาจเข้าร่วมด้วยเหตุผลทางธุรกิจของตน

  • ผู้ผลิตชิป

    • Jensen Huang ซีอีโอของ Nvidia เรียกสิ่งที่ Nvidia สร้างว่า “โรงงานโทเค็น”
    • ไม่ว่าจะเป็นโมเดล frontier หรือโมเดลโอเพนซอร์สราคาถูกที่รันบนชิปของตน Nvidia ก็ต้องการสร้างความต้องการใช้โทเค็นให้มากที่สุด
    • บริษัทได้เปิดตัวตระกูล โมเดลโอเพนซอร์ส Nemotron ของตนเองด้วย
    • เงินทุนมหาศาลที่ทุ่มลงไปในการฝึกโมเดล frontier ก็เป็นประโยชน์ต่อ Nvidia แต่ในระยะยาวต่อให้ความต้องการโทเค็นเชิงพาณิชย์ถูกแทนที่ด้วยความต้องการโทเค็นจากโอเพนซอร์ส บริษัทก็ยังได้ประโยชน์

  • สตาร์ตอัปสหรัฐฯ

    • Thinking Machines Lab เปิดตัว Inkling โมเดลโอเพนซอร์สที่ทรงพลัง
    • บริษัทมองว่าหากโมเดลกลายเป็นสินค้าโภคภัณฑ์ทั่วไป ก็ยังสามารถสร้างความได้เปรียบทางการแข่งขันที่ป้องกันได้ผ่านบริการเสริมที่มาช่วยเติมเต็มหรือปรับแต่งโมเดล

  • ผู้ใช้ AI ในองค์กร

    • ตอนนี้ยังไม่ได้กระตือรือร้นกับการพัฒนา AI โอเพนซอร์สมากนัก แต่สำหรับงานที่ซับซ้อนต่ำ พวกเขาย่อมต้องการโมเดลที่ถูกกว่า
    • และสำหรับฟีเจอร์ที่ให้ลูกค้าใช้งาน ก็ต้องการอำนาจควบคุมที่ละเอียดมากขึ้น

  • บริษัทเทคโนโลยีขนาดใหญ่

    • Google และ Meta คงหลีกเลี่ยงไม่ได้ที่จะจับตา ผลิตภัณฑ์โฆษณา ใหม่ของ OpenAI
    • หากธุรกิจโฆษณาของโมเดล frontier เติบโตขึ้น ก็จะเกิดแรงจูงใจให้ทำให้โมเดลโอเพนซอร์สที่ไม่มีโฆษณากลายเป็นสินค้าโภคภัณฑ์ทั่วไป เพื่อกดการแข่งขันด้านโฆษณา

เป้าหมายที่กำกวมของ ‘การแข่งขันด้าน AI’

  • ความกังวลต่อโมเดลจากจีนมักมุ่งไปที่คำพูดว่า แพ้การแข่งขันด้าน AI แต่แม้แต่เป้าหมายเองก็ยังไม่ชัดว่าคือการสร้างโมเดลที่ดีที่สุด หรือการขายโทเค็นให้ได้มากที่สุด
  • การแข่งขันด้าน AI ไม่ได้เหมือนการส่งจรวดขึ้นไปถึงดวงจันทร์ก่อน แต่เป็นกระบวนการรับมือกับเทคโนโลยีใหม่ที่พลิกโฉม ดังนั้นจึงกำกวมพอ ๆ กับคำว่า “การแข่งขันด้านอินเทอร์เน็ต”
  • หากมีการแข่งขันระหว่างประเทศจริง แกนสำคัญก็คือความสามารถในการดูดซับการเปลี่ยนผ่านทางเทคโนโลยีและทำให้เศรษฐกิจเติบโต และในเกณฑ์นี้ โมเดล AI ฟรีไม่ใช่ภัยคุกคาม แต่เป็นข้อได้เปรียบ

ข้อโต้แย้งเรื่องการทุ่มตลาด AI ของจีน

  • Scott Galloway มองว่าจีนเคยยกระดับคุณภาพของแผงโซลาร์ เหล็ก รถยนต์ไฟฟ้า และแบตเตอรี่ให้เทียบตะวันตก แล้วลดราคาเหลือหนึ่งในสามจนยึดตลาดได้ และอาจใช้ยุทธศาสตร์เดียวกันกับ AI ฟรี
  • แต่ AI ยกเว้นชิปแล้ว ไม่ใช่สินค้าทางกายภาพ
    • แผงโซลาร์และเหล็กต้องพึ่งพาซัพพลายเชนทางกายภาพที่แต่ละขั้นอยู่โดดเดี่ยวได้ยาก
    • หากไม่ผลิตแผงโซลาร์ในประเทศ ก็ยากที่จะสร้างธุรกิจซิลิคอนเวเฟอร์สำหรับโซลาร์ได้เช่นกัน
  • ซอฟต์แวร์ต่างออกไป เพราะถึงจีนจะปล่อยโมเดลโอเพนซอร์สออกมา ก็ไม่ได้ขัดขวางธุรกิจ fine-tuning ของสหรัฐฯ และในทางกลับกันยังอาจถูกใช้เป็นฐานของธุรกิจดังกล่าวได้ด้วย

อคติทางโฆษณาชวนเชื่อและการแก้ไขโมเดล

  • การสมมติว่าโมเดลจากจีนอาจมี อคติฝักใฝ่จีน แฝงอยู่ไม่ใช่เรื่องไร้เหตุผล แต่ก็ยากจะใช้เป็นเหตุผลในการสกัดกั้น
  • หากอคติทางการเมืองของโมเดลโอเพนซอร์สเป็นปัญหา ผู้ใช้ในสหรัฐฯ ก็สามารถแก้ไขและแจกจ่ายใหม่เป็นโมเดลที่ “ทำให้เป็นอเมริกัน” ได้
  • ในตลาดสหรัฐฯ โมเดลที่บิดเบือนให้ฝักใฝ่จีนยากจะเอาชนะโมเดลฝักใฝ่อเมริกาที่มีประสิทธิภาพใกล้เคียงกันได้

ความสัมพันธ์ระหว่าง backdoor กับการตรวจสอบแบบเปิดเผย

  • AI ไม่ได้เปลี่ยนโครงสร้างพื้นฐานของตลาดช่องโหว่ โดยผู้มีความรับผิดชอบจะทำการอุดช่องโหว่ ขณะที่ผู้โจมตีจะหาประโยชน์จากมัน
  • หากจำกัดเครื่องมือของผู้มีความรับผิดชอบ ก็จะ เป็นประโยชน์ต่อผู้โจมตีฝ่ายเดียว
  • ในทางทฤษฎีเป็นไปได้ที่ผู้ไม่หวังดีจะฝังพฤติกรรมแบบปฏิปักษ์ที่ซ่อนอยู่ไว้ในโมเดล
  • ผู้มีความรับผิดชอบจึงต้องค้นหาพฤติกรรมเหล่านี้ให้เร็วที่สุด และวิธีที่มีประสิทธิภาพที่สุดคือทำให้ทุกคนสามารถตรวจสอบโมเดลได้

ความสามารถในการแข่งขันของโมเดล frontier และ coding agent

  • ไม่มีหลักประกันว่าผู้ให้บริการ frontier จะครองตลาดที่ไม่ใช่ frontier ด้วย
    • ในการพัฒนาโมเดลขนาดเล็ก การเข้าถึงเงินทุนมหาศาลมีความสำคัญน้อยกว่า
    • ผู้ให้บริการ frontier สามารถชี้นำผู้ใช้ไปสู่โมเดลที่แพงกว่าได้ จึงมีแรงจูงใจไม่มากนักที่จะพัฒนาโมเดลเล็กอย่างจริงจัง
  • การยึดติดกับ Claude Code และ Codex ก็คล้าย Coke กับ Pepsi คือเมื่อเลือกไปแล้วก็ไม่มีเหตุผลมากนักที่จะเปลี่ยน โดยมีเงื่อนไขว่าต้นทุนและคุณภาพใกล้เคียงกัน
  • coding agent ไม่มีความได้เปรียบทางการแข่งขันที่ป้องกันได้ และหากเกิดความไม่สะดวกเพียงเล็กน้อย เช่น ส่วนต่างราคา คุณภาพโมเดล หรือปัญหาความน่าเชื่อถือ ผู้ใช้ก็อาจย้ายไปใช้ agent อื่นได้

การแพร่กระจายของ AI โอเพนซอร์ส

  • AI โอเพนซอร์สทั้งทรงพลังและควบคุมได้ยาก จึงยากที่จะหยุดได้ด้วยเพียงความต้องการของผู้กำหนดนโยบายหรือผู้นำองค์กร
  • ความพยายามกดการแพร่กระจายอาจสร้างเสียงรบกวนชั่วคราวเท่านั้น แต่ ไม่อาจหยุดการมาถึงของ AI โอเพนซอร์สได้

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 3 시간 전
ความคิดเห็นจาก Hacker News

  • นี่ไม่ใช่ AI โอเพนซอร์ส จะเป็นโอเพนซอร์สได้ต้องมีซอร์สโค้ดของ Photoshop และไลเซนส์ OSI; ถ้าเผยแพร่แค่ไบนารีก็เข้าข่ายเป็นน้ำหนักโมเดลแบบเปิด และเว็บแอป SaaS ก็คือโมเดลปิดอย่าง GPT หรือ Opus/Fable
    โมเดลจีนที่เป็นประเด็นเพียงแค่อนุญาตให้รันไบนารีในสภาพแวดล้อมของตัวเองแทน API เท่านั้น ถ้าต้องการโอเพนซอร์สจริง ๆ ควรดูโปรเจกต์อย่าง OLMo 3: https://allenai.org/

    • เป็นความจริงที่ตอนนี้ในบรรดาโมเดลจีน ยังไม่มีตระกูลใดที่ให้ เอกสารอธิบายที่ทำซ้ำได้ ระดับ OLMo/Nemotron ซึ่งครอบคลุมโมเดล·ข้อมูล·เช็กพอยต์·การประเมิน·โค้ด และกระบวนการทั้งหมดของโมเดลฐาน/การให้เหตุผล/การทำตามคำสั่ง/RLVR
      แต่ก็มีองค์ประกอบกระจายอยู่ในหลายโปรเจกต์ เช่น MAP-Neo·YuLan-Mini สำหรับ pretraining ที่โปร่งใส และ DAPO/verl·Open-Reasoner-Zero สำหรับ reinforcement learning ด้านการให้เหตุผล การมี OLMo เวอร์ชันจีนออกมาเป็นแค่เรื่องของเวลา และเมื่อรวมความพยายามของภาครัฐทั่วโลกอย่าง Apertus ของสวิตเซอร์แลนด์และ LLM-jp-4 ของญี่ปุ่นแล้ว ภายในปี 2027 น่าจะมีเอกสารโอเพนซอร์สครบถ้วนที่ทำให้บุคคลทั่วไปสามารถทำซ้ำโมเดลระดับล้ำหน้าสุดอย่างน้อยในระดับปี 2023~2024 ได้
    • การมองว่า โมเดลน้ำหนักเปิด เหมือนกับไบนารีแบบปิดนั้นเหลวไหลมาก น้ำหนักเปิดสามารถ fine-tune ได้ แต่การแก้ไขไบนารีแบบปิดให้เหมาะกับวัตถุประสงค์นั้นยากกว่ามาก
    • AI โอเพนซอร์ส ทำได้ยาก แม้แต่โมเดลขนาดเล็กก็ต้องใช้ทรัพยากรมหาศาล ดังนั้นแนวทางของซอฟต์แวร์โอเพนซอร์สแบบดั้งเดิม ที่บุคคลหนึ่งสามารถสร้างแกนหลักของโครงสร้างพื้นฐานระดับโลกในเวลาว่าง จึงนำมาใช้ตรง ๆ ไม่ได้
      กลับใกล้เคียงกับงานวิจัยทางวิทยาศาสตร์มากกว่า จึงต้องมีเงินทุนสาธารณะและสถาบันที่น่าเชื่อถือมาบริหารจัดการ หวังว่า Allen AI จะทำหน้าที่นั้นได้ แต่ก็สงสัยว่าสหรัฐฯ กำลังมุ่งไปสู่การลงทุนที่จำเป็นสำหรับ AI เพื่อสาธารณประโยชน์หรือไม่ นอกจากนี้ Photoshop ก็ไม่เหมาะจะนำมาเปรียบเทียบกับโมเดลน้ำหนักเปิด เพราะสำเนา Photoshop ไม่สามารถแจกจ่ายอย่างถูกกฎหมายได้ แต่ GLM 5.2 แจกจ่ายได้ และถ้าจะเปรียบเทียบก็ควรยกแอปพลิเคชัน proprietary ฟรีมาเทียบ
    • ต้นทุนหลักของการสร้างซอร์สโค้ดคือเงินหลายล้านดอลลาร์ที่จ่ายให้วิศวกรซอฟต์แวร์ และ ซอฟต์แวร์โอเพนซอร์ส ก็ทำให้ผู้อื่นได้รับประโยชน์จากการลงทุนนั้น ต้นทุนหลักของโมเดล AI คือการฝึกที่มีมูลค่าหลายล้านดอลลาร์ และโมเดลเปิดก็ทำให้ผู้อื่นนำผลลัพธ์จากการลงทุนนั้นไปใช้ได้เช่นกัน
      ต่อให้ได้ข้อมูลฝึกและโครงสร้างทั้งหมดมา เวลาต้องการแก้โมเดลก็คงไม่ฝึกใหม่ตั้งแต่ต้น แต่จะ fine-tune พฤติกรรมที่ต้องการ เช่นเดียวกับที่เราเรียกซอฟต์แวร์ว่าโอเพนซอร์สเมื่อแก้ไขได้ โมเดลก็นับเป็นโมเดลเปิดได้หากสามารถ fine-tune ได้
    • เนื่องจากตรรกะบางส่วนของบทความพึ่งพาแนวคิดว่า “แค่แก้การฝึกก็พอ” การชี้ให้เห็น ข้อจำกัดของน้ำหนักเปิด จึงสมเหตุสมผล ถึงจะฝึกเพิ่มได้ แต่ไม่สามารถลบการฝึกเดิมออกไปได้ จึงยากที่จะอ้างอย่างเป็นธรรมว่า “ก็ฝึกใหม่ให้เหมาะกับสัญชาตินั้นได้”
      ในทางปฏิบัติ หากต้องการฝึกโมเดลที่เทียบเท่าตั้งแต่ต้น ก็จำเป็นต้องมีโอเพนซอร์สอย่างแท้จริง

  • ความกังวลเกี่ยวกับโมเดลจีนมักโฟกัสที่การ “ตามหลังในการแข่งขัน AI” แต่เป้าหมายที่บางคนพูดถึงคือการไปถึง ภาวะเอกฐาน รูปแบบหนึ่ง แม้ไม่เชื่อการตีความแบบนิยายวิทยาศาสตร์ ก็ยังมีข้อโต้แย้งที่เป็นจริงได้ว่า ความสำเร็จบางอย่างในการพัฒนา AI อาจกลายเป็นอาวุธทรงพลังยิ่งยวดโดยพฤตินัย
    Altman เองก็พูดอย่างเปิดเผยมาโดยตลอดว่าสุดท้ายสิ่งนั้นจะเกิดขึ้น และเขาอยากเป็นคนสร้างมันขึ้นมา ต่อให้ไม่ใช่ superintelligence แค่เครื่องจักรสามารถโจมตีช่องโหว่ด้านไซเบอร์ซีเคียวริตี้ได้ ก็เพียงพอให้รัฐบาลกังวลแล้ว และรัฐบาลสหรัฐฯ ช่วงหลังก็ใช้เหตุผลลักษณะนี้ตอนสั่งแบนโมเดลของสหรัฐฯ ด้วย แม้ไม่เชื่อเรื่องภาวะเอกฐาน ก็เข้าใจได้ไม่ยากว่าบางคนมองสิ่งนี้เป็นเป้าหมายของการแข่งขัน AI

    • ถ้า AI กลายเป็น อาวุธทรงพลังยิ่งยวด แล้วทำไมต้องไว้วางใจให้บริษัทเอกชนเป็นเจ้าของ? หากดาวน์โหลดได้แบบสาธารณะ ก็ไม่มีเหตุผลที่จะห้ามเฉพาะพลเมืองสหรัฐฯ เข้าถึง
    • ถ้าพวกเขาจะเอาชีวิตจริงไปบดแลกกับความเป็นไปได้อันเลือนรางของการรู้แจ้งและการยกตนเป็นเทพ ก็ดูเหมือนว่าพวกเขาต้องการ ความช่วยเหลือจากผู้เชี่ยวชาญ
    • เหตุการณ์ OpenAI/Hugging Face พิสูจน์ถึง ความจำเป็นของโมเดลแบบเปิด Hugging Face ระบุในการวิเคราะห์หลังเหตุการณ์ว่า พวกเขาระบุได้อย่างรวดเร็วว่าต้นตอภัยคุกคามมาจาก AI ขั้นสูง และพยายามใช้โมเดลล้ำสมัยวิเคราะห์ข้อมูล telemetry ระยะไกลที่น่าสงสัย แต่ล้มเหลวเพราะกลไกความปลอดภัยของโมเดล
      แทนที่จะเป็นเช่นนั้น พวกเขารัน GLM ที่ไม่มี guardrail แบบนั้นเพื่อวิเคราะห์ข้อมูลและหาสาเหตุรากได้ บริษัทจำเป็นต้องมีโมเดลที่มี guardrail น้อยที่สุดด้วยจึงจะประเมินภัยคุกคามได้อย่างถูกต้อง หากไม่มี AI น้ำหนักเปิดไว้ตรวจสอบ AI ล้ำสมัยที่ควบคุมไม่ได้ วิธีรับมือก็จะหายไปด้วย
    • คนแบบนั้นอาจไม่ได้เรียนรู้ การคิดเชิงระบบ หรือไม่สามารถนำไปประยุกต์กับข้อเท็จจริงที่ว่า AI ไม่ใช่ระบบปิด
    • โดยรวมเห็นด้วยกับประเด็นหลัก แต่ถ้าตะวันตกสร้าง “AI ขั้นสูงสุด” ขึ้นมาได้ ก็มีแนวโน้มว่าจะพัฒนาด้วยเงินจากนักลงทุนเอกชนหลายราย แม้แต่จีนก็คงต้องพึ่งนักลงทุนที่คาดหวังผลตอบแทน และพวกเขาต้องการ ผลประโยชน์ที่แบ่งปันได้ มากกว่าภาวะเอกฐานเพียงหนึ่งเดียวที่แบ่งไม่ได้
      นักลงทุนคาดหวังรายได้ต่อเนื่องตั้งแต่ก่อนถึงภาวะเอกฐาน ดังนั้นบริษัทต้องขายโมเดล หากล็อกโมเดลรุ่นปัจจุบันไว้ ก็จะไม่ได้เงินทุนสำหรับสร้างรุ่นถัดไป เป็นสมดุลที่ยุ่งยาก

  • เป็นเรื่องน่าขันที่เพียง 4 วันหลังจาก ผู้บริหาร OpenAI ปลุกความกลัวว่า “เอเจนต์ที่ไม่มีชีวิต มองไม่เห็น อันตราย และจำลองตัวเองได้ไม่รู้จบ ได้หลุดออกมาจากห้องแล็บจีน” ก็มี https://news.ycombinator.com/item?id=48997548 ออกมา

  • ระดับความกังวลด้านความปลอดภัยของ AI ในอนาคตอันใกล้ถึงระยะกลางสามารถมีความเห็นต่างอย่างสมเหตุสมผลได้ แต่การที่บทความนี้แทบไม่แตะข้อโต้แย้งที่เกี่ยวข้องเลย ทำให้ คุณค่าของบทความลดลงอย่างมาก

    • ในส่วน backdoor และ propaganda ก็พยายามแตะเรื่องความปลอดภัยอยู่บ้าง แม้จะสั้น ๆ อยากรู้ว่าคุณอยากเห็นประเด็นอะไรเพิ่มเติม
      มุมมองของบทความคือการเปรียบเทียบ AI แบบเปิดกับแบบปิด และไม่ได้มองว่าความกังวลด้านความปลอดภัยระหว่างสองแนวทางนี้ต่างกันมาก จึงไม่ได้ให้พื้นที่มากนัก

  • เหตุผลที่ต่อต้าน AI ที่รันได้อย่างเสรีในเครื่อง local คือบริษัทต้องการ ควบคุมประชาชนทั่วไป สหรัฐฯ คือขุมนรกที่ขับเคลื่อนโดยบริษัท

    • ถ้าอ่านต้นฉบับแล้วสรุปว่าไม่มี ข้อกังวลด้านความปลอดภัย ที่ชอบธรรมใด ๆ ที่คนมีเหตุผลอาจมีได้เลย บทความนี้ก็คงให้ผลตรงกันข้าม แทนที่จะทำให้ผู้อ่านเข้าใจ: [1] https://news.ycombinator.com/item?id=49029303

  • LLM ถูกฝึกไม่เพียงด้วยข้อมูลสาธารณะ แต่ยังรวมถึงข้อมูลที่ได้มาอย่างผิดกฎหมายด้วย ตัวอย่างคือ ข้อตกลงยอมความมูลค่า 1.5 พันล้านดอลลาร์ ของ Anthropic และหากไม่มีข้อมูลมนุษย์มหาศาล LLM ก็ไม่มีอะไรเลย
    อาจมองได้ว่างานวิจัยแบบนี้ควรถูกจำกัดให้อยู่กับรัฐบาลและมหาวิทยาลัยที่อยู่ภายใต้การกำกับดูแล แทนที่จะเป็นบริษัทจดทะเบียนที่ไม่โปร่งใสและมีแรงจูงใจขัดแย้งกัน หรือไม่ก็ให้ชุมชนไม่แสวงหากำไรอย่างแท้จริงที่มีโครงสร้างการนำแบบประชาธิปไตย เหมือนมาตรฐานอินเทอร์เน็ตและการสื่อสาร เป็นผู้ดูแล ต่อให้แสดงคุณธรรมมากเพียงใด ก็ยากจะเชื่อว่าบริษัทเอกชนจะกำกับดูแลตนเองได้อย่างมีประสิทธิภาพ และจะแจ้งความเสี่ยงต่อสาธารณะและวงการวิทยาศาสตร์อย่างโปร่งใสได้ เพราะ ผลประโยชน์ทับซ้อน ที่เกิดขึ้นต่อเนื่องบั่นทอนความน่าเชื่อถือ

  • คำพูดว่า “หยุด X ไม่ได้” เป็น เหตุผลที่มักง่ายและแย่มาก ในการสนับสนุนข้อสรุปว่า “X ไม่ได้เลวร้าย” ส่วนที่เหลือของบทความไม่มีอะไรจะพูด

    • ในทางกลับกัน ถ้าจะอ้างว่า “ต้องหยุด X” ก็ต้องเสนอ วิธีที่เป็นจริงได้ ด้วย
      จุดยืนของฉันคือเราไม่สามารถหยุด AI โอเพนซอร์สได้ และความพยายามที่จะหยุดมันจะยิ่งเพิ่มอำนาจให้ผู้ไม่หวังดีมากกว่าผู้กระทำการที่ดีอย่างหลีกเลี่ยงไม่ได้

  • เงินล็อบบี้ ไม่สนใจการถกเถียงแบบนี้

    • สุดท้ายประเด็นหลักคือเงินจะได้ผลลัพธ์ที่มันต้องการ

  • มีการพบ backdoor ในเราเตอร์และอุปกรณ์เครือข่ายจากจีนอยู่เรื่อย ๆ สงสัยว่าจะมีวิธี audit โมเดลจีนได้อย่างสมบูรณ์หรือไม่

    • แล้วมีวิธี audit โมเดลสหรัฐฯ ได้อย่างสมบูรณ์หรือ? อย่างน้อยโมเดลจีนก็ เปิดเผย weights จึงยังมีโอกาส audit ได้จริงบ้าง
    • โมเดลจีนให้ weights มา ดังนั้นก็รันการตรวจสอบที่ต้องการเองได้เลย ในทางกลับกัน โมเดลสหรัฐฯ กลับกันไม่ให้เข้าถึงโดยบอกว่ามันทรงพลังเกินไปสำหรับคนธรรมดาอย่างเรา แต่ขอให้เชื่อว่าทั้งหมดทำเพื่อประโยชน์ของพลเมือง
    • ต้องทำให้ชัดก่อนว่าต้องการ audit อะไรกันแน่ backdoor ในฮาร์ดแวร์เข้าใจง่าย เพราะมันอนุญาตให้คนที่ลูกค้าไม่ได้อนุญาตเข้าถึงได้
      โมเดลที่เปิดเผย weights ไม่ได้ผูกกับ execution layer เฉพาะ ดังนั้นพื้นที่ความปลอดภัยที่ควรกังวลจริง ๆ จึงจำกัดอยู่ที่ตัว weights เอง จำเป็นต้องระบุให้ชัดว่าเป็น adversarial prompt injection, การบิดเบือนประวัติศาสตร์และการฝังโฆษณาชวนเชื่อ หรือมีเส้นทางอื่นใดที่ทำให้โมเดลที่ไม่ใช่อธิปไตยมีความเสี่ยงเป็นพิเศษกว่าโมเดลอธิปไตย

  • บทความนี้ไม่ได้พูดถึง ปัญหาด้านความปลอดภัย เลย อะไรจะหยุดผู้ไม่หวังดีไม่ให้ fine-tune weights ที่เปิดเผย แล้วใช้ทำการหลอกลวงอัตโนมัติเต็มรูปแบบระดับอัจฉริยะที่เล็งเป้าแทบทุกคนได้?

    • หมายถึงเรื่องแบบที่ ChatGPT แฮ็ก Hugging Face หรือเปล่า? เราก็หยุดผู้ให้บริการ weights แบบปิดไม่ให้ทำการหลอกลวงระดับอัจฉริยะไม่ได้เช่นกัน และไม่รู้ด้วยซ้ำว่าใช้วิธีหรือโมเดลแบบไหน
      สุดท้ายแล้ว หากจะหยุด การใช้ weights แบบปิดในทางที่ผิด ไม่ว่าจะ fine-tune หรือ pretrain มา ฝั่งคนดีก็จำเป็นต้องมี weights แบบเปิดด้วย
    • ตอนนี้มีอะไรหยุดไม่ให้ทำเรื่องเดียวกันโดยไม่ใช้ LLM แค่ช้าลงเล็กน้อย?
    • อะไรหยุดไม่ให้เอารถบรรทุกเช่าไปเติมน้ำมันเบนซินหลายพันลิตรที่ปั๊ม แล้วขับพุ่งเข้าโรงพยาบาล? คนส่วนใหญ่ไม่ใช่ผู้ก่อการร้าย และเราไม่อาจ ตัดสินว่าอันตราย เพียงเพราะสิ่งของบางอย่างอาจเป็นองค์ประกอบหนึ่งของแผนอาชญากรรมที่ซับซ้อนได้
    • จะปิด กล่องแพนโดรา ที่เปิดไปแล้วอีกครั้งได้อย่างไร? ความปลอดภัยไม่ใช่การอนุญาตให้เข้าถึงเฉพาะคนที่รัฐบาลชอบ
      ความโลภของผู้บริหาร AI เป็นคนเปิดกล่องนั้น และตอนนี้พวกเขากำลังพยายามอย่างสิ้นหวังหาวิธีเก็บเกี่ยวแต่ผลกำไรโดยไม่ต้องรับผิดชอบต่อผลลัพธ์
    • การเชื่อรัฐบาลและบริษัทยักษ์ใหญ่ด้านเทคโนโลยีก็ไม่ใช่ทางออก แม้จะเป็น weights แบบเปิด สุดท้ายก็ยังรันบนฮาร์ดแวร์ของคนอื่น
      ถ้ามีทุนพอจะรันในเครื่องตัวเองได้ ก็ทำเรื่องที่แย่กว่าการหลอกลวงได้มาก ถามล็อบบี้ยิสต์ดูก็ได้