John Schulman ผู้ร่วมก่อตั้ง OpenAI ประกาศย้ายไปร่วมงานกับคู่แข่ง Anthropic

• John Schulman ผู้ร่วมก่อตั้ง OpenAI เปิดเผยในโพสต์บน X เมื่อวันจันทร์ว่า เขาจะออกจากบริษัทที่ได้รับการสนับสนุนจาก Microsoft และไปร่วมงานกับสตาร์ทอัพ AI อย่าง Anthropic ซึ่งได้รับเงินลงทุนจาก Amazon
• Schulman เคยเป็นผู้นำร่วมของทีม post-training ที่ OpenAI ซึ่งทำหน้าที่พัฒนาโมเดล AI สำหรับแชตบอต ChatGPT และอินเทอร์เฟซการเขียนโปรแกรมสำหรับนักพัฒนาภายนอก
• ในเดือนมิถุนายน OpenAI ประกาศว่า Schulman จะเข้าร่วมคณะกรรมการด้านความปลอดภัยและความมั่นคง ซึ่งจะให้คำปรึกษาแก่บอร์ดในบทบาทหัวหน้าฝ่าย Alignment Science

เหตุผลที่ Schulman ย้ายงาน

• Schulman ระบุในโพสต์บนโซเชียลมีเดียว่า "การตัดสินใจครั้งนี้เกิดจากความต้องการที่จะโฟกัสเรื่อง AI alignment ให้ลึกยิ่งขึ้น และกลับไปลงมือทำงานเชิงเทคนิคอีกครั้ง"
• เขากล่าวว่าไม่ได้ลาออกเพราะ OpenAI ขาดการสนับสนุนงานใหม่ในหัวข้อนี้
• เขากล่าวว่า "ตรงกันข้าม ผู้นำของบริษัทมีความมุ่งมั่นอย่างมากในการลงทุนในด้านนี้"
• การตัดสินใจนี้เกิดขึ้นไม่ถึง 3 เดือนหลังจาก OpenAI ยุบทีม superalignment ซึ่งมีเป้าหมายควบคุมระบบ AI ที่เหนือกว่าความสามารถของมนุษย์
  • Jan Leike ซึ่งเป็นหัวหน้าทีม superalignment และ Ilya Sutskever ผู้ร่วมก่อตั้ง ต่างก็ออกจากบริษัทไปแล้วในปีนี้
  • Leike เข้าร่วม Anthropic ส่วน Sutskever ได้ก่อตั้งบริษัทใหม่ชื่อ Safe Superintelligence Inc.

การแข่งขันระหว่าง OpenAI และ Anthropic

• นับตั้งแต่พนักงาน OpenAI ก่อตั้ง Anthropic ในปี 2021 บริษัทหน้าใหม่จากซานฟรานซิสโกทั้งสองแห่งนี้ก็แข่งขันกันเพื่อครอบครองโมเดล generative AI ที่มีประสิทธิภาพสูงสุดในการสร้างข้อความคล้ายมนุษย์
• Amazon, Google และ Meta ก็พัฒนา large language model ของตนเองเช่นกัน

ความเปลี่ยนแปลงล่าสุดของ OpenAI

• เมื่อบอร์ดถอด Altman ออกจากตำแหน่งซีอีโอเมื่อเดือนพฤศจิกายนที่ผ่านมา พนักงานรวมถึง Schulman ได้ออกมาประท้วง
• จากนั้น Sutskever และกรรมการอีกสองคนคือ Tasha McCauley และ Helen Toner ก็ลาออก
• Altman กลับมารับตำแหน่งอีกครั้ง และ OpenAI ก็รับกรรมการเพิ่มเติมเข้าสู่บอร์ด

ข่าวอื่น ๆ

• Greg Brockman ผู้ร่วมก่อตั้งและประธานของ OpenAI ประกาศว่าจะลาพักงานจนถึงสิ้นปีนี้

ความเห็นของ GN⁺

• การย้ายงานของบุคลากรระหว่าง OpenAI และ Anthropic แสดงให้เห็นว่าการแข่งขันในอุตสาหกรรม AI กำลังดุเดือดขึ้น
• ความปลอดภัยและ alignment ของ AI มีแนวโน้มจะยิ่งสำคัญมากขึ้นเมื่อเทคโนโลยี AI ก้าวหน้า ซึ่งสะท้อนผ่านเหตุผลการย้ายงานของ Schulman
• แม้ทั้งสองบริษัทจะมุ่งพัฒนา large language model แต่การพัฒนาและนำเทคโนโลยี AI ไปใช้อย่างมีความรับผิดชอบจำเป็นต้องคำนึงถึงความปลอดภัยและจริยธรรมด้วย
• ความขัดแย้งภายในและการเปลี่ยนแปลงผู้บริหารล่าสุดของ OpenAI อาจมองได้ว่าเป็นตัวอย่างของความเจ็บปวดในการเติบโตที่สตาร์ทอัพ AI ซึ่งเติบโตอย่างรวดเร็วต้องเผชิญ
• ยังต้องติดตามต่อไปว่า OpenAI และ Anthropic จะเดินไปในทิศทางใด และจะมีบทบาทอย่างไรในอุตสาหกรรม AI

[xguru]

มีการพูดถึงสั้น ๆ ในข่าวอื่น แต่ดูเหมือนว่าจะมีการย้ายงานของผู้บริหารระดับผู้นำใน OpenAI ค่อนข้างมาก

• Greg Brockman ผู้ร่วมก่อตั้งและประธานของ OpenAI มีแผนจะลาพักระยะยาวจนถึงสิ้นปี
• Peter Deng ผู้นำฝ่ายผลิตภัณฑ์ที่เข้าร่วมเมื่อปีที่แล้วก็ลาออกเช่นกัน
  • เมื่อไม่นานมานี้มีการดึง CFO และ CPO คนแรกเข้ามา ซึ่งดูเหมือนว่าน่าจะส่งผลต่อบทบาทของ Deng
• เมื่อเร็ว ๆ นี้ยังมีการโยกย้าย Aleksander Madry ผู้นำด้านความปลอดภัยอีกราย ไปทำหน้าที่อื่น
• Ilya Sutskever ผู้ร่วมก่อตั้ง ลาออกแล้วไปก่อตั้ง Safe Superintelligence Inc.
• Andrej Karpathy ผู้ร่วมก่อตั้ง ลาออกและไปก่อตั้ง EurekaLabs บริษัทด้าน AI+การศึกษา

[GN⁺]

ความคิดเห็นใน Hacker News

• อาจเป็นข่าวร้ายสำหรับ ChatGPT 5 การที่ผู้ร่วมก่อตั้งย้ายไป Anthropic อาจเป็นสัญญาณว่า OpenAI ไม่ได้เป็นผู้นำอยู่

  • OpenAI มีอัตราเผาเงินต่อปีราว 5 พันล้านดอลลาร์ และหากระดมทุนได้ไม่ดี ก็อาจต้องรับเงินจากนักลงทุนที่น่ากังขา
  • บ่อยครั้งเมื่อเลือกเส้นทางที่มีจริยธรรมและยึดหลักการ ก็สามารถได้ประโยชน์ส่วนตัวไปพร้อมกันด้วย

• ในฐานะผู้ร่วมก่อตั้ง น่าจะเป็นการตัดสินใจที่ยาก เขาเป็นหัวหน้าฝ่ายความปลอดภัยสูงสุดของ OpenAI

  • แม้จะบอกว่าไม่ได้ลาออกเพราะผู้นำ OpenAI ไม่ทุ่มเทเรื่องความปลอดภัย แต่ก็เชื่อได้ยาก
  • น่าสนใจที่ช่วงเวลาการประกาศตรงกับช่วงพักงานของ Brockman

• รู้สึกสับสนกับ GPT-4o มันเร็ว แต่คุณภาพต่ำกว่า

  • มักให้คำตอบซ้ำ ๆ
  • ยกเลิกการสมัคร Plus แล้วกลับมาสมัครใหม่ แต่ก็ยังรู้สึกว่าไม่คุ้มค่า
  • การลดระดับอย่างรวดเร็วของ free tier น่าหงุดหงิด
  • ฟีเจอร์ "Memory" และ "Conversation" เป็นแค่โฆษณา
  • Gemini พัฒนาขึ้นมาก
  • Claude และ Mistral ไม่สามารถรันโค้ดได้

• ความเปลี่ยนแปลงในวงการ AI เหมือนความสงบก่อนพายุ

  • ช่วงที่เว็บไซต์ AI แบบเปิดและใช้ฟรีแห่งแรกเริ่มได้รับความนิยมจะเป็นจุดสำคัญ
  • อุตสาหกรรมคำตอบจาก AI อาจใหญ่กว่าอุตสาหกรรมการค้นหาถึง 10 เท่า
  • Google ดำเนินงานมา 2 ปีโดยยังไม่สร้างรายได้

• OpenAI มีผู้ร่วมก่อตั้ง 11 คน และ Schulman ก็เป็นหนึ่งในนั้น

  • เดิมที Schulman ไม่ได้เป็นผู้รับผิดชอบด้าน AI alignment/ความปลอดภัย
  • ผู้ก่อตั้งสถาบันวิจัย AI แบบไม่แสวงหากำไร อาจไม่ต้องการเป็นผู้นำขององค์กรที่ซับซ้อน
  • ความสำเร็จของ OpenAI ขึ้นอยู่กับความสามารถในการจ้างและรักษาบุคลากรที่เหมาะสมไว้

• ชื่อหัวข้อที่ครอบคลุมมากกว่านี้ ซึ่งรวมถึงการลาออกของ Greg Brockman และ Peter Deng

  • ลิงก์

• ขณะที่ OpenAI กำลังขยับไปสู่โมเดลที่มุ่งทำกำไร Anthropic กลับสอดคล้องกับเป้าหมายดั้งเดิมของ OpenAI มากกว่า

  • สงสัยว่า Anthropic ระดมทุนสำหรับการดำเนินงานอย่างไร
  • ได้รับเงินลงทุน 4 พันล้านดอลลาร์จาก Amazon และ 2 พันล้านดอลลาร์จาก Google ตามลำดับ

• Claude 3.5 Sonnet ของ Anthropic คือโมเดลที่ดีที่สุด

  • ตอนนี้กลายเป็นสถานการณ์ที่ OpenAI ต้องพยายามไล่ตาม

• "โฟกัสที่ AI alignment" ก็เหมือนกับ "ใช้เวลากับครอบครัวและเพื่อนให้มากขึ้น"

  • สงสัยว่า OpenAI กำลังทำงานด้านการใช้งานทางทหารแบบลับ ๆ อยู่หรือไม่
  • หรืออาจเป็นการทำให้โมเดลเป็นกลางเพื่อหลีกเลี่ยงการถกเถียงทางการเมือง

• มีความเชื่อมั่นต่อทีมของ Anthropic สูง