อิลยา ซุตสเคเวอร์ ลาออกจาก OpenAI

 (twitter.com/ilyasut)
1 คะแนน โดย GN⁺ 2024-05-15 | 1 ความคิดเห็น | แชร์ทาง WhatsApp

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2024-05-15
ความคิดเห็นจาก Hacker News

  • น่าสนใจที่ตอนนี้ทั้ง Karpathy และ Sutskever ต่างก็ออกจาก OpenAI แล้ว
    ตอนนี้ OpenAI ดูเหมือนจะขับเคลื่อนโดยมี Sam Altman กับ Greg Brockman เป็นศูนย์กลาง
    ในบรรดาสี่คนนั้น Karpathy และ Sutskever เป็นคนที่น่าประทับใจที่สุด และหวังว่าพวกเขาจะทำสิ่งยิ่งใหญ่ต่อไป

    • นักวิทยาศาสตร์ระดับท็อป 6 คน ออกไปนานแล้ว และตอนนี้ OpenAI กลายเป็นบริษัทที่บริหารโดยคนสายการตลาด·ธุรกิจ·ซอฟต์แวร์·การทำให้เป็นผลิตภัณฑ์
      ถ้าคลื่นนวัตกรรม deep learning ระลอกถัดไปกวาดไปทั่วโลก Microsoft ก็คงจะเก็บเอาสิ่งที่เหลืออยู่ไป
      คงทำเงินได้มาก แต่ถ้าแทนที่สิ่งที่เสียไปไม่ได้ ก็ดูเหมือนไม่มีอนาคต
    • Karpathy ยังคงเป็น บุคคลสำคัญในวงการ machine learning/AI และเป็นหนึ่งในไม่กี่คนบน Twitter/X ที่ยังคุ้มค่าต่อการติดตามอย่างต่อเนื่อง
    • Dario ก็ยังได้รับการยอมรับไม่พอเหมือนกัน
    • ชอบ Karpathy มากจริง ๆ
      เขาเหมือน นักปราชญ์รอบรู้ และครูในแบบคลาสสิก
    • ถึงอย่างนั้น Jakub Pachocki ก็ยังอยู่ที่ OpenAI

  • Jan Leike ก็ประกาศว่าจะออกเช่นกัน https://twitter.com/janleike/status/1790603862132596961

    • สถานการณ์ที่ผุดขึ้นมาในหัวคือ มีการกดเสียงคัดค้านของ ทีมความปลอดภัย เพื่อจะปล่อยโมเดลใหม่ก่อน Google IO
    • สิ่งที่เรียกว่า superalignment ก็ดูเหมือนจะหายไปแบบนี้
      Ilya, Jan Leike, William Saunders, Leopold Aschenbrenner ต่างก็ออกไปหมด
    • เขาเป็นคนเขียน “Bad universal priors and notions of optimality” และเป็นคนที่ทำกับโปรแกรม MIRI ของ Hutter ในลักษณะคล้ายกับที่ Gödel ทำกับโปรแกรมของ Hilbert

  • ทุกครั้งที่เดินแถวมหาวิทยาลัย Toronto มักนึกถึงภาพเมื่อราว 10 ปีก่อนที่ Ilya พยายามค้นหาอะไรบางอย่างอยู่ในห้องแล็บข้าง ๆ Alex
    ไม่น่าเชื่อว่า คลื่น AI ลูกใหม่ นี้เริ่มต้นจากที่นั่น
    Ilya, Karpathy, Jimmy Ba และอีกหลายคนอยู่ที่นั่นถูกจังหวะพอดีในช่วงที่ Hinton อยู่

    • ตอนนั้นมหาวิทยาลัย Toronto ยอดเยี่ยมจริง ๆ
      จากกลุ่มนั้นยังมีเวอร์ชันของ การขุด Bitcoin ด้วย GPU ออกมาด้วย
      ราวปี 2014 Ethereum ก็ถือกำเนิดแถวนั้น และยังจำการพบปะ Ethereum ช่วงแรก ๆ ที่ Vitalik มาร่วมด้วยแถว Queen กับ Spadina ได้
      แต่เหมือนที่คนอื่นพูดไว้ แม้จะมีบุคคลอย่าง Geoffrey Hinton บิดาแห่ง deep learning รวมถึง Ilya และ Vitalik อยู่ที่นั่น เรากลับแทบไม่ได้รับประโยชน์ที่เป็นรูปธรรมจากตรงนั้นเลย
    • แต่ในหมู่พวกเขาไม่มีใครตั้ง บริษัท AI ใน Toronto เลย
      ในฐานะคนแคนาดา รู้สึกผิดหวังที่เราขาดประสิทธิภาพขนาดนี้ในการสร้างบริษัทที่ประสบความสำเร็จ

  • หลังความพยายามปลดเขาครั้งนั้น เรื่องนี้แทบจะดูหลีกเลี่ยงไม่ได้ และเขาคงกำลังตกลงรายละเอียดการลาออกอยู่
    แต่ดันเป็น วันถัดจากการประกาศฟีเจอร์ใหม่ เนี่ยนะ?

    • “ถ้าช่วยพาฟีเจอร์หลักตัวถัดไปไปถึงการเปิดตัวได้ จะปล่อยให้จากกันด้วยดี” อาจเป็นส่วนหนึ่งของข้อตกลงก่อนหน้านี้ก็ได้
    • ดูจากที่เขาเคยให้สัมภาษณ์ว่า การจะไปสู่ขั้นถัดไปของความเข้าใจจำเป็นต้องมี การเรียนรู้แบบ multimodal ตั้งแต่ต้นจนจบ ผมว่า Omni น่าจะเป็นงานของเขา
    • เขาคงคิดเรื่องนี้มาสักพักแล้ว และเมื่อความสนใจในตัวเขาเพิ่มขึ้นพร้อมกับการเปิดตัว อาจถูกขอให้ตัดสินใจก็ได้
    • อาจเป็นหมากที่ฉลาด
      ข่าว OpenAI แทรกเข้ามาแย่งความสนใจจาก Google ช่วงก่อนหลัง Google IO และเพราะเพิ่งมีประกาศใหญ่ไป แรงกระแทกจากข่าวลบก็ลดลงเล็กน้อย
    • ถ้าข่าวลาออกออกมาหลังประกาศฟีเจอร์ใหม่ ผู้คนจะให้ความสนใจน้อยกว่าช่วงเวลาอื่นค่อนข้างมาก

  • Jakub Pachocki สุดยอดมาก
    เขาติด 20 อันดับแรกในการแข่งขันอัลกอริทึมของโปแลนด์
    https://oi.edu.pl/contestants/Jakub%20Pachocki/

    • เพิ่งรู้ตอนนี้ว่า Jakub Pachocki คือ meret [1]
      ไม่เคยเชื่อมโยงสองอย่างนี้เข้าด้วยกันเลย
      [1] https://codeforces.com/profile/meret

  • เป็นชะตากรรมที่พบได้บ่อยของคนอุดมคติที่สร้างสิ่งยิ่งใหญ่ขึ้นมา แล้วถูก ผู้บริหารทิ้ง ท่ามกลางการแย่งชิงอำนาจ
    เรื่องแบบนี้เกิดซ้ำมากี่ครั้งแล้ว?

    • ถามว่าบ่อยแค่ไหนน่ะหรือ นั่นคือรากฐานของโมเดลเศรษฐกิจที่ประสบความสำเร็จที่สุดของมนุษยชาติเลย
      บางคนอาจไม่ถูกทิ้งก็ได้ แต่เมื่อเทียบกับหัวหน้าที่ไม่รู้อะไรแต่มีรอยยิ้มมูลค่าล้านดอลลาร์ ต้องรับมือกับคนไม่รู้เรื่องและคนที่มีกระเป๋าเงินพันล้านดอลลาร์ คนเหล่านี้ไม่มีวันได้รับเครดิตเพียงพอแน่นอน
      ถึงอย่างนั้นเราก็ควรขอบคุณพระเจ้าหรือธรรมชาติที่ในเผ่าพันธุ์ของเรายังมีคนที่เข้าใจและสร้างบางสิ่งขึ้นมาได้
    • คนที่จำเป็นต่อการปฏิวัติ กับคนที่จำเป็น หลังการปฏิวัติ ไม่ใช่คนกลุ่มเดียวกัน

  • คำว่า “ทำให้ AI ทั่วไปเป็นประโยชน์ต่อทุกคน” คือ Don’t Be Evil แบบใหม่

    • “เราอยากนำ AI มาไว้ในมือคุณ”
      ให้เก็บไว้เหรอ?
      ไม่ใช่! ทำไมถึงคิดแบบนั้นล่ะ เจ้าคนร้าย…
      OpenAI หมายถึงการสวมถุงมือยางหนา ๆ ยื่นมือผ่านแผ่นเพล็กซิกลาส แล้วขอ AI อีกช็อตต่างหาก

  • ไม่เข้าใจว่าทำไมการย้ายงานของวิศวกรถึงถูกปฏิบัติเหมือน การเปลี่ยนรายชื่อนักกีฬา ของทีมเมเจอร์ลีก
    อินฟลูเอนเซอร์ที่ถูก “เรียกแต่ชื่อ” เหล่านี้ฉลาดไหม? แน่นอน
    แต่ความฉลาดไม่ได้หายากขนาดนั้น
    คนเหล่านี้ก็เป็นวิศวกรเหมือนคนส่วนใหญ่ที่นี่ และไม่ได้ฉลาดกว่าเป็นพิเศษนัก เพียงแต่โชคดีในทิศทางอาชีพและการเชี่ยวชาญเฉพาะด้าน
    ไม่ใช่อัจฉริยะทางธุรกิจ เป็นแค่คนที่รับบทบาทหนึ่งเท่านั้น
    การเปลี่ยนแปลงผู้นำส่งผลต่อธุรกิจไหม? ก็คงมีบ้างระดับหนึ่ง แต่คงราว 5% ของสิ่งที่คาดกันจากกระแสซุบซิบโวยวายรอบ ๆ บุคคลในวงการ AI
    พอได้แล้ว
    ดูที่เทคโนโลยี ดูที่งานจริงดีกว่า
    จำนวนคนที่ได้รับผลกระทบในเชิงอาชีพจากการที่คนเหล่านี้เปลี่ยนที่รับเงินเดือนนั้นใกล้ 0 มากกว่า 50% มาก

    • ไม่ใช่เลย พวกเขาคือ คนที่กำหนดนิยามของบริษัท และตำแหน่งแบบนั้นทดแทนได้ยากกว่ามาก อีกทั้งเป็นบทบาทที่พวกเขาสร้างขึ้นเอง

  • จุดหมายต่อไปคือ Meta หรือเปล่า?
    ฝ่าย AI กำลังทุ่มเงินเยอะ มีทรัพยากรคำนวณมาก และน่าจะให้ทำวิจัยอะไรก็ได้ตามต้องการ

    • ไม่น่าจะใช่
      การเมืองภายในอย่างเดียวก็มากพอจะทำให้คนส่วนใหญ่เสียสติได้แล้ว

  • ไม่มีทางที่การจากไปของคนที่อุทิศ 10 ปีที่ผ่านมาให้กับ งานที่เป็นจุดทะลุทะลวง จะไม่สำคัญ
    เป็นความผิดพลาดที่จะคิดว่าโชคของพวกเขาจะยังดำเนินต่อไป และการไหลออกนี้ไม่ใช่สัญญาณเสื่อมถอยของ OpenAI
    บางทีควรขายชื่อเสียงให้เป็นเงินสดตอนที่มันยังมีค่าอยู่
    ดูมีแนวโน้มมากกว่าว่าทีมอื่น ๆ จะเป็นคนบุกเบิกเส้นทางใหม่