แซม บรรลุข้อตกลงในหลักการเพื่อกลับมาดำรงตำแหน่ง CEO ของ OpenAI

 (twitter.com/openai)
1 คะแนน โดย GN⁺ 2023-11-23 | 1 ความคิดเห็น | แชร์ทาง WhatsApp

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2023-11-23
ความคิดเห็นจาก Hacker News
  • ความคิดเห็นทั้งหมด: เธรดนี้มีความคิดเห็นมากกว่า 1800 รายการ และหากต้องการอ่านทั้งหมดสามารถคลิก 'More' ที่ด้านล่างของแต่ละหน้าหรือใช้ลิงก์ที่ให้ไว้เพื่ออ่านได้
  • หาก OpenAI ยังคงเป็นองค์กรไม่แสวงหากำไร กรรมการของ Microsoft ในบอร์ดจะมีหน้าที่ตามกฎหมายที่จะต้องส่งเสริมพันธกิจขององค์กรการกุศล ไม่ใช่ความต้องการทางธุรกิจของ Microsoft ซึ่งอาจก่อให้เกิดความขัดแย้งทางผลประโยชน์อย่างชัดเจน คาดว่า IRS คงไม่ชอบโครงสร้างแบบนี้
  • การที่ Sam Altman กลับมาดำรงตำแหน่ง CEO อาจเป็นหลักฐานว่าบอร์ด OpenAI สูญเสียความสามารถในการทำหน้าที่ไปแล้ว บอร์ดจะไม่สามารถใช้อำนาจปลด Sam ได้อีก และตอนนี้ Sam อาจทำอะไรก็ได้ตามที่ต้องการ ไม่ได้กล่าวโทษหรือเข้าใจเขาผิด แต่มีความกังวลว่าเขาอาจโกหกหรือทำสิ่งที่ไม่เหมาะสมได้
  • กรณีนี้ชวนให้นึกถึงเหตุการณ์ Coca-Cola กับ New Coke ซึ่งสุดท้าย Original Coke กลับได้รับความนิยมมากขึ้น ผู้บริโภคเรียกร้องอย่างหนักให้รสชาติที่คุ้นเคยกลับมา และนักข่าวบางคนก็คาดเดาว่าทั้งหมดนี้เป็นกลยุทธ์ประชาสัมพันธ์
  • ในศึกระหว่างนักพัฒนาหนึ่งคนกับนักธุรกิจหนึ่งคน ฝั่งนักธุรกิจเป็นผู้ชนะ และเมื่อบอร์ดยอมถอยเพราะมีนักพัฒนาหลายร้อยคนขู่ว่าจะลาออก ก็แสดงให้เห็นว่านักพัฒนามีอำนาจจริง
  • Ilya ลงจากบอร์ดแล้ว แต่ Adam ยังอยู่ต่อ สิ่งนี้อาจทำให้บางคนเลิกคิ้วสงสัย แต่การกลับมาของ Sam จะทำให้เกิดการเปลี่ยนแปลงสำคัญกับ OpenAI และไม่คิดว่าในระยะยาว OpenAI จะกลายเป็นบริษัทยักษ์ใหญ่อย่าง Facebook หรือ Uber ได้ มีการรับรู้กันว่าองค์กรนี้สูญเสียความน่าเชื่อถือไปแล้ว
  • มีความขัดแย้งระหว่างทีม Rapid Commercialization กับทีมที่ยึดมั่นในหลักการ และสิ่งนี้ก็ปรากฏในงานเขียนตั้งแต่ก่อนยุค GPT-3 มีคนส่วนน้อยในสาธารณะที่สนใจเรื่องความปลอดภัยของ AI ส่วนที่เหลือก็พอใจกับการใช้ ChatGPT ช่วยทำการบ้าน เราอาจหัวเราะเยาะความไม่รู้ของบอร์ดได้ แต่ถ้าใครสักคนมองภัยคุกคามจาก superintelligence อย่างจริงจัง ก็จำเป็นต้องพยายามทำความเข้าใจการกระทำของพวกเขา
  • โดยส่วนตัวไม่ได้มองภัยคุกคามด้านความปลอดภัยของ AI ว่าร้ายแรงถึงขั้นนั้น แต่ก็จำเป็นต้องพยายามทำความเข้าใจ หวังว่าจะไม่มีวันที่ทีมของ Helen ต้องพูดว่า "นี่แหละคือสิ่งที่เราพยายามจะหยุดไว้"
  • เคยมีความหวังต่อแนวทางของภาคเอกชนในการรับมือความปลอดภัยของ AI แต่ตอนนี้ดูเหมือนเป็นไปไม่ได้ และด้วยความล่าช้าของการลงทุนภาครัฐในงานวิจัยและพัฒนา AI ทำให้แนวทางด้านความปลอดภัยของ AI ทั้งหมดดูแทบเป็นไปไม่ได้ งานวิจัยด้านความปลอดภัยสำหรับโมเดลขนาดเล็กจะยังคงก้าวหน้าต่อไป แต่ในอุตสาหกรรมมองว่ามีขีดจำกัดต่อการเรียนรู้เรื่องความปลอดภัย หากไม่มีการวิจัยกับโมเดลระดับแนวหน้า
  • Altman เคยอ้างว่าโครงสร้างธรรมาภิบาลของ OpenAI เป็นกลไกที่รับประกันว่าความปลอดภัยจะมาก่อน แต่รายงานภายในที่ระบุว่างานวิจัยด้านความปลอดภัยถูกย้ายไปสนับสนุนการคงการทำงานของ ChatGPT ทำให้เกิดความกังวล และเมื่อเห็นชัดว่าบอร์ดแม้จะมีอำนาจในทางเทคนิค แต่ไม่มีพลังมากพอจะจัดการผลประโยชน์ที่เกี่ยวข้องได้ ก็ยิ่งไม่ชัดเจนว่าองค์กรใดก็ตามที่ให้ความสำคัญกับความปลอดภัย รวมถึง Anthropic จะสามารถหลีกเลี่ยงอิทธิพลแบบเร่งความเร็วจากผู้ให้ทุนได้จริงหรือไม่
  • Paul Graham กล่าวว่า "ถ้ากลับมาดูอีกครั้งในอีก 5 ปี Sam จะกลายเป็นราชาแห่งเกาะนั้น"
  • มีเรื่องเล่าว่า VC จำนวนมากและ Microsoft ร่วมกันล้มโครงสร้างธรรมาภิบาลขององค์กรไม่แสวงหากำไรเพราะแรงจูงใจด้านผลกำไร แต่ผมคิดว่าความจริงไม่ใช่แบบนั้น เหตุผลที่การตัดสินใจออกมาเช่นนี้คือพนักงาน 95% อยู่ข้าง Sam ในประเด็นนี้ และบอร์ดก็ไม่อธิบายจุดยืนของตัวเองเลย Sam กับพนักงาน 95% และนักลงทุนทั้งหมดต่างคัดค้านบอร์ด ดังนั้นบอร์ดจึงควรเป็นฝ่ายแพ้ในกรณีนี้ เพราะบอร์ดปกครองเพื่อพวกตนเอง ในท้ายที่สุดผลลัพธ์ที่ออกมาถือว่ายุติธรรมและดี และยังคิดว่าโครงสร้างธรรมาภิบาลเพื่อแก้ปัญหา AGI นั้นเหมาะสมอยู่ แต่บอร์ดชุดนี้ไม่เหมาะสมอย่างมาก