OpenAI ยกเลิกคำมั่นที่จะเปิดเผยเอกสารสำคัญต่อสาธารณะอย่างเงียบๆ

 (wired.com)
4 คะแนน โดย GN⁺ 2024-01-25 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • OpenAI เคยให้คำมั่นมาตั้งแต่ก่อตั้งว่าจะเปิดเผยเอกสารด้านธรรมาภิบาล แต่เมื่อไม่นานมานี้ WIRED ขอเอกสารดังกล่าวกลับถูกปฏิเสธ
  • OpenAI ก่อตั้งขึ้นเพื่อให้สังคมและสาธารณชนมีส่วนร่วมกับการพัฒนา AI ทรงพลัง แต่ปัจจุบันได้ใช้นโยบายใหม่ที่ไม่เปิดเผยเอกสารภายใน
  • การถอนคำมั่นด้านความโปร่งใสของ OpenAI ทำให้เข้าใจได้ยากขึ้นทั้งจุดเปราะบางของบริษัทและวิกฤตล่าสุดของบริษัทที่มีอิทธิพลสำคัญต่ออนาคตของ AI

วิกฤตและธรรมาภิบาลของ OpenAI

  • คณะกรรมการ OpenAI ปลด CEO Sam Altman ออกจากตำแหน่ง แต่หลังจากพนักงานและนักลงทุนคัดค้าน Altman ก็กลับมา และกรรมการส่วนใหญ่ถูกเปลี่ยนตัว
  • การปะปนกันระหว่างการลงทุนส่วนตัวของ Altman กับหน้าที่การงานของเขา อาจเป็นส่วนหนึ่งของสาเหตุที่ทำให้คณะกรรมการไม่ไว้วางใจ
  • การเปิดเผยเอกสารธรรมาภิบาลของ OpenAI อาจช่วยให้เห็นว่าคณะกรรมการมีอำนาจมากน้อยเพียงใดต่อ Altman และกิจกรรมนอกบริษัทของเขา

โครงสร้างองค์กรของ OpenAI และ Microsoft

  • ข้อบังคับการก่อตั้งของ OpenAI ระบุแนวทางที่ทำให้กรรมการบางส่วนสามารถกุมอำนาจและขับ Altman ออกได้
  • Satya Nadella CEO ของ Microsoft กล่าวต่อสาธารณะว่าเขาประหลาดใจกับการปลด Altman
  • OpenAI อาจได้แก้ไขเอกสารธรรมาภิบาลเพื่อทำให้โครงสร้างคณะกรรมการมีเสถียรภาพ และเพื่อปลอบใจผู้สนับสนุนอย่าง Microsoft

ความโปร่งใสที่ลดลงของ OpenAI

  • ในอดีต OpenAI เคยเปิดเผยข้อมูลเชิงลึกเกี่ยวกับสิ่งประดิษฐ์ด้าน AI แต่ระยะหลังได้ปกป้องรายละเอียดทางเทคนิคและข้อมูลของเครื่องมืออย่าง ChatGPT
  • ความโปร่งใสลดลงนับตั้งแต่ปี 2019 หลังจากจัดตั้งบริษัทย่อยเชิงพาณิชย์ที่รับผิดชอบงานพัฒนา AI ส่วนใหญ่แทนภาคไม่แสวงหากำไร
  • องค์กรไม่แสวงหากำไรของ OpenAI ยังคงเป็นผู้ควบคุมกิจกรรมและเทคโนโลยีของ OpenAI ในท้ายที่สุด

องค์กรไม่แสวงหากำไรของ OpenAI และการยื่นรายงานต่อ IRS

  • องค์กรไม่แสวงหากำไรในสหรัฐฯ ต้องเปิดเผยรายงานประจำปีต่อ IRS และต้องระบุด้วยว่ามีเอกสารเพิ่มเติมใดที่สามารถเปิดเผยได้หรือไม่
  • OpenAI ระบุในรายงานประจำปีต่อ IRS จนถึงปี 2022 ว่าจะให้ไฟล์เพิ่มเติมเมื่อ "มีการร้องขอ" แต่ในทางปฏิบัติไม่ได้ให้
  • เป็นเรื่องไม่ค่อยพบที่องค์กรไม่แสวงหากำไรจะเปิดเผยเอกสารภายใน และเอกสารเหล่านี้เข้าถึงได้ยาก

สถานะทางการเงินของ OpenAI

  • งบการเงินที่ OpenAI เปิดเผยไม่รวมผลประกอบการของภาคธุรกิจแสวงหากำไร โดยในปี 2022 รายงานรายได้ 44,000 ดอลลาร์ และค่าใช้จ่าย 1.3 ล้านดอลลาร์
  • โดยรวมแล้ว OpenAI ทำรายได้ระดับหลายล้านดอลลาร์ แต่ตัวเลขนี้ไม่ได้ถูกเปิดเผย
  • ภาคไม่แสวงหากำไรของ OpenAI แทบไม่ได้รับการสนับสนุนจากสาธารณะ จึงมีแรงจูงใจไม่มากนักที่จะเพิ่มความโปร่งใส

ความเห็นของ GN⁺

  • การยกเลิกคำมั่นด้านความโปร่งใสของ OpenAI ทำให้ยากต่อการทำความเข้าใจการดำเนินงานของบริษัทที่มีอิทธิพลสำคัญต่ออนาคตของเทคโนโลยี AI
  • การเปลี่ยนแปลงนี้อาจลดทอนการมีส่วนร่วมและความเชื่อมั่นของสาธารณะต่อการวิจัยและพัฒนา AI
  • การเปลี่ยนนโยบายของ OpenAI เป็นกรณีสำคัญที่อาจจุดประเด็นถกเถียงเรื่องความโปร่งใสและการดำเนินงานอย่างมีจริยธรรมในอุตสาหกรรม AI

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2024-01-25
ความคิดเห็นจาก Hacker News

  • น่าผิดหวังแต่ก็ไม่น่าแปลกใจ ลองหาบทเรียนจากเหตุการณ์นี้กัน

    • ในวงการ AI การอ้างถึงอัลทรูอิซึม (ความเห็นแก่ประโยชน์ผู้อื่น) และความเปิดกว้างเป็นเรื่องที่ได้รับความนิยม และ OpenAI, Anthropic รวมถึง xAI ใหม่ของ Musk ต่างก็มีโครงสร้างธรรมาภิบาลที่ไม่ปกติเพื่อประโยชน์สาธารณะ ปัญหาคือเมื่อใดก็ตามที่บริษัทใดบริษัทหนึ่งเริ่มได้รับความสนใจมากพอจนมีโอกาสทำกำไรได้หลายพันล้านดอลลาร์ สถานการณ์ก็จะเปลี่ยนไป
    • ปัญหานี้ไม่ได้จำกัดอยู่แค่บริษัท AI และก็ไม่ใช่เรื่องใหม่ด้วย นี่เป็นส่วนหนึ่งของธรรมชาติมนุษย์และจะคงอยู่เสมอ
    • เราควรให้ความสำคัญและความใส่ใจกับโมเดล AI แบบเปิดอย่างแท้จริงมากขึ้น (ข้อมูลฝึกที่เปิด, ซอร์สโค้ดการฝึกและไฮเปอร์พารามิเตอร์, ซอร์สโค้ดโมเดล, น้ำหนักโมเดล) เพื่อให้ประโยชน์ของ AI ตกแก่สาธารณะ ไม่ใช่แค่บริษัทเพียงไม่กี่แห่ง

  • เรารู้อยู่แล้วว่า OpenAI ไม่ได้แบ่งปันอะไรเลยตั้งแต่เปิดตัว ChatGPT แต่กลับได้รับเงินลงทุนหลายพันล้านดอลลาร์ ดังนั้นจึงไม่จำเป็นต้องแปลกใจที่ OpenAI ปิดมาก

  • OpenAI ผิดคำสัญญาทุกอย่างที่เคยให้ไว้

  • บอร์ดปล่อยให้เรื่องแบบนี้เกิดขึ้นได้อย่างไร!

    • ถ้าคิดอย่างจริงจังกว่านั้น นี่เป็นผลลัพธ์ที่เห็นได้ชัดอยู่แล้ว แต่ก็ให้ความรู้สึกทะแม่ง ๆ อยู่เล็กน้อย
    • เป็นความจริงที่ OpenAI ต้องการเงินทุนและเงินลงทุนจำนวนมาก และเพราะเหตุนี้จึงต้องมีการระดมทุนและความร่วมมือ
    • แต่เหตุผลเดียวที่ทำให้พวกเขาดำรงอยู่ได้ตั้งแต่แรก ก็เพราะพวกเขาวางตำแหน่งตัวเองว่าเป็นบริษัทที่ 'เปิด' คล้ายสาธารณูปโภคสาธารณะ และได้รับเงินบริจาคบนพื้นฐานนั้น

  • จากทุกอย่างที่เราได้ยินเกี่ยวกับการใช้งานที่อาจเป็นอันตรายต่อสังคมของเทคโนโลยีนี้ ฉันสงสัยว่าสถานการณ์นี้ร้ายแรงพอที่จะต้องมีการสืบสวนบางอย่างเพื่อให้เข้าใจว่าเกิดอะไรขึ้นหรือไม่

    • สถานการณ์นี้ร้ายแรงพอที่เราไม่ควรปล่อยให้การทำงานลักษณะนี้ถูกแปรรูปเป็นของเอกชน
    • ไม่จำเป็นต้องสนใจข้ออ้างที่ว่า 'นี่เป็นเรื่องปกติ' นั่นเป็นเพียงความพยายามทำให้พฤติกรรมแบบนี้กลายเป็นเรื่องปกติเท่านั้น
    • มีใครรู้ไหมว่ามีศูนย์ความปลอดภัยด้านปัญญาประดิษฐ์ที่ทำงานเพื่อประโยชน์สาธารณะ และเรื่องนี้อยู่ในเรดาร์ของพวกเขาหรือไม่?

  • ไม่ได้อยากปกป้อง Musk แต่ถ้าฉันเป็นเขา ฉันก็คงจะหงุดหงิดนิดหน่อยที่บทความเริ่มต้นด้วยแนวว่า 'มหาเศรษฐีสายเทคที่เคยสัญญาเรื่องความโปร่งใส แต่ตอนนี้ไม่เป็นเช่นนั้นแล้ว' ทั้งที่ผู้ก่อตั้งคนเดียวที่ถูกเอ่ยชื่อถูกไล่ออกไปตั้งหลายปีก่อน และตอนนี้กลายเป็นคู่แข่งที่เรียกสิ่งนี้ว่า 'AI แบบซูเปอร์ปิดซอร์สเพื่อผลกำไรสูงสุด' แต่บทความกลับใช้ตั้ง 8 ย่อหน้ากว่าจะชี้เรื่องนี้

    • สื่อเสพติดการกล่าวโทษ และรายละเอียดที่มีนัยสำคัญทุกอย่างระหว่างคำกล่าวโทษกับพาดหัวข่าวก็มักถูกโยนไปไว้ท้ายบทความ ซ่อนอยู่หลัง paywall บางทีอีกไม่กี่ปีข้างหน้า Altman ก็คงจะโดนกลยุทธ์แบบนี้เหมือนกัน
    • สถานการณ์แย่มากจนเมื่อฉันอ่านพาดหัวที่ส่อถึงความหน้าซื่อใจคด ฉันกลับมีแนวโน้มจะเชื่อด้านตรงข้ามมากขึ้นจริง ๆ ซึ่งเป็นความบกพร่องทางความคิดที่แย่พอ ๆ กับการสมมติว่าพาดหัวนั้นถูกต้อง!

  • ควรมีกฎตั้งแต่เริ่มต้นองค์กรเพื่อป้องกันไม่ให้เรื่องแบบนี้เกิดขึ้น การดำเนินของเหตุการณ์แสดงให้เห็นว่ารูปแบบธรรมาภิบาลของพวกเขาใช้การไม่ได้

  • อีกไม่นานพวกเขาก็คงเปลี่ยนชื่อบริษัทเป็น 'Microsoft AI'

  • แทนที่จะมอง OpenAI ว่าเป็นองค์กรไม่แสวงหากำไรเพื่อประโยชน์สาธารณะ ทางที่ดีที่สุดคือมองว่ามันก็ไม่ต่างจากบริษัทเทคเอกชนอื่น ๆ