นักวิจัย OpenAI ส่งจดหมายเตือนคณะกรรมการเกี่ยวกับนวัตกรรม AI ก่อนการปลด CEO

• นักวิจัยของ OpenAI ส่งจดหมายถึงคณะกรรมการบริษัทเพื่อเตือนเกี่ยวกับการค้นพบด้านปัญญาประดิษฐ์ที่ทรงพลัง เมื่อ 4 วันก่อนเหตุการณ์ของ Sam Altman
• แม้ยังไม่มีการยืนยันเนื้อหาในจดหมาย แต่นักวิจัยได้ชี้ให้เห็นถึงความสามารถของ AI และความเสี่ยงที่อาจเกิดขึ้น

ความคืบหน้าของโครงการ Q*

• ภายใน OpenAI เชื่อว่าได้สร้างความก้าวหน้าครั้งสำคัญสู่ปัญญาประดิษฐ์ทั่วไป (AGI) ในโครงการที่ชื่อว่า Q*
• Q* สร้างความคาดหวังอย่างมากในหมู่นักวิจัย ด้วยการแสดงความสามารถในการแก้โจทย์คณิตศาสตร์ระดับประถมศึกษา
• AGI ต่างจากเครื่องคิดเลขที่แก้ได้เพียงการคำนวณแบบจำกัด เพราะมีความสามารถในการทำให้เป็นนามธรรม การเรียนรู้ และความเข้าใจ

SUPERINTELLIGENCE

• คณิตศาสตร์คือแนวหน้าของความก้าวหน้าใน generative AI โดยปัจจุบัน AI เก่งด้านการเขียนและการแปลภาษา จากการคาดการณ์คำถัดไปเชิงสถิติ
• ความสามารถในการแก้ปัญหาคณิตศาสตร์บ่งชี้ว่า AI อาจมีความสามารถในการให้เหตุผลที่คล้ายกับสติปัญญามนุษย์
• ความสามารถเช่นนี้อาจถูกนำไปประยุกต์ใช้กับการวิจัยทางวิทยาศาสตร์แบบใหม่

ความเห็นของ GN⁺

• ประเด็นสำคัญที่สุดของบทความนี้คือข้อเท็จจริงที่ว่านักวิจัยของ OpenAI ได้เตือนคณะกรรมการเกี่ยวกับความเสี่ยงที่อาจเกิดขึ้นของ AI และความคืบหน้าของโครงการ Q*
• การค้นพบนี้ซึ่งดูเหมือนจะพาเราเข้าใกล้ปัญญาประดิษฐ์ทั่วไป (AGI) ไปอีกก้าว อาจจุดประกายการถกเถียงที่น่าสนใจเกี่ยวกับอนาคตของเทคโนโลยี AI และผลกระทบต่อมนุษยชาติ
• นี่เป็นหัวข้อที่ดึงดูดผู้คนได้ เพราะนอกจากความเป็นไปได้เชิงบวกจากความก้าวหน้าของ AI แล้ว ยังช่วยเพิ่มการตระหนักรู้ต่อความเสี่ยงที่อาจเกิดขึ้นด้วย

[cosine20]

แต่นี่มันก็เป็นแค่เรื่องของเวลาไม่ใช่เหรอ? ต่อให้ OpenAI ซึ่งพัฒนาก่อน จะชะลอการเปิดเผยหรือยกเลิกการปล่อยออกมาก็ตาม สุดท้ายก็ดูเหมือนว่าบริษัทคู่แข่งรายอื่นหรือคอมมูนิตี้โอเพนซอร์สก็คงจะมีอะไรที่คล้ายกันออกมาเข้าสักวันอยู่ดี..

[GN⁺]

ความเห็นจาก Hacker News

• มีการเชื่อมโยงกับทฤษฎีที่โพสต์บน 4chan เมื่อไม่กี่วันก่อน โดยมีเนื้อหาว่า หากเวอร์ชันใดถูกประกาศอย่างเป็นทางการว่าเป็น AGI (ปัญญาประดิษฐ์ทั่วไป) ก็จะไม่สามารถให้สิทธิ์ใช้งานแก่ Microsoft และบริษัทอื่น ๆ เพื่อผลประโยชน์ทางการค้าได้ ดังนั้นจึงมีการอ้างว่า Altman ไม่ต้องการให้มันถูกเรียกว่า AGI แต่กรรมการบอร์ดคนอื่น ๆ ต้องการเช่นนั้น
• มีการกล่าวถึงการค้นพบว่าโมเดลใหม่ชื่อ Q* สามารถแก้โจทย์คณิตศาสตร์ได้ในระดับหนึ่งโดยใช้ทรัพยากรคอมพิวต์จำนวนมหาศาล โมเดลนี้ประสบความสำเร็จในการแก้โจทย์คณิตศาสตร์ระดับประถมศึกษา และนักวิจัยมองโลกในแง่ดีอย่างมากต่อความสำเร็จของ Q* ในอนาคต
• มีการอ้างถึงความเห็น 2 รายการที่ Sam Altman พูดไว้เมื่อไม่นานมานี้เกี่ยวกับการค้นพบ Q* รายการหนึ่งเป็นความเห็นที่ APEC เมื่อวันที่ 18 พฤศจิกายน และอีกอันเป็นโพสต์บน Twitter เมื่อวันที่ 22 กันยายน โดยทั้งสองกล่าวถึงความก้าวหน้าและช่วงเวลาแห่งการค้นพบของ OpenAI
• มีความเห็นว่าการกำหนดขีดจำกัดต่อความมั่งคั่งและอำนาจของแต่ละบุคคลเป็นแนวคิดที่ดี เราเคยเห็นบริษัทน้ำมันทำลายโลกเพื่อผลกำไร และบริษัทเทคโนโลยีละเมิดความเป็นส่วนตัวเพื่อผลกำไร จึงมีคำถามว่า Sam Altman จะทำหรือไม่ทำอะไรเพื่อผลกำไร
• ประมาณหนึ่งเดือนก่อน Sam Altman เคยแสดงความเห็นว่า AI อาจก่อให้เกิดผลลัพธ์ที่แปลกประหลาดอย่างมาก ก่อนที่จะมีความสามารถในการโน้มน้าวเหนือมนุษย์ในระดับปัญญาทั่วไป บอร์ดอาจตกใจกับความก้าวหน้าครั้งล่าสุดจนกดปุ่มฉุกเฉิน และความสามารถในการ "โน้มน้าวเหนือมนุษย์" ก่อนวัฏจักรการเลือกตั้ง อาจก่อให้เกิดผลลัพธ์มหาศาลหากตกไปอยู่ในมือที่ไม่เหมาะสม
• วันหนึ่ง AI จะทำงานได้ 50% ของงานทั้งหมด ตัดสินใจเรื่องสำคัญ เราจะนั่งรถที่ AI ขับ และผู้คนจะมีความสัมพันธ์เชิงโรแมนติกกับ AI แต่แม้ถึงตอนนั้น เราก็ยังจะถกเถียงกันอยู่ว่าสิ่งที่ถูกสร้างขึ้นมานั้นเป็น AGI ที่แท้จริงหรือไม่ AGI จะถูกมองว่าเป็นขั้นถัดไปเสมอ และวันหนึ่งเราจะตระหนักว่าเราได้ข้ามเส้นนั้นไปแล้วตั้งแต่หลายปีก่อน
• มีเนื้อหาที่ช่วยอธิบายได้ว่าทำไมบอร์ดของ OpenAI จึงไม่ไว้วางใจ Sam Altman และคิดว่าการระเบิดบริษัททิ้งยังดีกว่าการสำรวจเทคโนโลยีนั้นต่อไป
• เนื้อหานี้สอดคล้องกับจดหมายที่เกี่ยวข้องกับการปลด Sam Altman โดยบอร์ดมากกว่า และการที่ไม่มีการรายงานการค้นพบครั้งใหญ่ แต่บอร์ดกลับมารู้ผ่านจดหมายจากพนักงาน อาจถือได้ว่าเป็นการ "ไม่ซื่อตรง" นอกจากนี้ หากตั้งสมมติฐานแบบสถานการณ์วันสิ้นโลก ก็มีคำถามว่าจะสามารถเก็บความลับนี้ไว้ได้นานแค่ไหนไม่ให้ตกไปอยู่ในมือของผู้ไม่หวังดี
• มีความเห็นว่า OpenAI กำลังใช้แนวทางบุกเบิกในด้านกลยุทธ์การตลาด ด้วยข้อความทำนองว่า "เรามี AGI ทรงพลังอยู่ในตู้ใบนี้ และมันทรงพลังเกินกว่าจะปล่อยมันออกมา" พร้อมอ้างว่าจะนำเงินจากผู้คนมาใช้เพื่อรักษาความปลอดภัย
• ผู้ปกครองคนหนึ่งคุยกับลูกชายวัย 12 ปีของตนเกี่ยวกับส่วนที่น่าเบื่อของคณิตศาสตร์ และลูกบอกว่าค่าสัมบูรณ์นั้นง่ายและน่าเบื่อมาก ลูกยังเห็นว่าถ้าใช้จำนวนเชิงซ้อนอาจน่าสนใจกว่า ผู้ปกครองจึงตระหนักว่าลูกเข้าใจว่าค่าสัมบูรณ์บนระนาบเชิงซ้อนคือด้านตรงข้ามมุมฉากของส่วนจริงและส่วนจินตภาพ ความเข้าใจนี้ไม่ได้เกิดจากการมีเพียงพจนานุกรมคำพ้องจำนวนมาก แต่เกิดจากความเข้าใจในกลไกพื้นฐาน จึงมีการตั้งคำถามว่าโมเดลภาษาขนาดใหญ่จะสามารถไปถึงข้อสรุปแบบนี้ได้ผ่านกระบวนการใด