- โมเดลหลักรุ่นถัดไปของ OpenAI ซึ่งเป็น Astra เวอร์ชันภายใน ได้สร้างผลลัพธ์ใหม่สำหรับปัญหาเปิด 10 ข้อที่ไม่มีความก้าวหน้าสำคัญมาอย่างน้อย 10 ปี ครอบคลุมตั้งแต่เรขาคณิตมิติสูงไปจนถึงความซับซ้อนเชิงควอนตัมและการเข้ารหัสลับบนแลตทิซ
- การค้นหาคำตอบใช้โทเค็นคิดเป็นมูลค่าประมาณ 2,000 ดอลลาร์ ตามราคา Sol API และหลังจากมนุษย์ใช้โมเดลเดียวกันเตรียมบทความแล้ว โมเดลได้ทำให้ข้อโต้แย้งแต่ละส่วนอยู่ในรูปแบบทางการเป็นใบรับรอง Lean
- ผลงานสำคัญรวมถึง การพิสูจน์การมีอยู่ของกลุ่มที่ไม่ใช่ sofic, การหักล้างข้อคาดการณ์ความแข็งของ Connes, ขอบเขตล่างของสูตรเลขคณิตสำหรับการคำนวณ permanent matrix ที่
n⁴/log nและทฤษฎีบทการทำซ้ำแบบขนานเชิงเลขชี้กำลังสำหรับเกมควอนตัมทั่วไปแบบผู้เล่น 2 คน - ปรับปรุงขอบเขตของการบรรจุทรงกลมและโค้ดไบนารี·โค้ดทรงกลม แก้ความยากในการประมาณปัญหาเวกเตอร์ใกล้ที่สุดภายในตัวคูณพหุนามและข้อคาดการณ์ปริมาตรของ Ehrhart รวมถึงตอบ ปัญหา Erdős 146·180·183
- OpenAI ระบุว่า แม้มนุษย์จะรับผิดชอบการเตรียมบทความ การทำ Lean formalization และความถูกต้อง แต่เนื่องจากข้อโต้แย้งทางคณิตศาสตร์ถูกสร้างโดย AI จึงไม่ควรระบุว่าเป็นผลงานเขียนของมนุษย์ และควร ให้เครดิตการมีส่วนร่วมของ AI อย่างตรงไปตรงมา
ผลลัพธ์ 10 ประการที่ Astra สร้างขึ้น
- OpenAI มอบโมเดล ChatGPT ที่ดีที่สุดของตนให้ใช้ฟรีแก่ผู้ใช้ 100,000 คนผ่าน ChatGPT for Academic Researchers เพื่อเร่งการค้นพบของนักวิทยาศาสตร์และนักคณิตศาสตร์ และยังประเมินโมเดลอย่างต่อเนื่องด้วยปัญหาวิจัยเปิดในระหว่างกระบวนการพัฒนา
- ในเดือนพฤษภาคม OpenAI เปิดเผย การหักล้างข้อคาดการณ์ระยะหน่วยของ Erdős ที่สร้างโดย AI ซึ่งพบระหว่างการประเมินโมเดลที่ยังไม่เปิดตัว และต่อมานำไปสู่งานวิจัยต่อเนื่องในคณิตศาสตร์และวิทยาการคอมพิวเตอร์เชิงทฤษฎี
- ปัญหาที่คัดเลือกมาไม่มีความก้าวหน้าในผลลัพธ์หลักมาอย่างน้อย 10 ปี และส่วนใหญ่ยาวนานกว่านั้นมาก อีกทั้งได้รับความสนใจอย่างมากจากชุมชนนักคณิตศาสตร์ในแต่ละสาขา
- Astra เวอร์ชันภายใน เป็นผู้ค้นพบคำตอบ และค่าใช้จ่ายในการค้นหาทั้งหมดอยู่ที่ประมาณ 2,000 ดอลลาร์ตามราคา Sol API
- มนุษย์ใช้โมเดลเดียวกันเตรียมข้อโต้แย้งเป็น บทความ
- โมเดลทำให้ข้อโต้แย้งแต่ละข้ออยู่ในรูปแบบทางการเป็น ใบรับรอง Lean
- ยังเผยแพร่ คำอธิบายกระบวนการให้เหตุผล ของโมเดลสำหรับแต่ละคำตอบด้วย
- ผลลัพธ์ 10 ประการมีดังนี้
- การบรรจุทรงกลมมิติสูง: ลดขอบเขตบนใหม่ของความหนาแน่นการบรรจุทรงกลมลงจนถึงจุดวิกฤต Cohn–Elkies
- โค้ดไบนารี·โค้ดทรงกลม: ปรับปรุงขอบเขตของขนาดสูงสุดของโค้ดไบนารีที่ระยะต่ำสุดที่กำหนดแบบเชิงเลขชี้กำลัง และได้ผลลัพธ์คล้ายกันสำหรับโค้ดทรงกลมมิติสูง
- กลุ่มที่ไม่ใช่ sofic: เสนอการสร้างที่ยืนยันการมีอยู่ของกลุ่มที่ไม่ใช่ sofic แก้ปัญหาเปิดสำคัญในทฤษฎีกลุ่ม
- ข้อคาดการณ์ความแข็งของ Connes: หักล้างข้อคาดการณ์ที่มีมานานว่ากลุ่มบางกลุ่มถูกกำหนดอย่างเอกเทศโดยพีชคณิต von Neumann
- ความซับซ้อนของวงจรเลขคณิต: ได้ขอบเขตล่างใหม่สำหรับการคำนวณ permanent matrix ด้วยวงจรและสูตรเลขคณิต โดยขอบเขตล่างของสูตรเลขคณิตมีลำดับ
n⁴/log n - การทำซ้ำแบบขนานเชิงควอนตัม: พิสูจน์ทฤษฎีบทการทำซ้ำแบบขนานเชิงเลขชี้กำลังสำหรับเกมควอนตัมทั่วไปแบบผู้เล่น 2 คน ขยายหลักการพื้นฐานของทฤษฎีความซับซ้อนแบบคลาสสิก
- ปัญหาเวกเตอร์ใกล้ที่สุด: ยืนยันความยากในการประมาณภายในตัวคูณพหุนามสำหรับปัญหาแลตทิซหลักที่เกี่ยวข้องกับการเข้ารหัสลับหลังควอนตัม
- ข้อคาดการณ์ปริมาตรของ Ehrhart: กำหนดปริมาตรสูงสุดที่เป็นไปได้ในทุกมิติของทรงนูนที่มีจุดแลตทิซภายในเพียงจุดศูนย์ถ่วงเท่านั้น
- จำนวน Ramsey หลายสี: ได้ขอบเขตล่างแบบเหนือเลขชี้กำลังของจำนวน Ramsey ของสามเหลี่ยมหลายสี แก้ ปัญหา Erdős 183
- ข้อคาดการณ์ในทฤษฎีกราฟสุดขีด: แก้ ปัญหา Erdős 146·180 ด้วยผลลัพธ์เกี่ยวกับข้อคาดการณ์เรื่องความกะทัดรัดและความเสื่อม
- งานวิจัยที่เกิดขึ้นหลังการหักล้างข้อคาดการณ์ระยะหน่วยก่อนหน้านี้ ได้แก่ ตัวอย่างโต้แย้งของข้อคาดการณ์ผลบวก-ผลคูณบนจำนวนจริง, จำนวนเฉพาะที่แยกตัวประกอบและปัญหา Elekes–Rónyai, ความจำเป็นของเวลาเชิงกำลังสองสำหรับคู่จุดไกลสุดในมิติเหนือค่าคงที่ภายใต้ SETH, ความซับซ้อนในการสื่อสารของการตัดกันจุด-เส้นบนจำนวนจริง, ระยะซ้ำในแลตทิซ Minkowski
การให้เครดิตงานวิจัยและบทบาทของชุมชนคณิตศาสตร์
- การเกิดขึ้นของระบบ AI ที่สามารถมีส่วนร่วมในงานวิจัยคณิตศาสตร์ก่อให้เกิดคำถามที่บริษัทเทคโนโลยีเพียงแห่งเดียวตอบได้ยาก และ OpenAI เคารพจุดยืนของผู้ที่กังวลต่อผลกระทบของ AI รวมถึงผู้ลงนามใน Leiden Declaration on AI and Mathematics
- ต้องสะท้อนวิธีที่ผลลัพธ์ถูกสร้างขึ้นอย่าง ซื่อตรงในการระบุผู้เขียนและการให้เครดิตการมีส่วนร่วม
- หากระบุว่าพิสูจน์ที่ AI สร้างขึ้นทั้งหมดเป็นผลงานเขียนของมนุษย์ จะบิดเบือนทั้งการมีส่วนร่วมของระบบและงานทางปัญญาที่แท้จริงของมนุษย์
- มนุษย์ช่วยในการเตรียมบทความและการทำ Lean formalization รวมถึงรับผิดชอบต่อความถูกต้อง แต่ข้อโต้แย้งทางคณิตศาสตร์เองถูกสร้างโดยระบบ AI
- คาดหวังให้ชุมชนคณิตศาสตร์ตรวจสอบผลลัพธ์และวางบริบท จากนั้นพัฒนาแนวคิดเหล่านี้ไปสู่งานวิจัยและการค้นพบใหม่
- ในขณะที่ AI พัฒนาเป็นผู้ร่วมวิจัยที่ซับซ้อนยิ่งขึ้น การเข้าถึงอย่างกว้างขวาง เป็นสิ่งจำเป็น เพื่อให้นักวิทยาศาสตร์และนักคณิตศาสตร์ได้สำรวจและกำหนดอนาคตของแต่ละสาขา
1 ความคิดเห็น
ความคิดเห็นบน Hacker News
ข้อไม่พอใจที่ใหญ่ที่สุดคือการขาด ความโปร่งใส เกี่ยวกับการทดลองและการจัดองค์ประกอบทั้งหมด ดูยากที่จะเชื่อว่าพวกเขาแค่ให้โมเดลลองแก้ปัญหา 10 ข้อนี้อย่างละหนึ่งครั้ง ดังนั้นตัวเลข 2,000 ดอลลาร์ ที่นำเสนอโดยไม่เปิดเผยการออกแบบการทดลองทั้งหมดอาจทำให้คนเข้าใจผิดว่าเป็นการแฮ็กค่า P ได้
อยากรู้จำนวนโจทย์ทั้งหมดที่ให้โมเดล อัตราและค่าใช้จ่ายของโจทย์ที่แก้ไม่ได้ก่อนจะยอมแพ้ จำนวนครั้งที่ลองต่อโจทย์ และค่าใช้จ่ายของสภาพแวดล้อมการรันรวมถึงการเข้าถึงคลัสเตอร์งาน
ต้องตรวจสอบด้วยว่าเป็นไปได้หรือไม่ที่ OpenAI จ้าง นักวิจัยคอมบิเนโทริกส์ ที่เก่งมากมาแก้ปัญหา แล้วใช้โมเดลเพียงในบทบาทรอง
สิ่งที่น่าประหลาดใจกว่าคือบทความนี้ไม่ได้ขึ้นไปถึงด้านบนสุดของหน้าแรก HN ด้วยซ้ำ แม้จะเป็นผลลัพธ์ที่ก้าวหน้ากว่าเดิม แต่มันก็แสดงให้เห็นว่าตอนนี้ผู้คนไม่ค่อยแปลกใจกับแนวคิดที่ว่า AI กำลังสร้างความก้าวหน้าสำคัญในคณิตศาสตร์และวิทยาการคอมพิวเตอร์แล้ว
ตอนนี้ยากจะปฏิเสธอิทธิพลของ AI ได้แล้ว และแทบไม่เหลือที่ให้ย้ายเสาประตูไปตั้งใหม่ คราวหน้าคงต้องย้ายออกนอกสนามกันแล้ว
ยิ่งผู้คนเลิกปฏิเสธได้เร็วและเริ่มรับมือเรื่องนี้อย่างจริงจังได้เร็วเท่าไร ก็ยิ่งดีเท่านั้น
ผมไม่ได้เป็นผู้เชี่ยวชาญในสาขาที่ OpenAI บอกว่าก้าวหน้าไป จึงไม่อยากรีบดูแคลนผลงานนี้ แต่ก็กลัวว่าถ้อยคำในบล็อกจะถูกขยายเกินจริงเพื่อการตลาด
ก่อนหน้านี้เป็นความจริงที่ยังไม่มีวิธีเชิงคำนวณที่แก้ปัญหาเหล่านี้ได้อย่างเสถียร แต่ประเด็นสำคัญคือ การพิสูจน์ครั้งนี้ได้เพิ่มแนวคิดใหม่ให้คณิตศาสตร์จริงหรือไม่ หรือเป็นเพียงการ ค้นหาขนาดใหญ่ เพื่อหาชุดเครื่องมือที่เหมาะสมจากวรรณกรรมเดิม
อยากรู้ว่าแต่แรกมันเป็นปัญหาที่คำตอบดูพอเดาได้และดูเหมือนพิสูจน์ได้อยู่แล้ว แต่ไม่คุ้มให้ผู้เชี่ยวชาญลงเวลาหรือไม่ หรือว่ามันยากโดยเนื้อแท้และ AI ทำมากกว่าการใส่มันลงในเครื่องแก้ปัญหาขนาดยักษ์จริงๆ
กล่าวคือ นวัตกรรมสามารถวัดได้อย่างค่อนข้างเป็นรูปธรรมจากระดับที่มันเชื่อมโยงแนวคิดและสาขาที่ก่อนหน้านี้ไม่เชื่อมกัน Puja Ohlhaver เคยนำเสนอเรื่องนี้ และผมก็เคยทำการทดลองที่ได้รับทุนสนับสนุนเกี่ยวกับเรื่องนี้ด้วย: https://www.youtube.com/watch?v=guLDNMAOn24
advancedนักวิจัยระดับปริญญาเอกใช้เวลาช่วงใหญ่ของอาชีพกับปัญหาเหล่านี้ ดังนั้นคำนี้จึงเหมาะสมแล้วหนึ่งในภาพคาดการณ์ช่วงแรกของการเร่งตัวของ AI คือระบบที่แก้ปัญหาคณิตศาสตร์ชั้นสูงที่ยังไม่มีคำตอบได้ จะทำให้เกิดการค้นพบใหม่ในคณิตศาสตร์และวิทยาการคอมพิวเตอร์ ซึ่งจะยกระดับประสิทธิภาพซอฟต์แวร์แบบก้าวกระโดดด้วย
ผลงานตอนนี้อยู่ในระดับคณิตศาสตร์แนวหน้าที่ถ้าเป็นมนุษย์ก็จะอยู่ประมาณท็อป 100–1,000 ของโลก หรือราว ท็อป 0.00001% และในฝั่งซอฟต์แวร์ก็มีความก้าวหน้าใหญ่เช่นกัน อย่างที่ OpenAI แก้ปัญหา GPU kernel แล้วเพิ่มประสิทธิภาพได้ราว 15% ทั้งสองอย่างเชื่อมกันด้วยกฎการขยายขนาดและการทำให้ความฉลาดเป็นทั่วไป ในแง่ที่ว่าโมเดลขนาดใหญ่ได้ความสามารถด้านคณิตศาสตร์และวิศวกรรมซอฟต์แวร์ที่ขนาดเล็กทำไม่ได้
แต่ตอนนี้ผมมองว่าความเป็นไปได้ที่การค้นพบทางคณิตศาสตร์/วิทยาศาสตร์จะเปิดทางตรงไปสู่การเพิ่มประสิทธิภาพซอฟต์แวร์นั้นน้อยกว่าที่เคยคิด บริษัทเทคโนโลยีก็มอบงานวิศวกรรมซอฟต์แวร์ให้คนจบปริญญาเอกคณิตศาสตร์แทนคณิตศาสตร์บริสุทธิ์ และเหตุที่พวกเขาเก่งมักมาจากสติปัญญาทั่วไปมากกว่าการค้นพบทางวิชาการล่าสุด
ดังนั้นนี่เป็นหลักฐานว่าโมเดลกำลังดีขึ้นก็จริง แต่ยังดูไม่ใช่ช่วงก่อนหน้า การเร่งตัวแบบระเบิด (foom) ที่ถูกจุดชนวนด้วยการปฏิวัติคณิตศาสตร์แนวหน้า
ความสามารถของ AI ภายในที่ยังไม่เปิดเผยชื่อก็น่าประทับใจ แต่ไม่มีชื่อของ ผู้มีส่วนร่วมที่เป็นมนุษย์ ปรากฏอยู่เลยสักคน อย่างน้อยต้องมีใครสักคนชงกาแฟให้โมเดลนี้บ้างล่ะ
สงสัยว่าถ้ารวมเงินเดือนของนักคณิตศาสตร์และวิศวกรเข้าไปด้วย ต้นทุนรวม ของงานวิจัยนี้จะเป็นเท่าไร
https://x.com/polynoamial/status/2083470822258467194
สงสัยว่าถ้าบริษัทอย่าง OpenAI ไม่เผยแพร่ผลลัพธ์แบบนี้ แล้วแค่เริ่ม ใส่เข้าไปในข้อมูลฝึก จะเกิดอะไรขึ้น
แม้จะหมายถึงการเอาไปใช้ปรับปรุงโมเดลแบบไม่เปิดเผย ประโยชน์เพิ่มจากบทพิสูจน์ที่ถูกต้องไม่กี่ชิ้นก็คงน้อยมาก และสุดท้ายก็น่าจะถูกดึงออกมาจากโมเดลจนคนภายนอกรู้กันอยู่ดี
บริษัทอย่าง OpenAI น่าจะปล่อยให้ผู้เชี่ยวชาญใช้ โทเคนมูลค่าหลายล้านดอลลาร์ ได้สบายๆ พวกเขาไม่ได้ขายทรัพยากรคำนวณทั้งหมดตลอด 24 ชั่วโมงทุกวันอยู่แล้ว ดังนั้นต้นทุนภายในก็น่าจะใกล้เคียงค่าไฟเป็นส่วนใหญ่
แต่ถ้าทั้งอย่างนั้นทรัพยากรคำนวณก็ยังใช้งานไม่เต็ม ก็น่าจะทำให้สงสัยว่าศูนย์ข้อมูลจำนวนมากที่กำลังจะสร้างต่อจากนี้จำเป็นจริงหรือไม่