- Thomas Wolf ผู้ร่วมก่อตั้ง HuggingFace โต้แย้งว่า AI จะไม่นำไปสู่ความก้าวหน้าแบบก้าวกระโดดในวิทยาศาสตร์ หรือสิ่งที่เรียกว่า "ศตวรรษที่ 21 แบบถูกบีบอัด"
- "ศตวรรษที่ 21 แบบถูกบีบอัด" เป็นแนวคิดจาก "Machine of Loving Grace" ของ Dario Amodei ที่มองว่า AI จะทำหน้าที่เสมือนไอน์สไตน์จำนวนมากในดาต้าเซ็นเตอร์ และ สร้างการค้นพบทางวิทยาศาสตร์ทั้งหมดของศตวรรษที่ 21 ให้เสร็จภายใน 5-10 ปี
- ตอนแรกเขารู้สึกประทับใจกับแนวคิดนี้และคิดว่า "AI จะเปลี่ยนทุกอย่างในวิทยาศาสตร์ภายใน 5 ปี!" แต่เมื่อกลับมาอ่านอีกครั้งก็เห็นว่า หลายส่วนดูคล้ายความหวังมากกว่าความเป็นจริง (wishful thinking)
AI ไม่ใช่อัจฉริยะ แต่เป็น 'Yes-man'
- เขาคิดว่าสิ่งที่เราจะได้จริง ๆ คือ "อาณาจักรของ Yes-man บนเซิร์ฟเวอร์" (หากแนวโน้มปัจจุบันยังดำเนินต่อไป)
- เพื่ออธิบายความแตกต่างนี้ เขาเล่าเรื่องส่วนตัว
- เขาเป็นนักเรียนที่ผลการเรียนดีมาโดยตลอด
- เติบโตในเมืองเล็ก ๆ เข้าเรียนวิศวกรรมในสถาบันชั้นนำของฝรั่งเศส และได้รับคัดเลือกเข้าศึกษาระดับปริญญาเอกที่ MIT
- การเรียนในโรงเรียนเป็นเรื่องง่ายสำหรับเขาเสมอ
- เขาคาดเดาได้ล่วงหน้าว่าคำอธิบายของอาจารย์กำลังจะพาไปทางไหน และผู้ออกข้อสอบจะถามอะไร
- แต่เมื่อเขากลายเป็นนักวิจัยจริง ๆ (นักศึกษาปริญญาเอก) เขากลับได้รับความกระทบกระเทือนอย่างมาก
- เขาเป็นนักวิจัยธรรมดา ๆ ต่ำกว่าค่าเฉลี่ย และต่ำกว่าที่คาดหวัง
- เพื่อนร่วมงานมีไอเดียที่น่าสนใจมากมาย แต่เขามักชนกำแพงอยู่เสมอ
- สิ่งที่ไม่ได้เขียนอยู่ในหนังสือ เขาไม่สามารถประดิษฐ์ขึ้นมาเองได้ (และถึงทำได้ก็เป็นเพียงการดัดแปลงทฤษฎีเดิมที่ไม่ค่อยมีประโยชน์)
- ที่หนักกว่านั้นคือการตั้งข้อสงสัยต่อความรู้ที่เรียนมาและท้าทายสภาพเดิมเป็นเรื่องยากมาก
- เขาไม่ใช่ไอน์สไตน์ แต่เป็นเพียงนักเรียนที่เรียนเก่ง
- บางทีเหตุผลที่เขาไม่ใช่ไอน์สไตน์อาจเป็นเพราะว่า เขาเรียนเก่งในระบบโรงเรียนเกินไป
- อัจฉริยะในประวัติศาสตร์จำนวนมากมักมีปัญหากับการเรียน
- Edison เคยถูกครูประเมินว่า "ทึ่ม (addled)"
- Barbara McClintock เคยถูกวิจารณ์ว่ามี "ความคิดประหลาด" แต่ภายหลังได้รับรางวัลโนเบล
- Einstein สอบเข้า ETH Zurich ไม่ผ่านในครั้งแรก
- ตัวอย่างลักษณะนี้มีอยู่อีกมากมาย
- ความเข้าใจผิดที่คนมักทำคือคิดว่า Newton หรือ Einstein เป็นเพียง "เด็กเรียนเก่งที่ขยายขนาด"
- กล่าวคือ คิดผิดว่าหากขยายความสามารถของนักเรียนระดับท็อป 10% แบบเชิงเส้น ก็จะได้อัจฉริยะขึ้นมา
- มุมมองนี้มองข้ามความสามารถที่สำคัญที่สุดในวิทยาศาสตร์
- ความสามารถในการตั้งคำถามที่ถูกต้อง และกล้าท้าทายแม้กระทั่งความรู้ที่ตัวเองเรียนมา คือ หัวใจของการทะลุกรอบทางวิทยาศาสตร์อย่างแท้จริง
- ความก้าวหน้าทางวิทยาศาสตร์จริง ๆ เกิดจากการที่ Copernicus ขัดแย้งกับความรู้ทั้งหมดในยุคนั้นและเสนอว่า โลกหมุนรอบดวงอาทิตย์
- หากพูดในภาษาของแมชชีนเลิร์นนิง ก็คือการขัดกับ "ข้อมูลฝึกทั้งหมด"
วิธีสร้างไอน์สไตน์
- การสร้างไอน์สไตน์ในดาต้าเซ็นเตอร์ไม่ใช่แค่การมีระบบที่รู้ทุกคำตอบ
- แต่ต้องเป็น ระบบที่ตั้งคำถามในแบบที่ไม่มีใครแม้แต่จะนึกถึง
- ต้องสามารถถามว่า "ถ้าทั้งหมดนี้ผิดล่ะ?" ได้ แม้เมื่อหนังสือเรียน ผู้เชี่ยวชาญ และสามัญสำนึกต่างคัดค้าน
- ลองนึกถึงการเปลี่ยนกรอบความคิดอย่างสุดโต่งของทฤษฎีสัมพัทธภาพพิเศษ
- มันต้องอาศัยความกล้าที่จะวางสัจพจน์ข้อแรกว่า "ให้สมมติว่าความเร็วแสงคงที่ในทุกกรอบอ้างอิง"
- นี่คือสิ่งที่ขัดกับสามัญสำนึกในยุคนั้น (และแม้แต่สัญชาตญาณในปัจจุบัน)
- CRISPR เป็นที่รู้จักมาตั้งแต่ทศวรรษ 1980 ว่าเป็น ระบบภูมิคุ้มกันแบบปรับตัวของแบคทีเรีย
- แต่ 25 ปีหลังจากการค้นพบ Jennifer Doudna และ Emmanuelle Charpentier เสนอว่าสามารถนำมันมาใช้กับ การตัดต่อยีน ได้ และได้รับรางวัลโนเบล
- "เรารู้มาหลายปีแล้วว่า XX ทำ YY แต่ถ้าเรารู้ผิดล่ะ? หรือถ้าเรานำมันไปใช้กับสิ่งที่ต่างออกไปโดยสิ้นเชิงอย่าง ZZ ได้ล่ะ?"
- การตระหนักเช่นนี้คือแก่นแท้ของ การคิดนอกกรอบความรู้เดิม (outside-of-knowledge thinking) และ การเปลี่ยนกระบวนทัศน์ (paradigm shift)
- และนี่คือกลไกหลักของความก้าวหน้าทางวิทยาศาสตร์
- การเปลี่ยนกระบวนทัศน์ลักษณะนี้เกิดขึ้นไม่บ่อย (ประมาณปีละ 1-2 ครั้ง)
- และเมื่อผลกระทบได้รับการยืนยันแล้ว การทะลุกรอบเหล่านี้ก็มักนำไปสู่รางวัลโนเบล
- แม้จะเกิดไม่บ่อย แต่เขาเห็นด้วยกับ Dario ในจุดหนึ่ง
- สิ่งที่มีน้ำหนักมากที่สุดในการพัฒนาวิทยาศาสตร์ คือ การเปลี่ยนกระบวนทัศน์ แบบนี้ ส่วนที่เหลือส่วนใหญ่เป็นเพียงสัญญาณรบกวน
เหตุผลที่ AI ยังสร้างนวัตกรรมทางวิทยาศาสตร์ได้ยาก
- ความสามารถของ AI ในปัจจุบันยังมุ่งเน้นไปที่การเรียนรู้ความรู้ที่มีอยู่แล้วและการตอบคำถาม
- วิธีที่ใช้ประเมินการพัฒนาความฉลาดของโมเดล AI ในปัจจุบันยังมีข้อจำกัด
- ตัวอย่างการทดสอบล่าสุดของ AI ได้แก่ "Humanity's Last Exam" หรือ "Frontier Math"
- เป็นชุดคำถามที่ยากมาก ซึ่งโดยทั่วไปเขียนโดยนักวิจัยระดับปริญญาเอก
- แต่ก็ยังมี คำตอบที่ชัดเจนและปิดตาย อยู่
- ข้อสอบเหล่านี้เหมือนกับข้อสอบประเภทที่เขาเคยทำได้ดีตอนเรียน
- มันทดสอบความสามารถในการหาคำตอบที่ถูกต้องสำหรับปัญหาที่รู้คำตอบอยู่แล้ว
- แต่ความก้าวหน้าทางวิทยาศาสตร์ที่แท้จริงไม่ได้เกิดจาก การตอบคำถามที่มีอยู่แล้ว
- หากเกิดจาก การตั้งคำถามใหม่ที่ท้าทาย และตั้งข้อสงสัยต่อแนวคิดและไอเดียเดิม
- ลองนึกถึง The Hitchhiker's Guide to the Galaxy ของ Douglas Adams
- คำตอบคือ "42" แต่ ไม่มีใครรู้ว่าคำถามคืออะไร
- นี่แหละคือ ธรรมชาติของงานวิจัย
- แม้ LLM ในปัจจุบันจะจดจำความรู้ทั้งหมดของมนุษยชาติไว้ได้ แต่ก็ยัง ไม่สามารถสร้างความรู้ใหม่
- ส่วนใหญ่สิ่งที่ทำคือ "manifold filling"
- คือการเติมช่องว่างระหว่างความรู้ที่มนุษย์รู้อยู่แล้ว
- เป็นการ เชื่อมโยงความรู้เข้าด้วยกันราวกับเป็นผืนผ้าของความจริง
- สิ่งที่เรากำลังสร้างอยู่ตอนนี้คือ นักเรียนที่เชื่อฟังมาก
- ซึ่งเหมาะอย่างยิ่งกับเป้าหมายหลักของ AI ในปัจจุบัน คือการเป็น ผู้ช่วยที่เก่งมาก และ helper ที่ว่าง่าย
ถ้า AI จะสร้างนวัตกรรมทางวิทยาศาสตร์ได้จริง
- แต่หาก AI จะสร้างนวัตกรรมทางวิทยาศาสตร์ได้จริง จะต้องมีเงื่อนไขต่อไปนี้
- ต้องสามารถตั้งข้อสงสัยต่อความรู้ที่ตัวเองมี
- ต้องสามารถเสนอไอเดียใหม่ที่ขัดแย้งกับข้อมูลฝึกในอดีตได้
- หากทำไม่ได้ AI ก็จะไม่สามารถนำมาซึ่งนวัตกรรมทางวิทยาศาสตร์
- หากเราต้องการการทะลุกรอบทางวิทยาศาสตร์ เราต้องทบทวนวิธีวัดประสิทธิภาพของโมเดล AI ใหม่
- ตอนนี้เราวัด ปริมาณความรู้ และ ความสามารถในการตอบคำถามเดิมได้อย่างถูกต้อง
- แต่ควรเปลี่ยนไปสู่วิธีที่ทดสอบได้ทั้ง ความรู้และความสามารถในการให้เหตุผล
- ความสามารถที่โมเดล AI เชิงวิทยาศาสตร์ควรมี
- ท้าทายข้อมูลฝึก : ไม่รับข้อมูลที่เรียนมาแบบตรง ๆ แต่ต้องตั้งคำถามกับมันได้
- ลองแนวทางเชิง counterfactual ที่กล้าหาญ : ต้องสามารถตั้งสมมติฐานที่สวนทางกับสามัญสำนึกเดิมได้อย่างกล้าหาญ
- สกัดข้อเสนอเชิงทั่วไปจากเบาะแสเล็กน้อย : ต้องมองเห็นรูปแบบใหม่จากสัญญาณเล็ก ๆ แล้วทำให้เป็นข้อเสนอทั่วไปได้
- ตั้งคำถามที่ไม่เป็นไปตามสัญชาตญาณเพื่อเปิดเส้นทางวิจัยใหม่ : ต้องสามารถบุกเบิกทิศทางวิจัยใหม่ด้วยคำถามที่ไม่เคยมีมาก่อน
- เราไม่ต้องการ นักเรียน A+ ที่ตอบได้ทุกคำถาม
- สิ่งที่เราต้องการคือ นักเรียน B ที่มองเห็นและตั้งคำถามในสิ่งที่คนอื่นมองข้าม
PS : แนวทางปรับปรุง AI benchmark
- คุณอาจสงสัยว่าควรต้องมี benchmark แบบไหน
- ตัวอย่างเช่น อาจจินตนาการถึงสถานการณ์ที่โมเดลถูกทดสอบกับ การค้นพบใหม่ล่าสุด
- โดยที่โมเดลไม่มีความรู้ล่วงหน้าหรือกรอบแนวคิดใด ๆ เกี่ยวกับการค้นพบนั้นเลย
- แล้วประเมินว่ามันสามารถ เริ่มตั้งคำถามที่ถูกต้องและสำรวจปัญหา ได้หรือไม่
- นี่เป็นปัญหาที่ยากมาก
- เพราะโมเดล AI ส่วนใหญ่ในปัจจุบันได้เรียนรู้ความรู้เกือบทั้งหมดที่มนุษย์รู้แล้ว
- ดังนั้นการทำให้มันทำงานได้ในสถานการณ์ที่ไม่มีทั้งคำตอบและกรอบแนวคิดจึงเป็นเรื่องท้าทาย
- แต่ถ้าเราต้องการนวัตกรรมทางวิทยาศาสตร์ เราจำเป็นต้องมี benchmark ที่ประเมินพฤติกรรมแบบนี้ได้
- ท้ายที่สุดแล้ว นี่คือ ปัญหาเปิด และเขาอยากฟังความคิดเห็นที่มีมุมมองลึกซึ้งเกี่ยวกับเรื่องนี้
PPS:
- หลายคนยก "Move 37" (ของ AlphaGo) มาเป็นหลักฐานว่า AI ไปถึงระดับสติปัญญาแบบไอน์สไตน์แล้ว
- เขาจึงอยากอธิบายเรื่องนี้ให้ชัดเจน
- Move 37 น่าประทับใจ แต่ท้ายที่สุดมันก็ยังเป็น คำตอบของเด็กเรียนเก่งภายใต้กติกาหมากล้อมที่กำหนดไว้แล้ว
- มันเพียงแก้ปัญหาภายใต้กติกาของเกมที่มีอยู่เดิม
- ในทำนองเดียวกัน โมเดล AI มีแนวโน้มสูงว่าในไม่ช้า
- จะสามารถสร้าง บทพิสูจน์ทางคณิตศาสตร์ที่สง่างามกว่า สิ่งที่นักคณิตศาสตร์ชั้นยอดเคยสร้างไว้
- แต่นั่นก็ยังไม่ใช่การเปลี่ยนกระบวนทัศน์อย่างแท้จริง
- สำหรับหมากล้อม การทะลุกรอบระดับไอน์สไตน์จะต้องเป็นสิ่งที่ลึกกว่านั้น
- เช่น นิยามกติกาของหมากล้อมขึ้นใหม่ทั้งระบบ หรือ
- สร้างกติกาของเกมใหม่ที่น่าสนใจกว่าเกมเดิมอย่างมาก
- อุปมาในทางคณิตศาสตร์ที่เหมาะสมกว่าคือ
- การเชื่อมโยงสาขาคณิตศาสตร์ที่แตกต่างกันเพื่อ บุกเบิกสาขาวิจัยใหม่
- ซึ่งโดยทั่วไปเป็นความสำเร็จระดับที่นำไปสู่ Fields Medal
- การเปลี่ยนกระบวนทัศน์ทางวิทยาศาสตร์ในระดับไอน์สไตน์ยังคงเป็น มาตรฐานที่สูงมาก
5 ความคิดเห็น
ถ้าบอกว่าสร้าง AI ที่สามารถตั้งคำถามที่เราไม่เคยนึกถึงได้ขึ้นมา แล้ว AI ตัวนั้นเริ่มตั้งคำถามอย่างเช่นว่าทำไมมนุษย์ถึงห้ามทำร้ายกัน แบบนั้นก็คงน่าหวาดเสียวไม่น้อย
AI และความคิดสร้างสรรค์: ความสัมพันธ์ระหว่างการเปลี่ยนกระบวนทัศน์กับแรงบันดาลใจ
บทความของ Thomas Wolf เสนอข้อโต้แย้งว่า AI อาจขับเคลื่อนนวัตกรรมทางวิทยาศาสตร์ที่แท้จริงได้ยาก เขาเปรียบ AI ว่าเป็นเหมือน "คนที่คอยตอบรับทุกอย่าง" ซึ่งเพียงนำความรู้เดิมมาจัดเรียงใหม่ และยังห่างไกลจากอัจฉริยะอย่างไอน์สไตน์ที่สามารถพลิกกระบวนทัศน์ได้
มุมมองของเขาชี้ให้เห็นข้อจำกัดของ AI ได้อย่างแม่นยำ แต่ขณะเดียวกันก็ชวนให้เราคิดต่อถึงความเป็นไปได้ของความร่วมมือระหว่าง AI กับมนุษย์ ประโยคนี้เป็นคำตอบที่ Claude ให้มาเมื่อฉันถามความเห็น แถมยังทำออกมาเป็น artifact ทั้งที่ไม่ได้ขอ และประโยคนี้ก็ถูกใส่เพิ่มมาแบบไม่มีการเกริ่นถึง ระหว่างที่กำลังคุยอีกเรื่องอยู่ น่าแปลกดี...
แรงบันดาลใจกับบทบาทของ AI
แต่แรงบันดาลใจคืออะไรกันแน่? ที่จริงแล้วความคิดสร้างสรรค์ของมนุษย์ก็เกิดจากการเชื่อมโยงและผสมผสานไอเดียเดิม ๆ ในรูปแบบใหม่เช่นกัน แม้แต่ไอน์สไตน์เองก็มองเห็นได้ไกลขึ้นบนบ่าของนักวิทยาศาสตร์รุ่นก่อนอย่างนิวตัน แมกซ์เวลล์ และลอเรนซ์
สิ่งที่ AI มอบให้ได้คือ:
ความสัมพันธ์แบบพึ่งพากันระหว่าง AI กับมนุษย์
Thomas Wolf บอกว่า AI ไม่อาจสร้างการเปลี่ยนกระบวนทัศน์ได้ด้วยตัวเอง แต่ถ้าเป็นความร่วมมือระหว่าง AI กับมนุษย์ล่ะ? ในกระบวนการที่มนุษย์ตั้งคำถาม และ AI สำรวจความเป็นไปได้อันหลากหลาย ก็อาจเกิดไอเดียใหม่ขึ้นมาได้
มนุษย์มีความสามารถในการตั้งคำถาม มีสัญชาตญาณ และมีความสามารถในการตัดสินคุณค่าของผลลัพธ์ ส่วน AI นำเสนอจุดเชื่อมโยงจากฐานข้อมูลมหาศาล การผสานกันของสติปัญญาทั้งสองแบบนี้ อาจพาเราไปยังที่ที่ต่างฝ่ายต่างไปไม่ถึงหากเดินลำพัง
บทสรุป: ความเป็นไปได้ของความคิดสร้างสรรค์รูปแบบใหม่
AI อาจไม่สามารถสร้าง "ศตวรรษที่ 21 ในรูปแบบย่อส่วน" ขึ้นมาได้เพียงลำพัง แต่สามารถมอบแรงบันดาลใจให้มนุษย์ เปิดเส้นทางความคิดใหม่ ๆ และทำหน้าที่เป็นเพื่อนร่วมทางของความคิดสร้างสรรค์ของมนุษย์ได้
มีความเป็นไปได้สูงที่นวัตกรรมที่แท้จริงจะปรากฏขึ้นผ่านกระบวนการร่วมสร้างสรรค์ที่มนุษย์และ AI ต่างใช้จุดแข็งของตนเอง นี่จะไม่ใช่แค่บทบาทของ "คนที่คอยตอบรับทุกอย่าง" เท่านั้น แต่เป็นการเดินทางเพื่อแสวงหากระบวนทัศน์ใหม่ร่วมกับมนุษย์
https://th.news.hada.io/topic?id=19168
เป็นงานวิจัยที่รู้สึกว่า AI ไม่น่าจะคิดได้เองจริงๆ
เห็นด้วยกับประเด็นสรุปของเนื้อหาครับ
"เราไม่ต้องการนักเรียนระดับ A+ ที่ตอบได้ทุกคำถาม
สิ่งที่เราต้องการคือนักเรียนระดับ B ที่มองเห็นและตั้งคำถามกับสิ่งที่คนอื่นมองข้าม"
พอเห็นแบบนี้ก็รู้สึกขึ้นมาทันทีว่าฉันนี่แหละคือนักเรียนระดับ B แต่บริษัทใหญ่ ๆ กลับเลือกจ้างโดยมองหาแต่นักเรียนระดับ A+ เท่านั้น
ความเห็นจาก Hacker News
โชคดีเมื่อสั่ง AI ว่า "อย่าสร้างอะไรขึ้นมาเอง และถ้าไม่มีคำตอบก็ให้บอกว่าไม่รู้"
แนะนำให้อ่าน "Against Method" ของ Feyerabend
มีการให้ลิงก์เวอร์ชัน BlueSky
เป็นโพสต์ที่น่าสนใจเกี่ยวกับ "การตั้งคำถามที่ถูกต้อง"
ความเห็นเกี่ยวกับความเป็นไปได้ของศตวรรษที่ 21 ที่อัดย่อได้ ซึ่งนักเรียน B ที่มีความคิดสร้างสรรค์ทำงานร่วมกับ AI นักเรียน A
ไม่สามารถแยกแยะได้ระหว่างคำตอบที่แปลกใหม่อย่างแท้จริงของ LLM กับอาการหลอน
เป็นโพสต์ที่ดีซึ่งควรไปอยู่ในที่ที่ฉลาดกว่า Twitter/X ยุคปัจจุบัน
เคยเห็นอัลกอริทึมที่ออกแบบวงจรซึ่งวิศวกรมนุษย์จะไม่ออกแบบ
ผู้เขียนดูเหมือนจะตั้งสมมติฐานว่าส่วนที่ยากคือการตั้งข้อคาดเดา
ยังไม่เคยพบโมเดลที่ยึดความเป็นข้อเท็จจริงอย่างเคร่งครัด
ต้องการเพียงข้อเท็จจริงตรงไปตรงมา ไม่ใช่สัญชาตญาณ