วิธีคิดเกี่ยวกับ AGI
(ben-evans.com)"โดยพื้นฐานแล้ว เมื่อเราไม่อาจรู้ได้จริง ๆ ไม่รู้ด้วยซ้ำว่าความเสี่ยงคืออะไร และแม้แต่ผู้เชี่ยวชาญก็ยังไม่รู้ แล้วเราควรคิดเรื่องนี้อย่างไร?"
การคิดเกี่ยวกับ AGI ในมุมมองทางประวัติศาสตร์
- ความสนใจต่อปัญญาประดิษฐ์ (AI) เริ่มต้นขึ้นพร้อมกับการถือกำเนิดของคอมพิวเตอร์ตั้งแต่ปี 1946
- AI ถูกมองว่าเป็นคำที่ใช้เรียกเทคโนโลยีที่ยังไม่ถูกทำให้เกิดขึ้นอย่างสมบูรณ์
- ความสนใจต่อ AGI (Artificial General Intelligence) ซึ่งหมายถึงสติปัญญาที่อาศัยซอฟต์แวร์และมีระดับเทียบเท่ามนุษย์ ยังคงมีมาอย่างต่อเนื่อง
ความเห็นที่แตกต่างกันเกี่ยวกับความเป็นไปได้ในการทำ AGI ให้เกิดขึ้นจริง
- การมาถึงของโมเดลภาษาขนาดใหญ่ (LLM) ในช่วงหลัง ทำให้เกิดความเห็นว่า AGI อาจใกล้เป็นจริงแล้ว
- ผู้เชี่ยวชาญบางส่วนคาดว่า LLM อาจพัฒนาไปเป็น AGI ได้
- ขณะที่อีกฝ่ายมองว่ายังจำเป็นต้องมีการทะลุข้อจำกัดเพิ่มเติมเพื่อทำ AGI ให้เกิดขึ้นจริง
- ยังมีความกังวลว่า AGI อาจกลายเป็นภัยคุกคามต่อมนุษยชาติ
- อย่างไรก็ตาม แม้ในหมู่ผู้เชี่ยวชาญเองก็ยังไม่มีความเห็นที่สอดคล้องกันเกี่ยวกับความเป็นไปได้และช่วงเวลาของการเกิด AGI
การขาดแบบจำลองเชิงทฤษฎีสำหรับ AGI
- ยังไม่มีแบบจำลองเชิงทฤษฎีที่เป็นที่ยอมรับร่วมกันว่าปัญญาทั่วไป (General Intelligence) คืออะไรกันแน่
- ยังไม่แน่ชัดด้วยว่าเหตุใด LLM จึงทำงานได้ดี และในอนาคตจะพัฒนาไปได้มากเพียงใด
- แนวคิดของ AGI เองก็มีลักษณะเป็นการทดลองทางความคิด (Thought Experiment)
ความไม่แน่นอนและความเสี่ยงของ AGI
- การนิยาม AGI ว่าเป็นสิ่งมีชีวิตรูปแบบใหม่ที่มีอารมณ์และสิทธิ และตั้งสมมติฐานว่าจะไม่สามารถควบคุมได้ อาจเสี่ยงตกอยู่ในตรรกะวนซ้ำ
- เราไม่อาจมั่นใจได้เกี่ยวกับคุณลักษณะและศักยภาพของ AGI
- มันอาจฉลาดกว่ามนุษย์มาก หรืออาจเพียงแค่เร็วกว่าเท่านั้น
- หรืออาจเป็นเพียงเครื่องมือที่มีประโยชน์ซึ่งมีปัญญาทั่วไปในระดับสุนัข
- ความกังวลเกี่ยวกับความเสี่ยงของ AGI นั้นมีอยู่จริง แต่เราไม่อาจรู้ได้ว่าขนาดและลักษณะของความเสี่ยงนั้นเป็นอย่างไรอย่างแม่นยำ
ความหลีกเลี่ยงไม่ได้ของการพัฒนา AGI และแนวทางรับมือ
- ในระยะยาว ความก้าวหน้าของเทคโนโลยี AGI ดูเหมือนจะหลีกเลี่ยงไม่ได้
- โมเดลแบบเปิดกำลังแพร่หลาย และประสิทธิภาพของชิปก็จะดีขึ้นอย่างต่อเนื่อง
- เพราะท้ายที่สุดแล้ว เราไม่อาจสั่งห้ามคณิตศาสตร์ได้
- ความเสียดทานและความเจ็บปวดที่เทคโนโลยีอัตโนมัติจะก่อขึ้นนั้นหลีกเลี่ยงไม่ได้ แต่ชีวิตก็จะดำเนินต่อไป
- แม้ควรยอมรับความเสี่ยงของ AGI แต่ก็ดูเหมือนว่าการรับมือด้วยท่าทีที่เยือกเย็น มากกว่าความหวาดกลัวเกินควร จะเหมาะสมกว่า
3 ความคิดเห็น
ผมคิดว่าในมุมมองที่ยึดความเสี่ยงเป็นเกณฑ์ มันคล้ายกับเด็กหรือมนุษย์ดึกดำบรรพ์ที่มองไฟ
แม้จะไม่รู้ว่าไฟผ่านกระบวนการอะไรจึงให้แสงและความร้อน แต่เราก็ค้นพบจากปรากฏการณ์ว่าแสงมีประโยชน์ในบางครั้ง และความร้อนก็มีประโยชน์ในบางกรณี แล้วก็เรียนรู้ที่จะใช้มันให้ดี
แต่เพราะเราไม่ได้เข้าใจปรากฏการณ์นั้นอย่างชัดเจน หรือบางทีก็นำไปใช้ผิดวิธีจนเกิดความเสียหาย สุดท้ายในแง่นี้พวกเราก็เป็นมนุษย์ดึกดำบรรพ์ต่อปัญญาประดิษฐ์นั่นเอง
หรือว่ามีแค่ผมคนเดียวที่ไม่รู้เรื่องปัญญาประดิษฐ์ แล้วทุกคนที่เหลือต่างก็เข้าใจกันดีอยู่แล้ว?
เป็นเรื่องที่แน่นอนอยู่แล้ว แต่...
หลายคนมีความกลัวต่อ AGI และคิดว่าบทความนี้น่าจะช่วยได้ครับ