โมเดล AI NLP ขนาดมหึมากำลังมุ่งหน้าไปทางไหน?

สถานการณ์ปัจจุบัน

• บริษัทขนาดใหญ่ต่างกำลังพัฒนาโมเดล NLP ขนาดมหึมาของตนเอง ไม่ว่าจะเป็น LaMDA ที่เปิดตัวในงาน Google I/O, GPT-3 ที่ Microsoft ซื้อสิทธิ์การใช้งานแบบผูกขาด, และ LLM (Large Language Model) ที่ Facebook พัฒนาขึ้นเองเพื่อใช้ด้านการแปลและการจัดการคอนเทนต์

• เมื่อโมเดลที่แต่ละบริษัทสร้างขึ้นแบบปิดเหล่านี้ถูกนำไปใช้ในชีวิตจริง ขณะนี้แทบไม่มีงานวิจัยเลยว่า ข้อบกพร่องของ LLM ส่งผลต่อผู้คนอย่างไร มีปัญหาอะไรบ้าง และจะแก้ไขได้อย่างไร

• เมื่อเดือนธันวาคมที่ผ่านมา Google ได้ปลด Timnit Gebru หัวหน้าร่วมของฝ่าย Ethical AI ออกจากตำแหน่ง ทำให้ปัญหานี้ยิ่งรุนแรงขึ้น

ความพยายามใหม่ ๆ

• ในโครงการ BigScience ที่นำโดย Huggingface มีนักวิจัยมากกว่า 500 คนจากทั่วโลกมารวมตัวกันเพื่อเร่งสร้างโอเพนซอร์ส LLM

• มีกลุ่มปฏิบัติการที่วัดผลกระทบต่อสิ่งแวดล้อมของ LLM รวมถึงรอยเท้าคาร์บอนจากการฝึกและการใช้งานโมเดล โดยคำนึงถึงต้นทุนตลอดวงจรชีวิต (life-cycle costs) ของซูเปอร์คอมพิวเตอร์

• มีกลุ่มปฏิบัติการที่พิจารณาว่าจะจัดหาข้อมูลสำหรับฝึกโมเดลอย่างมีความรับผิดชอบได้อย่างไร

---

สรุปเรื่องนี้ได้ยาก เลยอาจสรุปออกมาได้ไม่ค่อยดีนักครับ

เช่นเดียวกับที่วาระเรื่อง "รายได้พื้นฐานถ้วนหน้า" เกิดขึ้นจากทั้งความกังวลและความหวังต่อเทคโนโลยี ดูเหมือนว่าความคาดหวังและความกังวลต่อ GPT-3 ที่ออกมาเมื่อปีที่แล้ว กำลังทำให้วาระเรื่อง "ความกังวลต่อการพัฒนา AI แบบปิด" ลอยขึ้นมาสู่ผิวน้ำอีกครั้ง อยากกลับมาอ่านบทความนี้อีกครั้งราวปี 2050