ความเห็นต่อ Tesla AI Day
(facebook.com)-
สำหรับ AI นั้น ทศวรรษ 2010 กับ 2020 แยกจากกันได้อย่างชัดเจน ยุคใหม่ของ AI เปิดขึ้นเมื่อเริ่มใช้ GPU
-
แม้ Deep Learning จะดูมีแวว แต่ก่อนหน้านี้ยังไม่มีวิธีเทรนที่เหมาะสม พอลองจับปลาทอง (=GPU) มาฝึกดูก็เริ่มเห็นผลอะไรบางอย่าง แต่ปลาทองก็ยังเป็นปลาทองอยู่ดี
-
ในเมื่อปลาทองที่ไม่ค่อยฉลาดยังไงก็แก้ไม่ตก งั้นก็ทำให้มันฉลาดขึ้น ตรงนี้เองที่ OpenAI ปรากฏตัว
→ ถ้าปลาทองโง่ ๆ ใช้ไม่ได้ ก็จับปลาทองมาหมื่นตัวแล้วเอาหัวมาต่อกันให้ใหญ่เท่าหัวโลมา
→ แล้วมันดันเรียนเก่งมาก พอหัวดีขึ้น ต่อให้พูดแบบจับต้นชนปลายไม่ถูก มันก็เข้าใจได้อย่างแม่นยำ
→ รวมแผ่นดินได้ด้วยวิธีการเรียนรู้เดียวชื่อว่า Transformer
-
ปัญหาคือการเอาหัวปลาทองมาต่อกันไม่ใช่เรื่องง่าย แม้แต่ Nvidia เองก็ยังคิดเรื่องนี้ไม่จบ
-
ณ เวลานี้ ขีดความสามารถในการแข่งขันหลักของ AI ไม่ใช่ตัวโมเดล
→ เงินสำหรับซื้อปลาทองหมื่นตัว (A100 รุ่นล่าสุดใบละ 10,000 ดอลลาร์ ถ้าหมื่นใบก็เฉพาะ GPU อย่างเดียวก็ราว 10,000 ล้านบาท)
→ เทคโนโลยีในการทำให้หัวปลาทองที่ต่อรวมกันนั้นทำงานเสมือนเป็นหัวโลมาตัวเดียว
→ และข้อมูลสำหรับให้ปลาทองหมื่นตัวนี้ได้เรียนรู้
- สุดท้ายแล้วยุคที่บริษัท AI แต่ละแห่งค่อย ๆ เก็บปลาทองมาทีละไม่กี่ตัวแล้วพยายามเรื่องวิธีฝึกเอง ได้จบลงแล้ว
→ คนที่ทำได้ครบทั้งสร้างหัวปลาตัวใหม่ เชื่อมมันเข้าด้วยกัน และทำให้ทำงานเหมือนโลมาได้ ก่อนหน้านี้มีแค่ Google เจ้าเดียว
- สิ่งที่ Tesla แสดงให้เห็นในวันนี้ก็คือสิ่งนี้
→ ปลาทองของ Nvidia ไม่ค่อยเวิร์ก งั้นเราสร้างปลาสีดำตัวใหม่ขึ้นมาเอง
→ ทำรูไว้เยอะ ๆ เพื่อให้เชื่อมต่อได้ง่าย และขัดแต่งหัวมันมาอย่างดี
→ ตอนนี้เรายังใช้มันควบคุมหุ่นยนต์ได้ด้วย!
เป็นบทความอธิบายที่สนุกมาก แนะนำให้ไปอ่านต้นฉบับกัน
5 ความคิดเห็น
ลองอ่านความเห็นอื่นนี้ด้วย
https://www.facebook.com/mins21/posts/1696497720544616
ส่วนตัวแล้ว เวลา Tesla บอกว่า 'A จะเปิดตัวในปี 20xx!' ในความเป็นจริงก็มักจะวนซ้ำอยู่เสมอว่ากว่าจะออกจริงคือ 20xx + 1~2 ปี เลยรู้สึกว่าน่าจะถูกแล้วที่จะมีแค่ความคาดหวังไว้จนกว่าจะได้เห็นของจริง อย่างระยะยาวก็คงทำสำเร็จได้แหละ แต่ในระยะยาวบริษัทอื่น ๆ เองก็ไม่ได้อยู่นิ่งเหมือนกัน... 🤔
คุณเขียนไว้ให้แม้แต่ปลาทองก็เข้าใจได้ง่าย แต่ก็ยังสัมผัสได้ชัดเจนถึงภูมิรู้ที่เปี่ยมล้น จนน่าทึ่งมากจริง ๆ เลยนะครับ/คะ งับ ๆ (...)
ฮือๆ ฉันไม่ได้สมัคร Facebook เลยดูต้นฉบับไม่ได้เลย…
ขอบคุณสำหรับคำอธิบายที่สนุกมากนะครับ 555555555555555