ความเห็นต่อ Tesla AI Day
(facebook.com)<p>1. สำหรับ AI นั้น ทศวรรษ 2010 กับ 2020 แยกจากกันได้อย่างชัดเจน ยุคใหม่ของ AI เปิดขึ้นเมื่อเริ่มใช้ GPU<br />
2. แม้ Deep Learning จะดูมีแวว แต่ก่อนหน้านี้ยังไม่มีวิธีเทรนที่เหมาะสม พอลองจับปลาทอง (=GPU) มาฝึกดูก็เริ่มเห็นผลอะไรบางอย่าง แต่ปลาทองก็ยังเป็นปลาทองอยู่ดี<br />
3. ในเมื่อปลาทองที่ไม่ค่อยฉลาดยังไงก็แก้ไม่ตก งั้นก็ทำให้มันฉลาดขึ้น ตรงนี้เองที่ OpenAI ปรากฏตัว<br />
→ ถ้าปลาทองโง่ ๆ ใช้ไม่ได้ ก็จับปลาทองมาหมื่นตัวแล้วเอาหัวมาต่อกันให้ใหญ่เท่าหัวโลมา<br />
→ แล้วมันดันเรียนเก่งมาก พอหัวดีขึ้น ต่อให้พูดแบบจับต้นชนปลายไม่ถูก มันก็เข้าใจได้อย่างแม่นยำ <br />
→ รวมแผ่นดินได้ด้วยวิธีการเรียนรู้เดียวชื่อว่า Transformer<br />
4. ปัญหาคือการเอาหัวปลาทองมาต่อกันไม่ใช่เรื่องง่าย แม้แต่ Nvidia เองก็ยังคิดเรื่องนี้ไม่จบ<br />
5. ณ เวลานี้ ขีดความสามารถในการแข่งขันหลักของ AI ไม่ใช่ตัวโมเดล<br />
→ เงินสำหรับซื้อปลาทองหมื่นตัว (A100 รุ่นล่าสุดใบละ 10,000 ดอลลาร์ ถ้าหมื่นใบก็เฉพาะ GPU อย่างเดียวก็ราว 10,000 ล้านบาท)<br />
→ เทคโนโลยีในการทำให้หัวปลาทองที่ต่อรวมกันนั้นทำงานเสมือนเป็นหัวโลมาตัวเดียว <br />
→ และข้อมูลสำหรับให้ปลาทองหมื่นตัวนี้ได้เรียนรู้<br />
6. สุดท้ายแล้วยุคที่บริษัท AI แต่ละแห่งค่อย ๆ เก็บปลาทองมาทีละไม่กี่ตัวแล้วพยายามเรื่องวิธีฝึกเอง ได้จบลงแล้ว<br />
→ คนที่ทำได้ครบทั้งสร้างหัวปลาตัวใหม่ เชื่อมมันเข้าด้วยกัน และทำให้ทำงานเหมือนโลมาได้ ก่อนหน้านี้มีแค่ Google เจ้าเดียว<br />
7. สิ่งที่ Tesla แสดงให้เห็นในวันนี้ก็คือสิ่งนี้<br />
→ ปลาทองของ Nvidia ไม่ค่อยเวิร์ก งั้นเราสร้างปลาสีดำตัวใหม่ขึ้นมาเอง<br />
→ ทำรูไว้เยอะ ๆ เพื่อให้เชื่อมต่อได้ง่าย และขัดแต่งหัวมันมาอย่างดี <br />
→ ตอนนี้เรายังใช้มันควบคุมหุ่นยนต์ได้ด้วย!<br />
<br />
เป็นบทความอธิบายที่สนุกมาก แนะนำให้ไปอ่านต้นฉบับกัน</p>
5 ความคิดเห็น