- เมื่อราว 10 ปีก่อน นักวิจัยของ Google คาดการณ์ว่าความต้องการด้านการประมวลผล AI จะสูงเกินขีดความสามารถของโครงสร้างพื้นฐานในขณะนั้น
- เมื่อตระหนักว่าในตลาดยังไม่มีทางเลือกที่ตอบโจทย์ความต้องการดังกล่าว จึงเริ่มพัฒนาชิปชนิดใหม่ชื่อ TPU (Tensor Processing Unit)
ชิปเฉพาะทางแบบจุดประสงค์เดียว
- ขณะที่ CPU ทำหน้าที่เป็น "สมอง" อเนกประสงค์ของคอมพิวเตอร์ TPU คือชิปเฉพาะทางที่ปรับแต่งมาเพื่อ AI โดยเฉพาะ
- TPU คือ ASIC (application-specific integrated circuit) ที่เชี่ยวชาญด้านการคำนวณเชิงคณิตศาสตร์แบบเมทริกซ์และเวกเตอร์ซึ่งจำเป็นต่อการสร้างและรันโมเดล AI
- TPU v1 ซึ่งนำมาใช้งานภายในในปี 2015 ได้รับความนิยมอย่างรวดเร็วทั่วทั้ง Google และตลอด 10 ปีถัดมา TPU ก็พัฒนาต่อเนื่องทั้งด้านประสิทธิภาพและความคุ้มค่า
ก้าวให้ทันนวัตกรรม AI
- วิวัฒนาการของ TPU เชื่อมโยงอย่างใกล้ชิดกับนวัตกรรมด้านแมชชีนเลิร์นนิงและ AI
- TPU v1 เน้นด้านการอนุมาน แต่ไม่นานก็มีการพัฒนา TPU v2 training supercomputer เพื่อเพิ่มประสิทธิภาพในการฝึกโมเดล
- หลังจากนั้น TPU ออกรุ่นใหม่ถี่ขึ้น พร้อมการก้าวกระโดดครั้งใหญ่ด้านสมรรถนะ ประสิทธิภาพ และขีดความสามารถในการประมวลผล
- ในรุ่นล่าสุด ความเร็วในการประมวลผลข้อมูลสูงมากจนต้องใส่ใจแม้กระทั่งการเดินสายเคเบิลเชื่อมต่อระหว่างชิป
แบ่งปันพลังนี้ให้กว้างขึ้น
- ในช่วงแรก ไม่ใช่มีเพียง Google เท่านั้นที่มองหาวิธีที่ดีกว่าในการพัฒนาและรันโมเดล AI
- ต้นปี 2018 Google Cloud เปิดตัว Cloud TPU รุ่นแรก เพื่อให้ลูกค้าสามารถเร่งเวิร์กโหลดการฝึกและการอนุมานของตนเองได้
- ปัจจุบันทีม AI ที่เป็นที่รู้จักอย่าง Anthropic, Midjourney และ Salesforce ใช้งาน Cloud TPU อย่างเข้มข้น
- พลังการประมวลผลทั้งหมดนี้ยังเป็นเพียงจุดเริ่มต้นเท่านั้น
- ในอนาคตมีแผนจะปรับการออกแบบดาต้าเซ็นเตอร์ให้สอดรับกับความต้องการของ TPU มากยิ่งขึ้น
- กำลังก้าวข้ามจากชิปเดี่ยวหรือ TPU pod เดี่ยว ไปสู่การสร้างเครือข่ายดาต้าเซ็นเตอร์ระดับโลกที่เต็มไปด้วย TPU
- อนาคตจะเป็นโซลูชันแบบปรับแต่งครบทุกชั้นอย่างเต็มรูปแบบ ตั้งแต่ silicon ไปจนถึง concrete (The future is full stack customization all the way, from silicon to concrete)
2 ความคิดเห็น
TPU เป็นวิสัยทัศน์ที่มองการณ์ไกลจริงๆ
Google Pixel 2 XL แสดงให้เห็นอย่างชัดเจนจากการประมวลผลด้วยกล้องเดี่ยว และก็มาถึงยุคทองในยุคของ LLM
เพราะงั้นช่วยอัปเดตบอร์ด coral micro dev หน่อยเถอะ.... ฮือๆๆๆ
ตัวประมวลผลภาพที่รวมอยู่ใน Pixel รุ่นแรก ๆ (ซึ่งถูกเรียกว่า Visual Core) มีพื้นฐานมาจากแพลตฟอร์ม Monette Hill ของ Intel