- ในงานวิจัยที่เพิ่งเผยแพร่ Google ระบุว่าเร็วกว่าและมีประสิทธิภาพมากกว่า Nvidia
- ปัจจุบัน Nvidia ครองตลาด AI อยู่ 90% แต่ Google พัฒนา TPU ของตนเองมาตั้งแต่ปี 2016
- ตั้งแต่ปี 2020 มีการใช้งาน TPU มากกว่า 4,000 ตัว และในช่วง 50 วันที่ผ่านมาได้ใช้สำหรับโมเดล PaLM
- TPU v4 เร็วกว่า NVidia A100 ราว 1.2~1.7 เท่า และใช้พลังงานน้อยกว่า 1.3~1.9 เท่า
- อย่างไรก็ตาม ไม่ได้มีการเปรียบเทียบกับ H100 รุ่นล่าสุดของ NVidia (จากเบนช์มาร์ก MLPerf 3.0 พบว่า H100 มีประสิทธิภาพสูงกว่า A100 อยู่ 4 เท่า)
3 ความคิดเห็น
ไม่ได้เปิดตัวครับ
TPU v4 เปิดตัวไปตั้งแต่ปี 2021 แล้ว และยังเปิดให้ใช้งานแบบสาธารณะบนคลาวด์ได้ด้วย 1
ข่าวนี้คือการเผยแพร่บทความทบทวนย้อนหลังที่สรุปจากการดำเนินงานตลอดหลายปีครับ ฮ่า
ส่วนการเปรียบเทียบกับ H100 ก็ได้บอกไว้ว่าจะ deploy สิ่งที่ใช้รับมือได้ภายในปีนี้ครับ
อ่า เป็นข่าวที่ชวนให้งงนิดหน่อยนะครับ ฮือ
ฮ่าๆ ลองค้นข่าวอื่นดูก็เห็นว่าหลายบทความเขียนเหมือนกับว่าเพิ่งเปิดตัวใหม่ เลยทำให้งงกันได้ครับ
แต่ในงานวิจัยเขาก็ย้ำหลายครั้งว่าเป็นบทความแบบ retrospective (บอกว่าเป็นวัฒนธรรมของพวกเขาเอง) นั่นแหละครับ