Project Digits ของ Nvidia “ซูเปอร์คอมพิวเตอร์ AI ส่วนบุคคล”
(techcrunch.com)- Nvidia เปิดตัวฮาร์ดแวร์ AI ที่ใช้ Grace Blackwell ในรูปแบบอุปกรณ์ขนาดกะทัดรัดที่วางบนโต๊ะได้ ในงาน CES 2025
- Project Digits เป็น ซูเปอร์คอมพิวเตอร์ AI ส่วนบุคคล ที่รันสแต็กซอฟต์แวร์ AI ของ Nvidia ได้ในเครื่อง มุ่งเป็นตัวเลือกกึ่งกลางระหว่างคลาวด์กับเวิร์กสเตชัน
- Nvidia ระบุว่าอุปกรณ์หนึ่งเครื่องใช้ GB10 Grace Blackwell Superchip รองรับสมรรถนะสูงสุด 1 เพตาฟลอป และรันโมเดลขนาด 200,000 ล้านพารามิเตอร์ได้
- GB10 พัฒนาร่วมกับ MediaTek โดยมี Blackwell GPU, Grace CPU แบบ 20 คอร์, หน่วยความจำ 128GB และแฟลชสตอเรจสูงสุด 4TB
- มีกำหนดวางขายผ่านพาร์ทเนอร์รายสำคัญตั้งแต่เดือนพฤษภาคมในราคา 3,000 ดอลลาร์ จึงเป็นสภาพแวดล้อมพัฒนา AI ในเครื่องที่ทรงพลัง แต่กลุ่มผู้ซื้อส่วนบุคคลอาจมีจำกัด
Grace Blackwell ที่ลงมาอยู่บนโต๊ะ
- Nvidia เปิดตัว Project Digits ในงาน CES 2025 ที่ Las Vegas
- Project Digits คือ “ซูเปอร์คอมพิวเตอร์ AI ส่วนบุคคล” ที่นำแพลตฟอร์มฮาร์ดแวร์ Grace Blackwell ของบริษัทมาให้ในฟอร์มแฟกเตอร์ขนาดเล็ก
- กลุ่มเป้าหมายหลักที่ระบุคือ นักวิจัย AI, นักวิทยาศาสตร์ข้อมูล และนักศึกษา
- Jensen Huang ซีอีโออธิบายว่า Project Digits รันสแต็ก AI ทั้งหมดของ Nvidia ได้ และสามารถใช้เป็นแพลตฟอร์มคลาวด์คอมพิวติ้งที่วางบนโต๊ะ รวมถึงใช้งานเหมือนเวิร์กสเตชันได้
ขนาดโมเดลที่รันได้และองค์ประกอบฮาร์ดแวร์
-
GB10 Grace Blackwell Superchip
- Project Digits ใช้ GB10 Grace Blackwell Superchip รุ่นใหม่ของ Nvidia
- ให้พลังประมวลผลสูงสุด 1 เพตาฟลอป สำหรับการทำต้นแบบโมเดล AI, การไฟน์จูน และการรันโมเดล
- Nvidia ระบุว่า Project Digits หนึ่งเครื่องสามารถรันโมเดลได้สูงสุด 200,000 ล้านพารามิเตอร์
-
องค์ประกอบชิปและหน่วยความจำ
- GB10 พัฒนาร่วมกับ MediaTek
- มีโครงสร้างที่เชื่อม Nvidia Blackwell GPU เข้ากับ Nvidia Grace CPU แบบ 20 คอร์
- ภายในมี พูลหน่วยความจำ 128GB และแฟลชสตอเรจสูงสุด 4TB
-
การขยายและรูปแบบการใช้งาน
- หากเชื่อม Project Digits สองเครื่องเข้าด้วยกัน จะสามารถรันโมเดลได้สูงสุด 405,000 ล้านพารามิเตอร์ ขึ้นอยู่กับงาน
- ใช้งานแบบสแตนด์อโลนได้ และยังสามารถเชื่อมต่อกับ Windows หรือ Mac PC หลักเพื่อใช้งานได้เช่นกัน
- ระบบปฏิบัติการคือ DGX OS ของ Nvidia ซึ่งใช้ Linux เป็นพื้นฐาน
กำหนดการเปิดตัวและราคา
- Project Digits มีกำหนดวางขายผ่าน “พาร์ทเนอร์รายสำคัญ” ตั้งแต่เดือนพฤษภาคม ในราคา 3,000 ดอลลาร์
- Huang กล่าวว่าการนำ Grace Blackwell Superchip ไปสู่ผู้พัฒนาหลายล้านคน และการวางซูเปอร์คอมพิวเตอร์ AI ไว้บนโต๊ะของนักวิทยาศาสตร์ข้อมูล นักวิจัย AI และนักศึกษา จะช่วยขยายการมีส่วนร่วมในยุค AI
2 ความคิดเห็น
ถ้าทำได้ตามที่อ้างไว้ ทั้งเรื่องประสิทธิภาพและการบำรุงรักษาก็จะเป็นเรื่องดีมาก
ความคิดเห็นจาก Hacker News
พอมองไปที่ Jetson Nano ที่วางอยู่มุมห้อง ก็เห็นว่า Nvidia ทิ้งมันไปหลังจาก 4 ปี ตอนนี้หลังเกษียณเลยทำหน้าที่เป็นที่ทับกระดาษเท่านั้น
มันออกมาในฐานะคอมพิวเตอร์บอร์ดเดี่ยวสำหรับ “AI” แต่ก็อิงกับ Ubuntu 18.04 แบบปรับแต่งที่ล้าสมัยอยู่แล้ว และเมื่อ 18.04 สิ้นสุดการสนับสนุน Nvidia ก็หยุดอัปเดต JetPack แบบปิดและไดรเวอร์ทั้งหมด
ผลคือสแต็กแมชชีนเลิร์นนิงอย่าง CUDA, Pytorch ก็หมดประโยชน์ไปด้วย และถ้าการสนับสนุนซอฟต์แวร์ไม่ถูกนำเข้าไปใน อัปสตรีมของเคอร์เนล Linux ผมก็ไม่คิดจะซื้อคอมพิวเตอร์บอร์ดเดี่ยวของ Nvidia อีก
ความสัมพันธ์ระหว่าง Nvidia กับ Linux โดยรวมค่อนข้างซับซ้อน แม้จะมีไดรเวอร์ให้ แต่หนึ่งในวิธีที่ชัวร์ที่สุดในการทำให้การติดตั้ง Linux พังแบบกู้กลับไม่ได้ ก็คือการติดตั้งหรืออัปเกรดไดรเวอร์นั้น
รู้สึกเหมือนยอมทำแค่ขั้นต่ำเพื่อให้พูดได้ว่า “ใช้งานได้” มากกว่าจะให้ Linux เป็นแพลตฟอร์มที่รองรับระดับหนึ่งอย่างจริงจัง
พูดตรง ๆ คอมพิวเตอร์บอร์ดเดี่ยวของ Nvidia สร้างความยุ่งยากมากกว่าประโยชน์ที่ได้
ดูเหมือนจะดีขึ้นมาก แต่ยังมีข้อจำกัดใหญ่ตรงที่เป็นเคอร์เนลที่ไม่มี GPU เพราะในฟอร์ก JetPack Linux ยังมีไดรเวอร์
nvgpuสำหรับ Tegra แยกต่างหาก และยังไม่ถูกแยกออกจากทรีนั้นถ้าไม่ได้ทำด้านหุ่นยนต์และ AI inference ที่เอดจ์อย่างชัดเจน ก็มีทางเลือกที่ดีกว่า
อุปกรณ์นี้ดูจากชื่อ การออกแบบสไตล์ DGX และซอฟต์แวร์อย่าง DGX OS แล้วให้ความรู้สึกใกล้กับการออกแบบแบบ Grace Hopper/ดาต้าเซ็นเตอร์ มากกว่า Tegra
ฝั่งเวิร์กสเตชัน/เซิร์ฟเวอร์แบบนั้นเป็น UEFI และอาจใช้เคอร์เนล Linux อัปสตรีมกับไดรเวอร์ Nvidia แบบโอเพนซอร์สบนดิสโทรที่ต้องการได้
ถ้าเป็นอย่างนั้น มันอาจกลายเป็นเครื่อง Linux ทั่วไปที่คุ้นเคยกว่า Jetson ซีรีส์มาก แต่ยังไม่รู้ว่า GH200/GB200 จะต้องใช้แพตช์เฉพาะหรือไม่
เวลาจะเป็นคำตอบ แต่ถ้า GPU ที่ดีจับคู่กับดีไซน์ ARM Cortex ที่ดี และทำงานเหมือนกล่อง Linux แบบดั้งเดิมมากกว่า Jetson ซีรีส์ มันก็อาจเป็น เครื่อง AI inference ในเครื่อง ที่ยอดเยี่ยมได้
จากประสบการณ์ ผู้ผลิตมักดูแลแพตช์ความปลอดภัยได้ไม่ดีเท่าอัปสตรีม เมื่อคิดถึงระบบนิเวศแบบปิดของ Nvidia แล้ว ก็ไม่คาดหวังกับการสนับสนุนระยะยาวมากนัก
สิ่งนี้ดูมีความหมายมากกว่าการ์ดจอซีรีส์ 5x
เมื่อคิดถึงกระแส AI/LLM ต่อให้มี M4 Max/Ultra Mac mini ออกมา ก็อาจแย่งกลุ่ม นักพัฒนา AI สายงานอดิเรก บางส่วนที่ Apple ครองอยู่ได้
ในช่วงไม่กี่ปีที่ผ่านมา Nvidia ดูเหมือนทำทุกอย่างถูกทางไปหมด จนรู้สึกว่าน่าจะถือหุ้นไว้
Xeon Phi ล้มเหลวด้วยหลายเหตุผล แต่ความพร้อมของซอฟต์แวร์ที่ปรับแต่งมาแล้วเป็นส่วนที่ไม่จำเป็นต้องล้มเหลวก็ได้
ตอนนี้มี Xeon, EPYC และ MI300C ที่มีคอร์ประหยัดพลังงานจำนวนมาก แต่ถ้าตลอด 10 ปีที่ผ่านมาเราใช้ซอฟต์แวร์ที่ปรับให้เข้ากับฮาร์ดแวร์แบบนี้ ปัญหาการรีดประสิทธิภาพก็คงถูกแก้ไปแล้ว
Itanium ก็เช่นกัน สิ่งแรกที่ Intel ควรรับประกันคือการรองรับ Linux ที่ดี และเตรียมได้ตั้งแต่ก่อนซิลิคอนรุ่นแรกออกมา
ช่วงหนึ่งการรองรับ Itanium นั้นดี แต่ตอนนี้มันกลายเป็นแพลตฟอร์มที่ตายไปนานแล้ว
Sun ก็ล้มเหลวในลักษณะคล้ายกันกับ SPARC เพราะหลังจากเลิกทำเวิร์กสเตชันแล้ว ก็ไม่มีเส้นทางเริ่มต้นใช้งานที่ง่าย
สิ่งที่ทำได้ดีคือรักษาความเกี่ยวข้องของระบบปฏิบัติการไว้ด้วย OpenSolaris และแทบจะยอมปล่อยให้ x86 Solaris มีอยู่ เพื่อให้คนได้เรียนรู้และฝึกฝน
คงจะดีถ้า Oracle Cloud อย่างน้อยให้บริการ SPARC เป็นอินสแตนซ์บนคลาวด์
IBM ก็กำลังเดินเส้นทางเดียวกัน ไม่มี เครื่อง POWER ระดับเริ่มต้นที่สมเหตุสมผลซึ่งพอจะแข่งด้านประสิทธิภาพกับ x86 ระดับเวิร์กสเตชันได้
อย่างมากก็มีเครื่องขนาดฮาล์ฟแร็กเล็ก ๆ ที่ใส่ไว้ข้างโต๊ะได้
แทบไม่เห็นบริษัทที่พยายามดีพลอยระบบใหม่ด้วย AIX, IBMi หรือ Linux on POWER เพราะการสร้างบนแพลตฟอร์มคู่แข่งนั้นง่ายเกินไป
ใน IBM Cloud หาอินสแตนซ์ AIX, IBMi, IBM Z ได้ก็จริง แต่ไม่ง่าย และก็หา教程 “จากศูนย์ไปจนถึง SSH/5250/3270” ไม่เจอ
Linux on Z ทำได้ แต่ดูเหมือน IBM ไม่มีวิธีให้บริการ Linux on POWER และมีเพียงห้องแล็บ HPC บางแห่งเท่านั้นที่ยังให้ทรัพยากรแบบนั้นอยู่
หลายบริษัทจะซื้ออุปกรณ์แบบนี้ไว้พัฒนาในเครื่อง เพื่อปล่อยให้ชิประดับเอนเทอร์ไพรส์ราคาแพงว่างสำหรับงานเชิงพาณิชย์
เป็นหมากที่อัจฉริยะมาก ฟอร์มแฟกเตอร์ที่ยัดประสิทธิภาพระดับนี้ลงไปในขนาดใกล้เคียง Mac mini กลับยิ่งน่าทึ่งกว่า
ใช้เงิน 6,000 ดอลลาร์ซื้อสองเครื่องแล้วรันโมเดล 400B+ ในเครื่องได้ ฟังดูแทบไม่น่าเป็นไปได้
แค่เมื่อหนึ่งปีก่อน การจินตนาการว่าจะรันอะไรอย่าง ChatGPT บนเดสก์ท็อปยังเป็นเรื่องฝันไม่ถึง
ถึงอย่างนั้น ผู้ใช้สายงานอดิเรกก็ผลักดันการปรับปรุงสแต็กเทคโนโลยีได้มาก ดังนั้นถ้าเริ่มใช้สิ่งนี้ ระบบนิเวศของ NVIDIA ก็จะฝังรากลึกยิ่งขึ้น
Mac ที่มีหน่วยความจำแบบรวมเป็นภัยคุกคามที่เขาต้องตอบโต้ทันที เท่าที่เห็น Jensen เป็น CEO ในภาวะสงคราม และไม่ได้ล้อเล่น
การที่ AMD หายไปจากพื้นที่ไฮเอนด์ก็ไม่น่าแปลกใจ Nvidia กำลังชนกับ Apple ตรง ๆ ส่วน AMD ไม่ใช่บริษัทที่ทำธุรกิจแข่งขันกับ Apple
เพราะผู้คนอยากทำไฟน์จูนและสร้างภาพสำหรับผู้ใหญ่ในเวลาว่าง
แผนภาพเวนน์ของผู้ใช้ที่โพสต์ว่ารันโมเดล diffusion กับ LLM ที่บ้าน แทบจะเป็นวงกลมเดียวกัน
น่าทึ่งที่ Nvidia ออก ซูเปอร์คอมพิวเตอร์เดสก์ท็อป Linux ที่มีประสิทธิภาพต่อราคาดีกว่าอะไรฝั่ง Wintel และซอฟต์แวร์สแต็กใหม่ก็ไม่พอร์ตไป Win32 แต่รันได้เฉพาะบน WSL2
ปีของเดสก์ท็อป Linux อาจมาถึงจริง ๆ ก็ได้
Neoverse N2 20 คอร์ ไม่น่าจะโดดเด่นเป็นพิเศษเมื่อเทียบกับ Zen 5 16 คอร์
ฝั่ง GPU ดูมีแวว แต่ไม่ได้พูดถึงแบนด์วิดท์หน่วยความจำ, การจัดวาง, สเปกละเอียด, หรือประสิทธิภาพ
เห็นแค่ข้อมูลเลือน ๆ อย่าง “เริ่มต้นที่ 3,000 ดอลลาร์”, NVMe สูงสุด 4TB, RAM สูงสุด 128GB
คาดว่า AMD Strix Halo หรือ AI Max+ 395 ก็น่าจะแข่งขันได้พอสมควร
ถ้าอย่างนั้นก็น่าจะเป็นส่วนต่อเนื่องของกระแส “Unix บนเวิร์กสเตชัน” ที่มีมาหลายสิบปีไม่ใช่หรือ
Nvidia ร่วมมือกับ Microsoft อย่างใกล้ชิดเพื่อพัฒนาการ์ด และฟีเจอร์หลัก ๆ จะเข้า DirectX ก่อน จากนั้นจึงเข้า Vulkan กับ OpenGL ในรูปแบบส่วนขยายของ Nvidia แล้วภายหลังเมื่อผู้ขายรายอื่นทำส่วนขยายคล้าย ๆ กันตามมา มันก็กลายเป็นมาตรฐาน
WSL2 โดยแก่นแล้วไม่ใช่ virtual machine เหรอ? ถ้าอย่างนั้นก็แปลว่ารันบน Linux และ Linux ก็รันใน WSL2 ได้ด้วยไม่ใช่หรือ?
ถ้ามันทำงานได้เฉพาะบน WSL2 จริง ๆ นั่นก็คนละเรื่อง
นึกว่าเป็นเวิร์กสเตชัน Linux เลยคาดหวังไว้ แต่ถ้า WSL2 เข้ามาเกี่ยวข้องหรือจำเป็นไม่ว่าทางใดก็ต้องหนีทันที
แปลกใจเล็กน้อยที่มีคอมเมนต์จำนวนมากเอาต้นทุนไปเทียบกับโซลูชันคลาวด์ราคาถูก
ผมมองว่า value proposition ของ Nvidia แตกต่างโดยสิ้นเชิง
ตัวอย่างเช่น ถ้าสตาร์ทอัพในสหภาพยุโรปต้องจัดการข้อมูลส่วนบุคคลหรือความลับบริษัทและอยากใช้ LLM วิเคราะห์ข้อมูลเหล่านั้น ตราบใดที่ประสิทธิภาพไม่ใช่คอขวด แค่การที่ข้อมูล ไม่ออกไปนอกชั้นใต้ดิน ก็อาจมีมูลค่ามากกว่า 3,000 ดอลลาร์แล้ว
ผมจะทดลองอะไรโง่ ๆ กับ LLM บนฮาร์ดแวร์ที่ตัวเองเป็นเจ้าของได้มากกว่าการจ่ายค่าบริการเป็นรายโทเคนมาก
จริง ๆ ตอนนี้ก็ใช้เวลากับ Llama แบบโลคัลที่เล็กกว่า Claude มากกว่าอยู่แล้ว
ถึงจะไม่ได้ทำงานที่ละเอียดอ่อน ผมก็ยังไม่สบายใจที่จะส่งข้อมูลของตัวเองไปให้บริษัทพวกนี้
นี่ไม่ใช่ผลิตภัณฑ์ที่แข่งกับคลาวด์ แต่แข่งกับ Mac mini และ GPU ประสิทธิภาพสูง และในตลาดนั้นราคา 3,000 ดอลลาร์เป็นระดับที่น่าสนใจมาก
ถ้าบริษัทเทคโนโลยีวางอุปกรณ์แบบนี้ไว้ในองค์กรสักไม่กี่เครื่อง ผู้ใช้ก็สามารถถาม LLM ของบริษัทด้วยข้อมูลที่ละเอียดอ่อนได้
ตอนนี้ผมกำลังพัฒนา·ฝึก·ใช้งานโมเดลบนฮาร์ดแวร์ที่เอาชิ้นส่วนเหลือจากการอัปเกรดเดสก์ท็อปมาประกอบกัน ถ้าเป็นแบบนี้คงซื้อแน่หนึ่งเครื่อง และถ้าทำงานได้ดีก็อาจซื้อสองเครื่อง
แต่ข้อกำหนดด้านกฎระเบียบหรือผลประโยชน์ทางธุรกิจก็อาจต้องการ ความซ้ำซ้อนและการปกป้องข้อมูล ด้วย ดังนั้นการเก็บทุกอย่างไว้ onsite อย่างเดียวอาจไม่ตอบโจทย์นั้น
มีตลาดหนึ่งที่ตรงนี้ยังไม่ค่อยพูดถึงคือ ชีวสารสนเทศศาสตร์
Illumina ซึ่งเป็นผู้เล่นรายใหญ่ในตลาดนี้มีชิปฮาร์ดแวร์แบบปรับแต่งสำหรับเซิร์ฟเวอร์ชื่อ DRAGEN อยู่แล้ว เพื่อวิเคราะห์จีโนมหลายพันชุดได้อย่างรวดเร็ว
เมื่อการทำ sequencing จีโนมมนุษย์กลายเป็นเรื่องแพร่หลาย ตลาดหลักของผลิตภัณฑ์นี้คือการแพทย์เฉพาะบุคคล
บริษัทอย่าง Oxford Nanopore ใช้ GPU บนอุปกรณ์สำหรับ basecalling ซึ่งแปลงสัญญาณไฟฟ้าดิบจาก sequencer ให้เป็น A, T, G, C แต่เพราะข้อจำกัดด้านขนาดและพลังงาน จึงยังทำได้ไม่ดีเท่าที่หวัง
อุปกรณ์นี้อาจเป็น game changer ครั้งใหญ่สำหรับบริษัทอย่าง ONT และโดยเฉพาะกับงานที่เจ๋งกว่านั้นอย่าง adaptive sequencing
ในสาขาอื่นของชีวสารสนเทศศาสตร์ เช่น ซอฟต์แวร์วิเคราะห์ทั่วไปส่วนใหญ่ ยังคงพึ่งพา CPU และ RAM สูง
Illumina ซื้อบริษัทที่ทำชิปนี้ไปในราคา 100 ล้านดอลลาร์
ค่าใช้จ่ายในการวิเคราะห์จีโนมหนึ่งชุดบนฮาร์ดแวร์ทั่วไปในคลาวด์มักต่ำกว่า 10 ดอลลาร์
แน่นอนว่าชิปแบบนี้อาจทำให้การวิเคราะห์ที่ปัจจุบันทำไม่ได้หรือถูกต้นทุนขวางไว้กลายเป็นไปได้
แต่สำหรับตอนนี้ อย่างน้อยคอขวดของจีโนมิกส์ไม่ใช่การวิเคราะห์ แต่เป็นต้นทุนการ sequencing ซึ่งปัจจุบันอยู่ที่ราว 400–500 ดอลลาร์ต่อจีโนม
แต่ผมคิดว่ายังเหลืออีก 1–3 ปีกว่า ASI จะเริ่มจริงจัง
ลองค้นดูเพราะสงสัย อุปกรณ์นี้รันสิ่งที่เรียกว่า DGX OS
ฟีเจอร์หลักของ DGX OS 6 คืออิง Ubuntu 22.04, เคอร์เนล Linux 5.15 แบบ long-term support ล่าสุด, อัปเดตแพ็กเกจซอฟต์แวร์อย่าง Python และ GCC, เคอร์เนล Linux ที่ Nvidia ปรับแต่งซึ่งรองรับ GPU Direct Storage โดยไม่ต้องแพตช์เพิ่ม, เข้าถึงไดรเวอร์ Nvidia GPU ทุก branch และเวอร์ชัน CUDA Toolkit, Ubuntu OFED พื้นฐานและตัวเลือกติดตั้ง NVIDIA OFED สำหรับฟีเจอร์เพิ่มเติม, รองรับ Secure Boot, รองรับ DGX H100/H200
นึกภาพออกเลยว่าจะเกิดอะไรขึ้นถ้าอัปเกรดตอนมีไดรเวอร์ Nvidia ก้อน binary blob วางอยู่
อ้อ ขอโทษ ต้องเรียกว่า telemetry สินะ
Nvidia ทำสิ่งที่ Intel/AMD ควรจะทำหากต้องการคุกคามระบบนิเวศ CUDA ไปเสียแล้ว
นั่นคือการออก อุปกรณ์/GPU สำหรับ inference ในเครื่องขนาด 128GB ที่ “ราคาถูก”
ทำได้ดี และต่อจากนี้ความพยายามด้าน AI ของ Intel/AMD ดูมืดมน
แค่ทำการวิเคราะห์ SWOT พื้นฐานของตำแหน่ง Nvidia ก็ต้องพิจารณาไว้แล้วว่าคู่แข่งอาจออกผลิตภัณฑ์แบบนี้
ไม่ว่าจะเป็น Apple ที่ค่อย ๆ แทะพื้นที่รอบ ๆ นี้อยู่แล้ว หรือ AMD/Intel ที่ทำได้หรือควรทำก็ตาม
แม้ไม่มีอะไรรับประกันว่าจะเป็นไปแบบนี้แน่นอน แต่อนาคตที่ โมเดลอย่าง LLM ไปอยู่บนทุกโต๊ะและในทุกบ้านก็ดูเป็นไปได้มากพอ
นี่ไม่ใช่อุปกรณ์ต่อพ่วงที่เสียบกับคอมพิวเตอร์เพื่อรันงานเฉพาะทาง แต่เป็น คอมพิวเตอร์เต็มรูปแบบ ที่รัน Linux
เป็นของแบบฤๅษีในสวน ชวนให้จินตนาการถึงอนาคตที่วันหนึ่งทุกคนมีเวอร์ชันอนาคตของสิ่งนี้คนละเครื่อง อุปกรณ์นั้นใช้ชีวิตและเรียนรู้ไปด้วยกัน และต่างจาก AI แบบ SaaS บนคลาวด์ ตรงที่สามารถสอนได้ทันที จึงอาจให้ข้อได้เปรียบที่หลุดจากค่าเฉลี่ย
แม้จะมีข้อดี แต่คนที่รันเซิร์ฟเวอร์ Plex เองแทนการสมัครบริการสตรีมมิงก็ยังมีน้อยมาก
ในฝั่ง local เอง หากฮาร์ดแวร์พัฒนาต่อไปและมีการค้นพบว่าโมเดลขนาดเล็กจัดการงานหลากหลายได้ค่อนข้างดี เวิร์กสเตชัน local สมรรถนะสูงแบบนี้ก็น่าจะเป็นได้อย่างมากแค่เสน่ห์เฉพาะกลุ่ม
อยากรู้ว่ามาจากไหน
IBM Roadrunner เป็นซูเปอร์คอมพิวเตอร์เครื่องแรกที่แตะ 1 เพตาฟลอป หรือการคำนวณทศนิยมลอยตัว 1 พันล้านล้านครั้งต่อวินาที เมื่อวันที่ 25 พฤษภาคม 2008
ใช้ 100 ล้านดอลลาร์, 2.35MW, 6000ft²
ในขณะที่ Project Digits ออกแบบมาสำหรับนักวิจัย AI, นักวิทยาศาสตร์ข้อมูล และนักศึกษา โดยให้ประสิทธิภาพสูงสุด 1 เพตาฟลอปสำหรับการทำโปรโตไทป์, fine-tuning และรันโมเดล AI ด้วย GB10 Grace Blackwell Superchip ใหม่ของ Nvidia
ราคา 3000 ดอลลาร์, 1kW, 0.5ft²
ดังนั้นต่างกันอย่างน้อย 8 เท่า และในความเป็นจริงน่าจะมากกว่านั้นมาก
ยังน่าสงสัยมากด้วยซ้ำว่า Digits จะทำได้ 1/8 เพตาฟลอปที่ FP32 หรือไม่
ความแตกต่างอื่น ๆ ดูสมเหตุสมผลเมื่อคิดถึงเวลาที่ผ่านไป 20 ปี
ดูเหมือนเป็นรุ่นต่อจาก Nvidia Jetson AGX Orin 64GB Developer Kit: https://www.okdo.com/wp-content/uploads/2023/03/jetson-agx-o...
อยากรู้สเปกละเอียดในแง่แบนด์วิดท์หน่วยความจำและประสิทธิภาพการคำนวณ
ถ้าเป็นเหมือนตอนนี้ ก็จะได้อัปเดตเคอร์เนลหลักทั้งอายุการใช้งานแค่ 1–2 ครั้ง และต้องทำเรื่องประหลาดอย่างติดตั้ง Ubuntu อายุ 6 ปีบนพีซี x86 เพื่อรันยูทิลิตีสำหรับแฟลช OS
ที่มันดังในชุมชนเทคโนโลยีเป็นเพราะ อาการคลั่งคอมพิวเตอร์บอร์ดเดี่ยว
ผู้คนตื่นเต้นกับสิ่งที่คิดว่าน่าจะทำได้แล้วซื้อมา แต่สิ่งที่มันทำได้ดีจริง ๆ กลับไม่ตรงกับเหตุผลที่ซื้อ ทำให้หนึ่งปีต่อมา 95% ไปอยู่ในลิ้นชัก
ผลิตภัณฑ์นี้ดูใกล้กับทายาทของสาย HPC variant มากกว่า ตามที่บทความบอก
ดูเหมือนตั้งใจให้เป็นอุปกรณ์เริ่มต้นที่มีประโยชน์จริงสำหรับคนที่ต้องการทำหรือรันงาน AI ทั่วไปได้ดีกว่า PC ทั่วไป
แต่ว่า Nvidia เป็นบริษัทที่ไม่ค่อยลดราคา น่าจะมีเงื่อนงำอยู่ตรงไหนสักแห่ง