Framework Desktop คือสัตว์ประหลาด

 (world.hey.com)
14 คะแนน โดย GN⁺ 2025-08-11 | 6 ความคิดเห็น | แชร์ทาง WhatsApp
  • Framework Desktop เงียบมากและให้ประสิทธิภาพสูง
  • มาพร้อม AMD Ryzen AI Max 395+ จึงให้ประสิทธิภาพเหนือกว่าเดสก์ท็อปทั้งที่มีขนาดเล็ก
  • ในเบนช์มาร์กหลายรายการ แสดงให้เห็น ประสิทธิภาพมัลติคอร์ ที่เหนือกว่า Beelink หรือ Mac Studio
  • เหมาะกับการใช้งานหลากหลาย ทั้งการขยายหน่วยความจำและ การรันโมเดล LLM แบบโลคัล
  • กราฟิกแบบรวมก็ยอดเยี่ยม และมี ประสิทธิภาพด้านเกม ที่ดีมาก

ความประทับใจแรกต่อ Framework Desktop

  • ผู้เขียน (DHH) ใช้ Framework Desktop มาหลายเดือนแล้ว และมองว่ามัน เงียบมากพร้อมดีไซน์ที่สนุก
  • ขนาดเพียง 4.5L จึง เล็กมาก และให้ความรู้สึกว่าเร็วกว่าเดสก์ท็อปเดิมอย่างชัดเจน
  • ด้านหน้าสามารถติดตั้งแผ่นสีได้ 21 ชิ้น จึงมอบ รูปลักษณ์ที่มีเอกลักษณ์ แตกต่างอย่างชัดเจนจากคู่แข่งที่เน้น RGB
  • ยังสามารถปรับแต่งเพิ่มเติมด้วยการพิมพ์ 3D และวิธีอื่น ๆ ได้อย่างอิสระเพื่อ แสดงความเป็นตัวเอง

โปรเซสเซอร์ที่ใช้และจุดเด่นด้านการออกแบบ

  • AMD Ryzen AI Max 395+ เดิมเป็นชิปสำหรับโน้ตบุ๊ก แต่ Framework นำมาใช้กับเดสก์ท็อปขนาดจิ๋ว
  • เป็นชิปที่เคยใช้ใน ASUS ROG Flow Z13 และ HP ZBook Ultra โดยถูกเลือกมาเพื่อใช้พื้นที่ให้คุ้มค่าสูงสุด
  • แม้ตลาดมินิพีซีจะมีสินค้ามากมายอยู่แล้ว แต่ Framework Desktop แทบจะเป็นรายเดียวที่มอบสภาพแวดล้อมแบบ ไร้เสียงรบกวนอย่างสมบูรณ์
  • เมื่อเทียบกับมินิพีซีอื่นอย่าง Beelink แล้ว มีเสียงรบกวนน้อยกว่ามาก

เบนช์มาร์กและการเปรียบเทียบประสิทธิภาพ

  • ใน เบนช์มาร์กมัลติคอร์ Framework Desktop เร็วกว่า Beelink SER8 ถึง 2 เท่า และเร็วกว่า SER9 มากกว่า 1/3
  • เมื่อเทียบกับ Mac Studio (M4 Max, M4 Pro) ก็แสดง ประสิทธิภาพที่ดีกว่าราว 40%~50%
  • การทดสอบนี้ใช้ MySQL/Redis/ElasticSearch ภายใน Docker และรันโค้ด Ruby โดย ข้อได้เปรียบของการรัน Docker แบบเนทีฟบนลินุกซ์ ก็มีส่วนทำให้เกิดความต่างของประสิทธิภาพด้วย (ประมาณ 25%)
  • เนื่องจากเวิร์กโฟลว์ของนักพัฒนาจำเป็นต้องใช้ Docker จึงยิ่งทำให้ความสามารถในการแข่งขันของ Framework Desktop โดดเด่นขึ้นในการใช้งานจริง

CPU และประสิทธิภาพซิงเกิลคอร์

  • AMD 395+ มาพร้อมคอร์ Zen5 จำนวน 16 คอร์ (5.1GHz) โดยคะแนน Geekbench 6 แบบมัลติคอร์ใกล้เคียงหรือเหนือกว่า M4 Max
  • ในด้านประสิทธิภาพซิงเกิลคอร์ ตระกูล M4 แรงกว่าราว 20% (เช่น ในเบนช์มาร์ก Speedometer)
  • แต่ในการใช้งานทั่วไปอย่างการท่องเว็บ แทบไม่รู้สึกถึงความต่างของซิงเกิลคอร์นี้

ความคุ้มค่าด้านราคาและการขยายหน่วยความจำ

  • ที่สเปก 64GB RAM + 2TB NVMe, Framework Desktop มีราคา $1,876 ขณะที่ Mac Studio ในสเปกเดียวกันราคา $3,299
  • แม้ขยายเป็น 128GB ช่องว่างด้านราคาก็ยิ่งมากขึ้น และในการพัฒนาแบบอิง Docker นั้น Framework Desktop ก็ยังเร็วกว่า
  • ในสภาพแวดล้อมลินุกซ์และตัวจัดการหน้าต่าง Hyprland นั้น ประสิทธิภาพการใช้หน่วยความจำ สูง จึงมักเพียงพอแล้วแม้มีเพียง 64GB

การรันโมเดล LLM แบบโลคัลและการใช้หน่วยความจำ

  • หน่วยความจำ 128GB เหมาะกับ การใช้งานโมเดล LLM แบบโลคัล และด้วยโครงสร้าง หน่วยความจำแบบรวม ของ AMD 395+ ทำให้ GPU ใช้หน่วยความจำได้แทบทั้งหมด
  • สามารถรันโมเดลขนาดใหญ่ เช่น 120b gpt-oss ของ OpenAI ได้ พร้อมประสิทธิภาพระดับสร้าง 40 โทเคนต่อวินาที (อ้างอิงลิงก์ YouTube)
  • อย่างไรก็ตาม 64GB ยังมีข้อจำกัดด้านความแม่นยำเมื่อต้องรัน gpt-oss-20b และโมเดล LLM รุ่นใหม่แบบ SaaS ให้ผลลัพธ์ที่ดีกว่า

ผลิตภัณฑ์ทางเลือกและข้อมูลเพิ่มเติม

  • Beelink SER9 ให้ประสิทธิภาพมัลติคอร์ราว 2/3 ในราคาครึ่งหนึ่ง และประสิทธิภาพซิงเกิลคอร์แทบไม่ต่างกัน
  • สำหรับนักพัฒนาส่วนใหญ่ SER9 ก็น่าจะเพียงพออย่างมาก แต่หากต้องการประสิทธิภาพที่ดีกว่าในบางสถานการณ์ Framework Desktop ก็เป็นตัวเลือกที่น่าสนใจ

ประสิทธิภาพด้านเกมและการบูตคู่

  • กราฟิกแบบรวม (iGPU) ของ Framework Desktop ให้ประสิทธิภาพการเล่นเกมใกล้เคียงระดับ RTX 4060
  • เกมหลัก ๆ ก็เล่นได้ลื่นไหลที่การตั้งค่า 1440p High (อ้างอิง YouTube)
  • ด้วยสล็อต NVMe แบบคู่ จึงเหมาะอย่างยิ่งกับการบูตคู่ลินุกซ์/วินโดวส์

บทสรุป

  • Framework Desktop และ AMD 395+ เป็นตัวเลือกที่ทรงพลังมากสำหรับนักพัฒนาที่ใช้ลินุกซ์
  • มีครบทั้งความเงียบ ขนาดเล็ก มัลติคอร์ทรงพลัง ดีไซน์แปลกตา และ ความคุ้มค่าด้านราคา
  • นี่คือ ช่วงเวลาที่ดีที่สุดสำหรับผู้ที่ชื่นชอบซอฟต์แวร์โอเพนซอร์สและฮาร์ดแวร์ที่เป็นมิตรต่อนักพัฒนา

บทความที่เกี่ยวข้อง

6 ความคิดเห็น

 
onusarang 2025-08-12

AMD Ryzen AI Max+ 395
ผมซื้อ ASUS ROG Flow Z13 มาใช้ และถึงจะคาดไว้อยู่แล้ว แต่ความร้อนนี่น่าตกใจมากจริง ๆ
 
fanotify 2025-08-11

เป็นผลิตภัณฑ์ที่คงซื้อในเกาหลีไม่ได้สินะ...?
 
tujuc 2025-08-11

https://frame.work/desktop?tab=overview

ดูเหมือนว่าจะทำได้อยู่เหมือนกัน... น่าจะวางจำหน่ายในไตรมาส 4 ใช่ไหม?
 
fanotify 2025-08-11

สำหรับผม มันขึ้นว่า We haven’t opened ordering in your region yet, but we’re looking forward to getting there! We can notify you when ordering opens
 
mango 2025-08-11

ว้าว ผมสนใจ SFF อยู่แล้วด้วย แต่ในที่สุดก็มีเดสก์ท็อปแบบประกอบเสร็จที่อยากซื้อออกมาแล้วนะครับ.. น่าได้มาครอบครองจริง ๆ
 
GN⁺ 2025-08-11
ความคิดเห็นจาก Hacker News
  • Framework Desktop ราคา $1,876 สำหรับสเปก RAM 64GB และ NVMe 2TB ขณะที่ถ้าจะซื้อ Mac Studio ที่สเปกใกล้กันต้องจ่ายเกือบสองเท่า ทำให้รู้สึกว่า Framework Desktop น่าสนใจมากในแง่ราคา แต่ก็ไม่ได้หมายความว่าถูกกว่า Apple แล้วจะเป็นดีลที่ดีกว่าเสมอไป เดิมทีคิดว่าเดี๋ยวนี้ Apple ตั้งราคาได้แข่งขันมากขึ้นกว่าเมื่อก่อน แต่ Framework ซึ่งเป็นผู้เล่นเฉพาะกลุ่มกลับออกมาถูกกว่า Apple มาก
    • มันมีประสิทธิภาพใกล้กับ Mac Mini มากกว่า Mac Studio ดังนั้นควรเทียบกับรุ่นนั้นมากกว่า ถ้าดูตามราคาในแคนาดา รุ่นที่มีหน่วยความจำ 64GB และสตอเรจ 500GB แทบจะราคาเท่ากันเลย: Framework Max+ 64GB: $2,861.16, Apple Mini M4 Pro 64GB: $2,899.00, Apple คิดราคาสตอเรจแพงผิดปกติก็จริง แต่ถ้าเทียบกับ Mac Mini ต่อให้สมมติเป็น 2TB ก็ยังเป็นพรีเมียมราว 25% เท่านั้น เวลาใช้เดสก์ท็อปประกอบเองก็ใช้ external NVMe SSD ได้
    • Apple จะบวกราคาพรีเมียมหนักมากเมื่อขยับออกจากรุ่นพื้นฐาน หาดีลที่คุ้มกว่า M4 รุ่นพื้นฐานได้ยากจริงๆ
    • เรื่องนี้เกิดจากนโยบายตั้งราคา SSD ของ Apple ที่เกินจริงล้วนๆ ถ้าใช้ external SSD ก็ประหยัดเงินได้มาก
    • รุ่นพื้นฐานของ Apple ยังแข่งขันได้ แต่พออัปเกรด RAM กับ SSD ค่าใช้จ่ายเพิ่มสูงระดับต้นๆ ของอุตสาหกรรม อัปจาก 16GB เป็น 32GB ต้องจ่าย $600 CAD และจาก SSD 512GB เป็น 2TB ต้องจ่าย $900 CAD
    • ก่อนที่ชิป AMD Ryzen AI Max+ 395 จะออกมา สำหรับงาน AI ลักษณะนี้บนเดสก์ท็อป/โน้ตบุ๊ก ตัวเลือกแทบมีแค่ Apple เท่านั้น GPU ที่รองรับหน่วยความจำ 64~128GB มีอยู่แค่ฝั่ง Apple
  • AMD 395+ ใช้สถาปัตยกรรม unified memory แบบเดียวกับ Apple ทำให้ GPU ใช้หน่วยความจำได้แทบทั้งหมด นี่จึงเป็นเหตุผลที่ใช้ CPU สำหรับ “โน้ตบุ๊ก” แม้จะช้ากว่าหน่วยความจำเฉพาะทางเล็กน้อย แต่ก็ทำให้รันโมเดลขนาดใหญ่ได้ด้วยความเร็ว token ที่ค่อนข้างดี
    • unified memory ถูกบัดกรีติดมา... แรงก็จริงแต่ก็ยังน่าเสียดาย เคยสงสัยว่าใช้ PSU ภายในหรือเปล่า พอยืนยันว่าใช้ PSU ภายในแล้วก็แปลกใจ
    • ต้องระวังว่าเป็น AMD GPU จึงไม่มี CUDA ซึ่งอาจเป็นข้อเสียร้ายแรงขึ้นอยู่กับเครื่องมือที่ใช้
  • กำลังพิจารณา Framework Desktop สำหรับงานพัฒนา/สภาพแวดล้อม LLM แบบโลคัล/โฮมเซิร์ฟเวอร์ สำหรับงาน LLM เพียงอย่างเดียว Framework Desktop มีข้อได้เปรียบ แต่ตอนนี้ดูเหมือนยังมีจุดที่ไม่นิ่งอยู่พอสมควร คิดว่าจะรอดูอีกสักหน่อยในปีนี้
    • เวลาพิจารณามินิพีซีอย่าง Minisforum, Beelink ฯลฯ ก็ไม่แน่ใจว่าการอัปเดตเฟิร์มแวร์ UEFI จะดีแค่ไหน และยังกังวลเรื่องความเสี่ยงจาก backdoor ไม่ว่าจะตั้งใจหรือไม่ตั้งใจก็ตาม มีกรณีจริงที่หน่วยงานจากจีนสร้าง UEFI rootkit ที่เล็งเป้าเมนบอร์ด ASUS/Gigabyte ด้วย ดู ลิงก์นี้ คิดว่ากับผู้ผลิตบางรายควรมีการบังคับใช้มาตรการด้านความปลอดภัยโดยตรงหรือไม่
    • ถ้าจะใช้เป็นโฮมเซิร์ฟเวอร์ อาจไม่เหมาะถ้าไม่ได้ต้องการพลังประมวลผลมหาศาล ผมซื้อ Lenovo mini PC มือสอง (เช่น m75q) จาก eBay รวม $500 และมันทำงานส่วนใหญ่ได้ดีเพียงพอ
    • สงสัยเหมือนกันว่า Minisforum เงียบแค่ไหน
  • สงสัยว่าทำไมถึงเอาไปเทียบกับ M4 Max ไม่ค่อยเข้าใจว่านี่หมายความว่าชิป AMD รุ่นล่าสุดทำผลงานได้ระดับเดียวกัน หรือมันมีความหมายอย่างไรกับ LLM แบบ on-device
    • ซีรีส์ Strix ของ AMD ใช้สถาปัตยกรรมคล้ายกับ Apple M series และมี memory bandwidth กับแคชมหาศาล ส่งผลให้ความต่างด้านประสิทธิภาพใหญ่มาก
    • การเปรียบเทียบบนเว็บไซต์ omarchy ก็น่าทึ่งเหมือนกัน โดย Apple M chip ทำงานได้ดีมากในงาน data science ที่ไม่ใช้ GPU ซึ่งอาจมาจากความต่างของประสิทธิภาพการคำนวณจำนวนเต็มเทียบกับทศนิยม ตัวอย่าง numpy benchmark แบบง่าย: Linux (280ms, 1.53Tflops), MacBook Air m2 ของผม (180ms, 2.4Tflops), ส่วน LLM นั้นการคำนวณทศนิยมสำคัญกว่า
    • เหตุผลที่ DHH เปรียบเทียบสองชิปนี้ก็เพราะทั้งคู่เป็นชิประดับเรือธงรุ่นล่าสุด และผล benchmark แสดงให้เห็นว่าลักษณะประสิทธิภาพต่างกัน โดยเฉพาะ benchmark ที่ DHH ชอบนั้น ฝั่งที่รองรับ native Linux และ Docker ได้ดีมักได้เปรียบ สำหรับการใช้ LLM แบบโลคัล จุดแข็งของ M4 Max คือ memory bandwidth ที่สูงกว่ามาก ดู benchmark เพิ่มเติมได้ใน รีวิวของ Arstechnica
    • ถ้าวัดประสิทธิภาพล้วนๆ โดยไม่คิดประสิทธิภาพต่อพลังงาน ช่องว่างไม่ได้มากนัก
    • ถ้าคิดว่า TSMC เป็นองค์ประกอบสำคัญของชิปทุกตัว M series ก็ไม่ได้พิเศษขนาดนั้น นี่จึงเป็นเหตุผลที่โรงงานผลิตของ TSMC ในไต้หวันกลายเป็นประเด็นความมั่นคงแห่งชาติของสหรัฐฯ
  • เพราะใช้ RDNA 3.5 จึงไม่มี Matrix Core ฟีเจอร์นี้มีเฉพาะ RDNA 4 และ RDNA 4 จะเข้ามาสู่เดสก์ท็อปในปี 2025 เท่านั้น ส่วน Nvidia ใส่ Tensor Core มาตั้งแต่ซีรีส์ 4000 ในปี 2022 และ Apple ก็รองรับ simdgroup_matrix มาตั้งแต่ปี 2020 ตอนนี้ฮาร์ดแวร์แบบนี้กำลังกลายเป็นเรื่องปกติขึ้นเรื่อยๆ แต่ยังไม่ชัดว่ามันจะเปลี่ยนงานประเภทอื่นนอกจาก ML อย่างไร
    • NPU เข้าถึงหน่วยความจำชุดเดียวกันได้ และในบางกรณียังรวม FPGA fabric ที่ยืดหยุ่นกว่าด้วย จึงรู้สึกว่าไม่จำเป็นต้องมี Matrix Core ก็เพียงพอแล้ว สุดท้ายมันก็ดูทำหน้าที่คล้ายกัน
  • อยากเห็นการเทียบตรงระหว่าง Framework Desktop กับมินิพีซี "GMKtec AI Mini Ryzen AI Max+ 395 128GB" ฮาร์ดแวร์ดูคล้ายกัน และถ้ายอมตัดความเป็นเอกลักษณ์ของ Framework ออกไป ราคาก็ดูดีกว่า เลยถามว่ามีใครเคยเทียบตรงๆ ไหม
    • ใช้ CPU ตัวเดียวกัน แต่คงตั้งค่า TDP ต่างกัน น่าจะมีข้อมูลเทียบกับรุ่น HP G1a ให้ดูเพื่อช่วยอ้างอิง แนะนำ รีวิวของ Phoronix โดยมองกันว่า Framework จ่ายไฟได้มากกว่า จึงเหนือกว่าในด้าน sustained performance
    • GMKtec เป็นเพียงแบรนด์จีนทั่วไป จึงน่าผิดหวังในด้านการรับประกัน การซัพพอร์ต และการซ่อมได้ง่าย การจะลดค่าของ Framework ว่าเป็นแค่สินค้าที่ “ดูเท่เฉยๆ” นั้นถือว่าไปสุดอีกด้านเกินไป
    • จริงๆ แล้วสองเครื่องนี้ราคาเท่ากัน ทั้งรุ่นที่ใช้โปรเซสเซอร์ 395 และ RAM 128GB อยู่ที่ $1999
    • ในชื่อสินค้ามีคำว่า "AI" อยู่สองครั้ง ก็ได้แต่หวังว่าเทรนด์นี้จะหายไปเร็วๆ
  • ผมชอบ Framework และก็มีโน้ตบุ๊กของบริษัทนี้อยู่ แต่เดสก์ท็อปรุ่นนี้ให้ความรู้สึกว่าชูจุดขายเชิงการตลาดมากกว่า ขณะที่ความแตกต่างที่จับต้องได้ยังน้อย และราคาก็ดูตั้งมาค่อนข้างสูง
    • ถ้าไม่มีตัวเลือกทดแทนที่คล้ายกันมากแต่ถูกกว่ามาก ก็ไม่คิดว่ามันแพง
    • โดยหลักแล้วมันคือการนำแพลตฟอร์มมือถือ/มินิพีซีมาทำให้ใกล้เคียงเดสก์ท็อปมาตรฐานที่สุด ซึ่งผมคิดว่าไม่ได้หลุดจากจิตวิญญาณของ Framework มากนัก
    • เหมือนหลายคนเข้าใจฐานลูกค้าของ Framework ผิด ผมเคยคิดว่าลูกค้าหลักคือกลุ่ม early adopter หรือสายสิ่งแวดล้อมที่สนับสนุน FOSS แต่เพิ่งมารู้เมื่อเร็วๆ นี้ว่าบริษัทยังมีกลุ่มตลาดแบบมาตรฐานสำหรับโรงเรียน/องค์กรที่ซื้อจำนวนมากด้วย สเปกที่ค่อนข้างอ่อนของ fw12 ก็ถูกออกแบบให้เหมาะกับผู้ซื้อแบบนี้ (เช่น นักเรียนในโรงเรียน) เดสก์ท็อปก็น่าจะมีการใช้งานลักษณะที่ติดตั้งจำนวนมากด้วย ไม่ใช่แค่ผู้ใช้รายบุคคล
  • ยกเลิกคำสั่งซื้อ Framework Desktop แล้วไปสั่ง HP Z2 Mini G1a แทน เป้าหมายคือใช้แทน Mac Studio และเริ่มเหนื่อยกับความดื้อดึงและคุณภาพที่ถดถอยของ Apple ฝั่ง HP มีข้อดีคือขนาดเล็กกว่ามาก รองรับ ECC RAM และ 10G Ethernet แต่ราคาก็แพงกว่ามากเช่นกัน
    • เห็นด้วยว่าความน่าเชื่อถือของ Apple ไม่เหมือนเดิมแล้ว แต่ก็ไม่แน่ใจว่าฝั่งตรงข้ามจะดูดีกว่าจริงหรือไม่ อยากรู้เหมือนกันว่าต่อไปจะเป็นอย่างไร ตอนนี้ โปรเจกต์ MLX รันบน CUDA ได้โดยตรงแล้ว
    • เห็น ECC RAM แล้วชักอยากกลับไปดู HP ใหม่ รูปลักษณ์ก็ดูดีเหมือนกัน
    • อยากรู้ว่า Linux ทำงานและเข้ากันได้ดีกับเครื่องนี้หรือไม่
  • เมื่อไม่กี่สัปดาห์ก่อนผมลองดู Framework Desktop เพราะอยากได้ประสิทธิภาพเล่นเกมที่ดีกว่า iGPU ในโน้ตบุ๊ก และผมชอบเล่นเกมเก่ามากกว่าเกมใหม่ สรุปของผมคือเครื่องนี้ดีมากก็จริง แต่ราคาค่อนข้างสูงจนไม่ค่อยคุ้มในเชิงเศรษฐกิจ ถ้าประกอบเองจะได้ประสิทธิภาพดีกว่าในราคาถูกกว่า บทความบอกว่า 9950X ได้คะแนนต่ำกว่า Max 395 แต่ถ้าคิดถึงความต่างระหว่างชิปโน้ตบุ๊ก 55W กับชิปเดสก์ท็อป 170W ก็คงต้องมองต่างออกไป นอกจากนี้ยังมีปัญหาความเข้ากันได้กับ Linux ด้วย (เช่น ชิป MediaTek WiFi/Bluetooth บนบอร์ด ASUS บางรุ่นยังไม่มีไดรเวอร์ Linux) การเลือกชิ้นส่วนทั้งหมดเองก็กินเวลา ผมเห็นด้วยกับคำแนะนำของ Nirav ที่ว่า “ซื้อ Framework Desktop ไปเลยง่ายกว่า” สุดท้ายผมไปใช้ eGPU ผ่าน USB4/Thunderbolt เพื่อให้ได้ประสิทธิภาพด้านเกม เพราะโน้ตบุ๊กที่มีอยู่ก็แรงพอแล้ว ไม่จำเป็นต้องมีพีซีเพิ่ม และผมไม่ได้สนใจงาน LLM จึงไม่ได้ศึกษาส่วนนั้นเพิ่มเติม
  • สงสัยว่า AMD GPU เข้ากันได้ดีกับเวิร์กโฟลว์ generative AI แค่ไหน เพราะมีภาพจำว่าทุกอย่างหมุนรอบ CUDA
    • มีโปรเจกต์ SCALE ที่ทำให้โค้ด CUDA รันบน AMD GPU ได้ กำลังพัฒนาให้เป็นตัวแทนแบบ drop-in ของ Nvidia CUDA ใช้งานฟรีสำหรับการใช้งานส่วนตัวและการศึกษา ดูได้ที่ เอกสารทางการของ SCALE ตอนนี้ฟีเจอร์สำคัญอย่าง cuDNN และ CUDA Graph API ยังอยู่ระหว่างพัฒนา แต่ขอบเขตการรองรับก็กว้างขึ้นเรื่อยๆ ดู สถานะการรองรับ ได้ ผู้พัฒนา SCALE มาแนะนำเอง
    • สภาพแวดล้อมที่ใช้ Ollama และ Stable Diffusion ทำงานบนการ์ด AMD ได้ไม่มีปัญหา ถ้าเป็นงาน inference ไม่ใช่ training ก็ยิ่งรู้สึกว่าความเข้ากันได้ดีขึ้นเรื่อยๆ
    • การใช้ llama.cpp ร่วมกับ Vulkan support ของ Mesa ทำงานบน AMD GPU ได้ดีมากจริงๆ ผมลองรันหลายเวิร์กโหลดแล้วไม่มีปัญหา
    • ในเวิร์กโฟลว์ generative AI ที่อิง LLM จริงๆ ชิปแบบ unified memory อย่าง AMD Max+395 ให้ประสิทธิภาพและความเร็วที่สู้กับ Mac Studio หรือ MacBook Pro ได้ (สำหรับอ้างอิง ชิประดับบนของ Apple มี bandwidth 546GB/s ส่วน AMD อยู่ราว 256GB/s) ในงาน inference ทั้งสองฝั่งทำได้ดีพอๆ กัน แต่สำหรับงานอื่นๆ ทั้งหมด ระบบนิเวศ CUDA ยังให้ความมั่นใจมากกว่า
    • ผมก็มีภาพจำคล้ายกัน ถ้าจะทำ training ยังไงก็ต้องใช้ CUDA GPU ส่วนงาน inference นั้น AMD และ Apple M chip ก็กำลังดีขึ้นเรื่อยๆ