Google อ้างว่า Gemma 3 คือโมเดล AI ที่ทรงพลังที่สุดที่รันได้บน GPU เดี่ยว

 (theverge.com)
2 คะแนน โดย GN⁺ 2025-03-23 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • Google เปิดตัว Gemma 3 ซึ่งเป็นรุ่นต่อจากโมเดล AI ตระกูล Gemma ที่พัฒนาบนเทคโนโลยี Gemini AI
  • Gemma 3 ออกแบบมาเพื่อให้นักพัฒนาสามารถรันแอปพลิเคชัน AI บนแพลตฟอร์มที่หลากหลาย
    • รันได้ตั้งแต่สมาร์ตโฟนไปจนถึงเวิร์กสเตชัน
    • รองรับมากกว่า 35 ภาษา
    • วิเคราะห์ข้อความ รูปภาพ และวิดีโอสั้นได้
  • Google อ้างว่า Gemma 3 คือ "โมเดลตัวเร่งเดี่ยวที่ดีที่สุดในโลก"
    • ให้ประสิทธิภาพบน GPU เดี่ยวดีกว่าโมเดลของ Facebook Llama, DeepSeek และ OpenAI
    • ทำงานได้อย่างมีประสิทธิภาพสูงสุดบน Nvidia GPU และฮาร์ดแวร์ AI เฉพาะทาง
    • ปรับปรุง vision encoder
      • รองรับภาพความละเอียดสูงและภาพที่ไม่ใช่สัดส่วนสี่เหลี่ยมจัตุรัส
    • มาพร้อม ShieldGemma 2 image safety classifier ใหม่
      • กรองคอนเทนต์ลามกอนาจาร และคอนเทนต์ที่เป็นอันตรายหรือมีความรุนแรง
  • Gemma 3 ขึ้นมาอยู่อันดับต้น ๆ ใน ELO score ranking ของ Chatbot Arena
    • ทำสถิติประสิทธิภาพสูงบน Nvidia H100 GPU เดี่ยว
  • ประเด็นถกเถียงเรื่องนิยามว่าโมเดล Gemma เป็น "โอเพ่น" หรือ "โอเพนซอร์ส" ยังคงมีต่อไป
    • ไลเซนส์ของ Google ยังคงมีข้อจำกัดด้านการใช้งาน และไม่มีการเปลี่ยนแปลงในประกาศครั้งนี้

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2025-03-23
ความเห็นจาก Hacker News
  • โมเดล AI บางตัวสามารถสวดภาวนาได้ พอลองขอคำแนะนำตามหลักพระคัมภีร์ มันก็บอกว่าจะสวดให้
  • สงสัยว่าโมเดลที่เล็กแค่ไหนถึงจะยัง "ฉลาดโดยทั่วไป" ได้อยู่ ดูเหมือนน่าจะมีขนาดที่เล็กเกินกว่าจะใส่ข้อมูลทุกอย่างได้
    • สงสัยว่าเมื่อไรโมเดลขนาดเล็กที่เชี่ยวชาญเฉพาะทางจะออกมา เช่น เวลาขอความช่วยเหลือเรื่องโค้ด ก็คงไม่จำเป็นต้องรู้ว่าใครเป็นผู้กำกับ "Jaws"
    • อนาคตอาจจะมีโมเดลเล็ก ๆ ที่เชี่ยวชาญเฉพาะด้านจำนวนมาก
    • หรือไม่ก็พลังประมวลผลอาจดีขึ้นจนสามารถรันโมเดลที่มีความสามารถครบถ้วนบนเดสก์ท็อปหรือโทรศัพท์ได้
  • Llama 3.3 70B อาจไม่นับว่าเป็นการรันบน "GPU เดียว" แต่รันบน Mac เครื่องเดียวได้ดี
    • มันดีกว่า Gemma 3 มากในแง่การรักษาแนวคิดต่อเนื่องในการสนทนายาว ๆ
  • Gemma 3 เขียนได้ดีกว่าเวอร์ชัน 2 มาก
    • จุดปรับปรุงใหญ่คือสามารถใช้ context window 32k+ ได้จริง และไม่กลายเป็นข้อความมั่วแบบสุ่ม
  • อยู่ได้แค่หนึ่งสัปดาห์หลังจาก Mistral เปิดตัว 3.1 Small แสดงให้เห็นว่า AI พัฒนาเร็วมาก
  • Mistral Small 3.1 เปิดตัวหลัง Gemma 3 และดีกว่ามาก
    • ปฏิเสธน้อยกว่า แม่นยำกว่า พูดวกวนไร้สาระน้อยกว่า และดีกว่าอย่างชัดเจนโดยเฉพาะเรื่องโค้ด
  • ในทางเทคนิคแล้ว DeepSeek R1 แบบ 1.58-bit Unsloth quant รันได้บน GPU เดียวและ RAM ระบบ 128GB
    • ประสิทธิภาพดีมาก แต่ไม่ควรรีบร้อน
  • โพสต์ของ Google เมื่อสัปดาห์ที่แล้ว: [ลิงก์]
  • สงสัยว่ามีใครใช้ GoogleAI อยู่บ้างไหม
    • ที่บริษัท AI แห่งหนึ่งซึ่งมี AI CEO ใช้ AI แปลภาษา แต่ผลิตภัณฑ์ GPT จริง ๆ ทั้งหมดแย่มากและชื่อเสียงก็ไม่ดี
    • ใครกันจะอยากส่งบทสนทนาส่วนตัวของตัวเองไปให้ Google เพื่อให้ถูกสอดส่อง?
  • สงสัยว่ามันรันบนพื้นห้องที่ถูกตัดแล้วหรือเปล่า