Llama-3.3-70B-Instruct

 (huggingface.co)
2 คะแนน โดย GN⁺ 2024-12-07 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • คอลเลกชัน Llama 3.3
    • คอลเลกชันนี้มีตัวแปลงและที่เก็บต้นฉบับของ Llama 3.3
    • อัปเดตล่าสุดเมื่อ 8 ชั่วโมงที่แล้ว
    • มีทั้งหมด 1 รายการ

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2024-12-07
ความคิดเห็นจาก Hacker News

  • เมื่อเทียบกับ Llama 3.2 405B ดูเหมือนว่าประสิทธิภาพจะใกล้เคียงกันหรือดีกว่าเล็กน้อย

    • ตามที่ Zuck กล่าว นี่คือรีลีสสุดท้ายของซีรีส์ Llama 3 และ Llama 4 มีกำหนดเปิดตัวในปี 2025
    • ทำให้นึกถึงคำพูดอันโด่งดังของ Steve Jobs เกี่ยวกับ Dropbox ที่ว่า "มันเป็นฟีเจอร์ ไม่ใช่ผลิตภัณฑ์"
    • Meta กำลังทำให้ AI กลายเป็นสินค้าโภคภัณฑ์ด้วยการเปิดโอเพนซอร์สโมเดลที่ทรงพลัง และสามารถใช้สิ่งนี้เพื่อเสริมความแข็งแกร่งให้บริการของ Facebook และ Instagram ได้
    • ไม่ได้ขาย AI แต่ใช้ AI เพื่อเสริมความแข็งแกร่งให้ธุรกิจหลัก
    • การเปิดเป็นโอเพนซอร์สทำให้ได้รับประโยชน์จากการยอมรับและการพัฒนาที่แพร่หลาย

  • ในเบนช์มาร์กของเรา มันทำได้ดีกว่าที่คาดไว้

    • จะตรวจสอบให้ลึกกว่านี้ แต่ก็น่าประทับใจ

  • ขณะนี้ยังมีการถกเถียงกันต่อเนื่องเกี่ยวกับไคลเอนต์เดสก์ท็อป Mac แบบ "ทั่วไป" ที่ดี

    • อยากใช้ Ollama, ChatGPT, Claude, Perplexity เป็นต้น
    • อยากใช้ AI แชตในหลายแอป และไม่จำเป็นต้องเป็นแอปเดสก์ท็อปก็ได้
    • MacMind ดูดี แต่มีค่าใช้จ่ายสูงมากในฐานะฟรอนต์เอนด์สำหรับ API อื่น
    • คำตอบแบบ "อย่าขี้เหนียว" ก็ดูสมเหตุสมผลเช่นกัน

  • แสดงประสิทธิภาพใกล้เคียงกับ GPT-4o ในหลายเบนช์มาร์ก

  • อัปโหลด 4bit bitsandbytes, GGUFs และค่าน้ำหนัก 16bit ต้นฉบับขึ้น Hugging Face แล้ว

    • สามารถฟाइनจูน Llama 3.3 70B ได้เร็วขึ้น 2 เท่าบน VRAM ไม่เกิน 48GB และลดการใช้หน่วยความจำลงได้ 70%

  • กำลังติดตามราคาต่อ 1M โทเคนบน OpenRouter และราคากำลังลดลงทุกครั้งที่รีเฟรช

  • การโอเพนซอร์สของ Llama เป็นตัวอย่างที่ยอดเยี่ยมของกลยุทธ์ "Commoditize Your Complement"

    • สำหรับคนที่ไม่เคยได้ยินเกี่ยวกับกลยุทธ์นี้ มีการแชร์ลิงก์ไปยัง "Laws of Tech: Commoditize Your Complement" ของ Gwern

  • คำถามเกี่ยวกับโมเดลบน Hugging Face

    • สามารถรันผ่าน JupyterLab บนโน้ตบุ๊กได้หรือไม่
    • มีข้อดีอะไรบ้าง
    • สามารถอัปเดตเป็นประจำได้หรือไม่
    • สามารถฟাইনจูนให้เหมาะกับการใช้งานเฉพาะทางได้หรือไม่
    • ต้องใช้เวลาและความพยายามมากแค่ไหนในการฟाइनจูนโมเดล
    • ขอ URL ว่า Hugging Face มีคำตอบสำหรับคำถามเหล่านี้หรือไม่

  • Meta ยังคงทำได้เกินความคาดหวังอย่างต่อเนื่องด้วยการปล่อยโอเพนโมเดลที่ทรงพลังเพื่อท้าชน OpenAI/Anthropic

    • ผู้ที่ได้ประโยชน์มากที่สุดคือนักพัฒนา