12 คะแนน โดย xguru 2024-07-19 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • คาดว่า GPT-4o mini จะทำให้ปัญญาประดิษฐ์มีต้นทุนถูกลงอย่างมาก และขยายขอบเขตของแอปพลิเคชันที่สร้างด้วย AI ได้อย่างมาก
  • ได้คะแนน 82% บน MMLU และปัจจุบันมีความนิยมด้านการแชตบนลีดเดอร์บอร์ด LMSYS แซงหน้า GPT-4
  • ราคาอยู่ที่ 15 เซนต์ต่อ 1 ล้านโทเค็นอินพุต และ 60 เซนต์ต่อ 1 ล้านโทเค็นเอาต์พุต ซึ่งถูกกว่าโมเดลชั้นนำรุ่นก่อนถึง 10 เท่า และถูกกว่า GPT-3.5 Turbo มากกว่า 60%

คุณสมบัติหลักของ GPT-4o mini

  • สามารถทำงานได้หลากหลายด้วยต้นทุนและความหน่วงต่ำ
  • เหมาะสำหรับแอปพลิเคชันที่เชื่อมต่อหรือทำหลายโมเดลคอลแบบขนานกันได้ (เช่น การเรียก API หลายครั้ง)
  • เหมาะสำหรับแอปพลิเคชันที่ต้องส่งคอนเท็กซ์จำนวนมากให้โมเดล (เช่น โค้ดเบสทั้งหมดหรือประวัติการสนทนา)
  • เหมาะสำหรับแอปพลิเคชันที่โต้ตอบข้อความกับลูกค้าอย่างรวดเร็วแบบเรียลไทม์ (เช่น แชตบอตบริการลูกค้า)
  • รองรับข้อความและวิชันผ่าน API และมีแผนจะรองรับอินพุต/เอาต์พุตของข้อความ รูปภาพ วิดีโอ และเสียงในอนาคต
  • มีคอนเท็กซ์วินโดว์ 128K โทเค็น รองรับเอาต์พุตสูงสุด 16K โทเค็นต่อคำขอ และมีความรู้ถึงเดือนตุลาคม 2023
  • ด้วยโทเคไนเซอร์ที่ปรับปรุงแล้วซึ่งใช้ร่วมกับ GPT-4o ทำให้ประมวลผลข้อความภาษาอื่นที่ไม่ใช่อังกฤษได้คุ้มค่ามากขึ้น

ประสิทธิภาพที่โดดเด่นของ GPT-4o mini

  • GPT-4o mini เหนือกว่า GPT-3.5 Turbo และโมเดลขนาดเล็กอื่น ๆ ทั้งด้านความฉลาดเชิงข้อความและการให้เหตุผลแบบมัลติโหมด
  • รองรับช่วงภาษาระดับเดียวกับ GPT-4o
  • มีประสิทธิภาพในการเรียกฟังก์ชันที่ยอดเยี่ยม ช่วยให้นักพัฒนาสร้างแอปพลิเคชันที่ดึงข้อมูลจากระบบภายนอกหรือสั่งงานต่าง ๆ ได้
  • ประสิทธิภาพด้านคอนเท็กซ์ยาวดีกว่าเมื่อเทียบกับ GPT-3.5 Turbo
  • ทำคะแนนได้ 82.0% บน MMLU, 87.0% บน MGSM, 87.2% บน HumanEval และ 59.4% บน MMMU แสดงประสิทธิภาพที่เหนือกว่าโมเดลขนาดเล็กอื่น ๆ

มาตรการด้านความปลอดภัย

  • ระหว่างการฝึกล่วงหน้า มีการกรองข้อมูลที่ไม่ต้องการให้โมเดลเรียนรู้หรือแสดงผล (เช่น คำพูดแสดงความเกลียดชัง เนื้อหาสำหรับผู้ใหญ่ เว็บไซต์ที่เน้นเก็บข้อมูลส่วนบุคคลเป็นหลัก สแปม เป็นต้น)
  • ระหว่างการฝึกภายหลัง ใช้เทคนิคอย่างการเรียนรู้เสริมแรงจากฟีดแบ็กของมนุษย์ (RLHF) เพื่อปรับพฤติกรรมของโมเดลให้สอดคล้องกับนโยบาย และปรับปรุงความถูกต้องกับความน่าเชื่อถือของคำตอบ
  • GPT-4o mini มีฟีเจอร์บรรเทาความเสี่ยงด้านความปลอดภัยแบบเดียวกับ GPT-4o ในตัว
  • ผู้เชี่ยวชาญภายนอกมากกว่า 70 คนได้ทดสอบ GPT-4o เพื่อระบุความเสี่ยงที่อาจเกิดขึ้น และได้แก้ไขแล้ว โดยจะเผยแพร่รายละเอียดเพิ่มเติมใน GPT-4o system card และ preparedness scorecard
  • GPT-4o mini เป็นโมเดลตัวแรกใน API ที่ใช้วิธี instruction hierarchy เพื่อเพิ่มความสามารถในการต้านทานการ jailbreak, prompt injection และการดึง system prompt ออกมา

ราคาและการเปิดให้ใช้งาน

  • ตอนนี้ GPT-4o mini พร้อมใช้งานแล้วในฐานะโมเดลข้อความและวิชันบน Assistants API, Chat Completions API และ Batch API
  • นักพัฒนาจะจ่าย 15 เซนต์ต่อ 1 ล้านโทเค็นอินพุต และ 60 เซนต์ต่อ 1 ล้านโทเค็นเอาต์พุต
  • มีแผนจะเปิดตัวการ fine-tuning สำหรับ GPT-4o mini ภายในไม่กี่วันข้างหน้า
  • ผู้ใช้ ChatGPT แบบฟรี Plus และ Team สามารถเข้าถึง GPT-4o mini แทน GPT-3.5 ได้ตั้งแต่วันนี้
  • ผู้ใช้ระดับองค์กรจะสามารถเข้าถึงได้ตั้งแต่สัปดาห์หน้า

แผนต่อจากนี้

  • ต้นทุนกำลังลดลงอย่างมากควบคู่ไปกับความก้าวหน้าที่น่าทึ่งของความฉลาด AI
  • ต้นทุนต่อโทเค็นของ GPT-4o mini ต่ำกว่า text-davinci-003 ที่เปิดตัวในปี 2022 ถึง 99%
  • กำลังวาดภาพอนาคตที่โมเดลจะถูกรวมเข้ากับทุกแอปและเว็บไซต์ได้อย่างไร้รอยต่อ
  • GPT-4o mini เปิดทางให้นักพัฒนาสร้างและขยายแอปพลิเคชัน AI ที่ทรงพลังได้อย่างมีประสิทธิภาพและประหยัดยิ่งขึ้น
  • อนาคตของ AI กำลังเข้าถึงได้ง่ายขึ้น น่าเชื่อถือขึ้น และฝังอยู่ในประสบการณ์ดิจิทัลประจำวันของเรามากขึ้น

1 ความคิดเห็น

 
wedding 2024-07-22

เดี๋ยวก็คงมี gpt-4o pro max ultra ออกมาด้วยสินะ