- เปิดตัวโมเดล GPT-4 Turbo ที่รองรับหน้าต่างบริบท 128K, GPT-4 API ที่มี Vision, Assistant API, DALL-E 3 API และ GPT-3.5 Turbo รุ่นใหม่
- GPT-4 Turbo
- รองรับหน้าต่างบริบท (Context Window) 128K และฝึกด้วยข้อมูลถึงเดือนเมษายน 2023
- เมื่อเทียบกับ GPT-4 ค่าโทเค็นอินพุตถูกลง 3 เท่า และโทเค็นเอาต์พุตถูกลง 2 เท่า
- ทำตามคำสั่งที่ให้ตอบในรูปแบบเฉพาะได้ดีขึ้น และมีโหมด JSON ที่รับประกันการตอบกลับเป็น JSON
- รองรับเอาต์พุตที่ทำซ้ำได้โดยอิงจาก seed และมีแผนเพิ่มความสามารถในการส่งคืน log probabilities สำหรับเอาต์พุต
- GPT-3.5 Turbo ก็ได้รับการอัปเดตเช่นกัน
- Assistants API
- AI สำหรับงานเฉพาะทางที่มีความสามารถด้าน code interpreter, retrieval และ function calling
- จัดการสถานะบนพื้นฐานของ thread จึงสามารถประมวลผลเนื้อหาที่ยาวได้ไม่จำกัด
- Code Interpreter - สามารถเขียนและรันโค้ด Python ได้ในสภาพแวดล้อม sandbox
- Retrieval - ค้นหาและตอบกลับด้วยความรู้ภายนอกโมเดล เช่น เอกสารที่ผู้ใช้ให้มา
- Function Calling - เรียกใช้ฟังก์ชันที่ผู้ใช้กำหนดได้อย่างเหมาะสม และรวมผลลัพธ์ไว้ในการตอบกลับ
- API ใหม่อื่น ๆ
- เพิ่มความสามารถในการรู้จำภาพให้กับ GPT-4 Turbo
- DALL-E 3 เปิดให้ใช้ผ่าน API แล้ว โดยมีราคา 0.04 ดอลลาร์ต่อการสร้างภาพ
- เพิ่ม TTS API
- การปรับแต่งโมเดล
- เตรียมเปิดตัวโมเดล fine-tuning ของ GPT-4 ในรูปแบบ experimental access
- มีบริการ custom models สำหรับสร้างโมเดลเฉพาะให้กับองค์กรขนาดใหญ่
- เช่น การฝึกด้วยชุดข้อมูลกรรมสิทธิ์ขนาดหลายพันล้านโทเค็นขึ้นไป
- การลดราคา
- GPT-4 Turbo 128K มีราคา 0.01 ดอลลาร์ต่อโทเค็นอินพุต และ 0.03 ดอลลาร์ต่อโทเค็นเอาต์พุต
- เมื่อเทียบกับเดิม โทเค็นอินพุตถูกลง 3 เท่า และโทเค็นเอาต์พุตถูกลง 2 เท่า
- GPT-3.5 Turbo 16K ให้บริการที่ราคา 0.001 ดอลลาร์ต่อโทเค็นอินพุต และ 0.002 ดอลลาร์ต่อโทเค็นเอาต์พุต
- เมื่อเทียบกับเดิม โทเค็นอินพุตถูกลง 3 เท่า และโทเค็นเอาต์พุตถูกลง 2 เท่า และยังถูกกว่าโมเดล 4K ในส่วนโทเค็นอินพุต 33%
- โมเดล fine-tuning ของ GPT-3.5 Turbo ให้บริการที่ราคา 0.003 ดอลลาร์ต่อโทเค็นอินพุต และ 0.006 ดอลลาร์ต่อโทเค็นเอาต์พุต
- เมื่อเทียบกับเดิม โทเค็นอินพุตถูกลง 4 เท่า และโทเค็นเอาต์พุตถูกลง 2.7 เท่า
8 ความคิดเห็น
ตั้งแต่เมื่อวาน GN⁺ ก็ได้ใช้ GPT-4 Turbo แล้วครับ
เห็นได้ชัดว่าตอบได้เร็วขึ้น และเข้าใจคำสั่งได้ดีกว่าเดิม
สรุปได้ตามที่สั่งไว้ดี และผลงานที่ออกมาก็ดูเรียบร้อยสะอาดตา
เดิมทีผมจะผสมการใช้พรอมป์ภาษาอังกฤษเข้าไปด้วย แต่ตอนนี้แค่ใช้พรอมป์ภาษาเกาหลีก็ตอบได้ดีเยี่ยมแล้วครับ
ผมไม่ได้รู้เรื่อง AI มากนัก แต่ดูเหมือนว่าความเร็วในการลดลงของราคาจะยิ่งเร็วขึ้นเรื่อย ๆ ใช่ไหมครับ? โลกในอีก 1-2 ปีข้างหน้านี่คาดเดาไม่ออกจริง ๆ ครับ
ราคาข้างต้นเป็นราคาต่อ 1,000 โทเคน โปรดใช้เป็นข้อมูลอ้างอิง
และ 128K โทเค็น... ตอนนี้สำหรับการใช้งานที่ผมใช้เป็นประจำ ปัญหาเรื่องคอนเท็กซ์ก็น่าจะหายไปเป็นส่วนใหญ่แล้วครับ
อ๊ะ กำลังสรุปเนื้อหานี้เพื่อจะลงอยู่พอดี แต่มาช้าไปหน่อย T_T
ตอนที่ Anthropic เปิดตัวโมเดล 100K ก็น่าทึ่งมากแล้ว แต่พอ GPT-4 เปิดตัว 128K tokens ขึ้นมาอีก ก็เหมือนจะยังนำหน้าอยู่ครับ
ส่วนราคาก็ลดลงโดยรวมหลายเท่าด้วย ขีดความสามารถทางเทคนิคของ OpenAI นี่ไปได้ไกลถึงไหนกันแน่...
ยังไงก็ยินดีต้อนรับอย่างมากครับ
GPT-4 แอบแพงอยู่เหมือนกันนะครับ (โดยเฉพาะเวลาใช้ 16K) แต่ครั้งนี้ทั้งเพิ่มขนาดโทเคนขึ้นเยอะมาก แถมราคาก็ถูกลงแบบชัดเจนจริง ๆ +_+
แล้วก็ Assistants API ก็น่าสนใจอยู่เหมือนกัน คงต้องลองใช้ดูสักครั้งครับ
ได้ยินว่าไม่จำเป็นต้องใช้ embeddings กับการค้นหาแล้ว ก็เลยรู้สึกว่าน่าจะคุ้มขึ้นไปอีก...?
สรุป AI ของเธรด HN
มีข้อมูลหลอนอยู่ครับ
ราคาถูกเขียนไว้หมดแล้วครับ