ข่าวลือเกี่ยวกับ GPT-4
(thealgorithmicbridge.substack.com)- GPT-4 เกือบพร้อมแล้ว และคาดว่าจะเปิดตัวระหว่างเดือนธันวาคมถึงกุมภาพันธ์
- อาจผ่านการทดสอบทัวริงได้
- มีขนาดใหญ่มากและเป็นแบบ sparse (ไม่ได้มีทุกนิวรอนทำงานพร้อมกัน)
- การเปรียบเทียบขนาดแทบไม่มีความหมาย
- ผมคิดว่า sparsity คืออนาคตของ AI
- เป็นแบบหลายโหมด (multimodality) ที่รองรับอินพุตข้อความ เสียง ภาพ และวิดีโอ
- นี่ก็เป็นอนาคตของ AI เช่นกัน ไม่ใช่แค่เพราะสมองของเราเป็นแบบนั้น แต่เพราะโลกเองก็เป็น multimodal
- ค่าใช้จ่ายในการฝึกถูกกว่า GPT-3 มาก อยู่ที่ $.e6($1~10M)
- หมายความว่า OpenAI พบวิธีลดต้นทุนได้
ยังไม่มีความคิดเห็น