OpenAI DevDay: โมเดลใหม่และผลิตภัณฑ์สำหรับนักพัฒนา
(openai.com)- OpenAI ขยายโมเดลหลักของแพลตฟอร์ม API เป็น GPT‑4 Turbo ในงาน DevDay พร้อมเปิดตัว Assistants API, ความสามารถแบบมัลติโมดัล และการลดราคา ซึ่งขยายชุดผลิตภัณฑ์สำหรับนักพัฒนาอย่างมาก
- GPT‑4 Turbo มาพร้อม คอนเท็กซ์ 128K และความรู้ถึงเดือนเมษายน 2023 โดยมีราคาถูกกว่า GPT‑4: โทเค็นอินพุตถูกกว่า 3 เท่า และโทเค็นเอาต์พุตถูกกว่า 2 เท่า
- Assistants API ใหม่รวม Code Interpreter, Retrieval, การเรียกฟังก์ชัน และ thread แบบถาวรที่ไม่มีข้อจำกัดด้านความยาว ช่วยให้สร้าง AI assistant ที่มุ่งทำภารกิจเฉพาะภายในแอปได้
- API เพิ่ม อินพุตภาพ, DALL·E 3 และการแปลงข้อความเป็นเสียง (TTS) ส่วน GPT‑3.5 Turbo รองรับคอนเท็กซ์ 16K เป็นค่าเริ่มต้น, JSON mode และการเรียกฟังก์ชันแบบขนาน
- ขีดจำกัดโทเค็นต่อนาทีของลูกค้า GPT‑4 แบบชำระเงินจะเพิ่มขึ้น 2 เท่า และ Copyright Shield จะช่วยป้องกันการเรียกร้องเรื่องละเมิดลิขสิทธิ์และรับผิดชอบค่าใช้จ่ายสำหรับ ChatGPT Enterprise และฟีเจอร์ที่ให้บริการทั่วไปบนแพลตฟอร์มนักพัฒนา
อัปเดต GPT‑4 Turbo และ GPT‑3.5 Turbo
- GPT‑4 Turbo เปิดตัวในรูปแบบ preview ในฐานะโมเดลรุ่นถัดไปของ GPT‑4
- นักพัฒนาแบบชำระเงินทุกคนสามารถใช้งานผ่าน API ได้โดยส่ง
gpt-4-1106-preview - โมเดลที่เสถียรและพร้อมใช้งานในโปรดักชันมีแผนจะเปิดตัวภายในไม่กี่สัปดาห์
- หน้าต่างคอนเท็กซ์ 128K ทำให้ใส่ข้อความเทียบเท่ามากกว่า 300 หน้าในพรอมป์เดียวได้
- ความรู้เกี่ยวกับโลกครอบคลุมถึงเดือนเมษายน 2023
- นักพัฒนาแบบชำระเงินทุกคนสามารถใช้งานผ่าน API ได้โดยส่ง
- ราคาถูกกว่า GPT‑4
- โทเค็นอินพุต GPT‑4 Turbo: $0.01/1,000 tokens
- โทเค็นเอาต์พุต GPT‑4 Turbo: $0.03/1,000 tokens
- อินพุตถูกกว่า GPT‑4 3 เท่า และเอาต์พุตถูกกว่า 2 เท่า
- การเรียกฟังก์ชัน (function calling) สามารถเรียกหลายฟังก์ชันในข้อความเดียวได้
- เช่น คำขออย่าง “เปิดหน้าต่างรถและปิดแอร์ให้หน่อย” สามารถจัดการได้ในข้อความเดียว โดยไม่ต้องโต้ตอบไปมาหลายรอบเหมือนก่อน
- GPT‑4 Turbo มีแนวโน้มสูงขึ้นที่จะส่งคืนพารามิเตอร์ฟังก์ชันที่ถูกต้อง
- JSON mode จำกัดการตอบกลับของโมเดลให้เป็น JSON ที่ถูกต้อง
- พารามิเตอร์ API ใหม่
response_formatสามารถบังคับให้สร้างอ็อบเจกต์ JSON ที่ถูกต้องตามไวยากรณ์ได้ - มีประโยชน์สำหรับนักพัฒนาที่สร้าง JSON ด้วย Chat Completions API นอกเหนือจากการเรียกฟังก์ชัน
- GPT‑4 Turbo ทำงานได้ดีกว่าโมเดลก่อนหน้าในงานที่ต้องทำตามคำสั่งรูปแบบเฉพาะ เช่น “ตอบเป็น XML เสมอ”
- พารามิเตอร์ API ใหม่
- เพิ่มเอาต์พุตที่ทำซ้ำได้และ log probabilities
- พารามิเตอร์
seedรองรับ เอาต์พุตที่ทำซ้ำได้ โดยทำให้ completion มีความสอดคล้องกันในกรณีส่วนใหญ่ - ใช้ได้กับการดีบักโดย replay คำขอ การทำ unit test ที่ครอบคลุมขึ้น และการควบคุมพฤติกรรมของโมเดล
- ฟีเจอร์ส่งคืน log probabilities สำหรับโทเค็นเอาต์พุตที่มีความเป็นไปได้สูงสุดของ GPT‑4 Turbo และ GPT‑3.5 Turbo มีกำหนดเปิดตัวภายในไม่กี่สัปดาห์
- มีประโยชน์เมื่อสร้างฟีเจอร์อย่างการเติมข้อความอัตโนมัติในประสบการณ์ค้นหา
- พารามิเตอร์
- GPT‑3.5 Turbo ใหม่รองรับหน้าต่างคอนเท็กซ์ 16K เป็นค่าเริ่มต้น
- เข้าถึงได้ผ่าน API ด้วย
gpt-3.5-turbo-1106 - รองรับการทำตามคำสั่งที่ดีขึ้น, JSON mode และการเรียกฟังก์ชันแบบขนาน
- ในการประเมินภายใน งานที่ต้องทำตามรูปแบบ เช่น การสร้าง JSON, XML, YAML ดีขึ้น 38%
- โมเดล
gpt-3.5-turbo-0613เดิมจะยังคงเข้าถึงได้จนถึงวันที่ 13 มิถุนายน 2024 - แอปพลิเคชันที่ใช้ชื่อ
gpt-3.5-turboจะไม่ถูกอัปเกรดอัตโนมัติอีกต่อไป
- เข้าถึงได้ผ่าน API ด้วย
Assistants API, Retrieval, Code Interpreter
- Assistants API เปิดตัวเป็นก้าวแรกที่ช่วยให้นักพัฒนาสร้าง ประสบการณ์แบบ agent ภายในแอปพลิเคชันได้
- assistant คือ AI ที่มุ่งทำภารกิจเฉพาะ มีคำสั่งเฉพาะ ใช้ความรู้เพิ่มเติม และเรียกโมเดลกับเครื่องมือเพื่อทำงาน
- มุ่งเป้าไปยังกรณีใช้งานอย่างแอปวิเคราะห์ข้อมูลด้วยภาษาธรรมชาติ, coding assistant, AI วางแผนท่องเที่ยว, DJ ที่ควบคุมด้วยเสียง และ smart visual canvas
- สร้างอยู่บนฟีเจอร์อย่าง custom instructions, Code Interpreter, Retrieval และการเรียกฟังก์ชัน ซึ่งเป็นรากฐานของผลิตภัณฑ์ GPTs ใหม่ของ OpenAI
- การเปลี่ยนแปลงหลักคือ thread แบบถาวรและไม่มีข้อจำกัดด้านความยาว
- นักพัฒนาสามารถมอบการจัดการสถานะของ thread ให้ OpenAI ได้
- ทำงานโดยเพิ่มข้อความใหม่ลงใน
threadเดิม เพื่อหลีกเลี่ยงข้อจำกัดของหน้าต่างคอนเท็กซ์
- Assistants API สามารถเรียกใช้เครื่องมือได้หลายอย่าง
- Code Interpreter: เขียนและรันโค้ด Python ในสภาพแวดล้อม sandbox สร้างกราฟและแผนภูมิ และประมวลผลไฟล์ข้อมูลและรูปแบบต่าง ๆ
- Retrieval: เสริม assistant ด้วยความรู้นอกโมเดล เช่น ข้อมูลโดเมนเฉพาะ ข้อมูลผลิตภัณฑ์ และเอกสารที่ผู้ใช้ให้มา
- เมื่อใช้ Retrieval นักพัฒนาไม่จำเป็นต้องสร้างระบบจัดเก็บ embedding ของเอกสาร, chunking และอัลกอริทึมค้นหาเอง
- Function calling: assistant สามารถเรียกฟังก์ชันที่นักพัฒนากำหนด และสะท้อนคำตอบของฟังก์ชันกลับในข้อความได้
- ข้อมูลและไฟล์ที่ส่งผ่าน API จะไม่ถูกใช้ในการฝึกโมเดลของ OpenAI และนักพัฒนาสามารถลบได้เมื่อเห็นว่าเหมาะสม
- Assistants API เปิดให้ใช้งานแบบ beta สำหรับนักพัฒนาทุกคน และทดลองได้ใน Assistants playground โดยไม่ต้องเขียนโค้ด
- ราคาของ Assistants API และเครื่องมือมีให้ดูในหน้าราคาของ OpenAI
ความสามารถด้านภาพ รูปภาพ และเสียงที่เพิ่มใน API
- GPT‑4 Turbo with vision สามารถรับภาพเป็นอินพุตใน Chat Completions API ได้
- รองรับกรณีใช้งานอย่างการสร้างคำบรรยายภาพ การวิเคราะห์รายละเอียดภาพจริง และการอ่านเอกสารที่มีรูปภาพประกอบ
- BeMyEyes ใช้เทคโนโลยีนี้เพื่อช่วยผู้พิการทางสายตาและผู้มีสายตาเลือนรางในการทำงานประจำวัน เช่น การระบุผลิตภัณฑ์และการเดินทางในร้านค้า
- นักพัฒนาเข้าถึงได้ผ่าน
gpt-4-vision-preview - การรองรับ vision จะถูกรวมไว้ในโมเดล GPT‑4 Turbo หลักเป็นส่วนหนึ่งของรุ่นเสถียร
- ราคาขึ้นอยู่กับขนาดภาพอินพุต โดยค่าใช้จ่ายในการส่งภาพ 1080×1080 จำนวน 1 ภาพให้ GPT‑4 Turbo คือ $0.00765
- DALL·E 3 สามารถผสานเข้ากับแอปและผลิตภัณฑ์ได้โดยระบุโมเดล
dall-e-3ใน Images API- Snap, Coca-Cola และ Shutterstock ใช้ DALL·E 3 เพื่อสร้างภาพและดีไซน์แบบโปรแกรมได้สำหรับลูกค้าและแคมเปญ
- เช่นเดียวกับ DALL·E รุ่นก่อนหน้า API มี moderation ในตัวเพื่อช่วยป้องกันการใช้งานในทางที่ผิด
- มีตัวเลือกรูปแบบและคุณภาพให้ใช้ และราคาเริ่มต้นที่ $0.04 ต่อภาพที่สร้าง
- API แปลงข้อความเป็นเสียง (TTS) สร้างเสียงระดับมนุษย์จากข้อความ
- โมเดล TTS ใหม่มี preset voice 6 แบบ
- มีโมเดลย่อยสองแบบคือ
tts-1และtts-1-hd tts-1เหมาะกับกรณีใช้งานแบบเรียลไทม์ ส่วนtts-1-hdปรับให้เหมาะกับคุณภาพ- ราคาเริ่มต้นที่ $0.015 ต่ออินพุต 1,000 ตัวอักษร
การปรับแต่งโมเดล
- OpenAI กำลังสร้างโปรแกรมทดลองเข้าถึง GPT‑4 fine-tuning
- ผลลัพธ์เบื้องต้นชี้ว่า GPT‑4 fine-tuning ต้องอาศัยงานเพิ่มเติมมากขึ้นเพื่อให้ได้การปรับปรุงที่มีนัยสำคัญเมื่อเทียบกับ base model ต่างจากการปรับปรุงครั้งใหญ่ที่ได้จาก GPT‑3.5 fine-tuning
- เมื่อคุณภาพและความปลอดภัยของ GPT‑4 fine-tuning ดีขึ้น นักพัฒนาที่ใช้ GPT‑3.5 fine-tuning อย่างจริงจังจะได้รับตัวเลือกสมัครโปรแกรม GPT‑4 ใน fine-tuning console
- Custom Models program มุ่งเป้าไปยังองค์กรที่ต้องการการปรับแต่งมากกว่า fine-tuning
- ใช้โดยเฉพาะกับโดเมนที่มีชุดข้อมูลเฉพาะของตัวเองขนาดใหญ่มาก อย่างน้อยระดับหลายพันล้านโทเค็น
- องค์กรที่ได้รับคัดเลือกสามารถฝึก custom GPT‑4 สำหรับโดเมนเฉพาะร่วมกับกลุ่มนักวิจัยเฉพาะของ OpenAI
- สามารถปรับเปลี่ยนทุกขั้นตอนของกระบวนการฝึกโมเดล ตั้งแต่ pre-training เฉพาะโดเมนเพิ่มเติม ไปจนถึง custom RL post-training ที่ปรับให้เข้ากับโดเมนเฉพาะ
- องค์กรจะเข้าถึง custom model ของตนเองแต่เพียงผู้เดียว
- custom model จะไม่ถูกให้บริการหรือแชร์กับลูกค้ารายอื่น และจะไม่ถูกใช้ฝึกโมเดลอื่น
- ข้อมูลเฉพาะที่ให้มาเพื่อฝึก custom model จะไม่ถูกนำกลับมาใช้ซ้ำในบริบทอื่น
- ในช่วงแรกจะเริ่มเป็นโปรแกรมที่จำกัดมากและมีค่าใช้จ่ายสูง
การลดราคาและการขยาย rate limit
- OpenAI ลดราคาหลายส่วนของแพลตฟอร์ม
- ราคาทั้งหมดอ้างอิงต่อ 1,000 tokens
- ราคา GPT‑4 Turbo
- GPT‑4 8K: อินพุต $0.03, เอาต์พุต $0.06
- GPT‑4 32K: อินพุต $0.06, เอาต์พุต $0.12
- GPT‑4 Turbo 128K: อินพุต $0.01, เอาต์พุต $0.03
- ราคา GPT‑3.5 Turbo
- GPT‑3.5 Turbo 4K เดิม: อินพุต $0.0015, เอาต์พุต $0.002
- GPT‑3.5 Turbo 16K เดิม: อินพุต $0.003, เอาต์พุต $0.004
- GPT‑3.5 Turbo 16K ใหม่: อินพุต $0.001, เอาต์พุต $0.002
- ราคาใหม่ใช้กับ GPT‑3.5 Turbo ใหม่ที่แนะนำในวันนี้เท่านั้น
- ผู้ใช้ GPT‑3.5 Turbo 4K เดิมจะได้ราคาโทเค็นอินพุตลดลง 33%
- ราคา GPT‑3.5 Turbo fine-tuning
- GPT‑3.5 Turbo 4K fine-tuning เดิม: การฝึก $0.008, อินพุต $0.012, เอาต์พุต $0.016
- GPT‑3.5 Turbo 4K·16K fine-tuning ใหม่: การฝึก $0.008, อินพุต $0.003, เอาต์พุต $0.006
- โทเค็นอินพุตถูกลง 4 เท่า และโทเค็นเอาต์พุตถูกลง 2.7 เท่า
- ในโมเดล GPT‑3.5 Turbo ใหม่ รองรับ fine-tuning คอนเท็กซ์ 16K ในราคาเดียวกับ 4K
- ราคาใหม่ยังใช้กับโมเดล fine-tuned
gpt-3.5-turbo-0613ด้วย
- rate limit ก็ขยายขึ้นด้วย
- ขีดจำกัดโทเค็นต่อนาทีของลูกค้า GPT‑4 แบบชำระเงินทั้งหมดเพิ่มขึ้น 2 เท่า
- สามารถตรวจสอบ rate limit ใหม่ได้ในหน้า rate limit
- มีการเปิดเผย usage tiers ที่ใช้กำหนดการเพิ่ม rate limit อัตโนมัติ
- สามารถขอเพิ่มขีดจำกัดการใช้งานได้ในการตั้งค่าบัญชี
Copyright Shield และการเปิดตัวโอเพนซอร์ส
- Copyright Shield เป็นระบบที่ OpenAI จะเข้าช่วยป้องกันและรับผิดชอบค่าใช้จ่ายที่เกิดขึ้น หากลูกค้าได้รับการเรียกร้องทางกฎหมายเกี่ยวกับการละเมิดลิขสิทธิ์
- ครอบคลุม ChatGPT Enterprise และฟีเจอร์ที่ให้บริการทั่วไปของแพลตฟอร์มนักพัฒนา
- OpenAI ยืนยันจุดยืนว่าจะปกป้องลูกค้าด้วยกลไกคุ้มครองลิขสิทธิ์ที่ฝังอยู่ในระบบ
- Whisper large-v3 ถูกเปิดเผยต่อสาธารณะ
- เป็นเวอร์ชันถัดไปของโมเดลรู้จำเสียงพูดอัตโนมัติ ASR แบบโอเพนซอร์สของ OpenAI
- ประสิทธิภาพดีขึ้นในหลายภาษา
- OpenAI มีแผนรองรับ Whisper v3 ใน API ในอนาคตอันใกล้
- Consistency Decoder ก็ถูกเปิดเป็นโอเพนซอร์สด้วย
- เป็น drop-in replacement สำหรับ Stable Diffusion VAE decoder
- ปรับปรุงภาพทั้งหมดที่เข้ากันได้กับ Stable Diffusion 1.0+ VAE
- ให้การปรับปรุงอย่างมากกับข้อความ ใบหน้า และเส้นตรง
1 ความคิดเห็น
ความคิดเห็นจาก Hacker News
ผลิตภัณฑ์ส่วนใหญ่ที่ประกาศออกมาและ การลดราคา ดูเหมือนจะมุ่งไปทางเพิ่มการผูกติดกับแพลตฟอร์ม OpenAI API มากกว่า ซึ่งก็ไม่น่าแปลกใจในสถานการณ์ที่การแข่งขันรุนแรงขึ้น
โดยเฉพาะเดโม GPTs/GPT Agents และ Assistants ดูเหมือน กล่องดำซ้อนอยู่ในกล่องดำ ที่ย้ายไปที่อื่นไม่ได้
ความเห็นต่อการประกาศนี้ค่อนข้างปะปนกัน และคงต้องดูรายละเอียดในเอกสาร API ที่เพิ่งอัปเดตเพิ่มเติม: https://platform.openai.com/docs/api-reference
หน้าราคาก็อัปเดตแล้วเช่นกัน: https://openai.com/pricing
โดยเฉพาะ DALL-E 3 API ราคา $0.04 ต่อภาพ ซึ่งแพงกว่าบริการอื่นในสายนี้ประมาณหนึ่งหลัก
จุดที่น่าสนใจในโครงสร้างราคาใหม่ซึ่งไม่ได้กล่าวถึงในคีย์โน้ตคือ ChatGPT 3.5 ที่ผ่านการปรับจูนละเอียดตอนนี้ลดลงมาเหลือ 3 เท่าของค่าใช้จ่าย ChatGPT 3.5 พื้นฐานแล้ว จากเดิม 8 เท่า ทำให้ การปรับจูนละเอียด กลายเป็นตัวเลือกที่น่าเชื่อถือขึ้น
จากที่ลองสืบดูเอง ชุดใช้งานแบบ end-to-end ที่สมจริงที่สุดสำหรับการเป็นเจ้าของ LLM ของตัวเองทั้งหมด น่าจะเป็นการเสียบการ์ด 3090 หลายใบลงบนเมนบอร์ดสำหรับผู้บริโภคแล้วเปิดรัน 24/7 ซึ่งมีค่าใช้จ่ายในการดำเนินงานสูง ประสิทธิภาพก็ยังไม่พอ และยังค่อนข้างแพง
ถ้าเพิ่มเงินอีกหน่อยก็ซื้อชุด Apple Silicon 128GB/192GB เพื่อปรับปรุงคุณภาพและค่าใช้จ่ายในการรันได้ แต่ก็ยังช้ากว่าบริการ “Turbo” ของ OpenAI มาก ๆ
เหตุผลใหญ่ที่สุดที่ทำให้ถอยห่างจาก OpenAI คือรู้สึกว่าประสบการณ์แชตได้รับการอุดหนุนมากกว่า API อย่างมาก แต่การประกาศครั้งนี้ดูเหมือนจะลดช่องว่างนั้นลงได้พอสมควร
พูดสั้น ๆ คือ OpenAI กำลังเสนอเงื่อนไขที่น่าดึงดูดเกินกว่าจะมองข้าม และนี่คือ บริการที่มีการอุดหนุนขนาดใหญ่ ต้นทุนการย้ายในภายหลังดูไม่น่าจะเกินประโยชน์ที่ได้ตอนนี้
ถ้าไม่มีข้อกำกับดูแลใหม่ ผมไม่เห็นว่าอะไรจะขวางการย้ายจาก OpenAI ไปที่อย่าง Anthropic นอกจากต้นทุนในการเรียนรู้วิธีใช้ Anthropic ให้มีประสิทธิภาพสำหรับกรณีใช้งานเฉพาะ
OpenAI ก็ไม่ได้มีฟีดส่งออกแยกต่างหากสำหรับดึงข้อมูลออกจากฐานข้อมูลอะไรทำนองนั้น
อินเทอร์เฟซ Threads ใหม่ในหน้าผู้ดูแลของ OpenAI แสดงให้เห็นอย่างชัดเจนว่ามันตีความอินพุตและเอาต์พุตอย่างไร เพื่อพยายามลดผลของความเป็นกล่องดำ
ที่มา: ดู https://platform.openai.com/docs/api-reference/runs/listRunS... จะเห็นได้ชัดเจนว่าเชนเดินผ่านขั้นตอนใดบ้าง มองเห็นได้มากกว่าเดิม
Claude เทศนาเรื่องจริยธรรมแทบจะครั้งเว้นครั้งที่ตอบ ทำให้เสียค่าใช้จ่ายทุกครั้ง และทำให้ไม่ค่อยอยากฝังมันลงในผลิตภัณฑ์
ถ้าในวันที่ 29 พฤศจิกายน 2022 ตาม Wikipedia คือวันก่อน ChatGPT เปิดตัว คุณไม่ได้ติดต่อกับสังคมเลย แล้ววันนี้กลับมาดู คีย์โน้ตของ OpenAI ก็คงรู้สึกเหมือนสติหลุดแน่ ๆ
ความเร็วในการพัฒนาและประโยชน์ใช้สอยของผลิตภัณฑ์เหล่านี้น่าทึ่งจริง ๆ
พอดีตอนนั้นเพิ่งอ่าน The Singularity is Near รอบที่สองจบหมาด ๆ ด้วย
Code Interpreter และการเรียกฟังก์ชันนั้น ถ้าเป็น LLM ระดับสูงที่ทำตามคำสั่งได้ดีพอจนพ่นโทเคนออกมาในรูปแบบที่ parse ได้อย่างเข้มงวด ก็ทำได้อยู่แล้ว แค่เอาเอาต์พุตนั้นใส่ parser แล้วส่งผลลัพธ์กลับเข้า LLM ก็พอ การทำกับ API ออนไลน์อย่าง ChatGPT อาจจะเทอะทะ แต่ก็ทำได้พอสมควร
แชตบอตแบบปรับแต่งเองก็สร้างได้ง่ายมาตั้งแต่ก่อน และบริการสำหรับสร้างอย่าง Poe.com ก็มีอยู่แล้ว
เอาต์พุต JSON ก็แค่ต้องมี AI ที่ให้ความน่าจะเป็นของโทเคนได้และทำตามคำสั่งได้ดี กับตัวตรวจสคีมาที่เลือกโทเคนให้กลายเป็น JSON ตรงตามสคีมา
GPT-4 128k ดูเหมือนปฏิวัติวงการ แต่ Claude 100k ก็มีอยู่แล้ว และการประเมิน LLM โตเป็นกำลังสองตามขนาดบริบท ดังนั้นเป็นไปได้มากว่าพวกเขาคงใช้เทคนิคบางอย่างเพื่อขยายบริบทอยู่ คงไม่ใช่โทเคนแบบ “เต็ม ๆ” หากผมผิดก็ยินดียอมรับ
บริบทขนาดใหญ่มีประโยชน์ แต่ในการเขียนโค้ด หากให้บริบทที่ถูกต้องด้วยวิธีเติมผลลัพธ์ “ไปยังนิยาม” แบบเรียกซ้ำ 2–3 ขั้นสำหรับสัญลักษณ์เฉพาะลงในบริบท บริบท 8k ก็พอทำได้ระดับหนึ่ง
DALL-E 3 ดูเป็นนวัตกรรมที่สุด แต่จากที่ลองใช้ แม้ความสามารถในการจัดองค์ประกอบจะดีกว่า SD มาก ก็ยังมีกรณีที่พังอยู่
โดยรวมแล้ว การประกาศวันนี้ให้ความรู้สึกใกล้เคียงกับ การขัดเกลาและปรับปรุง บนยอดของความก้าวหน้าระดับระเบิดเมื่อปีที่แล้วมากกว่า
ผมคิดว่า “อ้อ กระแสแชตบอตที่ลองใช้ 5 นาทีแล้วก็เลิกอีกแล้วสินะ” แต่ผมคิดผิดสุด ๆ
Whisper V3 ออกแล้ว: https://github.com/openai/whisper/commit/c5d42560760a05584c1...
ดูเหมือนจะเป็น checkpoint ใหม่ของโมเดล large ถ้าโมเดลเล็ก ๆ ได้อัปเดตด้วยก็คงดี แต่ก็น่าจะผสานรวมกับสิ่งที่ใช้ Whisper V2 ได้ง่าย
ผมตั้งใจจะเพิ่มเข้าไปใน AI เสียงบนเครื่องของผมด้วย เลยค่อนข้างตั้งตารอ: https://www.microsoft.com/store/apps/9NC624PBFGB7
ผมคิดว่าเสียงของ ChatGPT น่าจะใช้ Whisper V3 อยู่แล้ว แต่ก็ยังเห็นอาการ hallucination แบบฉบับของ Whisper อย่าง “Thank you for watching!” อยู่ ดูเหมือนเป็นการปรับปรุงแบบค่อยเป็นค่อยไปมากกว่าจะเป็นการเปลี่ยนแปลงระดับปฏิวัติ
ข้อมูลฝึกมีวิดีโอที่มีซับไตเติลจำนวนมาก โดยวิดีโอ/เสียงบางส่วนถูกตัดออกไป แต่ในซับไตเติลยังเหลือคำปิดท้ายไว้เหมือนเดิม เลยสงสัยว่าตอนนี้มันอาจรับรู้ความเงียบเป็นเหมือนคำกล่าวปิดท้ายของรายการทีวีหรือเปล่า
โดยส่วนตัว ผมคิดว่าคอขวดของเสียงตอนนี้คือโครงสร้างพื้นฐานรอบ ๆ มากกว่า เช่น จะตรวจจับจุดเริ่มและจบของการพูดอย่างไร หรือจะรักษาความพร้อมให้ผู้ใช้พูดได้อย่างไรในขณะที่กำลังเล่นเสียงหรือเสียงพูดอยู่
มันเป็นองค์ประกอบที่จำเป็น แต่โดยรวมยังทำงานได้ไม่ดี และจำเป็นต้องมีการผสานรวมฮาร์ดแวร์/ซอฟต์แวร์จริง ๆ
มีประกาศค่อนข้างเยอะโดยรวม ทั้ง บริบท 128,000 โทเคน, Assistants API, โหมด JSON, เกณฑ์ความรู้ถึงเมษายน 2023, GPT-4 Turbo, ราคาที่ถูกลง และ GPTs แบบกำหนดเอง
https://openai.com/pricing
ตอนนี้สามารถจ่าย 2–3 ล้านดอลลาร์เพื่อ pretrain โมเดล gpt-n แบบกำหนดเอง ได้แล้ว [1] เรื่องนี้ไม่ค่อยได้รับความสนใจมากนัก แต่ดูเจ๋งทีเดียว
ถ้า startup มีเงินระดับนั้นให้ใช้ ก็น่าจะให้ความได้เปรียบในการแข่งขันได้แน่นอน
[1] https://openai.com/form/custom-models
ลืมใส่ลิงก์ เลยเพิ่มเข้ามา
แม้จะราว 3 ล้านดอลลาร์ ก็น่าจะเป็นตัวเลือกที่น่าสนใจ
แต่ถ้าเป็น คนกลางของ OpenAI ที่ pretrain โมเดล gpt-n ให้ลูกค้ารายอื่น ผมไม่เข้าใจว่าทำไมถึงคิดว่า OpenAI จะไม่ข้ามคุณไปในที่สุด
ลองดู startup ที่สร้างอยู่บน API และแพลตฟอร์มต่าง ๆ ได้เลย สำหรับทุกกรณีสำเร็จหนึ่งราย มีสุสานที่เต็มไปด้วยรายที่ตายเพราะการเปลี่ยนกฎของ API และแพลตฟอร์ม
สำหรับคนที่ไม่เชื่อในคอมเมนต์นี้ ช้างตัวใหญ่ในห้องที่ทุกคนไม่อยากยอมรับคือ GPT-4 ยังดีกว่าสิ่งอื่นทั้งหมดมาก
โดยเฉลี่ยอาจจะดีกว่า แต่ผมไม่คิดว่ามันดีกว่าสำหรับทุกงาน
โมเดลอื่น ๆ ก็จะดีขึ้นต่อไปเรื่อย ๆ
การฝึกแบบ crowdsourcing ยังเป็นไปไม่ได้อยู่หรือเปล่า?
ผมจำได้ว่าโลกของ diffusion model เคลื่อนไหวเร็วแค่ไหนในปีแรก แต่ถ้าเทียบกับ Midjourney แล้วตามด้วย DALL-E 3 ก็ดูเหมือนจะชะงักไปบ้าง โมเดลข้อความก็อยู่ในสถานการณ์เดียวกันหรือเปล่า?
playbook ที่ OpenAI ทำตามคล้ายกับ AWS เริ่มจากความสามารถดิบ ๆ อย่างการสร้างข้อความและการสร้างภาพ สร้างฐานเหมือน EC2, S3, RDS แล้วค่อยวางบริการมูลค่าเพิ่มอย่าง Assistants API ไว้บนชั้นนั้น
ในแง่นี้นำหน้า AWS และคู่แข่งรายอื่น ๆ ไปไกลมาก
AWS แทบไม่มีคู่แข่งอยู่ถึง 7 ปี และคลาวด์รายใหญ่รายอื่น ๆ ในปัจจุบันต่างก็เอาแต่หลีกเลี่ยงความจริงกันอยู่
OpenAI มีคู่แข่งอยู่มากแล้ว ตอนนี้คู่แข่งอาจอยู่ต่ำกว่าในตารางจัดอันดับ แต่ไม่ใช่สถานการณ์ที่พวกเขาเมินสาขานี้มาหลายปีแล้วค่อยไล่ตามทีหลัง
จากประสบการณ์ที่เคยใช้เครื่องมือแบบนี้ มันช่วยเรื่อง การบำรุงรักษาโค้ดเบส ด้วยหรือเปล่า? ไม่ว่าจะช่วยโดยตรง หรือช่วยทางอ้อมผ่านโค้ดที่อ่านง่ายขึ้นและจัดระเบียบดีขึ้น ก็อยากรู้
เครื่องมือเหล่านี้ดูยอดเยี่ยมมากสำหรับการเขียนโค้ดใหม่ จากประสบการณ์ของผม ปริมาณโค้ดที่นักพัฒนาคนหนึ่งจะบำรุงรักษาได้มีเพดานอยู่ สุดท้ายก็ไม่สามารถเก็บทุกอย่างไว้ในหัวได้ และต้องหยุดเพื่อทำความเข้าใจอะไรบางอย่าง ทำให้การบำรุงรักษายากขึ้น
ผมสงสัยว่า ถ้าเครื่องมือแบบนี้ช่วยให้เขียนโค้ดได้มากขึ้นแต่ไม่ได้ช่วยเรื่องการบำรุงรักษา จะเกิดสถานการณ์ที่โค้ดใหม่จำนวนมหาศาลถูกเขียนขึ้นอย่างรวดเร็วมาก แล้วไม่มีใครเข้าใจเนื้อหานั้นอย่างลึกซึ้ง จนทุกอย่างหยุดชะงักหรือไม่
https://github.com/paul-gauthier/aider
มันวิเคราะห์ abstract syntax tree ของโค้ดทั้ง repository เพื่อสร้าง “แผนที่ repository” และใช้สิ่งนี้ช่วยให้ GPT เข้าใจโค้ดเบสที่ใหญ่ขึ้น
ทั้งหมดนี้สร้างด้วย tree-sitter ซึ่งเป็นเครื่องมือเดียวกับที่ขับเคลื่อนการค้นหาและนำทางโค้ดของ GitHub และ IDE ยอดนิยมจำนวนมาก
https://aider.chat/docs/repomap.html
ผู้บริโภคอาจดูออกทันที ส่วนฝั่ง B2B อาจถูกหลอกไปหลายปี ก่อนจะเลิกใช้ในที่สุดแล้วหันไปหาคู่แข่งแบบดั้งเดิมที่คุณภาพสูงกว่า ซึ่งจ้าง talent ระดับ senior
อย่างไรก็ตาม ก็อาจมีโมเดลที่เก่งในการขยายและบำรุงรักษาโค้ดเบสให้สอดคล้องกันออกมาได้ เมื่อดูจากจุดที่เราอยู่ตอนนี้ ก็ไม่ได้ดูเป็นโจทย์ที่เป็นไปไม่ได้ แต่ตามที่ชี้ไว้ ตอนนี้ยังห่างไกลพอสมควร
อย่างแรก ยุคของ software engineer แบบดั้งเดิมอาจจบลง และ ยุคของ debugger อาจมาถึง มนุษย์ที่เป็น debugger จะตั้ง breakpoint ทั้งวันและค้นหา bug ในทะเลโค้ดที่ LLM สร้างขึ้น
อย่างที่สอง การจ้างงานจะเปลี่ยนจากโจทย์ Leetcode ไปเป็น “เปิด debugger แล้วหาว่าโค้ดนี้ผิดตรงไหน”
context ที่ใหญ่ขึ้นหมายความว่าในทางเป็นไปได้สามารถใส่ทั้งโค้ดเบสเข้าไปได้ คนส่วนใหญ่แม้แต่รายละเอียดของโค้ดเบสขนาดเล็กก็ยังเก็บไว้ในหัวได้ยาก
ขั้นต่อไปคือผสานเข้ากับเครื่องมือให้ลึกขึ้น เพื่อรับประกันว่าไม่ว่าจะเปลี่ยนอะไร test ก็ผ่านและโค้ด compile ได้ การเขียน test ก็เป็นหนึ่งในสิ่งที่เครื่องมือนี้ทำได้
ดังนั้น การกู้โค้ดเบส legacy ด้วยความช่วยเหลือของ AI ซึ่งเดิมทีอาจจัดการได้ยากในเชิงเศรษฐกิจ ก็อาจเป็นไปได้
คาดว่าในอีกไม่กี่ปีข้างหน้า productivity ของนักพัฒนาที่มี AI ช่วยจะเพิ่มขึ้นมาก โดยส่วนตัวคิดว่าน่าจะทำงานได้ดีกว่าในภาษาที่มี static type เพราะสำหรับเครื่องมือแล้วมันอนุมานได้ง่ายกว่ามาก
https://ai.stepci.com
“ในอีกไม่กี่สัปดาห์ข้างหน้า เราจะเปิดตัวความสามารถในการคืนค่า log probability ของ output token ที่มีความเป็นไปได้สูงสุดซึ่งสร้างโดย GPT-4 Turbo และ GPT-3.5 Turbo ด้วย ซึ่งจะเป็นประโยชน์ในการสร้างฟีเจอร์อย่าง autocomplete ในประสบการณ์การค้นหา”
เรื่องนี้ค่อนข้างน่าทึ่ง นอกจากการเรียนรู้จาก output ของ GPT-4 เพื่อขโมยความสามารถของโมเดลแล้ว พวกเขาไม่กังวลหรือว่าผู้คนจะทำ logit knowledge distillation กันอย่างจริงจัง?
ทุกคนเคยคิดว่านั่นแหละคือเหตุผลที่ปิดกั้นการเข้าถึง logit ตั้งแต่แรก
“มีความเป็นไปได้สูงสุด” อาจหมายถึง token เพียงไม่กี่ตัวตามตัวอักษร และอาจครอบคลุมเพียงส่วนเล็กมากเมื่อเทียบกับ distribution ทั้งหมด
บางทีการตัดสินนั้นอาจถูกก็ได้