- Kimi K3 เป็นโมเดลระดับ 3T แบบเปิดตัวแรกของโลกที่มี 2.8 ล้านล้านพารามิเตอร์, native vision และคอนเท็กซ์ 1 ล้านโทเคน มุ่งเป้าไปที่งานเขียนโค้ดระยะยาว/งานความรู้/การให้เหตุผล
- ใช้ Kimi Delta Attention/Attention Residuals และ Stable LatentMoE ที่เปิดใช้งานผู้เชี่ยวชาญ 16 จาก 896 ตัว ทำให้ประสิทธิภาพการสเกลโดยรวมสูงกว่า Kimi K2 ประมาณ 2.5 เท่า
- ทำงานระยะยาวโดยมีมนุษย์แทรกแซงน้อยที่สุดในด้านการปรับแต่ง GPU kernel/การพัฒนา compiler/การสร้างเกม 3D/การออกแบบชิป/งานวิจัยวิทยาศาสตร์ และทำผลลัพธ์ที่แข่งขันหรือเหนือกว่าโมเดลปิดในบาง benchmark ด้านโค้ดและ agent
- ใช้งานได้ทันทีผ่าน Kimi.com/Kimi Work/Kimi Code/Kimi API โดยตอนเปิดตัวตั้งค่าเริ่มต้นเป็น ความพยายามในการอนุมานสูงสุด และมีแผนเปิดเผยน้ำหนักโมเดลทั้งหมดภายในวันที่ 27 กรกฎาคม 2026
- ประสิทธิภาพโดยรวมและประสบการณ์ผู้ใช้ยังไม่ถึงระดับ Claude Fable 5 และ GPT 5.6 Sol มีข้อจำกัดคือไวต่อวิธีส่งต่อบันทึกการคิด และอาจตัดสินใจแทนผู้ใช้มากเกินไปในสถานการณ์กำกวม
โมเดลเปิด 2.8 ล้านล้านพารามิเตอร์
- Kimi K3 เป็นโมเดลที่มีประสิทธิภาพสูงสุดในบรรดาโมเดลที่ Kimi เปิดตัว รองรับ 2.8 ล้านล้านพารามิเตอร์/คอนเท็กซ์ 1 ล้านโทเคน/native vision
- ประสิทธิภาพโดยรวมต่ำกว่า Claude Fable 5 และ GPT 5.6 Sol แต่ในการประเมินภายในโดยรวมทำได้เหนือกว่าโมเดลเปรียบเทียบอื่นอย่างสม่ำเสมอ และแสดงผลลัพธ์ระดับ frontier
- ใน 9 เดือนจาก 12 เดือนที่ผ่านมา โมเดลของ Kimi ได้ขยับเพดานขนาดของโมเดลเปิด และ K3 เป็นครั้งแรกที่ไปถึงระดับ 3T
- ให้บริการผ่าน Kimi.com/Kimi Work/Kimi Code/Kimi API
- เวอร์ชันเปิดตัวใช้ความพยายามในการอนุมานสูงสุดเป็นค่าเริ่มต้น และโหมดความพยายามต่ำ/สูงจะเพิ่มในอัปเดตถัดไป
- ผู้ให้บริการ inference และผู้ดูแลโอเพนซอร์สกำลังปรับรายละเอียดทางเทคนิค และจะเปิดเผย น้ำหนักทั้งหมดและรายงานทางเทคนิค ภายในวันที่ 27 กรกฎาคม 2026
โครงสร้าง KDA/AttnRes/Stable LatentMoE
- Kimi Delta Attention(KDA) ให้พื้นฐานสำหรับการขยาย attention อย่างมีประสิทธิภาพในลำดับยาว
- Attention Residuals(AttnRes) ไม่ได้สะสม representation ของแต่ละชั้นอย่างสม่ำเสมอ แต่เลือกดึง representation ที่จำเป็นตามแนวความลึกของโมเดล
- ขยาย sparsity ของ Mixture of Experts โดยในโครงสร้าง Stable LatentMoE จะเปิดใช้งานเพียง 16 จาก 896 ผู้เชี่ยวชาญ
- เมื่อรวมการเปลี่ยนแปลงโครงสร้างกับการปรับปรุงสูตรการฝึก/ข้อมูล ทำให้ประสิทธิภาพการสเกลโดยรวมดีขึ้นประมาณ 2.5 เท่า เมื่อเทียบกับ Kimi K2
- ใช้เทคนิคหลายอย่างเพื่อ routing และ optimization ของโมเดล sparse ขนาดใหญ่
- Quantile Balancing คำนวณการจัดสรรผู้เชี่ยวชาญโดยตรงจาก quantile ของคะแนน router เพื่อตัดการอัปเดตแบบ heuristic และ hyperparameter สมดุลที่อ่อนไหวออกไป
- Per-Head Muon ปรับแต่ง attention head แต่ละตัวอย่างอิสระ เพิ่มความสามารถในการปรับตัวของการฝึกขนาดใหญ่
- Sigmoid Tanh Unit(SiTU) ควบคุมค่า activation และ Gated MLA เพิ่ม selectivity ของ attention
โครงสร้างพื้นฐานการฝึกและการอนุมาน
- ใช้ quantization-aware training ตั้งแต่ขั้น SFT และใช้ น้ำหนัก MXFP4/activation MXFP8 เพื่อความเข้ากันได้กับฮาร์ดแวร์ที่หลากหลาย
- นำวิธีฝึก expert parallel แบบสมดุลเต็มรูปแบบมาใช้ โดยใช้ tensor shape คงที่และตัด host synchronization ในเส้นทางสำคัญ เพื่อไม่ให้ความไม่สมดุลของผู้เชี่ยวชาญลด throughput ใน expert parallel ขนาดใหญ่
- ขณะ inference ต้องใช้พื้นที่สื่อสารแบนด์วิดท์สูงขนาดกว้าง จึงแนะนำโครงแบบ supernode ที่เชื่อมต่อ accelerator 64 ตัวขึ้นไป
- ได้ contribute implementation ให้ชุมชน vLLM เพื่อแก้ปัญหาที่ KDA สร้างต่อ prefix caching เดิม และจะเปิดเผยพร้อมโมเดล
- ด้วย KDA prefill cache ทำให้สามารถให้บริการด้วยราคาโทเคนที่แข่งขันได้ แม้โมเดลขนาดใหญ่และคอนเท็กซ์ยาว
การเขียนโค้ดระยะยาวและฟีดแบ็กเชิงภาพ
- สามารถทำเซสชันวิศวกรรมยาว ๆ ต่อเนื่องโดยมีมนุษย์กำกับน้อยที่สุด สำรวจ repository ขนาดใหญ่ และประสานการใช้เครื่องมือ terminal ได้
- ผสาน software engineering กับ visual reasoning เพื่อปรับปรุงซ้ำในงานพัฒนาเกม/frontend/CAD โดยตรวจสอบ screenshot และผลการรัน
- แปลงภาพและวิดีโอให้เป็นผลงาน interactive ที่รันได้ ด้วยวิธี vision in the loop ที่วนซ้ำระหว่างโค้ดกับหน้าจอจริง
- ในช่วงท้ายของการพัฒนา Kimi K3 รุ่นแรกจัดการงานปรับแต่ง GPU kernel ส่วนใหญ่ของทีม
การปรับแต่ง GPU kernel
- ประเมินโดยให้แต่ละโมเดล profile และแก้ไข kernel AttnRes/KDA/MLA ใน sandbox เดียวกันได้นานสูงสุด 24 ชั่วโมง
- Kimi K3 แข่งขันกับผลลัพธ์ fallback ที่เป็นไปได้ของ Fable 5 และโดยรวมทำผลได้สูงกว่า Opus 4.8/GPT 5.6 Sol/GPT 5.5
-
AttnRes
- ปรับแต่ง implementation FLA Triton ในรูปแบบใช้งานจริงที่มี 96 ชั้น/model dimension 8,192/8,192 โทเคน โดยไม่เปลี่ยนผลลัพธ์เชิงตัวเลข
- ทำงานวนซ้ำ 15 ชั่วโมง ออกแบบอัลกอริทึม kernel แบบ 2 ขั้นใหม่ และ fuse kernel หลายตัว
- ลดเวลา forward และ backward จาก 283.6ms เหลือ 114.4ms
- ประสิทธิภาพสุดท้ายใกล้เคียงกับผลลัพธ์ fallback ที่เป็นไปได้ของ Fable 5 แต่ K3 มีความเร็วการปรับแต่งต่อรอบเร็วกว่า
-
DSA
- ปรับแต่ง DSA kernel บน TileLang ใน setting การฝึกจริงที่ใช้ hyperparameter ที่ align กับ DeepSeek-V3.2 และ sequence 1 ล้านโทเคน
- ลดเวลา end-to-end ลง 55.1% เมื่อเทียบกับ implementation ฐาน เป็นอันดับสองรองจาก Fable 5 ที่ 57.3%
-
MLA-512
- เขียน MLA kernel ตั้งแต่ศูนย์โดยไม่มี kernel ฐาน สำหรับ batch 1/64 heads/8,192 โทเคน/head dimension 512
- ทำได้ 517.8 TFLOPS ใน forward และ backward สูงกว่าครึ่งหนึ่งของค่าสูงสุดเชิงทฤษฎี BF16 บน H200
- เหนือกว่าโมเดลอันดับถัดไปที่ 492.7 TFLOPS
-
KDA บน GPGPU
- ปรับแต่ง implementation FLA Triton KDA บน GPU เอนกประสงค์ของผู้ผลิตทางเลือกที่มี CUDA และ software stack/พฤติกรรมหน่วยความจำต่างกัน
- สร้าง performance model ใหม่ตั้งแต่การ profiling และลดเวลา forward/backward ลง 73.6% จาก implementation ฐาน
- ระบุว่ายังน่าจะมีช่องว่างสำหรับการปรับปรุงเพิ่มเติม
-
ข้อควรระวังในการประเมิน
- Claude Fable 5 ถูกประเมินโดยบุคคลที่สาม และบางผลลัพธ์อาจรวมพฤติกรรม fallback
- เส้นทางการรันบางส่วนของหลายโมเดลใช้การลด precision เล็กน้อยภายในช่วง error เชิงตัวเลขที่อนุญาต
MiniTriton GPU compiler
- Kimi K3 พัฒนาระบบโปรแกรม GPU ขนาดเล็กที่คล้าย Triton ชื่อ MiniTriton ตั้งแต่ศูนย์
- สร้าง intermediate representation ระดับ tile ของตนเองบน MLIR และ implement pipeline สำหรับ optimization pass/PTX code generation/runtime
- ใน roofline benchmark ที่รองรับ ทำประสิทธิภาพได้ใกล้เคียงหรือสูงกว่า Triton และ
torch.compileและในบางงานเหนือกว่า Triton - ฝึก nanoGPT แบบเต็มได้อย่างเสถียร และ loss curve ก็ converge โดยต่างจาก reference implementation เพียงเล็กน้อย
- สร้าง compiler ครบวงจรที่สอดคล้องกันตั้งแต่ DSL frontend ไปจนถึง IR optimization/PTX generation/runtime และเส้นทาง Tensor Core ที่เขียนตั้งแต่ศูนย์ก็แข่งขันกับ stack ที่ปรับแต่งแล้วของ Triton ได้
เกม 3D และการสร้างสรรค์ดิจิทัล
- Kimi K3 สร้างเกมสำรวจ 3D บนเบราว์เซอร์แบบ procedural โดยใช้ Three.js WebGPU และ GPU compute
- สร้าง open world ที่มีป่า/หมู่บ้านกระท่อมไม้/ภูเขาหิมะ/สภาพอากาศไดนามิก และสร้างโมเดลคนขี่กับม้าด้วยเครื่องมือสร้าง asset 3D
- โมเดลคาวบอย/ม้าแบบมี animation และข้อมูลภูมิประเทศใช้ asset ภายนอก
- ดูผลงานได้ที่ 3D Open World
การออกแบบชิปสำหรับโมเดล
- Kimi K3 ออกแบบชิปสำหรับรันโมเดลขนาดเล็กที่ใช้โครงสร้างของตนเองด้วย การทำงานอัตโนมัติต่อเนื่อง 48 ชั่วโมง
- ใช้ไลบรารี Nangate 45nm และเครื่องมือ EDA แบบโอเพนซอร์สในการออกแบบ/ปรับแต่ง/ตรวจสอบ
- ภายในพื้นที่ 4mm² ทำ timing ที่ 100MHz ได้ และตาม simulation บันทึก decoding throughput มากกว่า 8,700 โทเคนต่อวินาที
- มี standard cell 1.46 ล้านตัว/SRAM 0.277MB/INT4 MAC array ที่ fuse dequantization
การ implement งานวิจัยวิทยาศาสตร์เชิงคำนวณ
- เชื่อมวรรณกรรมวิทยาศาสตร์เข้ากับโค้ดที่รันได้ เพื่อ implement/ตรวจสอบ/วิเคราะห์กระบวนการวิจัยเชิงคำนวณที่ซับซ้อน
- ทำงานจำลองความสัมพันธ์สากล I–Love–Q ใน computational astrophysics เสร็จในประมาณ 2 ชั่วโมง โดยเปรียบเทียบว่าเป็นงานที่นักวิจัยชำนาญมักต้องใช้ 1–2 สัปดาห์
- ตรวจทานและ cross-validate บทความวิจัยมากกว่า 20 ฉบับ และ implement pipeline การคำนวณเชิงตัวเลขทั้งหมด
- ประเมิน equation of state มากกว่า 300 รายการ และค้นพบความไม่สอดคล้องระหว่างสูตรที่ตีพิมพ์
- สร้างโค้ด Python มากกว่า 3,000 บรรทัด และ interactive HTML dashboard สำหรับสำรวจผลลัพธ์
งานความรู้และการวิจัยแบบ interactive
- ระบุว่า Kimi K3(max) แสดงการปรับปรุงอย่างสม่ำเสมอใน internal evaluation ที่จัดทำจากปัญหาซ้ำ ๆ ใน workflow ผู้ใช้/agent จริง นอกเหนือจาก public benchmark
-
วิเคราะห์อุตสาหกรรม AI ASIC 42 ปี
- สร้างเว็บไซต์ interactive วิเคราะห์อุตสาหกรรม AI ASIC ตลอด 42 ปี ด้วย การปรับปรุงตนเองแบบ recursive มากกว่า 120 ครั้ง
- ทำ web search/fetch มากกว่า 2,800 ครั้ง และเก็บข้อมูลผ่าน terminal มากกว่า 1,100 ครั้ง
- ใช้เอกสารมากกว่า 11,000 หน้า รวมรายงานรายไตรมาส 87 ฉบับและ PDF ต้นฉบับ 99 รายการ
- แปลงหลักฐานเป็นกราฟแบบกำหนดเอง/แผนภาพ animation/visual narrative แบบ interactive
-
วิจัยอุตสาหกรรมฟิวชันนิวเคลียร์
- สร้างรายงานอุตสาหกรรมรูปแบบ consulting ที่มี timeline/funnel chart/range bar chart/Gantt chart และสไลด์คุณภาพตีพิมพ์
-
วิเคราะห์คลื่นความโน้มถ่วง GWTC-5
- ใช้ sub-agent พร้อมกันมากกว่า 20 ตัว วิเคราะห์ เหตุการณ์คลื่นความโน้มถ่วง 391 เหตุการณ์
- สร้าง visualization ทางวิทยาศาสตร์ 7 รายการ/ตาราง 2 รายการ/การสังเคราะห์วรรณกรรมจากบทความวิจัยมากกว่า 10 ฉบับ
-
งานนำเสนอ
- ใช้สร้าง presentation แบบ infographic เช่น heatmap ที่แก้ไขได้เต็มรูปแบบ และรายงานประจำปี
Widgets และ Dashboard
- เพิ่มฟีเจอร์ Widgets/Dashboard ใน Kimi Work เพื่อทำให้บทสนทนาเป็นภาพมากขึ้นและคงอยู่ต่อเนื่อง
- Widgets สร้างองค์ประกอบ interactive ในแชต และเชื่อมต่อกับข้อมูล local หรือ plugin ภายนอกเพื่ออัปเดตต่อเนื่องได้
- Dashboard เก็บ widget สำคัญไว้ในหน้าจอส่วนตัวหน้าเดียวที่จัดตามหัวข้อ/โปรเจกต์/เป้าหมาย
การตัดต่อวิดีโอ
- ประมวลผลข้อความ/ภาพ/วิดีโอใน native multimodal model เดียว เพื่อทำ motion design/animation/งานตัดต่อวิดีโอ
- สร้างวิดีโอ motion graphic สไตล์ 3Blue1Brown ที่อธิบายโครงสร้างของตนเอง โดยนำเสนอแนวคิดเทคนิคด้วยแผนภาพ animation และ transition บนหน้าจอ
- ตัดต่อวิดีโอ teaser ของตนเองจากคลิปต้นฉบับ 56 คลิป โดยทำการเลือกคลิป/cut ที่ต่อเนื่องของการเคลื่อนไหว/การ sync จังหวะระดับเฟรม/การจัดการเสียง/การแก้ไขหลายรอบ
- เปรียบเทียบว่าวิดีโอสั้นที่มีความหนาแน่นระดับเดียวกันมักใช้เวลา 1–2 วันสำหรับ editor ชำนาญ และ 3–5 วันสำหรับมือใหม่
ผล benchmark หลัก
- ผล Kimi K3 ทั้งหมดวัดด้วย inference effort
max/temperature 1.0/top-p 1.0 และใช้ harness agent ของ KimiCode/Claude Code/Codex ตามแต่ละ benchmark -
การเขียนโค้ด
- DeepSWE 67.5 / Program Bench 77.8 / Terminal Bench 2.1 88.3
- FrontierSWE 81.2 / SWE Marathon 42.0 / PostTrain Bench 36.6
- MLS Bench 48.3 / internal Kimi Code Bench 2.0 72.9
- ทำคะแนนสูงสุดในบรรดาโมเดลที่อยู่ในตารางสำหรับ Program Bench และ SWE Marathon
- Terminal Bench 2.1 ใกล้เคียงกับ 88.8 ของ GPT 5.6 Sol และ FrontierSWE ต่ำกว่า 86.6 ของ Fable 5
-
Agent และ automation งาน
- GDPval-AA v2 1,668 Elo / BrowseComp 91.2 / DeepSearchQA 95.0
- Toolathlon-Verified 73.2 / MCP Atlas 84.2 / Automation Bench 30.8
- Job Bench 52.9 / AA-Briefcase 1,548 Elo / APEX-Agents 37.6
- Office QA Pro 63.3 / SpreadsheetBench 2 34.8 / internal DECK-Bench 73.5
- ทำคะแนนสูงสุดในบรรดาโมเดลที่อยู่ในตารางสำหรับ BrowseComp/DeepSearchQA/Automation Bench/SpreadsheetBench 2
- MCP Atlas ใช้ Gemini 3.1 Pro เป็น judge model ในงานสาธารณะ 500 งาน/จำกัด 100 turn
- AutomationBench ประเมินด้วยงานสาธารณะ 600 งาน
- BrowseComp ใช้ context compression ที่ 300,000 โทเคน และหากใช้คอนเท็กซ์ 1 ล้านโทเคนโดยไม่จัดการ คะแนน K3 คือ 90.4
-
การให้เหตุผลและความรู้
- GPQA-Diamond 93.5 / HLE-Full 43.5 / HLE-Full พร้อมใช้เครื่องมือ 56.0
- GPQA-Diamond ใกล้เคียงกับ 94.1 ของ GPT 5.6 Sol แต่ HLE-Full ต่ำกว่า 53.3 ของ Fable 5 และคะแนนใช้เครื่องมือ 63.0
-
Vision
- MMMU-Pro 81.6, เมื่อใช้ Python 83.4
- CharXiv RQ 84.8, เมื่อใช้ Python 91.3
- MathVision 94.3, เมื่อใช้ Python 97.8
- BabyVision with Python 85.7
- ZeroBench
pass@523.0, เมื่อใช้ Python 41.0 - WorldVQA ForceAnswer 51.0 / OmniDocBench 91.1 / internal PerceptionBench 58.5
- OmniDocBench ทำคะแนน 91.1 ซึ่งสูงสุดในบรรดาโมเดลที่อยู่ในตาราง
- ZeroBench รัน 5 ครั้งตาม official setting และคะแนน multimodal อื่นใช้ค่าเฉลี่ยจากการรัน 3 ครั้ง
- PerceptionBench เป็น benchmark ภายในที่เน้นความสามารถด้าน visual perception ระดับหน่วย
วิธีประเมินและข้อจำกัดในการเปรียบเทียบ
- แต่ละ benchmark ใช้ agent harness และแหล่งคะแนนต่างกัน ทำให้เงื่อนไขสำหรับการเปรียบเทียบตรงระหว่างโมเดลแตกต่างกัน
- ใน DeepSWE คะแนน harness ของ KimiCode คือ 67.5 และใน harness mini-SWE-agent ของ leaderboard ทางการได้ 67.3
- คะแนนโมเดลอื่นใน Terminal Bench 2.1 ใช้ผลที่สูงที่สุดจากหลาย harness
- คะแนน FrontierSWE คำนวณใหม่จากคะแนนดิบด้วยสคริปต์ทางการ และอ้างอิง ณ วันที่ 16 กรกฎาคม 2026
- PostTrain Bench ใช้ค่าเฉลี่ยจากการรันสามครั้ง และหาก Claude Fable 5 ปฏิเสธคำขอตามนโยบาย จะ fallback อัตโนมัติไปเป็น Claude Opus 4.8
- คะแนน GDPval-AA v2 และ AA-Briefcase ใช้ผลจาก Artificial Analysis
วิธีใช้งานและราคา
- Kimi K3 Agents
- ใช้งานได้จากแอป Kimi เวอร์ชันล่าสุดสำหรับ iOS/Android/HarmonyOS หรือ Kimi.com
- Kimi Work
- รองรับใน Kimi Work 3.1.0 ขึ้นไปสำหรับ Windows และ Apple silicon Mac
- Kimi Code
- รันใน terminal แล้วเลือก Kimi K3 ด้วยคำสั่ง
/model
- รันใน terminal แล้วเลือก Kimi K3 ด้วยคำสั่ง
- Kimi API
- model identifier คือ
kimi-k3 - input ที่ cache hit ราคา 0.30 ดอลลาร์ต่อ 1 ล้านโทเคน, input ที่ cache miss ราคา 3 ดอลลาร์ และ output ราคา 15 ดอลลาร์
- ใช้โครงสร้าง inference แบบแยกส่วนของ Mooncake และอัตรา cache hit สำหรับงานเขียนโค้ดของ official API สูงกว่า 90%
- model identifier คือ
- Kimi Enterprise
- ให้ฟีเจอร์ปกป้องข้อมูลองค์กรและจัดการสมาชิก โดยแยกบัญชีส่วนตัวกับบัญชีองค์กรอย่างสมบูรณ์
ข้อจำกัด
- ความไวต่อบันทึกการคิด
- K3 ถูกฝึกด้วยวิธีที่รักษาบันทึกการคิดก่อนหน้าไว้
- หาก agent harness ไม่ส่งต่อเนื้อหาการคิดในอดีตทั้งหมดกลับมา หรือสลับจากเซสชันที่เคยใช้โมเดลอื่นมาเป็น K3 คุณภาพการสร้างอาจแกว่งอย่างมาก
- แนะนำให้ใช้ Kimi Code ที่ตรวจสอบความเข้ากันได้แล้ว และหลีกเลี่ยงการสลับโมเดลกลางเซสชัน
- การลงมือเชิงรุกมากเกินไป
- เนื่องจากฝึกโดยเน้นงานยากที่ใช้เวลายาว เมื่อเจอปัญหาเล็กหรือเจตนาผู้ใช้ที่กำกวม อาจตัดสินใจที่ไม่คาดคิดแทนผู้ใช้
- แอปพลิเคชันที่ต้องจำกัดขอบเขตการกระทำควรใส่ข้อจำกัดที่ชัดเจนขึ้นใน system prompt หรือ
AGENTS.md
- โดยรวมเป็นโมเดลที่แข่งขันได้ แต่ด้านประสบการณ์ผู้ใช้ยังมี ช่องว่างชัดเจนเมื่อเทียบกับ Claude Fable 5 และ GPT 5.6 Sol
1 ความคิดเห็น
ความคิดเห็นจาก Hacker News
ในฐานะ proof of concept ขั้นต้น น่าทึ่งที่ Kimi K3 ออกแบบชิปสำหรับรันโมเดลนาโนที่ใช้สถาปัตยกรรมของตัวเอง
ด้วยการรันแบบอัตโนมัติครั้งเดียว 48 ชั่วโมง ก็ออกแบบ·ปรับแต่ง·ตรวจสอบเสร็จโดยใช้เครื่องมือ EDA โอเพนซอร์สและไลบรารี Nangate 45nm ทั้งยังผ่านไทมิง 100MHz บนพื้นที่ 4mm² และในซิมูเลชันทำ throughput การถอดรหัสได้มากกว่า 8,700 โทเคนต่อวินาที
รวมถึง standard cell 1.46 ล้านตัว, SRAM 0.277MB และอาร์เรย์ INT4 MAC ที่รองรับ fused dequantization แสดงให้เห็นความสามารถในการทำงานระยะยาวแบบ โมเดลสร้างชิปสำหรับโมเดล
หากคิดจะสมัครใช้ Moonshot โดยตรง ควรรู้ไว้ว่า ข้อมูลการใช้งาน API อาจถูกนำไปใช้ในการฝึกได้ด้วย
ระบุชัดเจนว่าสามารถใช้คอนเทนต์ของลูกค้าเพื่อให้บริการ·ดูแลรักษา·ปรับปรุงบริการ รวมถึงการฝึกโมเดล ฯลฯ และหากต้องการจำกัดเรื่องนี้ต้องมีสัญญาองค์กรหรือข้อตกลงเป็นลายลักษณ์อักษรแยกต่างหาก
https://platform.kimi.ai/docs/agreement/modeluse#4-content
ในธุรกิจที่นำทรัพย์สินทางปัญญามาติดการตรวจสอบความปลอดภัยแล้วขายต่อ การถามว่าใช้ข้อมูลการใช้งานไปฝึกหรือไม่นั้นอาจไร้เดียงสาไปด้วยซ้ำ และอย่างน้อยบริษัทจีนก็ดูเปิดเผยกว่าและคืนประโยชน์ให้คอมมูนิตี้มากกว่า
สงสัยว่าได้ทำสัญญาไม่เก็บข้อมูลจริง ๆ หรือเป็นการจัดหมวดผิดของ OpenRouter
ต่อให้บอกว่าไม่ใช้ ก็สงสัยว่าจะมีบริษัทไหนยอมสละโอกาสจริง ๆ ในการแข่งขันที่กำลังพลิกกระดานแบบนี้
วิธีใช้งานและราคาโดยละเอียดดูได้จากเอกสารต่อไปนี้
https://platform.kimi.ai/docs/guide/kimi-k3-quickstart
https://platform.kimi.ai/docs/pricing/chat-k3
รองรับ ความยาวบริบท 1 ล้านโทเคน และสำหรับทุก 1 ล้านโทเคนคิดราคาอินพุต $3·เอาต์พุต $15·แคช $0.3 ซึ่งถือว่าแพงมากสำหรับโมเดลจีนแบบเปิดน้ำหนัก
ราคาแทบจะเท่ากับตระกูล Anthropic Sonnet และใกล้เคียงกับอินพุต $2.5 ของ 5.6 Terra แต่ต้นทุนจริงขึ้นอยู่กับประสิทธิภาพในการอนุมานอย่างมาก
เช่น หาก Sol ราคา $30/1 ล้านโทเคน ใช้โทเคนอนุมาน 10,000 โทเคนในงานหนึ่ง ขณะที่ Kimi K3 ใช้ 50,000 โทเคนในงานเดียวกัน Sol ก็จะคุ้มค่ากว่า
https://mp.weixin.qq.com/s/V4xhEIy8xDXSMDPrPkmUAQ
มีบล็อกภาษาอังกฤษเผยแพร่แล้วด้วย: https://www.kimi.com/blog/kimi-k3
ข้อความเดียวกัน tokenizer ของ Anthropic อาจเข้ารหัสออกมาเป็นโทเคนมากกว่า OpenAI อย่างมาก
มองว่าคู่แข่งจริง ๆ ของ Kimi คือ GLM และ GLM 5.2 มีราคายังไม่ถึงหนึ่งในสาม
ในทางกลับกัน Kimi แสดง กระบวนการอนุมานทั้งหมด ในระดับที่มีความหมาย ทำให้เห็นการอ้อมทางและเปลี่ยนทิศทางแปลก ๆ ได้เอง และดีบักไอเดียได้ละเอียดกว่ามาก
ดูเหมือนจะคืบหน้าไปมากแม้ในหัวข้อเฉพาะส่วนตัวที่ LLM อื่นแก้ไม่ได้ จึงตั้งใจจะทดสอบต่อ
หากเปิดเป็นโอเพนซอร์ส คิดว่าอาจลดลงมาได้ราว $10~12 ต่อ 1 ล้านโทเคน
จากการประเมินของฝั่ง Kimi ระบุว่า K3 มีปัญญาโดยรวมเป็นรอง Claude Fable 5 และ GPT-5.6 Sol และจะเผยแพร่รายงานเทคนิคที่รวมค่าน้ำหนักทั้งหมด รวมถึงสถาปัตยกรรม·การฝึก·การประเมินในเร็ว ๆ นี้
ได้ 1687 คะแนนใน GDPval-AA v2 ตามหลัง Claude Fable 5 Max และ GPT-5.6 Sol Max และสูงกว่า 1600 คะแนนของ Claude Opus 4.8 Max
ใน AA-Briefcase ซึ่งเป็น benchmark ปิดสำหรับงานความรู้ระยะยาว ได้ 1527 คะแนน เป็นรอง Fable 5 Max และนำหน้า 1495 คะแนนของ GPT-5.6 Sol Max จึงดูเหมือนอาจเป็นอีกช่วงเวลาแบบ DeepSeek
ตอนนี้โมเดลเปิดน้ำหนักทุกตัวทำคะแนนได้น่าทึ่ง จึงไม่อาจรู้ภาพรวมจาก benchmark อย่างเดียว และอดสงสัยไม่ได้ว่าข้อมูลประเมินรั่วไปอยู่ในข้อมูลฝึกหรือถูกใส่ไว้โดยตั้งใจ
K3 ถูกกว่า Sol ราว 2 เท่า จึงใกล้เคียงกับความต่างด้านประสิทธิภาพโทเคนและช่วงคลาดเคลื่อนมากกว่า และมองว่าเป็นการต่อยอดเทรนด์เดิมที่โมเดลเปิดไล่ทันแล็บแนวหน้า ไม่ใช่เหตุการณ์ที่เปลี่ยนเทรนด์เองแบบ DeepSeek
ผลลัพธ์ SVG นกกระทุงที่สร้างด้วย OpenRouter API: https://tools.simonwillison.net/markdown-svg-renderer#url=ht...
โมเดลที่ใช้คือ https://openrouter.ai/moonshotai/kimi-k3 โดยอินพุต 95 โทเคนและเอาต์พุต 16,658 โทเคนมีค่าใช้จ่าย 25 เซนต์
https://www.llm-prices.com/#it=95&ot=16658=3&oc=15
ในเอาต์พุตมี 13,241 โทเคนที่เป็นโทเคนการอนุมาน ทำให้เป็นนกกระทุงที่เรนเดอร์ด้วยโมเดลจีนที่แพงที่สุดเท่าที่เคยทำมา
Kimi K3 ขึ้นนำรายชื่อโมเดลเปิดเผยที่ใหญ่ที่สุด ด้วย พารามิเตอร์ 2.8 ล้านล้านตัว
เรียงลำดับคือ Kimi K3 2.8T, DeepSeek-V4-Pro 1.6T (active 49B), Kimi K2.6 ราว 1T (active 32B), GLM-5.2 754B (active 40B), DeepSeek-V3.2 685B, Mistral Large 3 675B
เป็นโมเดลขนาดใหญ่มหาศาล จึงดูเหมือน Moonshot จะต้องใช้เงิน 500 ล้านดอลลาร์ ที่มีข่าวว่าระดมทุนได้เมื่อต้นปีเพื่อดำเนินการโมเดลนี้
สงสัยว่ามีวิธี ทดลองใช้ Kimi K3 โดยไม่ต้องใช้บัญชี Google หรือให้เบอร์โทรศัพท์หรือไม่
บล็อกของ Kimi K3 เผยแพร่แล้ว: https://www.kimi.com/blog/kimi-k3
เป็น โมเดลเปิดเผยพารามิเตอร์ 2.8 ล้านล้านตัว รองรับบริบทความยาว 1 ล้านโทเคนและอินพุตภาพโดยค่าเริ่มต้น และมีกำหนดเผยแพร่รายงานทางเทคนิคกับน้ำหนักภายในวันที่ 27 กรกฎาคม
ตอนเปิดตัวจะตั้งค่าระดับการอนุมานสูงสุดเป็นค่าเริ่มต้น ส่วนโหมดต่ำและสูงจะเพิ่มในการอัปเดตภายหลัง
สงสัยว่ายุคที่จีนตามหลังสหรัฐฯ 6 เดือนสิ้นสุดลงแล้วหรือไม่ และพวกเขาทำผลลัพธ์แบบนี้ได้อย่างไรด้วยทรัพยากรที่น้อยกว่ามาก รู้สึกว่านักวิจัยเก่งมากจริง ๆ
ในการลองครั้งแรก Kimi K3 หา สาเหตุของบั๊ก ที่ Fable 5 หาไม่เจอหลายครั้งได้ทันที
ยังเป็นเพียงกรณีเดียวที่ใช้งานไม่มาก แต่จนถึงตอนนี้ดูมีแววมาก
รู้สึกว่า โควตาของแพ็กเกจ $100 หมดเร็ว พอ ๆ กับแพ็กเกจ $200 ของ Anthropic ที่ใช้ Fable แต่ตัวโมเดลเองยอดเยี่ยม และอาจให้คะแนนสูงกว่า Opus 4.8 ได้
อยากรู้ว่า OpenRouter มีเครื่องมือคล้าย ๆ กันหรือไม่
ตอนนี้บล็อกภาษาอังกฤษเผยแพร่แล้ว จึงน่าจะดีกว่าหาก เปลี่ยน ลิงก์เดิมเป็น https://www.kimi.com/blog/kimi-k3