1 คะแนน โดย GN⁺ 4 시간 전 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • Kimi K3 เป็นโมเดลระดับ 3T แบบเปิดตัวแรกของโลกที่มี 2.8 ล้านล้านพารามิเตอร์, native vision และคอนเท็กซ์ 1 ล้านโทเคน มุ่งเป้าไปที่งานเขียนโค้ดระยะยาว/งานความรู้/การให้เหตุผล
  • ใช้ Kimi Delta Attention/Attention Residuals และ Stable LatentMoE ที่เปิดใช้งานผู้เชี่ยวชาญ 16 จาก 896 ตัว ทำให้ประสิทธิภาพการสเกลโดยรวมสูงกว่า Kimi K2 ประมาณ 2.5 เท่า
  • ทำงานระยะยาวโดยมีมนุษย์แทรกแซงน้อยที่สุดในด้านการปรับแต่ง GPU kernel/การพัฒนา compiler/การสร้างเกม 3D/การออกแบบชิป/งานวิจัยวิทยาศาสตร์ และทำผลลัพธ์ที่แข่งขันหรือเหนือกว่าโมเดลปิดในบาง benchmark ด้านโค้ดและ agent
  • ใช้งานได้ทันทีผ่าน Kimi.com/Kimi Work/Kimi Code/Kimi API โดยตอนเปิดตัวตั้งค่าเริ่มต้นเป็น ความพยายามในการอนุมานสูงสุด และมีแผนเปิดเผยน้ำหนักโมเดลทั้งหมดภายในวันที่ 27 กรกฎาคม 2026
  • ประสิทธิภาพโดยรวมและประสบการณ์ผู้ใช้ยังไม่ถึงระดับ Claude Fable 5 และ GPT 5.6 Sol มีข้อจำกัดคือไวต่อวิธีส่งต่อบันทึกการคิด และอาจตัดสินใจแทนผู้ใช้มากเกินไปในสถานการณ์กำกวม

โมเดลเปิด 2.8 ล้านล้านพารามิเตอร์

  • Kimi K3 เป็นโมเดลที่มีประสิทธิภาพสูงสุดในบรรดาโมเดลที่ Kimi เปิดตัว รองรับ 2.8 ล้านล้านพารามิเตอร์/คอนเท็กซ์ 1 ล้านโทเคน/native vision
  • ประสิทธิภาพโดยรวมต่ำกว่า Claude Fable 5 และ GPT 5.6 Sol แต่ในการประเมินภายในโดยรวมทำได้เหนือกว่าโมเดลเปรียบเทียบอื่นอย่างสม่ำเสมอ และแสดงผลลัพธ์ระดับ frontier
  • ใน 9 เดือนจาก 12 เดือนที่ผ่านมา โมเดลของ Kimi ได้ขยับเพดานขนาดของโมเดลเปิด และ K3 เป็นครั้งแรกที่ไปถึงระดับ 3T
  • ให้บริการผ่าน Kimi.com/Kimi Work/Kimi Code/Kimi API
  • เวอร์ชันเปิดตัวใช้ความพยายามในการอนุมานสูงสุดเป็นค่าเริ่มต้น และโหมดความพยายามต่ำ/สูงจะเพิ่มในอัปเดตถัดไป
  • ผู้ให้บริการ inference และผู้ดูแลโอเพนซอร์สกำลังปรับรายละเอียดทางเทคนิค และจะเปิดเผย น้ำหนักทั้งหมดและรายงานทางเทคนิค ภายในวันที่ 27 กรกฎาคม 2026

โครงสร้าง KDA/AttnRes/Stable LatentMoE

  • Kimi Delta Attention(KDA) ให้พื้นฐานสำหรับการขยาย attention อย่างมีประสิทธิภาพในลำดับยาว
  • Attention Residuals(AttnRes) ไม่ได้สะสม representation ของแต่ละชั้นอย่างสม่ำเสมอ แต่เลือกดึง representation ที่จำเป็นตามแนวความลึกของโมเดล
  • ขยาย sparsity ของ Mixture of Experts โดยในโครงสร้าง Stable LatentMoE จะเปิดใช้งานเพียง 16 จาก 896 ผู้เชี่ยวชาญ
  • เมื่อรวมการเปลี่ยนแปลงโครงสร้างกับการปรับปรุงสูตรการฝึก/ข้อมูล ทำให้ประสิทธิภาพการสเกลโดยรวมดีขึ้นประมาณ 2.5 เท่า เมื่อเทียบกับ Kimi K2
  • ใช้เทคนิคหลายอย่างเพื่อ routing และ optimization ของโมเดล sparse ขนาดใหญ่
    • Quantile Balancing คำนวณการจัดสรรผู้เชี่ยวชาญโดยตรงจาก quantile ของคะแนน router เพื่อตัดการอัปเดตแบบ heuristic และ hyperparameter สมดุลที่อ่อนไหวออกไป
    • Per-Head Muon ปรับแต่ง attention head แต่ละตัวอย่างอิสระ เพิ่มความสามารถในการปรับตัวของการฝึกขนาดใหญ่
    • Sigmoid Tanh Unit(SiTU) ควบคุมค่า activation และ Gated MLA เพิ่ม selectivity ของ attention

โครงสร้างพื้นฐานการฝึกและการอนุมาน

  • ใช้ quantization-aware training ตั้งแต่ขั้น SFT และใช้ น้ำหนัก MXFP4/activation MXFP8 เพื่อความเข้ากันได้กับฮาร์ดแวร์ที่หลากหลาย
  • นำวิธีฝึก expert parallel แบบสมดุลเต็มรูปแบบมาใช้ โดยใช้ tensor shape คงที่และตัด host synchronization ในเส้นทางสำคัญ เพื่อไม่ให้ความไม่สมดุลของผู้เชี่ยวชาญลด throughput ใน expert parallel ขนาดใหญ่
  • ขณะ inference ต้องใช้พื้นที่สื่อสารแบนด์วิดท์สูงขนาดกว้าง จึงแนะนำโครงแบบ supernode ที่เชื่อมต่อ accelerator 64 ตัวขึ้นไป
  • ได้ contribute implementation ให้ชุมชน vLLM เพื่อแก้ปัญหาที่ KDA สร้างต่อ prefix caching เดิม และจะเปิดเผยพร้อมโมเดล
  • ด้วย KDA prefill cache ทำให้สามารถให้บริการด้วยราคาโทเคนที่แข่งขันได้ แม้โมเดลขนาดใหญ่และคอนเท็กซ์ยาว

การเขียนโค้ดระยะยาวและฟีดแบ็กเชิงภาพ

  • สามารถทำเซสชันวิศวกรรมยาว ๆ ต่อเนื่องโดยมีมนุษย์กำกับน้อยที่สุด สำรวจ repository ขนาดใหญ่ และประสานการใช้เครื่องมือ terminal ได้
  • ผสาน software engineering กับ visual reasoning เพื่อปรับปรุงซ้ำในงานพัฒนาเกม/frontend/CAD โดยตรวจสอบ screenshot และผลการรัน
  • แปลงภาพและวิดีโอให้เป็นผลงาน interactive ที่รันได้ ด้วยวิธี vision in the loop ที่วนซ้ำระหว่างโค้ดกับหน้าจอจริง
  • ในช่วงท้ายของการพัฒนา Kimi K3 รุ่นแรกจัดการงานปรับแต่ง GPU kernel ส่วนใหญ่ของทีม

การปรับแต่ง GPU kernel

  • ประเมินโดยให้แต่ละโมเดล profile และแก้ไข kernel AttnRes/KDA/MLA ใน sandbox เดียวกันได้นานสูงสุด 24 ชั่วโมง
  • Kimi K3 แข่งขันกับผลลัพธ์ fallback ที่เป็นไปได้ของ Fable 5 และโดยรวมทำผลได้สูงกว่า Opus 4.8/GPT 5.6 Sol/GPT 5.5
  • AttnRes

    • ปรับแต่ง implementation FLA Triton ในรูปแบบใช้งานจริงที่มี 96 ชั้น/model dimension 8,192/8,192 โทเคน โดยไม่เปลี่ยนผลลัพธ์เชิงตัวเลข
    • ทำงานวนซ้ำ 15 ชั่วโมง ออกแบบอัลกอริทึม kernel แบบ 2 ขั้นใหม่ และ fuse kernel หลายตัว
    • ลดเวลา forward และ backward จาก 283.6ms เหลือ 114.4ms
    • ประสิทธิภาพสุดท้ายใกล้เคียงกับผลลัพธ์ fallback ที่เป็นไปได้ของ Fable 5 แต่ K3 มีความเร็วการปรับแต่งต่อรอบเร็วกว่า
  • DSA

    • ปรับแต่ง DSA kernel บน TileLang ใน setting การฝึกจริงที่ใช้ hyperparameter ที่ align กับ DeepSeek-V3.2 และ sequence 1 ล้านโทเคน
    • ลดเวลา end-to-end ลง 55.1% เมื่อเทียบกับ implementation ฐาน เป็นอันดับสองรองจาก Fable 5 ที่ 57.3%
  • MLA-512

    • เขียน MLA kernel ตั้งแต่ศูนย์โดยไม่มี kernel ฐาน สำหรับ batch 1/64 heads/8,192 โทเคน/head dimension 512
    • ทำได้ 517.8 TFLOPS ใน forward และ backward สูงกว่าครึ่งหนึ่งของค่าสูงสุดเชิงทฤษฎี BF16 บน H200
    • เหนือกว่าโมเดลอันดับถัดไปที่ 492.7 TFLOPS
  • KDA บน GPGPU

    • ปรับแต่ง implementation FLA Triton KDA บน GPU เอนกประสงค์ของผู้ผลิตทางเลือกที่มี CUDA และ software stack/พฤติกรรมหน่วยความจำต่างกัน
    • สร้าง performance model ใหม่ตั้งแต่การ profiling และลดเวลา forward/backward ลง 73.6% จาก implementation ฐาน
    • ระบุว่ายังน่าจะมีช่องว่างสำหรับการปรับปรุงเพิ่มเติม
  • ข้อควรระวังในการประเมิน

    • Claude Fable 5 ถูกประเมินโดยบุคคลที่สาม และบางผลลัพธ์อาจรวมพฤติกรรม fallback
    • เส้นทางการรันบางส่วนของหลายโมเดลใช้การลด precision เล็กน้อยภายในช่วง error เชิงตัวเลขที่อนุญาต

MiniTriton GPU compiler

  • Kimi K3 พัฒนาระบบโปรแกรม GPU ขนาดเล็กที่คล้าย Triton ชื่อ MiniTriton ตั้งแต่ศูนย์
  • สร้าง intermediate representation ระดับ tile ของตนเองบน MLIR และ implement pipeline สำหรับ optimization pass/PTX code generation/runtime
  • ใน roofline benchmark ที่รองรับ ทำประสิทธิภาพได้ใกล้เคียงหรือสูงกว่า Triton และ torch.compile และในบางงานเหนือกว่า Triton
  • ฝึก nanoGPT แบบเต็มได้อย่างเสถียร และ loss curve ก็ converge โดยต่างจาก reference implementation เพียงเล็กน้อย
  • สร้าง compiler ครบวงจรที่สอดคล้องกันตั้งแต่ DSL frontend ไปจนถึง IR optimization/PTX generation/runtime และเส้นทาง Tensor Core ที่เขียนตั้งแต่ศูนย์ก็แข่งขันกับ stack ที่ปรับแต่งแล้วของ Triton ได้

เกม 3D และการสร้างสรรค์ดิจิทัล

  • Kimi K3 สร้างเกมสำรวจ 3D บนเบราว์เซอร์แบบ procedural โดยใช้ Three.js WebGPU และ GPU compute
  • สร้าง open world ที่มีป่า/หมู่บ้านกระท่อมไม้/ภูเขาหิมะ/สภาพอากาศไดนามิก และสร้างโมเดลคนขี่กับม้าด้วยเครื่องมือสร้าง asset 3D
  • โมเดลคาวบอย/ม้าแบบมี animation และข้อมูลภูมิประเทศใช้ asset ภายนอก
  • ดูผลงานได้ที่ 3D Open World

การออกแบบชิปสำหรับโมเดล

  • Kimi K3 ออกแบบชิปสำหรับรันโมเดลขนาดเล็กที่ใช้โครงสร้างของตนเองด้วย การทำงานอัตโนมัติต่อเนื่อง 48 ชั่วโมง
  • ใช้ไลบรารี Nangate 45nm และเครื่องมือ EDA แบบโอเพนซอร์สในการออกแบบ/ปรับแต่ง/ตรวจสอบ
  • ภายในพื้นที่ 4mm² ทำ timing ที่ 100MHz ได้ และตาม simulation บันทึก decoding throughput มากกว่า 8,700 โทเคนต่อวินาที
  • มี standard cell 1.46 ล้านตัว/SRAM 0.277MB/INT4 MAC array ที่ fuse dequantization

การ implement งานวิจัยวิทยาศาสตร์เชิงคำนวณ

  • เชื่อมวรรณกรรมวิทยาศาสตร์เข้ากับโค้ดที่รันได้ เพื่อ implement/ตรวจสอบ/วิเคราะห์กระบวนการวิจัยเชิงคำนวณที่ซับซ้อน
  • ทำงานจำลองความสัมพันธ์สากล I–Love–Q ใน computational astrophysics เสร็จในประมาณ 2 ชั่วโมง โดยเปรียบเทียบว่าเป็นงานที่นักวิจัยชำนาญมักต้องใช้ 1–2 สัปดาห์
  • ตรวจทานและ cross-validate บทความวิจัยมากกว่า 20 ฉบับ และ implement pipeline การคำนวณเชิงตัวเลขทั้งหมด
  • ประเมิน equation of state มากกว่า 300 รายการ และค้นพบความไม่สอดคล้องระหว่างสูตรที่ตีพิมพ์
  • สร้างโค้ด Python มากกว่า 3,000 บรรทัด และ interactive HTML dashboard สำหรับสำรวจผลลัพธ์

งานความรู้และการวิจัยแบบ interactive

  • ระบุว่า Kimi K3(max) แสดงการปรับปรุงอย่างสม่ำเสมอใน internal evaluation ที่จัดทำจากปัญหาซ้ำ ๆ ใน workflow ผู้ใช้/agent จริง นอกเหนือจาก public benchmark
  • วิเคราะห์อุตสาหกรรม AI ASIC 42 ปี

    • สร้างเว็บไซต์ interactive วิเคราะห์อุตสาหกรรม AI ASIC ตลอด 42 ปี ด้วย การปรับปรุงตนเองแบบ recursive มากกว่า 120 ครั้ง
    • ทำ web search/fetch มากกว่า 2,800 ครั้ง และเก็บข้อมูลผ่าน terminal มากกว่า 1,100 ครั้ง
    • ใช้เอกสารมากกว่า 11,000 หน้า รวมรายงานรายไตรมาส 87 ฉบับและ PDF ต้นฉบับ 99 รายการ
    • แปลงหลักฐานเป็นกราฟแบบกำหนดเอง/แผนภาพ animation/visual narrative แบบ interactive
  • วิจัยอุตสาหกรรมฟิวชันนิวเคลียร์

    • สร้างรายงานอุตสาหกรรมรูปแบบ consulting ที่มี timeline/funnel chart/range bar chart/Gantt chart และสไลด์คุณภาพตีพิมพ์
  • วิเคราะห์คลื่นความโน้มถ่วง GWTC-5

    • ใช้ sub-agent พร้อมกันมากกว่า 20 ตัว วิเคราะห์ เหตุการณ์คลื่นความโน้มถ่วง 391 เหตุการณ์
    • สร้าง visualization ทางวิทยาศาสตร์ 7 รายการ/ตาราง 2 รายการ/การสังเคราะห์วรรณกรรมจากบทความวิจัยมากกว่า 10 ฉบับ
  • งานนำเสนอ

    • ใช้สร้าง presentation แบบ infographic เช่น heatmap ที่แก้ไขได้เต็มรูปแบบ และรายงานประจำปี

Widgets และ Dashboard

  • เพิ่มฟีเจอร์ Widgets/Dashboard ใน Kimi Work เพื่อทำให้บทสนทนาเป็นภาพมากขึ้นและคงอยู่ต่อเนื่อง
  • Widgets สร้างองค์ประกอบ interactive ในแชต และเชื่อมต่อกับข้อมูล local หรือ plugin ภายนอกเพื่ออัปเดตต่อเนื่องได้
  • Dashboard เก็บ widget สำคัญไว้ในหน้าจอส่วนตัวหน้าเดียวที่จัดตามหัวข้อ/โปรเจกต์/เป้าหมาย

การตัดต่อวิดีโอ

  • ประมวลผลข้อความ/ภาพ/วิดีโอใน native multimodal model เดียว เพื่อทำ motion design/animation/งานตัดต่อวิดีโอ
  • สร้างวิดีโอ motion graphic สไตล์ 3Blue1Brown ที่อธิบายโครงสร้างของตนเอง โดยนำเสนอแนวคิดเทคนิคด้วยแผนภาพ animation และ transition บนหน้าจอ
  • ตัดต่อวิดีโอ teaser ของตนเองจากคลิปต้นฉบับ 56 คลิป โดยทำการเลือกคลิป/cut ที่ต่อเนื่องของการเคลื่อนไหว/การ sync จังหวะระดับเฟรม/การจัดการเสียง/การแก้ไขหลายรอบ
  • เปรียบเทียบว่าวิดีโอสั้นที่มีความหนาแน่นระดับเดียวกันมักใช้เวลา 1–2 วันสำหรับ editor ชำนาญ และ 3–5 วันสำหรับมือใหม่

ผล benchmark หลัก

  • ผล Kimi K3 ทั้งหมดวัดด้วย inference effort max/temperature 1.0/top-p 1.0 และใช้ harness agent ของ KimiCode/Claude Code/Codex ตามแต่ละ benchmark
  • การเขียนโค้ด

    • DeepSWE 67.5 / Program Bench 77.8 / Terminal Bench 2.1 88.3
    • FrontierSWE 81.2 / SWE Marathon 42.0 / PostTrain Bench 36.6
    • MLS Bench 48.3 / internal Kimi Code Bench 2.0 72.9
    • ทำคะแนนสูงสุดในบรรดาโมเดลที่อยู่ในตารางสำหรับ Program Bench และ SWE Marathon
    • Terminal Bench 2.1 ใกล้เคียงกับ 88.8 ของ GPT 5.6 Sol และ FrontierSWE ต่ำกว่า 86.6 ของ Fable 5
  • Agent และ automation งาน

    • GDPval-AA v2 1,668 Elo / BrowseComp 91.2 / DeepSearchQA 95.0
    • Toolathlon-Verified 73.2 / MCP Atlas 84.2 / Automation Bench 30.8
    • Job Bench 52.9 / AA-Briefcase 1,548 Elo / APEX-Agents 37.6
    • Office QA Pro 63.3 / SpreadsheetBench 2 34.8 / internal DECK-Bench 73.5
    • ทำคะแนนสูงสุดในบรรดาโมเดลที่อยู่ในตารางสำหรับ BrowseComp/DeepSearchQA/Automation Bench/SpreadsheetBench 2
    • MCP Atlas ใช้ Gemini 3.1 Pro เป็น judge model ในงานสาธารณะ 500 งาน/จำกัด 100 turn
    • AutomationBench ประเมินด้วยงานสาธารณะ 600 งาน
    • BrowseComp ใช้ context compression ที่ 300,000 โทเคน และหากใช้คอนเท็กซ์ 1 ล้านโทเคนโดยไม่จัดการ คะแนน K3 คือ 90.4
  • การให้เหตุผลและความรู้

    • GPQA-Diamond 93.5 / HLE-Full 43.5 / HLE-Full พร้อมใช้เครื่องมือ 56.0
    • GPQA-Diamond ใกล้เคียงกับ 94.1 ของ GPT 5.6 Sol แต่ HLE-Full ต่ำกว่า 53.3 ของ Fable 5 และคะแนนใช้เครื่องมือ 63.0
  • Vision

    • MMMU-Pro 81.6, เมื่อใช้ Python 83.4
    • CharXiv RQ 84.8, เมื่อใช้ Python 91.3
    • MathVision 94.3, เมื่อใช้ Python 97.8
    • BabyVision with Python 85.7
    • ZeroBench pass@5 23.0, เมื่อใช้ Python 41.0
    • WorldVQA ForceAnswer 51.0 / OmniDocBench 91.1 / internal PerceptionBench 58.5
    • OmniDocBench ทำคะแนน 91.1 ซึ่งสูงสุดในบรรดาโมเดลที่อยู่ในตาราง
    • ZeroBench รัน 5 ครั้งตาม official setting และคะแนน multimodal อื่นใช้ค่าเฉลี่ยจากการรัน 3 ครั้ง
    • PerceptionBench เป็น benchmark ภายในที่เน้นความสามารถด้าน visual perception ระดับหน่วย

วิธีประเมินและข้อจำกัดในการเปรียบเทียบ

  • แต่ละ benchmark ใช้ agent harness และแหล่งคะแนนต่างกัน ทำให้เงื่อนไขสำหรับการเปรียบเทียบตรงระหว่างโมเดลแตกต่างกัน
  • ใน DeepSWE คะแนน harness ของ KimiCode คือ 67.5 และใน harness mini-SWE-agent ของ leaderboard ทางการได้ 67.3
  • คะแนนโมเดลอื่นใน Terminal Bench 2.1 ใช้ผลที่สูงที่สุดจากหลาย harness
  • คะแนน FrontierSWE คำนวณใหม่จากคะแนนดิบด้วยสคริปต์ทางการ และอ้างอิง ณ วันที่ 16 กรกฎาคม 2026
  • PostTrain Bench ใช้ค่าเฉลี่ยจากการรันสามครั้ง และหาก Claude Fable 5 ปฏิเสธคำขอตามนโยบาย จะ fallback อัตโนมัติไปเป็น Claude Opus 4.8
  • คะแนน GDPval-AA v2 และ AA-Briefcase ใช้ผลจาก Artificial Analysis

วิธีใช้งานและราคา

  • Kimi K3 Agents
    • ใช้งานได้จากแอป Kimi เวอร์ชันล่าสุดสำหรับ iOS/Android/HarmonyOS หรือ Kimi.com
  • Kimi Work
    • รองรับใน Kimi Work 3.1.0 ขึ้นไปสำหรับ Windows และ Apple silicon Mac
  • Kimi Code
    • รันใน terminal แล้วเลือก Kimi K3 ด้วยคำสั่ง /model
  • Kimi API
    • model identifier คือ kimi-k3
    • input ที่ cache hit ราคา 0.30 ดอลลาร์ต่อ 1 ล้านโทเคน, input ที่ cache miss ราคา 3 ดอลลาร์ และ output ราคา 15 ดอลลาร์
    • ใช้โครงสร้าง inference แบบแยกส่วนของ Mooncake และอัตรา cache hit สำหรับงานเขียนโค้ดของ official API สูงกว่า 90%
  • Kimi Enterprise
    • ให้ฟีเจอร์ปกป้องข้อมูลองค์กรและจัดการสมาชิก โดยแยกบัญชีส่วนตัวกับบัญชีองค์กรอย่างสมบูรณ์

ข้อจำกัด

  • ความไวต่อบันทึกการคิด
    • K3 ถูกฝึกด้วยวิธีที่รักษาบันทึกการคิดก่อนหน้าไว้
    • หาก agent harness ไม่ส่งต่อเนื้อหาการคิดในอดีตทั้งหมดกลับมา หรือสลับจากเซสชันที่เคยใช้โมเดลอื่นมาเป็น K3 คุณภาพการสร้างอาจแกว่งอย่างมาก
    • แนะนำให้ใช้ Kimi Code ที่ตรวจสอบความเข้ากันได้แล้ว และหลีกเลี่ยงการสลับโมเดลกลางเซสชัน
  • การลงมือเชิงรุกมากเกินไป
    • เนื่องจากฝึกโดยเน้นงานยากที่ใช้เวลายาว เมื่อเจอปัญหาเล็กหรือเจตนาผู้ใช้ที่กำกวม อาจตัดสินใจที่ไม่คาดคิดแทนผู้ใช้
    • แอปพลิเคชันที่ต้องจำกัดขอบเขตการกระทำควรใส่ข้อจำกัดที่ชัดเจนขึ้นใน system prompt หรือ AGENTS.md
  • โดยรวมเป็นโมเดลที่แข่งขันได้ แต่ด้านประสบการณ์ผู้ใช้ยังมี ช่องว่างชัดเจนเมื่อเทียบกับ Claude Fable 5 และ GPT 5.6 Sol

1 ความคิดเห็น

 
GN⁺ 4 시간 전
ความคิดเห็นจาก Hacker News
  • ในฐานะ proof of concept ขั้นต้น น่าทึ่งที่ Kimi K3 ออกแบบชิปสำหรับรันโมเดลนาโนที่ใช้สถาปัตยกรรมของตัวเอง
    ด้วยการรันแบบอัตโนมัติครั้งเดียว 48 ชั่วโมง ก็ออกแบบ·ปรับแต่ง·ตรวจสอบเสร็จโดยใช้เครื่องมือ EDA โอเพนซอร์สและไลบรารี Nangate 45nm ทั้งยังผ่านไทมิง 100MHz บนพื้นที่ 4mm² และในซิมูเลชันทำ throughput การถอดรหัสได้มากกว่า 8,700 โทเคนต่อวินาที
    รวมถึง standard cell 1.46 ล้านตัว, SRAM 0.277MB และอาร์เรย์ INT4 MAC ที่รองรับ fused dequantization แสดงให้เห็นความสามารถในการทำงานระยะยาวแบบ โมเดลสร้างชิปสำหรับโมเดล

  • หากคิดจะสมัครใช้ Moonshot โดยตรง ควรรู้ไว้ว่า ข้อมูลการใช้งาน API อาจถูกนำไปใช้ในการฝึกได้ด้วย
    ระบุชัดเจนว่าสามารถใช้คอนเทนต์ของลูกค้าเพื่อให้บริการ·ดูแลรักษา·ปรับปรุงบริการ รวมถึงการฝึกโมเดล ฯลฯ และหากต้องการจำกัดเรื่องนี้ต้องมีสัญญาองค์กรหรือข้อตกลงเป็นลายลักษณ์อักษรแยกต่างหาก
    https://platform.kimi.ai/docs/agreement/modeluse#4-content

    • คิดว่า OpenAI และ Anthropic ก็น่าจะเหมือนกันหรืออาจหนักกว่านั้น
      ในธุรกิจที่นำทรัพย์สินทางปัญญามาติดการตรวจสอบความปลอดภัยแล้วขายต่อ การถามว่าใช้ข้อมูลการใช้งานไปฝึกหรือไม่นั้นอาจไร้เดียงสาไปด้วยซ้ำ และอย่างน้อยบริษัทจีนก็ดูเปิดเผยกว่าและคืนประโยชน์ให้คอมมูนิตี้มากกว่า
    • ไม่ได้เป็นคนหวาดระแวงเกินเหตุ แต่คิดว่าควรตั้งสมมติฐานไว้ไหมว่า แล็บวิจัยทุกแห่งของจีนใช้ข้อมูลไปฝึกโดยไม่เกี่ยวกับเงื่อนไขการใช้งาน
    • OpenRouter จัดผู้ให้บริการ Moonshot เป็น ZDR
      สงสัยว่าได้ทำสัญญาไม่เก็บข้อมูลจริง ๆ หรือเป็นการจัดหมวดผิดของ OpenRouter
    • มองว่าผู้ให้บริการรายอื่น ๆ รวมถึง OpenAI, Anthropic, Google, xAI ก็ใช้ข้อมูลทั้งหมดเช่นกัน
      ต่อให้บอกว่าไม่ใช้ ก็สงสัยว่าจะมีบริษัทไหนยอมสละโอกาสจริง ๆ ในการแข่งขันที่กำลังพลิกกระดานแบบนี้
  • วิธีใช้งานและราคาโดยละเอียดดูได้จากเอกสารต่อไปนี้
    https://platform.kimi.ai/docs/guide/kimi-k3-quickstart
    https://platform.kimi.ai/docs/pricing/chat-k3
    รองรับ ความยาวบริบท 1 ล้านโทเคน และสำหรับทุก 1 ล้านโทเคนคิดราคาอินพุต $3·เอาต์พุต $15·แคช $0.3 ซึ่งถือว่าแพงมากสำหรับโมเดลจีนแบบเปิดน้ำหนัก
    ราคาแทบจะเท่ากับตระกูล Anthropic Sonnet และใกล้เคียงกับอินพุต $2.5 ของ 5.6 Terra แต่ต้นทุนจริงขึ้นอยู่กับประสิทธิภาพในการอนุมานอย่างมาก
    เช่น หาก Sol ราคา $30/1 ล้านโทเคน ใช้โทเคนอนุมาน 10,000 โทเคนในงานหนึ่ง ขณะที่ Kimi K3 ใช้ 50,000 โทเคนในงานเดียวกัน Sol ก็จะคุ้มค่ากว่า

    • ดูจาก benchmark ทางการที่เผยแพร่บนโซเชียลมีเดียจีน โดยรวมอยู่ในระดับ Sol/Fable และดูเหมือนนำหน้า Opus 4.8 อย่างสม่ำเสมอ
      https://mp.weixin.qq.com/s/V4xhEIy8xDXSMDPrPkmUAQ
      มีบล็อกภาษาอังกฤษเผยแพร่แล้วด้วย: https://www.kimi.com/blog/kimi-k3
    • ความต่างของ tokenizer ก็สำคัญ
      ข้อความเดียวกัน tokenizer ของ Anthropic อาจเข้ารหัสออกมาเป็นโทเคนมากกว่า OpenAI อย่างมาก
      มองว่าคู่แข่งจริง ๆ ของ Kimi คือ GLM และ GLM 5.2 มีราคายังไม่ถึงหนึ่งในสาม
    • ตอนสร้างแอปด้วย Fable ที่เปิดตัวใหม่ ประสิทธิภาพยอดเยี่ยม แต่กระบวนการอนุมานทึบสนิท
      ในทางกลับกัน Kimi แสดง กระบวนการอนุมานทั้งหมด ในระดับที่มีความหมาย ทำให้เห็นการอ้อมทางและเปลี่ยนทิศทางแปลก ๆ ได้เอง และดีบักไอเดียได้ละเอียดกว่ามาก
      ดูเหมือนจะคืบหน้าไปมากแม้ในหัวข้อเฉพาะส่วนตัวที่ LLM อื่นแก้ไม่ได้ จึงตั้งใจจะทดสอบต่อ
    • โมเดล 2.8 ล้านล้านพารามิเตอร์ มีต้นทุนการอนุมานสูงในตัวมันเอง แม้คำนึงถึงกำไรแล้วก็ตาม
      หากเปิดเป็นโอเพนซอร์ส คิดว่าอาจลดลงมาได้ราว $10~12 ต่อ 1 ล้านโทเคน
    • เอกสาร quickstart โยน benchmark จริงไปให้บล็อกเทคนิค แต่ในบล็อกนั้นไม่มี K3 และรุ่นสุดท้ายคือ K2.6 ซึ่งเก่ากว่าสองเจเนอเรชัน เลยรู้สึกเหมือนมีอะไรขาดไป
  • จากการประเมินของฝั่ง Kimi ระบุว่า K3 มีปัญญาโดยรวมเป็นรอง Claude Fable 5 และ GPT-5.6 Sol และจะเผยแพร่รายงานเทคนิคที่รวมค่าน้ำหนักทั้งหมด รวมถึงสถาปัตยกรรม·การฝึก·การประเมินในเร็ว ๆ นี้
    ได้ 1687 คะแนนใน GDPval-AA v2 ตามหลัง Claude Fable 5 Max และ GPT-5.6 Sol Max และสูงกว่า 1600 คะแนนของ Claude Opus 4.8 Max
    ใน AA-Briefcase ซึ่งเป็น benchmark ปิดสำหรับงานความรู้ระยะยาว ได้ 1527 คะแนน เป็นรอง Fable 5 Max และนำหน้า 1495 คะแนนของ GPT-5.6 Sol Max จึงดูเหมือนอาจเป็นอีกช่วงเวลาแบบ DeepSeek

    • ถ้าเป็นรองสองโมเดล ก็ควรมองว่า อันดับ 3 ไม่ใช่อันดับ 2
    • GDPval-AA v2 ยังเป็น benchmark ที่ Sonnet 5 สูงกว่า Opus 4.8 Max ด้วย
      ตอนนี้โมเดลเปิดน้ำหนักทุกตัวทำคะแนนได้น่าทึ่ง จึงไม่อาจรู้ภาพรวมจาก benchmark อย่างเดียว และอดสงสัยไม่ได้ว่าข้อมูลประเมินรั่วไปอยู่ในข้อมูลฝึกหรือถูกใส่ไว้โดยตั้งใจ
    • เหตุผลที่ DeepSeek สร้างแรงสั่นสะเทือนคือมัน ถูกกว่าถึง 10 เท่า
      K3 ถูกกว่า Sol ราว 2 เท่า จึงใกล้เคียงกับความต่างด้านประสิทธิภาพโทเคนและช่วงคลาดเคลื่อนมากกว่า และมองว่าเป็นการต่อยอดเทรนด์เดิมที่โมเดลเปิดไล่ทันแล็บแนวหน้า ไม่ใช่เหตุการณ์ที่เปลี่ยนเทรนด์เองแบบ DeepSeek
    • หาหน้าเว็บที่มีวลี “ประสิทธิภาพระดับแนวหน้า” ได้ยาก เลยสงสัยว่าแหล่งที่มาคือที่ไหน
  • ผลลัพธ์ SVG นกกระทุงที่สร้างด้วย OpenRouter API: https://tools.simonwillison.net/markdown-svg-renderer#url=ht...
    โมเดลที่ใช้คือ https://openrouter.ai/moonshotai/kimi-k3 โดยอินพุต 95 โทเคนและเอาต์พุต 16,658 โทเคนมีค่าใช้จ่าย 25 เซนต์
    https://www.llm-prices.com/#it=95&ot=16658⁣=3&oc=15
    ในเอาต์พุตมี 13,241 โทเคนที่เป็นโทเคนการอนุมาน ทำให้เป็นนกกระทุงที่เรนเดอร์ด้วยโมเดลจีนที่แพงที่สุดเท่าที่เคยทำมา

    • ได้สรุปไว้ละเอียดขึ้นในบล็อกด้วยว่า benchmark นกกระทุงยังให้คุณค่าอะไรได้บ้าง: https://simonwillison.net/2026/Jul/16/kimi-k3/
    • ตอนนี้คงไม่น่าแปลกใจแล้วถ้าโมเดลต่าง ๆ กำลังถูก ปรับให้เหมาะกับการเรนเดอร์ SVG นกกระทุง
    • สงสัยว่าคำขอ “สร้าง SVG นกกระทุงที่กำลังขี่จักรยาน” กลายเป็น อินพุต 95 โทเคน ได้อย่างไร
  • Kimi K3 ขึ้นนำรายชื่อโมเดลเปิดเผยที่ใหญ่ที่สุด ด้วย พารามิเตอร์ 2.8 ล้านล้านตัว
    เรียงลำดับคือ Kimi K3 2.8T, DeepSeek-V4-Pro 1.6T (active 49B), Kimi K2.6 ราว 1T (active 32B), GLM-5.2 754B (active 40B), DeepSeek-V3.2 685B, Mistral Large 3 675B
    เป็นโมเดลขนาดใหญ่มหาศาล จึงดูเหมือน Moonshot จะต้องใช้เงิน 500 ล้านดอลลาร์ ที่มีข่าวว่าระดมทุนได้เมื่อต้นปีเพื่อดำเนินการโมเดลนี้

    • ต้องรอดูต่อไปว่าจะเป็นน้ำหนักแบบเปิดเผยจริงหรือไม่ และตอนนี้ยังไม่ทราบแม้กระทั่ง จำนวนพารามิเตอร์ที่ใช้งานอยู่
    • Ling/Ring 1T-A50B และ Inkling 975B-A41B ตัวใหม่ก็น่าจะอยู่ในรายชื่อนี้ได้เช่นกัน
  • สงสัยว่ามีวิธี ทดลองใช้ Kimi K3 โดยไม่ต้องใช้บัญชี Google หรือให้เบอร์โทรศัพท์หรือไม่

  • บล็อกของ Kimi K3 เผยแพร่แล้ว: https://www.kimi.com/blog/kimi-k3
    เป็น โมเดลเปิดเผยพารามิเตอร์ 2.8 ล้านล้านตัว รองรับบริบทความยาว 1 ล้านโทเคนและอินพุตภาพโดยค่าเริ่มต้น และมีกำหนดเผยแพร่รายงานทางเทคนิคกับน้ำหนักภายในวันที่ 27 กรกฎาคม
    ตอนเปิดตัวจะตั้งค่าระดับการอนุมานสูงสุดเป็นค่าเริ่มต้น ส่วนโหมดต่ำและสูงจะเพิ่มในการอัปเดตภายหลัง

    • ตัวเลข benchmark น่าทึ่งมาก
      สงสัยว่ายุคที่จีนตามหลังสหรัฐฯ 6 เดือนสิ้นสุดลงแล้วหรือไม่ และพวกเขาทำผลลัพธ์แบบนี้ได้อย่างไรด้วยทรัพยากรที่น้อยกว่ามาก รู้สึกว่านักวิจัยเก่งมากจริง ๆ
  • ในการลองครั้งแรก Kimi K3 หา สาเหตุของบั๊ก ที่ Fable 5 หาไม่เจอหลายครั้งได้ทันที
    ยังเป็นเพียงกรณีเดียวที่ใช้งานไม่มาก แต่จนถึงตอนนี้ดูมีแววมาก

    • ขีดจำกัดการสมัครสมาชิกค่อนข้างโหด
      รู้สึกว่า โควตาของแพ็กเกจ $100 หมดเร็ว พอ ๆ กับแพ็กเกจ $200 ของ Anthropic ที่ใช้ Fable แต่ตัวโมเดลเองยอดเยี่ยม และอาจให้คะแนนสูงกว่า Opus 4.8 ได้
    • สงสัยว่าจะใช้ Kimi กับ งานแบบ agentic อย่าง Claude Code, ส่วนขยาย Codex สำหรับ VS Code หรือ Codex CLI ที่ใช้คีย์ไบน์ดแบบ Vim ได้อย่างไร
      อยากรู้ว่า OpenRouter มีเครื่องมือคล้าย ๆ กันหรือไม่
  • ตอนนี้บล็อกภาษาอังกฤษเผยแพร่แล้ว จึงน่าจะดีกว่าหาก เปลี่ยน ลิงก์เดิมเป็น https://www.kimi.com/blog/kimi-k3