LM Studio Bionic: AI Agent สำหรับโมเดลเปิด

 (lmstudio.ai)
1 คะแนน โดย GN⁺ 5 시간 전 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • LM Studio Bionic เป็นแอปแยกต่างหากที่ช่วยจัดการงานเขียนโค้ด งานค้นคว้า และงานเอกสารด้วยโมเดลเปิดบนเครื่องหรือบนคลาวด์ ทำให้ควบคุมความเป็นส่วนตัวและค่าใช้จ่ายในการใช้ AI ได้ด้วยตนเอง
  • สามารถรันโมเดลบนอุปกรณ์โดยตรง หรือเชื่อมต่อผ่าน LM Link ได้ และสำหรับงานซับซ้อนสามารถเลือกใช้โมเดลโอเพนซอร์สขนาดใหญ่บน LM Studio Secure Cloud ได้
  • คีย์บอร์ดเสียงใช้โมเดลถอดเสียงแบบเรียลไทม์หลายภาษาของ Mistral AI ชื่อ Voxtral เพื่อแปลงเสียงเป็นข้อความภายในอุปกรณ์ได้จากทุกแอป
  • สำหรับงานโค้ด มีการสำรวจ·แก้ไข·ดีบัก codebase และ inline diff ส่วนงานเอกสารมีการประมวลผลใน sandbox, ค้นเว็บ, checkpoint อัตโนมัติ และพรีวิวในแอป
  • ใช้นโยบาย Zero Data Retention กับผู้ใช้ทุกคน และไม่ใช้ข้อมูลผู้ใช้ในการฝึกโมเดล โดยคำขอบนคลาวด์ก็จะไม่ถูกเก็บหลังประมวลผลเสร็จ

งานเขียนโค้ด·เสียง·เอกสาร

  • Bionic agent มุ่งเน้นงานเขียนโค้ดและงานเอกสาร โดยสามารถเลือกโมเดลและสภาพแวดล้อมประมวลผลที่เหมาะกับแต่ละงานเพื่อควบคุมค่าใช้จ่ายได้

  • คีย์บอร์ดเสียงที่ทำงานภายในอุปกรณ์

    • ถอดเสียงไอเดีย พรอมป์ และการแก้ไขต่าง ๆ ภายในอุปกรณ์ด้วยโมเดลเสียงแบบโลคัล
    • ณ เวลาเปิดตัว มีโมเดลถอดเสียงแบบเรียลไทม์หลายภาษาประสิทธิภาพสูงของ Mistral AI ชื่อ Voxtral ให้ใช้งาน
    • เมื่อเริ่มใช้คีย์บอร์ดเสียงจากแอปใดก็ตาม ผลลัพธ์การถอดเสียงจะถูกป้อนลงที่ตำแหน่งเคอร์เซอร์ปัจจุบัน

  • โปรเจกต์ Code สำหรับจัดการ codebase ในเครื่อง

    • เมื่อเชื่อมต่อโฟลเดอร์ในเครื่องแล้ว สามารถสำรวจ codebase อธิบายโค้ดที่ไม่คุ้นเคย หรือเปลี่ยนแปลง·ดีบักได้
    • สามารถตรวจสอบการเปลี่ยนแปลงโค้ดผ่าน inline diff ได้
    • ใช้การค้นหาโค้ดแบบ agent เพื่อหาไฟล์ที่เกี่ยวข้องและติดตามพฤติกรรมการทำงาน
    • โมเดลที่รองรับรวมถึง GLM 5.2 และ Kimi K2.7 Code

  • โปรเจกต์ Work สำหรับเอกสาร·งานนำเสนอ·สเปรดชีต

    • จัดการเอกสาร, PDF, งานนำเสนอ, สเปรดชีต ฯลฯ หรือสร้างเอกสารใหม่ตั้งแต่ต้น
    • ประมวลผลเอกสารใน สภาพแวดล้อม sandbox เพื่อแยกออกจากส่วนอื่นของคอมพิวเตอร์และไฟล์ต่าง ๆ
    • รองรับการจัดระเบียบไดเรกทอรีในเครื่อง การแก้ไขไฟล์ การสรุปเนื้อหา และการใช้ข้อมูลภายนอกผ่านการค้นเว็บในตัว
    • สามารถตรวจสอบหรือย้อนกลับการเปลี่ยนแปลงได้ด้วย checkpoint อัตโนมัติ และจัดการเอกสารกับเวิร์กโฟลว์ร่วมกันได้ในพรีวิวภายในแอป
    • มีแผนจะขยายขอบเขตการรองรับต่อไปเพื่อให้พรีวิวไฟล์ได้หลากหลายรูปแบบมากขึ้น

การรันโมเดลแบบโลคัล·เชื่อมต่อ·คลาวด์

  • ในแอป Bionic สามารถดาวน์โหลด LLM โลคัลรุ่นล่าสุดเพื่อทำได้ตั้งแต่แชตง่าย ๆ ไปจนถึงงาน agent ขั้นสูง โดยการรันแบบโลคัลอิงกับ LM Studio runtime
  • สามารถเลือกวิธีรันได้สามแบบตามงาน
    • รันโมเดลโลคัลบนอุปกรณ์
    • เชื่อมต่อโมเดลผ่าน LM Link
    • ใช้โมเดลโอเพนซอร์สแนวหน้าขนาดใหญ่บน LM Studio Secure Cloud
  • Secure Cloud มีโมเดลเปิดรุ่นล่าสุดที่แข็งแกร่งในงานเขียนโค้ด การให้เหตุผล การเรียกใช้เครื่องมือ และงานบริบทยาว
    • คำขอบนคลาวด์จะถูกประมวลผลชั่วคราว และไม่ถูกเก็บไว้หลังเสร็จสิ้น
    • ข้อมูลผู้ใช้ Bionic ทั้งหมดอยู่ภายใต้ Zero Data Retention และไม่ถูกใช้ในการฝึกโมเดล

การติดตั้งและเงื่อนไขการใช้งาน

  • LM Studio Bionic เป็นแอปใหม่ที่แยกจาก LM Studio เดิม
    • หากต้องการตั้งค่าขั้นสูงระดับล่าง สามารถใช้ LM Studio เดิมควบคู่กับ Bionic ต่อไปได้
    • หากต้องการใช้โมเดลคลาวด์ ต้องสร้างบัญชี LM Studio และตั้งค่าการชำระเงิน
    • เมื่อเชื่อมต่อโปรเจกต์และเลือกโมเดลแล้ว ก็สามารถเริ่มทำงานด้วย Bionic agent ได้
  • มีแผนจะปรับปรุงประสบการณ์ Bionic อย่างต่อเนื่อง โดยสะท้อนทั้งการพัฒนาประสิทธิภาพของโมเดลเปิดและกรณีการใช้งานจริงในโปรเจกต์ต่าง ๆ

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 5 시간 전
ความคิดเห็นจาก Hacker News

  • ผมคือ Yagil ผู้ก่อตั้ง LM Studio หากต้องการทดลอง GLM 5.2 / Kimi K2.6 / Kimi Coder K2.7 บน Bionic ให้ส่งชื่อผู้ใช้ lmstudio.ai ของคุณไปที่ hn-jul16@lmstudio.ai แล้วผมจะเติมเครดิตให้
    สำหรับงานเขียนโค้ดให้ใช้ในโปรเจกต์ “Code” ส่วนการสร้างและแก้ไขเอกสารให้ใช้ในโปรเจกต์ “Work” โปรเจกต์ Work จะสร้าง checkpoint อัตโนมัติ ทุกครั้งที่เอเจนต์ทำการเปลี่ยนแปลง และอยากฟังฟีดแบ็กหลังใช้งาน

    • เป็นหนึ่งใน เฟรมเวิร์กสำหรับรันเอเจนต์ ที่ดีสำหรับดูขั้นตอนการ reasoning บางครั้งการอ่าน reasoning ก็มีประโยชน์กว่าคำตอบสุดท้าย และชอบที่เปิดเผยอย่างโปร่งใสมากกว่า Claude Code หรือ Codex
      เห็นบอกว่าได้เจรจา การไม่เก็บข้อมูล (ZDR) กับ “ผู้ให้บริการ” แล้ว เลยสงสัยว่า LM Studio โฮสต์โมเดลเองหรือให้บริษัทอื่นโฮสต์ ถ้าเป็นผู้ให้บริการภายนอกก็อยากรู้ว่าเป็นใคร
    • ชอบ LM Studio และคืนนี้ก็จะลอง Bionic ด้วย กำลังรอ แอปเชื่อมต่อ Android อย่างใจจดใจจ่อ จนถึงขั้นอิจฉาผู้ใช้ iPhone
    • สงสัยว่าจะใช้ API key ของ z.ai coding plan ได้ไหม
    • ผมชอบ LM Studio มากจริง ๆ แต่ทิศทางครั้งนี้ที่เน้น คลาวด์และความเชื่อใจ อาจทำให้หลายคนหมดความไว้วางใจได้ เพราะบริษัทต่าง ๆ พูดซ้ำ ๆ มานานแล้วว่า “ไม่เก็บข้อมูล” และ “ไม่ใช้ข้อมูลผู้ใช้ในการฝึกโมเดล” จึงฟังดูเหมือนขอให้เชื่ออีกครั้ง
      ในเว็บไซต์ก็หาที่ตั้งบริษัทไม่เจอ และรู้สึกเหมือนแนวทางแบบอเมริกันที่เห็นมาจนเบื่อตลอด 20 ปีว่า “แค่เชื่อเราเถอะ” กำลังถูกส่งออกมาอีกแล้ว

  • นี่เป็นครั้งแรกที่ลองเฟรมเวิร์กสำหรับรันเอเจนต์บนโมเดลโลคัล แต่เพราะชอบ LM Studio เลยลอง Bionic ทันที ความประทับใจแรกยอดเยี่ยม UI คล้ายกับ Codex ที่ใช้เป็นหลัก จึงคุ้นเคยและเริ่มใช้ง่าย พอชี้ไปยังไลบรารีโมเดลเดิมของ LM Studio แล้วรัน Qwen3.6 35B ก็ได้ผลตามที่คาด
    อย่างไรก็ตามยังเห็นจุดที่ควรปรับปรุง หน้าจอหลักมีเพียงชื่อโปรเจกต์ และไม่ได้แสดงไดเรกทอรีทำงานปัจจุบันให้ชัดเหมือน Codex เมื่อกด Enter ระบบจะแสดง “Working” ขณะโหลดโมเดล แทนที่จะเป็น “Loading model” และยังหาวิธี preload ก่อนส่งคำขอ หรือ unload โมเดลโดยไม่ต้องปิดแอปแบบปุ่ม eject ของ LM Studio ไม่เจอ นอกจากนี้เมื่อกำหนดไดเรกทอรี “GitHub & Projects” ก็เกิดปัญหาสร้างโฟลเดอร์ใหม่ชื่อเดียวกันขึ้นมาด้วย

  • ถ้า Apple มี โมเดลโลคัลและเฟรมเวิร์กการรัน ที่ดีพอ ผู้ใช้ทั่วไปส่วนใหญ่น่าจะใช้ของ Apple กันหมด สุดท้ายแล้ว LLM จะกลายเป็นอีกอินเทอร์เฟซหนึ่งของการคอมพิวติ้งหรือเปล่านะ

    • System Model ของ Apple ค่อนข้างดี แต่ถูกจำกัด context length ไว้ที่ 4K สำหรับยูทิลิตี้ Python เล็ก ๆ ที่จัดการข้อมูลไม่มากก็พอไหว แต่โดยรวมถือเป็นข้อจำกัดที่น่าเสียดาย
      อีกเรื่องคือ Siri ใน iOS เบต้าล่าสุดดีขึ้นจนน่าทึ่ง เมื่อถามว่าใช้โมเดลอะไร มันตอบว่าปัญหายากจะใช้ Gemini ถัดมาคือโมเดล Apple ที่ปลอดภัยบนคลาวด์ และสุดท้ายคือโมเดล Apple แบบโลคัล
    • ผมคิดว่าสำหรับงานส่วนใหญ่ของผู้ใช้ทั่วไป LLM ระดับยุค ChatGPT 3.5 ก็เพียงพอแล้ว ถ้าเพิ่มการเรียกใช้เครื่องมือเข้าไป และฝังโมเดลระดับนั้นไว้ในอุปกรณ์เพื่อใช้งานก่อน ผู้ใช้ AI อาจแบ่งเป็นกลุ่มที่ไม่อยากจ่ายเงิน กับกลุ่มที่ยอมจ่ายแพงเพื่อประสิทธิภาพของโมเดลแนวหน้า
    • คำตอบขึ้นอยู่กับว่าการพัฒนาโมเดลจะชะลอตัวลงมากพอจน โมเดลขนาดสำหรับอุปกรณ์ เทียบกับประสิทธิภาพของโมเดลแนวหน้าได้หรือไม่ ถ้าทำได้ LLM ก็จะกลายเป็นอินเทอร์เฟซใหม่ของการคอมพิวติ้ง แต่ถ้าไม่ได้ก็ยาก
    • เครื่องจักรโครงข่ายประสาท ถูกกำหนดให้เป็นพาราไดม์การคอมพิวติ้งทางเลือกของเครื่องฟอนนอยมันน์มาตั้งแต่แรกอยู่แล้ว ถ้าไม่ใช่เพราะ Minsky มันอาจถึงระดับที่ใช้งานได้เร็วกว่านี้ด้วยซ้ำ จึงสงสัยว่าทำไมถึงพูดเหมือนเป็นการเปลี่ยนแปลงเล็ก ๆ
    • ใน คอมพิวติ้ง 1.0 มนุษย์ต้องเรียนภาษาของคอมพิวเตอร์เพื่อโต้ตอบกับคอมพิวเตอร์ได้อย่างเต็มที่ แต่ในคอมพิวติ้ง 2.0 ก็เหมือนคอมพิวเตอร์เรียนภาษาของมนุษย์แทน

  • สงสัยว่ามีเหตุผลอะไรที่ควรเลือกสิ่งนี้แทนเฟรมเวิร์กสำหรับรันเอเจนต์ตัวอื่น โดยเฉพาะดูเหมือนจะมีจุดแข็งในฐานะ แพ็กเกจสำหรับองค์กร ที่ต้องการควบคุมการใช้โมเดลคลาวด์แนวหน้าเพราะเรื่องต้นทุนและความปลอดภัยของข้อมูล

    • เฟรมเวิร์กการรันที่ ไม่ผูกกับโมเดลใดโมเดลหนึ่ง และไม่ได้เอาโค้ด Python หรือ JavaScript มาปะติดปะต่อแบบลวก ๆ นั้นมีไม่มากอย่างที่คิด ผลิตภัณฑ์ที่หลีกเลี่ยงพฤติกรรมเหลวไหลอย่างการทำให้ context บวมเกินไปหรือบีบอัดเกินไปยิ่งหายาก
      การรันเอเจนต์ Python/JavaScript ที่อาจถูกสร้างด้วย vibe coding นั้นน่ากังวลเกินไปเพราะมี ความเสี่ยงด้านความปลอดภัยและซัพพลายเชน สูง

  • สนุกดีที่ได้ทดสอบว่าโมเดลโลคัลตัวไหนเป็นเอเจนต์ได้ดีกว่า แต่ก็มีข้อจำกัดอยู่บ้าง
    มันถูกตรึงอยู่กับไดเรกทอรีเดียว จึงเข้าถึงทั้งระบบไม่ได้ และไม่มีการค้นเว็บแบบโลคัล แต่ชดเชยได้ด้วย ddg หรือ MCP โลคัล ไม่มี SSH จึงสั่งให้เข้าไปทำงานบนเซิร์ฟเวอร์ไม่ได้ และขั้นตอนการโหลดโมเดลก็ไม่แสดงผล จึงต้องมี progress bar หรือเปอร์เซ็นต์ อยากรู้ด้วยว่าเวลานำเอกสารเข้าไดเรกทอรี Work นอกจากเพิ่มผ่าน “+” แล้วสามารถ ลากแล้ววาง ได้ไหม ปกติในสภาพแวดล้อมโลคัลผมใช้ opencode ร่วมกับ LM Studio อยู่ เลยตั้งตารอพัฒนาการต่อไป

  • เห็นบอกว่าเป็นแอปแยกจาก LM Studio ปกติ แต่หา วิธีดาวน์โหลด ไม่เจอ

    • ซ่อนอยู่ด้านล่างสุดของหน้าอย่างแนบเนียน: https://lmstudio.ai/

  • ดีใจที่เห็น LM Studio ขยายไปสู่ เวิร์กโฟลว์แบบเอเจนต์ ในขณะที่เครื่องมือโมเดลโลคัลพัฒนาดีขึ้นเรื่อย ๆ ตัวเลือกโอเพนซอร์สมีคุณค่ามากสำหรับนักพัฒนาที่ต้องการเก็บข้อมูลไว้เป็นส่วนตัว

  • อยากให้ LM Studio รองรับ ฮาร์ดแวร์ AMD ได้ดีกว่านี้ ต้องการโซลูชันสำเร็จรูปที่ใช้งานบน Radeon ได้ทันทีโดยไม่ต้องตั้งค่าเพิ่มเติมจริง ๆ

  • หนึ่งในเหตุผลที่ย้ายจาก Ollama มา LM Studio คือโมเดลธุรกิจ แต่ตอนนี้กังวลที่ทิศทางกำลังเปลี่ยนไปเป็น “ใช้โมเดลโอเพนซอร์สแนวหน้าขนาดใหญ่ที่สุดผ่าน LM Studio Secure Cloud”

    • Unsloth Studio เป็นโอเพนซอร์สจริง และเมื่อดูโมเดล quantized แล้วก็เชื่อใจ Unsloth มากกว่า LM Studio จึงอยากแนะนำตัวนี้
    • ถ้าพูดให้ยุติธรรม Ollama เองก็ผลักดัน บริการคลาวด์ ของตัวเองอย่างจริงจังพอ ๆ กัน
      โมเดลขนาดใหญ่รุ่นล่าสุดอย่าง Minimax, GLM, Kimi บางครั้งผ่านไปหลายเดือนก็ยังไม่มีเวอร์ชันดาวน์โหลดอย่างเป็นทางการ มีแต่เวอร์ชันคลาวด์เท่านั้น
    • Ollama มีข้อถกเถียงมาตั้งแต่แรก แต่เท่าที่รู้ LM Studio ไม่เคยมีเรื่องแบบนั้น ดังนั้นจึงเชื่อมากกว่าเล็กน้อยว่า LM Studio จะเปลี่ยนผ่านครั้งนี้ได้ค่อนข้างราบรื่น

  • ทั้งแอป LM Studio และ แอป LM Studio Bionic ใหม่ล้วนเป็นซอร์สปิด มีหลายคนไม่รู้ข้อเท็จจริงนี้ จึงควรย้ำเตือน

    • Unsloth Studio เป็นโอเพนซอร์ส และดำเนินการโดย Unsloth ซึ่งทำโมเดล quantized ระดับแนวหน้าของวงการ จึงแนะนำให้ย้ายไปใช้
    • การเป็นซอร์สปิดคือเหตุผลใหญ่ที่สุดที่ทำให้ไม่ค่อยใช้ LM Studio บ่อยนัก หลังจากทดลองโมเดลใหม่หรือเวอร์ชัน quantized แล้วก็โฮสต์เองด้วย llama.cpp
      LM Studio ไม่รองรับฟีเจอร์อย่างอินพุตเสียง และบางครั้งก็มีบั๊กที่ไม่มีใน llama.cpp เพียว ๆ ดังนั้นในบางงานอาจกลายเป็นเสียเปรียบเสียด้วยซ้ำ
    • มี ระบบเอเจนต์โอเพนซอร์ส อยู่มากมายแล้ว และถ้าชอบ UI ทาง OpenCode ก็มีแอปเดสก์ท็อปเบต้า
      โดยเฉพาะเครื่องมือพัฒนาซอร์สปิดที่อาจเปลี่ยนเป็นแบบเสียเงินและจำกัดการเข้าถึงในภายหลัง ผมมองว่าไม่จำเป็น
    • สงสัยว่าใช้เทคสแต็กอะไร และเป็น แอปเนทีฟ หรือไม่ ในฐานะแอปเดสก์ท็อปถือว่าออกแบบมาได้ค่อนข้างดีตามวัตถุประสงค์
    • สงสัยว่าการเป็นซอร์สปิดนั้นเป็น ประเด็นถกเถียง ในตัวเองหรือเปล่า