Ollama เปิดตัวแอปใหม่สำหรับ Mac และ Windows
(ollama.com)- Ollama เปิดตัว แอปเดสก์ท็อปใหม่ สำหรับ macOS และ Windows
- ตอนนี้สามารถ ดาวน์โหลดโมเดลและแชต ได้อย่างสะดวกในสภาพแวดล้อมแบบ GUI
- ฟีเจอร์ ลากและวางไฟล์ ช่วยให้โต้ตอบกับข้อความและเอกสาร PDF ได้ง่ายขึ้น
- เมื่อต้องจัดการเอกสารขนาดใหญ่ สามารถเพิ่มการตั้งค่า context length เพื่อวิเคราะห์ข้อมูลที่ยาวขึ้นได้
- บนพื้นฐานของ เอนจินมัลติโหมดใหม่ ของ Ollama สามารถส่งรูปภาพไปยังโมเดลที่รองรับภาพได้ด้วย (เช่น Gemma 3 model ของ Google DeepMind)
- ยังมี ความสามารถด้านการประมวลผลเอกสาร ที่รองรับไฟล์หลากหลายรูปแบบ เช่น ไฟล์โค้ด
- แอปใหม่ของ Ollama สามารถดาวน์โหลดสำหรับ macOS และ Windows ได้ผ่านเว็บไซต์ทางการ
- ผู้ใช้ที่ต้องการเฉพาะเวอร์ชัน CLI สามารถดาวน์โหลดแยกได้จาก GitHub Releases
1 ความคิดเห็น
ความคิดเห็นจาก Hacker News
ช่วงหลังดูเหมือนว่า Ollama กำลังปรับภาพลักษณ์จากที่เคยเน้นนักพัฒนา ไปสู่ผู้ใช้ทั่วไปมากขึ้น โดยมีหน้าเว็บหลักเป็นศูนย์กลาง ลองดูที่ หน้าเว็บ Ollama เมื่อก่อนจะเน้นเวอร์ชัน CLI สำหรับนักพัฒนาเป็นหลัก แต่ตอนนี้แทบไม่ค่อยเห็นพูดถึงแล้ว ถ้าเลื่อนลงไปท้ายบล็อก จะมีแค่ข้อความสั้น ๆ ว่า "เวอร์ชัน CLI สามารถดาวน์โหลดได้จากหน้า GitHub releases ของ Ollama" ไม่ได้จะวิจารณ์อะไร แค่สังเกตเห็นความเปลี่ยนแปลงที่ชัดเจน ที่ผ่านมาเคยลองแอป local LLM มาหลายตัว สองตัวที่ผมชอบคือ LM Studio กับ Msty แอปนี้ก็ตั้งใจว่าจะลองใช้แน่นอน ฟีเจอร์หนึ่งที่ยังเสียดายคือแบบในแอปเดสก์ท็อป ChatGPT ที่มี 'คีย์ลัดถาวร (Alt+Space)' สำหรับเปิดแชตใหม่ได้ทันที และถามคำถามผ่าน UI แบบย่อได้อย่างรวดเร็ว อยากให้แอป local LLM เอาไอเดียนี้ไปใช้กันบ้าง
ผมเป็นผู้ดูแล Ollama ไม่คิดเลยว่าเราได้ละเลยนักพัฒนา พวกเราทุกคนก็เป็นนักพัฒนา และเราสร้าง Ollama ขึ้นมาเพื่อใช้เองโดยตรง แต่ละคนเคยทำ prototype กันหลายแบบ แล้วสุดท้ายทุกคนก็พอใจกับ Ollama เลยหันมาโฟกัสและปรับปรุงมันอย่างจริงจัง Ollama เป็นผลิตภัณฑ์ที่มุ่งเป้านักพัฒนาตั้งแต่ต้นจนจบ และเราก็ยังโฟกัสจุดนี้ต่อไป
อยากรู้ว่าคุณเคยใช้ pygpt.net ไหม แม้อินเทอร์เฟซจะดูเยอะไปหน่อย และชื่ออาจไม่น่าประทับใจนัก แต่เป็นแอปที่ผมพอใจที่สุดเท่าที่เคยใช้มา
ความเปลี่ยนแปลงแบบนี้จริง ๆ แล้วอาจเป็นผลดีต่อนักพัฒนาด้วย ถ้ามีผู้ใช้ติดตั้ง Ollama มากขึ้น ภายหลังก็จะสามารถแจกจ่ายแอปเดสก์ท็อป AI ที่สร้างบน Ollama ได้โดยไม่ต้อง bundle โมเดลแยกต่างหาก แถมไม่มีต้นทุนเพิ่ม จึงอาจให้แพ็กเกจสมัครแบบฟรีหรือราคาถูกกับผู้ใช้ได้ด้วย โมเดล Qwen30B รุ่นล่าสุดก็ทรงพลังมากเช่นกัน ถ้ามีเทมเพลตการติดตั้งที่ตรวจสเปกเครื่องผู้ใช้ เช่น RAM และประสิทธิภาพ CPU/GPU แล้วถ้ายังไม่ได้ติดตั้ง Ollama ก็ช่วยติดตั้งหรือดาวน์โหลดต่อให้อัตโนมัติ น่าจะสะดวกมากขึ้นอีก และถ้ามี API ที่ขอสิทธิ์และติดตั้งโมเดลได้เมื่อยังไม่มีโมเดลติดตั้งอยู่ก็น่าจะดีมาก
ใน HugstonOne มีฟีเจอร์ลักษณะนี้อยู่แล้ว เช่น แท็บใหม่ เป็นต้น นอกจากนี้ก็แปลกใจที่นักพัฒนาจำนวนมากโปรโมตแบบสแปมกันเกินไป Ollama เป็นผู้บุกเบิกในวงการ AI และเป็นแอปที่ยอดเยี่ยม ขอบคุณจากใจจริง
เคยได้ยินชื่อ Msty และลองใช้สั้น ๆ แต่พอกลับไปดูอีกครั้งล่าสุดก็ดูเหมือนว่าฟีเจอร์เยอะมาก ส่วน LM Studio ผมไม่เคยรู้จักมาก่อน แต่ตัวนี้ใช้เชิงพาณิชย์ได้ฟรี (Msty ไม่ได้เป็นแบบนั้น) ถ้าจะใช้เป็นเครื่องมือแนวแชตอินเทอร์เฟซ อยากรู้ว่าทั้งสองแอปมีข้อดีข้อเสียต่างกันอย่างไร
ผมไม่ค่อยเข้าใจทิศทางการเปลี่ยนแปลงของ Ollama รอบนี้ แอปเดสก์ท็อปฝั่ง frontend นี่ตรงข้ามกับเหตุผลที่ผมใช้ Ollama มาตลอดเลย เดิมทีผมใช้มันเป็น local LLM backend และผู้ใช้เก่า ๆ ก็มักจะมี frontend ของตัวเองอยู่แล้ว ไม่ว่าจะหาเอง ทำเอง หรือปรับแต่งจนคุ้นมือแล้ว จริง ๆ ช่วงหลังยังมีกรณีที่โมเดล local ระดับล้ำสมัยเข้ามาช้าด้วย เลยอดสงสัยไม่ได้ว่าเป็นเพราะไปโฟกัส frontend หรือเปล่า จากนี้ผมคงจะลองมองหาทางเลือกอื่นแทน Ollama ที่ไม่ก็มี UI มาในตัวตั้งแต่แรก หรือไม่ก็ยืนหยัดเป็น CLI backend อย่างเดียว ถ้ามีตัวที่ดีกว่านี้ก็คงย้ายแน่ ๆ น่าจะทำแบบนี้ตั้งนานแล้ว หวังว่านี่จะไม่ใช่ก้าวแรกของการที่ Ollama ทิ้งจุดโฟกัสด้าน CLI แล้วกลายเป็นอินเทอร์เฟซ LLM ทั่วไปแบบสมัครสมาชิก
พอลองใช้ Ollama UI แล้วแปลกใจที่ไม่มีตัวเลือกให้เชื่อมต่อกับ Ollama instance ระยะไกล เครื่องที่แรงที่สุดของผมไม่ได้เป็นเครื่องเดียวกับที่ใช้รัน GUI เสมอไป
สามารถเลี่ยงปัญหาโดยใช้ SSH port forwarding (
ssh -L 11434:localhost:11434 user@remote) เพื่อเชื่อมต่อกับ Ollama instance ระยะไกลได้ ถึงอย่างนั้นถ้ามีการรองรับแบบ native ก็น่าจะดีกว่ามากในแอปก็มีฟีเจอร์สำหรับ expose Ollama ออกสู่เครือข่ายอยู่แล้ว ดังนั้นอาจจะรองรับเร็ว ๆ นี้ก็ได้
ลองใช้ Ollama UI บน Windows แล้ว (ก่อนหน้านี้ใช้แต่ CLI)
แค่รองรับข้อความอย่างเดียวยังไม่พอ การแปลงเสียงเป็นข้อความสำหรับเสียงยาวเกิน 30 วินาที การสร้างเสียง และการสร้างภาพ ก็สำคัญมากเช่นกัน ไม่ใช่แค่ภาษาอังกฤษเท่านั้น ตอนนี้การจัดการข้อความกลายเป็นแค่พื้นฐานไปแล้ว
สงสัยว่าทำไมถึงยังไม่รองรับ Linux UI ดูเหมือนจะทำบน Chromium (น่าจะเป็น Electron) ถ้าเป็นแบบนั้นการพอร์ตไป Linux ก็น่าจะง่าย แล้วก็อยากได้ลิงก์ซอร์สด้วย
ถึง Electron จะโฆษณาว่าข้ามแพลตฟอร์มได้ แต่ในความเป็นจริงมันไม่ใช่เรื่องแบบ 'กดปุ่มเดียวแล้วปล่อยเวอร์ชัน Linux ได้เลย' มักมีปัญหาจุกจิกตลอด เช่น เวอร์ชัน glibc หรือการรองรับ GPU
ข้อความทางการของ Ollama คือ “ดาวน์โหลดแอปเวอร์ชันใหม่สำหรับ Mac และ Windows / เวอร์ชัน CLI ดาวน์โหลดแยกได้จาก GitHub” พอดูแล้วก็ไม่ค่อยให้ความรู้สึกว่าเป็นโอเพนซอร์ส แล้วก็ดูเหมือนว่าจะไม่ได้ใช้ Chromium แต่ใช้ system webview เลยอาจเป็นแอป tauri
เห็นว่าทำบน Electron แต่ก็ยังแปลกใจที่โปรโมตสิ่งนี้ว่าเป็น native
นักพัฒนา Linux หรือ power user ใช้ Ollama ผ่าน CLI กันได้อยู่แล้ว แอปสำหรับ Mac และ Windows รอบนี้น่าจะทำมาเพื่อผู้ใช้ทั่วไป
ดูเหมือนว่า Ollama กำลังพยายามเป็นอินเทอร์เฟซมาตรฐานสำหรับบริษัทที่ต้องการแจกจ่าย open model จุดโฟกัสเรื่อง ‘local’ อาจเป็นเพียงผลพลอยได้ ไม่ใช่เป้าหมายระยะยาว ผมมั่นใจว่าอีกไม่นานพวกเขาจะใช้แอปนี้เป็นสะพานไปสู่กลยุทธ์ ‘cloud API ของตัวเอง + open model’
ผมไม่เห็นด้วยอย่างมากกับความเห็นที่ว่า “local” เป็นเรื่องรอง สำหรับองค์กรที่ใช้บริการคลาวด์ไม่ได้ เช่น บริษัทด้านกลาโหม local คือค่าปริยายเลย และนี่คือเหตุผลแท้จริงของการใช้ open model แม้ว่าประสิทธิภาพจะยังไม่สมบูรณ์ก็ตาม
ฝั่งเราก็ใช้ Ollama เพราะข้อมูลห้ามออกนอกเครือข่ายภายในบริษัทเด็ดขาด ถ้ามีคลาวด์เข้ามาเกี่ยวแม้แต่นิดเดียว ฝ่ายกฎหมายก็แตกตื่นทันที เพราะแบบนี้เราเลยรัน Ollama ทั้งบนแล็ปท็อป (M-series แรงมาก) และบนเซิร์ฟเวอร์ intranet ภายใน ช่วงหลัง LM Studio ก็เปลี่ยนมาให้ใช้เชิงพาณิชย์ได้โดยไม่ต้องติดต่อขอราคาแล้ว เลยคิดว่าจะลองพิจารณาด้วย
ถ้าคุณเป็น power user หรือเขียนโค้ดได้ ผมแนะนำให้ทำ UI แชตแบบที่ต้องการใช้เองไปเลย แค่หา OpenAI-compatible endpoint กับ framework สำหรับ chat frontend component มาใช้ ที่เหลือแทบจะง่ายหมด ผมเองก็ใช้ Gemini ช่วย แล้วทำเสร็จแบบลวก ๆ ภายในสัปดาห์เดียว ตอนนี้ใช้ทุกวัน มันยังไม่ถึงขั้น production-ready แต่ข้อดีคือปรับได้ตามใจและเพิ่มฟีเจอร์เองได้เร็ว
นี่มันคอมเมนต์ระดับ “ก็สร้าง Linux เองสิ” ชัด ๆ เลย ไม่ใช่สิ่งที่ใคร ๆ ก็เข้าถึงได้ง่าย
ผมก็เคยทำแบบเดียวกันตอนสำรวจโลก AI·LLM คือสร้างแชตบอตบน Python เอง แล้วต่อมาก็ใช้ [Vercel AI SDK+OpenAI-compatible API endpoint] ด้วย สุดท้ายก็ทำออกมาเป็นผลิตภัณฑ์จริงไปเลย VT.ai - Python, VT Chat
ผมก็ใช้แนวทางเดียวกัน สิ่งที่สำคัญจริง ๆ คือใช้โมเดลอะไร ส่วนที่เหลือแทบเป็นเรื่องรอง ลองดู สคริปต์โอเพนซอร์สที่ผมใช้ (ลิงก์ Show HN) ได้ ทำได้ง่ายเพราะมี ChatGPT และอื่น ๆ ช่วย และผมก็ใช้ทุกวัน อีกไม่นานจะเพิ่ม DDG กับการค้นหา GitHub เข้าไปด้วย
หรือจะใช้ Open WebUI เป็นต้นแบบโดยตรงแล้วปรับแต่งตามใจชอบก็ได้
ตอนนี้กำลังตามหาชาเลนจ์ใหม่คือหาหน้าแชต LLM ที่สมบูรณ์แบบสำหรับตัวเอง เงื่อนไขจำเป็นคือ ต้องรองรับโมเดล local/remote/cloud (OpenAI API compatible) พร้อมกัน และสลับโมเดลหรือยิง query พร้อมกันหลายโมเดลได้ง่าย ความเห็นตอนนี้คือ:
Msty: ชอบที่สุด สามารถ query หลายโมเดลพร้อมกันได้ และดีไซน์สวย ข้อเสียคือไม่โอเพนซอร์ส และบน Linux บางครั้งค้าง
Jan.ai: ยิงหลายโมเดลพร้อมกันไม่ได้
LM Studio: ไม่โอเพนซอร์ส และไม่รองรับโมเดล remote/cloud (ไม่แน่ใจว่ามีปลั๊กอินไหม)
GPT4All: มีปัญหา JSON error เวลาจะใช้โมเดลผ่าน openrouter และต้องสลับโมเดลเองทีละแชตจึงไม่สะดวก ยังไม่ได้ลอง Librechat, Open WebUI, AnythingLLM, koboldcpp ถ้าใครมีตัวแนะนำอื่น ๆ ก็อยากฟัง
ผมชอบ webUI นะ แต่การตั้งค่าแต่ละโมเดลผ่านไฟล์ข้อความในเบราว์เซอร์มันซับซ้อนเกินไป และคู่มือก็ใช้คำศัพท์ชวนงง ส่วน Librechat จะหลุดออกจากระบบเร็วมากจนแทบใช้งานไม่ได้จริง เคยได้ยินว่าถ้าใช้ https จะรักษาสถานะล็อกอินได้ แต่ผมใช้ Tailscale อยู่ เลยลำบากเวลาจะรันหลายบริการบนโฮสต์เดียว
ผมมีแอปที่ทำเองชื่อ dinoki.ai ด้วย รันบนเครื่อง local ให้ความสำคัญกับความเป็นส่วนตัวสูงสุด และบน macOS เขียนแบบ native ด้วย Swift ส่วนบน Windows ใช้ WPF
OpenWebUI อยู่ในระดับคุณภาพที่ผมต้องการ เพราะทำให้คุยกับโมเดลหลากหลายตัวได้ง่าย
ผมใช้ AnythingLLM มาหลายเดือนแล้ว และพอใจมากจริง ๆ มันเก็บชุดโมเดล/พรอมป์ต์ได้เป็นหลาย “workspace” รองรับทั้ง Ollama และ LLM อื่น ๆ ผมรันไว้บน Raspberry Pi ผ่าน Docker แล้วเข้าถึงได้จากทุกที่ผ่าน Tailscale หน้าจอบนมือถือก็ดูดี และถ้าใช้ Raycast Claude extension ด้วย ก็แทบตอบทุกสิ่งที่สงสัยได้หมด
ผมแนะนำให้ลองทำเอง นอกจากจะสนุก ยังได้เรียนรู้เทรนด์ล่าสุดด้วย ผมทำอินเทอร์เฟซของตัวเองไว้ตั้งแต่ปี 2023 แล้วค่อย ๆ เติมฟีเจอร์มาเรื่อย ๆ และล่าสุดก็เชื่อมโมเดล local ผ่าน MLX แล้ว การทำอินเทอร์เฟซง่ายกว่าที่คิด และนักพัฒนาที่ได้ลองทำเองจะได้เรียนรู้อะไรเยอะมาก
ผมเคยลอง Ollama ครั้งหนึ่งเมื่อก่อนแล้วก็ลบทิ้งทันที ถ้าไม่สามารถติดตั้งโมเดลที่ไม่ได้รองรับอย่างเป็นทางการได้ง่าย ๆ มันก็ใช้งานไม่สะดวกสำหรับผม ตั้งแต่นั้นมาก็รู้สึกว่า LM Studio ดีที่สุด