Jan - เฟรมเวิร์กข้ามแพลตฟอร์มสำหรับทางเลือกโอเพนซอร์สแทน ChatGPT
(github.com/janhq)- ทำงานแบบโลคัล 100% และรันได้บนฮาร์ดแวร์ทุกประเภท: ตั้งแต่ NVidia GPU, Apple Silicon ไปจนถึงคลัสเตอร์มัลติ GPU
- เป้าหมายสูงสุดคือช่วยให้ทุกคนสามารถติดตั้ง AI ได้อย่างง่ายดาย
- Jan Framework, Jan Desktop Client + Server, Nitro
- Nitro: เอนจินอนุมานประสิทธิภาพสูงที่เขียนด้วย C++ (3MB)
- Llama.cpp + TensorRT + Whisper.cpp + StableDiffusion
1 ความคิดเห็น
อยากรู้เหมือนกันว่าประสิทธิภาพภาษาเกาหลีเป็นอย่างไรบ้าง