Llama.ttf - ฟอนต์ที่มีความสามารถของ LLM

 (fuglede.github.io)
11 คะแนน โดย GN⁺ 2024-06-24 | 2 ความคิดเห็น | แชร์ทาง WhatsApp
  • Llama.ttf เป็นทั้งไฟล์ฟอนต์และโมเดลภาษาขนาดใหญ่ (LLM) พร้อมเอนจินอนุมานของโมเดลนั้น
  • Harfbuzz ซึ่งเป็นเอนจินจัดรูปอักษรที่ใช้ใน Firefox/Chrome สามารถ "จัดรูป" ข้อความด้วยโค้ดตามอำเภอใจผ่าน Wasm shaper ได้
    • โค้ด "ตามอำเภอใจ" นี้สามารถเป็นเอนจินอนุมาน LLM ทั้งชุดที่มีพารามิเตอร์ที่ฝึกไว้แล้ว เช่น สำหรับเริ่มต้น LLM และใช้สร้างข้อความ
    • ที่นี่ใช้ LLM ชื่อ Llama จึงได้ชื่อว่า llama.ttf
  • กล่าวคือ ในแอปพลิเคชันที่อิง Harfbuzz และเปิดใช้ Wasm สามารถใช้ฟอนต์นี้เพื่อรัน LLM และสร้างข้อความได้
    • ไม่ต้องรอให้ผู้ผลิตเพิ่มฟีเจอร์แบบ "Copilot" เพราะทุกอย่างรันในเครื่องทั้งหมด
    • หากใช้ฟอนต์นี้ คุณยังสามารถคุยกับฟอนต์ได้ด้วย
  • วิธีใช้งาน:
    • ดาวน์โหลดไฟล์ llama.ttf แล้วใช้งานเหมือนฟอนต์อื่นทั่วไป
    • บิลด์ Harfbuzz ด้วย Dwasm=enabled จากนั้นบิลด์ wasm-micro-runtime แล้วเพิ่ม shared library ที่ได้เข้าไปในตัวแปรสภาพแวดล้อม LD_PRELOAD ก่อนรันแอปพลิเคชันที่อิง Harfbuzz เช่น gedit หรือ GIMP
  • ยังมีการแนะนำความพยายามสนุก ๆ อื่น ๆ ที่ใช้ฟอนต์และ LLM ด้วย

ความเห็นของ GN⁺

  • llama.ttf เป็นแนวทางที่แปลกใหม่ในการรัน LLM ผ่านไฟล์ฟอนต์
  • เนื่องจากรันในเครื่อง จึงได้เปรียบทั้งด้านความเป็นส่วนตัวและประสิทธิภาพ
  • ต้องมีความเข้าใจเกี่ยวกับ Harfbuzz และ Wasm จึงอาจค่อนข้างยากสำหรับวิศวกรมือใหม่

บทความที่เกี่ยวข้อง

2 ความคิดเห็น

 
qyurila 2024-06-25

ในเนื้อหาส่วนหัวข้อย่อย Why? ไม่มีเขียนอะไรไว้เลย 🤣
 
GN⁺ 2024-06-24
ความคิดเห็นจาก Hacker News
  • มีความเห็นว่าน่าจะดีถ้ามีรายการทีวีรายสัปดาห์ที่นำเสนอคอนเทนต์แปลกและสนุก
  • แนะนำโปรเจ็กต์ที่ใส่ LLM และเอนจินการให้เหตุผลไว้ในฟอนต์ เหมือนกับการทำ Tetris ให้เป็นฟอนต์ เพื่อให้สามารถสนทนาหรือเขียนข้อความได้
  • โปรเจ็กต์นี้เจ๋งมาก แต่มีการชี้ปัญหาเรื่องขนาดไฟล์ TTF ที่ใหญ่ถึง 280GB และปัญหาความเข้ากันได้กับฟอนต์อื่น
  • แชร์ลิงก์เว็บไซต์ที่ฝังเกมไว้ในฟอนต์
  • อธิบายว่าเอนจิน Harfbuzz มีฟีเจอร์ที่ทำให้สามารถ "จัดรูป" ข้อความได้โดยใช้ Wasm shaper
  • แจ้งว่างานนี้ถูกเก็บเข้า archive แล้ว พร้อมกล่าวขอบคุณ
  • มีความเห็นว่าอยากให้สามารถเดโมได้ง่าย ๆ โดยการ build Harfbuzz และ wasm-micro-runtime แล้วเพิ่มเข้าไปในตัวแปรแวดล้อม LD_PRELOAD
  • ทึ่งที่ไม่เคยจินตนาการถึงอนาคตที่ PDF สามารถสนทนาได้
  • มีความเห็นว่านี่คือสิ่งที่เจ๋งที่สุดที่ได้เห็นในสัปดาห์นี้
  • ถามว่าทำไมฟอนต์ถึงสร้างสตริงเดิมเสมอ และ LLM ไม่ควรต้องสร้าง "การให้เหตุผล" ใหม่หรือไม่
  • มีความเห็นว่าน่าสงสัยว่าฟอนต์จะสามารถสร้างสไตล์ข้อความโดยอัตโนมัติได้หรือไม่