Llama.ttf - ฟอนต์ที่มีความสามารถของ LLM

• Llama.ttf เป็นทั้งไฟล์ฟอนต์และโมเดลภาษาขนาดใหญ่ (LLM) พร้อมเอนจินอนุมานของโมเดลนั้น
• Harfbuzz ซึ่งเป็นเอนจินจัดรูปอักษรที่ใช้ใน Firefox/Chrome สามารถ "จัดรูป" ข้อความด้วยโค้ดตามอำเภอใจผ่าน Wasm shaper ได้
  • โค้ด "ตามอำเภอใจ" นี้สามารถเป็นเอนจินอนุมาน LLM ทั้งชุดที่มีพารามิเตอร์ที่ฝึกไว้แล้ว เช่น สำหรับเริ่มต้น LLM และใช้สร้างข้อความ
  • ที่นี่ใช้ LLM ชื่อ Llama จึงได้ชื่อว่า llama.ttf
• กล่าวคือ ในแอปพลิเคชันที่อิง Harfbuzz และเปิดใช้ Wasm สามารถใช้ฟอนต์นี้เพื่อรัน LLM และสร้างข้อความได้
  • ไม่ต้องรอให้ผู้ผลิตเพิ่มฟีเจอร์แบบ "Copilot" เพราะทุกอย่างรันในเครื่องทั้งหมด
  • หากใช้ฟอนต์นี้ คุณยังสามารถคุยกับฟอนต์ได้ด้วย
• วิธีใช้งาน:
  • ดาวน์โหลดไฟล์ llama.ttf แล้วใช้งานเหมือนฟอนต์อื่นทั่วไป
  • บิลด์ Harfbuzz ด้วย Dwasm=enabled จากนั้นบิลด์ wasm-micro-runtime แล้วเพิ่ม shared library ที่ได้เข้าไปในตัวแปรสภาพแวดล้อม LD_PRELOAD ก่อนรันแอปพลิเคชันที่อิง Harfbuzz เช่น gedit หรือ GIMP
• ยังมีการแนะนำความพยายามสนุก ๆ อื่น ๆ ที่ใช้ฟอนต์และ LLM ด้วย
  • ภาษา formatting ข้อความสำหรับ LLM ที่ได้แรงบันดาลใจจากเอกสารสปีดรัน Super Metroid ของ tom7
  • งานบรรยายของ Erk เรื่อง ฟอนต์ที่ตั้งโปรแกรมได้ด้วย Harfbuzz-Wasm
  • Fontemon - เกมสไตล์โปเกมอนที่เล่นได้เต็มรูปแบบซึ่งฝังอยู่ในฟอนต์

ความเห็นของ GN⁺

• llama.ttf เป็นแนวทางที่แปลกใหม่ในการรัน LLM ผ่านไฟล์ฟอนต์
• เนื่องจากรันในเครื่อง จึงได้เปรียบทั้งด้านความเป็นส่วนตัวและประสิทธิภาพ
• ต้องมีความเข้าใจเกี่ยวกับ Harfbuzz และ Wasm จึงอาจค่อนข้างยากสำหรับวิศวกรมือใหม่

[qyurila]

ในเนื้อหาส่วนหัวข้อย่อย Why? ไม่มีเขียนอะไรไว้เลย 🤣

[GN⁺]

ความคิดเห็นจาก Hacker News

• มีความเห็นว่าน่าจะดีถ้ามีรายการทีวีรายสัปดาห์ที่นำเสนอคอนเทนต์แปลกและสนุก
• แนะนำโปรเจ็กต์ที่ใส่ LLM และเอนจินการให้เหตุผลไว้ในฟอนต์ เหมือนกับการทำ Tetris ให้เป็นฟอนต์ เพื่อให้สามารถสนทนาหรือเขียนข้อความได้
• โปรเจ็กต์นี้เจ๋งมาก แต่มีการชี้ปัญหาเรื่องขนาดไฟล์ TTF ที่ใหญ่ถึง 280GB และปัญหาความเข้ากันได้กับฟอนต์อื่น
• แชร์ลิงก์เว็บไซต์ที่ฝังเกมไว้ในฟอนต์
• อธิบายว่าเอนจิน Harfbuzz มีฟีเจอร์ที่ทำให้สามารถ "จัดรูป" ข้อความได้โดยใช้ Wasm shaper
• แจ้งว่างานนี้ถูกเก็บเข้า archive แล้ว พร้อมกล่าวขอบคุณ
• มีความเห็นว่าอยากให้สามารถเดโมได้ง่าย ๆ โดยการ build Harfbuzz และ wasm-micro-runtime แล้วเพิ่มเข้าไปในตัวแปรแวดล้อม LD_PRELOAD
• ทึ่งที่ไม่เคยจินตนาการถึงอนาคตที่ PDF สามารถสนทนาได้
• มีความเห็นว่านี่คือสิ่งที่เจ๋งที่สุดที่ได้เห็นในสัปดาห์นี้
• ถามว่าทำไมฟอนต์ถึงสร้างสตริงเดิมเสมอ และ LLM ไม่ควรต้องสร้าง "การให้เหตุผล" ใหม่หรือไม่
• มีความเห็นว่าน่าสงสัยว่าฟอนต์จะสามารถสร้างสไตล์ข้อความโดยอัตโนมัติได้หรือไม่