เปิดตัว Phind-70B - โมเดลที่รันได้เร็วขึ้น 4 เท่า พร้อมลดช่องว่างด้านคุณภาพโค้ดกับ GPT-4 Turbo

 (phind.com)
6 คะแนน โดย GN⁺ 2024-02-23 | 3 ความคิดเห็น | แชร์ทาง WhatsApp
  • ประมวลผลได้สูงสุด 80 โทเคนต่อวินาที (GPT-4 Turbo อยู่ที่ประมาณ 20 โทเคนต่อวินาที)
  • รองรับหน้าต่างโทเคนขนาด 32K
  • ปรับจูนเพิ่มเติมบนฐานโมเดล CodeLlama-70B ด้วยโทเคนเพิ่มอีก 50B
  • ทำได้ 82.3% บน HumanEval สูงกว่า GPT-4 Turbo (gpt-3-0125-preview) ที่ 81%
  • บน CRUXEval ของ Meta ทำได้ 59% ซึ่งยังต่ำกว่า GPT-4 ที่ 62% เล็กน้อย
  • ในด้านการสร้างโค้ด มีความสามารถแทบจะเทียบเท่า GPT-4 Turbo หรือเหนือกว่าในบางงาน
  • "ขี้เกียจ" น้อยกว่า GPT-4 Turbo จึงไม่ลังเลที่จะสร้างตัวอย่างโค้ดแบบละเอียด

บทความที่เกี่ยวข้อง

3 ความคิดเห็น

 
cosine20 2024-02-27

หลังจากรู้จัก Phind ผ่าน GeekNews เมื่อประมาณ 1 ปีก่อน คำถามเรื่องโค้ดแทบทั้งหมดผมก็ถามกับ Phind มาตลอด บางทีก็เห็นมันหลงทางบ้าง แต่ตอนนี้ก็มีเทคนิคแล้ว เลยถามให้มันหลงทางน้อยลงครับ
 
GN⁺ 2024-02-23
ความคิดเห็นจาก Hacker News

  • แชร์ประสบการณ์การใช้ Phind

    • ใช้ Phind แทบทุกวันตลอด 3-4 สัปดาห์ที่ผ่านมา และคุณภาพของโค้ดที่สร้างออกมาดีและรันได้จริง
    • มีความแม่นยำสูงกว่า ChatGPT และชี้แนวทางได้ถูกต้องกว่า
    • ChatGPT ช้าลงในช่วงกว่า 2 เดือนที่ผ่านมา แต่ถ้าใช้เพื่อศึกษาหัวข้อ ChatGPT จะละเอียดและอธิบายมากกว่า

  • ข้อสงสัยต่อการประเมินคุณภาพโค้ด

    • แก้ปัญหาการแยกสตริงด้วย regex ที่ GPT-4 ให้มา และเพิ่ม unit test ที่จำเป็นก่อนคอมมิตได้สำเร็จ
    • โมเดล 70B ไม่สามารถให้คำตอบสำหรับปัญหานี้ได้ แม้จะลองหลายครั้งก็ตาม
    • ทุกครั้งที่ลองใช้โมเดลอื่นที่ไม่ใช่ GPT-4 จะรู้สึกเหมือนเสียเวลา

  • คำแนะนำจากผู้ก่อตั้ง Phind

    • สามารถลองใช้โมเดล Phind-70B ได้ฟรีโดยไม่ต้องล็อกอิน

  • ความประทับใจต่อความเร็วและคุณภาพคำตอบของ Phind

    • ประทับใจกับความเร็วในการตอบ แต่ไม่ได้พอใจกับคุณภาพมากนัก
    • GPT-4 หลังจากลองไม่กี่ครั้งจะพิจารณาและจัดการคำขอแบบ POST ได้ แต่ Phind มักโฟกัสแค่คำขอแบบ GET

  • ความท้าทายสนุก ๆ สำหรับ LLM

    • ทดสอบความสามารถในการแก้ปัญหาด้วยการให้ปริศนาตรรกะพื้นฐานกับ LLM
    • Phind-34B ตอบสนองได้สนุกเป็นพิเศษ และบางครั้งก็ติดลูป

  • เปรียบเทียบประสบการณ์การเขียนปลั๊กอิน Wireshark

    • แชร์ประสบการณ์การเขียนปลั๊กอิน Wireshark โดยเปรียบเทียบ Phind กับ ChatGPT

  • สอบถามความเป็นไปได้ในการเชื่อมต่อ API

    • ถามว่า API ของ Phind สามารถเชื่อมต่อกับ aider.chat ซึ่งปรับแต่งมาเพื่อใช้ GPT-4 สำหรับงานเขียนโค้ดได้หรือไม่

  • แชร์ประสบการณ์การใช้ Phind

    • เป็นผู้ใช้ที่ใช้ Phind มานานกว่าหนึ่งปี และชอบมากกว่า GPT
    • เคยมีปัญหาเรื่องการตอบซ้ำหรือวนลูปหลังจากเธรดคำถามยาว ๆ

  • ปฏิกิริยาของ Phind ต่อการแปลโค้ด

    • ChatGPT 3.5/4 บางครั้งแปลไฟล์ Go ทั้งไฟล์เป็น C# ทั้งหมด แต่ Phind ปฏิเสธการแปลโค้ดทั้งชุด

  • ความเร็วและประสิทธิภาพของ Phind-70B

    • Phind-70B เร็วกว่า GPT-4 Turbo อย่างมาก และทำได้ด้วยการใช้ไลบรารี TensorRT-LLM ของ NVIDIA และ GPU H100