มูลนิธิวิกิมีเดียเปิดตัวส่วนขยาย Chrome แบบทดลอง LLM/RAG 'Citation Needed'

 (chromewebstore.google.com)
1 คะแนน โดย GN⁺ 2024-05-13 | 1 ความคิดเห็น | แชร์ทาง WhatsApp

ส่วนขยาย Chrome ของ Wikipedia Citation Needed

  • ระหว่างการท่องเว็บ ผู้ใช้สามารถเลือกข้อความบางช่วงเพื่อทำการตรวจสอบคำกล่าวอ้างนั้น
  • ใช้ ChatGPT API เพื่อค้นหาบทความที่เกี่ยวข้องใน Wikipedia และอ้างอิงจากบทความนั้น
  • ให้ข้อมูลว่าคำกล่าวอ้างที่เลือกได้รับการสนับสนุนจาก Wikipedia หรือไม่ พร้อมทั้งแสดงสัญญาณคุณภาพของบทความ เช่น วันที่แก้ไขล่าสุดและจำนวนแหล่งอ้างอิง เพื่อช่วยให้ผู้ใช้เข้าใจบริบทของข้อมูลที่ได้รับมากขึ้น รวมถึงข้อมูลที่มาจาก Wikipedia ด้วย

ขอความคิดเห็นจากผู้ใช้

  • ฟีเจอร์นี้เป็นฟีเจอร์ทดลองที่ใช้ generative AI และตระหนักว่าในบางครั้งอาจเกิดข้อผิดพลาดได้
  • เพื่อทำความเข้าใจและปรับปรุงคุณภาพของผลลัพธ์ จึงขอให้ผู้ใช้รายงานปัญหาที่พบผ่านลิงก์ส่งความคิดเห็นในส่วนขยาย
  • ยินดีรับทั้งความคิดเห็นทั่วไปและไอเดียเกี่ยวกับวิธีอื่น ๆ ที่ Wikipedia จะเป็นประโยชน์ต่อการท่องเว็บในชีวิตประจำวันได้

ข้อมูลสำหรับนักพัฒนา

  • ส่วนขยายนี้พัฒนาโดยทีม Future Audiences ของ Wikimedia Foundation ซึ่งเป็นองค์กรไม่แสวงหากำไรที่สนับสนุน Wikipedia และโครงการในเครือ

ความเห็นของ GN⁺

  • ส่วนขยายนี้อาจช่วยให้ผู้ใช้ประเมินความน่าเชื่อถือของข้อมูลที่พบเจอบนเว็บได้ อย่างไรก็ตาม ตัวบทความของ Wikipedia เองก็อาจมีข้อจำกัดด้านคุณภาพและความถูกต้องอยู่บ้าง จึงอาจไม่เหมาะที่จะใช้เป็นมาตรฐานตัดสินแบบเด็ดขาด
  • การใช้โมเดลภาษาขนาดใหญ่ เช่น ChatGPT เพื่อทำสรุปและตรวจสอบโดยอัตโนมัติ อาจช่วยเพิ่มความสะดวกให้ผู้ใช้ได้ แต่ในขณะเดียวกันก็มีความเสี่ยงที่จะสร้างข้อมูลที่ไม่ถูกต้องเช่นกัน จึงดูจำเป็นต้องมีการติดตามและปรับปรุงอย่างต่อเนื่อง
  • นอกเหนือจาก Wikipedia หากมีการนำแหล่งข้อมูลที่น่าเชื่อถือซึ่งผ่านการตรวจสอบโดยผู้เชี่ยวชาญในแต่ละสาขามาใช้เพิ่มเติม ก็จะช่วยเพิ่มทั้งความแม่นยำและความครอบคลุมของการตรวจสอบได้ ในระยะยาว การสร้างฐานความรู้แบบกระจายศูนย์ที่อิงกับบล็อกเชนก็อาจเป็นอีกแนวทางที่น่าพิจารณา

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2024-05-13
ความเห็นบน Hacker News
  • แอปพลิเคชัน RAG (Retrieval Augmented Generation) แบบทดลองที่ขับเคลื่อนด้วย LLM ใช้ตรวจสอบคำกล่าวอ้างบนอินเทอร์เน็ตโดยเทียบกับ Wikipedia
  • มีคำถามว่าแหล่งอ้างอิงที่ได้มาจะเกิดอาการหลอนหรือไม่ หรือใช้สิ่งที่คล้ายกับ "การอ้างอิงแบบกำหนดแน่นอน" อยู่
  • มีการให้ Git repository ของ Wikimedia สำหรับส่วนขยายนี้ไว้ โดยคำสั่ง build ใน README ยังไม่สมบูรณ์และดูเหมือนว่า hot reload จะไม่ทำงาน สามารถใช้ npm run build-dev เพื่อให้ได้ build ที่ใช้งานได้
  • ไม่มีส่วนขยายสำหรับ Firefox อาจเป็นเพราะความแตกต่างของ API ระหว่าง sidebar/sidepanel
  • มีความหวังว่า LLM จะสามารถตรวจสอบข้อเท็จจริงและติดธงบทความบน Wikipedia ได้ด้วย
  • เมื่อนำไปรวมกับตัวสร้างบทความและตัวตรวจบทความ ก็อาจสร้างหน้าได้ถึง 1 ล้านล้านหน้า สิ่งนี้อาจเป็นคอนเทนต์ฝึกที่มีประโยชน์สำหรับ LLM แต่คนก็อาจใช้งานได้เช่นกัน
  • ดูเหมือนว่าจะใช้ได้เฉพาะบน Chrome บน Arc ใช้งานไม่ได้
  • ในแวดวงวิชาการ โดยทั่วไปมักห้ามอ้างอิง Wikipedia เพราะมีความน่าเชื่อถือต่ำกว่า (ผู้เขียนอ้างอิงแหล่งข้อมูลที่ตัวเองสามารถแก้ไขได้) และแม้จะดีสำหรับใช้ค้นหาแหล่งข้อมูลปฐมภูมิ แต่ตัวมันเองก็เป็นแหล่งข้อมูลทุติยภูมิ
  • เมื่อลองถามเกี่ยวกับตัวมันเอง ก็จะตอบกลับว่า "Citation Needed เป็นฟีเจอร์ทดลองที่พัฒนาขึ้นในปี 2024" แต่ในย่อหน้าที่ให้มาไม่มีข้อมูลเกี่ยวกับฟีเจอร์ชื่อ 'Citation Needed' ที่พัฒนาขึ้นในปี 2024 อยู่เลย