มูลนิธิวิกิมีเดียเปิดตัวส่วนขยาย Chrome แบบทดลอง LLM/RAG 'Citation Needed'
(chromewebstore.google.com)ส่วนขยาย Chrome ของ Wikipedia Citation Needed
- ระหว่างการท่องเว็บ ผู้ใช้สามารถเลือกข้อความบางช่วงเพื่อทำการตรวจสอบคำกล่าวอ้างนั้น
- ใช้ ChatGPT API เพื่อค้นหาบทความที่เกี่ยวข้องใน Wikipedia และอ้างอิงจากบทความนั้น
- ให้ข้อมูลว่าคำกล่าวอ้างที่เลือกได้รับการสนับสนุนจาก Wikipedia หรือไม่ พร้อมทั้งแสดงสัญญาณคุณภาพของบทความ เช่น วันที่แก้ไขล่าสุดและจำนวนแหล่งอ้างอิง เพื่อช่วยให้ผู้ใช้เข้าใจบริบทของข้อมูลที่ได้รับมากขึ้น รวมถึงข้อมูลที่มาจาก Wikipedia ด้วย
ขอความคิดเห็นจากผู้ใช้
- ฟีเจอร์นี้เป็นฟีเจอร์ทดลองที่ใช้ generative AI และตระหนักว่าในบางครั้งอาจเกิดข้อผิดพลาดได้
- เพื่อทำความเข้าใจและปรับปรุงคุณภาพของผลลัพธ์ จึงขอให้ผู้ใช้รายงานปัญหาที่พบผ่านลิงก์ส่งความคิดเห็นในส่วนขยาย
- ยินดีรับทั้งความคิดเห็นทั่วไปและไอเดียเกี่ยวกับวิธีอื่น ๆ ที่ Wikipedia จะเป็นประโยชน์ต่อการท่องเว็บในชีวิตประจำวันได้
ข้อมูลสำหรับนักพัฒนา
- ส่วนขยายนี้พัฒนาโดยทีม Future Audiences ของ Wikimedia Foundation ซึ่งเป็นองค์กรไม่แสวงหากำไรที่สนับสนุน Wikipedia และโครงการในเครือ
ความเห็นของ GN⁺
- ส่วนขยายนี้อาจช่วยให้ผู้ใช้ประเมินความน่าเชื่อถือของข้อมูลที่พบเจอบนเว็บได้ อย่างไรก็ตาม ตัวบทความของ Wikipedia เองก็อาจมีข้อจำกัดด้านคุณภาพและความถูกต้องอยู่บ้าง จึงอาจไม่เหมาะที่จะใช้เป็นมาตรฐานตัดสินแบบเด็ดขาด
- การใช้โมเดลภาษาขนาดใหญ่ เช่น ChatGPT เพื่อทำสรุปและตรวจสอบโดยอัตโนมัติ อาจช่วยเพิ่มความสะดวกให้ผู้ใช้ได้ แต่ในขณะเดียวกันก็มีความเสี่ยงที่จะสร้างข้อมูลที่ไม่ถูกต้องเช่นกัน จึงดูจำเป็นต้องมีการติดตามและปรับปรุงอย่างต่อเนื่อง
- นอกเหนือจาก Wikipedia หากมีการนำแหล่งข้อมูลที่น่าเชื่อถือซึ่งผ่านการตรวจสอบโดยผู้เชี่ยวชาญในแต่ละสาขามาใช้เพิ่มเติม ก็จะช่วยเพิ่มทั้งความแม่นยำและความครอบคลุมของการตรวจสอบได้ ในระยะยาว การสร้างฐานความรู้แบบกระจายศูนย์ที่อิงกับบล็อกเชนก็อาจเป็นอีกแนวทางที่น่าพิจารณา
1 ความคิดเห็น
ความคิดเห็นจาก Hacker News
เป็นแอปพลิเคชัน RAG ที่ใช้ LLM แบบทดลองสำหรับตรวจสอบคำกล่าวอ้างบนอินเทอร์เน็ตโดยเทียบกับ Wikipedia
ดูรายละเอียดเพิ่มเติมได้ที่ https://meta.wikimedia.org/wiki/Future_Audiences/Experiment:...
อนึ่ง ผมมีส่วนร่วมในงานนี้ด้วย
ในช่วง 6 เดือนที่ผ่านมา ผมทำ ส่วนขยายเบราว์เซอร์ มาประมาณ 8 ตัว ส่วนใหญ่มีผู้ใช้หลักพัน และตัวหนึ่งไปถึง 5 แสนผู้ใช้
ตอนนี้กำลังทำส่วนขยายผู้ช่วยออกแบบที่ใช้ LLM และติดต่อได้ที่ “hello[at]papillonsoftware[dot]dev”
เลยทำให้คิดว่านี่คงเป็นเหตุผลที่ชื่อ Citation Needed หรือเปล่า เพราะจริง ๆ แล้วมันไม่ได้อ้างอิงอะไรเลย
อยากรู้ว่าข้อความอ้างอิงสามารถเกิดภาพหลอนได้ด้วยหรือไม่ หรือใช้วิธีอย่าง deterministic quoting[1] หรือเปล่า
อนึ่ง ผมเป็นผู้เขียนงานนั้น
[1] https://mattyyeung.github.io/deterministic-quoting
อยากถามว่าจะใช้ค้นหาแนวคิดที่ซับซ้อนขึ้นเป็นภาษาอังกฤษ แทนการหาในเอกสารด้วยคีย์เวิร์ดหรือ regex ได้หรือเปล่า
ถ้าไม่ได้ ก็อยากรู้ว่าต้องทำงานเพิ่มเติมอะไรบ้างเพื่อไปให้ถึงระดับนั้น
ถึงอย่างนั้น งาน deterministic quoting ก็ดูน่าสนใจ
ไม่มี ส่วนขยาย Firefox
โปรเจกต์แบบนี้ช่วยทำให้คู่แข่งด้านเบราว์เซอร์อ่อนแอลง
เป็นไอเดียที่ดี ต่อไปถ้า LLM ช่วย ตรวจสอบข้อเท็จจริงของบทความ Wikipedia เอง แล้วแสดงผลให้ก็คงดี
Git repository ของ Wikimedia สำหรับส่วนขยายนี้อยู่ที่นี่
https://gitlab.wikimedia.org/repos/future-audiences/citation...
เพิ่มเติมคือคำแนะนำการ build ใน README ยังไม่สมบูรณ์ และ hot reload ก็ดูเหมือนไม่ทำงาน ถ้าต้องการ build ที่ใช้งานได้ให้ใช้
npm run build-devยังไม่ชัดเจนว่ามีอะไรขวางไม่ให้ทำเป็นส่วนขยาย Firefox ได้ อาจเป็นความต่างของ API sidebar/sidepanel แต่ผมไม่ได้ลองลึกมาก
ถ้าเอา ตัวสร้างเอกสาร แบบอิงการค้นหามาต่อเข้ากับสิ่งนี้ ก็จะได้ทั้งตัวสร้างเอกสารและตัวตรวจเอกสาร แล้วก็สร้างหน้าเว็บได้ 1 ล้านล้านหน้าเลย
น่าจะใช้เป็นคอนเทนต์ฝึก LLM ได้ด้วย และคนก็น่าจะใช้ได้เหมือนกัน
อยากรู้ว่าสิ่งนี้ทำงานเฉพาะบน Chrome หรือเปล่า ผมทำให้มันทำงานบน Arc ไม่ได้
@wikimedia: ขอ เวอร์ชัน Firefox ด้วย
บอกว่าเป็น “ส่วนขยาย Chrome สำหรับหาการอ้างอิงจาก Wikipedia” แต่ในแวดวงวิชาการ การอ้างอิง Wikipedia โดยทั่วไปเป็นข้อห้าม
เหตุผลหนึ่งคือความน่าเชื่อถือต่ำ และผู้เขียนสามารถอ้างอิงแหล่งที่มาต่าง ๆ ที่ตนเองแก้ไขได้
ที่สำคัญกว่านั้นคือ Wikipedia อาจดีสำหรับการหาแหล่งข้อมูลปฐมภูมิ แต่ตัวมันเองเป็นแหล่งข้อมูลทุติยภูมิ
ตอนนี้มี การฉ้อโกงทางวิชาการ ขนาดใหญ่ถูกเปิดโปงจริง ๆ แล้ว และแทบไม่มีการแก้ไขเพื่อให้ถูกต้อง
ในทางกลับกัน Wikipedia รับมือกับการใช้ในทางที่ผิดได้ค่อนข้างดี และการใช้ลิงก์ Wikipedia ไม่ได้เป็นภัยต่อวงวิชาการเท่ากับที่การฉ้อโกงทางวิชาการเป็นภัยต่อ Wikipedia มากกว่า
ถ้าหาด้วย Google จะเจอข้อมูลเดิมซ้ำ ๆ มากมาย แต่เว็บไซต์ส่วนใหญ่ไม่อ้างอิงแหล่งที่มา
ก่อนมี Wikipedia เราก็ไม่ได้อ้างอิงแหล่งข้อมูลทุติยภูมิอยู่แล้ว แต่ก็ใช้มันเพื่อเริ่มเข้าเรื่องและหาแหล่งข้อมูลที่เกี่ยวข้องแน่นอน
นักวิชาการอ้างอิงบทความของตนเองหรือแหล่งอื่นที่ตนมีอำนาจควบคุมด้านบรรณาธิการอยู่ตลอด
รายการอ้างอิงควรมุ่งไปยังแหล่งข้อมูลทุติยภูมิมากกว่าแหล่งข้อมูลปฐมภูมิ
“บทความ Wikipedia ควรอิงจากแหล่งข้อมูลทุติยภูมิที่น่าเชื่อถือและเผยแพร่แล้ว และในระดับที่น้อยกว่า อิงจากแหล่งข้อมูลตติยภูมิและแหล่งข้อมูลปฐมภูมิ แหล่งข้อมูลทุติยภูมิหรือตติยภูมิจำเป็นต่อการยืนยันความโดดเด่นของหัวข้อและหลีกเลี่ยงการตีความแหล่งข้อมูลปฐมภูมิแบบใหม่”
https://en.wikipedia.org/wiki/Wikipedia:No_original_research
ลองถามเกี่ยวกับตัวมันเอง แล้วได้ผลลัพธ์กลับมาแบบนี้
ถึงจะไม่ได้ใช้ตามจุดประสงค์เดิม แต่ก็น่าขำอยู่