Google AI Overview สร้างเรื่องเท็จเกี่ยวกับตัวฉันขึ้นมา

 (bsky.app)
15 คะแนน โดย GN⁺ 2025-09-02 | 4 ความคิดเห็น | แชร์ทาง WhatsApp
  • ช่วงหลังมานี้ Benn Jordan ได้รับข้อความและแท็กหลายครั้งที่ขอให้เขาแสดงจุดยืนเกี่ยวกับ อิสราเอล ให้ชัดเจน
  • ทั้งที่เขาได้ประกาศต่อสาธารณะมาโดยตลอดว่า คัดค้านการฆ่าล้างเผ่าพันธุ์ และ สนับสนุนการจัดตั้งรัฐปาเลสไตน์ แต่กลับมีข้อความประหลาดส่งเข้ามา
  • เมื่อตรวจสอบแล้วพบว่า Google AI Overview ได้สร้าง elaborate story (เรื่องเล่าที่ซับซ้อนแต่เป็นเท็จ) ที่ไม่เป็นความจริง และเผยแพร่ในชื่อของ Benn Jordan
    • เนื้อหาที่ Google AI Overview สรุปเกี่ยวกับ Benn Jordan

      เบนน์ จอร์แดน (Benn Jordan) นักดนตรีอิเล็กทรอนิกส์และยูทูบเบอร์สายวิทยาศาสตร์ ได้เข้าไปพัวพันกับความขัดแย้งอิสราเอล-ปาเลสไตน์เมื่อไม่นานมานี้ จนก่อให้เกิดข้อถกเถียงและดราม่าออนไลน์อย่างมาก โดยอ้างว่าเขาได้อัปโหลดวิดีโอ YouTube ชื่อ "I Was Wrong About Israel: What I Learned on the Ground" ซึ่งเล่าถึงประสบการณ์เดินทางในอิสราเอลและการสัมภาษณ์ผู้อยู่อาศัยในคิบบุตซ์ใกล้ชายแดนกาซา วิดีโอนี้มีเนื้อหาเกี่ยวกับการทำความเข้าใจความขัดแย้งจากประสบการณ์ตรงผ่านบทสัมภาษณ์ของผู้อยู่อาศัยในคิบบุตซ์ใกล้ชายแดนกาซา และหลังเผยแพร่ออกมาก็จุดกระแสการถกเถียงและความเห็นจำนวนมากบนโซเชียลมีเดีย..

      โฆษณา
  • แต่ Benn Jordan ไม่เคยไปอิสราเอลเลยแม้แต่ครั้งเดียว และไม่เคยอัปโหลดวิดีโอดังกล่าว นี่เป็นการสับสนกับคนชื่อ Ryan McBeth ซึ่งโพสต์วิดีโอด้านการทหาร
  • ผลลัพธ์จาก AI นี้ทำให้เกิดความเข้าใจผิดที่สวนทางกับจุดยืนจริงของเจ้าตัว และส่งผลให้ผู้ใช้กดดันทางสังคมหรือก่อรูปความเห็นสาธารณะที่ ผิดจากความจริง
  • Benn Jordan กำลังปรึกษาทนายความว่าเป็นไปได้หรือไม่ที่จะฟ้องร้อง

บทความที่เกี่ยวข้อง

4 ความคิดเห็น

 
monotyp3 2025-09-02

เป็นที่รู้กันว่า AI Overview ไม่น่าเชื่อถืออยู่แล้ว แต่นี่ค่อนข้างร้ายแรงเลยนะ
 
reagea0 2025-09-02

นี่ถึงขั้นฟ้องร้องกันได้เลยนะ....?
 
xguru 2025-09-02

โห เรื่องนี้ช็อกมากจริง ๆ
ถ้าสถานการณ์แบบนี้จากประเด็นบางอย่างเกิดขึ้นกับฉันบ้าง คิดแล้วน่ากลัวว่าจะเกิดอะไรตามมา
 
GN⁺ 2025-09-02
ความคิดเห็นจาก Hacker News

  • คิดว่านี่เป็นตัวอย่างชัดเจนของผลกระทบที่อาการหลอนของ AI และความแม่นยำที่ต่ำอาจมีต่อชีวิตเราในอนาคต เรื่องนี้ทั้งละเอียดอ่อนและสำคัญมาก แต่ความจริงที่มันถูกพูดถึงแค่ในระดับพาดหัวข่าวทำให้น่ากลัว โดยเฉพาะถ้าคนทั่วไปไม่เข้าใจจริง ๆ ว่าเครื่องมือนี้ทำงานอย่างไร แต่ก่อนอย่างน้อยมนุษย์ก็ยังพอไล่อ่านข้อมูลบ้าง ทว่าเป็น AI ก็แทบคาดหวังสิ่งนั้นไม่ได้

    • เคยเห็นหลายครั้งที่คนคัดลอกผลลัพธ์หรือคำตอบจาก AI ไปใช้ใน GitHub issue, อีเมล และที่อื่น ๆ และยิ่งรู้สึกมากขึ้นเรื่อย ๆ ว่าผู้คนมีแนวโน้มจะเชื่อผลลัพธ์จากโมเดลพวกนี้แบบไม่ตั้งคำถาม เช่นเดียวกับ “สรุป” ที่ขึ้นบนสุดของผลการค้นหา Google สรุปแทบทุกอันที่ผมอ่านมีข้อผิดพลาดร้ายแรงอย่างน้อยหนึ่งจุด ถ้าเป็นหัวข้อที่ผมไม่คุ้นเคยก็คงอาจเชื่อไปเลย โดยรวมแล้วคำว่าเชื่อแต่ต้องตรวจสอบยิ่งสำคัญขึ้นเรื่อย ๆ แต่เอาเข้าจริงผมว่าตอนนี้ต้องจำกัดแม้กระทั่งความเชื่อด้วย

    • การเก็บรวบรวมคอนเทนต์ที่มีลิขสิทธิ์จำนวนมากเพื่อนำไปสร้างโมเดล AI ถูกอ้างความชอบธรรมด้วยตรรกะว่าเป็นงานดัดแปลงเชิงสร้างสรรค์ ถ้าข้ออ้างนี้ถูกต้อง ผมคิดว่าบริษัทอย่าง Google ก็ควรต้องรับผิดชอบต่อผลลัพธ์พวกนี้ด้วย ถ้าเป็นงานดัดแปลง ก็โยนความรับผิดชอบให้คนอื่นไม่ได้ บริษัทเหล่านี้ไม่ควรได้ทั้งสองทาง อยากรู้เหมือนกันว่าการถกเถียงนี้จะไปจบตรงไหน

    • ผมเลิกตัดสินคนจากจุดยืนเรื่องอิสราเอลกับฮามาสแล้ว และคิดว่าแค่ไม่คบหากับคนแบบนั้นก็พอ ถ้ามีใครพูดความเห็นของผมผิดไปก็ไม่ได้สำคัญอะไรนัก ถ้าจะทำแบบนั้นก็คงต้องเลิกใช้ที่อย่าง bluesky หรือ HN ที่มีการถกเถียงการเมืองเยอะ ๆ แต่ตอนนี้แม้แต่ความคิดเห็นที่ชอบธรรมก็ยังถูกถ่ายทอดอย่างบิดเบือนมาก และ AI ก็แม่นพอ ๆ กับการโยนเหรียญ ถ้าใครอยากโน้มน้าวว่าตัวเองรู้เรื่องนี้ดีผมก็ยินดีฟัง แต่ไม่คิดว่าจำเป็นต้องทำตรงนี้

    • ผมคิดว่า Google ต้องรับผิดชอบต่อผลลัพธ์พวกนี้ เพราะเป็นผู้เผยแพร่และโฮสต์เนื้อหาแบบนี้ จึงควรรับผิดชอบต่อเนื้อหาหมิ่นประมาททั้งหมด

    • เรื่องนี้น่าจะใหญ่ขึ้นจนกลบกรณีวิดีโอปลอม แล้วจากนั้น AI ก็คงจะสรุปประเด็นวิดีโอปลอมนี้อัตโนมัติโดยอิงจากผลการค้นหาระดับบนอีกที

  • ลองค้นหา "benn jordan isreal" แล้ว ผลลัพธ์แรกกลับเป็นวิดีโอคนละครีเอเตอร์ แต่ชื่อเรื่องเหมือนกัน วันเดียวกันด้วย ในวิดีโอไม่มีการพูดถึง "benn" และมีแค่การพูดถึงประเทศ "jordan" เล็กน้อยเท่านั้น ดูเหมือนว่า Google จะหลอนความเชื่อมโยงอะไรบางอย่างจากแค่นี้ น่ากังวลมาก
    https://www.youtube.com/watch?v=qgUzVZiint0

    • คิดว่าแทบจะแน่นอนว่านี่คือสิ่งที่เกิดขึ้นจริง คำตอบ AI ของ Google ไม่ใช่เวทมนตร์ แต่เป็นแค่การสรุปผลค้นหา ในกรณีนี้มันดึงวิดีโอที่พูดถึงทั้ง "Israel" และ "Jordan" มาพร้อมให้เนื้อหาที่มีจุดยืนตรงกันข้ามโดยสิ้นเชิง UI ก็ซ่อนบริบทไว้เยอะมากจนยากจะรู้ว่าผิดตรงไหน และในโหมด AI มันจะค้นหลายรอบ รวมสแนปเพ็ตจากมากกว่า 100 เว็บไซต์แล้วค่อยสรุปออกมา

    • สิ่งที่น่าสนใจในประเด็นนี้คือทำให้อยากรู้ว่า การใช้ผลค้นหาในหัวข้อทั่วไปเป็นฐานสำหรับการฝึก LLM หรือการดึงข้อมูลนั้น เป็นปรากฏการณ์ที่เกิดขึ้นทั่วไปแค่ไหน

    • ถ้าคุณรู้จริง ๆ ว่า AI แปลภาษาทำงานอย่างไร คุณอาจจะตกใจยิ่งกว่าเดิม มันคือการบิดหลายภาษาให้กลายเป็นอังกฤษแบบอเมริกัน

  • คนส่วนใหญ่มักค้น Google ในสิ่งที่ตัวเองไม่คุ้นเคย และสิ่งที่ AI Overview สร้างขึ้นก็ดูมีเหตุผลสำหรับคนที่ไม่รู้เรื่องนั้นดี แต่จริง ๆ แล้วผิดบ่อยมาก ไม่ใช่แค่ปัญหาใหญ่แบบครั้งนี้ ก่อนหน้านี้ก็ยังเคยมีกรณีแนะนำให้ทากาวบนพิซซ่าด้วย แค่ลองค้นหัวข้อที่ตัวเองรู้ดีสักไม่กี่เรื่องใน Google แล้วดูสรุปโดยรวม ก็จะเห็นว่ามันผิดค่อนข้างบ่อย จากประสบการณ์ของผม มีแค่ประมาณ 1 ใน 5 ที่ไม่มีข้อผิดพลาดใหญ่ ๆ แม้จะมีคำพูดว่า "พหูพจน์ของข้อมูลไม่ใช่เกร็ดเล่า" แต่ผมเจอผิดบ่อยเกินไปจนต้องติดตั้งส่วนขยายสำหรับบล็อกมัน

    • ผมพบว่ามันค่อนข้างแม่นเมื่อใช้กับคอนเทนต์ที่นิ่งและจัดระเบียบดีอยู่แล้ว เช่น Wikipedia หรือบล็อก แต่กับข้อมูลที่เปลี่ยนแปลงตลอดเวลา โดยเฉพาะโซเชียลมีเดีย มันมักเชื่อมโยงความสัมพันธ์ผิด ๆ ได้ง่าย โดยรวมแล้วคนคาดหวังจาก AI Overview สูงเกินไป Google AI overview ไม่ได้เหนือกว่าเว็บเสิร์ชของ Claude, Grok, ChatGPT แบบขาดลอยเลย ตรงกันข้าม ในหลายด้านยังด้อยกว่าอีก ผมคิดว่าเป็นฟีเจอร์ที่ยัดเข้ามาฝืน ๆ เพราะการผูกขาดด้านการสำรวจข้อมูลกำลังถูก OpenAI และรายอื่นคุกคาม

    • ผมกลับรู้สึกว่า AI Overview ยิ่งเป็นปัญหามากขึ้นเพราะมันแม่นกว่าเดิมแล้ว เมื่อก่อนมันผิดบ่อยพอและผิดแบบชัดเจนจนมองข้ามได้ง่าย ตอนนี้มันถูกค่อนข้างบ่อยและดูน่าเชื่อตลอด จึงยิ่งล่อใจให้พึ่งพามัน

    • ขอยกคำอธิบายที่ดีที่สุดเกี่ยวกับข้อมูลเท็จจาก AI แบบ “ดูน่าเชื่อ” มาเล่าในแบบถอดความ: สรุปของ AI คล้ายพอดแคสต์ทั่ว ๆ ไปหรือยูทูบเอสเซย์ที่พูดถึงหัวข้อเทคนิคหรือหัวข้อเฉพาะทาง — รูปลักษณ์และความมั่นใจมันขัดเงามาดีจนเกือบเหมือนข้อเท็จจริง แต่ถ้าคุณเป็นผู้เชี่ยวชาญในเรื่องนั้น คุณจะเห็นว่าสิ่งที่มันพูดผิดแทบทั้งหมด หรืออย่างน้อยก็หละหลวม ปัญหาคือความมั่นใจเกินจริงแบบนี้กลับขยาย “สัญญาณความแม่นยำ” ให้คนทั่วไปที่ไม่มีความรู้จริงยิ่งเข้าใจผิด และเพราะพวกเราส่วนใหญ่ไม่ได้มีความรู้ลึกใน 90% ของหัวข้อทั้งหมด ปัญหานี้จึงร้ายแรงมาก

  • ในกรณีอาการหลอนของ AI มีข้อความว่า Benn Jordan อัปโหลดวิดีโอรีวิวทริปอิสราเอลเมื่อวันที่ 18 สิงหาคม 2025 แต่จริง ๆ แล้วนี่เป็นชื่อวิดีโอเดียวกับของ Ryan McBeth ล่าสุด
    https://youtu.be/qgUzVZiint0?si=D-gJ_Jc9gDTHT6f4
    แค่มันเชื่อมแหล่งที่มาของวิดีโอผิดก็ฟังดูน่ากลัวแล้ว

  • ตอนแรกผมนึกว่ามี Benn Jordan สองคนเลยทำให้ AI สับสน แต่คนที่อัปโหลดวิดีโอนั้นจริง ๆ คือ Ryan McBeth เลยสงสัยว่าเหตุผิดพลาดแบบนี้เกิดขึ้นได้อย่างไร

    • อาจเป็นไปได้ว่าโมเดลที่ Google ใช้บนหน้าค้นหาเป็นตัวที่ฉลาดน้อยกว่าเพราะต้องการประหยัดต้นทุน แต่ก็ยังสงสัยว่านี่เป็นกลยุทธ์ที่ดีไหมสำหรับสินค้าธงอย่างระบบค้นหา ผมว่าตัด AI ออกจากการค้นหาไปเลยน่าจะดีกว่า

    • น่าจะเป็นเพราะในวิดีโอมีช่วงที่พูดคำว่า "Jordan" และเนื่องจากเป็นประเทศใกล้อิสราเอล จึงทำให้เกิดความเชื่อมโยงผิด ๆ

    • ปรากฏว่าวิดีโอของ Ryan ขึ้นเหนือวิดีโอของ Benn เวลาเสิร์ชใน YouTube ผมคิดว่า AI แค่รับผลค้นหาจาก YouTube มาเป็นข้อเท็จจริงโดยไม่ได้ตรวจชื่อช่องด้วยซ้ำ

  • นี่ไม่ใช่ความรับผิดชอบของ Google นะ เพราะมีข้อความชัดเจนอยู่ด้านล่างหน้าจอด้วยตัวอักษร 6pt ว่า "คำตอบจาก AI อาจมีข้อผิดพลาด ดูข้อมูลเพิ่มเติม"

    • นี่เป็นความรับผิดชอบของ Google เพราะมันกำลังสร้างและเผยแพร่เนื้อหาที่เข้าข่ายหมิ่นประมาทเอง ลองคิดดูว่าถ้ามีคนค้นชื่อผม แล้วบรรทัดแรกบอกว่าผมเป็นผู้กระทำความผิดทางเพศในเมืองหนึ่ง คุณจะรู้สึกยังไง มันไม่ใช่การอ้างคำพูดของใคร แต่เป็นอาการหลอนที่ไม่มีมูลเลย ถึงจะมีคำเตือนตัวเล็กมากด้านล่างว่ามันอาจผิดได้ ก็แทบไม่มีใครคิดว่า “แค่นั้นก็โอเคแล้ว” หรอก

    • มีคนบอกว่าข้อความแจ้งเตือนขนาด 6pt แต่พอตรวจ element จริง ๆ แล้วพบว่าเป็น 12px (9pt) ส่วนข้อความเนื้อหาทั่วไปบนหน้าเว็บ (ไม่นับหัวข้อ) เป็น 18px มันเล็กมากจนสะดุดตายาก แต่ก็ไม่ได้ถึงขั้นมองไม่เห็นเลย

  • เมื่อไม่กี่สัปดาห์ก่อน ธุรกิจขนาดเล็กแถวบ้านผมเจอว่า AI ของ Google แจ้งผู้ใช้ผิด ๆ ว่าบริษัทของเขาเป็นกิจการหลอกลวง เพราะไปสับสนกับอีกบริษัทหนึ่งที่ไม่เกี่ยวกันแต่ชื่อคล้ายกัน สุดท้ายบริการสำคัญของเรากลายเป็นการทำให้ AI ไม่ไปทำลายชื่อเสียงลูกค้าเสียเอง

  • สำหรับข้อความ "คำตอบจาก AI อาจมีข้อผิดพลาด" ผมกลับคิดว่าคงดีกว่าถ้าผู้คนค่อย ๆ เรียนรู้ที่จะกรองสรุปจาก AI ทิ้งโดยอัตโนมัติเหมือนที่มองข้ามโฆษณา
    https://news.ycombinator.com/item?id=44142113

  • เว้นแต่กฎหมายจะเข้ามาจัดการให้เห็นเป็นตัวอย่าง ตอนนี้ไปจนถึงอนาคตจะต้องมีหายนะใหญ่จริง ๆ จาก AI สักวันแน่

    • มีการถามว่ากฎหมายควรเข้ามาด้วยเหตุผลอะไร โดยปกติแค่การผิดพลาดไม่ได้ถูกลงโทษ ความผิดฐานหมิ่นประมาทมักต้องมีเจตนา แต่กรณีนี้ไม่ได้มีเจตนาชัดเจน AI ส่วนใหญ่ก็มีคำเตือนเรื่องข้อผิดพลาดและอาการหลอนอยู่แล้ว บางประเทศอย่างฝรั่งเศสให้สิทธิผู้เกี่ยวข้องร้องขอให้แก้ไขได้ และจากบทความดูเหมือน Gemini ได้รับรู้ความผิดพลาดนี้และแก้แล้ว ถ้าทำให้อาการหลอนของ AI ผิดกฎหมาย LLM ทั้งหมดก็อาจกลายเป็นสิ่งผิดกฎหมายไปด้วย แทนที่จะเป็นแบบนั้น การบังคับให้มีระบบรายงานข้อมูลเท็จและระบบกรองน่าจะเป็นแนวทางที่เป็นไปได้ในทางเทคนิคมากกว่า

    • ผมอยากถามกลับว่าคำว่า “ทำให้เห็นเป็นตัวอย่าง” หมายถึงอะไรแน่ ผมเห็นด้วยกับการกำจัดมลพิษจาก AI แต่ไม่เอาสังคมที่ขับเคลื่อนด้วยการฟ้องร้อง เพราะมองว่ามาตรการทางกฎหมายในทางปฏิบัติอาจถูกนำไปใช้ในทางที่ผิดได้อย่างรวดเร็ว

  • มองจากมุมเทคนิค มีงานวิจัยที่แสดงให้เห็นว่าการสรุปทำงานผิดพลาดได้อย่างไรเมื่ออาศัยผลลัพธ์แบบสแนปเพ็ตสั้น ๆ ของ Google
    Google ต้องรองรับ AI summary ที่ระดับ 200,000~500,000 คิวรีต่อวินาที และการใช้โมเดลที่ดีพอจะลดอาการหลอนนั้นแพงเกินไป สุดท้ายจึงใช้โมเดลประสิทธิภาพต่ำที่เร็วและถูกแทน อีกทั้งการให้สรุปยังทำให้อัตราการคลิกโฆษณาลดลงด้วย เมื่อรวมปัจจัยทั้งหมดแล้ว ผมคิดว่าการที่ Google เลือกใช้วิธีสรุปแบบนี้เป็นการตัดสินใจที่แย่มาก
    https://maxirwin.com/articles/interleaving-rag/

    • ผมอยากถามว่า AI overview summary อิงสแนปเพ็ตจริงหรือเปล่า จากประสบการณ์ของผมดูเหมือนจะไม่ใช่