Google ดิ้นหนักเพื่อลบคำตอบ AI แปลกๆ ออกจากการค้นหาด้วยมือ

• บนโซเชียลมีเดียกำลังพูดถึงตัวอย่างที่ผลิตภัณฑ์ AI Overview ใหม่ของ Google พูดเรื่องประหลาดหลายกรณี
  • เช่น แนะนำให้ผู้ใช้ทากาวลงบนพิซซ่า หรือเสนอให้กินหิน
• การเปิดตัวที่สร้างความสับสนนี้ทำให้ Google ต้องเร่งปิดการทำงานของ AI Overview สำหรับคำค้นหาบางรายการด้วยตนเอง
  • เมื่อมีมีมถูกโพสต์ออกมาหลากหลาย ผู้ใช้ก็พบว่าคำตอบเหล่านี้มักหายไปไม่นานหลังจากถูกเผยแพร่บนโซเชียลเน็ตเวิร์ก

AI Overview ของ Google

• Google ทดสอบ AI Overview มาเป็นเวลา 1 ปี
  • เปิดตัวแบบเบตาในเดือนพฤษภาคม 2023 ในชื่อ Search Generative Experience
  • ซีอีโอ Sundar Pichai ระบุว่าในช่วงเวลาดังกล่าว ระบบได้ประมวลผลคำค้นหาไปแล้วมากกว่า 1 พันล้านครั้ง
• Pichai ยังเปิดเผยด้วยว่าต้นทุนในการให้คำตอบด้วย AI ลดลง 80%
  • เป็นผลจากความก้าวหน้าด้านฮาร์ดแวร์ วิศวกรรม และเทคนิคต่างๆ
  • แต่ก็เป็นไปได้ว่าการเพิ่มประสิทธิภาพเหล่านี้เกิดขึ้นเร็วเกินไป ก่อนที่เทคโนโลยีจะพร้อมจริง

ปัญหาคุณภาพของ AI

• ผู้ก่อตั้งสตาร์ทอัป AI รายหนึ่งกล่าวว่า ตอนนี้ Google เป็นที่รู้จักในด้านการปล่อยผลลัพธ์คุณภาพต่ำ
• Google ยืนยันว่าผลิตภัณฑ์ AI Overview โดยหลักแล้วให้ "ข้อมูลคุณภาพสูง"
  • Megan Farnsworth โฆษกของ Google ยืนยันทางอีเมลว่าบริษัทกำลังดำเนินการอย่างรวดเร็วเพื่อลบ AI Overview สำหรับบางคำค้นหา
  • และระบุว่ากำลังใช้ตัวอย่างเหล่านี้เพื่อพัฒนาการปรับปรุงระบบในวงกว้าง

ความเห็นจากผู้เชี่ยวชาญด้าน AI

• Gary Marcus ศาสตราจารย์กิตติคุณด้านประสาทวิทยาจากมหาวิทยาลัยนิวยอร์ก กล่าวว่าบริษัท AI จำนวนมากกำลังขายความฝันว่าเทคโนโลยีจะก้าวจาก 80% ไปสู่ 100% ได้
  • 80% แรกนั้นค่อนข้างง่ายกว่า เพราะเป็นการประมาณข้อมูลมนุษย์จำนวนมาก
  • แต่ 20% สุดท้ายนั้นเป็นโจทย์ที่ยากมาก
  • และในความเป็นจริงอาจต้องอาศัยปัญญาประดิษฐ์ทั่วไป (AGI)

สถานการณ์การแข่งขันของ Google

• Bing นำ AI มาใช้ก่อน Google
  • OpenAI กำลังพัฒนาเสิร์ชเอนจินของตัวเอง
  • สตาร์ทอัปด้าน AI Search รายใหม่มีมูลค่าถึง 1 พันล้านดอลลาร์แล้ว
  • คนรุ่นใหม่ต้องการประสบการณ์ที่ดีที่สุดและกำลังหันไปใช้ TikTok
• Google กำลังเผชิญแรงกดดันจากการแข่งขัน และสิ่งนี้นำไปสู่การเปิดตัว AI ที่สับสนวุ่นวาย
  • ในปี 2022 Meta เคยเปิดตัวระบบ AI ชื่อ Galactica แต่ต้องถอนออกอย่างรวดเร็วหลังเกิดปัญหา เช่น การแนะนำให้กินแก้ว

แผนของ Google สำหรับ AI Overview

• Google มีแผนใหญ่สำหรับ AI Overview
  • ฟีเจอร์ในปัจจุบันเป็นเพียงส่วนหนึ่งของสิ่งที่บริษัทประกาศเมื่อสัปดาห์ที่แล้ว
  • เช่น การให้เหตุผลหลายขั้นตอนสำหรับคำค้นหาที่ซับซ้อน การสร้างหน้าผลลัพธ์ที่ AI จัดระเบียบให้ และการค้นหาวิดีโอใน Google Lens
• แต่ในเวลานี้ชื่อเสียงของบริษัทขึ้นอยู่กับการจัดการเรื่องพื้นฐานให้ถูกต้อง ซึ่งสถานการณ์ตอนนี้ดูไม่ค่อยดีนัก

Gary Marcus - "[โมเดลเหล่านี้] โดยพื้นฐานแล้วไม่สามารถทำ sanity check กับงานของตัวเองได้ และนี่คือสิ่งที่จะฉุดรั้งอุตสาหกรรมนี้เอาไว้"

ความเห็นของ GN⁺

• ปัญหาความน่าเชื่อถือของ AI: ระบบ AI มีข้อจำกัดเชิงโครงสร้างตรงที่ไม่สามารถตรวจสอบผลงานของตัวเองได้ ทำให้มีความเสี่ยงที่จะให้ข้อมูลผิดแก่ผู้ใช้
• แรงกดดันจากการแข่งขัน: Google กำลังรู้สึกถึงแรงกดดันจากคู่แข่ง ซึ่งอาจส่งผลต่อคุณภาพของการเปิดตัวผลิตภัณฑ์
• ความท้าทายทางเทคนิค: การพาเทคโนโลยี AI จาก 80% ไปสู่ 100% เป็นงานที่ยากมาก ซึ่งสะท้อนข้อจำกัดและความท้าทายของ AI ได้อย่างชัดเจน
• ประสบการณ์ผู้ใช้: คนรุ่นใหม่ต้องการประสบการณ์ใช้งานที่ดีที่สุด และนี่เป็นจุดที่ Google ต้องปรับปรุงอย่างต่อเนื่อง
• ทางเลือกอื่น: สำหรับผู้ใช้ที่กำลังพิจารณาเสิร์ชเอนจิน AI, Bing หรือสตาร์ทอัป AI Search รายใหม่ก็อาจเป็นทางเลือกที่ดีได้เช่นกัน

[hhcrux]

"บริษัท AI หลายแห่งกำลังขายฝันว่าเทคโนโลยีจะก้าวจาก 80% ไปถึง 100% ได้"
ส่วนนี้ก็เป็นสิ่งที่ผมคิดอยู่เสมอเหมือนกันครับ และก็เป็นเหตุผลที่ทำให้ผมเชื่อว่า ต่อให้โลกของ AI มาถึง งานที่มนุษย์ต้องทำก็จะไม่หายไป

[GN⁺]

ความเห็นจาก Hacker News

สรุปความคิดเห็นจาก Hacker News

• แนวทางลบคำแนะนำการค้นหาของ Google แบบแมนนวล

  • ทำให้นึกถึงกรณีในอดีตที่ Google พยายามปรับอัลกอริทึมเอง แทนที่จะเข้าไปปรับผลการค้นหาแบบแมนนวล
  • ระหว่างการทดสอบ Froogle ในปี 2002 มีปัญหาที่เมื่อค้นหา "running shoes" กลับมีรูปปั้นนางฟ้าสวนขึ้นมาเป็นผลลัพธ์อันดับต้น ๆ
  • วิศวกรคนหนึ่งซื้อสินค้าชิ้นนั้นเพื่อแก้ปัญหา ทำให้ระบบคืนผลลัพธ์ที่ถูกต้องได้โดยไม่ต้องเปลี่ยนอัลกอริทึม

• ปัญหาความแม่นยำของ AI

  • การทำให้แม่นยำได้ 80% แรกนั้นค่อนข้างทำได้ง่าย แต่ 20% สุดท้ายนั้นยากมาก
  • ความแม่นยำ 100% เป็นเป้าหมายที่แม้แต่มนุษย์ก็ทำไม่ได้
  • เป้าหมายคือการลดคำตอบที่เห็นได้ชัดว่าไร้สาระ
  • LLMs (โมเดลภาษาขนาดใหญ่) สร้างข้อความได้ดี แต่การตัดคำตอบที่เห็นได้ชัดว่าไร้สาระออกไปก็ไม่ได้แปลว่าจะเป็นเรื่องดีเสมอ

• ปัญหาคุณภาพการค้นหาของ Google

  • มีข้อถกเถียงว่า Google หลงทิศทางเพราะสงคราม AI
  • ตอนนี้ผลการค้นหาของ Google เต็มไปด้วยสแปม คลิกเบต และเนื้อหาโฆษณาชวนเชื่อ
  • มีคนมองว่าผลการค้นหาควรสะท้อนความจริงที่เป็นที่ยอมรับอย่างกว้างขวางอย่างน้อยก็ในระดับหนึ่ง
  • การระบุโทรลล์อย่างชัดเจน คลิกเบต และเนื้อหาที่เป็นอันตรายหรือไม่หวังดีเป็นเรื่องสำคัญ

• ความต่างระหว่างเสิร์ชเอนจินกับเอนจินตอบคำถาม

  • เสิร์ชเอนจินเป็นเครื่องมือสำหรับค้นหาอินเทอร์เน็ต ไม่ใช่เครื่องมือสำหรับตั้งคำถาม
  • การถามอะไรบางอย่างผ่าน AI เป็นงานคนละแบบกับการค้นหาอินเทอร์เน็ต

• ปัญหาการผสาน AI ของ Google

  • ทุกครั้งที่ Google ผสาน AI เข้าไป ก็มักเกิดปัญหาเดิมซ้ำ ๆ
  • พอเกิดปัญหา ผู้บริหารระดับสูงก็ออกมาประกาศว่าจะแก้ไข แต่สุดท้ายปัญหาแบบเดิมก็กลับมาอีก

• ปัญหาชุดข้อมูลของ Google

  • หลายคนตกใจที่ Google ซึ่งปรับแต่งผลการค้นหามาอย่างละเอียดตลอด 25 ปี กลับดูเหมือนไม่มีชุดข้อมูลที่ดีพอ
  • อาจถึงขั้นต้องใช้ CD สารานุกรมเก่า ๆ มาสร้างข้อมูลฝึกสอน

• การสร้างและทดสอบคิวรีแปลก ๆ ด้วย LLM

  • มีความผิดหวังที่ Google ไม่ได้ใช้ LLM เพื่อสร้างคิวรีแปลก ๆ และนำมาทดสอบ
  • การปล่อยใช้งานที่สะอาดกว่านี้น่าจะให้ประโยชน์ได้มาก
  • การแข่งขันด้าน AI ในตอนนี้อาจเป็นการแข่งขันสู่ก้นเหวก็ได้

• ปัญหาของ AI เวอร์ชันแรก ๆ

  • AI ในตอนนี้แย่กว่าการค้นหาแบบดั้งเดิมแทบทุกด้าน
  • นิ้วมือในภาพที่ AI สร้างยังคงดูน่าทึ่ง

• ปัญหา hallucination ของ LLM

  • หลายคนคิดว่า LLM หลอนข้อมูลแค่เป็นครั้งคราว แต่จริง ๆ แล้วเกิดบ่อยกว่านั้น

• ความย้อนแย้งของการลบผลลัพธ์ AI แบบแมนนวล

  • การต้องมานั่งลบผลลัพธ์ AI ที่ผิดพลาดแบบแมนนวลนั้นชวนให้รู้สึกย้อนแย้ง