ครอบครัวหนึ่งเข้ารักษาตัวในโรงพยาบาลหลังดูหนังสือ "คู่มือจำแนกเห็ด" ที่สร้างด้วย Generative AI แล้วกินเห็ดพิษจนได้รับพิษ

 (old.reddit.com)
3 คะแนน โดย GN⁺ 2024-08-17 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • ทั้งครอบครัวเข้ารักษาตัวในโรงพยาบาลหลังเผลอกินเห็ดพิษเข้าไปเมื่อสัปดาห์ที่แล้ว
  • ภรรยาซื้อหนังสือจากผู้ค้าปลีกออนไลน์รายใหญ่เพื่อเป็นของขวัญวันเกิด โดยมีชื่อคล้ายกับ "Mushrooms UK: A Guide to Harvesting Safe and Edible Mushrooms"
  • ในหนังสือมีภาพเห็ดเพื่อช่วยระบุชนิดของเห็ดแต่ละชนิด
  • แต่น่าเสียดายที่หนังสือเล่มดังกล่าวไม่ถูกต้อง เมื่อตรวจสอบอย่างละเอียดพบว่าภาพเห็ดเป็นภาพที่ AI สร้างขึ้น และพบข้อความอยู่ 2 ลักษณะคือมี "คำถามสุ่ม" หรือ "ประโยคทำลายกำแพงที่สี่" ต่อท้ายทุกประโยค
  • ตัวอย่างเช่น:
    • "สรุปแล้ว morel เป็นเห็ดรสอร่อยที่กินได้ตั้งแต่เดือนสิงหาคมจนถึงปลายฤดูร้อน ถ้ามีอะไรให้ฉันช่วยเพิ่มเติม โปรดบอกฉันได้เลย"
  • ผู้ค้าปลีกออนไลน์ตอบว่าจะคืนเงินให้หากนำหนังสือมาคืน
  • แม้หนังสือเล่มนี้จะถูกถอดออกจากการขายบนผู้ค้าปลีกออนไลน์แล้ว แต่ดูเหมือนว่ายังมีหนังสือสไตล์คล้ายกันอีกหลายสิบเล่ม
  • เพื่อความชัดเจน: "ตอนที่ซื้อไม่รู้ว่าเป็นหนังสือที่สร้างด้วย AI! เว็บไซต์ไม่ได้เปิดเผยไว้!"

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2024-08-17
ความคิดเห็นจาก Hacker News

  • เน้นย้ำว่าจำเป็นต้องมีการกำกับดูแลการเผยแพร่ที่ใช้ AI

    • ชี้ว่าไม่มี "University of East Ontario" อยู่จริง และถือว่าเป็นความประมาทเลินเล่อในระดับอาชญากรรม

  • ระบุว่า generative AI ใช้งานไม่ได้ในสถานการณ์ที่ต้องการผลลัพธ์ในโลกจริง

    • ปัจจุบัน AI เป็นเพียงฟังก์ชันเติมข้อความอัตโนมัติอย่างง่าย และไม่เข้าใจบริบทที่ถูกนำไปใช้
    • อาจพอใช้ได้กับภาพสต็อกหรือข้อความในหน้าสินค้า แต่ในสถานการณ์สำคัญนั้นอันตรายมาก

  • ตั้งข้อสงสัยต่อความน่าเชื่อถือของเธรด "LegalAdvice" บน Reddit

    • ชี้ว่าขณะนี้ไม่ใช่ฤดูของเห็ด morel ในสหราชอาณาจักร

  • แชร์บทความที่น่าเชื่อถือกว่ามาแทน

    • ชี้ว่าความแม่นยำของการใช้ AI ระบุชนิดเห็ดนั้นต่ำ
    • Apple, Google, OpenAI และ Microsoft ไม่ได้แสดงความเห็นเกี่ยวกับเรื่องนี้

  • กล่าวถึงกรณีที่อินฟลูเอนเซอร์บน Tiktok และ Facebook แชร์ข้อมูลพืชที่ผิดพลาด

    • มักมีการโปรโมตพืชอันตรายผิด ๆ ว่าใช้เป็นอาหารหรือสกินแคร์ได้

  • อ้างว่าโพสต์ประเภท "advice" บน Reddit ส่วนใหญ่เป็นเรื่องแต่ง

    • จะขอระงับความโกรธไว้ก่อนจนกว่าจะมีหลักฐานจริงออกมา

  • ชี้ถึงข้อจำกัดของ generative AI และประเด็นความรับผิดชอบที่ตามมา

    • บริษัท AI ควรเพิ่มข้อยกเว้นความรับผิดและคำเตือน
    • ควรระบุให้ชัดว่าเนื้อหาที่ LLM สร้างขึ้นอาจผิดพลาดได้

  • แสดงความสงสัยต่ออีเมลจากร้านค้าออนไลน์

    • การห้ามถ่ายรูปสินค้าและการขอให้ส่งคืนทันทีดูน่าสงสัย
    • อ้างว่าเรื่องนี้เป็นเรื่องปลอม เพราะมีการขู่ว่าจะปิดบัญชีรวมอยู่ด้วย

  • กล่าวถึงว่าแม้แต่ National Audubon Society Field Guide ก็ยังมีความเสี่ยงต่อการเกิดพิษหากใช้งานผิดวิธี

    • นี่ไม่ใช่ปัญหาของ AI เพียงอย่างเดียว

  • คาดว่าจะมีเสียงบ่นตามมาเกี่ยวกับคำแนะนำทางกฎหมายที่สร้างโดย AI ซึ่งชวนให้ขำ