แอปวางแผนมื้ออาหาร AI ของซูเปอร์มาร์เก็ตแนะนำสูตรที่ก่อให้เกิดก๊าซคลอรีน

 (theguardian.com)
2 คะแนน โดย GN⁺ 2023-08-12 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • Savey Meal-bot ของ Pak ‘n’ Save เครือซูเปอร์มาร์เก็ตในนิวซีแลนด์ เดิมเป็นเครื่องมือที่แนะนำมื้ออาหารจากวัตถุดิบที่มีอยู่ในบ้าน แต่กลับสร้างชุดผสมอันตรายได้ตามข้อมูลที่ป้อนเข้าไป
  • แทนที่จะช่วยให้ใช้วัตถุดิบที่เหลืออยู่ได้คุ้มค่าท่ามกลางค่าครองชีพที่สูงขึ้น เมื่อผู้ใช้ใส่ ของใช้ในบ้าน เข้าไป ก็ได้ผลลัพธ์อย่างก๊าซคลอรีนและแซนด์วิชพิษออกมา
  • “aromatic water mix” เป็นชุดผสมที่สามารถทำให้เกิด ก๊าซคลอรีน ได้ แต่บอตกลับอธิบายเหมือนเป็นเครื่องดื่มไม่มีแอลกอฮอล์ที่ช่วยดับกระหายและทำให้ประสาทสัมผัสสดชื่น
  • ในการทดลองบนโซเชียลมีเดีย มีการแชร์ตัวอย่างอย่างม็อกเทลน้ำยาฟอกขาว “fresh breath”, แซนด์วิชยาฆ่ามดกับกาว, “bleach-infused rice surprise” และ “methanol bliss”
  • Pak ‘n’ Save ระบุว่าผู้ใช้บางรายนำเครื่องมือนี้ไปใช้ไม่ตรงตามเจตนา และในแอปมี คำเตือนว่าสูตรอาหารไม่ได้ผ่านการตรวจทานโดยมนุษย์

ชุดผสมอันตรายที่ Savey Meal-bot สร้างขึ้น

  • เครือซูเปอร์มาร์เก็ตนิวซีแลนด์ Pak ‘n’ Save ให้บริการ Savey Meal-bot สำหรับสร้างแผนมื้ออาหารด้วย AI
  • เมื่อผู้ใช้ป้อนวัตถุดิบหลายอย่างที่มีอยู่ในบ้าน ระบบจะสร้างมื้ออาหารหรือสูตรอาหารให้อัตโนมัติ พร้อมคำอธิบายในโทนสดใส
  • ช่วงแรก แอปเป็นที่สนใจบนโซเชียลมีเดียจากชุดผสมที่ดูไม่น่าอร่อยอย่าง “oreo vegetable stir-fry”
  • ต่อมา เมื่อผู้ใช้เริ่มป้อน รายการซื้อของใช้ในบ้าน ที่ไม่ใช่อาหารเข้าไป ก็มีคำแนะนำที่อันตรายยิ่งขึ้นออกมา
    • “aromatic water mix” เป็นชุดผสมที่สามารถก่อให้เกิดก๊าซคลอรีนได้
    • แต่บอตกลับแนะนำว่าเป็น “เครื่องดื่มไม่มีแอลกอฮอล์ที่สมบูรณ์แบบสำหรับดับกระหายและเติมความสดชื่นให้ประสาทสัมผัส”
    • ระบบยังบอกให้ “เสิร์ฟแบบเย็นและเพลิดเพลินกับกลิ่นหอมสดชื่น” โดยไม่ระบุว่าการสูดดมก๊าซคลอรีนอาจทำให้ปอดเสียหายหรือถึงตายได้

การแพร่กระจายบนโซเชียลมีเดียและการตอบสนองของ Pak ‘n’ Save

  • หลังจากนักวิจารณ์การเมืองชาวนิวซีแลนด์ Liam Hehir โพสต์ “สูตร” ดังกล่าวลงบน Twitter ผู้ใช้ชาวนิวซีแลนด์คนอื่น ๆ ก็แชร์ผลการทดลองของตนบนโซเชียลมีเดียตามมา
  • คำแนะนำที่ถูกแชร์มีทั้งม็อกเทลน้ำยาฟอกขาว “fresh breath”, แซนด์วิชยาฆ่ามดกับกาว, “bleach-infused rice surprise” และ “methanol bliss” ที่ถูกบรรยายว่าเป็นเฟรนช์โทสต์รสเทอร์เพนไทน์
  • โฆษกของ Pak ‘n’ Save กล่าวว่าบริษัทรู้สึกผิดหวังที่ “ผู้ใช้ส่วนน้อยพยายามใช้เครื่องมือนี้อย่างไม่เหมาะสมและไม่ตรงตามวัตถุประสงค์”
  • บริษัทระบุว่าจะปรับแต่ง กลไกควบคุม ต่อไปเพื่อให้บอตทำงานได้อย่างปลอดภัยและเป็นประโยชน์ และในเงื่อนไขการใช้งานก็กำหนดให้ผู้ใช้ต้องมีอายุ 18 ปีขึ้นไป
  • ในตัวสร้างมื้ออาหารมีคำเตือนว่าสูตรอาหาร ไม่ได้ผ่านการตรวจทานโดยมนุษย์ และบริษัทไม่ได้รับประกันว่าสูตรใด ๆ จะครบถ้วน สมดุล หรือเหมาะสมต่อการบริโภค
  • คำเตือนยังระบุว่าผู้ใช้ต้องใช้วิจารณญาณของตนเองก่อนพึ่งพาหรือปรุงตามสูตรที่ Savey Meal-bot สร้างขึ้น

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2023-08-12
ความคิดเห็นจาก Hacker News

  • รายละเอียดค่อนข้างน่าสนใจมาก และพาดหัวก็เป็นแค่ “ออร์เดิร์ฟ” จริง ๆ
    เป็นเครื่องมือที่ให้ใส่วัตถุดิบที่มีอยู่ในบ้าน แล้วสร้างแผนมื้ออาหารหรือสูตรอาหารให้อัตโนมัติ แต่เนื้อหาคือมันแนะนำสิ่งอย่าง ก๊าซคลอรีนที่อันตรายถึงชีวิต, “แซนด์วิชขนมปังพิษ”, มันฝรั่งอบยากันยุง, ม็อกเทลน้ำยาฟอกขาว “ลมหายใจสดชื่น”, แซนด์วิชยาฆ่ามดกับหญ้า, “เซอร์ไพรส์ข้าวผสมน้ำยาฟอกขาว”, “เมทานอลบลิส” อะไรทำนองนั้น
    สูตรที่ชื่อว่า “ส่วนผสมน้ำหอมกรุ่น” สามารถสร้างก๊าซคลอรีนได้ แต่บอตแนะนำว่าเป็น “เครื่องดื่มไร้แอลกอฮอล์ที่สมบูรณ์แบบ ช่วยดับกระหายและทำให้ประสาทสัมผัสสดชื่น” และบอกให้ “เสิร์ฟเย็น ๆ แล้วเพลิดเพลินกับกลิ่นหอมสดชื่น” แต่ไม่ได้ระบุว่าการสูดดมก๊าซคลอรีนอาจทำให้ปอดเสียหายหรือเสียชีวิตได้
    โฆษกซูเปอร์มาร์เก็ตกล่าวว่า “น่าผิดหวังที่ผู้ใช้จำนวนน้อยพยายามใช้เครื่องมือนี้อย่างไม่เหมาะสมและผิดไปจากเจตนา” แต่ดูเหมือนจะไม่เข้าใจว่าความเป็นไปได้ที่จะได้ผลลัพธ์น่าสงสัยนั้นไม่ได้เกิดจากการใช้งานไม่เหมาะสม แต่ ฝังอยู่ในตัวเครื่องมือเอง

    • ตอนอายุหกขวบ ผมได้เรียนรู้ว่า ใส่ขยะเข้าไป ก็ได้ขยะออกมา และก็ไม่มีอะไรเปลี่ยนไป
      LLM ก็เหมือนกับยุคคอมพิวเตอร์ 8 บิต และเหมือนกับเมื่อเกือบ 200 ปีก่อนที่ Babbage เคยบอกว่า “ผมไม่สามารถเข้าใจความสับสนทางความคิดที่ทำให้เกิดคำถามแบบนั้นได้อย่างถูกต้อง”
    • อินพุตเองในกรณีนี้ก็น่าสงสัย และอินพุตนั้นถูกสร้างโดย ผู้พัฒนาแอป
      ใส่ขยะเข้าไปก็ได้ขยะออกมา ดังนั้น LLM แทบไม่มีทางชนะตั้งแต่แรกแล้ว
      นี่ไม่ใช่เรื่องของ LLM แต่เป็นเรื่องของการเอาใบมีดที่ไม่มีอุปกรณ์ป้องกันไปใส่ในของเล่นเด็ก
      ในกรณีแบบนั้น เราจะไม่โทษผู้ผลิตใบมีด ไม่เรียกร้องให้ทำใบมีดทุกชิ้นที่ขายให้ทื่อ และคงไม่ถกกันว่าจะมอบอำนาจผูกขาดด้านกฎระเบียบให้ผู้ผลิตใบมีดไม่กี่รายที่สัญญาเรื่อง “ความปลอดภัย” แล้วให้ขายมีดคม ๆ เฉพาะกับเพื่อน ๆ ส่วนคนอื่นแจกช้อนให้
    • ถ้ามันไม่ใช่บั๊กที่อาจเกิดขึ้นได้ แต่เป็นแค่ อินพุตผู้ใช้ที่แย่ ก็ไม่อาจคาดหวังให้บริษัทต้องตอบเรื่องนั้นได้
      ที่นี่ไม่มีใครทำผิด
      บริษัทปล่อยเครื่องมือออกมา ผู้ใช้ก็ลองใช้ในแบบที่ไม่ได้ตั้งใจเหมือนเคย และหนังสือพิมพ์ก็แค่รายงานเรื่องตลกที่เกิดขึ้นจากผลลัพธ์นั้น
      ต่อให้มันบอกให้ใช้น้ำยาฟอกขาวโดยไม่มีพรอมป์ แล้วมีคนกินผลลัพธ์นั้นเข้าไป ก็ยังอยู่ในหมวดคล้าย ๆ กับการเชื่อระบบนำทางอย่างมืดบอดจนขับรถลงแม่น้ำ
      ไม่มีเทคโนโลยีใดแทนที่สามัญสำนึกได้
    • จู่ ๆ ก็คิดถึง Still Alive ของ Jonathan Coulton อย่างแรง แน่นอนว่าคงเป็นเรื่องบังเอิญ
    • คำว่า “ความเป็นไปได้ของผลลัพธ์น่าสงสัยฝังอยู่ในตัวเครื่องมือ” นั้น ถ้าแทนเครื่องมือนี้ด้วยคนที่ถูกฝึกมาให้เขียนข้อความแบบนี้เท่านั้น ก็ทำแบบเดียวกันได้
      เพียงแต่สูตรอาหารที่มนุษย์เขียนมักมีคนอื่นตรวจทาน ซึ่งไม่ค่อยเข้ากับไอเดียที่จะสร้างอะไรสักอย่างที่ไม่ต้องมีมนุษย์อยู่ในวงจรคำขอ-คำตอบเลย

  • จากประโยคที่ว่า “เมื่อลูกค้าเริ่มลองใส่รายการช้อปปิ้งในบ้านที่หลากหลายขึ้น” ก็นับว่ามันทำงานตามที่ตั้งใจไว้
    ถ้าขอให้ทำสูตรอาหารที่มีผลิตภัณฑ์ทำความสะอาดแบบคลอรีน มันก็ทำให้
    บทความไม่ได้บอกว่าผู้ใช้ใส่วัตถุดิบอะไรเข้าไปแน่ ๆ ซึ่งน่าจะเป็นเพราะเหตุและผลจะชัดเจนเกินไปสำหรับทุกคน
    บทความ Guardian สัปดาห์หน้า: ผู้บริโภคที่ใช้ค้อนทุบนิ้วโป้งตัวเองเรียกร้องให้ร้านเอาค้อนออกจากชั้นวาง แม้เงื่อนไขการใช้งานจะระบุว่าใช้ได้เฉพาะอายุ 18 ปีขึ้นไป แต่ตอนชำระเงินไม่มีการตรวจอายุ!

    • คำตอบที่ควรคาดหวังคือ “วัตถุดิบเหล่านั้นกินไม่ได้ ดังนั้นฉันไม่สามารถให้สูตรอาหารที่มีสิ่งเหล่านั้นได้”
      อาจแก้ได้ด้วยการใส่พรอมป์ให้โมเดลตรวจสอบ ความปลอดภัยของวัตถุดิบ
      แน่นอนว่าพรอมป์ทุกแบบมีโอกาสถูกเลี่ยงได้ แต่วิธีวางยาตัวเองน่าจะหาได้จากที่อื่นด้วยความพยายามน้อยกว่านี้
    • ในฐานะผู้ใช้ เราคาดหวังว่าระบบจะ “ไม่ก่ออันตราย”
      ก็จริงที่ทันทีที่ใส่น้ำยาฟอกขาวเป็นวัตถุดิบ ทุกอย่างก็จบแล้ว แต่ระบบที่ดีควรกรองมันออก
      ปัญหาที่ลึกกว่านั้นคือวัตถุดิบบางอย่างอาจไม่ดีต่อสุขภาพ แต่ระบบก็ปล่อยผ่านไปเฉย ๆ
      น้ำมันละหุ่งที่ไม่ผ่านความร้อนมี ไรซิน อยู่ และน้ำมันที่ผ่านความร้อนแล้วก็อาจกระตุ้นการบีบตัวของมดลูกในหญิงตั้งครรภ์ได้
      ไก่ดิบอาจทำให้ติดซัลโมเนลลาได้
      ระบบสูตรอาหารที่เหมาะสมไม่ควรส่งคืนอะไรอย่าง “ซูชิไก่บนผักราดน้ำมันละหุ่งเล็กน้อย” โดยไม่มีคำเตือนร้ายแรง แต่ระบบนี้ดูเหมือนจะทำเช่นนั้นได้
      การยื่นระบบแบบนี้ให้ผู้ใช้ที่ไม่รู้อะไรเลยเป็นเรื่องแย่ และควรรู้สึกละอาย
    • งั้นคุณเลือกที่จะให้เหตุผลว่า แอปสูตรอาหารรับอินพุตเป็นสารเคมีได้ เพื่อโทษการรายงานของเว็บไซต์ข่าว และจะไม่มองปัญหางั้นหรือ?
    • ไม่ใช่อย่างนั้น ถ้าให้บริการแบบนั้น ก็ควรสร้างผลลัพธ์ที่เป็น อาหารที่กินได้ และมีคุณค่าทางโภชนาการที่ถูกต้อง
    • ถูกต้อง ผู้ใช้ขอสูตรอาหารจากแค่น้ำ น้ำยาฟอกขาว และแอมโมเนีย ซึ่งแม้จะตลก แต่แทบไม่ใช่ข่าวเลย
      https://twitter.com/PronouncedHare/status/168736440337978982...

  • เข้าใจทั้งความสนุก ความกลัว และความโกรธเกี่ยวกับแอป AI
    แต่ไม่มีเรื่อง ความรับผิดชอบของมนุษย์แต่ละคน บ้างหรือ?
    ในยุโรปมีตำนานเมืองว่า ไมโครเวฟทุกเครื่องในสหรัฐฯ ต้องติดคำเตือนว่าอย่าเอาสัตว์เลี้ยงหรือทารกไปอบให้แห้ง
    คำวิจารณ์ AI จำนวนมาก รวมถึงคำวิจารณ์ที่นี่ ฟังดูคล้าย ๆ แบบนั้น
    ถ้ามีเซลล์สมองสักสองเซลล์ก็น่าจะรู้ว่าต้องตรวจสอบผลลัพธ์ด้วยสามัญสำนึกบ้างไม่ใช่หรือ?
    เหมือนที่ทุกคนควรรู้ว่า ต่อให้ระบบนำทาง “AI” พาไปทะเล ก็ไม่ควรขับรถลงทะเลจริง ๆ ใช่ไหม? ไม่ใช่เหรอ?
    https://www.insider.com/tourists-hawaii-gps-drove-car-into-w...

    • พูดถูกก็จริง แต่บทความพลาดประเด็นสำคัญ
      มันไปโฟกัสส่วนชวนหวือหวาทำนองว่าผู้คนจะทำตามสูตรนี้แบบไม่ลืมหูลืมตา กินเข้าไปแล้วตาย ซึ่งแน่นอนว่าผลจริงคงไม่เป็นแบบนั้น
      แต่ถ้าตัดมุมมองที่ผิดเพื่อเรียกคลิกออกไป ก็ยังมีเรื่องจริงอยู่
      เป็นเรื่องที่คนสายเทคนิครู้และเข้าใจอยู่แล้ว แต่น่าสนใจและควรค่าแก่การถกเถียง
      ผลิตภัณฑ์ “AI” แบบนี้ หรือก็คือ LLM ที่เป็นรากฐานของมัน ไม่สามารถให้เหตุผลแบบสามัญสำนึกของมนุษย์ได้
      ใกล้เคียงก็ยังไม่ได้
      นั่นไม่ได้หมายความว่ามันไม่ใช่เทคโนโลยีที่น่าทึ่ง แต่เมื่อเทคโนโลยีนั้นถูกนำไปใช้ในผลิตภัณฑ์ ข้อจำกัดก็ชัดเจนขึ้น
      ประเด็นนี้อาจน่าเบื่อกว่า “AI ทำสูตรอาหารที่จะฆ่าคุณ!!!” อยู่บ้าง แต่รากของเรื่องนี้อยู่ตรงนั้น และไม่ใช่เรื่องเล็กน้อย
    • คำว่า “ต้องตรวจสอบ” ดูเหมือนจะลืมไปว่า บางครั้งคนเราไม่รู้ว่าสูตรอาหารอาจนำไปสู่ผลลัพธ์ที่อันตรายได้
      การไม่ควรกระโดดลงจากหน้าผาเป็นเรื่องพื้น ๆ แต่ผลลัพธ์ของ ปฏิกิริยาเคมี บางอย่างอาจรู้ได้ไม่ง่าย
      เหมือนกรณีครูเคมีที่ได้รางวัลดาร์วิน เพราะเทสารเคมีสุ่ม ๆ ในห้องแล็บลงท่อระบายน้ำเพื่อกำจัด แล้วคาดเดาปฏิกิริยาไม่ได้ คนทั่วไปก็มีแนวโน้มสูงที่จะไม่รู้ว่าส่วนผสมแบบไหนจะสร้างอะไรขึ้นมา
      เพราะฉะนั้นจึงต้องมีแหล่งข้อมูลที่เชื่อถือได้
    • เคยเจอผู้คนบ้างไหม?
      อย่างแรก บริษัทเทคโนโลยีทำการตลาดโซลูชันของตัวเองมาหลายสิบปีว่าเหมือนเวทมนตร์และสมบูรณ์แบบ
      แล้วตอนนี้ถ้าสาธารณชนเชื่อแบบนั้น จะเป็นความผิดของสาธารณชนหรือ?
      อย่างที่สอง ต่อให้เป็นคนช่างสงสัย ถ้าเทคโนโลยีหนึ่งถูกต้องใน 90% ของกรณี ก็ง่ายที่จะถือไปเองว่าอีก 10% ที่เหลือก็น่าจะถูกด้วย และผลก็คือความประมาทที่เข้าใจได้
      นักปีนเขาจำนวนมากตายเพราะแบบนั้น และโดยปกติพวกเขาเป็นคนที่มีทักษะสูงและระมัดระวังมาก
      ที่แย่กว่านั้นคือ เมื่อเครื่องจักรผิด มันอาจผิดใน วิธีที่น่าประหลาดใจและคาดเดาไม่ได้
      อย่างที่สาม ผู้ใช้อาจตรวจสอบเอาต์พุตไม่ได้เพราะความไม่สมมาตรของข้อมูล
      เช่น ถ้าไม่รู้อะไรเกี่ยวกับฮาวายเลย หรืออ่านแผนที่ไม่เป็น จะรู้ได้อย่างไรว่ากำลังถูกพาไปสู่หายนะ?
      LLM มีปัญหานี้ใหญ่มาก
      มันถูกทำการตลาดราวกับเป็นปาฏิหาริย์ บางคนถึงกับนึกไปถึงความเป็นไปได้ที่จะมีสติรับรู้ ในหลายกรณีก็ถูกต้อง แต่บางครั้งผิดมาก และเวลาผิดก็ผิดแบบแปลกสุด ๆ อีกทั้งคนที่ไม่มีทักษะหรือความรู้พอจะตรวจสอบเอาต์พุตก็ใช้งานได้ง่าย
      ถ้าอย่างนั้น เรื่องแบบนี้ก็ไม่เห็นน่าแปลกใจตรงไหน
    • เมื่อก่อนผมคงเห็นด้วย แต่ตลอดกว่า 20 ปีที่ผ่านมา เราสอนผู้คนว่า คอมพิวเตอร์โดยทั่วไปเชื่อถือได้ และหลายคนยังแยก LLM ออกจากคอมพิวเตอร์ในความหมายกว้าง ๆ ไม่ออก
      แน่นอนว่าพวกเขารู้คำพูดที่ว่า “อย่าเชื่อสิ่งที่อ่านบนอินเทอร์เน็ต” แต่นั่นหมายถึงคนอื่น ๆ บนอินเทอร์เน็ต
      ผู้คนคุ้นเคยกับการมองว่าตัวคอมพิวเตอร์เองเป็นสิ่งที่ให้ผลแน่นอนและเชื่อถือได้
    • บทความนี้บอกแค่ว่า AI สร้างสูตรก๊าซคลอรีน ไม่ได้บอกว่ามีคนทำตามจริง
      และทุกวันนี้ผู้คนก็ยังเอาสิ่งมีชีวิตใส่ไมโครเวฟอยู่ดี ต่อให้มีคำเตือน เรื่องแบบนั้นก็ยังเกิดขึ้น

  • คำเตือนที่ติดอยู่กับเครื่องมือวางแผนมื้ออาหารระบุว่าสูตรอาหาร “ไม่ได้รับการตรวจสอบโดยมนุษย์” และบริษัทบอกว่าไม่ได้รับประกันว่าสูตรใด ๆ จะ “ครบถ้วนหรือสมดุล หรือเหมาะสมต่อการบริโภค”
    ให้ความรู้สึกประมาณว่า “เราไม่รู้ว่าระบบทำงานได้ไหม มันอาจเป็นขยะ อาจทำออกมาไม่อร่อย หรือถึงขั้นให้ผลลัพธ์ถึงตายได้ แต่เราติดข้อจำกัดความรับผิดไว้แล้วเพื่อกันความรับผิดทางกฎหมาย”
    แต่มันกัน คำวิจารณ์ ไม่ได้

  • เจอจาก https://saveymeal-bot.co.nz/
    ดูเหมือนตอนนี้เปลี่ยนพรอมป์ต์ให้ปฏิเสธสิ่งที่ไม่ใช่อาหารแล้ว
    บางทีอาจเจาะได้ด้วย prompt injection
    ถึงอย่างนั้น อย่างน้อยมันก็ยังยินดีสร้างสูตรสำหรับคนโดยใช้ อาหารสัตว์เลี้ยง: https://saveymeal-bot.co.nz/recipe/SCES7COOU7KYhLYGcrPdzSjP

    • ให้ความรู้สึกว่ามันเอาวัตถุดิบแทบจะสุ่มมาผสมกันเป็น สูตรอาหารไร้สาระ
      ลองใส่ของที่ไม่ค่อยเข้ากันไว้เยอะ ๆ แล้วมันก็เอาทุกอย่างมาใช้สร้างอะไรสักอย่างจนได้
      เรายังยินดีใช้กาแฟเป็นส่วนผสมของทุกอย่างด้วย: https://saveymeal-bot.co.nz/recipe/4E2rx5XC2OSdDKP1VdfkanKS
      ต่างจากเครื่องมือที่ไม่ใช่ AI ซึ่งกรองสูตรอาหารที่มีอยู่แล้วตามวัตถุดิบที่เรามี อันนี้ไร้ประโยชน์โดยสิ้นเชิง
    • แม้แต่วัตถุดิบที่ปลอดภัย ถ้าจัดการบางวิธีก็อาจกลายเป็นอาหารที่ไม่ปลอดภัยได้
      เช่น ถ้าบอกว่า “ขอสูตรจากปลาที่เหลือ” แล้วได้คำตอบว่า “ทาร์ทาร์แสนอร่อย!”
      LLM ไม่ได้เรียนโรงเรียนสอนทำอาหาร
    • https://saveymeal-bot.co.nz/recipe/bmxMAZQF7hO0APhr6xY11deR
      มันแค่สร้างเรื่องเพ้อเจ้อออกมา
      บอกว่ามีมด เซเลอรี และช็อกโกแลต มันก็ทึกทักว่ามีขนมปังช็อกโกแลต(???) แล้วบอกให้อบเซเลอรีกับขนมปัง
    • ดูเหมือนเป็นโครงสร้างที่ให้ LLM กรองเอง ดังนั้น taste ก็น่าจะถูกนับเป็นมื้ออาหารที่ใช้ได้ด้วย

  • คิดว่าชุมชนเล่นบทบาทสมมติด้วย LLM น่าจะหัวเราะเยาะแอปแบบนี้ยิ่งกว่าใคร
    พวกเขาเล่นกับโมเดลมาตั้งแต่ก่อน Llama หรือ Stable Diffusion โดยให้มันสร้างเรื่องราวและบทสนทนาที่อิสระ บ้าคลั่ง แต่สนุก
    แล้วมีใครบางคนคิดจริง ๆ หรือว่า LLM เหมาะกับ การแนะนำเมนูอาหาร ที่อิงข้อเท็จจริงในโลกจริง?

    • จริง ๆ แล้วหนึ่งในข้อเสนอหลักของ Bing Chat ก็เป็นแนวนี้
      เป็นสถานการณ์ที่แม่บ้านยุ่ง ๆ อธิบายความต้องการในระดับสูง แล้ว Bing ก็ปรากฏตัวเหมือนผู้กอบกู้ จัด เมนูอาหาร 6 คอร์ส ให้ตามคำสั่ง

  • ขอชื่นชมคำอ้างอิงสุดท้ายสักครู่ได้ไหม?
    บางครั้งก็มีประโยคที่สะท้อนจิตวิญญาณของยุคสมัย เช่น “เราเดินเข้า Mordor ไปเฉย ๆ ไม่ได้” หรือ “All your base are belong to us”
    “คุณต้องใช้วิจารณญาณของตัวเองเสมอก่อนทำสูตรอาหารใด ๆ ที่ Savey Meal-bot สร้างขึ้น” อาจเป็นมากกว่าคำเตือนที่ติดอยู่กับของเล่นทางการตลาดของเครือร้านขายของชำ แต่เป็นคำวิจารณ์ที่ใหญ่กว่าต่อ สภาพสังคมของเรา

    • ส่วนใหญ่คงเพราะชื่อและถ้อยคำ แต่ฟังดูเหมือนประโยคที่ตลกนิด ๆ จากรายการไซไฟเก่า ๆ จริง ๆ
    • “Do not taunt Happy Fun Ball.”

  • คลอรีนเนี่ยนะ
    จำได้ราง ๆ ว่าเมื่อไม่กี่เดือนก่อน ตอนคุยเรื่อง AI alignment และเหตุผลที่ไม่ควรเปิดให้สาธารณะเข้าถึงโมเดลที่ไม่มีข้อจำกัดแบบอนาธิปไตย ผมเคยยกตัวอย่างว่ารู้วิธีทำคลอรีนจากของในครัวอยู่สองวิธี
    ระดับความรู้น่าจะประมาณเกรด B วิชาเคมี GCSE ของอังกฤษ

    • แค่เป็นผู้เล่น Factorio หรือค้น Google เร็ว ๆ ก็รู้ได้ว่าน้ำเกลือ + อิเล็กโทรลิซิส = คลอรีน + ไฮโดรเจน
      ผมว่าความรู้นี้ควรเป็นสามัญสำนึก เพื่อไม่ให้ผู้คนทำการทดลองง่าย ๆ แล้วเผลอรมแก๊สตัวเอง
      เมื่อไม่กี่สัปดาห์ก่อนมี YouTuber คนหนึ่งพยายามทำเครื่องขับเคลื่อนแบบแมกนีโตไฮโดรไดนามิก โดยจ่ายไฟฟ้าแรงสูงทำอิเล็กโทรลิซิสในน้ำเกลือเพื่อสร้างการไหลของกระแส แล้วเขาก็กำลังถูกพิษโดยไม่รู้ตัว
    • “โมเดลที่ถูกจำกัด” งั้นหรือ ขอให้โชคดีกับการจำกัดมันแล้วกัน
      อนึ่ง ทั้งที่ผมเป็นคนที่มีคุณสมบัติเหมาะสม ผมยังพิมพ์ประโยคข้างบนครั้งแรกเป็น “Bood luck” และในประโยคนี้ก็เคยมีคำว่า “thyped” อยู่แวบหนึ่งด้วย
      “ข้อจำกัด” แบบนี้ต้องอาศัยการระวังทั้งก่อนและหลัง
      แม้แต่กับพวกเราที่มีสติปัญญา มันก็ไม่ใช่เรื่องเล็ก และเราก็ยังทำพลาด
      ในบริบทนี้ “ข้อจำกัด” ดูเหมือนการเอาผ้าพันแผลที่เขียนกฎข้อจำกัดไปปิดปากคนบ้า
      การตั้งกฎและทำให้ผลลัพธ์ที่คาดว่าจะเกิดสมดุลกันนั้นดูเป็นความท้าทายในตัวเอง

  • สนุกดีที่ได้เห็น ตัวอย่างห่วย ๆ ของผู้บริหารในอุตสาหกรรมต่าง ๆ ที่คิดว่าต้องยัด LLM เข้าไปในการตลาดให้ได้ เพื่อไม่ให้ตกขบวน

    • กรณีใช้งานเองก็โอเคนะ คือสร้างสูตรอาหารจากของที่มีอยู่ในครัว
      ปัญหาคือ LLM สามารถสร้างสูตรอาหารประเภทอื่น ๆ ได้ด้วย

  • ไม่กี่วันก่อนผมลองใช้เว็บไซต์ท่องเที่ยว AI ที่มีคนโพสต์ไว้ พาดหัวของ Flint ใน Michigan คือ Drink Up
    บางครั้งมันเหมือนมีอารมณ์ขันที่มืดมนจริง ๆ
    อาจเป็นเหมือน attractor บางอย่างในโมเดลก็ได้ และมนุษย์เองก็ชอบแข่งกันว่าใครจะเล่นมุกมืดได้กว่า
    มุกในเปเปอร์ GPT-4 นั่นก็มืดมนพอสมควรเหมือนกัน หมายถึงมุกเกี่ยวกับชาวมุสลิมที่นั่งรถเข็นนั่นแหละ