"Chevy Tahoe ปี 2024 ที่ซื้อมาในราคาแค่ 1 ดอลลาร์"

[GN⁺]

ความเห็นจาก Hacker News

• ไม่เข้าใจการนำแชตบอตมาใช้กับงานบริการลูกค้า

  ผู้ใช้รายหนึ่งบอกว่าเขาไม่เข้าใจการนำแชตบอตมาใช้กับงานบริการลูกค้าเลย ผู้ใช้รายนี้รู้สึกว่าแชตบอตน่ารำคาญมาก และแทบไม่ต่างจากระบบตอบรับโทรศัพท์อัตโนมัติ ต้องผ่านหลายขั้นตอนกว่าจะได้คุยกับเจ้าหน้าที่จริง และหลังจากนั้นก็ยังต้องรออยู่นานพอสมควร แต่ท้ายที่สุดก็ยังย้ำว่าการแก้ปัญหาจำเป็นต้องคุยกับมนุษย์อยู่ดี

• คำเตือนเกี่ยวกับการส่งผลลัพธ์จาก ChatGPT ให้ลูกค้าโดยตรงโดยไม่กรอง

  มีคนหนึ่งแชร์เรื่องเตือนใจว่าทำไมการส่งผลลัพธ์จาก ChatGPT ให้ลูกค้าโดยตรงโดยไม่ผ่านการกรองจึงเป็นอันตราย พร้อมให้ลิงก์ที่เกี่ยวข้องซึ่งอธิบายข้อมูลเกี่ยวกับการโจมตีแบบใช้ทรัพยากรรูปแบบใหม่

• เรื่องรักระหว่างรถยนต์กับคนดังที่สร้างด้วย ChatGPT

  มีการพูดถึงผู้ใช้ Reddit ที่ใช้ ChatGPT สร้างเรื่องรักระหว่าง Chevy Tahoe กับ Chevy Chase พร้อมแนบภาพและลิงก์ที่เกี่ยวข้อง

• ความเข้าใจและความคาดหวังต่อ ChatGPT และ LLM

  ผู้ใช้คนหนึ่งขอให้คนที่เข้าใจ LLM และ ChatGPT อธิบายว่าคาดหวังให้เทคโนโลยีนี้ทำงานอย่างไร เขาตั้งคำถามว่าการฝังพรอมป์ต์ ChatGPT ลงในเว็บไซต์โดยตรงมีจุดประสงค์อะไร และ LLM ทั่วไปอย่าง ChatGPT จะตอบคำถามของลูกค้าได้อย่างไร เขาโต้แย้งว่าข้อมูลที่ ChatGPT มีนั้นเป็นเพียงสิ่งที่เข้าถึงได้แบบสาธารณะ ดังนั้นหากลูกค้าหาไม่เจอ ก็หมายความว่าเว็บไซต์ควรถูกออกแบบให้ดีกว่านี้

• มุมมองเชิงสงสัยต่อความเป็นประโยชน์ของ GPT แชตบอต

  ผู้ใช้รายหนึ่งบอกว่ากรณีที่รู้สึกว่า GPT แชตบอตมีประโยชน์จริง ๆ นั้นมีน้อยลงเรื่อย ๆ เขาตั้งคำถามว่าจำเป็นต้องมีตัวจำแนกระดับกลางเพื่อกรองคำสั่งที่ไม่จำเป็นหรือไม่ หรือควรใช้โมเดลที่ฝึกจากปฏิสัมพันธ์งานซัพพอร์ตลูกค้าจำนวนมากแทน และคิดว่าหากตรวจพบสิ่งผิดปกติก็ควรส่งต่อไปยังเจ้าหน้าที่มนุษย์ ถ้าเป็นเช่นนั้นก็ยิ่งตั้งคำถามว่าทำไมต้องใช้ GPT โดยวิจารณ์ว่ามันมีความรู้จำนวนมากที่กลับเป็นโทษต่อเป้าหมายที่แคบเฉพาะทาง

• กรณีตัวอย่างในอดีตของการต่อรองราคาผ่าน HTML form

  มีการเล่าถึงยุคที่เว็บไซต์ส่งราคาสินค้าผ่านองค์ประกอบ HTML และนักออกแบบฟรอนต์เอนด์ไม่ได้คาดคิดว่าค่าดังกล่าวจะไม่ถูกแก้ไขเมื่อคำสั่งซื้อถูกส่งกลับมาจากฝั่งไคลเอนต์ ระบบสั่งซื้อจะอ่านค่าที่ถูกดัดแปลงเหล่านี้และคำนวณยอดเงินตามนั้น

• ข้อสงสัยว่าแชตบอตที่บอกว่า "มีผลผูกพันทางกฎหมาย" จะมีผลจริงหรือไม่

  มีการชี้ว่าต่อให้แชตบอตพูดว่า "มีผลผูกพันทางกฎหมาย" ก็ไม่ได้แปลว่าจะมีผลเช่นนั้นจริง ๆ เช่นเดียวกับการแก้ไข HTML ของแคตตาล็อกเพื่อเปลี่ยนราคา ก็ไม่ได้ทำให้ใครมีสิทธิในสิ่งใดขึ้นมา

• การสูญเสียความเชื่อมั่นต่อระบบซัพพอร์ตลูกค้าที่ไม่ใช่มนุษย์

  มีการคาดการณ์ว่าในอนาคต หน้าซัพพอร์ตลูกค้าที่ไม่ใช่มนุษย์จะต้องเพิ่มข้อสงวนสิทธิ์ว่าเป็นเพียงคำแนะนำและไม่สามารถเชื่อถือได้ ซึ่งยิ่งทำให้ความเชื่อมั่นต่อระบบคอมพิวติ้งลดลงไปอีก

• แนวทางป้องกันการโจมตีแบบหลายชั้น

  ผู้ใช้คนหนึ่งแชร์วิธีที่เขาใช้ป้องกันการโจมตีผ่านพรอมป์ต์ที่ตนสร้างขึ้น โดยใช้แนวทางหลายชั้น เช่น เขียนข้อความนำเข้าใหม่ให้อยู่ในรูปแบบที่กำหนด และปฏิเสธหรือยอมรับเนื้อหาตามนโยบายด้านเนื้อหา ซึ่งเขาอธิบายว่าวิธีนี้ได้ผล

• กลิ่นอายคล้ายเหตุการณ์ "Pepsi, Where's My Jet?"

  มีคนบอกว่าเรื่องนี้ให้บรรยากาศคล้ายกับกรณี "Pepsi, Where's My Jet?" พร้อมแนบลิงก์ Wikipedia ที่เกี่ยวข้อง