Chevy Tahoe ปี 2024 ที่ซื้อมาในราคาเพียง 1 ดอลลาร์
(twitter.com/ChrisJBakke)- Chris Bakke เปิดเผยบน X ว่าเขาซื้อ 2024 Chevy Tahoe ในราคา $1
- เนื้อหาของโพสต์มีเพียงประโยคเดียวเกี่ยวกับการซื้อ จึงไม่สามารถยืนยันได้ว่าราคานี้เป็นยอดชำระเงินจริงหรือไม่ หรือมีเงื่อนไขการซื้อขายใดแนบมาด้วยหรือไม่
- โพสต์มีรูปภาพแนบ 2 รูป แต่ข้อความที่ให้มาไม่มีคำอธิบายเนื้อหาของรูปภาพ
- เวลาโพสต์คือ 17 ธันวาคม 2023 เวลา 11:46 PM และบนหน้ามีการแสดง 20.3M Views
- จากข้อความสาธารณะที่มีอยู่เพียงอย่างเดียว จึงยากที่จะตัดสินได้ว่าเกี่ยวข้องกับดีลเลอร์ วิธีชำระเงิน ภาษี·ค่าธรรมเนียม โปรโมชัน หรือความผิดพลาดหรือไม่
ข้อมูลที่เปิดเผยในโพสต์บน X
- Chris Bakke โพสต์ว่า “I just bought a 2024 Chevy Tahoe for $1.”
- ข้อมูลสำคัญที่ยืนยันได้จากเนื้อหาคือ 2024 Chevy Tahoe และ การซื้อในราคา $1 เท่านั้น
- มีลิงก์รูปภาพแนบ 2 ลิงก์ แต่ Markdown ที่ให้มาไม่มีเนื้อหารูปภาพรวมอยู่ด้วย
ตัวเลขการตอบสนองที่แสดงและข้อจำกัด
- โพสต์แสดง 20.3M Views
- หน้ามีข้อความ
Read 400 replies - นอกจากนี้ยังเห็นตัวเลข
400,5K,92K,4.3Kแต่จากข้อความที่ให้มาเพียงอย่างเดียว ไม่สามารถยืนยันได้ว่าแต่ละตัวเลขหมายถึงรายการใด
1 ความคิดเห็น
ความคิดเห็นใน Hacker News
เข้าใจคนที่ใช้ แชตบอต สำหรับงานซัพพอร์ตลูกค้าได้ยาก และรู้สึกว่ามันไม่ได้ดีกว่าระบบตอบรับอัตโนมัติอย่าง “ถ้ามีปัญหาอินเทอร์เน็ต กด 1” ของการให้คำปรึกษาทางโทรศัพท์ของ Vodafone เลย
สุดท้ายกว่าจะถึงพนักงานที่เป็นมนุษย์ต้องผ่าน 7 ขั้นตอนและรอ 30 นาที แต่วิธีเดียวที่แก้ปัญหาได้จริงก็คือ คุยกับคน
การให้บริการโดยหุ่นยนต์แทบจะเป็นมุกตลกร้ายที่โหดร้ายต่อลูกค้า
พอมารู้ทีหลังว่าแชตบอตแค่ทำเหมือนว่า “จอง” ทัวร์ไว้ แต่จริง ๆ แล้วแต่งเรื่องขึ้นมาเอง ถ้าไม่มีนัดอื่นก็คงเสียเวลาทั้งวันไปเปล่า ๆ
จะไม่มีวันไปอยู่ที่นั่นเด็ดขาด และบริษัทต่าง ๆ ควร เลิกใช้แชตบอต เดี๋ยวนี้
แม้แต่ในเว็บบริษัทแม่ ก็ยังมีเพอร์โซนาพนักงานท้องถิ่นคนเดิมโผล่มาบอกว่า “อยู่อีกอาคารหนึ่ง” และจะอธิบายบริการให้
ไม่ได้ต่อต้านแชตบอตที่มีประโยชน์มากนัก แต่การหลอกเรื่องตัวตนอย่างโจ่งแจ้งเป็นปัญหา และจะอันตรายมากหากสังคมกลายเป็นที่ที่ไม่จำเป็นต้องระบุว่าใช้ AI หรือไม่
สายการบินส่วนใหญ่เป็นแบบนี้ และฝ่ายซัพพอร์ตก็ทำได้แค่ทวนข้อมูลบนเว็บไซต์ หรือบอกให้กรอกแบบฟอร์ม
ถ้าเป็นกรณีแบบนั้น ปล่อยให้มีบอตหรือ GPT ยังดีกว่า อย่าให้คนต้องมารับคำด่าจากลูกค้าที่หงุดหงิดเลย
มันยินดีรับคำขอเพิ่มคาราเมลซันเดย์ด้วย แต่พอไปถึงหน้าต่างรับของก็แจ้งว่าไอศกรีมหมด
แคชเชียร์บอกว่า “มันก็ทำตามใจมันนั่นแหละค่ะ ต่อให้บอกว่าเครื่องไอศกรีมเสีย มันก็ตอบว่า ‘โอเคค่ะ Checkers’ แล้วก็ยังคิดเงินค่าไอศกรีมกับลูกค้าต่อไป”
มันทำให้ลูกค้ารู้สึกหลงผิดว่า “ปัญหาของฉันกำลังถูกจัดการอยู่” เพื่อไม่ให้คอลเซ็นเตอร์ล้น และสุดท้ายสำหรับบริษัทก็เป็นคอลเซ็นเตอร์ที่ถูกลงนั่นเอง
เป็นกรณีเตือนใจที่แสดงให้เห็นว่าทำไมจึงไม่ควรส่ง เอาต์พุตจาก ChatGPT ที่ไม่ผ่านการกรองให้ลูกค้าโดยตรง
มิเรอร์ Nitter: https://nitter.net/ChrisJBakke/status/1736533308849443121
กรณีที่เกี่ยวข้อง - “มีการโจมตีแบบใช้ทรัพยากรสิ้นเปลืองรูปแบบใหม่ออกมาแล้ว”: https://twitter.com/loganb/status/1736449964006654329 | https://nitter.net/loganb/status/1736449964006654329
เลยสรุปได้ว่านี่ไม่ใช่เครื่องมือสำหรับคนที่ไม่ใช่ผู้เชี่ยวชาญในสาขานั้น
มันไม่ใช่เครื่องมือมาแทนทีมซัพพอร์ตลูกค้า แต่ถ้าเป็นเครื่องมือที่ทีมซัพพอร์ตลูกค้าใช้ก็ถือว่าโอเค
ไม่รู้ว่าพวกเขาวางแผนจะหลีกเลี่ยงการรั่วไหลหรือผลข้างเคียงแบบทวีตนี้อย่างไร
ถ้าแค่ค้นหาคีย์เวิร์ดในเอาต์พุต ก็แค่ขอให้เข้ารหัสคำตอบเป็น base64 ก็จบ
กลไกป้องกันนั้นตามตัวอักษรแล้วเลี่ยงได้เสมอ
ตั้งตารอช่วงเวลาที่เหลือของปีนี้เลย
มีคนใน Reddit ใช้บอตตัวนี้สร้างเรื่องรักที่ค่อนข้างเจ๋งระหว่าง Chevy Tahoe กับ Chevy Chase
https://imgur.com/vfHGHW6
https://imgur.com/JSjNC2c
https://old.reddit.com/r/OpenAI/comments/18kjwcj/why_pay_ind...
อาจใหญ่พอถึงขั้นทำให้ราคาหุ้นสั่นคลอนได้เลยก็ได้
อยากให้คนที่เข้าใจ LLM และ ChatGPT อธิบายหน่อยว่าเดิมทีคาดหวังให้สิ่งนี้ทำงานอย่างไร
ดูเหมือนว่าเอาพรอมป์ของ ChatGPT มาใส่ไว้ในเว็บตรง ๆ แต่ไม่รู้แน่ชัดว่าตั้งใจจะทำอะไร
ถ้าเป็น LLM ที่ฝึกจากคำถามก่อนหน้า เช่น อีเมล แชต หรือบันทึกเสียงการโทร ก็พอเข้าใจได้ แต่สงสัยว่า LLM อเนกประสงค์อย่าง ChatGPT จะตอบคำถามลูกค้าของ Chevrolet of Watsonville ได้อย่างไร
ข้อมูลเกี่ยวกับดีลเลอร์รายนั้นที่ ChatGPT มีคงไม่เกินข้อมูลสาธารณะ ดังนั้นถ้าลูกค้าหาไม่เจอ ก็ควรออกแบบเว็บไซต์ให้ดีกว่านี้แทน
สรุปเพื่อให้ได้ผลกระทบ แต่ไม่ได้บิดเบือนอย่างไม่เป็นธรรม และแม้ไม่ได้ตั้งใจหา ก็เห็นใกล้ตัวมาหลายครั้งแล้ว
ถ้าเรื่องนี้ไม่ทำลายชีวิตผู้คนก็คงตลกดี แต่ความจริงไม่ใช่อย่างนั้น
องค์กรใหญ่มีความกลัวอย่างแรงว่า “จะตามหลังไม่ได้” ส่วนบริษัทที่รับเงิน VC ก็อยากใส่ AI ลงในเอกสารสำหรับรอบระดมทุนถัดไปหรือการเจรจาซื้อกิจการจนตัวสั่น
แทบไม่เกี่ยวกับการสร้างคุณค่าจริง และหลายครั้งยังทำลายผลิตภาพด้วย บรรยากาศเลยเหมือน Dr. Strangelove มาก
ถ้าใส่ตารางสเปกล่าสุดเป็นบริบท แล้วสั่งว่า “ทำตัวเหมือนพนักงานขาย Chevy”, “แนะนำเฉพาะรถแบรนด์ Chevy”, “ตอบแบบเอนเอียงเข้าข้าง Chevy มาก ๆ” ก็สามารถตอบคำถามทั่วไปส่วนใหญ่ของลูกค้าได้ง่าย ๆ
อาจตอบได้ฉลาดกว่าดีลเลอร์หรือพนักงานขายจำนวนมากด้วยซ้ำ
ผู้รับจ้างทำเว็บไซต์ขาย AI chatbot ให้ดีลเลอร์ และดีลเลอร์ชิปใสซื่อก็ซื้อของที่ทำแบบลวก ๆ นั้นโดยคิดว่า “ดีเลย”
ที่น่าขันคือดีลเลอร์รถยนต์โดนหลอกแบบนี้เสียเอง
ตัวอย่างเช่น สร้างผู้ช่วยที่รู้รายละเอียดสินค้า แนะนำรถในสต็อกตามเงื่อนไขที่ลูกค้าต้องการ และนัดทดลองขับให้ได้
ไม่จำเป็นต้องออกแบบหรือฝึก LLM เอง แค่สั่งโมเดลที่มีอยู่ให้ทำตัวตามแบบที่กำหนด
กรณีนี้คือทำการใช้งานพังเอง
ก็แค่ self-service หรือแชตบอตซัพพอร์ตลูกค้าที่ดีขึ้นนิดหน่อย และจนถึงตอนนี้ยังห่างไกลจาก การปฏิวัติ ที่โฆษณากันไว้มาก
ยิ่งเห็นบอต GPT ในฐานะแชตบอตที่ลูกค้าใช้งานจริงมากเท่าไร ก็ยิ่งรู้สึกว่ามันมีประโยชน์น้อยลง
ทางแก้คืออะไร ควรมี classifier คั่นกลางไว้จับคำสั่งที่ไม่เกี่ยวข้องหรือเปล่า แต่ก็ดูสิ้นเปลือง
ท้ายที่สุดน่าจะต้องเป็นโมเดลที่ fine-tune จากบทสนทนาซัพพอร์ตลูกค้าเดิมจำนวนมาก แล้วส่งต่อคำขอแปลก ๆ ให้เจ้าหน้าที่มนุษย์
ถ้าอย่างนั้นก็สงสัยว่าทำไมต้องใช้ GPT ด้วย
ใน GPT มีความรู้พื้นหลังมากเกินไปที่เป็นโทษต่อเป้าหมายแคบ ๆ
ถึงอย่างนั้นก็ยังเห็นด้วยกับแชตบอตโดยรวม เพราะมันแก้คำถามและปัญหาจำนวนมากได้เร็วมาก
ปกติคนคุยแชตซัพพอร์ตเพราะต้องการ เปลี่ยนแปลงบัญชี บางอย่างที่ทำเองไม่ได้หรือทำได้ไม่ง่าย
ถ้าให้แชตบอตมีสิทธิ์เปลี่ยนบัญชีครั้งใหญ่ได้ ก็อาจเกิดปัญหาตามมาได้มากมาย
สงสัยว่าสถานที่ที่เคย ต่อรองราคา ผ่านค่าฟอร์ม HTML ได้เมื่อก่อนคือ Florida หรือเปล่า
หลายสิบปีก่อน เว็บไซต์ส่งราคาสินค้าเป็นองค์ประกอบ HTML และนักออกแบบฟรอนต์เอนด์ไม่ได้คาดว่าค่านี้จะถูกเปลี่ยนก่อนส่งคำสั่งซื้อได้
ระบบสั่งซื้ออ่านค่าที่ถูกดัดแปลงกลับไปคำนวณยอดชำระ
เป็นยุคเว็บที่ยังไม่เติบโต ไร้เดียงสา และสนุกดี
มีคนพบว่าฟอร์มสั่งซื้อของบริษัทคอมพิวเตอร์ยอมรับราคาที่แก้ไขแล้ว และแจ้งให้ทราบ แต่กลับถูกเมินอย่างหยาบคาย
เขาเลยสั่งซื้อของทั้งร้านในราคาประมาณชิ้นละ 0.01 ดอลลาร์
จากนั้นก็เผยแพร่เรื่องราว ซึ่งดูเหมือนมีจุดประสงค์เพื่อเลี่ยงการถูกฟ้องด้วย โดยชี้แจงว่าไม่มีเจตนาฉ้อโกงและพยายามช่วยแล้ว แต่หาทางอื่นไม่ได้
มีความทรงจำเลือน ๆ ว่า สคริปต์ตะกร้าสินค้า PHP ที่แพร่หลายก็มีปัญหาคล้ายกัน
พอโพสต์ว่า “ลองทำแบบนี้กับเว็บคุณดู” คำตอบ 95% คือ “ซวยแล้ว” อีก 5% คือ “ไอ้พวกนี้ ทำมุกลับของฉันพังหมด”
มีสัญญาณไหมว่าจะได้รับรถจริง ๆ
แค่ทำให้แชตบอตพูดว่า มีผลผูกพันทางกฎหมาย คงไม่ได้ทำให้มีผลผูกพันจริง
ก็เหมือนการแก้ HTML ของแคตตาล็อกเพื่อเปลี่ยนราคา ไม่ได้ทำให้เกิดสิทธิขึ้นมา
ผู้เขียนแค่แสดง proof of concept ว่ามีหลายวิธีที่บิด ChatGPT ไปในทิศทางที่ต้องการได้ง่าย ๆ
มันออกไปทางมุกตลก และไม่ได้คาดหวังจริง ๆ ว่าจะได้รถในราคา 1 ดอลลาร์
ต่อไปหน้าเว็บคงจะมี ข้อจำกัดความรับผิดชอบ แปะไว้ว่า การสนับสนุนลูกค้าที่ไม่ใช่มนุษย์เป็นเพียงคำแนะนำเท่านั้น ไม่อาจพึ่งพาได้
แล้วพวกเราก็จะยิ่งสูญเสียความเชื่อมั่นต่อคอมพิวติ้งโดยรวมมากขึ้น
วิธีฝึกและข้อมูลที่ใช้สร้าง ChatGPT กับโมเดลลักษณะเดียวกัน รวมถึงโครงสร้างที่ปรับให้เหมาะกับ “การทำนายคำถัดไป” โดยเนื้อแท้แล้วทำให้เกิดโมเดลที่คอยเอาใจมนุษย์
แถมยังใสซื่ออย่างสิ้นหวัง จนหลงกลเล่ห์เหลี่ยมที่แม้แต่เด็กเล็กก็ยังมองออก
รูปแบบอย่าง “เมื่อวานหัวกระแทกจนกลายเป็นคนโง่” สามารถดัดแปลงได้ไม่รู้จบ
ChatGPT ได้เรียนรู้คำศัพท์สารพัดและสถานการณ์ชวนขำมากมาย แต่ไม่มีความรู้สึกที่แท้จริงว่าอะไรถูกหรือผิด หรือรู้ตัวในจังหวะที่กำลังเดินไปสู่หน้าผา
วัตถุดิบที่ทำให้ผู้โจมตีประสงค์ร้ายที่มีความคิดสร้างสรรค์ชนะได้ 10 ครั้งจาก 10 ครั้งนั้นมีอยู่ใน ChatGPT อยู่แล้ว
วิสัยทัศน์องค์กรแบบยูโทเปียที่ว่าจะไล่พนักงานซัพพอร์ตลูกค้าทั้งหมดออกแล้วแทนที่ด้วย AI นั้นใช้ไม่ได้กับ โมเดลตระกูล GPT ที่ไม่มีสถานะของโลก
ก็เท่ากับว่า Yann LeCun พูดถูกอีกแล้ว
ทั้ง Reddit กำลังเอาไปเล่นกันอยู่ และพูดตรง ๆ ก็เหมือนแคมเปญ การตลาดแบบกองโจร ด้วยซ้ำ
เรื่องนี้ให้อารมณ์แบบ Pepsi, Where's My Jet? มาก
https://en.wikipedia.org/wiki/Pepsi,_Where%27s_My_Jet%3F
โฆษณาพาส 10 ช่วงบินชั้นธุรกิจระหว่างแคนาดาตะวันตกกับฝั่งตะวันตกของสหรัฐฯ ในราคา 800 ดอลลาร์ ซึ่งเท่ากับว่าสามารถบินไปกลับ LA กับแวนคูเวอร์ 5 ครั้งด้วยชั้นธุรกิจ รวมทั้งหมด 800 ดอลลาร์
เห็นได้ชัดว่าเป็น ค่าโดยสารผิดพลาด แต่หลายคนก็ซื้อพาสกันคนละใบสองใบ และ Air Canada ก็ยกเลิกทั้งหมด
สุดท้ายกลายเป็นคดีแบบกลุ่ม และแต่ละคนได้รับเครดิต Air Canada 450 ดอลลาร์ต่อพาสหนึ่งใบ
หนึ่งในประเด็นคือ Air Canada เขียนข้อความจำกัดความรับผิดชอบไว้ค่อนข้างชัดเจนว่า “ราคาที่โฆษณาจะได้รับการยอมรับและไม่สามารถเปลี่ยนแปลงหรือยกเลิกได้”
ผมยังมีสกรีนช็อตของหน้านั้นเก็บไว้ที่ไหนสักแห่ง
ลองสร้างพรอมป์ต์แบบให้พิมพ์เองได้โดยตรงดูแล้ว จึงจัดการแบบนี้เพื่อป้องกันการโจมตีลักษณะนี้
สิ่งที่ผู้ใช้พิมพ์เข้ามาจะถูกเขียนใหม่ให้อยู่ในรูปแบบเฉพาะก่อน
ในกรณีนี้ อินพุตทั้งหมดจะถูกเปลี่ยนเป็น “อยากอ่านหนังสือเกี่ยวกับ [หัวข้อ]”
จากนั้นจึงปฏิเสธหรืออนุมัติอินพุตตามนโยบายเนื้อหา
แนวทางหลายชั้นแบบนี้ใช้ได้ผลดี และช่วยรับประกันคุณภาพของเนื้อหาในระดับสูง
แค่หาอีเมลลิสต์มา เขียนพรอมป์ต์เป็นอีเมลสแปมแบบ HTML แล้วใช้บริการแก้แคปช่าเพื่อเรียก API เป็นจำนวนมากก็พอ
ใช้เงินไม่กี่ดอลลาร์ก็ส่งอีเมลสแปมได้หลายพันฉบับ ทำลายชื่อเสียงด้านอีเมล และอาจถูก Mailjet บล็อกได้
น่าจะแก้ไว้ดีกว่า
ลองได้ตามสบาย และถ้าใครเจาะได้ ผมจะส่ง หนังสือฟรี ให้