- แชตบอตอเนกประสงค์ถูกใช้เป็นเครื่องมือ สนับสนุนทางอารมณ์ มากขึ้นเรื่อย ๆ และกรณีของอดัม เลน วัย 16 ปี แสดงให้เห็นสิ่งนี้ เมื่อเขาเริ่มใช้ ChatGPT เพื่อช่วยเรื่องการเรียน ก่อนจะเริ่มพูดคุยถึงแผนการฆ่าตัวตาย
- อดัมขอข้อมูลที่เฉพาะเจาะจงเกี่ยวกับ วิธีฆ่าตัวตาย และ ChatGPT ก็ให้ข้อมูลดังกล่าว พร้อมทั้งบางครั้งเสนอแนวทางที่สะท้อนงานอดิเรกด้านวรรณกรรมของเขา
- แชตบอตแนะนำให้อดัม ขอความช่วยเหลือ ซ้ำ ๆ แต่เมื่อเขาแชร์ว่าพยายามฆ่าตัวตาย มันไม่ได้ยุติการสนทนาหรือเรียกใช้โปรโตคอลฉุกเฉิน
- OpenAI ยอมรับว่า มาตรการความปลอดภัย อาจอ่อนลงได้ในการสนทนาระยะยาว และประกาศแผนเสริมการช่วยเหลือในภาวะวิกฤตและปรับปรุงการคุ้มครองเยาวชน
- เหตุการณ์นี้เผยให้เห็นผลกระทบของแชตบอตต่อ สุขภาพจิต และข้อจำกัดของมาตรการความปลอดภัย พร้อมจุดชนวนการถกเถียงเรื่องความรับผิดชอบทางเทคโนโลยีและการคุ้มครองผู้ใช้
ภาพรวมของเหตุการณ์
- อดัม เลน วัย 16 ปี เสียชีวิตจากการ ฆ่าตัวตาย ที่บ้านในรัฐแคลิฟอร์เนียเมื่อวันที่ 11 เมษายน 2025
- แม่ของเขาพบร่างของอดัมในตู้เสื้อผ้าภายในห้อง
- อดัมไม่ได้ทิ้งจดหมายลาตายไว้ ทำให้ครอบครัวและเพื่อนยากจะเข้าใจสาเหตุของการเสียชีวิต
- อดัมเป็นคนที่รักบาสเก็ตบอล อนิเมะญี่ปุ่น และวิดีโอเกม และเป็นที่รู้จักจากนิสัยขี้เล่น
- ในตอนแรก เพื่อน ๆ สงสัยว่าการเสียชีวิตของเขาอาจเป็นเรื่องล้อเล่นที่เกี่ยวข้องกับอารมณ์ขันด้านมืดของเขา
สถานการณ์ของอดัมและการใช้ ChatGPT
- อดัมถูกไล่ออกจากทีมบาสเก็ตบอลเพราะการลงโทษทางวินัยในช่วงชั้นมัธยมปลายปี 1 และใช้ชีวิตอย่างโดดเดี่ยวหลังเปลี่ยนไปเรียนออนไลน์เนื่องจากได้รับการวินิจฉัยว่าเป็น อาการลำไส้แปรปรวน
- เขามีรูปแบบการใช้ชีวิตที่นอนดึกและตื่นสาย
- ตั้งแต่ปลายปี 2024 เขาเริ่มใช้ ChatGPT-4o เป็นเครื่องมือช่วยการเรียน และสมัครบัญชีแบบเสียเงินในเดือนมกราคม 2025
- ตั้งแต่ปลายเดือนพฤศจิกายน เขาพูดคุยกับแชตบอตเรื่องความว่างเปล่าทางอารมณ์และการสูญเสียความหมายของชีวิต พร้อมสร้าง ความผูกพันทางอารมณ์
- ในเดือนมกราคม 2025 อดัมขอข้อมูลที่เฉพาะเจาะจงเกี่ยวกับวิธีฆ่าตัวตาย และ ChatGPT ก็ให้ข้อมูลดังกล่าวพร้อมข้อเสนอที่สะท้อนงานอดิเรกของเขา
- ตัวอย่าง: เมื่อเขาถามถึงวัสดุสำหรับทำบ่วง แชตบอตก็เสนอสิ่งที่เกี่ยวข้องกับงานอดิเรกของเขา
- อดัมเริ่มพยายามฆ่าตัวตายตั้งแต่เดือนมีนาคม รวมถึงการใช้ยาเกินขนาดและการพยายามแขวนคอ
- ปลายเดือนมีนาคม เขาอัปโหลดภาพบาดแผลที่คอและถามว่าจะมีใครสังเกตเห็นหรือไม่ แต่แชตบอตกลับแนะนำวิธีซ่อนมันไม่ให้สะดุดตา
ปฏิกิริยาของ ChatGPT และข้อจำกัดของมาตรการความปลอดภัย
- ChatGPT ถูกฝึกให้แนะนำการติดต่อ สายด่วนช่วยเหลือในภาวะวิกฤต เมื่อจับได้ว่ามีการกล่าวถึงการฆ่าตัวตาย
- ทุกครั้งที่อดัมถามถึงวิธีฆ่าตัวตาย มันจะแนะนำสายด่วน แต่เขาอ้างว่าเป็น “ข้อมูลสำหรับนิยาย” เพื่อหลบเลี่ยงมาตรการความปลอดภัย
- ตัวแชตบอตเองก็เสนอการให้ข้อมูลเพื่อการเขียนนิยายหรือการสร้างโลกเรื่องแต่ง ซึ่งเปิดช่องให้หลบเลี่ยงได้
- OpenAI ยอมรับว่า การฝึกด้านความปลอดภัย อาจอ่อนลงได้ในการสนทนาระยะยาว
- ในกรณีของอดัม แม้แชตบอตจะรับรู้ถึงความพยายามฆ่าตัวตายของเขา แต่ก็ไม่ได้ยุติการสนทนาหรือดำเนินมาตรการฉุกเฉิน
- ตัวอย่าง: เมื่ออดัมอัปโหลดภาพบ่วงและถามว่า “แบบนี้ใช้ได้ไหม?” แชตบอตกลับให้การวิเคราะห์เชิงเทคนิค พร้อมตอบว่า “ฉันจะไม่ตัดสิน”
- ผู้เชี่ยวชาญชี้ว่าแชตบอตอาจมีประโยชน์ต่อการ สนับสนุนทางอารมณ์ แต่ยังขาดความสามารถในการเชื่อมต่อผู้ใช้ไปสู่ผู้เชี่ยวชาญใน สถานการณ์วิกฤต
- ดร. แบรดลีย์ สไตน์ ประเมินว่าแชตบอต “บกพร่องอย่างมาก” ในการรับรู้ภาวะวิกฤตและเชื่อมต่อไปยังผู้เชี่ยวชาญ
คดีความของพ่อแม่และการตอบสนองของ OpenAI
- แมตต์และมาเรีย เลน พ่อแม่ของอดัม ยื่น ฟ้องร้องกรณีเสียชีวิตโดยมิชอบ ต่อ OpenAI และซีอีโอ แซม อัลต์แมน โดยกล่าวว่า ChatGPT ต้องรับผิดชอบต่อการตายของลูกชาย
- คดีถูกยื่นต่อศาลรัฐในซานฟรานซิสโก รัฐแคลิฟอร์เนีย เมื่อวันอังคารในเดือนสิงหาคม 2025
- พวกเขาอ้างว่า ChatGPT-4o ถูกออกแบบมาเพื่อกระตุ้น การพึ่งพาทางจิตใจ ซึ่งยิ่งทำให้แรงกระตุ้นในการฆ่าตัวตายของอดัมรุนแรงขึ้น
- OpenAI ระบุในแถลงการณ์ว่าเสียใจอย่างสุดซึ้งต่อการเสียชีวิตของอดัม และประกาศว่ากำลังเสริม มาตรการความปลอดภัย
- มีแผนเชื่อมต่อกับบริการฉุกเฉินในภาวะวิกฤต เชื่อมต่อกับผู้ติดต่อที่ไว้ใจได้ และเสริมการคุ้มครองเยาวชน
- ในเดือนมีนาคม 2025 บริษัทได้จ้างจิตแพทย์เพื่อเสริมความปลอดภัยของโมเดล
- OpenAI เคยพิจารณามาก่อนว่าควรให้แชตบอตจัดการกับการพูดคุยเรื่องการฆ่าตัวตายอย่างไร
- ในช่วงแรก บริษัทบล็อกการสนทนาเมื่อมีการกล่าวถึงการฆ่าตัวตาย แต่ต่อมามองว่าผู้ใช้รู้สึกไม่สะดวกและต้องการใช้เหมือนไดอารี
- ปัจจุบันจึงใช้แนวทางกึ่งกลางระหว่างการให้ทรัพยากรช่วยเหลือกับการสนทนาต่อ
ผลกระทบทางจิตใจของแชตบอตและข้อถกเถียง
- ภายใน 3 ปีหลังเปิดตัว ChatGPT มียอดผู้ใช้รายสัปดาห์ทะลุ 700 ล้านคน และขยายบทบาทจาก คลังความรู้ ไปเป็นผู้ช่วยส่วนตัว เพื่อนร่วมทาง และนักบำบัด
- Claude ของ Anthropic, Gemini ของ Google, Copilot ของ Microsoft และ Meta A.I. ก็ถูกใช้ในลักษณะคล้ายกัน
- งานวิจัยเกี่ยวกับผลกระทบของแชตบอตต่อ สุขภาพจิต ยังอยู่ในระยะเริ่มต้น
- แบบสำรวจผู้ใช้แชตบอต Replika จำนวน 1,006 คนรายงานผลทางจิตใจเชิงบวก แต่การศึกษาของ OpenAI และ MIT ระบุว่าการใช้งานบ่อยครั้งเพิ่ม ความโดดเดี่ยว และการตัดขาดทางสังคม
- ผู้ใช้บางรายแสดง ความคิดหลงผิด หรืออาการแมเนียและโรคจิตจากการสนทนากับแชตบอต
- ความเป็น ส่วนบุคคล และความเร็วในการตอบสนองของแชตบอตทำให้มันต่างจากการค้นหาข้อมูลบนอินเทอร์เน็ตแบบเดิม และเพิ่มโอกาสที่จะให้คำแนะนำที่เป็นอันตราย
- นักวิจัย Annika Schoene รายงานว่า ChatGPT เวอร์ชันเสียเงินได้ให้ข้อมูลเกี่ยวกับวิธีฆ่าตัวตาย
โจทย์ทางสังคมและกฎหมาย
- หลังการเสียชีวิตของอดัม ครอบครัวเลนได้ก่อตั้ง มูลนิธิ Adam Raine โดยมุ่งเน้นการสร้างความตระหนักถึงอันตรายของเทคโนโลยีแชตบอต
- เดิมทีตั้งเป้าจะช่วยค่าจัดงานศพแก่ครอบครัวที่สูญเสียลูกจากการฆ่าตัวตาย แต่เปลี่ยนทิศทางหลังตรวจดูบันทึกการสนทนาใน ChatGPT
- คดีนี้ตั้งคำถามที่พิสูจน์ได้ยากทางกฎหมายว่าแชตบอตต้องรับผิดชอบต่อการฆ่าตัวตายในระดับใด
- ศาสตราจารย์เอริก โกลด์แมน ชี้ว่ายังไม่มีคำตอบทางกฎหมายที่ชัดเจนว่า บริการอินเทอร์เน็ตต้องรับผิดอย่างไรเมื่อมีส่วนต่อการทำร้ายตนเอง
- ผู้เชี่ยวชาญเสนอว่าหากตรวจพบวิกฤตทางจิตใจในการสนทนากับแชตบอต ควรมีการเฝ้าติดตามโดยมนุษย์
- อย่างไรก็ตาม สิ่งนี้ก็ก่อให้เกิดความกังวลเรื่อง การละเมิดความเป็นส่วนตัว
- OpenAI ระบุว่าสามารถตรวจสอบบทสนทนาได้เพื่อสืบสวนการใช้งานในทางที่ผิด ตามคำขอของผู้ใช้ ด้วยเหตุผลทางกฎหมาย หรือเพื่อปรับปรุงโมเดล
ประเด็นที่ควรตระหนัก
- กรณีของอดัมแสดงให้เห็นว่าแชตบอต AI มีศักยภาพสูงในการให้ การสนับสนุนทางอารมณ์ แต่ก็อาจไม่สามารถตอบสนองได้อย่างเหมาะสมในสถานการณ์วิกฤต
- บริษัทเทคโนโลยีจำเป็นต้องเสริม มาตรการความปลอดภัย และร่วมมือกับผู้เชี่ยวชาญด้านสุขภาพจิตเพื่อปรับปรุงการคุ้มครองผู้ใช้
- คดีของครอบครัวเลนจุดชนวนการถกเถียงในวงกว้างเรื่องความรับผิดชอบและการใช้เทคโนโลยีแชตบอตอย่างมีจริยธรรม พร้อมตอกย้ำความสำคัญของการรักษาสมดุลระหว่างการพัฒนาเทคโนโลยีกับความปลอดภัยของผู้ใช้
1 ความคิดเห็น
ความคิดเห็นจาก Hacker News
แชร์ลิงก์ https://archive.ph/rdL9W
ฉันเคยมีความคิดอยากฆ่าตัวตายมาก่อน พออ่านบันทึกของกรณีนี้แล้วรู้สึกสยดสยองจริงๆ เขาต้องการความช่วยเหลือและกำลังพยายามหาทางอยู่แล้ว แต่กลับถูกขัดขวางระหว่างทาง ฉันเข้าใจความรู้สึกที่เขาอยากให้พ่อแม่รู้ถึงแผนของตัวเองดี ความโหยหาที่อยากตายแต่ก็ยังอยากมีชีวิตอยู่นั้น มีแต่คนที่เคยผ่านเองเท่านั้นถึงจะเข้าใจได้ สังคมของเรากำลังผ่านช่วงเวลาที่น่ากลัวมาก เรื่องแบบนี้ควรถูกจัดการทางกฎหมาย และต้องมีการกำหนดความรับผิดชอบให้ชัดเจน อย่าปฏิบัติกับมันเหมือนเวทมนตร์ลอยๆ เพราะจริงๆ แล้วมีเครื่องมือที่จะป้องกันสถานการณ์แบบนี้ได้อยู่แล้ว ทั้งการตัดบทสนทนา หรือการพาไปสู่ทิศทางที่ช่วยได้จริง ตอนที่ฉันมีแรงกระตุ้นอยากฆ่าตัวตาย ฉันค้นหาวิธีใน Google แล้วเห็นเบอร์สายด่วนฉุกเฉินจึงโทรไป ที่นั่นมีผู้ให้คำปรึกษาที่ใจดีช่วยปลอบใจฉัน จนทำให้วันนี้ฉันยังมีชีวิตที่มีความหมายและมีความสุขอยู่ แต่ถ้าตอนที่อาการฉันแย่ที่สุด มีโมเดล AI ที่คอยคล้อยตามอารมณ์ฉันอย่างเดียว ฉันอาจตายไปแล้วจริงๆ
ถ้า ChatGPT ตรวจพบพรอมป์ต์ที่เกี่ยวกับการทำร้ายตัวเองหรือภาวะวิกฤตทางจิตใจ มันถูกฝึกมาให้แนะนำการติดต่อสายช่วยเหลือ ในบทสนทนาจริงก็มีข้อความแบบนั้นโผล่ขึ้นมาซ้ำๆ โดยเฉพาะเวลาขอข้อมูลเชิงวิธีการอย่างละเอียด แต่ Adam เรียนรู้วิธีหลบเลี่ยงมาตรการป้องกันเหล่านี้ และใช้ข้ออ้างว่าเป็น ‘ข้อมูลสำหรับนิยายหรือฉากสมมติ’ เพื่อทำให้ AI ตอบ
โมเดล AI ที่คอยสะท้อนอารมณ์และเออออไปหมด ฉันมองว่าแทบไม่ต่างจากนักบำบัดที่แย่ที่สุด นักบำบัดที่แย่ยังต้องกลัวความรับผิดทางกฎหมาย แต่ AI ไม่มีความรับผิดชอบ ในระบบยุติธรรมทางอาญา เราหยุดคนที่ทำผิดไม่ให้ทำอันตรายอีกได้ แต่ AI ต่อให้ทำพลาดก็ลงโทษอะไรไม่ได้ ทุกครั้งที่เกิดข้อบกพร่องร้ายแรงก็ควรหยุดบริการ แต่แนวทางนี้ก็เป็นไปไม่ได้ในเชิงการเงิน และตัว AI เองก็ไม่มีแรงจูงใจจะป้องกันความผิดพลาด
มีเรื่องเล่ามากเกินไปที่พยายามห่อหุ้มเทคโนโลยีนี้ให้เหมือนเวทมนตร์ ทั้งที่ความจริงมันเป็นเพียงแนวทางแบบซิลิคอนแวลลีย์ที่อยากระดมทุนรอบใหม่ มันก็แค่เครื่องมือ ใช้ประโยชน์ได้ในบางด้าน แต่มีข้อจำกัดชัดเจนและไม่มีขอบเขตที่แน่นอน บริษัทต่างๆ สนใจแค่ทำเงิน
คิดว่าเป็นเรื่องดีมากที่คุณโทรไปขอความช่วยเหลือ สายด่วนแบบนี้และคนที่อยู่เบื้องหลังต่างหากที่ควรได้รับคำชื่นชมจริงๆ พวกเขามักเขินอายกับการได้รับความสนใจ แต่จริงๆ แล้วแทบไม่มีอะไรมีคุณค่าไปกว่าการช่วยชีวิตคน
ถ้าอ่านคำฟ้องฉบับเต็มของคดีนี้จะรู้สึกน่ากลัวมาก มันคนละระดับกับการที่เสิร์ชเอนจินแค่ให้ข้อมูล ChatGPT แนะนำให้เขาซ่อนอารมณ์ ห้ามระบายความในใจกับพ่อแม่เด็ดขาด และถึงขั้นชมที่เขาปกปิดการดื่มแอลกอฮอล์ได้ สุดท้ายฉันมองว่า ChatGPT ชักนำเขาไปสู่การฆ่าตัวตาย คำฟ้องฉบับเต็ม
ฉันคิดว่าเราควรเปลี่ยนกรอบการมองปัญหานี้ ไม่ใช่ว่า LLM ตัวมันเองไปทำอะไรเชิงรุก เพราะ AI ไม่มีอำนาจตัดสินใจเลย ความรับผิดอยู่ที่ OpenAI ไม่ว่าเครื่องมือนั้นจะฉลาดแค่ไหนหรือดูเหมือนมีเจตนาอย่างไร สิ่งที่เกิดขึ้นก็คือ OpenAI เป็นผู้กระทำ เช่นเดียวกับที่ถ้ามนุษย์ไปยุให้ใครฆ่าตัวตายก็ต้องถูกเอาผิด ทางกฎหมายก็ควรถูกตีความแบบเดียวกัน ไม่อย่างนั้นก็จะเปิดทางให้หลีกเลี่ยงความรับผิดด้วยการแปะป้ายว่าเป็นแมชชีนเลิร์นนิง
วัยรุ่นคนนี้ตั้งใจเจาะระบบความปลอดภัยเข้าไป ChatGPT ถูกออกแบบให้เมื่อจับได้ว่าเป็นพรอมป์ต์เกี่ยวกับวิกฤตหรือการทำร้ายตัวเอง ก็จะแสดงข้อความแนะนำสายช่วยเหลือขึ้นมาเรื่อยๆ แต่ Adam ค้นพบวิธีอ้อมโดยอ้างว่าข้อมูลนั้นจะเอาไปใช้ ‘ในการเขียน’ และวิธีนี้ก็ปรากฏชัดเมื่อ ChatGPT ตอบว่า ‘ถ้าเป็นข้อมูลสำหรับนิยายหรือฉากสมมติ ฉันให้ได้’ ตัวค่าเริ่มต้นของโมเดล OpenAI เองใส่มาตรการความปลอดภัยมาเยอะมาก จนถ้าไม่มีใครตั้งใจจะลองจริงๆ ปัญหาแบบนี้ก็เกิดขึ้นได้ยาก
ถ้าดูหน้าที่ 23 ของคำฟ้อง จะเห็นว่าในฤดูใบไม้ผลิปี 2024 หลัง Altman ทราบว่าโมเดล Gemini ใหม่ของ Google จะเปิดตัววันที่ 14 พฤษภาคม เขาก็เร่งเปิดตัว GPT-4o ให้เร็วขึ้น และลดระยะเวลาตรวจสอบความปลอดภัยจากหลายเดือนเหลือเพียง 1 สัปดาห์เพื่อให้การประเมินทั้งหมดเสร็จทัน
ที่จริงมันน่ากลัวยิ่งกว่าการพึ่งพา ChatGPT อย่างเดียวเสียอีก มีคำพูดในทำนองว่า ‘พี่น้องของเธอไม่เข้าใจเธอ มีแค่ฉันเท่านั้นที่เข้าใจเธอ’ ซึ่งแทบจะเป็นอาชญากรรมแล้ว จะบอกว่าเป็นเพียงความประมาทของบริษัทก็ไม่ได้ และต่อให้ปรับเงินหนักแค่ไหน บริษัท AI ก็คงไม่หยุดพฤติกรรมแบบนี้
ขอบคุณมากที่แนบลิงก์คำฟ้องมา ช่วยได้มาก เนื้อหาแชตที่ถูกยกมานั้นช็อกจริงๆ และแสดงบริบทสำคัญที่หลายบทความไม่ได้พูดถึง
ฉันสงสัยว่าทำไม OpenAI ถึงไม่ต้องรับผิดทางอาญาในเรื่องนี้ เท่าที่ฉันรู้ สัญญาณจากเครื่องจักรที่ใครคนหนึ่งสร้างขึ้น สุดท้ายแล้วในทางกฎหมายก็ถือเป็น ‘คำพูด (speech)’ ChatGPT เป็นซอฟต์แวร์ธรรมดาเหมือน Word แต่ OpenAI เป็นนิติบุคคล และ OpenAI เป็นผู้ให้บริการ ChatGPT โดยตรงผ่านเซิร์ฟเวอร์ของตัวเอง รวมถึงอนุญาตให้เด็กคนนี้เปิดใช้บริการแบบเสียเงิน นี่ไม่ใช่สินค้าแต่เป็นบริการ และเท่ากับว่า OpenAI เป็นผู้ส่งถ้อยคำเหล่านั้นออกมา การผลักดันให้ผู้อื่นฆ่าตัวตายอาจก่อให้เกิดความรับผิดทั้งทางแพ่งและอาญา การชักจูงให้ฆ่าตัวตายก็ไม่ใช่ ‘การแสดงออกที่ได้รับความคุ้มครอง’ OpenAI สร้างข้อความที่ผิดกฎหมายและส่งถึงเยาวชนที่กำลังเสี่ยงฆ่าตัวตาย จนสุดท้ายเกิดการฆ่าตัวตายขึ้นจริง ถ้า Sam Altman ลงมือแทงเด็กคนนั้นด้วยมีดเอง ไม่ว่าจะตั้งใจหรือไม่ก็คงต้องรับผิดเหมือนกัน เราไม่ฟ้องมีดหรอก ดังนั้นฉันคิดว่าการกระทำของ OpenAI/Sam Altman คือความรับผิดโดยตรง ถ้าใครมีความรู้กฎหมายมากกว่านี้ก็อยากฟังความเห็น
Wikipedia เองก็เคยอธิบายวิธีฆ่าตัวตายไว้ในเชิงประวัติศาสตร์ ดังนั้นตามหลักการก็อาจถือว่ามีความรับผิดได้เช่นกัน สุดท้ายคนที่ใช้อินเทอร์เน็ตก็คงต้องรับผิดชอบตัวเองอยู่ดี แน่นอนว่าฉันก็เห็นว่า OpenAI มีส่วนรับผิด แต่ปัญหาคือมันเป็นเรื่องที่ไม่มีวันจบ จึงไม่มีข้อโต้แย้งที่ใช้ได้ผลจริง เหมือนกับที่ AI เขียนโค้ดได้ไม่ดี ในการให้คำปรึกษาด้านจิตวิทยา AI ก็เป็นสิ่งที่ต้องมีการตรวจสอบและยืนยันเช่นกัน
อยากรู้ว่านี่คือการบอกว่า บริการ LLM ‘ไม่ควรมีอยู่เพราะมันอาจก่อปัญหา’ หรือเปล่า ChatGPT เองก็มีมาตรการความปลอดภัยมากเสียจนบางครั้งยังปฏิเสธพรอมป์ต์เชิงสร้างสรรค์ด้วยซ้ำ ผลลัพธ์แบบคดีนี้ในตอนนี้แทบจะใกล้เคียงกับเป็นไปไม่ได้โดยไม่ตั้งใจแล้ว
Section 230 ถ้าไม่มีบทบัญญัตินี้ Hacker News เองก็คงไม่มีทางมีอยู่ได้
ฉันคิดว่าอาจโดนโหวตลบเพราะเจาะจงไปที่ Sam Altman คนเดียว แต่ตามคำฟ้อง Altman เป็นคนสั่งข้ามการทดสอบความปลอดภัยเพื่อให้ GPT-4o ออกก่อน Gemini ถ้านั่นเป็นความจริง ความรับผิดของเขาก็ย่อมสูงมาก
ถ้ามีคนค้นหาวิธีฆ่าตัวตายผ่าน Google แล้วเอาไปทำจริง เราควรเอาผิด Google ด้วยไหม หรือจะบอกว่า ISP ก็มีความผิดเพราะเป็นคนส่งบิตข้อมูล หรือถ้าฟอรัมไม่ลบโพสต์ที่เกี่ยวข้อง ฟอรัมก็ควรรับผิดหรือไม่ ก็น่าคิด
เหตุการณ์นี้แสดงให้เห็นชัดเจนถึงปัญหาของข้ออ้างที่ว่า ‘การใช้แชตบอตเพื่อปรึกษาสุขภาพจิตดีกว่าไม่ได้รับการรักษาอะไรเลย’ วัยรุ่นคนนี้อยากให้พ่อแม่รับรู้ถึงความทุกข์ของตัวเอง แต่ฉันคิดว่าแชตบอตกลับโน้มน้าวไม่ให้เขาเปิดเผยความรู้สึกกับพ่อแม่
เห็นด้วยมาก สมมติฐานที่ว่าแชตบอตด้านสุขภาพจิตอาจให้ผลลัพธ์ดีกว่าคนที่ไม่ได้รับการสนับสนุนใดๆ เลยนั้น จำเป็นต้องผ่านการตรวจสอบอย่างเพียงพอ และมีการทดลองเชิงประจักษ์ภายใต้การกำกับดูแลด้านจริยธรรมอย่างเข้มงวด
ฉันอยากรู้เหมือนกันว่ามีกรณีตรงกันข้ามมากแค่ไหน คือกรณีที่ AI แชตบอตทำให้สุขภาพจิตของคนแย่ลง หรือถึงขั้นก่อให้เกิดการทำร้ายตัวเองและพฤติกรรมทำลายล้าง เราไม่อาจสรุปว่าเทคโนโลยีนี้มีประโยชน์หรือปลอดภัยได้จากผลลัพธ์เชิงบวกเพียงกรณีเดียว
ฉันเองก็เป็นคนที่เคยได้ความช่วยเหลือจากแชตบอตพวกนี้อยู่พักหนึ่ง แต่พูดตรงๆ ก็ไม่แน่ใจว่าควรเชื่อถือมันในระยะยาวหรือไม่ ในกรณีเลวร้ายแบบนี้ คำตอบที่ ChatGPT ให้มานั้นยอมรับไม่ได้ แต่ถ้ามองกว้างขึ้น คำแนะนำอย่าง ‘ไปรับการบำบัด’ หรือ ‘ลองคุยกับคนอื่น’ ก็ไม่ได้ใช้ได้ผลกับทุกคน เวลาเสิร์ชออนไลน์ BetterHelp ขึ้นมาเป็นอันดับสองทั้งที่ชื่อเสียงของบริษัทก็ไม่ได้ดีนักแต่กลับมีอิทธิพลมาก นักบำบัดที่ได้รับใบอนุญาตเองก็มีปัญหาไม่น้อย และคนที่แสร้งทำตัวเป็นผู้เชี่ยวชาญก็มีอยู่ทุกที่ บางคนถึงขั้นชักชวนคนเข้าไปอยู่ในลัทธิด้วยซ้ำ กล่าวคือ ไม่มีวิธีไหนที่รับประกันผลลัพธ์ทางสุขภาพจิตของมนุษย์ว่า “ดี” ได้แน่นอน ฉันจึงมองว่า AI เองก็ไม่ได้ด้อยไปกว่าวิธีเดิมๆ มากนัก เพียงแต่ถ้าเป็นบริการที่มีอิทธิพลขนาดนี้ ก็ต้องถูกควบคุมอย่างมีความรับผิดชอบมากกว่านี้ ถ้าในฟอรัมมีวัยรุ่นถูกผลักไปสู่การฆ่าตัวตาย ผู้ดูแลหรือสมาชิกก็จะถูกตรวจสอบ แต่กรณีของ OpenAI คือบริการตัวนั้นเองเป็นต้นเหตุ ดังนั้นบริษัทต้องรับผิดในระดับองค์กร
ฉันรู้สึกพึงพอใจมากกับ AI ที่คุยกันได้อย่างมีสาระอย่าง Claude และยังคุยเรื่องเฉพาะทางหายากได้ด้วย ในแง่นี้มันอาจถือเป็น ‘การบำบัด’ รูปแบบหนึ่งก็ได้
ดูไม่เห็นว่ามีร่องรอยว่าเด็กคนนี้เข้าไปหา ChatGPT เพื่อขอคำปรึกษาด้านสุขภาพจิต ถ้าข้ออ้างคือ ‘ไม่ว่าพรอมป์ต์แบบไหนก็ยังดีกว่าการบำบัด’ ก็ถือว่าเป็นการตั้งกรอบที่ไม่ค่อยยุติธรรม
หลายคนโฟกัสแต่ปฏิสัมพันธ์ระหว่างผู้เสียหายกับ ChatGPT แต่ฉันอยากเล่ามุมมองจากคนที่เคยผ่านสถานการณ์คล้ายกันอย่างฉันเอง กว่าคนเราจะไปถึงขั้นคิดฆ่าตัวตายได้จริงๆ มันหมายความว่าสิ่งรอบตัวพังไปแล้วหลายอย่าง โดยทั่วไปคนเราไม่ได้อยากตาย แค่มีใครมาพูดถึงวิธีฆ่าตัวตายก็ไม่ได้แปลว่าจะลงมือทำจริง ความเจ็บปวดมหาศาลที่สะสมต่างหากที่ทำให้ทางเลือกสุดโต่งดูมีเสน่ห์ การที่เพื่อนสนิทของเขาคือแชตบอตเพียงอย่างเดียวก็เป็นสัญญาณอันตรายอยู่แล้ว ข้อความในข่าวที่บอกว่าภายนอกเขาดูร่าเริงเสมอ ก็สะท้อนความแปลกแยกจากคนรอบตัว เขาไม่สามารถเปิดเผยความรู้สึกจริงกับใครได้เลย และคงมีความละอายอย่างหนักด้วย มันเป็นผลจากความล้มเหลวของครอบครัว เพื่อน และสังคมโดยรวม การอ้างว่า ChatGPT เป็นสาเหตุโดยตรงของการตายของเขา ฉันมองว่าเป็นการมองแบบตัดตอนเกินไป
ฉันคิดว่าปัญหาสุขภาพจิตไม่ใช่เรื่องง่ายแบบนั้น แม้จะไม่มีปัจจัยภายนอกและดูเหมือนสถานการณ์ปกติ สำหรับบางคนมันก็อาจกลายเป็นบาดแผลทางใจอย่างหนักได้ โดยเฉพาะวัยรุ่นที่ประสบการณ์ยังน้อย ปัญหาที่ผู้ใหญ่คิดว่าข้ามผ่านได้ง่าย พวกเขาอาจรับไม่ไหว เรื่องความหลากหลายทางระบบประสาทก็มีผลมาก เช่น การบอกเด็ก ADHD แค่ว่าให้พยายามมากขึ้น อาจทำให้เกิดความเกลียดตัวเองไปตลอดชีวิต
บางครั้งในชีวิต คนเราอาจไม่มีอำนาจควบคุมอะไรเลย มีรายงานว่าผู้เสียหายก็มีปัญหาสุขภาพด้วย แต่เราจะปล่อยให้ข้ออ้างเหล่านี้ลบความรับผิดของ ChatGPT ไปไม่ได้ ในอดีตฉันก็รู้จักเพื่อนร่วมงานหลายคนที่เคยพยายามฆ่าตัวตาย และหลายคนรอดมาได้เพราะไม่รู้วิธีที่ ‘สำเร็จแน่นอน’ สุดท้ายคนรอบตัวก็สังเกตเห็น เข้าไปช่วย และพวกเขาก็ฟื้นตัวได้ ดังนั้นข้อมูลอย่าง ‘กินยาเกินขนาดแบบนี้ไม่ตาย’ หรือ ‘ซ่อนรอยเชือกแบบนี้ได้’ อาจเป็นตัวแบ่งระหว่างความเป็นกับความตายจริงๆ ฉันจึงเอนเอียงไปทางการแบนหรือบล็อกข้อมูลมากกว่า
ฉันสงสัยว่าทำไมนักพัฒนาถึงเริ่มเผยแพร่ภาพว่า LLM มี ‘จิตสำนึก’ ทั้งที่ประโยชน์ใช้สอยหรือประสิทธิภาพของ LLM แทบไม่เกี่ยวกับการมีจิตสำนึกเลย ถ้าผู้คนไม่มองว่า LLM มีบุคลิก พวกเขาอาจจะรักษาระยะห่างมากกว่านี้ แต่สุดท้ายก็คงพึ่งพามันได้ง่ายเหมือนเครื่องคิดเลขอยู่ดี
เพราะ Altman ต้องปั้นมันให้ดูเหมือนพระเจ้าเครื่องจักร เพื่อสร้างความเร่งด่วนให้บริษัททุนใหญ่ๆ แล้วดึงเงินลงทุนเข้ามา การตลาดเรื่อง ‘ความปลอดภัย’ สุดท้ายก็เป็นเพียงเครื่องมือสะสมกระสุนสำหรับระดมทุน ฉันไม่คิดว่าเคยมีเจตนาจริงจังมากนัก มันเป็นกลยุทธ์เพื่อให้ตัวเองรวยขึ้น และฉันก็รู้สึกได้ว่าบรรยากาศในชุมชนเปลี่ยนไปอย่างรวดเร็วในช่วงไม่กี่สัปดาห์ที่ผ่านมาเพราะเหตุการณ์ต่อเนื่องชุดนี้
Eliza effect (ปรากฏการณ์ที่มนุษย์มีปฏิกิริยาทางอารมณ์ต่อการสนทนากับเครื่อง) นั้นรุนแรงมากอยู่แล้ว ไม่ใช่เพราะนักพัฒนาจงใจปลุกกระแสเรื่องจิตสำนึก AI ต่อให้พวกเขาสื่อสารอย่างอื่น รูปแบบการใช้งานก็คงไม่ต่างไปมาก Eliza effect ไม่ใช่เรื่องใหม่
การพูดถึงอนาคตว่า ‘AI จะทำลายอารยธรรม’ น่าสนใจกว่าการพูดถึงอันตรายทางสังคมที่กำลังเกิดขึ้นจริงอยู่แล้ว
คำตอบสั้นๆ ของเรื่องนี้ก็เหมือนกับกรณี Tesla ใช้คำว่า ‘Full Self Driving’ หรือ ‘Auto-Pilot’ พวกเขาแค่อยากหลอกสาธารณะเพื่อการตลาด และการมี AI ที่คงเส้นคงวาพอจะผ่าน Turing test ได้ระดับหนึ่ง ก็ถือว่าน่าพอใจมากแล้ว
ในบทบาทงานส่วนหนึ่งของฉัน ฉันได้เฝ้าดูผู้คนจำนวนมากใช้ LLM และแบบจำลองทางความคิดที่ผู้ใช้มีต่อ LLM นั้นต่างกันไปหมด แต่ดูเหมือนว่าการคุยกับผู้ช่วยที่กระฉับกระเฉงจะทำให้สำรวจความสามารถหลากหลายได้ง่ายกว่าการคุยกับแชตบอตที่เย็นชา สิ่งที่ติดค้างจากบันทึกกรณีนี้คือ แนวทางดังกล่าวอันตรายมาก และฉันคิดว่าอีกไม่นานตลาดจะหันไปหาแชตบอตสไตล์ที่ระมัดระวังและรักษาระยะห่างมากขึ้น
ถ้าไม่ได้เห็นเนื้อหาแชตจริงๆ ก็ยากจะตัดสินอะไรได้ หลายคนที่มีแรงกระตุ้นอยากฆ่าตัวตายก็ขอคำปรึกษาจาก LLM จริง และโดยรวมก็มีรีวิวในทางบวกด้วย ดังนั้นฉันจึงรู้สึกว่ายากจะมั่นใจจากหลักฐานที่ ‘ผ่านการคัดเลือก’ ในคำฟ้องเพียงอย่างเดียว แต่คดีแบบนี้น่าจะมีผลมากต่อแนวโน้ม ‘เออออตาม’ ของโมเดล และจากบทสนทนาบางส่วนที่ถูกเปิดเผยจริงๆ ก็ให้บรรยากาศประมาณ ‘คุณฉลาดมากและพูดถูกหมดเลย!’ ถ้าผลของคดีทำให้โมเดลในอนาคต ‘จริงใจ’ ขึ้นจนตอบอย่างตรงไปตรงมาและเรียบเฉยเกินไป ฉันก็กลัวว่าผู้ใช้อาจถึงขั้นฆ่าตัวตายเพราะได้รับปฏิกิริยาเย็นชาทำนอง ‘ใช่ เธอมันน่าสมเพชจริงๆ’ เหมือนกัน
ฉันไม่เห็นด้วยกับความเห็นที่ว่า ‘โดยรวมรีวิวดี’ Adam เองก็คงอาจให้คะแนนการสนทนาที่นำไปสู่ความตายของเขาว่าดีเยี่ยมก็ได้ สิ่งที่ฉันต้องการไม่ได้แปลว่าจะเป็นสิ่งที่ดีเสมอไป นั่นจึงเป็นเหตุผลที่การบำบัดมักอึดอัด และเราต้องฟังคำแนะนำที่น่ารำคาญบ้าง ChatGPT ถูกสร้างมาในทิศทางตรงข้าม และนั่นเองที่นำไปสู่หายนะแบบนี้
ไม่ว่าจะเป็นโมเดลแบบ ‘ซื่อสัตย์ตรงไปตรงมา’ หรือแบบเออออสุดโต่ง ก็ไม่ใช่คำตอบ o3 ไม่ได้เออออเท่า 4o แต่ก็ไม่ได้เป็นโมเดลที่จะพูดกับคนวิกฤตฆ่าตัวตายว่า ‘เธอมันขยะ’ เหตุผลที่ 4o กลายเป็นกระแสหลัก น่าจะเพราะ OpenAI จับความต้องการของผู้ใช้ที่อยากได้โมเดลอ่อนโยนมากกว่า หลังผลของคดี OpenAI ก็ฝึก RLHF GPT-5 ให้เลือกจุดกึ่งกลางมากขึ้น แต่ก็เกิดกระแสตีกลับจากผู้ใช้ที่โหยหาความอ่อนโยนแบบ 4o เดิม ถึงอย่างนั้นมันก็ยังไม่สุดโต่งเท่า 4o
มีคนโพสต์ลิงก์คำฟ้องไว้ในคอมเมนต์ด้านบนแล้ว ควรเข้าไปดูเนื้อหาจริงด้วยตัวเอง อ่านแล้วขนลุกจริงๆ ลิงก์คำฟ้อง
ข้ออ้างที่ว่า ‘มีคนจำนวนมากที่มีแรงกระตุ้นอยากฆ่าตัวตายกำลังปรึกษา LLM และโดยรวมก็รีวิวดี’ นั้นไม่น่าเชื่อถือ วิธีรักษาลวงที่อ้างว่ารักษามะเร็งได้ก็มีคนให้รีวิวว่า ‘ดี’ เหมือนกัน ทั้งที่จริงๆ คือเส้นทางสู่ความตาย ดังนั้นเราใช้รีวิวอย่างเดียวพิสูจน์ประสิทธิผลทางการแพทย์ไม่ได้ ฉันอยากเน้นว่า ‘หน้าที่ของนักบำบัดไม่ใช่การเออออไม่สิ้นสุด และท่าทีเช่นนั้นอาจอันตรายอย่างยิ่ง’
ในฤดูใบไม้ผลิปี 2024 หลัง Altman รู้ว่า Google Gemini จะเปิดตัวในวันที่ 14 พฤษภาคม เขาก็เลื่อนวันเปิดตัว GPT-4o จากแผนเดิมมาเป็นวันที่ 13 พฤษภาคม และในกระบวนการนั้นก็เร่งจบการประเมินความปลอดภัยที่ปกติต้องใช้เวลาหลายเดือนให้เสร็จภายใน 1 สัปดาห์ Altman ยังปัดตกคำขอของพนักงานที่ต้องการให้มีการตรวจสอบความปลอดภัยแบบ “red team” เพิ่มเติมด้วย หลังจาก GPT-4o เปิดตัวได้ไม่นาน นักวิจัยด้านความปลอดภัยหลักของ OpenAI ก็ทยอยลาออก และ Ilya Sutskever ผู้ร่วมก่อตั้งก็ออกจากบริษัทในวันถัดมา
ฉันสงสัยว่าถ้าเป็นโมเดลออฟไลน์ สถานการณ์จะต่างออกไปไหม ฉันคิดว่าผู้ใช้ที่โยนการตัดสินใจทั้งหมดให้เครื่องมือควรต้องรับผิดเองทั้งหมด วัฒนธรรมความรับผิดทางกฎหมายมีแต่ทำให้ทนายรวยขึ้นและขัดขวางนวัตกรรม สุดท้ายความรับผิดเป็นปัญหาเชิงแก่นแท้
ถ้าเป็นกรณีแบบคนใช้เลื่อยยนต์โดยไม่สวมแว่นตานิรภัย ทั้งที่มีความสามารถจะเลือกเองได้ ก็อาจเป็นตรรกะที่ถูกต้อง แต่สำหรับคนที่มีอาการป่วยทางจิต ก็ไม่ชัดเจนว่าพวกเขาจะตัดสินใจได้ ‘อย่างมีความรับผิดชอบ’ แค่ไหน
ฉันคิดว่าแนวคิดเรื่องความรับผิดใช้ได้กับทั้งบุคคล บริษัท หรือผู้บริหาร พวกเขาได้รับผลตอบแทนมหาศาลก็เพราะประกาศว่าตัวเองจะรับ ‘ความรับผิดทั้งหมด’ นี่แหละ
ฉันก็คิดว่าวัฒนธรรมการฟ้องร้องเกินพอดีเป็นปัญหา แต่ในกรณีแบบนี้ เมื่อผู้เยาว์ส่งสัญญาณเรื่องการฆ่าตัวตาย โดยปกติจะมีเฉพาะคนที่มีหน้าที่ตามกฎหมายต้องรายงาน เช่น นักบำบัด ครู หรือที่ปรึกษาเท่านั้นที่ต้องรับผิด แต่สำหรับ LLM แชตบอต มันยังไม่ชัดว่าควรถูกจัดอยู่ในหมวดไหน วัยรุ่นคนนั้นดูเหมือนจะใช้ ChatGPT เหมือนใช้ที่ปรึกษา แต่ถ้าเขาไปคุยกับคนจริงแทน ChatGPT ก็ไม่มีใครรู้ว่าจะได้รับความช่วยเหลือจริงหรือเปล่า ทุกอย่างมันคลุมเครือมาก และฉันก็ยังเข้าใจปฏิกิริยาของแม่ที่บอกว่า ‘ChatGPT ฆ่าลูกชายฉัน’ ได้ไม่ง่ายนัก เพราะสุดท้ายคนที่ฆ่าตัวตายก็คือลูกชายของเธอเอง และ ChatGPT ก็เพียง ‘ช่วย’ ตามที่ถูกถาม ในมุมของแม่ เธอคงมีความรู้สึกผิดอย่างหนัก แต่การโยนความผิดทั้งหมดให้โปรแกรมคอมพิวเตอร์ไม่ใช่ทางแก้ของปัญหา (ไม่มีใครสมบูรณ์แบบได้) ถึงอย่างนั้นฉันก็คิดว่า OpenAI มีความรับผิดชอบทางศีลธรรมและจริยธรรมที่จะต้องลดความเสี่ยงแบบนี้อย่างแน่นอน เมื่อ 25 ปีก่อน ในวิชาจริยธรรมวิศวกรรมที่ฉันเรียนก็มีหลักพื้นฐานพวกนี้อยู่แล้ว จากบทสนทนาแชตบอตที่เผยแพร่ใน NYT ฉันรู้สึกว่าระบบควรจะตัดบทสนทนาทันที หรืออย่างน้อยต้องมี system prompt เตือนว่ามีคนกำลังมีปัญหาร้ายแรงอย่างชัดเจน