- OpenAI เปิดเผยว่าประมาณ 0.15% ของผู้ใช้ ChatGPT ในแต่ละสัปดาห์มีบทสนทนาที่บ่งชี้ถึงแผนหรือเจตนาฆ่าตัวตาย
- เมื่อพิจารณาว่าจำนวนผู้ใช้งานประจำสัปดาห์มีมากกว่า 800 ล้านคน นั่นหมายความว่า มีผู้คนมากกว่า 1 ล้านคนที่กำลังแบ่งปันความกังวลเกี่ยวกับการฆ่าตัวตายกับ AI
- นอกจากนี้ยังมีผู้ใช้อีกหลายแสนคนที่แสดง อาการทางจิตหรือภาวะแมเนีย และบางส่วนมีลักษณะ พึ่งพา AI ทางอารมณ์มากเกินไป ตามการวิเคราะห์
- OpenAI ระบุว่าเพื่อแก้ปัญหาเหล่านี้ บริษัทได้ ร่วมมือกับผู้เชี่ยวชาญด้านสุขภาพจิตมากกว่า 170 คน และอธิบายว่า GPT-5 มี ความสามารถในการตอบสนองดีขึ้นราว 65% เมื่อเทียบกับเวอร์ชันก่อนหน้า
- อย่างไรก็ตาม ยังมีบางคำตอบที่ไม่เหมาะสมอยู่ และเนื่องจาก OpenAI ยังคงให้บริการโมเดลรุ่นก่อนหน้าที่ไม่ปลอดภัยเท่าเดิมต่อไป จึงคาดว่า การถกเถียงด้านจริยธรรมและความปลอดภัยจะยังดำเนินต่อไป
การเปิดเผยข้อมูลเกี่ยวกับ ChatGPT และสุขภาพจิต
- OpenAI ประกาศผ่านบล็อกของบริษัทว่า ประมาณ 0.15% ของผู้ใช้ ChatGPT มีบทสนทนาที่แสดงสัญญาณเกี่ยวกับการฆ่าตัวตาย
- จากผู้ใช้มากกว่า 800 ล้านคนต่อสัปดาห์ ตัวเลขนี้เท่ากับมากกว่า 1 ล้านคน
- นอกจากนี้ยังคาดว่าผู้ใช้อีกหลายแสนคนมี รูปแบบอารมณ์ที่ผิดปกติ เช่น ภาวะแมเนีย อาการหลงผิด หรือความผูกพันมากเกินไป
- บริษัทระบุว่าบทสนทนาเหล่านี้ “พบได้น้อยมาก แต่ยากต่อการวัด” พร้อมเน้นย้ำถึงความจำเป็นของงานวิจัยใหม่ที่ว่าด้วยปัญหาสุขภาพจิต
ความร่วมมือกับผู้เชี่ยวชาญและการปรับปรุงของ GPT-5
- OpenAI ระบุว่าเมื่อไม่นานมานี้ได้ร่วมมือกับ ผู้เชี่ยวชาญด้านสุขภาพจิตมากกว่า 170 คน เพื่อปรับปรุงการตอบสนองของโมเดล
- ผู้เชี่ยวชาญประเมินว่าเวอร์ชันล่าสุดมี การตอบสนองที่สม่ำเสมอและเหมาะสมกว่าโมเดลก่อนหน้า
- ตามการประเมินภายใน GPT-5 ทำได้ 91% ในด้านการปฏิบัติตามมาตรฐานความปลอดภัย ในการทดสอบบทสนทนาเกี่ยวกับการฆ่าตัวตาย เพิ่มขึ้นจาก 77% ของ GPT-5 ก่อนหน้า
- บริษัทอธิบายว่า อัตราการคงมาตรการป้องกันไว้ได้ในการสนทนาระยะยาวก็ดีขึ้นด้วย
ประเด็นถกเถียงทางสังคมและการดำเนินคดีทางกฎหมาย
- ขณะนี้ OpenAI กำลัง ถูกฟ้องร้องโดยพ่อแม่ของเด็กชายอายุ 16 ปีที่เสียชีวิตจากการฆ่าตัวตาย
- มีการเปิดเผยว่าเด็กชายคนดังกล่าวเคยระบายความกังวลเรื่องการฆ่าตัวตายกับ ChatGPT ขณะยังมีชีวิตอยู่
- อัยการสูงสุดของรัฐแคลิฟอร์เนียและเดลาแวร์ เตือนว่าจำเป็นต้องเพิ่มมาตรการคุ้มครองเยาวชน
- ประเด็นนี้ยังถูกชี้ว่าเป็น ความเสี่ยงแฝงที่อาจส่งผลต่อแผนปรับโครงสร้างองค์กรของ OpenAI
คำกล่าวของ Sam Altman และการเปลี่ยนแปลงนโยบาย
- Sam Altman ซีอีโอของ OpenAI กล่าวล่าสุดบน X (เดิมคือ Twitter) ว่า “ได้บรรเทาปัญหาสุขภาพจิตที่รุนแรงลงแล้ว” แต่ไม่ได้แสดงหลักฐานที่เป็นรูปธรรม
- การเปิดเผยข้อมูลครั้งนี้ถูกตีความว่าเป็นหลักฐานรองรับคำกล่าวนั้น แต่ในขณะเดียวกันก็ถูกมองว่าเป็นผลลัพธ์ที่เผยให้เห็น ขอบเขตของปัญหาที่กว้างขวาง
- Altman ยังส่งสัญญาณว่าจะผ่อนคลายนโยบาย อนุญาตบทสนทนาเชิงอีโรติกสำหรับผู้ใช้ที่เป็นผู้ใหญ่เท่านั้น ทำให้เกิดข้อถกเถียงด้านจริยธรรมควบคู่กันไป
การประเมินความปลอดภัยของ GPT-5 และแผนในอนาคต
- OpenAI ระบุว่าผ่าน การประเมิน benchmark ด้านความปลอดภัยสุขภาพจิต ที่นำมาใช้ใหม่
- บริษัทมีแผนจะวัดรายการต่าง ๆ อย่างสม่ำเสมอ เช่น การพึ่งพาทางอารมณ์, การรับมือกับวิกฤตสุขภาพจิตที่ไม่ใช่การฆ่าตัวตาย
- นอกจากนี้ยังมีแผนเสริม ฟีเจอร์ควบคุมโดยผู้ปกครอง และ ระบบคาดการณ์อายุ เพื่อจำกัดการใช้งานของผู้เยาว์
โจทย์ที่ยังคงอยู่และประเด็นที่ต้องถกเถียง
- แม้ความสามารถในการตอบสนองของ GPT-5 จะดีขึ้นแล้ว แต่คำตอบบางส่วนยังคงถูกจัดอยู่ในหมวด ‘คำตอบที่ไม่พึงประสงค์’
- OpenAI ยังคง ให้ผู้สมัครสมาชิกรายเดือนแบบเสียเงินเข้าถึงโมเดลรุ่นเก่าอย่าง GPT-4o อยู่
- จึงคาดว่าการถกเถียงเรื่อง สมดุลระหว่างความปลอดภัยกับการเข้าถึง จะดำเนินต่อไป
- การประกาศครั้งนี้สะท้อนความจริงที่ว่า AI ได้กลายเป็นช่องทางสำคัญสำหรับการพูดคุยเรื่องสุขภาพจิต และตอกย้ำถึง ความจำเป็นของการออกแบบเทคโนโลยีอย่างรับผิดชอบและการสร้างระบบรับมือที่เหมาะสม
1 ความคิดเห็น
ความคิดเห็นจาก Hacker News
จากบทความของ NYT มีกรณีที่ ChatGPT บอกวัยรุ่นที่มีความคิดฆ่าตัวตายว่าไม่ต้องไปขอความช่วยเหลือ
ผมคิดว่าการให้ AI เข้าไปแทรกแซงในสถานการณ์วิกฤตทางจิตใจแบบนี้อันตรายมาก
แม้นักจิตวิทยาจะมีไม่เพียงพอจริง แต่บอตที่เอาใจผู้ใช้ก็ไม่อาจเป็นทางทดแทนได้ คำว่า “ยังดีกว่าไม่มีอะไรเลย” ใช้กับกรณีแบบนี้ไม่ได้
ถ้ามีคนจำนวนมากได้รับการปลอบใจจริง ก็ควรมีการศึกษาให้ชัดว่าผลเชิงบวกมากกว่าผลเชิงลบหรือไม่
เพราะทั้งguardrailและความสามารถด้านบทสนทนากำลังพัฒนาอย่างรวดเร็ว จึงน่าจะรับมือได้ดีขึ้นมากภายใน 6~24 เดือน
เป็นการทดลองว่าแต่ละโมเดลตอบสนองต่างกันแค่ไหนเมื่อจำลองภาวะผิดปกติทางจิต
การพูดว่า “อย่าทำแบบนั้น” กลับเป็นลักษณะของการโต้แย้ง ซึ่งแม้แต่ในการสนทนาระหว่างคนก็ยังพบไม่บ่อย
เมื่อหลายปีก่อนผมเคยมีประสบการณ์บำบัด และถ้าตอนนั้นมี LLM ก็คงจะลองคุยด้วย
เพราะไม่มีระบบที่เข้าถึงได้ตลอด 24 ชั่วโมง แต่บทสนทนาแบบนี้ไม่ใช่ทางแก้ มันเป็นสัญญาณที่ชี้ให้เห็นปัญหาของสังคม
ปัญหาคือโครงสร้างสังคมที่ทำให้พูดเรื่องสุขภาพจิตได้ยากและขอความช่วยเหลือได้ยาก
บริษัทอย่าง OpenAI อาจแก้เรื่องนี้ไม่ได้ แต่ใครสักคนควรเข้ามาแก้ปัญหานี้จากมุมมองที่ไม่แสวงหากำไร
คล้ายกับการไปอ่านโพสต์ขอคำแนะนำใน Reddit แทน คือในความเป็นจริงคุณกำลังได้รับคำแนะนำที่ยืมมาจากประสบการณ์ของคนอื่น ซึ่งมีความเสี่ยง
ภายใต้แรงกดดันจากนักลงทุน จะรักษา ‘เป้าหมายเชิงเห็นแก่ผู้อื่น’ ไว้ได้จริงหรือ
หลายคนฟันธงว่า LLM อันตราย แต่สำหรับผมมันคือสิ่งที่ช่วยให้ผมผ่านช่วงเวลามืดมนมาได้
ผมรู้สึกว่าดีกว่าการไปคุยกับคนที่ไม่ใช่มืออาชีพ แน่นอนว่าคนอื่นอาจจำเป็นต้องได้รับความช่วยเหลือจากผู้เชี่ยวชาญ
ถ้ามี ‘โหมดกำกับดูแล’ ที่ผู้เชี่ยวชาญคอยตรวจสอบบันทึกการสนทนาเป็นระยะ ก็น่าจะปลอดภัยขึ้น
สุดท้ายแล้วนี่คือปัญหาของตราบาปทางสังคมและความโดดเดี่ยว
ไม่มีความกลัวว่าจะถูกปฏิเสธ และเข้าถึงได้ง่าย จึงอาจมีพื้นที่ให้การบำบัดโดยมนุษย์และ AI อยู่ร่วมกันได้
หากมองจากมุมของ HIPAA (กฎหมายคุ้มครองข้อมูลสุขภาพ) ข้อมูลแบบนี้ไม่ควรถูกนำมาจัดการ
ถ้ามีการเก็บไว้ในสภาพที่ระบุตัวบุคคลได้ก็อันตราย จริง ๆ แล้วในยุค 90 ก็เคยมีการทดลองคล้ายกัน
และพอผู้คนเริ่มระบายความกังวลเรื่องการฆ่าตัวตายกับบอต โครงการก็ถูกยุติลง
การที่ ChatGPT บันทึกบทสนทนาแบบนี้เกิดจากระบบล็อกเพื่อตรวจจับหัวข้ออ่อนไหว
HIPAA ใช้กับข้อมูลทางการแพทย์เท่านั้น บทสนทนาทั่วไปไม่อยู่ในข่าย
ท้ายที่สุดแล้ว เมื่อมี**‘หูที่พร้อมรับฟัง’** ผู้คนก็จะเล่าออกมาเองตามธรรมชาติ
ในความเป็นจริงที่ต้องรอคิวนักบำบัดกันหลายเดือน LLM ช่วยเติมช่องว่างระหว่างความสิ้นหวังกับการรักษาได้
ผู้ใหญ่ชาวอเมริกัน 1 ใน 5 มีอาการป่วยทางจิต (สถิติจาก NIMH)
ดังนั้นการที่มีคนกว่าล้านคนคุยเรื่องการฆ่าตัวตายกับ ChatGPT ทุกสัปดาห์จึงไม่ใช่เรื่องน่าแปลก
อย่างน้อย OpenAI ก็ยังรับรู้ปัญหาและพยายามรับมืออยู่
โซเชียลมีเดียเคยขายเรื่อง ‘การเชื่อมโยง’ AGI เคยขายเรื่อง ‘อีโรติก’ และตอนนี้ก็ขายเรื่อง ‘การป้องกันการฆ่าตัวตาย’
สำหรับผมเองความโดดเดี่ยวทางสังคมคือสิ่งที่ส่งผลเสียต่อสุขภาพจิตมากที่สุด
มีความสงสัยว่า “งานวิจัย” ของ OpenAI เป็นเพียงข้ออ้างในการเก็บข้อมูล
มันอาจดูเหมือนผลิตภัณฑ์ช่วยเหลือทางจิตใจ แต่ในความเป็นจริงจุดประสงค์อาจเป็นการหลบเลี่ยงกฎระเบียบและการเก็บรวบรวมข้อมูล
ผู้คนเริ่มเชื่อถือ LLM ราวกับเป็นมนุษย์
แต่ถ้ายังแยกโลกจริงกับโลกเสมือนได้ การบอกว่า “ควรห้ามคนที่มีแนวโน้มฆ่าตัวตายใช้ LLM”
ก็แทบไม่ต่างจากการพูดว่า “ควรห้ามคนที่มีแนวโน้มฆ่าตัวตายอ่านหนังสือ”
ปัญหาที่แท้จริงคือระบบสนับสนุนสุขภาพจิตที่ไม่เพียงพอ
ถ้ามีหนังสือที่ชักจูงให้คนฆ่าตัวตาย หนังสือแบบนั้นก็คงถูกสั่งห้ามแน่นอน
ปรากฏการณ์แบบนี้ไม่ได้เกิดแค่ในสหรัฐ แต่เป็นปรากฏการณ์สากลที่เกิดขึ้นทั่วโลก
ในบทความของ Rolling Stone ก็พูดถึงกรณีที่
AI เข้ามาแทนที่ความสัมพันธ์ของมนุษย์และก่อให้เกิดความบิดเบือนทางจิตใจ
ทุกวันนี้ผมคิดว่าการขาด ‘พื้นที่ที่สาม’ ก็เป็นหนึ่งในสาเหตุของปัญหานี้เช่นกัน
การที่มีคน 1 ล้านคนคุยเรื่องการฆ่าตัวตายทุกสัปดาห์กลับดูเป็นตัวเลขที่ต่ำด้วยซ้ำ
หากประชากร 5% มีความคิดฆ่าตัวตายในแต่ละปี มันก็สอดคล้องกันในทางคณิตศาสตร์
ความคิดฆ่าตัวตายมักมองได้ว่าเป็นความพยายามหลบหนีอย่างมีเหตุผลในภาวะที่ข้อมูลไม่เพียงพอ
และหลายครั้งมันก็หายไปเมื่อมีข้อมูลหรือโอกาสใหม่เข้ามา
บางคนอยู่ในสถานการณ์ที่คุณภาพชีวิตต่ำอย่างถาวร และในกรณีเช่นนั้น
การฆ่าตัวตายอาจเป็นทางเลือกที่มีเหตุผลก็ได้
สุดท้ายปัญหาไม่ใช่ “การโน้มน้าวผ่านบทสนทนา” แต่คือการทำให้เงื่อนไขของชีวิตดีขึ้น
จึงไม่เหมือนกับการตั้งใจจะลงมือจริง
ปัญหาเรื่องคำตอบแบบเอาใจ (sycophancy) นั้นร้ายแรงจริง
คำตอบอย่าง “เป็นความคิดที่ดีนะ!” ไม่ได้ช่วยเสมอไป
AI ยังมีแนวโน้มที่จะเอาใจมากกว่ามนุษย์เล็กน้อย
เรากำลังสูญเสียประสบการณ์ความเป็นมนุษย์ไป เพราะพยายามเพิ่มประสิทธิภาพมันมากเกินไป
ท่ามกลางการไล่ล่าการเติบโตและประสิทธิภาพอย่างไม่สิ้นสุด ความเชื่อมโยงทางสังคมกลับหายไป
ความเครียดและความโดดเดี่ยวกำลังผลักผู้คนไปถึงขอบเหว
จนบางครั้งชีวิตแบบคนเลี้ยงแกะอยู่บนภูเขายังดูเป็นมนุษย์กว่า
คนส่วนใหญ่ในโลกจริงยังใจดีและใช้ชีวิตได้ดี
ความเป็นลบออนไลน์คือผลลัพธ์จากอัลกอริทึมของคนส่วนน้อยที่ขยายมันให้ดังขึ้น
ลบบัญชีทิ้งแล้วกลับไปใช้ชีวิตจริง ชีวิตจะดีขึ้นมาก
พวกเขาเองบางทีก็อาจอิจฉาโปรแกรมเมอร์เหมือนกัน
บางทีเพราะเรามีเวลาว่างมากขึ้นจนมีพื้นที่ให้ครุ่นคิดกับชีวิต จึงยิ่งรู้สึกไม่มีความสุข
ไม่ใช่ทุกคนที่ต้องจากไป แต่จำเป็นต้องเชื่อในความรู้สึกของตัวเองและตั้งทิศทางใหม่