พยาบาล Kaiser ระบุว่า “การเฝ้าระวังด้วย AI ทำให้งานและการดูแลผู้ป่วยแย่ลง”

• พยาบาลให้คำปรึกษาและคัดแยกผู้ป่วยของ Kaiser Permanente กล่าวว่า การบริหารผลงานที่ติดตาม การโทรนานเกิน 15 นาที, ช่วงเวลาระหว่างสาย และการปฏิบัติตามแนวทาง ทำให้ดุลยพินิจเชิงวิชาชีพและการดูแลผู้ป่วยหดแคบลง
• AI ที่ทดสอบในปี 2024 ประเมินไปถึง ความเห็นอกเห็นใจและโทนเสียง ของพยาบาล โดยพยาบาลวิจารณ์ว่าให้คะแนนผิดพลาดโดยไม่เข้าใจบริบทของงาน
• แม้การให้คำปรึกษานานจะหลีกเลี่ยงไม่ได้ เช่น ผู้ป่วยเสี่ยงฆ่าตัวตาย อาการซับซ้อน หรือผู้ป่วยที่ต้องใช้ล่าม พยาบาลก็ยังต้องคำนึงถึงคะแนนรายเดือนและการประชุมประเมินผล และในช่วงที่งานยุ่ง เวลาสำหรับบันทึกข้อมูลและฟื้นตัวหลังวางสายลดเหลือ ไม่เกิน 30 วินาที
• Kaiser โต้ว่าไม่ได้ประเมินผลงานด้วยเวลาเฉลี่ยในการจัดการสาย และเครื่องมือทั้งหมดมี การตรวจทานและกำกับดูแลโดยมนุษย์ แต่ไม่ได้เปิดเผยรายการระบบภายในและวิธีดำเนินงานอย่างละเอียด
• สหภาพยก AI เป็นวาระสำคัญในการเจรจาสัญญาของพนักงาน 25,000 คน ขณะที่สภานิติบัญญัติ California ก็กำลังพิจารณาร่างกฎหมายที่คุ้มครองบุคลากรทางการแพทย์เมื่อปฏิเสธคำแนะนำอัตโนมัติ และ จำกัด AI ทำนายอารมณ์ เป็นต้น

---

แรงกดดันด้านผลงานที่เกิดจากเกณฑ์โทร 15 นาที

• พยาบาลให้คำปรึกษาและคัดแยกผู้ป่วยของ Kaiser 7 คนกล่าวว่า หากคุยกับผู้ป่วย นานเกิน 15 นาที พวกเขามักถูกฝ่ายบริหารวิจารณ์หรือถูกเรียกเข้าประชุมประเมินผลงานซ้ำ ๆ
  • ระยะเวลาการโทรถูกนำไปสะท้อนในคะแนนผลงานรายเดือนที่พยาบาลได้รับ
  • ซอฟต์แวร์พยายามคาดการณ์ทุกวันว่าพยาบาลไม่มีประสิทธิผลหรือรับสายได้เร็วพอหรือไม่
• Raquel Alvarez Sanchez ซึ่งทำงานที่ Vallejo ตั้งแต่ปี 2010 คุยโทรศัพท์กับผู้ป่วยที่เสี่ยงฆ่าตัวตายนานกว่า 1 ชั่วโมงจนกว่าตำรวจจะมาถึง
  • แม้ตระหนักว่าการโทรนานอาจทำให้ค่าเฉลี่ยเวลาการโทรแย่ลงหลายสัปดาห์และนำไปสู่คำถามจากฝ่ายบริหาร แต่เธอก็ไม่วางสาย
  • ในฐานะเจ้าหน้าที่สหภาพ เมื่อเธอเข้าร่วมการประชุมประเมินกับเพื่อนร่วมงาน เธอเห็นกรณีที่การจัดการสายนั้นเหมาะสมทั้งหมด แต่กลับถูกมองเป็นปัญหาเพียงเพราะ เกิน 15 นาที
  • เธอไม่เคยเห็นพยาบาลถูกเลิกจ้างเพราะเรื่องนี้ แต่กังวลว่าแรงกดดันที่ต่อเนื่องอาจนำไปสู่การลาออกหรือเกษียณก่อนกำหนด
• พยาบาลได้รับคำสั่งให้ทำตามแนวทางที่กำหนดระหว่างโทร และจำกัดคำแนะนำไว้ ไม่เกิน 2–3 ข้อ
  • จึงอาจเกิดสถานการณ์ที่ต้องเลือกระหว่างการงดให้คำแนะนำที่จำเป็น หรือยอมรับความเสี่ยงต่อการประเมินผลงาน

ผลกระทบที่ไม่แน่ชัดต่อการดูแลผู้ป่วย

• ยังไม่ชัดเจนว่าการบริหารด้วยอัลกอริทึมและข้อจำกัดเวลาการโทรส่งผลต่อผลลัพธ์ของผู้ป่วยจริงอย่างไร
  • พยาบาลให้คำปรึกษาไม่ได้ติดตามผู้ป่วยหลังจบสาย จึงยากที่จะยืนยันว่ามีผลลัพธ์เชิงลบเกิดขึ้นหรือไม่
  • CalMatters ขอข้อมูลสาธารณะจาก California Department of Managed Health Care ในปี 2024 แต่ไม่พบข้อร้องเรียนของผู้ป่วยที่เกี่ยวข้องกับเวลาการโทรของ Kaiser
• พยาบาลกล่าวว่าการให้คำปรึกษาต่อไปนี้ต้องใช้เวลานานกว่า 15 นาที
  • ผู้ป่วยที่ต้องประเมินอาการหลายอย่างหรือโรคเรื้อรังร่วมกัน
  • พ่อแม่มือใหม่ที่ต้องการคำแนะนำและการปลอบใจ
  • ผู้ป่วยที่ต้องการสุขศึกษาเพิ่มเติม
  • ผู้ป่วยที่ตกใจหรือวิตกกังวลหลังได้รับการวินิจฉัยที่เปลี่ยนชีวิต
  • สายที่ต้องใช้ล่าม ซึ่งโดยทั่วไปอาจใช้เวลา มากกว่า 30 นาที
• ชาว California ประมาณ 4 ใน 10 คนใช้ภาษาอื่นที่ไม่ใช่ภาษาอังกฤษ และในกลุ่มนั้นครึ่งหนึ่งพูดภาษาอังกฤษได้ไม่คล่อง
• พยาบาลคนหนึ่งเล่าว่า ผู้ป่วยสูงอายุที่ได้รับการวินิจฉัยว่าเป็นมะเร็งระยะสุดท้าย ตอนแรกดูเหมือนมีความเสี่ยงฆ่าตัวตาย แต่จริง ๆ แล้วเพียงต้องการคนคุยด้วยท่ามกลางความตกใจ
  • แม้อยากให้ความเห็นอกเห็นใจและปลอบโยนมากขึ้น แต่เธอลดคำพูดลงเพราะกังวลว่าคะแนนรายเดือนจะลดและผู้จัดการจะตำหนิ
  • เธอต้องชั่งใจเองว่าหากออกนอกแนวทางที่กำหนดหรือพูดมากกว่าที่จำเป็น จะถูกลงโทษทางวินัยหรือไม่
• Michele Ramos จาก Consumer Watchdog มองว่า เนื่องจากผู้ป่วย Kaiser จำนวนมากเริ่มต้นการรักษาผ่านสายให้คำปรึกษา ข้อจำกัดในขั้นตอนโทรศัพท์อาจเป็นจุดเริ่มต้นของปัญหาในภายหลัง
  • Kaiser เคยทำข้อตกลงยุติกรณี รวมถึง ค่าปรับเป็นประวัติการณ์ 50 ล้านดอลลาร์ หลังผลสอบสวนพบว่าเลื่อนนัดสุขภาพจิตช้ากว่ากำหนดตามกฎหมาย และใช้การบำบัดแบบกลุ่มมากเกินไปแทนการบำบัดรายบุคคล
  • ในปี 2002 Kaiser ถูกวิจารณ์ว่าให้โบนัสแก่พนักงานคอลเซ็นเตอร์ที่ไม่ใช่พยาบาลเพื่อแลกกับการโทรสั้น ๆ แต่พยาบาลปัจจุบันกล่าวว่าพวกเขาไม่ได้เจอกับแนวปฏิบัติแบบเดียวกัน

AI ที่ให้คะแนนความเห็นอกเห็นใจและโทนเสียง

• Kaiser ทดสอบเครื่องมือ AI ในฤดูร้อนปี 2024 เพื่อประเมิน ความเห็นอกเห็นใจและโทนเสียง จากเสียงของพยาบาลและผู้ป่วย
  • พยาบาลลงนามในคำร้องเรียกร้องการคุ้มครองข้อมูลส่วนบุคคลของผู้ป่วย ความโปร่งใส สิทธิในการใช้ดุลยพินิจเชิงวิชาชีพ และการมีส่วนร่วมของพยาบาลในกระบวนการนำเทคโนโลยีมาใช้
  • พวกเขาใช้สโลแกน “Trust nurses, not AI” ในแคมเปญ ซึ่งเป็นสโลแกนเดียวกับที่ใช้ในการประท้วงนอกโรงพยาบาลในปีเดียวกัน
  • การทดสอบสิ้นสุดในเดือนพฤศจิกายน 2024 แต่เจ้าหน้าที่สหภาพได้รับแจ้งว่าฝ่ายบริหารอาจนำโปรแกรมกลับมาใช้ในอนาคต
• Sanchez กล่าวว่า แม้การเฝ้าระวังที่มีอยู่เดิมก็ทำให้พยาบาลรู้สึกเหมือนถูกคุกคามอยู่แล้ว และแผนให้ AI ประเมินและให้คะแนนการโทรยิ่งทำให้สถานการณ์หนักขึ้น
• ตามคำบอกเล่าของพยาบาลนิรนาม AI ไม่เข้าใจงานของพยาบาล จึง ให้คะแนนผิดพลาดอย่างต่อเนื่อง
• Kaiser ไม่ตอบคำถามเกี่ยวกับเครื่องมือนั้น ระบบอัตโนมัติที่ใช้ประเมินผลงานพยาบาล และได้แจ้งผู้ป่วยหรือไม่ว่ามีการประเมินความเห็นอกเห็นใจและโทนเสียง

30 วินาทีระหว่างสายกับความอ่อนล้าทางอารมณ์

• ในอดีต พยาบาลได้รับเวลาประมาณ 10 นาที หลังวางสายเพื่อจัดระเบียบบันทึกผู้ป่วยหรือฟื้นตัวจากการให้คำปรึกษาที่ยากลำบาก
• ปัจจุบัน เมื่อปริมาณสายสูง โดยทั่วไปมีเวลาไม่เกิน 30 วินาทีก่อนสายถัดไป
  • ในช่วงที่เงียบกว่า เช่น ตอนดึก อาจมีเวลานานกว่านั้น
  • หลังการให้คำปรึกษาที่ยากเป็นพิเศษ สามารถขออนุญาตผู้จัดการเพื่อรับเวลาเพิ่มได้
• แม้หลังคุยกับผู้ป่วยที่เสี่ยงฆ่าตัวตาย อยู่ในวิกฤตสุขภาพจิต หรือใกล้เสียชีวิต ก็แทบไม่มีเวลาเหลือ และมีความกังวลว่าความเร็วเช่นนี้อาจนำไปสู่ความผิดพลาดที่ทำให้พลาดเบาะแสสำคัญเกี่ยวกับสภาพผู้ป่วย
• งานวิจัยปี 2023 ที่ศึกษาคอลเซ็นเตอร์ใน 4 ประเทศพัฒนาแล้ว พบว่าพนักงานที่อยู่ภายใต้การบริหารและการเฝ้าระวังด้วย AI มีเวลาระหว่างสายน้อยกว่า และมีความอ่อนล้าทางอารมณ์มากกว่า
  • ผู้ตอบแบบสอบถามเกือบครึ่งกล่าวว่าเครื่องมือ AI เพิ่มความเครียดในการทำงาน
  • งานวิจัยก่อนหน้า ของทีมวิจัยเดียวกันพบความเชื่อมโยงระหว่างการเฝ้าติดตามผลงานกับอัตราความอ่อนล้าทางอารมณ์ที่สูง
• Virginia Dolleghast จาก Cornell University มองว่ากรณีของ Kaiser เป็นส่วนหนึ่งของกระแสทั่วทั้งอุตสาหกรรมที่เฝ้าระวังแรงงานซึ่งต้องแก้ปัญหาซับซ้อนและมีมิติทางอารมณ์อย่างต่อเนื่อง
  • ในสถานพยาบาล ความผิดพลาดจากความเครียดและภาวะหมดไฟเชื่อมโยงโดยตรงกับชีวิตและสุขภาพของคน จึงมีความเสี่ยงสูงกว่า
  • แรงงานที่มีอิสระมากในการตัดสินใจจังหวะและเวลาทำงานด้วยตนเองมีความพึงพอใจในงานสูงกว่าและขาดงานน้อยกว่า

อัลกอริทึมกับดุลยพินิจเชิงวิชาชีพของบุคลากรทางการแพทย์

• National Nurses United สำรวจพยาบาลกว่า 2,000 คนในปี 2024 พบว่าครึ่งหนึ่งตอบว่านายจ้างใช้ ระบบอัลกอริทึม ที่วิเคราะห์เวชระเบียน
  • ระบบเหล่านี้สามารถคาดการณ์ความเปราะบางของผู้ป่วยหรือเวลาการดูแลที่จำเป็นได้
  • ผู้ตอบแบบสอบถามสองในสามกล่าวว่าเคยมีกรณีที่ดุลยพินิจของตนไม่ตรงกับการคาดการณ์ของคอมพิวเตอร์
  • 6 ใน 10 คนไม่เชื่อว่านายจ้างจะให้ความสำคัญกับความปลอดภัยของผู้ป่วยเป็นอันดับแรกเมื่อใช้ AI
• Pa Vue พยาบาลของ Kaiser พูดคุยกับผู้จัดการเป็นประจำเรื่องประสิทธิภาพการโทร และได้รับคะแนนประเมินทุกเดือน
  • เธอเคยได้คะแนนลดลงหลังให้คำแนะนำซ้ำแก่ผู้ป่วย เพราะกังวลเกี่ยวกับอาการผิดปกติและความเป็นไปได้ของปัญหาหัวใจ
  • เธอยังเคยเห็นกรณีที่พยาบาลได้คะแนนลดลงเมื่อปฏิเสธคำแนะนำของซอฟต์แวร์ด้วยดุลยพินิจเชิงวิชาชีพ หรือจองนัดผู้ป่วยโดยไม่ปรึกษาแพทย์
• Vue กล่าวว่าเธอไม่ได้คัดค้าน AI เองหากเป็นประโยชน์ต่อผู้ป่วย แต่เห็นว่าการเฝ้าติดตามความเห็นอกเห็นใจและโทนเสียงมุ่งเน้นการเพิ่มผลิตภาพและลดต้นทุน
• เมื่อการนำ AI มาใช้เพิ่มขึ้นทั่วประเทศ สหภาพแรงงานจึงเรียกร้องให้นายจ้างจัดการปัญหาที่ AI ก่อขึ้นในการเจรจาสัญญาใหม่
• แรงงานสุขภาพจิต 2,400 คนของ Kaiser ใน Northern California ก็กำลังเจรจาสัญญาอยู่เช่นกัน
  • พวกเขากังวลเรื่องการใช้บันทึกเสียงเซสชันบำบัดเพื่อฝึกโมเดล AI และความเป็นไปได้ที่ AI จะเข้ามาแทนที่งาน

AI ที่ Kaiser นำมาใช้ในกระบวนการแพทย์

• นอกจากศูนย์ให้คำปรึกษา Kaiser ยังใช้หรือทดสอบ AI ในหลายส่วนของกระบวนการแพทย์
  • วิเคราะห์เวชระเบียนอิเล็กทรอนิกส์เพื่อระบุความเสี่ยงของเหตุการณ์ไม่พึงประสงค์ในผู้ป่วยโรงพยาบาล
  • ใช้ Preventus เพื่อพิจารณาช่วงเวลาจำหน่ายผู้ป่วยออกจากโรงพยาบาล
  • แพทย์และนักบำบัดใช้ Abridge เพื่อบันทึกการพบแพทย์แบบพบหน้าและแปลงเสียงเป็นข้อความ
  • ในสถานพยาบาลแถบ Bay Area กำลังทดสอบการติดตามระยะไกลด้วย AI สำหรับผู้ป่วยที่ต้องการการดูแลเพิ่มเติม
• Cathy Kennedy จาก National Nurses United และ CNA มองว่า AI ตรวจจับความเห็นอกเห็นใจเป็นส่วนหนึ่งของมาตรการต่อเนื่องที่มุ่งจำกัดอิสระของพยาบาลและเพิ่มประสิทธิภาพ
  • เธอเรียกร้องว่า เนื่องจาก AI อาจทำให้งานพยาบาลถูกทำให้เป็นอัตโนมัติและแยกเป็นส่วน ๆ บริษัทที่พัฒนาและนำระบบมาใช้ต้องพิสูจน์ประสิทธิผลและความเป็นธรรมของระบบก่อนใช้งานจริง
• สัญญาระหว่าง Kaiser กับสหภาพพยาบาลมีข้อกำหนดเรื่องการแจ้งเมื่อนำเทคโนโลยีใหม่มาใช้ แต่ CNA ระบุว่าบางครั้งไม่มีการแจ้ง
  • ผู้นำสหภาพขอให้สมาชิกแจ้งเมื่อพบเทคโนโลยีใหม่ และกำลังติดตามจำนวนโมเดล AI ที่ใช้ใน Kaiser
  • ด้วยวิธีนี้ พวกเขาจึงรับมือกับ AI ด้านความเห็นอกเห็นใจและโทนเสียงได้ และยังหยุดการทดสอบที่พยายามใช้กล้องแทนพยาบาลข้างเตียงของผู้ป่วยที่อยู่ในภาวะสับสน
• Coalition of Kaiser Permanente Unions ก็จัดแคมเปญ “see something, say something” ให้แรงงานหน้างานรายงานการนำ AI มาใช้
  • ฝ่ายสหภาพกล่าวว่า ฝ่ายบริหารนำ AI ใส่เข้าไปในเวิร์กโฟลว์บ่อยเกินไปโดยไม่แจ้งแรงงานหรือรับฟังความเห็น
  • Debru Carthan นักรังสีเทคนิค กังวลว่าเครื่องตรวจจับโทนเสียงอาจเลือกปฏิบัติต่อพยาบาลที่มีภูมิหลังทางวัฒนธรรมต่างกัน

คำโต้แย้งของ Kaiser และการเจรจาแรงงาน

• Kaiser โต้ว่าไม่ได้ประเมินผลงานพนักงานให้คำปรึกษาด้วย เวลาเฉลี่ยในการจัดการสาย (Average Handle Time) หรือบังคับใช้เกณฑ์เวลาการโทร
• Kaiser ระบุว่าเครื่องมือคอลเซ็นเตอร์ช่วยสนับสนุนการประกันคุณภาพ และผ่านการตรวจทานและกำกับดูแลโดยมนุษย์
• ในการใช้ AI Kaiser ให้ความสำคัญกับความปลอดภัยของผู้ป่วย การคุ้มครองข้อมูลส่วนบุคคล และความเป็นธรรม แต่ไม่เปิดเผยข้อมูลเฉพาะของระบบเทคโนโลยีภายในด้วยเหตุผลด้านความปลอดภัยและการดำเนินงาน
• Kaiser เป็นนายจ้างภาคเอกชนรายใหญ่ที่สุดของ California ให้บริการทางการแพทย์แก่ประชาชน 9 ล้านคนในรัฐ และชาวอเมริกันอีก 3 ล้านคนในภูมิภาคอื่น
• California Nurses Association จะเริ่มเจรจาสัญญาใหม่กับ Kaiser ในเดือนกรกฎาคม 2026 ครอบคลุมพนักงาน 25,000 คน รวมถึงพยาบาลคอลเซ็นเตอร์ 1,000 คน
  • พยาบาลหยุดงานประท้วงหนึ่งวันในเดือนมีนาคมเพื่อต่อต้าน AI
  • ในฤดูใบไม้ร่วงปีก่อน พวกเขาก็จัดการชุมนุมถือป้ายประท้วงต่อต้านการใช้ AI
  • CNA ไม่เปิดเผยข้อเรียกร้องโดยละเอียดเกี่ยวกับ AI ก่อนการเจรจา

กฎระเบียบ AI ในที่ทำงานของ California

• AB 1018 และ SB 7 ซึ่ง CNA สนับสนุน กำหนดให้นายจ้างแจ้งแรงงานก่อนใช้ระบบอัตโนมัติในการเลื่อนตำแหน่ง การลงโทษทางวินัย การประเมินผลงาน และอื่น ๆ
  • ผู้ว่าการ Gavin Newsom ใช้สิทธิวีโต้ SB 7
  • AB 1018 ไม่ผ่านเป็นปีที่สามติดต่อกัน ท่ามกลางการคัดค้านอย่างหนักจากบริษัทต่าง ๆ รวมถึง Kaiser
• สมาชิกสภานิติบัญญัติเสนอ SB 947 ซึ่งเป็นเวอร์ชันใหม่ของ SB 7 อีกครั้ง
• ร่างกฎหมายแยกต่างหากผลักดันกฎระเบียบต่อไปนี้
  • ห้ามนายจ้างใช้ AI ทำนายสภาวะอารมณ์ ของพนักงาน
  • คุ้มครองแพทย์และพยาบาลไม่ให้ ถูกตอบโต้ แม้จะเพิกเฉยต่อคำแนะนำของระบบอัตโนมัติ
  • กำหนดให้ผู้ให้บริการทางการแพทย์มอบรายการระบบอัตโนมัติแก่พนักงานทุกปี
• CNA และ California Labor Federation สนับสนุนร่างกฎหมายประมาณ 6 ฉบับที่กำกับการใช้ AI ในที่ทำงาน
• พยาบาลกังวลว่าการเฝ้าระวังและการให้คะแนนจะเปลี่ยนพยาบาลที่ดูแลมนุษย์ให้กลายเป็น เครื่องจักรอัตโนมัติที่คอยติ๊กเช็กบ็อกซ์
  • เนื่องจากมีการบันทึกสาย จึงยากที่จะใช้อารมณ์ขันหรือแสดงความเห็นอกเห็นใจส่วนตัวต่อผู้ป่วย
  • พวกเขามองว่า เมื่อการปฏิสัมพันธ์แบบมนุษย์ที่ไม่อยู่ในแนวทางที่กำหนดลดลง แก่นแท้ของงานพยาบาลและการดูแลที่ผู้ป่วยคาดหวังก็ถูกบั่นทอน

[GN⁺]

ความเห็นจาก Hacker News

• พออ่านบทความแล้ว ดูเหมือนว่าความไม่พอใจส่วนใหญ่เกี่ยวกับ ตัวชี้วัดผลงานของคอลเซ็นเตอร์ และแรงกดดันให้จำกัดการรักษา ซึ่งเป็นปัญหาจากการใช้ตัวชี้วัดผิด ไม่ใช่ปัญหาของ AI เอง การประเมินความเห็นอกเห็นใจด้วย AI เป็นโครงการนำร่องในปี 2024 และยกเลิกไปแล้ว
  ภรรยาของผมใช้ LLM ทางการแพทย์ที่ Kaiser และบอกว่ามันช่วยประหยัดเวลาและทำให้ดูแลรักษาได้ดีขึ้นด้วยการแปลแบบเรียลไทม์ สรุปบันทึกการรักษา และค้นหาคำตอบที่ครอบคลุม
  ผู้ป่วยสูงอายุมักนำการแจ้งเตือนจาก Apple Watch ที่ตรวจพบความผิดปกติของหัวใจมาให้ดูบ่อยๆ
  แทนที่จะเหมารวมเทคโนโลยีที่มีประโยชน์และความเสี่ยงต่างกันมาก ควร ประเมินเป็นรายกรณีการใช้งาน

  • ปัญหาแบบนี้พบได้บ่อยในระบบอัตโนมัติและการทำงานด้วยคอมพิวเตอร์มานานแล้ว และมีการบรรยายไว้อย่างชัดเจนในนิยายของ Ellen Ullman เรื่อง Close to the Machine
    ฝ่ายบริหารและนักวิเคราะห์อาศัยกระแส “AI” เพื่อผลักดันระบบอัตโนมัติทั่วไป การทำงานด้วยคอมพิวเตอร์ และแม้แต่การเลิกจ้าง ดังนั้นจึงเป็นเรื่องธรรมดาที่ฝ่ายคัดค้านจะใช้ชื่อเดียวกันนี้
    ภาษาที่ไม่แม่นยำแบบนี้ทำให้การถกเถียงพร่าเลือน และทำให้ยากที่จะมุ่งความโกรธและพลังไปที่ปัญหาสำคัญอย่าง การปกปิดความรับผิดชอบของมนุษย์ การกัดกร่อนอำนาจตัดสินใจของผู้ปฏิบัติงาน ความยืดหยุ่นขององค์กรที่ลดลง และการสูญเสียความเป็นวิชาชีพ แต่ต้นตอของปัญหานี้ไม่ได้เริ่มจากผู้วิจารณ์ AI
  • การแจ้งเตือนความผิดปกติของหัวใจจาก Apple Watch ไม่ใช่ LLM แต่ใกล้เคียงกับ การเรียนรู้เชิงสถิติแบบดั้งเดิม มากกว่า LLM ทางการแพทย์เป็นเครื่องมือใหม่ แต่ไม่ควรจัดการแจ้งเตือนของ Apple Watch ไว้ในหมวดเดียวกัน
  • การตรวจจับความผิดปกติของหัวใจของ Apple Watch แทบเรียกได้ยากว่าเป็น AI

• ถ้าใครคิดว่าการให้เครื่องจักรประเมินว่ามนุษย์มีความเห็นอกเห็นใจมากแค่ไหนเป็นความคิดที่ดี คนคนนั้น ไม่ควรมีอำนาจ

  • แค่การสรุปผลงานจากการทำงานเกิน 40 ชั่วโมงต่อสัปดาห์ออกมาเป็นคะแนนเดียวก็ดูแปลกแล้ว โดยเฉพาะในวงการแพทย์ยิ่งแปลกเข้าไปใหญ่
    การให้รางวัลและการประเมินเป็นสิ่งจำเป็น แต่ก็น่าสงสัยว่าการบริหารด้วยตัวชี้วัดที่คำนวณโดยอัลกอริทึมคือวิธีที่ดีที่สุดหรือไม่ และในกระบวนการนั้นความเห็นอกเห็นใจและสามัญสำนึกกำลังหายไป
  • อำนาจไม่ได้ก่อตัวจากความสามารถ แต่ก่อตัวจาก การสกัดความมั่งคั่ง
  • เรื่องแบบนี้เกิดขึ้นมากขึ้นเมื่อบริการสาธารณสุขกลายเป็นธุรกิจและโรงพยาบาลถูกซื้อรวมเข้ากับระบบการแพทย์ขนาดใหญ่ แม้ในนามจะทำไปเพื่อต่อกรกับบริษัทประกันรายใหญ่ที่ควบรวมกัน แต่ผลลัพธ์คือองค์กรขนาดมหึมากลับใช้อำนาจในทางที่ผิด
  • โครงการประเมินความเห็นอกเห็นใจถูกยกเลิกแล้ว และประเด็นหลักส่วนใหญ่คือ การสอดส่องในที่ทำงาน

• แพทย์ประจำตัวของผมบอกว่าเครื่องมือจดบันทึกด้วย AI ช่วยให้โล่งใจมาก เมื่อก่อนต้องพิมพ์ทุกอย่างไปพร้อมกับฟังผู้ป่วยพูด แต่ตอนนี้สามารถตั้งใจฟังผู้ป่วยได้เต็มที่และบันทึกเฉพาะสิ่งจำเป็นอย่างละเอียด จึง ลดความเครียดลงมาก

  • ผมจะยอมรับเครื่องมือแบบนี้ก็ต่อเมื่อมั่นใจได้ว่าซอฟต์แวร์พื้นฐานปกป้องข้อมูลส่วนบุคคลจริงๆ มีเครื่องมือ AI มากเกินไปที่ทำออกมาแบบลวกๆ จึงยากจะเชื่อถือซอฟต์แวร์ของโรงพยาบาลที่ดูคุณภาพแย่อยู่แล้ว
  • ในนิวซีแลนด์มีการใช้ AI ถอดคำพูดเป็นข้อความ และแพทย์ที่ตอนแรกกังวลก็กลับมาชอบในตอนนี้ เพราะช่วยลดเวลาทำบันทึกและทำให้มีเวลาฟังเรื่องราวของผู้ป่วยนานขึ้น
  • งานพยาบาลกับเวชปฏิบัติปฐมภูมิมีบทบาทต่างกันพอสมควร AI อาจช่วยลดภาระด้านการรับรู้ แต่สำหรับฝ่ายที่ต้องนำแผนไปปฏิบัติจริง มันอาจเพิ่มความเครียดแทน
  • ถ้าลดภาระงานที่ซ้ำๆ และเรียบง่ายได้ แพทย์ก็จะไปโฟกัสกับส่วนที่ยากจริงๆ ได้
    แต่ทันทีที่กฎการปฏิบัติงานถูกใช้เพื่อบังคับวิธีรักษาและสั่งว่าควรดูแลผู้ป่วยอย่างไร ก็ย่อมเกิดแรงต้านอย่างหนัก และแนวคิดที่จะ แทนที่ดุลยพินิจทางคลินิกด้วย AI ก็เป็นเรื่องโง่เขลา

• ตัวชี้วัดในที่ทำงานและการสอดส่อง ก่อผลข้างเคียงได้ง่าย แต่ในงานพยาบาลก็ยังจำเป็นต้องมีการกำกับดูแลด้านความปลอดภัยระดับหนึ่งเหมือนงานอื่นๆ
  ผมเคยได้ยินแพทย์หญิงหลายคนแนะนำให้ระวังการปฏิสัมพันธ์กับพยาบาลเมื่อเข้ารับการรักษาในโรงพยาบาล ไม่ใช่ว่าพยาบาลทุกคนจะทุ่มเทเสมอไป และบางคนก็ละเลยหน้าที่หรือหาข้ออ้างจนทำให้ผู้ป่วยได้รับอันตราย
  การแพทย์ไม่ใช่แค่พันธกิจอันศักดิ์สิทธิ์แต่เป็นอาชีพด้วย ดังนั้นการกำกับดูแลจึงจำเป็น แต่ถ้าเป็นตัวชี้วัดที่บริษัทบังคับใช้ ก็มีโอกาสสูงที่จะบิดเบือนอย่างรุนแรงตาม กฎของ Goodhart

  • เราอาจไม่ควรหวังให้พยาบาลเป็นแบบ Mother Teresa: https://allthatsinteresting.com/mother-teresa-saint

• งานวิจัยนี้ออกมาก่อนการเจรจาสัญญาของสหภาพพยาบาล จึงดูเหมือนเป็น การให้เหตุผลเข้าข้างตัวเองตามแรงจูงใจ แม้จะมีปัญหาจริงอยู่มาก แต่งานวิจัยก็จัดการได้ไม่ดีนัก และควรมีคำวิจารณ์ที่มีประสิทธิภาพกว่านี้
  AI น่าจะนำมาใช้ระบุผู้ป่วยที่ใช้บริการทางการแพทย์มากเกินไปแบบเฉพาะกลุ่ม และแก้สาเหตุรากเหง้าเพื่อลดการใช้งานได้ แบบนั้นจะช่วยยกระดับคุณภาพการรักษาผู้ป่วยและคุณภาพชีวิตของบุคลากรทางการแพทย์ รวมถึงเปิดเวลาให้เข้าถึงผู้ที่ใช้บริการน้อยเกินไปแต่ต้องการการดูแลเชิงป้องกัน

• สงสัยว่า Manna ของ Marshall Brain ยังฟังเหมือนเป็นเรื่องอนาคตอยู่หรือไม่
  https://marshallbrain.com/manna

• ปัญหาที่ AI ในที่ทำงานเข้ามาแทรกแซง การที่พยาบาลปฏิบัติหน้าที่ทางการแพทย์ต่อผู้ป่วยนั้นไม่ได้จำกัดอยู่แค่ Kaiser เพราะ UHC ก็ได้นำเครื่องมือสอดส่องด้วย AI แบบคล้ายกันมาใช้แล้ว

  • จุดอ่อนใหญ่ของระบอบกดขี่คือ ต้นทุนของการเฝ้าระวัง ที่จำเป็นต่อการแยกเรื่องจริงออกจากเรื่องแต่งนั้นเพิ่มขึ้นตามขนาด
    พยาบาลส่วนใหญ่กำลังดูแลผู้คนที่กำลังเจอวันที่เลวร้ายที่สุดในชีวิต

• บทความพูดถึงการใช้ AI แต่แทบไม่ได้ยกตัวอย่าง ความเสียหายที่เกิดจาก AI โดยตรง เลย ตรงกันข้าม ตัวอย่างที่ชัดเจนกลับเป็นกรณีที่ Kaiser ปรับการโทรให้เหมาะกับการลดต้นทุนมากกว่าคุณภาพการรักษา
  นโยบายที่มองว่าสายที่คุยนานเป็นปัญหา หรือทำให้พยาบาลที่ให้คำแนะนำเกินสามข้อเสียเปรียบ มีแนวโน้มจะลดคุณภาพการรักษา

  • มีทั้งการสอดส่องในที่ทำงานและเครื่องมือ machine learning ที่พยายามประเมินความเห็นอกเห็นใจ แต่ในเชิงเทคนิคอาจเรียกว่า AI ได้เท่านั้น ส่วนในบทความใช้คำนี้ในฐานะคำฮิตเสียมากกว่า

• ในโรงพยาบาลชนบทของพื้นที่หนึ่ง มีการติดอุปกรณ์ติดตามให้พยาบาลเพื่อบันทึกทุกการเคลื่อนไหวในโรงพยาบาล และแม้แต่เวลาที่อยู่ในแต่ละจุดก็นำไปใช้ในการประเมินด้วย
  เมื่อหลายปีก่อนพยาบาลจะอยู่ในห้องผู้ป่วยครั้งละ 15~20 นาที แต่ตอนนี้เข้าออกอย่างรวดเร็ว จำนวนผู้ป่วยไม่ได้เพิ่มขึ้น และจำนวนพยาบาลกลับเพิ่มขึ้นด้วยซ้ำ ดังนั้นจึงมองว่า ตัวชี้วัดการประเมินที่ผิดพลาด ทำให้ระดับการรักษาแย่ลง

  • ปริมาณการใช้บริการทางการแพทย์ จำนวนผู้ป่วยเฉพาะราย และปริมาณการรักษาต่อผู้ป่วย ล้วนเพิ่มขึ้น
    การใช้บริการทางการแพทย์เกินความจำเป็น อย่างมหาศาลในสหรัฐฯ กำลังดันต้นทุนให้สูงขึ้น แต่กลับไม่มีใครอยากยอมรับเรื่องนี้อย่างตรงไปตรงมา

• เดิมที Kaiser ก็มีชื่อว่าให้บริการแย่อยู่แล้ว ดังนั้นการเปลี่ยนแปลงครั้งนี้จึงน่ากังวลยิ่งกว่าเดิม