ตำรวจติดอาวุธล้อมนักเรียน หลัง AI เข้าใจผิดว่าถุง Doritos เป็นอาวุธ

 (dexerto.com)
1 คะแนน โดย GN⁺ 2025-10-24 | 2 ความคิดเห็น | แชร์ทาง WhatsApp
  • เกิดเหตุที่นักเรียนคนหนึ่งถูกตำรวจติดอาวุธล้อมในโรงเรียนมัธยมปลายสหรัฐฯ จาก ความผิดพลาดของระบบตรวจจับอาวุธด้วย AI
  • ระบบดังกล่าวเป็นเทคโนโลยีที่ วิเคราะห์ภาพจากกล้องวงจรปิดเพื่อจดจำรูปร่างของปืน แต่ในความเป็นจริงกลับเข้าใจผิดว่าถุงขนม Doritos เป็นปืน
  • นักเรียนคนดังกล่าว ถูกใส่กุญแจมือขณะถูกเล็งปืนใส่ และภายหลังพบการตรวจจับผิดพลาดจากภาพแคปเจอร์ของ AI ที่ตำรวจนำมาแสดง
  • Omnilert บริษัทผู้พัฒนาระบบ ระบุว่า “แม้จะเป็นการตรวจจับผิดพลาด แต่ระบบก็ทำงานตามที่ออกแบบไว้” และทางโรงเรียนก็ออกแถลงการณ์สนับสนุนจุดยืนนี้
  • เหตุการณ์ครั้งนี้จุดชนวนข้อถกเถียงเรื่อง ความน่าเชื่อถือและข้อจำกัดเชิงจริยธรรมของเทคโนโลยีเฝ้าระวังด้วย AI ในโรงเรียน พร้อมสะท้อนความเสี่ยงของสังคมที่พึ่งพา AI

ภาพรวมของเหตุการณ์

  • ที่ Kenwood High School ในเมืองบัลติมอร์ รัฐแมริแลนด์ สหรัฐฯ เกิดเหตุ Taki Allen นักเรียนวัย 16 ปี ถูกตำรวจติดอาวุธเข้าควบคุมตัวจากการตรวจจับผิดพลาดของระบบเฝ้าระวัง AI
    • เหตุเกิดเมื่อวันที่ 20 ตุลาคม ขณะที่ Allen อยู่กับเพื่อนหลังซ้อมฟุตบอล
    • รถตำรวจหลายคันมาถึงหน้าโรงเรียน และเจ้าหน้าที่เล็งปืนไปที่นักเรียนพร้อมสั่งว่า “นอนลงกับพื้น”
  • Allen ถูกตรวจค้นในสภาพคุกเข่าและถูกใส่กุญแจมือ แต่ตำรวจไม่พบอาวุธใด ๆ
    • ในภาพแคปเจอร์จาก AI ที่ตำรวจนำมาแสดง ถุง Doritos ที่ยับอยู่ในกระเป๋าของเขา ถูกจดจำว่าเป็นปืน
  • Allen กล่าวว่าในตอนนั้นเขาคิดว่า “ตัวเองอาจตายได้” และหลังเหตุการณ์ก็เปิดเผยว่ากลัวที่จะกลับไปโรงเรียน

วิธีทำงานของระบบ AI และปัญหาที่เกิดขึ้น

  • ระบบที่เป็นปัญหาคือ Gun Detection Technology ของ Omnilert ซึ่งเป็นโซลูชันเฝ้าระวังด้วย AI ที่นำมาใช้ในโรงเรียนรัฐของเขตบัลติมอร์ตั้งแต่ปีที่แล้ว
    • ระบบจะวิเคราะห์ภาพจาก CCTV เดิมแบบเรียลไทม์ และเมื่อ ตรวจพบวัตถุที่คาดว่าเป็นรูปร่างปืน ก็จะส่งสัญญาณเตือนไปยังตำรวจทันที
  • Omnilert ยอมรับว่าเหตุการณ์นี้เป็น “false positive (การตรวจจับผิดพลาด)” แต่ยืนยันว่าระบบ “ทำงานตามที่ตั้งใจไว้”
    • บริษัทระบุว่าจุดประสงค์คือ “การรักษาความปลอดภัยผ่านการตรวจสอบโดยมนุษย์อย่างรวดเร็ว” และมองว่านี่ไม่ใช่ปัญหาเชิงโครงสร้างของเทคโนโลยี
  • อย่างไรก็ตาม เอกสารประชาสัมพันธ์ของบริษัทเน้นย้ำเรื่อง “การตรวจจับปืนได้ทันที” และ “อัตราการตรวจจับผิดพลาดที่แทบเป็นศูนย์” ทำให้เหตุการณ์นี้กลายเป็นจุดที่สั่นคลอนความน่าเชื่อถือของระบบ

การตอบสนองของโรงเรียนและชุมชนท้องถิ่น

  • Baltimore County Public Schools ระบุในจดหมายถึงผู้ปกครองโดยย้ำจุดยืนของ Omnilert ว่าเป็น “มาตรการเพื่อความปลอดภัยและการสร้างความตระหนักให้แก่นักเรียน”
    • โรงเรียนประกาศว่าจะ ให้บริการให้คำปรึกษา แก่นักเรียนที่เห็นเหตุการณ์
  • อย่างไรก็ตาม Allen กล่าวว่าเขา ไม่ได้รับคำขอโทษหรือการติดต่อโดยตรงจากโรงเรียน
    • เขากล่าวว่า “ผมได้ยินแค่ว่ามันเป็นเพียงขั้นตอนปฏิบัติการ (protocol)” พร้อมแสดงความผิดหวังต่อการตอบสนองของโรงเรียน
  • หลังเหตุการณ์ Allen กล่าวด้วยว่า “ตอนนี้ผมกลัวว่าแค่กินขนมหรือดื่มอะไรอีก ตำรวจก็อาจมาอีก” และยังลังเลที่จะกลับไปโรงเรียน

ข้อถกเถียงที่ขยายวงเกี่ยวกับเทคโนโลยีเฝ้าระวังด้วย AI

  • เหตุการณ์นี้จุดชนวนข้อถกเถียงเรื่อง ความน่าเชื่อถือและข้อจำกัดเชิงจริยธรรมของระบบเฝ้าระวังด้วย AI
    • โดยเฉพาะในพื้นที่อ่อนไหวอย่างโรงเรียน ที่ การตรวจจับผิดพลาดของ AI อาจคุกคามความปลอดภัยของนักเรียนได้
  • ผู้เชี่ยวชาญเตือนว่า หากความผิดพลาดในการตัดสินของ AI นำไปสู่การตอบโต้ด้วยกำลังจริง ก็มีความเสี่ยงที่จะลุกลามจนเกิดความสูญเสียต่อชีวิต
  • เหตุการณ์นี้จึงกลายเป็นโอกาสให้สังคมหันกลับมาทบทวน ความรับผิดชอบทางสังคมของเทคโนโลยี AI และความสำคัญของกระบวนการตรวจสอบโดยมนุษย์

แนวโน้มระหว่างประเทศที่เกี่ยวข้องกับการขยายตัวของ AI

  • ในช่วงเวลาใกล้เคียงกัน พลตรี William ‘Hank’ Taylor แห่งกองทัพบกสหรัฐฯ เปิดเผยว่าใช้ ChatGPT ในการตัดสินใจทางทหาร จนเกิดกระแสวิพากษ์วิจารณ์
    • สิ่งนี้สะท้อนว่าแม้แต่ในหน่วยงานรัฐและองค์กรทางทหาร การพึ่งพา AI ก็ขยายตัวอย่างรวดเร็ว
  • ที่สหราชอาณาจักร มีการนำ ระบบยืนยันอายุด้วยการจดจำใบหน้าสำหรับการเข้าถึงคอนเทนต์ผู้ใหญ่ มาใช้ จนเกิดข้อถกเถียงด้าน AI อีกกรณี
    • ชายคนหนึ่งที่มีรอยสักจำนวนมากอ้างว่าได้รับข้อความจากระบบว่า “remove your face” ซึ่งสะท้อน ผลข้างเคียงจากความผิดพลาดในการจดจำของ AI
  • กรณีเหล่านี้ถูกมองว่าเป็นตัวอย่างสำคัญที่แสดงให้เห็นถึง ผลลัพธ์ที่คาดเดาไม่ได้ เมื่อ AI แทรกซึมลึกเข้าไปในชีวิตประจำวันของมนุษย์และพื้นที่ด้านความปลอดภัยสาธารณะ

บทความที่เกี่ยวข้อง

2 ความคิดเห็น

 
onixboox 2025-10-24

คงไม่ใช่ว่านักเรียนที่บอกว่าถูกจับกุมเป็นคนผิวดำหรอกนะ?
 
GN⁺ 2025-10-24
ความคิดเห็นจาก Hacker News

  • แม้ Omnilert จะยอมรับว่าเหตุการณ์นี้เป็น “false positive” แต่ก็ยังอ้างว่าระบบ “ทำงานตามที่ตั้งใจไว้”
    แต่ในความเป็นจริง นั่นหมายถึงคนที่ถือปืนถูกส่งไปปฏิบัติการจากข้อมูลผิด ๆ ว่า “มีวัยรุ่นคนหนึ่งถือปืน” ซึ่งสร้างสถานการณ์ที่อันตรายมาก
    นักเรียนคนนั้นอาจได้รับบาดแผลทางใจด้วย ซ้ำร้ายคำพูดที่ถูกอ้างในบทความยังทำให้รู้สึกว่าผู้ใหญ่ที่สร้างเทคโนโลยีนี้ดูไร้วุฒิภาวะยิ่งกว่านักเรียนคนนั้นเสียอีก

    • อีกกรณีหนึ่งคือ บทความเกี่ยวกับคดีฟ้องร้องระบบเฝ้าระวัง AI ของเขตการศึกษา Lawrence ซึ่งมีนักเรียนคนหนึ่งพูดเล่นในแชตกลุ่มแล้ว AI ไปรายงานจนถูกจับกุม และถูกควบคุมตัว 24 ชั่วโมงโดยไม่ได้พบพ่อแม่หรือทนาย
      ตอนนี้จึงมีการฟ้องร้อง Gaggle อยู่ และคู่แข่งอย่าง Lightspeed ก็บอกว่ามีตัวเลือกแบบเสียเงินสำหรับให้มนุษย์ตรวจสอบการแจ้งเตือน
    • พอได้ยินคำว่า “ทำให้ปลอดภัยด้วยการตรวจสอบโดยมนุษย์อย่างรวดเร็ว” ก็ยิ่งรู้สึกว่า สุดท้ายมันก็เป็นแค่การ ปัดความรับผิดชอบ
    • นี่แทบจะเป็นสถานการณ์แบบ AI swarm ที่ “AI จัดสรรทรัพยากรโดยอัตโนมัติ” เลยทีเดียว มีแต่การลงมือทำโดยไม่มีการตัดสินใจของมนุษย์
    • ไม่ว่าระบบไหนก็มีทั้ง false positive และ false negative แต่กรณีนี้อันตรายทั้งสองแบบ
      นอกจากต้องยกระดับคุณภาพของโมเดลตรวจจับแล้ว ยังต้องมี โครงสร้างที่ลดต้นทุนความเสียหาย เมื่อล้มเหลวด้วย วิธีนั้นก็คือการตรวจสอบโดยมนุษย์หรือกระบวนการยืนยันซ้ำรอบสอง
    • วิศวกรอาจสร้างมันในฐานะ “เครื่องมือช่วยความปลอดภัยสาธารณะ” แต่พอฝ่ายการตลาดกับฝ่ายขายเอาไปห่อว่าเป็น “ระบบตัดสินใจอัตโนมัติเต็มรูปแบบ” มันก็กลายเป็นความจริงเชิงเสียดสีที่ลงเอยด้วย ความผิดพลาดที่มีการเล็งปืนใส่คน

  • เหตุการณ์แบบนี้ดูเหมือนเป็นการเอาโมเดลรู้จำวัตถุโอเพนซอร์ส YOLO ไปดัดแปลงเล็กน้อยแล้วทำเป็นสินค้าเชิงพาณิชย์
    ไม่มีใครรู้เลยว่าความแม่นยำจริงเป็นเท่าไร ฝึกด้วยข้อมูลอะไร และมี อัตราการตรวจจับผิดพลาด เท่าไร
    คิดว่าถ้าจะนำระบบแบบนี้ไปใช้งานจริง ก็ควร บังคับ ให้เปิดเผยสถิติและข้อมูลฝึก

    • สุดท้ายก็เท่ากับพลาดแนวคิด “human in the loop” ไปแบบเต็ม ๆ วันหนึ่งบริษัทนี้มีโอกาสสูงที่จะโดน คดีฆ่าคนตายโดยประมาท

  • John Bryan ซึ่งทำงานในชื่อ The Civil Rights Lawyer น่าจะออกมาพูดถึงเหตุการณ์นี้
    เขาวิพากษ์วิจารณ์มาตลอดว่าการที่ตำรวจเล็งปืนจากข้อมูลที่ไม่เพียงพอคือ “การใช้กำลังเกินสมควร” ในทางกฎหมาย
    ถ้า AI และตำรวจต่างก็เห็นภาพแล้วเข้าใจผิดว่าเป็นปืน อาจพอใช้เป็นเหตุผลได้ แต่ถ้า AI เป็นฝ่ายสั่งให้มีการเข้าปฏิบัติการอัตโนมัติ ความชอบธรรมก็ยิ่งอ่อนลงมาก

    • สักวันหนึ่งเราอาจได้ยินในศาลว่า “หลักฐานจาก AI น่าเชื่อถือ เพราะเป็นเทคโนโลยีที่มีเงินลงทุนหลายหมื่นล้านดอลลาร์รองรับ”
    • น่าสงสัยว่าการใช้กำลังโดยไม่มีเหตุอันสมควรนั้นถือเป็น การปราบปรามเกินกว่าเหตุ ทันทีเลยหรือไม่ หรือยังมีพื้นที่สีเทาอยู่

  • การมอบระบบแบบนี้ให้คนที่ไม่เข้าใจ AI ในเชิงเทคนิคดีพอเป็นเรื่องอันตราย
    พวกเขามีแนวโน้มจะ เชื่อผลลัพธ์ของ AI แบบไม่ลืมหูลืมตา
    สิ่งที่ทีมความปลอดภัย AI ควรโฟกัสจริง ๆ คือทำให้สังคมเข้าใจว่า “คอมพิวเตอร์ก็ผิดพลาดได้”

  • ฝั่งโรงเรียนบอกว่าจะ “จัดบริการให้คำปรึกษาแก่นักเรียน” แต่ที่ควรทำมากกว่านั้นคือบังคับให้ต้องรับ ความรับผิดชอบทางการเงินต่อการตรวจจับผิดพลาด
    เทคโนโลยีแบบนี้ยังควรอยู่แค่ใน ขั้นห้องแล็บ

    • การตัดสินใจที่ผิดต้องมีคนรับผิดชอบ มีแต่ ระบบที่เอาผิดผู้ตัดสินใจได้ เท่านั้นที่จะหยุดการตัดสินใจแย่ ๆ ได้
    • ทรัพยากรและกำลังคนถูกสิ้นเปลืองไปแล้วกับการตอบสนองที่ผิดพลาด ตอนนี้ถึงขั้นที่ควรมี การลาออกหรือการลงโทษ
    • อดประชดไม่ได้ว่าแทนที่จะให้คำปรึกษา เขาจะให้เป็น บัตรของขวัญสำหรับการบำบัดจิตใจ หรือเปล่า
    • แน่นอนว่าเทคโนโลยีย่อมมีความเสี่ยงเสมอ แต่ก็ไม่ได้มองว่าแค่การตรวจจับผิดพลาดครั้งเดียวจะลบล้างข้อดีทั้งหมด
      เพียงแต่ต้องเปิดเผย สัดส่วนระหว่างสัญญาณเตือนลวงกับการตรวจจับจริง อย่างโปร่งใส

  • ยุคที่แพลตฟอร์มสอดส่องอย่าง Palantir แพร่กระจายไปทั่วสังคมกำลังมาถึง
    ระบบ ML ที่ไม่เป็นเชิงกำหนดอาจสร้างความเสียหายถึง ชีวิตคน ได้เมื่อเกิดข้อผิดพลาด
    ในสังคมอำนาจนิยม ข้อผิดพลาดแบบนี้มักถูกปกปิด ดังนั้นจึงต้องเรียกร้อง กฎระเบียบทางกฎหมาย ตั้งแต่ตอนนี้

    • แต่เหตุการณ์นี้เกี่ยวกับ Omnilert ไม่ใช่ Palantir จึงไม่ควรทำให้ประเด็นสับสน

  • Omnilert บอกว่า “ระบบทำงานตามที่ตั้งใจไว้” แต่ในความเป็นจริงมันคือ AI swatting คน
    ถ้าที่ไหนติดตั้งระบบแบบนี้ ก็ควรหลีกเลี่ยงให้ไกลจะปลอดภัยกว่า

    • นี่คือตัวอย่างคลาสสิกของ ข้อแก้ตัวแบบบริษัท ว่า “นี่ไม่ใช่บั๊ก แต่มันคือฟีเจอร์”
    • เทคโนโลยีแบบนี้สุดท้ายจะนำไปสู่ การเสียสละของนักเรียนผู้บริสุทธิ์ เพราะระดับเทคโนโลยียังไปไม่ถึงจุดนั้น
    • คำอ้างที่ว่ามันให้ความสำคัญกับความปลอดภัยของมนุษย์ก่อนนั้นเป็นเรื่องโกหกอย่างชัดเจน

  • บอกว่าเป็น “การตรวจสอบโดยมนุษย์อย่างรวดเร็ว” แต่ของจริงกลายเป็น การตรวจสอบต่อหน้าปากกระบอกปืน

    • แนวคิดทำนองว่า “อย่าเสียเวลาตรวจสอบ รีบกำจัดภัยคุกคามทันที” ยิ่งอันตรายกว่าเดิม
    • เมื่อตำรวจออกปฏิบัติการ ควรดู วิดีโอต้นฉบับที่ AI ตรวจจับได้ ทันที เพื่อจะได้ลด false positive และเข้าใจสถานการณ์ได้ถูกต้อง
    • ขั้นต่อไปอาจกลายเป็น CAPTCHA แบบ ยืนยันว่าคุณไม่ใช่หุ่นยนต์ด้วยปลายกระบอกปืน ก็ได้

  • ทุกครั้งที่ผ่าน เครื่องสแกน TSA ในสนามบินก็แอบเครียดตลอด เพราะกางเกงที่มีซิปทำให้โดนตรวจเพิ่มบ่อย
    ตอนนี้เรากำลังเข้าสู่ยุคที่ กล้องความปลอดภัย AI ตามท้องถนนสามารถปักธงคนได้ตามอำเภอใจ
    พอระบบพวกนี้ทำเงินได้ ก็ยิ่งเสี่ยงที่จะแพร่กระจายโดยไร้การควบคุม

    • ถ้าใช้ Precheck หรือ Global Entry ก็ช่วยลดความถี่ในการถูกตรวจได้ แม้น่ารำคาญแต่ก็เป็นทางออกที่ใช้ได้จริง
    • การต้องเปลี่ยนการแต่งตัวเพื่อหลีกเลี่ยงการตรวจเป็นผลข้างเคียงของ security theater วันหนึ่งเราอาจต้องปรับแม้แต่เสื้อผ้าที่ใส่ในชีวิตประจำวัน
    • ประชาชนควร ส่งความเห็นทางอีเมลด้วยตัวเอง แค่มีคนลงมือสักไม่กี่ร้อยคน นักการเมืองก็เริ่มตอบสนองแล้ว ปัญหาใหญ่ที่สุดคือความเงียบ
    • ครั้งหนึ่งเคยยื่น ใบอนุญาตพกพาอาวุธปืน แทนบัตรประชาชน เลยโดนตรวจเพิ่ม แต่ก็ผ่านไปได้อย่างปลอดภัย
    • เพื่อนคนหนึ่งยืนรอฉันหลังผ่านเครื่องสแกน แล้วกลับถูกตรวจซ้ำเพราะถูกมองว่า “เดินวนไปมา” ดูเหมือนจะมี อคติทางเชื้อชาติ เข้ามาเกี่ยวข้อง

  • คำพูดที่ว่า “ระบบทำงานตามที่ตั้งใจไว้” ฟังดูเหมือนมีม ‘Not a hotdog’ ในโลกจริง
    เพียงแต่ครั้งนี้เป็นการแยก “ปืน / ไม่ใช่ปืน” และความแม่นยำก็ยังแย่ยิ่งกว่านั้นอีก