Google ชี้พ่อที่ถ่ายรูปบริเวณที่ป่วยของลูกทารกเป็นอาชญากร

 (nytimes.com)
11 คะแนน โดย xguru 2022-08-22 | 8 ความคิดเห็น | แชร์ทาง WhatsApp
  • ช่วงเดือนกุมภาพันธ์ 2021 เป็นวันหยุดสุดสัปดาห์และอยู่ในช่วงการระบาดใหญ่ พยาบาลจึงบอกว่า หากถ่ายวิดีโอ/ภาพแล้วส่งมา แพทย์จะช่วยตรวจดูล่วงหน้าเพื่อการรักษาฉุกเฉินได้
  • เนื่องจากบริเวณที่ทารกป่วยเป็น "อวัยวะสำคัญ" เขาจึงถ่ายรูปให้เห็นชัดแล้วส่งไป หลังจากแพทย์ตรวจดู ก็สั่งยาปฏิชีวนะอย่างรวดเร็ว ทำให้เรื่องจบลงในเวลาไม่นาน
  • แต่เพราะภาพดังกล่าว อัลกอริทึมของ Google กลับระบุว่าเขาเป็นผู้แลกเปลี่ยน CSAM (สื่อการล่วงละเมิดทางเพศเด็ก) และระงับบัญชี Google ของเขา
    • Gmail, Google Calendar ที่ใช้งานมานานกว่า 10 ปี รูปภาพและวิดีโอที่สำรองไว้บน Google Cloud และโทรศัพท์ที่ใช้ Google Fi
  • ยิ่งไปกว่านั้น Mark ผู้เป็นเจ้าของเรื่อง ยังเป็นวิศวกรซอฟต์แวร์ที่บริษัทเทคโนโลยี ทำเครื่องมืออัตโนมัติสำหรับลบวิดีโอคอนเทนต์ที่ผู้ใช้ปักธงรายงาน
  • เขาจึงคิดว่า เบื้องหลังเรื่องแบบนี้มีคนคอยดูแลไม่ให้คอมพิวเตอร์ตัดสินผิดพลาด และถ้ามนุษย์ได้เห็น ปัญหาก็น่าจะถูกแก้ไข
    • เขาส่งอีเมลชี้แจงไป แต่ Google ตอบกลับว่าจะไม่กู้คืนบัญชีโดยไม่มีคำอธิบายเพิ่มเติม
    • ประวัติอีเมลทั้งหมด รูปภาพ และรายชื่อติดต่อหายไปหมด และเขายังต้องเปลี่ยนหมายเลขโทรศัพท์ด้วย
    • แม้ Mark จะไม่รู้ แต่ทีมตรวจสอบของ Google ได้รายงานภาพที่เขาส่งไว้แล้ว ทำให้ตำรวจซานฟรานซิสโกเริ่มสอบสวนเขา
  • เหตุการณ์คล้ายกันนี้เกิดขึ้นกับชายชื่อ Cassio ในเท็กซัสเช่นกัน
  • ในปี 2021 Google รายงาน CSAM มากกว่า 600,000 กรณี และมีบัญชี 270,000 บัญชีถูกปิดใช้งาน
  • ในปี 2009 Microsoft พัฒนาเทคโนโลยี PhotoDNA และในปี 2018 Google ก็พัฒนาเครื่องมือ AI ที่สามารถตรวจจับภาพ CSAM ได้
    • บริษัทหลายแห่งรวมถึง Facebook ใช้เทคโนโลยีนี้
  • เดือนธันวาคม 2021 Mark ได้รับจดหมายจากตำรวจซานฟรานซิสโก
    • ในจดหมายระบุว่าเขาเคยถูกสอบสวน และแนบสำเนาหมายค้นที่ส่งให้ Google มาด้วย
    • ทุกอย่างในบัญชี Google ของ Mark (การค้นหาบนอินเทอร์เน็ต, ประวัติตำแหน่ง, ข้อความ, เอกสาร, รูปภาพ, วิดีโอ ฯลฯ) ถูกตรวจสอบทั้งหมด
    • การค้นนี้เกิดขึ้นเพียงหนึ่งสัปดาห์หลังจากที่เขาถ่ายรูปในเดือนกุมภาพันธ์
    • เมื่อ Mark ติดต่อไปยังผู้สืบสวน ก็ได้รับคำตอบว่าคดีถูกปิดไปแล้วโดยไม่พบความผิด
    • ผู้สืบสวนบอกว่าอยากติดต่อ Mark แต่ทั้งโทรศัพท์และอีเมลติดต่อไม่ได้ (เพราะถูกระงับ)
    • เขาถามผ่านผู้สืบสวนว่าสามารถกู้คืนบัญชี Google ได้หรือไม่ แต่ได้รับคำตอบว่า "ต้องไปคุยกับ Google"
    • เขาส่งรายงานของตำรวจนี้ให้ Google แล้ว แต่ก็ไม่มีประโยชน์
  • ฝั่ง Cassio ก็เคลียร์ปัญหาได้เหมือนกัน แต่ก็ไม่สามารถกู้คืนบัญชี Google ได้
  • AI จะสามารถแยกภาพทางการแพทย์ออกจากภาพการล่วงละเมิดได้จริงหรือ?

บทความที่เกี่ยวข้อง

8 ความคิดเห็น

 
kunggom 2022-08-26

ในที่สุดก็มีรายงานในข่าวภายในประเทศโดยอ้างอิง New York Times เช่นกันนะครับ。

"Google กล่าวหาให้พ่อที่ถ่ายอวัยวะเพศของลูกชายทารกเพื่อการรักษาพยาบาลเป็นอาชญากรทางเพศ"
 
laeyoung 2022-08-22

เช่นเดียวกับเมื่อ 70 ปีก่อนที่นักวิทยาศาสตร์ได้เห็นระเบิดนิวเคลียร์แล้วเริ่มต้นการกำกับตรวจสอบตนเองต่อวิทยาศาสตร์ ผมคิดว่าตอนนี้ก็น่าจะเป็นช่วงเวลาที่นักพัฒนาเองก็จำเป็นต้องมีการกำกับตรวจสอบตนเองต่อบริษัทยักษ์ใหญ่ด้านเทคโนโลยีเช่นกัน
 
alstjr7375 2022-08-22

ขนาดนี้น่าจะฟ้องร้องได้แล้วไหม..?
 
kunggom 2022-08-22

ตามบทความต้นฉบับที่เก็บถาวร Mark ก็ได้ปรึกษาทนายว่าตนสามารถฟ้อง Google ได้หรือไม่ แต่เมื่อทราบว่าต้องเสียค่าใช้จ่ายราว 7,000 ดอลลาร์ ดูเหมือนว่าเขาจะล้มเลิกไป
 
terger24 2022-08-22

ดูเหมือนว่าแค่ก้มหัวขอโทษก็คงยังไม่พอด้วยซ้ำ....
 
ifmkl 2022-08-22

โห แบบนี้ดูเหมือนว่าควรจะได้รับการชดเชยจากความเสียหายที่เกิดขึ้นเสียด้วยซ้ำ หรือว่าพวกเขากำลังรับมือแบบนั้นเพื่อกลบเรื่องนี้กันแน่?
 
devsepnine 2022-08-22

การตอบสนองหรือการจัดการของ Google ก็ดูมาตรฐานต่ำเหมือนกัน..