การหยุดการเดินรถไฟชั่วคราวเพราะภาพสะพานถล่มปลอม

• ภาพที่สงสัยว่าถูกสร้างด้วย AI แพร่กระจายทางสื่อสังคม โดยดูเหมือนว่ามีสะพานพังจริง จึงทำให้การเดินรถไฟต้องหยุดชั่วคราว
• Network Rail ได้หยุดขบวนรถไฟทั้งหมดที่ผ่าน Carlisle Bridge ทันทีหลังภาพถูกเผยแพร่ เพื่อทำการตรวจสอบความปลอดภัย
• หลังการตรวจสอบไม่พบความผิดปกติ จึงเปิดทางให้รถไฟวิ่งได้อีกครั้งภายหลังราวหนึ่งชั่วโมงครึ่ง และ ขบวนรถไฟโดยสารและบรรทุกสินค้า 32 ขบวน เกิดความล่าช้า
• หน่วยงานทางรถไฟเตือนว่า การสร้างและแชร์ภาพปลอม ทำให้เกิดความสับสนที่ไม่จำเป็นและการสิ้นเปลืองภาษี
• ผู้เชี่ยวชาญประเมินว่ากรณีนี้แม้ความเสียหายจริงแท้จะมีน้อย แต่เป็นตัวอย่างที่แสดงให้เห็น ความเสี่ยงของข้อมูลเท็จที่ขับเคลื่อนด้วย AI ต่อการดำเนินงานโครงสร้างพื้นฐานของสังคม

---

การหยุดเดินรถไฟเนื่องจากภาพปลอม

• หลังเกิดแผ่นดินไหวไม่นาน ภาพที่ดูเหมือนสะพานเสียหายอย่างหนัก ถูกโพสต์บนสื่อสังคม
  • ภาพนี้ถูกสงสัยว่า ถูกสร้างด้วย AI และถ่ายทอดให้เห็นว่า Carlisle Bridge ใน Lancaster พังถล่ม
• Network Rail รับรู้ภาพดังกล่าวเวลา 00:30 GMT และได้หยุดการเดินทางของรถไฟทุกขบวนที่ผ่านสะพานเพื่อความปลอดภัย
• นักข่าว BBC วิเคราะห์ภาพด้วย AI chatbot และพบส่วนที่มี ร่องรอยการดัดแปลง

การตอบสนองและผลกระทบของหน่วยงานทางรถไฟ

• ราว 02:00 GMT เส้นทางรถไฟกลับมาเปิดใช้งานได้อย่างสมบูรณ์ โดย Network Rail เตือนถึงผลกระทบรุนแรงที่การสร้าง/แชร์ภาพปลอมอาจก่อให้เกิดได้
• หน่วยงานกล่าวว่า “ความสับสนจากภาพปลอมเช่นนี้นำไปสู่ ความล่าช้าของผู้โดยสารและการสิ้นเปลืองภาษี และเพิ่มภาระการทำงานของเจ้าหน้าที่หน้างาน”
• British Transport Police รับทราบเหตุการณ์ แต่ ไม่มีการสืบสวนอย่างเป็นทางการ

ขนาดความล่าช้าการเดินทาง

• ตามข้อมูลจาก Network Rail ขบวนรถไฟโดยสารและบรรทุกสินค้า 32 ขบวนทั้งหมด ถูกล่าช้า
  • ขบวนบางส่วนหยุดขบวนหรือชะลอความเร็วโดยตรง และบางขบวนได้รับผลกระทบจากความล่าช้าของขบวนที่มาก่อนหน้า
  • ความล่าช้าลุกลามไปถึง ตอนเหนือของสกอตแลนด์ เนื่องจากความยาวของ West Coast Main Line

การวิเคราะห์จากผู้เชี่ยวชาญ

• ผู้เชี่ยวชาญทางรถไฟ Tony Miles อธิบายว่า เวลาที่เกิดเหตุเป็นเวลาค่ำคืนจึงมี ขบวนรถบรรทุกสินค้าและรถไฟนอน เป็นส่วนใหญ่
  • ขบวนเหล่านี้โดยทั่วไปเดินทางด้วยความเร็วต่ำ จึงมีเงื่อนไขในการเร่งความเร็วเพื่อชดเชยเวลาได้หากเกิดความล่าช้า
• เขากล่าวว่า Network Rail ต้อง ส่งทีมตรวจสอบภาคสนามเข้าไปปฏิบัติงานแบบด่วน จึงอาจกระทบงานในอีกไม่กี่วันข้างหน้า

ผลกระทบทางสังคมของข้อมูลเท็จ

• Miles เน้นว่าระดับ ภาพปลอมเช่นนี้สามารถส่งผลต่อกำหนดการจริงของผู้คน ได้
  • เขาเตือนว่าระบบนัดหมายทางการแพทย์ เที่ยวบิน และงานศพ เป็นต้นจุดสำคัญในตารางชีวิตอาจเกิดปัญหาได้
• เขากล่าวว่า “การกระทำเช่นนี้ไม่ใช่แค่ล้อเล่น แต่เป็นการกระทำที่ก่อให้เกิดความเสียหายต่อชีวิตผู้คนจริง” และเรียกร้องให้ระวังตัว

[roxie]

ทำไมถึงไม่ตามหาคนที่เป็นคนปล่อยเรื่องนี้เป็นคนแรกล่ะ

[shakespeares]

แบบนี้ด้วย AI พวกปั่นหุ้นก็คงเปลี่ยนจากการทำกันเป็นองค์กรมาเป็นทำกันรายบุคคลได้สินะ?

[crawler]

ผมสงสัยจริง ๆ ว่าในกรณีแบบนี้จะถูกลงโทษอย่างไร

[GN⁺]

ความคิดเห็นจาก Hacker News

• ตอนนี้เราเพิ่งเริ่มเข้าสู่ยุคของ ภาพและวิดีโอปลอม
  ก่อนหน้านี้ก็มีอย่างเช่น เหตุระเบิดจัดฉากในภูมิภาค Donbas ที่แม้ไม่มี AI ผู้คนก็ใช้ศพมาสร้างฉากปลอมได้
  จากนี้ไปคงจะมีวิดีโอของคนกลุ่มน้อยหรือพวกนักการเมืองที่ทำในสิ่งที่พวกเขาไม่เคยทำ รวมถึงหลักฐานแต่งเรื่องล้วน ๆ ที่ถูกยื่นต่อศาล โลกที่กำลังจะมาถึงดูน่ากลัวมาก

  • ที่จริงไม่จำเป็นต้องมี วิดีโอปลอม ด้วยซ้ำ แค่เอารูปของคนกลุ่มน้อยมาติดคำบรรยายเท็จ ก็มีคนจำนวนมากโกรธแล้วกรูกันเข้ามาแล้ว
  • แต่ละรุ่นตอบสนองต่างกัน คนที่ผ่านยุคเริ่มต้นของการตัดต่อดิจิทัลที่เริ่มแพร่หลายมาจะค่อนข้างนิ่ง ๆ แต่คนรุ่นคั่นกลางนั้น (อายุ 20~40 ปี) กลับหงุดหงิดที่สุด ให้ความรู้สึกเหมือนยืนอยู่กลาง ความสับสนแบบไซเบอร์พังก์ ที่ความรับรู้ต่อความจริงกำลังพังทลาย
  • เมื่อ 10~20 ปีก่อน ก็สามารถสร้าง ของปลอมที่แนบเนียน ได้ด้วยเครื่องมือพื้นฐานอยู่แล้ว เรื่องเล่าว่า “AI กำลังทำลายทุกอย่าง” ทุกวันนี้กลับดูเหมือนเป็นความเคลื่อนไหวทางการเมืองที่มุ่งเล่นงาน การกำกับดูแลโอเพนซอร์ส AI มากกว่า
  • ฉันเพิ่งได้ยินคำว่า ‘Cheap Fakes’ ครั้งแรกจากงานวิจัยในอินเดีย Generative AI ทำให้การโจมตีแบบฟิชชิงมีประสิทธิภาพขึ้น จนสามารถพุ่งเป้าไปยังกลุ่มเปราะบางที่เมื่อก่อนไม่ใช่เป้าหมายได้ ระบบนิเวศข้อมูลกำลังปนเปื้อน และกำลังก่อให้เกิดป่ามืดที่ความอยากควบคุมของรัฐปะทะกับ เสรีภาพในการแสดงออก
  • แน่นอนว่ามีรูปที่ถูกดัดแปลงจริงมากมาย แต่ก็มีบ่อยครั้งเช่นกันที่เหตุการณ์จริงถูกบิดเบือนหรือถูกเพิกเฉย ปัญหาอยู่ตรงจุดที่ความจริงกับเรื่องแต่งปะปนกัน

• กรณีนี้แสดงให้เห็นถึง ช่องว่างระหว่างต้นทุนในการสร้างคำเตือนกับต้นทุนในการตรวจสอบ
  เครื่องมือ Generative ทำให้การปลอมแปลงแทบไม่มีต้นทุน และเพิ่มปริมาณมันแบบระเบิด
  ผู้ให้บริการรถไฟไม่ได้ทำอะไรผิด หากหลังแผ่นดินไหวมีภาพที่ดูน่าเชื่อถือแพร่กระจายออกมา ก็เป็นธรรมดาที่ต้องตรวจสอบหน้างาน
  จากนี้ไปจะเป็นโลกที่คนคนเดียวสามารถก่อให้เกิด การตอบสนองต้นทุนสูง ได้ด้วยต้นทุนต่ำ ระบบไม่ควรแค่เมินโซเชียลมีเดีย แต่ต้องเพิ่ม ความเร็วและความยืดหยุ่นในการแยกสัญญาณออกจากสัญญาณรบกวน

  • ต่อให้แค่โทรไปบอกว่า “สะพานถล่มแล้ว” ก็คงเกิดความล่าช้าอยู่ดี การโกหกทางโทรศัพท์ ก็เป็นปัญหาเก่าแก่
  • ถ้าเป็นที่อย่างสหราชอาณาจักรที่มีกล้อง CCTV เยอะ ก็น่าจะตรวจสภาพสะพานได้โดยตรง เลยรู้สึกแปลกใจอยู่เหมือนกัน เทคโนโลยีตรวจจับอัตโนมัติ ควรพัฒนาให้มากกว่านี้
  • อย่างที่ กฎของ Brandolini ว่าไว้ การหักล้างเรื่องเท็จต้องใช้พลังงานมากกว่ามาก
  • พอถึงราวปี 2030 ภาพปลอมที่ แนบเนียนยิ่งกว่าเดิม จะถูกสร้างขึ้นได้ในพริบตา นี่คล้ายกับภาวะกลืนไม่เข้าคายไม่ออกระหว่างผู้โจมตีกับผู้ป้องกันในโลกไซเบอร์ซีเคียวริตี้
  • เหตุการณ์แบบนี้อาจช่วยกระตุ้นการลงทุนใน การมอนิเตอร์โครงสร้างพื้นฐานแบบเรียลไทม์ ได้ด้วย

• ช่วงปี 1950~2005 การเข้าถึงการออกอากาศมีข้อจำกัดสูง เลยมีแหล่งข้อมูลไม่มาก ช่วง 2005~2021 วิดีโอยังมีความน่าเชื่อถือสูง แต่ตอนนี้ ต้นทุนของวิดีโอปลอมใกล้ศูนย์ แล้ว
  ดูเหมือนว่าเราน่าจะย้อนกลับไปสู่การพึ่งพาแหล่งข้อมูลที่เชื่อถือได้เพียงไม่กี่แห่งอีกครั้ง

  • แต่ แหล่งข้อมูลไม่กี่แห่ง นั้นเองก็เคยบิดเบือนเหมือนกัน หาก AI ทำให้ความน่าเชื่อถือลดลงไปอีก คุณค่าของวารสารศาสตร์ที่แท้จริงอาจยิ่งลดลง
  • ทุกวันนี้โฆษณาสัตว์ AI พูดได้มีเต็มไปหมด จนน่าเบื่อแล้ว
  • บางคนยอมจ่ายเงินเพื่อ ข่าวที่ถูกต้องแม่นยำ แต่คนส่วนใหญ่แค่อยากยืนยันอคติของตัวเอง อัลกอริทึมโซเชียลมีเดียให้ความสำคัญกับ การมีส่วนร่วมและรายได้โฆษณา มากกว่าความจริง

• Network Rail บอกว่า “ก่อนจะสร้างหรือแชร์ภาพปลอม ควรคิดถึงผลกระทบร้ายแรงที่จะตามมา” แต่
  สิ่งที่จำเป็นจริง ๆ คือ ระบบตรวจสอบที่ไม่พึ่งพาโซเชียลมีเดีย โทรไปยืนยันโดยตรงจะไม่ดีกว่าหรือ?

  • ถึงอย่างนั้น ถ้ามีความเป็นไปได้ว่าสะพานพังจริง การหยุดรถไฟคือการตัดสินใจที่ถูกต้อง
  • เพราะเป็นช่วงดึก กว่าจะหาคนไปตรวจสอบก็คงใช้เวลา แม้จะรับประกันความปลอดภัยไม่ได้ทั้งหมด แต่การลดความเสี่ยงต้องมาก่อน
  • เป็นไปไม่ได้ที่จะมีเจ้าหน้าที่ประจำอยู่ทุกจุดตลอด 24 ชั่วโมง Network Rail รับมือได้ดีแล้วในแง่ของการ ให้ความสำคัญกับความปลอดภัยก่อน

• ที่จริงเรื่องแบบนี้ ไม่จำเป็นต้องมี AI
  แค่โทรไปบอกว่า “สะพานพังแล้ว” ก็คงได้ผลเหมือนกัน สายแกล้งกับการขู่วางข่าวเท็จ มีมาตั้งนานแล้ว

  • แต่ ความเป็นไวรัล ของโซเชียลมีเดียนั้นต่างออกไป เมื่อภาพแพร่กระจาย ผู้มีอำนาจหลายฝ่ายจะตอบสนองพร้อมกัน โทรศัพท์ไม่แพร่กระจาย แต่ภาพแพร่ได้เอง นั่นจึงทำให้เหตุการณ์นี้เกิดขึ้นได้
  • ตรรกะว่า “เมื่อก่อนก็มีเรื่องแย่ ๆ อยู่แล้ว เลยไม่ต้องกังวล” เป็นตรรกะที่อันตราย เราไม่ควรปล่อยให้ปัญหาขยายจาก ระดับ X ไปเป็นระดับ X²
  • การโทรแกล้งมี บทลงโทษทางกฎหมาย แต่รูปปลอมยังไม่ข้ามเกณฑ์นั้น
  • ก่อนมีการประดิษฐ์ดินปืน มนุษย์ก็ใช้วัตถุพุ่งใส่กันจนตายได้อยู่แล้ว แต่ดินปืนก็เปลี่ยนโลกไปเลย AI ก็เช่นกัน
  • ถ้าจะหยุดพฤติกรรมให้ข้อมูลเท็จ ก็ต้องมี บทลงโทษรุนแรง ปัญหาคือโครงสร้างที่สังคมต้องเป็นฝ่ายแบกรับต้นทุนแทนอาชญากร

• น่าสนใจตรงที่จริง ๆ แล้วไม่มีหลักฐานว่ารูปนี้ เคยแพร่ในโซเชียลมีเดีย
  นอกจากบทความของ BBC ก็หาไม่เจอร่องรอยใด ๆ เลย อาจเป็นไปได้ว่า มีคนส่งอีเมลตรงถึง Network Rail

  • ถ้าเป็นการแกล้งที่แนบเนียนระดับนั้น ก็น่าชื่นชมในอีกแง่หนึ่งเหมือนกัน

• เหตุการณ์นี้ทำให้นึกถึง พล็อต Moab ใน 『Fall; or, Dodge in Hell』

  • ช่วงต้นของหนังสือเล่มนี้น่าสนใจมาก โดยเฉพาะส่วนที่พูดถึง ความไม่เปิดเผยตัวตนและการมีตัวตนบนโลกออนไลน์

• ผู้สื่อข่าว BBC บอกว่าได้ วิเคราะห์ภาพด้วย AI แชตบอต แล้วพบร่องรอยการปลอมแปลง
  แต่วิธีแบบนี้ดู ไม่เหมาะจะใช้เป็นวิธีตรวจสอบข้อเท็จจริง

  • ในความเป็นจริง ผู้สื่อข่าวได้ไปที่เกิดเหตุและ ยืนยันว่าสะพานยังปกติดี การวิเคราะห์ด้วย AI น่าจะเป็นเพียงเครื่องมือเสริม
  • มีครูคนหนึ่งเคยใช้ ChatGPT ตรวจงานนักเรียน แต่ ความน่าเชื่อถือของการตรวจจับ AI แบบนี้ต่ำมาก ถ้านักเรียนย้อนใช้โมเดลเล่นงานกลับก็หลอกได้ง่าย
  • คำตอบของ ChatGPT ทำนองว่า “ดูจากพิกเซลก็รู้” ฟังดูเหมือนมุกตลกมากกว่า
  • มันอาจเป็นวิธีที่เร็ว แต่ ไม่น่าเชื่อถือพอจะอ้างอิงในรายงานข่าว

• คำเตือนของ Network Rail กลับยิ่งเผยให้เห็น จุดอ่อนของพวกเขาเอง
  นั่นคือสามารถมี การโจมตีที่ทำให้โครงสร้างพื้นฐานสาธารณะเป็นอัมพาต ได้ทุกเมื่อด้วยวิธีนี้

  • จริง ๆ แล้วความเปราะบางแบบนี้ก็เป็นที่รู้กันมานานแล้ว

• ประโยคที่ว่า “การตรวจสะพานส่งผลกระทบต่อการทำงานอยู่หลายวัน” น่ากังวลยิ่งกว่า
  แค่อย่างการยืนยันด้วยสายตาเองก็ทำให้เกิด ต้นทุนทางสังคม สูงขนาดนั้น น่าประหลาดใจมาก

  • แต่เจ้าหน้าที่ที่ต้องออกปฏิบัติการฉุกเฉินจะได้ วันหยุดชดเชย (TOIL) จึงเกิดผลกระทบต่อการจัดตารางงาน
    การมีเจ้าหน้าที่เฝ้าพร้อมตลอด 24 ชั่วโมงแพงกว่าอีก สุดท้ายก็เป็นปัญหาเรื่อง สมดุลระหว่างต้นทุนกับความปลอดภัย