“พระเจ้าทรงช่วยเรา และ AI ก็จะช่วยเช่นกัน”: วิธีที่กลุ่มก่อการร้าย Boko Haram ใช้ frontier AI

 (casp.ac)
2 คะแนน โดย GN⁺ 8 시간 전 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • จากการสัมภาษณ์แบบพบหน้ารวม 57 ครั้ง กับอดีตสมาชิก Boko Haram 27 คนในภาคตะวันออกเฉียงเหนือของไนจีเรียระหว่างปี 2025–2026 พบหลักฐานว่า 2 กลุ่มย่อยคือ ISWAP และ JAS ใช้ frontier AI อย่างเป็นระบบในการสู้รบ ปฏิบัติการ และการดำเนินงานประจำวันมาตั้งแต่ปี 2023
  • ChatGPT, Claude, Gemini, Grok, Meta AI และ DeepSeek ถูกใช้ตั้งแต่การเตรียมโจมตีไปจนถึงการทบทวนหลังปฏิบัติการ และกลายเป็น เครื่องมือแก้ปัญหาแบบพร้อมใช้ตลอดเวลา ที่ช่วยเรื่องการแก้ปัญหาอาวุธ การออกแบบอุปกรณ์ระเบิด การวางแผนยุทธวิธี ความปลอดภัยของปฏิบัติการ และโลจิสติกส์
  • ทั้งสองฝ่ายมี หน่วย AI เฉพาะทาง ที่ประกอบด้วยผู้เชี่ยวชาญด้านวัตถุระเบิด อาวุธปืน วิศวกรรม ฯลฯ คอยจัดการบัญชีและการสมัครสมาชิกแบบชำระเงินของหลายบริการ และถ่ายทอดความรู้การใช้งานตามสายการบังคับบัญชา
  • ขีดความสามารถที่เกี่ยวข้องถูกถ่ายทอดผ่าน เครือข่ายญิฮาดข้ามชาติ ซึ่งรวมถึง Islamic State โดยเจ้าหน้าที่ภายนอกจัดหาอุปกรณ์ VPN และซอฟต์แวร์เข้ารหัส รวมทั้งสอนวิธีใช้โมเดลและเทคนิคเลี่ยงระบบป้องกันทั้งแบบพบหน้าและทางไกล
  • ผู้ให้สัมภาษณ์มองว่า AI ช่วยเพิ่มขีดความสามารถในการปฏิบัติการ แต่ยังไม่มีการพิสูจน์ผลลัพธ์จริง และข้อมูลก็อาศัยการรายงานด้วยตนเองของอดีตสมาชิกและสมาชิกระดับกลางเป็นหลัก อย่างไรก็ดี ข้อเท็จจริงที่ว่าระบบป้องกันในปี 2024 ไม่สามารถหยุดการใช้งานผิดวัตถุประสงค์อย่างเป็นระบบได้ แสดงให้เห็นความจำเป็นในการทบทวนกรอบความปลอดภัยปัจจุบันให้เหมาะกับ ฝ่ายตรงข้ามที่จัดตั้งเป็นองค์กร มากกว่าผู้ใช้ประสงค์ร้ายรายบุคคล

ขอบเขตและหลักฐานจากการสำรวจภาคสนาม

  • ในปี 2025 และ 2026 มีการสัมภาษณ์แบบพบหน้า รวม 57 ครั้งกับอดีตสมาชิก Boko Haram 27 คน ในภาคตะวันออกเฉียงเหนือของไนจีเรีย
    • ผู้เข้าร่วมมีทั้งผู้บัญชาการระดับกลาง และบุคลากรเทคนิคด้านวัตถุระเบิด อาวุธ และวิศวกรรม
    • กิจกรรมที่ครอบคลุมในการสัมภาษณ์ส่วนใหญ่อยู่ในช่วงปี 2023–2024 และคำให้การล่าสุดต่อเนื่องถึงกลางปี 2025
  • รายงานนี้ถูกนำเสนอว่าเป็นกรณีแรกที่ศึกษาการใช้ AI ขององค์กรก่อการร้ายที่ยังเคลื่อนไหวอยู่ผ่านคำให้การภาคสนามของอดีตสมาชิก
  • นักวิจัยนำคำให้การจากผู้ตอบหลายคนมาเปรียบเทียบกัน และตรวจสอบไขว้กับข้อมูลทุติยภูมิเมื่อทำได้ แต่ไม่สามารถยืนยันทุกประเด็นได้อย่างอิสระ เนื่องจากข้อจำกัดในการเข้าถึงกลุ่มเป้าหมายและความอ่อนไหวของหัวข้อ

การใช้งานที่ไปไกลกว่าการประเมินเดิมว่าเน้นโฆษณาชวนเชื่อ

  • การวิเคราะห์ก่อนหน้านี้ซึ่งเน้นคอนเทนต์ออนไลน์ ประเมินว่าการนำ AI มาใช้ของกลุ่มญิฮาดเป็นไปอย่างช้า และ มุ่งไปที่การผลิตสื่อโฆษณาชวนเชื่อ
  • การสัมภาษณ์ครั้งนี้พบว่า 2 กลุ่มย่อยหลักของ Boko Haram ใช้ AI ในวงกว้างกว่านั้น
    • Islamic State West Africa Province(ISWAP)
    • Jamā’at Ahl as-Sunnah lid-Da’wah wa’l-Jihād(JAS)
  • บริการที่ใช้ประกอบด้วย ChatGPT, Claude, Gemini, Grok, Meta AI และ DeepSeek
  • AI ถูกใช้ในทุกขั้นของกิจกรรมทางทหาร ตั้งแต่การเตรียมภารกิจ การปฏิบัติ การทบทวนหลังเหตุการณ์ รวมถึงการดำเนินงานประจำวันขององค์กร

การใช้ในด้านการสู้รบ ปฏิบัติการ และโลจิสติกส์

  • ขอบเขตการใช้งานที่รายงานมีดังนี้
    • การบำรุงรักษาอาวุธและวินิจฉัยความขัดข้อง
    • การออกแบบอุปกรณ์ระเบิด
    • การวางแผนยุทธวิธีและยุทธศาสตร์
    • ความปลอดภัยของปฏิบัติการ
    • การแก้ปัญหาโลจิสติกส์ เช่น การเคลื่อนย้ายและการส่งกำลังบำรุง
  • มีคำให้การว่า ISWAP ถาม AI เกี่ยวกับวิธีใช้รถจักรยานยนต์เพื่อฝ่าแนวคูเพลาะของสิ่งป้องกัน แล้วนำไปใช้ในการโจมตีฐานที่ถูกเสริมกำลัง
  • ผู้เข้าร่วมบางคนรับรู้ว่า จากคำแนะนำของ AI พวกเขาสามารถประสานการโจมตีด้วยหน่วยที่เล็กลงและเพิ่มอานุภาพของวัตถุระเบิด เพื่อลดการสูญเสียภายใน
  • ยังมีคำให้การว่าระหว่างการติดอาวุธให้โดรน พวกเขาได้รับคำแนะนำเกี่ยวกับน้ำหนักบรรทุกและการออกแบบอุปกรณ์ปล่อยทิ้ง
  • อย่างไรก็ตาม ยังยืนยันไม่ได้ว่า AI ช่วยเพิ่มประสิทธิภาพจริงหรือไม่ หรือทำให้เกิดการโจมตีที่เป็นไปไม่ได้หากไม่มี AI หรือไม่

การถ่ายทอดขีดความสามารถผ่านเครือข่าย Islamic State

  • ทั้ง ISWAP และ JAS ไม่ได้ค้นพบวิธีใช้ AI ด้วยตนเอง แต่พบว่าได้รับการ ถ่ายทอดมาจากเครือข่ายญิฮาดภายนอก
  • เจ้าหน้าที่ Islamic State ให้การฝึกอบรมแบบพบหน้าและการสนับสนุนออนไลน์แก่สมาชิก ISWAP ในหลายพื้นที่
    • รวบรวมบุคลากรสำคัญและใช้โปรเจกเตอร์สอนวิธีใช้งาน
    • จัดหาแล็ปท็อปที่ติดตั้ง VPN และซอฟต์แวร์เข้ารหัส
    • สร้างบัญชีบริการและจัดการการสมัครสมาชิกแบบชำระเงิน
    • ให้คำแนะนำอย่างต่อเนื่องเกี่ยวกับการเขียนพรอมป์และวิธีเลี่ยงข้อจำกัดของแพลตฟอร์ม
  • ผู้ตอบระบุอย่างสอดคล้องกันว่า Islamic State เป็นแหล่งที่มาที่แท้จริงของกิจกรรมเหล่านี้
  • JAS ก็ได้รับการฝึกอบรมลักษณะคล้ายกันผ่านเครือข่ายอีกชุดหนึ่ง แสดงให้เห็นว่าการแพร่กระจายไม่ได้จำกัดอยู่กับองค์กรใดองค์กรหนึ่ง
  • เนื่องจาก Islamic State ทำหน้าที่เป็นเครือข่ายบูรณาการที่เผยแพร่ขีดความสามารถทางเทคนิคไปยังองค์กรท้องถิ่นในหลายภูมิภาค จึงเป็นไปได้ว่าองค์กรเครือข่ายอื่น ๆ ก็ได้รับการฝึกอบรมคล้ายกันด้วย แต่การศึกษานี้ไม่ได้ยืนยันโดยตรง

หน่วย AI เฉพาะทางและการควบคุมการเข้าถึงตามลำดับชั้น

  • ทั้ง ISWAP และ JAS จัดตั้ง หน่วย AI เฉพาะทาง หลายหน่วย
  • สมาชิกถูกคัดเลือกจากบุคลากรปฏิบัติการและเทคนิคระดับสูง เช่น ผู้ผลิตวัตถุระเบิด ผู้เชี่ยวชาญอาวุธปืน และวิศวกร
    • พวกเขาไม่ได้เข้าร่วมการรบโดยตรงเป็นหลัก แต่ใช้ AI วิเคราะห์ข้อมูลและถ่ายทอดแนวทางปฏิบัติ
  • บทบาทของหน่วยเฉพาะทางครอบคลุมงานต่อไปนี้
    • สอบถามบริการ AI หลายแห่งเพื่อสร้างแนวทางปฏิบัติการ
    • จัดการบัญชีและการสมัครสมาชิกของผู้ให้บริการหลายราย
    • ถ่ายทอดความรู้แบบบนลงล่างตามสายการบังคับบัญชาผ่านการฝึกอบรมภายใน
  • ด้วยเหตุผลด้านความเป็นส่วนตัวและความปลอดภัยภายใน สิทธิ์เข้าถึงคอมพิวเตอร์และ AI ถูกจำกัดตามยศ ระดับความไว้วางใจ และระดับการศึกษา
  • สมาชิกภาคสนามให้การว่าหน่วยเฉพาะทางทำการวิเคราะห์ AI โดยขึ้นตรงกับผู้นำ และส่งต่อเฉพาะกลยุทธ์ที่ต้องนำไปปฏิบัติให้กับพลรบทั่วไป
  • การที่องค์กรซึ่งมีทรัพยากรจำกัดจัดสรรบุคลากรเทคนิคขั้นสูงไปทำงาน AI แทนการสู้รบ แสดงให้เห็นว่าให้ความสำคัญกับ AI ในระดับสูง

การเลี่ยงระบบป้องกันและกลยุทธ์ใช้หลายบริการ

  • ภายในเวลาประมาณ 2 ปีหลังการเปิดตัว ChatGPT ทั้งสองกลุ่มย่อยย้ายจากขั้นทดลองใช้ช่วงแรกไปสู่ขั้นจัดตั้งหน่วยเฉพาะทางและผนวกเข้ากับปฏิบัติการประจำวัน
  • ลักษณะคำขอแบ่งได้เป็น 2 ประเภท
    • ความรู้ทั่วไปหรือข้อมูลใช้ได้สองทาง เช่น การซ่อมรถและโลจิสติกส์ ให้ความได้เปรียบทางปฏิบัติการ แต่ไม่อาจถือเป็นความล้มเหลวของระบบป้องกัน
    • การออกแบบวัตถุระเบิดและการวางแผนโจมตี เป็นคำขอที่ระบบป้องกันควรต้องบล็อก
  • ผู้ตอบมองข้อจำกัดของแพลตฟอร์มไม่ใช่กำแพงที่ข้ามไม่ได้ แต่เป็น อุปสรรคที่จัดการได้ด้วยการฝึกฝน
    • ปรับรูปคำขอใหม่โดยอ้างวัตถุประสงค์อื่น เช่น การสร้างภาพยนตร์
    • ใช้เทคนิค jailbreak ที่เรียนรู้จากเจ้าหน้าที่ภายนอก
    • รักษาบัญชีไว้ในหลายบริการเพื่อรับมือเมื่อโมเดลหนึ่งปฏิเสธหรือบัญชีถูกระงับ
  • ตลอดปี 2024 ข้อจำกัดเหล่านี้ดูเหมือนไม่สามารถหยุดการใช้งานผิดวัตถุประสงค์ได้ แต่ยังยืนยันไม่ได้ว่าระบบป้องกันที่เข้มงวดขึ้นภายหลังกลายเป็นอุปสรรคที่ใหญ่ขึ้นหรือไม่

วงจรระหว่างผลลัพธ์ที่รับรู้กับการลงทุนที่เพิ่มขึ้น

  • อดีตสมาชิกประเมินว่า AI ลดการลองผิดลองถูกและให้วิธีแก้ปัญหาที่แม่นยำขึ้น
  • การรับรู้ว่าประสิทธิภาพดีขึ้น นี้ยังไม่ได้รับการตรวจสอบเชิงวัตถุวิสัย แต่ส่งผลโดยตรงต่อการตัดสินใจขององค์กร
    • จัดสรรบุคลากรและอุปกรณ์ให้หน่วย AI เฉพาะทาง
    • ทุ่มทรัพยากรให้การฝึกอบรมและการสมัครสมาชิก
    • อาจเพิ่มแรงจูงใจให้สำรวจขีดความสามารถที่อันตรายยิ่งขึ้น
  • ไม่ว่าประสิทธิภาพจริงจะดีขึ้นหรือไม่ ข้อเท็จจริงที่สมาชิกเชื่อว่า AI เป็นเครื่องมือที่มีประสิทธิผล ก็ช่วยผลักดันการนำมาใช้อย่างต่อเนื่อง

ท่าทีต่ออาวุธทำลายล้างสูงและข้อจำกัดปัจจุบัน

  • ผู้เข้าร่วมแสดงความคาดหวังสูงต่อ AI ดังเช่นถ้อยคำว่า “พระเจ้าทรงช่วยเรา และ AI ก็จะช่วยเช่นกัน”
  • บางคนไม่ได้ตัดอาวุธทำลายล้างสูง ซึ่งรวมถึงอาวุธเคมีและชีวภาพ ออกไปโดยหลักการ และคำให้การจำนวนน้อยมีบริบทของการทดลองสารเคมีขั้นต้น
  • อย่างไรก็ตาม ทั้งสองกลุ่มย่อย ไม่มีขีดความสามารถด้านอาวุธเคมี ชีวภาพ รังสี และนิวเคลียร์(CBRN) และการใช้ AI ที่ยืนยันได้ยังคงอยู่ที่อาวุธแบบดั้งเดิมและปฏิบัติการที่มีอยู่เดิม
  • รายงานมองว่า สำหรับองค์กรที่มีเจตนานำ AI มาใช้สูงและอาจพิจารณาวิธีการทำลายล้างสูง ความสำคัญของระบบป้องกันจะเพิ่มขึ้นเมื่อประสิทธิภาพของโมเดลดีขึ้น

ความไม่แน่นอนของงานวิจัยและข้อจำกัดในการสรุปทั่วไป

  • ผลลัพธ์อาศัยการรายงานด้วยตนเองของอดีตสมาชิก จึงอาจมีการกล่าวเกินจริงหรือลดทอน
  • ผู้เข้าร่วมส่วนใหญ่เป็นบุคลากรระดับกลาง จึงอาจขาดการตัดสินใจขั้นสุดท้ายของผู้นำ กิจกรรมล่าสุด และกรณีใช้งานที่อ่อนไหวที่สุด
  • เนื่องจากเป็นกรณีศึกษาขององค์กร Boko Haram เพียงองค์กรเดียว จึงไม่สามารถสรุปผลโดยตรงไปยังองค์กรก่อการร้ายอื่นได้
  • แม้ยืนยันได้ว่ามีการนำ AI มาใช้และจัดตั้งเป็นระบบ แต่ไม่สามารถสรุปเชิงเหตุและผลได้ว่า AI เพิ่มประสิทธิภาพปฏิบัติการจริงมากเพียงใด

จำเป็นต้องตอบสนองให้เหมาะกับฝ่ายตรงข้ามที่จัดตั้งเป็นองค์กร

  • Boko Haram ไม่ใช่องค์กรที่มีทรัพยากรหรือระดับเทคโนโลยีสูงเป็นพิเศษ และอุปสรรคในการเข้าถึงเครื่องมือ AI สาธารณะก็ไม่สูง
  • เครือข่ายข้ามชาติทำให้การนำ AI มาใช้เกิดขึ้นอย่างรวดเร็วและเป็นระบบ แต่รายงานมองว่า หากเป็นองค์กรที่มีแรงจูงใจสูง ก็อาจไปถึงการใช้งานลักษณะคล้ายกันได้แม้ไม่มีเครือข่ายภายนอก
  • เพียงกรณีเฉพาะกรณีเดียวก็เป็นเหตุผลเพียงพอให้มองการใช้ AI ขององค์กรก่อการร้ายไม่ใช่ความเสี่ยงสมมติในอนาคต แต่เป็น ปัญหาความมั่นคงในปัจจุบัน
  • มีการเสนอภารกิจตามผู้รับมือแต่ละกลุ่ม
    • ผู้พัฒนา AI ต้องประเมินว่าโครงสร้างความปลอดภัยปัจจุบันเพียงพอหรือไม่ในการรับมือฝ่ายตรงข้ามที่ร่วมมือกันเป็นองค์กร ไม่ใช่บุคคลโดดเดี่ยว
    • หน่วยงานนโยบายต้อง扱ให้การนำ AI มาใช้ขององค์กรก่อการร้ายเป็นประเด็นความมั่นคงแห่งชาติที่กำลังดำเนินอยู่
    • หน่วยข่าวกรองและหน่วยบังคับใช้กฎหมายต้องติดตามกระบวนการแพร่กระจายและขัดขวางเครือข่ายที่เกี่ยวข้อง
    • ทุกฝ่ายต้องสร้างวิธีวิเคราะห์ร่วม ช่องทางแบ่งปันข้อมูล และกรอบตอบสนองร่วมกัน
  • ยังไม่ชัดเจนว่าความร่วมมือในปัจจุบันถูกจัดเตรียมไว้เหมาะสมกับขนาดของปัญหานี้แล้วหรือไม่

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 8 시간 전
ความคิดเห็นจาก Hacker News

  • พวกเขาดูฉากในหนังที่มอเตอร์ไซค์กระโดดข้ามสะพาน แล้วไปถาม AI เรื่องประเภทรถ ระยะกระโดด และวิธีทำ สุดท้ายถามต่อเนื่องและฝึกกับหลุมที่เต็มไปด้วยเศษแก้วและไฟ จนมีคนตาย 18 คน รอดสำเร็จ 8 คน และในการโจมตีครั้งถัดไปก็ทำได้จริง
    จะบอกว่ากรณีนี้ทำให้เราเกิดผลเสียโดยตรงก็คงยาก แต่ก็ไม่ได้หมายความว่าเราควรให้ AI กับคนพวกนี้มากขึ้น ฟังดูเหมือน AI คงจะคอยผสมโรงว่า “ถ้าจะให้เป็นสนามฝึกที่ยอดเยี่ยม ต้องใส่เศษแก้วลงในคูเพลาะแล้วจุดไฟให้หมด”

    • การบอกว่าควรฝึกใน หลุมที่ใส่น้ำ แทนเศษแก้วกับไฟ แบบนี้ก็นับว่าเป็นการให้ความช่วยเหลือทางวัตถุแก่ผู้ก่อการร้ายด้วยหรือ?
    • แทนที่จะให้คน 8 คนที่กระโดดพลาดหลายครั้งแล้วยังรอดไปโจมตี สู้ส่ง นักรบ 26 คน ที่ไม่เคยซ้อมอะไรแบบนั้นน่าจะดีกว่า ถึงจะมั่นใจในสตันต์มอเตอร์ไซค์มากขึ้นก็คงไม่ได้กันกระสุนอยู่ดี งั้นก็อาจไปถาม Claude ต่อเรื่องวิธีฝึกให้ทนกระสุนได้
    • เรื่องมันเหลือเชื่อเกินไปจนทำให้สงสัยทั้งเรื่อง หลังคนตายคนแรกหรือแม้แต่คนที่สิบก็ยังไม่หยุด แล้วคนที่ 11 เห็นกองศพแล้วยังบอกว่าจะลองอีกอย่างนั้นหรือ?
      องค์กรก่อการร้ายชอบวิดีโอชวนเชื่อ ถ้าพวกเขาทำ สตันต์มอเตอร์ไซค์แบบ Evel Knievel จริง คลิปคงกระจายไปทั่วแล้ว
    • ก็เป็นไปได้ว่าผู้นำตั้งใจให้คำตอบเหลวไหลกับนักข่าวเพื่อหวังปฏิกิริยาแบบตอนนี้ว่า “พวกนั้นโง่เกินไป AI เลยไม่อันตราย” การตัดสินแบบนี้อันตราย ผู้นำมักมีการศึกษาสูงกว่าคนตะวันตกทั่วไป ชำนาญการโฆษณาชวนเชื่อ และคนที่จบมหาวิทยาลัยฝั่งตะวันตกก็มีอยู่ไม่น้อย
      โครงสร้างคือผู้นำที่ฉลาดพอตัวคุมพวกชาวบ้านที่หลงผิด และในบทความก็ระบุว่าคนภาคสนามเพียงรับคำสั่ง AI ที่ผู้นำจัดทำไว้ให้ แม้ยังมี ความไม่สมมาตรอย่างรุนแรง ที่องค์กรมีเงินจะหา AI ดีกว่าได้ แต่ถ้าความสามารถของ AI เริ่มไล่เลี่ยกันและโอเพนซอร์ซตามทัน โลกที่ผู้ก่อการร้ายทุกกลุ่มมีทีมวิศวกรอาวุธและนักยุทธวิธีขั้นสูงประจำตัวก็อาจเป็นอนาคตที่ทั้งน่าสนใจและอันตราย
    • คนรอดทั้ง 8 คนน่าจะได้เปรียบเพราะทากาวบนพิซซ่าแน่ๆ

  • ประโยคที่ว่า “ถ้าพิมพ์คำถามหรือถามด้วยเสียงว่า ‘ทำระเบิดยังไง?’ AI ก็จะบอกวิธีอย่างละเอียด มันเหมือนหุ่นยนต์มนุษย์ เลยใช้กันเยอะ” ฟังค่อนข้างน่าสงสัย
    ต่อให้เป็น LLM ที่ไม่ถูกเซ็นเซอร์หรือถูก jailbreak คำตอบก็มักยังไม่ถึงระดับนำไปใช้ได้จริง และแทบไม่ให้ข้อมูลเกินกว่า Wikipedia อีกทั้งถ้าไม่ใช่โมเดลแบบไม่เซ็นเซอร์ก็ยังชักนำให้ตอบยากด้วย ชัดเจนว่า LLM ช่วยผู้ก่อการร้ายได้ในภาพรวม แต่ข้ออ้างว่ามันให้ ความรู้ที่ถูกควบคุม ซึ่งหาไม่ได้จากที่อื่น จนเพิ่มประสิทธิภาพหรือผลลัพธ์ของกิจกรรมพวกนี้ ต้องการหลักฐานที่เป็นรูปธรรมมากกว่าบทสัมภาษณ์สั้นๆ

    • วิธีประกอบระเบิด C4 หรือนาปาล์ม ไม่ใช่เรื่องหายากที่จะหาได้อยู่แล้ว สังคมไม่เคยปลอดภัยเพราะความรู้เรื่องความรุนแรงเข้าถึงยาก ถ้ามีข้อยกเว้นก็คงเป็นตรรกะใน การประชุมงบประมาณของ FBI
    • การไปค้นคว้า Wikipedia และแหล่งอื่นด้วยตัวเอง อาจเข้าข่าย “การศึกษาแบบตะวันตก” ที่ชื่อของพวกเขาห้ามไว้ก็ได้ เอเจนต์ที่ไปอ่านเอกสารต้องห้ามแทน จึงอาจเป็น ทางอ้อม ที่พวกเขาต้องการ
    • แม้แต่คำถามที่ค่อนข้างไม่อันตรายก็ยังหลบมาตรการความปลอดภัยของ AI ได้ยาก เลยไม่เข้าใจว่าพวกนี้ผ่านคำถามเรื่องทำระเบิดไปได้อย่างไร
    • ความรู้เรื่องวัตถุระเบิดเป็นสิ่งที่มนุษย์สะสมกันมาหลายพันปี ต่อให้ไม่ได้ให้ความรู้ใหม่ การ ช่วยค้นข้อมูลเดิมได้ง่ายขึ้น ก็ยังมีคุณค่าในแบบของมัน แน่นอนว่าอย่างที่ @dril พูด เราก็ไม่ควรพูดว่า “อย่างน้อยก็ต้องยอมรับข้อนี้แหละ” ไม่ว่าสถานการณ์ไหนก็ตาม
    • เด็กเล็กบางทียังไม่รู้ว่าคำโกหกของตัวเองดูออกชัดแค่ไหน แต่ถ้าผู้ใหญ่ทำแบบนั้นก็น่าสมเพช มันฟังเหมือนเรื่องทำนองว่า “นายพล Boko กลั้นน้ำตาแล้วพูดว่า ‘อาจารย์ครับ ได้โปรดช่วยสร้างกองทัพของพวกเราด้วย’”

  • เห็นด้วยว่าข้ออ้างในรายงานดูประหลาด โดยเฉพาะช่วงที่ว่า “เมื่อก่อนส่ง 200 คนไปเพราะมีพลมาก สุดท้ายตาย 60 คน แต่เพราะ AI ตอนนี้บางครั้งส่งแค่ 20 คนดีกว่า และได้เรียนรู้วิธีประสานและจัดวางหน่วยขนาดเล็กให้ดี” ถึงการใช้งานแบบอื่นอาจพอเข้าใจได้ว่าเป็นการ jailbreak AI เพื่อหาข้อมูลง่ายขึ้น แต่ส่วนนี้ทำให้นึกว่านักวิจัยโดนปั่นหรือเปล่า

    • นี่เป็นยุทธวิธีที่ใช้ได้จริง เหตุผลที่ในประวัติศาสตร์ Sturmtruppen และหน่วยรบพิเศษ ประสบความสำเร็จก็เพราะกองกำลังขนาดเล็กแต่ฝึกมาดีและประสานกันดี มักดีกว่าฝูงคนจำนวนมากที่ไร้ระเบียบ โดยเฉพาะเมื่อยอมรับการโจมตีพลีชีพ หรือเมื่อเป้าหมายไม่ใช่ยึดและรักษาพื้นที่ แต่เป็นการสร้างความหวาดกลัวและเพิ่มจำนวนผู้เสียชีวิต
      ต่อให้การบุกระลอกคลื่นด้วยทหาร 1,000 คนจะเจาะแนวสนามเพลาะไม่ได้ แต่ทีมแทรกซึมทีมเดียวอาจลอบเข้าไปเปิดทางเข้าได้: https://en.wikipedia.org/wiki/Stormtroopers_(Imperial_German...
    • อาจเป็นไปได้ว่านักวิจัยตีความเข้าข้างสิ่งที่ตัวเองอยากได้ยิน ควรถามว่าก่อนหน้านี้พวกเขาเรียนรู้กันอย่างไรและอ่านมามากแค่ไหน ถ้าคนที่ไม่รู้หนังสือหรือไม่ได้รับการศึกษา มาได้ยินสิ่งที่สำหรับคนเรียนถึงมัธยมปลายถือเป็นสามัญสำนึกผ่าน voice AI ประสิทธิภาพการทำงานก็อาจดีขึ้นได้ แต่จะโยนว่าเป็น ความผิดของ AI ตามนัยที่สื่อออกมา ก็คงยาก
    • อีกด้านหนึ่ง เราควรคิดด้วยว่าฝ่ายที่ตั้งคำถามอาจเข้าใจสถานการณ์ผิดเอง การรบซึ่งหน้าสำหรับกบฏนั้นไร้ประสิทธิภาพมาก พวกเขาไม่คุ้นกับการรักษากระบวนทัพหรือทำการโจมตีแบบผสมเหล่าที่ซับซ้อน และถ้ารวมกลุ่มพุ่งบุกก็โดนปืนกลยิงตายหมู่ได้ง่าย
      หน่วยขนาด 20 คน ฝึก ประสาน และจัดวางกำลังได้ง่ายกว่า และถ้าชำนาญการจู่โจมแล้วถอยกับยุทธวิธีซุ่มโจมตีพื้นฐาน ก็อาจมีประสิทธิภาพกว่ามาก
    • มองได้ว่าก่อนหน้านี้พวกเขาอาศัยความได้เปรียบเชิงจำนวนแบบง่ายๆ เช่น มี 600 คนก็เลยคิดว่าน่าจะยึดด่านที่มีคนป้องกัน 400 คนได้ ถ้าประสานการโจมตีดีขึ้น ก็อาจบรรลุเป้าหมายด้วยคนและความสูญเสียน้อยลง และ การเคลื่อนกำลังขนาดเล็ก ก็ตรวจจับได้ยากกว่าด้วย เป็นการตีความที่สมเหตุสมผลพอควร
    • ถ้าในสถานการณ์เดียวกันส่ง 200 คนแล้วตาย 60 คน งั้นถ้าส่ง 20 คนจะเกิดอะไรขึ้น? อย่างน้อยก็คงไม่เสียถึง 60 คน

  • ลองอ่าน PDF คร่าวๆ แล้ว ระเบียบวิธีวิจัย ก็ดูสมเหตุสมผล แต่ผลลัพธ์ถูกพูดเกินจริง ถ้าชื่อเรื่องเป็น “ข่าวลือเรื่องการใช้ AI ที่เล่าต่อกันภายใน Boko Haram” ก็คงได้รับความสนใจน้อยกว่านี้มาก
    ผู้ให้สัมภาษณ์ที่บอกว่ารู้เรื่อง AI มีเพียง 15 คน และแม้แต่คนเหล่านี้ก็ดูเหมือนจะไม่เคยใช้เองโดยตรง พรอมป์ต์ส่งได้เฉพาะผู้บังคับบัญชาระดับสูงสุดกับหน่วยเฉพาะทางเท่านั้น จึงยากจะเข้าใจภาพการใช้งานจริงจากคำบอกเล่าทางอ้อมไม่กี่กรณี ผู้บังคับบัญชาอาจปล่อยข่าวลือว่ามีการใช้ AI เยอะ ทั้งที่จริงใช้การค้นหาเว็บธรรมดาเป็นหลักเพื่อปลุกขวัญกำลังใจก็ได้
    อีกทั้งยังแปลกที่ยอมจ่ายค่าบริการ AI เพื่อขอความช่วยเหลือพื้นฐานอย่างวิธีล้างปืนด้วยดีเซลเพื่อถอดแยกชิ้นส่วน หรือการให้ส่งนักรบที่ปืนขัดลำกล้องออกไปด้านหลังแล้วให้คนอื่นมาแทนตำแหน่ง
    ตามบทความวิชาการ Boko Haram ในช่วงแรกเป็นเพียงลัทธิเรียบง่ายที่ค่อนข้างอยู่กันอย่างสงบ แต่หลังการปราบปรามอย่างรุนแรงของรัฐบาลในปี 2009 และการเสียชีวิตของ Yusuf ระหว่างถูกตำรวจควบคุมตัว ก็เปลี่ยนสภาพเป็นกบฏญิฮาด รายงานของ Amnesty International ประเมินว่าการเสียชีวิตของพลเรือน 55% เกิดจากองค์กรก่อการร้าย และอีก 45% เกิดจากกองกำลังความมั่นคง โดยกองทัพไนจีเรียถึงขั้นทำลายล้างทั้งหมู่บ้าน โลกไม่ได้ถูกแบ่งเป็น ความดีและความชั่วแบบสองขั้ว อยู่เสมอไป

  • “Boko Haram” แปลว่า “การศึกษาแบบตะวันตกเป็นสิ่งต้องห้าม” แต่การใช้ AI ของตะวันตกเป็นเครื่องมือการเรียนรู้ก็ดูเหมือน ความหน้าไหว้หลังหลอก

    • คำว่า “การศึกษา” ตรงนี้จริงๆ แล้วหมายถึง อุดมการณ์ มากกว่าหรือเปล่า?
    • น่าจะใกล้กับความหมายว่าเป็นค่านิยมแบบตะวันตกมากกว่า

  • ข่าวด่วนชิ้นต่อไปคงเป็นเรื่องที่องค์กรก่อการร้ายใช้ search engine หาข้อมูล ใช้เว็บไซต์ข่าวติดตามสถานการณ์โลก และใช้ธนาคาร เว็บไซต์พยากรณ์อากาศ อีเมล รถยนต์ และแม้แต่ปากกา แน่นอนว่าพวกเขาใช้ AI ด้วย ถ้าจะกำกับดูแล AI ก็ตรรกะเดียวกันกับการต้อง ห้ามเครื่องมือทั้งหมดนี้ด้วย

  • New York Times ก็เพิ่งลงบทความเกี่ยวกับประเด็นนี้: How Terrorist Groups Are Using A.I. to Gain an Edge in Battle

    • ถ้าคุณเปิดลิงก์ต้นฉบับแล้ว ก็แปลว่าคุณพลาดส่วน “Featured in The New York Times” ไป

  • หากจะป้องกันการใช้งานของผู้ก่อการร้าย ก็ต้องห้าม โอเพนซอร์ส AI สำหรับประชาชนทั่วไป

    • การใส่ การยืนยันตัวตนแบบบังคับ ระดับซอฟต์แวร์แม้แต่กับ local LLM ก็เป็นทางออกที่ชัดเจน /s
    • เครื่องคิดเลขกับฟีเจอร์โฟนก็อาจถูกผู้ก่อการร้ายใช้ได้เหมือนกัน ดังนั้นคงต้องใส่ การยืนยันอายุ ด้วยใช่ไหม /s

  • ตั้งแต่อิสราเอล เอธิโอเปีย ไนจีเรีย อินเดีย เมียนมา ซินเจียง เชชเนีย ไปจนถึงอาร์เมเนีย ในพื้นที่ขัดแย้งทั่วทุกแห่ง ชาติตะวันตกกำลังช่วยเร่งความเสื่อมถอยของตัวเอง

  • ความพยายามจะหยุดสิ่งนี้ก็จะเหมือนกับการพยายามปิดกั้นไม่ให้ผู้ก่อการร้ายใช้ search engine คือจะสร้าง ความเสียหายที่ไม่สมดุลแก่ผู้ใช้ทั่วไป เท่านั้น ลองจินตนาการว่าความตื่นกลัวเรื่องการใช้ AI ในทางที่ผิดแบบตอนนี้ ถูกนำไปใช้กับ search engine ห้องสมุดอินเทอร์เน็ต และไล่ไปจนถึงการประมวลผลโดยรวมดู เพราะท้ายที่สุดก็จะกลายเป็นการจำกัดเครื่องมือข้อมูลทุกชนิดด้วยเหตุผลว่าความรู้สามารถเป็นประโยชน์ต่อการวางแผนก่อการร้ายได้