หัวหน้าสายลับระดับสูงของอิสราเอลเผยตัวตนจริงจากความผิดพลาดด้านความปลอดภัยออนไลน์

• ตัวตนของผู้บัญชาการหน่วยข่าวกรองทหารอิสราเอล Unit 8200 ที่ถูกปกปิดเป็นความลับสุดยอด ถูกเปิดเผยจากร่องรอยดิจิทัลที่หลงเหลืออยู่ในอีบุ๊ก Amazon เมื่อปี 2021
• หนังสือที่ตีพิมพ์ภายใต้นามปากกา Brigadier General YS มีที่อยู่อีเมลนิรนามรวมอยู่ด้วย และอีเมลดังกล่าวเชื่อมไปยังบัญชี Google ชื่อ Yossi Sariel รวมถึงโปรไฟล์ Maps และ Calendar
• หนังสือ The Human Machine Team ว่าด้วยการผสานกำลังคนทางทหารกับ AI และเชื่อมโยงกับพิมพ์เขียวของระบบแนะนำเป้าหมายด้วย AI ที่ IDF พึ่งพาในช่วง 6 เดือนของสงครามกาซา
• IDF ระบุว่าอีเมลดังกล่าวไม่ใช่บัญชีส่วนตัว แต่เป็นบัญชีเฉพาะสำหรับเรื่องที่เกี่ยวกับหนังสือ ก่อนจะยอมรับในภายหลังว่าการเปิดเผยข้อมูลส่วนตัวของ Sariel เป็น “ความผิดพลาด” และจะทบทวนเพื่อป้องกันไม่ให้เกิดซ้ำ
• การเปิดเผยครั้งนี้ยิ่งเพิ่มภาระให้ Sariel ท่ามกลางเสียงวิจารณ์เรื่องความรับผิดชอบของ Unit 8200 และข้อครหาว่าลุ่มหลงเทคโนโลยี หลังไม่สามารถหยุดการโจมตีของฮามาสเมื่อ 7 ตุลาคม 2023 ได้

---

การเปิดเผยตัวตนของผู้บัญชาการ Unit 8200

• ตัวตนของผู้บัญชาการ Unit 8200 ของอิสราเอลถูกมองว่าเป็นหนึ่งในความลับที่อ่อนไหวที่สุด แม้แต่ภายในกองทัพเอง
  • Unit 8200 เป็นที่รู้จักว่าเป็นหน่วยสอดแนมทรงอำนาจจนถูกนำไปเทียบกับ NSA ของสหรัฐฯ
  • ผู้บัญชาการได้รับการยืนยันว่าเป็น Yossi Sariel ซึ่งปฏิบัติภารกิจโดยไม่เปิดเผยต่อสาธารณะมานานกว่า 20 ปี
• ตัวตนของ Sariel ถูกเปิดเผยผ่าน ร่องรอยดิจิทัล ที่เชื่อมกับหนังสือที่เขาตีพิมพ์บน Amazon
  • ที่อยู่อีเมลนิรนามที่อยู่ในอีบุ๊กเชื่อมไปยังบัญชี Google ที่สร้างในชื่อ Sariel
  • บัญชีดังกล่าวเชื่อมกับ ID เฉพาะตัว รวมถึงลิงก์โปรไฟล์ Google Maps และ Calendar
• โฆษก IDF อธิบายว่าอีเมลนั้นไม่ใช่อีเมลส่วนตัวของ Sariel แต่เป็นบัญชีเฉพาะสำหรับประเด็นที่เกี่ยวกับหนังสือ
• ต่อมา IDF ยอมรับกับสื่ออิสราเอลว่าการเปิดเผยข้อมูลส่วนตัวนี้เป็น “ความผิดพลาด” และระบุว่าจะตรวจสอบเรื่องดังกล่าวเพื่อป้องกันไม่ให้เกิดกรณีคล้ายกันอีก

The Human Machine Team และยุทธศาสตร์ทหาร AI

• Sariel ตีพิมพ์หนังสือ The Human Machine Team ในปี 2021 ภายใต้นามปากกา Brigadier General YS
  • นามปากกานี้ประกอบขึ้นจากอักษรย่อชื่อของเขา
  • การยืนยันจากหลายแหล่งระบุว่า Sariel คือผู้เขียนตัวจริงที่ไม่ได้เปิดเผยชื่อของหนังสือเล่มนี้
• หนังสือเล่มนี้นำเสนอแนวคิดว่า AI สามารถเปลี่ยนความสัมพันธ์ระหว่างกำลังพลทางทหารกับเครื่องจักรได้อย่างไร
• Sariel มองว่าในการทำสงครามสมัยใหม่ machine learning ต้องย้ายจากบทบาทชายขอบขึ้นมาอยู่ในเวทีกลาง
• แนวทางหลักคือ human-machine teaming ที่มุ่งสร้างพลังร่วมกันระหว่างมนุษย์กับ AI มากกว่าระบบอัตโนมัติเต็มรูปแบบ
  • กลุ่มผู้อ่านเป้าหมายคือผู้บัญชาการทหารระดับสูงและเจ้าหน้าที่ความมั่นคง
  • มีข้อมูลว่า Sariel เขียนหนังสือเล่มนี้หลังใช้เวลา 1 ปีในฐานะนักวิจัยรับเชิญที่ National Defense University ใน Washington DC และได้รับอนุญาตจาก IDF

แนวคิดเครื่องจักรคัดเลือกเป้าหมายด้วย AI

• ส่วนหนึ่งของหนังสือกล่าวถึงแนวคิด “targets machine” ที่ขับเคลื่อนด้วย AI
  • แนวคิดนี้คล้ายกับคำอธิบายของระบบแนะนำเป้าหมายที่เชื่อว่า IDF ใช้ในการทิ้งระเบิดกาซา
• Sariel มองว่าการสร้างเครื่องจักรคัดเลือกเป้าหมายที่มีประสิทธิภาพต้องใช้ big data ที่สมองมนุษย์ไม่สามารถประมวลผลได้
  • ตัวอย่างที่ยกมา ได้แก่ ข้อมูลสนามรบ ข้อมูลประชากร ข้อมูลภาพ ข้อมูลโทรศัพท์มือถือ ความเชื่อมโยงบนโซเชียลมีเดีย รูปภาพ และรายชื่อผู้ติดต่อในโทรศัพท์
  • เขามีจุดยืนว่ายิ่งมีข้อมูลมากและหลากหลายเท่าไรก็ยิ่งดี
• เครื่องจักรคัดเลือกเป้าหมายใช้โมเดลซับซ้อนที่ผสมคุณลักษณะเล็ก ๆ จำนวนมากเพื่อทำนายผล
  • ตัวอย่างได้แก่ คนที่อยู่ในกลุ่ม WhatsApp เดียวกับสมาชิก Hezbollah คนที่ได้รับโทรศัพท์เครื่องใหม่ทุกไม่กี่เดือน และคนที่เปลี่ยนที่อยู่บ่อยครั้ง
• AI ถูกนำเสนอว่าเป็นเครื่องมือเพื่อลด คอขวด ที่เกิดจากเจ้าหน้าที่ข่าวกรองหรือทหารในการสร้างเป้าหมายทางทหารที่เป็นไปได้
  • การค้นหาเป้าหมายใหม่และการตัดสินใจอนุมัติ
  • การประมวลผลข้อมูลปริมาณมหาศาล
  • การเชื่อมข้อมูลข่าวกรองเข้ากับอำนาจการยิง

ระบบ AI ในสงครามกาซา

• ภายใต้การบังคับบัญชาของ Sariel นั้น Unit 8200 ได้นำระบบสนับสนุนการตัดสินใจที่ใช้ AI หลายระบบ ซึ่งพัฒนาและปรับปรุงอย่างรวดเร็ว ไปใช้งานตลอด 6 เดือนของสงครามกาซา
• ระบบที่ถูกเปิดเผยมีทั้ง the Gospel และ Lavender
  • ทั้งสองระบบเป็นที่รับรู้ผ่านสื่ออิสราเอล-ปาเลสไตน์ +972 magazine, สื่อภาษาฮีบรู Local Call และ Guardian
• IDF อธิบายว่าระบบ AI เหล่านี้มีไว้เพื่อช่วยเจ้าหน้าที่ข่าวกรองที่เป็นมนุษย์
  • เจ้าหน้าที่ข่าวกรองที่เป็นมนุษย์ต้องตรวจสอบว่าผู้ต้องสงสัยทางทหารเป็นเป้าหมายที่ชอบด้วยกฎหมายตามกฎหมายระหว่างประเทศหรือไม่
  • โฆษกระบุว่ากองทัพใช้เครื่องมือและวิธีการหลากหลาย รวมถึงเครื่องมือที่ใช้ AI เพื่อช่วยนักวิเคราะห์ข่าวกรอง

ข้อถกเถียงเรื่อง Unit 8200 หลัง 7 ตุลาคม

• ความผิดพลาดด้านความปลอดภัยของ Sariel ถูกเปิดเผยท่ามกลางเสียงวิจารณ์ว่า Unit 8200 ไม่สามารถคาดการณ์หรือขัดขวางการโจมตีของฮามาสเมื่อ 7 ตุลาคม 2023 ได้
  • การโจมตีดังกล่าวทำให้นักรบปาเลสไตน์สังหารชาวอิสราเอลราว 1,200 คน และลักพาตัวไปประมาณ 240 คน
• Unit 8200 เคยได้รับการยกย่องอย่างสูงทั้งในอิสราเอลและต่างประเทศว่ามีขีดความสามารถด้านข่าวกรองทัดเทียม GCHQ ของสหราชอาณาจักร
  • เชื่อกันว่าหน่วยนี้ได้สร้างระบบเฝ้าระวังขนาดใหญ่เพื่อติดตามพื้นที่ปาเลสไตน์อย่างละเอียด
• หลังเหตุโจมตี มีเสียงวิจารณ์ว่า ความหยิ่งทะนงทางเทคโนโลยี ของ Unit 8200 ทำให้วิธีการรวบรวมข่าวกรองแบบดั้งเดิมถูกลดความสำคัญลง
• หนังสือพิมพ์อิสราเอล Maariv รายงานในเดือนกุมภาพันธ์ 2024 ถึงการโทษกันไปมาภายใน Unit 8200 หลังวันที่ 7 ตุลาคม
  • Sariel ถูกอ้างถึงไม่ใช่ด้วยชื่อเต็ม แต่ในฐานะผู้บัญชาการ Unit 8200 “Y”
  • ผู้วิจารณ์มองว่าภายใต้การนำของ Sariel หน่วยนี้ให้ความสำคัญกับเทคโนโลยีที่ “น่าติดใจและน่าตื่นเต้น” จนนำไปสู่โศกนาฏกรรม
• มีการอ้างว่า Sariel บอกกับเพื่อนร่วมงานว่า วันที่ 7 ตุลาคมจะหลอกหลอนเขาไปจนถึงวันสุดท้าย และเขายอมรับความรับผิดชอบ “ในความหมายที่ลึกที่สุด” พร้อมกล่าวว่า “เราแพ้แล้ว ผมแพ้แล้ว”

[GN⁺]

ความคิดเห็นบน Hacker News

• อยากรู้มากขึ้นว่า ความผิดพลาดด้านความปลอดภัย ที่กล่าวถึงในข้อความอ้างอิงนั้นมีลักษณะอย่างไรกันแน่
  สงสัยว่า Amazon มีบั๊กที่ทำให้ผู้เขียนที่ตีพิมพ์เองเผยที่อยู่อีเมลของบัญชีหรือไม่ หรือเป็นเพราะเขาแชร์เนื้อหา Google Maps หรือ Google Calendar ในหนังสือ แล้วไม่รู้ว่าฟีเจอร์เหล่านั้นจะแสดงอีเมลจริงออกมา

  • ถ้าดูจากประโยคนั้นและส่วนอื่นของบทความ Amazon ดูแทบไม่เกี่ยวข้องเลย
    ดูเหมือนว่าเขามีบัญชี Gmail ที่สร้างไว้เพื่อรับฟีดแบ็ก การแก้ไข รีวิว และการติดต่อจากสื่อ ซึ่งควรจะเกือบเป็นนิรนาม แต่กลับลงทะเบียนด้วยชื่อจริง
    อย่างน้อยคนที่ได้รับอีเมลตอบกลับก็น่าจะเห็นชื่อ และอาจถูกเปิดเผยผ่านการเชื่อมโยงกับบัญชีอื่นด้วย
  • หนังสือออกภายใต้นามปากกาที่สร้างจากยศและตัวย่อชื่อ และข้อความแนะนำบน Amazon เขียนไว้ว่า:

    [pseudonym], an expert analyst, technology director, commander of an elite intelligence unit, and winner of the prestigious Israel Defense Prize for his artificial intelligence based anti-terrorism project
    โครงการที่ได้รับรางวัลด้านกลาโหมและหน่วยที่ทำโครงการนั้นถูกเปิดเผยใน The Times of Israel แล้ว
    ยศและชื่อของบุคคลนั้นก็เป็นข้อมูลสาธารณะจากบทความเก่า ๆ เช่นกัน
    ในบริบทแบบนี้ บัญชี Google หรือ Amazon ไม่ได้มีความสำคัญมากนักในการเชื่อมโยงนายพลคนนั้นกับหน่วยดังกล่าว

  • สงสัยว่า ID เฉพาะ ใน “การรั่วไหลของอีเมล ID ที่มี ID เฉพาะ” หมายถึงอะไร
    ไม่รู้ว่าเป็นอะไรคล้ายเลขประจำตัวประชาชน หมายเลขทหาร หรือรหัสระบุตัวตนอย่างอื่น

• ตรงนี้ดูเหมือนไม่มี ความล้มเหลวด้านความปลอดภัย เลย
  บางคนใช้นามปากกาเพื่อซ่อนตัวตนจริง แต่บางคนใช้นามปากกาเพื่อแยก persona สาธารณะออกจากชีวิตส่วนตัว
  กรณีนี้ชัดเจนว่าใกล้เคียงกับแบบหลัง
  เขาออกหนังสือโดยผสมตัวย่อชื่อของตัวเองกับคำใบ้ที่สื่อถึงอาชีพ และการที่เขาไม่ได้พยายามซ่อนอีเมลอย่างจริงจังก็เป็นเรื่องสอดคล้องกับแนวนั้น
  เรื่องนี้ไม่ใช่เรื่องใหญ่อะไร พอ ๆ กับการรายงานว่าค้นพบชื่อจริงของ JJ Lehto
  คิดดูอีกที มันเป็นทั้ง ชื่อรบ และ นามปากกา ในเวลาเดียวกัน

• ความมั่นคงปลอดภัยในการปฏิบัติการ เป็นเรื่องยาก
  และไม่ว่าจะมองศักยภาพของ AI ในแง่ดีแค่ไหน การใช้ AI เพื่อตัดสินใจว่าจะฆ่าใครนั้นน่ากลัวและผิดจริยธรรมอย่างชัดเจน
  มันทำให้เกิดความโหดร้ายโดยไม่มีผู้รับผิดชอบได้
  ข้อเท็จจริงที่ว่าคนนี้เคยเป็นนิรนามตั้งแต่แรกก็ดูเป็นสัญญาณว่าไม่ได้มุ่งเน้นเรื่องความรับผิดชอบ

  • The Guardian รายงานเพิ่มเติมเมื่อไม่กี่วันก่อนเกี่ยวกับ การใช้ AI ของ IDF ซึ่งมืดมนมาก:
    https://www.theguardian.com/world/2024/apr/03/israel-gaza-ai...
    อย่างไรก็ตาม ในบทความนั้น ส่วนที่น่ากลัวส่วนใหญ่กลับมาจากผู้ปฏิบัติงานที่เป็นมนุษย์
    ดูเหมือนมีความไม่ใส่ใจอย่างมากต่อการมองหาเหตุผลที่จะไม่ไว้ใจเครื่องจักร
  • การพูดแบบเด็ดขาดทำได้ยาก
    ผมเห็นด้วยกับความรู้สึกที่ว่า “การใช้ AI เพื่อตัดสินใจว่าจะฆ่าใครเป็นเรื่องผิดจริยธรรม” แต่ยากที่จะยอมรับข้อเสนอที่หนักแน่นขนาดนั้น
    ตัวอย่างเช่น ถ้ามีกลุ่ม 10 คนที่ตัดสินใจเรื่องเป้าหมาย และใช้ AI ลดภาระงานเพื่อให้ทั้ง 10 คนมีเวลาทบทวนนานขึ้น นั่นก็ถือว่าเป็น “การใช้ AI เพื่อตัดสินใจว่าจะฆ่าใคร” เช่นกัน แต่ผลลัพธ์อาจดีขึ้นก็ได้
    ปัญหาคือในโลกจริง มีความเป็นไปได้สูงที่ผู้คนจะโยนความรับผิดชอบให้เครื่องจักรแล้วทำเหมือนไม่ใช่เรื่องของตน
  • น่าเศร้าและน่าขยะแขยง แต่ การไม่มีผู้รับผิดชอบ กลายเป็นจุดขายสำหรับรัฐบาลบางแห่ง
  • การใส่ เทคโนโลยีเข้าไปมากแค่ไหน ในกระบวนการตัดสินใจโจมตีทางกายภาพจึงจะถือว่ามีจริยธรรม?
    ผมคิดว่ายากที่จะตอบคำถามนี้อย่างเหมาะสมพร้อมกับให้คำตอบง่าย ๆ
  • นั่นไม่ได้ทำให้ความรับผิดชอบหายไปเลย
    ตรงกันข้าม ความคิดเห็นและวิธีคิดแบบนี้ต่างหากที่ทำให้การเลี่ยงความรับผิดชอบเป็นไปได้
    มีมนุษย์ที่ตัดสินใจใช้ AI และมนุษย์คนนั้นต้องรับผิดชอบ
    ถ้าแบกรับความรับผิดชอบนั้นไม่ได้ ก็ไม่ควรใช้ AI

• ต่อให้ตัวตนถูกเปิดเผยก็ไม่สำคัญมากนัก
  ถ้าเป็น บุคคลระดับผู้อำนวยการ ไม่ว่าจะทำอะไรก็จะโดดเด่นกว่าเดิมและซ่อนตัวไม่ได้
  ในแวดวงทหาร นายทหารชั้นสูงไม่ได้รับการปกปิดตัวตน เพราะพวกเขาเป็นตัวแทนของกองทัพ
  แน่นอนว่าทหารและกำลังพลระดับล่างถึงกลางคือคนที่ปฏิบัติตามคำสั่งและรับความเสี่ยงจริง จึงต้องได้รับการปกป้องตัวตนเสมอ
  คงดีกว่าถ้าตัวตนของเขาไม่ถูกเปิดเผย เพราะอาจเสี่ยงถูกลอบสังหารเมื่อเดินทาง แต่พูดตรง ๆ นี่ไม่ใช่เรื่องใหญ่
  น่าจะมีแต่กลุ่มที่ต่อต้านอิสราเอลเอาไปสร้างคอมเมนต์แสดงความเกลียดชัง

  • ถ้าตีพิมพ์ในปี 2021 ด้วยนามปากกาที่ใช้ตัวย่อว่า “Brigadier General YS” ก็ดูไม่เหมือนว่าเขา ตั้งใจจะซ่อนตัวตนจริง ๆ ตั้งแต่แรก
  • ย่อหน้าสุดท้ายเป็นการตีความที่แปลก
    โดยผิวเผินแล้วเขาพยายามซ่อนตัวตน และล้มเหลวค่อนข้างยับเยิน จึงกลายเป็นข่าว

• หนังสืออยู่ที่นี่:
  https://www.amazon.com/Human-Machine-Team-Artificial-Intelli...

  • ผู้เขียนระบุว่า “Brigadier General Y.S” ซึ่งก็ไม่ได้เดายากนักว่าเป็น Yossi Sariel

• โดยส่วนตัวผมไม่ได้สนใจตัวตนของเขา แต่บทความนี้ยังพูดถึง เนื้อหาของหนังสือ ที่เขาตีพิมพ์ด้วย ซึ่งส่วนนั้นน่าสนใจกว่ามาก

• เป็นการเดินเกม หมากรุก 4 มิติ อันชาญฉลาดของ Yossi Sariel
  ดูเหมือนเขาพยายามแกล้งทำพลาดเพื่อออกจากตำแหน่งโดยไม่ต้องลาออกอย่างเป็นทางการ
  “ความผิดพลาด” นี้เปิดทางให้ผู้บังคับบัญชามีเหตุผลปลดเขาออก ขณะเดียวกันก็ช่วยให้เขาหลบเลี่ยงเหตุการณ์วันที่ 7 ตุลาคมได้

  • ความผิดพลาดอะไรก็ตาม ถ้ายืนกรานว่าไม่ได้พัง และเป็นเพราะเราอ่านกระดานไม่ออก ก็สามารถห่อหุ้มให้ดูเป็น “การเดินเกมหมากรุก 4 มิติอันชาญฉลาด” ได้
    ดูจากสิ่งที่เกิดขึ้นหลังวันที่ 7 ตุลาคม ทั้งสองฝ่ายก็ดูไม่เก่งในการวางกลยุทธ์รูปแบบใด ๆ เลย
    ยิ่งไม่ใช่ “หมากรุก 4 มิติอันชาญฉลาด” แน่นอน
  • แต่หนังสือออกมาเมื่อ 3 ปีก่อน
    หมายความว่าเขาจงใจทำพลาดตอนนั้น เพื่อสร้างทางหนีทีไล่ที่จะออกไปได้โดยไม่ต้องลาออกในอีก 3 ปีให้หลังหรือ?
  • โดยเฉพาะอย่างยิ่ง ตัวหนังสือเองตั้งใจให้ตีพิมพ์โดยใช้ ตัวย่อ YS อย่างเปิดเผยตั้งแต่แรก
    ดูไม่เหมือนว่าพยายามเก็บเป็นความลับจริง ๆ
  • หมากรุก 4 มิติของจริงคือการเขียนคู่มือผู้นำทางความคิดสำหรับ การสังหารหมู่ด้วยคอมพิวเตอร์ ที่กำลังเกิดขึ้นตอนนี้ แล้วทำให้ตัวเองพ้นจากความรับผิดชอบทั้งหมดได้เพียงแค่ลาออก
  • ก็แค่ลาออกแล้วกลายเป็นพลเรือนก็พอ ทำไมต้องจงใจอยากดูเหมือนคนโง่ด้วย?
    ถ้าต้องการ เขาก็อาจเป็นผู้เปิดโปงแบบ Snowden ได้เหมือนกัน

• รู้สึกสบายใจแปลก ๆ ที่ได้รู้ว่าเรื่องแบบนี้ ยากแม้แต่สำหรับผู้เชี่ยวชาญ

• “นักวิจารณ์ของ Sariel มองว่า การที่ Unit 8200 ให้ความสำคัญกับเทคโนโลยีที่ ‘เสพติดและน่าตื่นเต้น’ มากกว่าวิธีรวบรวมข่าวกรองแบบเก่ากว่า นำไปสู่หายนะ” งั้นหรือ
  พวกเขาใช้ Kubernetes กับเฟรมเวิร์กฟรอนต์เอนด์รุ่นล่าสุดด้วยไหม?

  • ในบังเกอร์ลับของ IDF ลึกลงไปใต้ Mt. Sinai มีความลับอันน่าสะพรึงอยู่
    มันคือ useEffect() loop ขนาดยักษ์ที่ควบคุมหุ่นยนต์สังหารทุกตัวทีละตัวด้วยชื่อที่ฮาร์ดโค้ดไว้
    ยังไม่มีงบไปศึกษา memoization เลยช้าอยู่บ้าง แต่บนฮาร์ดแวร์ที่แรงพอก็ยังพอไหว
    การคำนวณวิถีกระสุนทำทั้งหมดด้วย WebGL จนทำให้ GPU ขาดแคลนทั่วโลกในช่วงหลายปีที่ผ่านมา
    บางครั้งก็ตั้งขนาด viewport ผิดจนเกิดความเสียหายข้างเคียง :(
    หลังได้บทเรียน โปรเจกต์ AI ถัดไปของอิสราเอลจึงจะทำตามแนวทางที่พิสูจน์แล้ว และจะเขียนทั้งหมดด้วย CSS
  • Kubernetes ตอนนี้เป็นเทคโนโลยีเก่าและเทอะทะไปแล้ว
    อุปมาที่ดูสมจริงกว่าคือ ไล่ นักพัฒนาอาวุโส ออก แล้วจ้างจูเนียร์ที่มีสมาชิก ChatGPT แทน จากนั้นก็หวังว่าความเร็วในการพัฒนาจะดีขึ้นอย่างมาก
  • หรือไม่ก็ พวกเขาย้ายไป serverless แล้ว
    เจาะคอมพิวเตอร์สุ่ม ๆ ในห้องใต้ดิน แล้วส่งฟังก์ชันเล็ก ๆ ไปประมวลผลแบบกระจาย
    ข้อมูลมีขนาดเล็กเกินไปจนเป็นไปไม่ได้ที่จะประกอบกลับมาว่ามันทำอะไร
    เป็น SETI@HOME แบบโซเวียต
    คุณอาจกำลังประมวลผลข้อมูลของพวกเขาอยู่โดยไม่รู้ตัว
    สิ่งเดียวที่ทำได้คือฟอร์แมตระบบเพื่อกำจัดแบ็กดอร์ ซึ่งก็ต้องหวังว่าจะได้ผล

• ความมั่นคงปลอดภัยในการปฏิบัติการนั้นยาก
  ต่อให้ทำถูกต้องทั้งหมด 99,999 ครั้ง แต่พลาดครั้งเดียวก็จบ

  • การเอา ตัวย่อชื่อ ของตัวเองไปใส่ในหนังสือที่เผยแพร่เองบน Amazon นี่เรียกว่าความมั่นคงปลอดภัยในการปฏิบัติการได้จริงหรือ?