- ‘ELITE’ เป็นเครื่องมือภายในของ Palantir ที่ สำนักงานตรวจคนเข้าเมืองและศุลกากรสหรัฐฯ (ICE) ใช้เพื่อตามหาผู้ที่เป็นเป้าหมายในการเนรเทศ โดยแสดงภาพความหนาแน่นของเป้าหมายในบางพื้นที่ผ่านอินเทอร์เฟซแบบแผนที่
- แอปนี้มี ลักษณะคล้าย Google Maps และใช้ข้อมูลรวมถึงความหนาแน่นของผู้อพยพเพื่อ ระบุ ‘พื้นที่ที่มีเป้าหมายจำนวนมาก’
- เมื่อผู้ใช้เลือกบุคคลใดบุคคลหนึ่ง ระบบจะแสดง โปรไฟล์ส่วนบุคคล (dossier) ที่มี ชื่อ, รูปถ่าย, หมายเลขคนต่างด้าว (Alien Number), วันเดือนปีเกิด, ที่อยู่
- ตามเอกสารภายใน ระบบนี้ยังให้ คะแนนความเชื่อมั่น (confidence score) ของที่อยู่ปัจจุบันของเป้าหมาย และถูกนำไปใช้กับ การทำโปรไฟล์ทางเชื้อชาติในวงกว้าง
- บทความระบุว่าเทคโนโลยีนี้กำลัง ช่วยเสริมอำนาจฝ่ายบริหารในการเนรเทศผู้คนโดยไม่ผ่านกระบวนการทางกฎหมาย และตั้งคำถามเรื่อง ความรับผิดชอบทางจริยธรรมของนักพัฒนา
ความร่วมมือทางเทคโนโลยีระหว่าง ICE กับ Palantir
- ตามเอกสารภายในของ ICE และคำให้การจากผู้เกี่ยวข้อง พบความเชื่อมโยงโดยตรงระหว่าง โครงสร้างพื้นฐานทางเทคโนโลยีที่ Palantir สร้างให้ ICE กับ ปฏิบัติการบุกจับในภาคสนาม
- ตามรายงานของ 404 Media ระบบ ELITE ถูกใช้โดย ICE เพื่อ ระบุพื้นที่สำหรับปฏิบัติการเนรเทศขนาดใหญ่
- เครื่องมือนี้ แสดงผู้ที่อาจเป็นเป้าหมายในการเนรเทศบนแผนที่ และให้ คะแนนความเชื่อมั่นของที่อยู่ (confidence score) ของแต่ละคน
ฟังก์ชันและอินเทอร์เฟซของ ELITE
- ELITE ใช้ อินเทอร์เฟซแผนที่คล้าย Google Maps เป็นพื้นฐาน และใช้ข้อมูลรวมถึง ความหนาแน่นของผู้อพยพ เพื่อ ทำให้เห็นภาพ ‘พื้นที่ที่มีเป้าหมายหนาแน่น’
- เมื่อผู้ใช้คลิกบุคคลใดบุคคลหนึ่งบนแผนที่ ระบบจะแสดง โปรไฟล์ส่วนบุคคล (dossier) ที่มี ชื่อ, รูปถ่าย, หมายเลขคนต่างด้าว, วันเดือนปีเกิด, ที่อยู่แบบเต็ม
- ข้อมูลเหล่านี้ถูกใช้โดย ICE เพื่อ ติดตามตำแหน่งของเป้าหมายและวางแผนปฏิบัติการจับกุม
การตั้งคำถามเชิงจริยธรรม
- บทความนิยามระบบนี้ว่าเป็น “การทำโปรไฟล์ทางเชื้อชาติในวงกว้าง” และวิจารณ์ว่าเทคโนโลยีกำลังถูกใช้เพื่อ เนรเทศผู้คนโดยไม่ผ่านกระบวนการทางกฎหมาย
- ผู้เขียนบรรยายถึง ความขัดแย้งทางศีลธรรมที่พนักงาน Palantir อาจรู้สึกเมื่อพัฒนาผลิตภัณฑ์ลักษณะนี้
- ใช้ถ้อยคำว่า “ไปทำงานทุกวันเพื่อสร้างซอฟต์แวร์ที่ใช้เนรเทศผู้คน” เพื่อเน้น ช่องว่างระหว่างชีวิตการทำงานประจำวันกับจริยธรรมของนักพัฒนา
- ยังชี้ว่าพนักงาน Palantir อาจได้รับ เงินเดือน, หุ้นตอบแทน, สวัสดิการ แต่ในขณะเดียวกัน เทคโนโลยีที่พวกเขาสร้างก็ มีส่วนสนับสนุนการใช้ความรุนแรงของหน่วยงานติดอาวุธ
ความเชื่อมโยงระหว่างเทคโนโลยีกับความรุนแรง
- บทความกล่าวถึง ICE ในฐานะ กองกำลังติดอาวุธที่ลักพาตัวพลเรือนและใช้อาวุธปืนยิง พร้อมระบุว่า ELITE กำลังสนับสนุนกิจกรรมเหล่านี้ด้วย “อินเทอร์เฟซแผนที่ที่สวยงามและทันสมัย”
- มีการยกตัวอย่างเหตุการณ์รุนแรง เช่น กรณี ICE ยิงผู้หญิงคนหนึ่งที่ใบหน้า เพื่อวิจารณ์ว่าเทคโนโลยีกำลังถูกใช้เป็น เครื่องมือเพิ่มประสิทธิภาพให้การบังคับใช้อำนาจรัฐที่รุนแรง
นักเทคโนโลยีกับความรับผิดชอบต่อสังคม
- บทความบรรยายว่าพนักงาน Palantir อาจรู้สึกว่า “การทำงานกับทีมนี้เป็นเรื่องสนุก” ขณะเดียวกันก็เผชิญความขัดแย้งภายในว่า “ควรหางานใหม่”
- ตั้งคำถามว่าเมื่อ แรงงานของนักเทคโนโลยีมีส่วนต่อความรุนแรงทางสังคม จะสามารถอ้างเหตุผลเรื่องปากท้องหรือเส้นทางอาชีพเพื่อทำให้สิ่งนั้นชอบธรรมได้หรือไม่
- โดยสรุป ELITE เป็นระบบที่สนับสนุนการบุกจับอันรุนแรงของ ICE ในเชิงเทคนิค และถูกยกเป็นกรณีตัวอย่างที่เผยให้เห็น ปัญหาความรับผิดชอบทางจริยธรรมของนักพัฒนาเทคโนโลยี
1 ความคิดเห็น
ความคิดเห็นจาก Hacker News
ฉันไม่เคยทำงานที่ Palantir แต่ถ้าตัดภาพลักษณ์ เล่นบทตัวร้าย ของผู้นำที่ชอบสร้างกระแสออกไป บริษัทนี้ก็ดูเป็น ผู้ขายซอฟต์แวร์องค์กร แบบทั่วๆ ไป
ตัวผลิตภัณฑ์ก็ธรรมดา แต่ถูกโหมขายเกินจริงให้หน่วยงานต่างๆ แล้วสุดท้ายก็ถูกยัดเยียดให้พนักงานหน้างานต้องใช้
ปัญหาคือการตัดสินใจเชิงนโยบายที่ทำให้ต้องใช้เครื่องมือแบบนี้ และโครงสร้างที่เปิดให้เข้าถึงข้อมูลซึ่งควรถูกควบคุมได้อย่างกว้างขวาง
แทนที่จะให้ภาพลักษณ์ว่า Palantir เป็น ‘ตัวร้าย’ ควรโฟกัสที่ฉากหลังเชิงนโยบายว่าทำไมถึงอยากได้เครื่องมือแบบนี้มากกว่า
พวกเขาขาย ‘forward deployed engineer’ ราคาแพงเพื่อปรับแต่งระบบตามลูกค้าแต่ละราย
จะบอกว่าเป็นบริษัทที่มีจริยธรรมก็คงยาก แต่พวกเขาไม่ได้เก็บข้อมูลส่วนบุคคลโดยตรง ข้อมูลมาจากลูกค้า
การเปลี่ยนแปลงต้องเกิดขึ้นฝั่งลูกค้านั่นแหละ
ถ้าวัฒนธรรมองค์กรบังคับให้บริษัทต้องทำตัวให้ดูชั่วกว่าความเป็นจริง นั่นก็สะท้อนถึงความล้มละลายทางศีลธรรมของสังคม
พวกเขาเลือกได้ทั้งที่จะไม่สร้างเครื่องมือ และไม่ใช้งานมัน
แต่สุดท้ายแล้วคนที่ต้องควบคุมรัฐบาลก็คือ ผู้มีสิทธิเลือกตั้ง
ทุกวันนี้คนเหมือนจะสูญเสีย ความคิดที่ซับซ้อนหลายมิติ ไปแล้ว
คุณอาจเชื่อได้ว่า ICE มีภารกิจที่ชัดเจนและมีจริยธรรม แต่ขณะเดียวกันก็คิดว่าวิธีที่ใช้ทำภารกิจนั้นผิด
คุณอาจไม่ตีตราผู้อพยพผิดกฎหมายว่า ‘ผิดกฎหมายโดยเนื้อแท้’ แต่ก็ยังเชื่อว่าการรักษากระบวนการตามกฎหมายเป็นสิ่งสำคัญได้
โลกไม่ได้มีแค่ขาวกับดำ แต่ไม่รู้ว่าทำไมเราถึงคิดกันแบบสุดโต่งสองขั้วมากขึ้นเรื่อยๆ อาจเป็นเพราะ อิทธิพลของโซเชียลมีเดีย
นี่ไม่ใช่การต่อสู้ทางอุดมการณ์แบบสมมาตร ความหวังสุดท้ายอาจเป็น คลื่นสีน้ำเงินในการเลือกตั้งกลางเทอม ที่กำลังจะมาถึง
ถ้ามันไม่เกิดขึ้น ความสิ้นหวังในวรรณกรรมรัสเซียคงจะเข้าถึงใจยิ่งกว่าเดิม
ภารกิจทางกฎหมายของ ICE ไม่ได้ชัดเจนนัก และในทางปฏิบัติก็กำลังถูกดำเนินการด้วยวิธีที่ ไร้จริยธรรมและผิดกฎหมาย
แค่เพราะเป็น ‘ความเชื่อที่เป็นไปได้’ ไม่ได้ทำให้มันชอบธรรม
สำหรับคนยากจน ไม่มีคิวให้ต่ออยู่แล้ว พวกเขาไม่สามารถแม้แต่จะยื่นขอวีซ่าอย่างถูกกฎหมายได้ด้วยซ้ำ
อยากบอกผู้นำหรือฝ่ายสรรหาของบริษัทอื่นว่า
อยากให้ประกาศออกสาธารณะว่าจะสัมภาษณ์ วิศวกรที่อยากลาออกจาก Palantir ด้วยเหตุผลทางศีลธรรม
ถ้าลดกำแพงในการย้ายงานและทำให้คนแบบนั้นมีที่ลี้ภัยได้ ก็น่าจะกลายเป็นบรรทัดฐานใหม่ของวงการ
ถ้าเพิ่งมารู้ตัวตอนนี้ ก็ดูเหมือนจะเป็นคนที่ขาดหลักการอยู่พอสมควร
แปลกดีที่ฉันไม่เคยเห็น เรซูเม่ของอดีตพนักงาน Palantir เลย อาจถูกกรองอัตโนมัติไปแล้ว หรือพวกเขาอาจไม่ได้สนใจบริษัทแบบนี้ก็ได้
นับตั้งแต่ก่อตั้งมา Palantir รับ เงินภาษีราว 1 หมื่นล้านดอลลาร์ จากรัฐบาลสหรัฐ
ถ้าอยากให้เธรดนี้ไม่ถูกลบ ก็ต้องมี การอภิปรายที่ลึกกว่านี้
ควรคุยให้ชัดว่าใช้ผลิตภัณฑ์ไลน์ไหนของ Palantir, FOIA (กฎหมายเสรีภาพในการเข้าถึงข้อมูลข่าวสาร) ถูกนำไปใช้อย่างไร, และมีการส่งมอบข้อมูลอะไรบ้าง
ดูเหมือนว่า ทีมจัดการภาพลักษณ์ ของ Palantir จะเข้ามาแทรกในเธรดนี้เร็วกว่าเดิมมาก
แถมอาจขายสิ่งนี้เป็นบริการให้ลูกค้าด้วยก็ได้
ถ้าจะกันปัญหาแบบนี้ เว็บไซต์ต่างๆ ก็ควรเพิ่มการ ยืนยันตัวตนจริงของบัญชีนิรนาม ให้เข้มงวดขึ้น
ตอนฉันอายุ 19 มีพนักงาน Palantir มาบรรยายเรื่อง TDD แล้วนักศึกษาก็ คว่ำบาตร งานนั้น
ตอนนั้นฉันคิดว่ามันสุดโต่งเกินไป แต่ตอนนี้กลับรู้สึกว่าพวกเขาถูกแล้ว
ฉันจะไม่มีวันทำงานให้บริษัทแบบ Palantir และถ้าย้อนกลับไปได้ ฉันก็คงเข้าร่วมการคว่ำบาตรด้วย
ตรรกะที่ว่า “จีนก็ทำแบบนี้ เราเลยต้องทำด้วย” นั้น น่าขยะแขยงทางศีลธรรม
ทางออกของโลกที่เสื่อมทรามไม่ใช่การเสื่อมทรามยิ่งขึ้น ตรรกะแบบนั้นทำให้ความรับผิดชอบเลือนหาย ลดทอนความเป็นมนุษย์ และเพิ่มความขัดแย้ง
เราต้องต่อสู้กับ ความเสื่อมทรามทางศีลธรรม แบบนี้
นี่ไม่ใช่แค่เรื่อง “ผู้อพยพผิดกฎหมาย”
ตอนนี้มีการสร้าง โครงสร้างพื้นฐานการสอดส่องเฝ้าระวังขนาดใหญ่ ขึ้นมาแล้ว ตอนนี้มันเล็งเป้าไปที่คนบางกลุ่ม แต่ไม่นานทุกคนก็จะกลายเป็นเป้าหมาย
ระบบเฝ้าระวังอย่าง Flock, Ring รวมถึง AI และการบูรณาการข้อมูล คือรากฐานของมัน
คนที่สร้างเทคโนโลยีเหล่านี้ต้องรับ ความรับผิดชอบทางศีลธรรม และจำเป็นต้องมีแพลตฟอร์มที่สามารถติดตามตรวจสอบได้
บทความต้นฉบับ: 404 Media - ELITE: the Palantir app ICE uses to find neighborhoods to raid
ลิงก์ archive: archive.ph/wa32f