การสร้างซูเปอร์คอมพิวเตอร์ให้เผด็จการไม่ได้ดีต่อประชาธิปไตยเสมอไป
(helentoner.substack.com)- OpenAI นำเสนอ OpenAI for Countries และ Stargate UAE ว่าเป็นการขยาย “AI แบบประชาธิปไตย” แต่มีหลักฐานน้อยว่าการสร้างศูนย์ข้อมูล AI ขนาดใหญ่ใน UAE จะส่งเสริมประชาธิปไตย
- UAE เป็นประเทศที่ได้ 18/100 คะแนน ในการประเมิน Freedom House 2024 โดยมีประเด็นที่ถูกกล่าวถึงร่วมกัน ได้แก่ การผูกขาดอำนาจของระบอบกษัตริย์สืบตระกูล การห้ามพรรคการเมือง การห้ามวิจารณ์รัฐบาล การจำคุกนักกิจกรรม การเซ็นเซอร์สื่อ และการเอารัดเอาเปรียบแรงงานข้ามชาติ
- เหตุผลของฝ่าย OpenAI แบ่งได้เป็น “AI ของสหรัฐฯ เผยแพร่คุณค่าประชาธิปไตย” และ “หากสหรัฐฯ ชนะการแข่งขัน AI กับจีน จะเป็นผลดีต่อประชาธิปไตย” แต่ไม่มีหลักฐานว่า Stargate UAE ตั้งเป้าจะให้การเข้าถึงแบบไม่ถูกเซ็นเซอร์หรือมอบเครื่องมือที่หนุนประชาธิปไตย
- โครงสร้างพื้นฐานประมวลผล AI ขนาดใหญ่กำลังกลายเป็น สินทรัพย์หลักของอำนาจรัฐ และเมื่อราชวงศ์ UAE ทุ่มเงินมหาศาล ก็มีความเป็นไปได้สูงที่อิทธิพลของรัฐบาล UAE จะเพิ่มขึ้นผ่านสิทธิ์เข้าถึงหรือสิทธิ์ความเป็นเจ้าของชิป AI ระดับสูง
- ดีลด้านเซมิคอนดักเตอร์และโครงสร้างพื้นฐาน AI ไม่ได้เลวร้ายเสมอไป แต่การประชาสัมพันธ์สิ่งนี้ว่าเป็น โครงการประชาธิปไตย ทั้งที่ยังไม่เปิดเผยจำนวนชิป สิทธิ์การเป็นเจ้าของและการใช้งาน รวมถึงเงื่อนไขป้องกันการถ่ายทอดเทคโนโลยีไปยังจีน ถือเป็นการห่อหุ้มที่เสี่ยงอันตราย
เหตุผล “AI แบบประชาธิปไตย” ของ OpenAI และ Stargate UAE
- OpenAI ประกาศ OpenAI for Countries เมื่อต้นเดือนพฤษภาคม โดยระบุว่าจะสนับสนุนการสร้างโครงสร้างพื้นฐาน AI ของประเทศต่าง ๆ เชื่อมโยงกับ Stargate ที่กำลังเดินหน้าในรัฐเท็กซัสของสหรัฐฯ และที่อื่น ๆ
- แก่นของประกาศคือ ตรรกะที่ว่าโครงสร้างพื้นฐาน AI ขนาดใหญ่จะกลายเป็น สินทรัพย์รากฐาน ของการเติบโตทางเศรษฐกิจและการพัฒนาประเทศในอนาคต และควรมอบทางเลือกแทน AI แบบเผด็จการให้กับประเทศที่ต้องการ “ราง AI แบบประชาธิปไตย”
- ต่อมา OpenAI ประกาศพาร์ตเนอร์ชิปเพื่อสร้างศูนย์ข้อมูล AI ขนาดใหญ่ใน UAE และนำเสนอว่าเป็นโครงการที่หยั่งรากอยู่ใน “คุณค่าประชาธิปไตย”
- จุดโฟกัสของคำวิจารณ์อยู่ที่การที่ดีลใหญ่ครั้งแรกซึ่ง OpenAI ชูเรื่องประชาธิปไตยนั้นไม่ได้ทำกับประเทศประชาธิปไตยจริง ๆ แต่เป็น UAE
ระบอบการเมืองและสถานการณ์สิทธิมนุษยชนของ UAE
- ใน คะแนนประเทศปี 2024 ของ Freedom House UAE ได้ 18/100 คะแนน ซึ่งต่ำกว่า Haiti, Zimbabwe และ Iraq
- คะแนนเสรีภาพ: {p:18}
- ระบอบการเมือง ของ UAE เป็นโครงสร้างที่ระบอบกษัตริย์สืบตระกูลผูกขาดอำนาจ
- พรรคการเมืองถูกห้าม
- ผู้สมัครสามารถลงเลือกตั้งแบบอิสระได้ แต่ยากที่จะท้าทายระบอบได้อย่างมีความหมาย
- ที่นั่งในสภาที่ปรึกษามีเพียงครึ่งหนึ่งที่มาจากการเลือกตั้ง ส่วนที่เหลือแต่งตั้งโดยรัฐบาล
- สภาที่ปรึกษาดังกล่าวไม่มีอำนาจนิติบัญญัติที่แท้จริง
- การวิจารณ์รัฐบาลถูก ห้าม และผู้สมัครกับนักกิจกรรมที่เรียกร้องสิทธิมนุษยชนหรือการปฏิรูปการเมืองถูก จำคุก หรือถูกนำเข้าสู่ การพิจารณาคดีหมู่ครั้งใหญ่
- แม้แต่ ครอบครัว ของผู้เห็นต่างที่ถูกคุมขังก็ยังตกเป็นเป้าหมายของการเฝ้าระวังและการลงโทษอย่างเป็นระบบ
- สื่อทำการเซ็นเซอร์ตัวเองหรือถูก เซ็นเซอร์เชิงรุก โดยรัฐบาล และในบางกรณีอาจถูก สั่งปิด
- ประชากรของ UAE ประมาณ 90% เป็นแรงงานข้ามชาติที่ไม่มีสิทธิทางการเมือง และมีปัญหา การเอารัดเอาเปรียบแรงงาน เช่น การยึดหนังสือเดินทาง การค้างจ่ายค่าจ้าง และการบังคับทำงานท่ามกลางความร้อนจัด
- องค์กรสิทธิมนุษยชนแห่งหนึ่ง ประเมิน ว่า UAE เป็นประเทศที่มีอัตราความชุกของทาสสมัยใหม่สูงเป็น อันดับ 7 ของโลก
สองแนวทางในตรรกะด้านประชาธิปไตยของ OpenAI
- Chris Lehane หัวหน้าฝ่ายกิจการทั่วโลกของ OpenAI เขียนบทความใน The Hill ว่า คุณค่าประชาธิปไตยควรกำหนดอนาคตของ AI และหากสหรัฐฯ ไม่ช่วยประเทศที่ต้องการสร้าง AI เผด็จการก็จะเข้ามาเติมช่องว่างนั้น
- คำอธิบายของ OpenAI แบ่งได้กว้าง ๆ เป็นสองตรรกะ
- AI ของสหรัฐฯ มีคุณค่าประชาธิปไตย อยู่ในตัว ดังนั้นหากมอบให้ผู้คนมากขึ้น ประชาธิปไตยก็จะแพร่ขยาย
- สหรัฐฯ เป็นประเทศประชาธิปไตย ส่วนจีนไม่ใช่ ดังนั้นการที่สหรัฐฯ ชนะ “การแข่งขัน” ด้าน AI จึงเป็นผลดีต่อประชาธิปไตย
- ตรรกะแรกอาจใช้ได้บ้างในสถานการณ์สุดโต่ง แต่ไม่ค่อยสอดคล้องกับดีล UAE
- หากประเทศหนึ่งเคยห้ามการเข้าถึงแชตบอต AI ที่ไม่ถูกเซ็นเซอร์แล้วอนุญาตในภายหลัง ก็อาจช่วยคุณค่าประชาธิปไตยในแง่เสรีภาพข้อมูลได้
- กรณีที่มอบเครื่องมือ AI ที่หนุนประชาธิปไตยโดยขัดกับเจตจำนงของรัฐบาลที่ไม่เป็นประชาธิปไตย ก็อาจมีความหมายในวงจำกัด
- แต่ไม่มีหลักฐานว่า Stargate UAE พยายามทำให้สถานการณ์ลักษณะนี้เกิดขึ้นจริง
- OpenAI ประชาสัมพันธ์ว่า UAE จะเป็นประเทศแรกของโลกที่เปิดใช้ ChatGPT ทั่วประเทศ แต่ยังไม่ชัดเจนว่าเดิม ChatGPT ใน UAE เคยถูกจำกัดหรือไม่ และเหตุใดสหรัฐฯ ออสเตรเลีย แคนาดา ฯลฯ จึงไม่ถูกเรียกว่า “เปิดใช้ทั่วประเทศ”
- เคยมีรายงานว่าจะให้ ChatGPT Plus ฟรีแก่ผู้อยู่อาศัยใน UAE แต่เนื้อหาดังกล่าวเป็น ข่าวปลอม
การดำเนินงานของ ChatGPT และเส้นเซ็นเซอร์ของ UAE
- ไม่มีสัญญาณว่า ChatGPT ใน UAE จะดำเนินงานอย่างเป็นประชาธิปไตยมากกว่าเครื่องมือ AI อื่น ๆ
- ผู้อยู่อาศัยใน UAE ดูเหมือนจะเข้าถึงผลิตภัณฑ์ AI ของสหรัฐฯ อื่น ๆ เช่น Gemini, Claude และ Llama ได้เช่นกัน
- Brad Lightcap COO ของ OpenAI ถูกถามว่า ChatGPT ใน UAE จะปฏิบัติตาม “red lines” ในหัวข้ออ่อนไหว เช่น การวิจารณ์ราชวงศ์หรือไม่ และเขาตอบว่า “ยังไม่รู้ เราต้องทำงานร่วมกันผ่านพาร์ตเนอร์ชิปกับประเทศนั้น”
- คำตอบนี้ไม่ได้ตัดความเป็นไปได้ที่ ChatGPT จะถูกปรับให้ไม่ขัดกับเส้นเซ็นเซอร์ทางการเมืองที่มีอยู่ของ UAE
โครงสร้างพื้นฐานประมวลผล AI และอำนาจรัฐ
- ตรรกะที่สอง เรื่องการแข่งขัน AI ระหว่างสหรัฐฯ กับจีน อาจมีน้ำหนักโน้มน้าวมากกว่าเมื่อเทียบกัน
- ทรัพยากรประมวลผล มีบทบาทสำคัญต่อความสำเร็จของ AI
- ปัจจุบันมองกันว่าการสร้างศูนย์ข้อมูลขนาดใหญ่ในสหรัฐฯ เป็นเรื่องยาก
- หากประเทศอื่นจัดหาเงินทุน พลังงาน และใบอนุญาตให้ บริษัทสหรัฐฯ ก็จะได้ทรัพยากรประมวลผลมากขึ้นและสร้าง AI ที่ดีกว่าได้
- แต่กรอบที่มองเพียงสหรัฐฯ กับจีนทำให้มองข้ามนัยที่ใหญ่กว่าของดีล UAE
- โครงสร้างพื้นฐานประมวลผลขนาดใหญ่ โดยเฉพาะ ซูเปอร์คอมพิวเตอร์ AI ระดับโลกที่ประกอบด้วยตัวเร่ง AI ขั้นสูงหลายแสนตัว กำลังกลายเป็น แรงขับเคลื่อนสำคัญของอำนาจรัฐ
- จากมุมมองนี้ Stargate UAE จึงเป็นดีลที่จะเพิ่มอำนาจและอิทธิพลด้าน AI ของรัฐบาล UAE อย่างมาก
- จากข้อมูลสาธารณะเพียงอย่างเดียว ความเป็นเจ้าของและสิทธิการใช้งานทรัพยากรประมวลผลยังคลุมเครือมาก แต่เมื่อ UAE ใช้เงินมหาศาล ก็ยากจะจินตนาการถึงสถานการณ์ที่ไม่ได้รับสิทธิ์เข้าถึงหรือสิทธิ์ความเป็นเจ้าของชิปเหล่านั้นอย่างมีนัยสำคัญ
เงื่อนไขและความไม่แน่นอนของดีล AI·เซมิคอนดักเตอร์ในอ่าว
- การทำดีลเซมิคอนดักเตอร์กับรัฐในอ่าวไม่ได้เป็นเรื่องเลวร้ายโดยตัวมันเอง
- รายละเอียดของดีลหลายรายการที่คล้ายกับดีล UAE ของ OpenAI ยังไม่ถูกเปิดเผย และบางรายการ ยังไม่ได้ข้อสรุปขั้นสุดท้าย
- สหรัฐฯ ร่วมมือกับรัฐบาลเผด็จการในภูมิภาคอ่าวมาเป็นเวลานานด้วยเหตุผลด้านความมั่นคงแห่งชาติ และจากมุมมองการเมืองเชิงอำนาจที่เย็นชา ก็อาจมี รูปแบบดีล ที่ให้ประโยชน์มากกว่าต้นทุนได้
- หากจะตัดสินย้อนหลังว่าสหรัฐฯ ทำดีลที่ดีหรือไม่ เงื่อนไขต่อไปนี้สำคัญ
-
จำนวนชิป
- ความเป็นเจ้าของและสิทธิการใช้งานทรัพยากรประมวลผล
- กลไกป้องกันการถ่ายทอดเทคโนโลยีไปยังจีน
- อย่างไรก็ตาม ต่อให้ดีล Stargate UAE อยู่ในรูปแบบที่ดีที่สุด ก็ยังต้องเป็นเงื่อนไขที่ราชวงศ์ UAE ยอมรับได้ ดังนั้นพาร์ตเนอร์ชิปนี้จึงยากที่จะกลายเป็นเครื่องมือส่งเสริมประชาธิปไตยที่ทรงพลัง
-
มิชชันของ OpenAI และปัญหาการกระจุกตัวของอำนาจ
- หาก OpenAI เป็นบริษัทแสวงหากำไรทั่วไป หรือ AI เป็นเทคโนโลยีที่มีความสำคัญน้อยกว่านี้ ความสำคัญของถ้อยคำประชาสัมพันธ์รอบดีลนี้คงน้อยกว่าเดิม
- แต่ OpenAI ย้ำว่าตนเป็น องค์กรไม่แสวงหากำไรที่ขับเคลื่อนด้วยมิชชัน และเป็นองค์กรที่พยายามสร้าง เทคโนโลยีที่ทรงพลังอย่างยิ่ง
- มิชชัน “ทำให้ AI เป็นประโยชน์ต่อมนุษยชาติทั้งหมด” มักถูกย่อให้เหลือการสร้าง AGI ที่ปลอดภัย แต่ปัญหาการพัฒนาเทคโนโลยีที่สามารถเปลี่ยนโลกให้เป็นประโยชน์ต่อทุกคนจริง ๆ นั้นซับซ้อนกว่าการ “ทำให้ปลอดภัย” หรือ “สร้างในสหรัฐฯ” มาก
- ใครได้เข้าถึงระบบ AI ที่ทรงพลัง และใครมีสิทธิ์ควบคุม เป็นประเด็นหลักที่กำหนดว่าใครจะได้รับประโยชน์
- การพัฒนา AI โดยไม่ขยายช่องว่างอำนาจเดิม ไม่เสริมความแข็งแกร่งให้ระบอบเผด็จการ และไม่ทำให้พลังของคนทั่วไปอ่อนแอลง ยังคงเป็นโจทย์ที่ยังไม่คลี่คลายในระดับอารยธรรม
- การประชาสัมพันธ์ Stargate UAE ว่าเป็นโครงการประชาธิปไตย ใกล้เคียงกับสัญญาณว่า OpenAI ไม่ได้จัดการกับความท้าทายเหล่านี้อย่างจริงจังเพียงพอ
1 ความคิดเห็น
ความคิดเห็นจาก Hacker News
โดยรวมเห็นด้วยกับทิศทางนี้ แต่รู้สึกหงุดหงิดที่เวลานำสิ่งที่บริษัทชื่อดังอย่าง OpenAI ทำ ไปเทียบกับสิ่งที่บริษัทยักษ์ใหญ่ในอุตสาหกรรมที่คนสนใจน้อยกว่าอย่าง Cisco และ Oracle ทำกันมาตลอดหนึ่งรุ่น มักมี การแก้ต่างแบบสองมาตรฐาน แถมมามากเกินไป
ถ้าการวิเคราะห์เริ่มและจบอยู่แค่ OpenAI ก็จะขาดน้ำหนักในการโน้มน้าว
มันก็ไม่ต่างจากกรณีที่ Google เลิกใช้ “do no evil” แล้วถูกวิจารณ์ อีกอย่าง การที่บริษัทบางแห่งในอดีตทำเรื่องแย่ ๆ แล้วรอดไปได้ ก็ไม่ได้แปลว่าเราไม่ควรคาดหวังมาตรฐานที่ดีกว่าจากบริษัทอื่นในอนาคต
การแยก GloFo ออกจาก AMD เดิมทีก็ตั้งใจจะมี แฟ็บล้ำสมัย ใน Abu Dhabi แต่ก็ชนเข้ากับความเป็นจริงของการพยายามทำอะไรบางอย่างกลางทะเลทราย ที่ซัพพลายเชนก็แย่และไม่มีน้ำจืด
เป็นเรื่องน่าหงุดหงิด แต่เราก็ยังพอขอบคุณได้ที่อย่างน้อยผู้คนพยายามจัดตั้งกันรอบหลักการ แม้หลักการนั้นจะดูไม่ใช่แรงจูงใจจริงก็ตาม ในกรณีนี้ ผู้เขียนชัดเจนว่ามีส่วนที่เขียนเพราะไม่ชอบ OpenAI เป็นพิเศษ แต่ถึงอย่างนั้น ตัวข้อโต้แย้งเองก็ดี
การชี้ว่า Joe จอดรถผิดกฎหมายไม่ใช่ “การแก้ต่างแบบสองมาตรฐาน” คำนี้ไม่ได้หมายความแบบนั้น
บอร์ดเดียวกับที่ปลด Sam Altman นั่นแหละ
พลาดไปว่าบทความพูดถึง เผด็จการราชาธิปไตยในอ่าวเปอร์เซีย ไม่ใช่เผด็จการอเมริกัน
เรื่องง่ายมาก หนึ่ง จากมุมของ Nvidia การขายการ์ดจอจำนวนมากให้กับนักลงทุนซาอุฯ ที่ไว้ใจได้ดูเป็นไอเดียยอดเยี่ยม สอง ราชาธิปไตยในอ่าวเปอร์เซียพึ่งพาสหรัฐฯ และต้องการหลีกเลี่ยงการปฏิวัติอิสลาม สาม พวกเขาอยากใช้โซลาร์เซลล์เป็นไฟฟ้าสำหรับดาต้าเซ็นเตอร์
จะติดตามผู้ใช้ไหม? แน่นอน และ GCHQ กับ NSA ก็สามารถทำข้อตกลงแบ่งปันข่าวกรองเพื่อเลี่ยงกฎหมายในประเทศของตัวเองได้ ไม่มีอะไรใหม่ แค่ไม่ควรฝากความคิดของตัวเองไว้กับ บริการ SaaS ใด ๆ
มีประวัติการซื้อของผม ประวัติที่อยู่ เมทาดาทาการโทรอยู่แล้ว และตอนนี้ด้วย DOGE ก็มีข้อมูลรัฐบาลกลางจำนวนมากอีกด้วย พวกเขาไม่จำเป็นต้องมีฟีด Twitter ของผมเพื่อจะกลายเป็นศัตรูต่อผลประโยชน์ของผม
เว็บก็ถูกกวาดข้อมูลกันอย่างบ้าคลั่งอยู่แล้ว ดังนั้นผมมองว่าเส้นแบ่งมันกว้างกว่า SaaS มาก
คนพื้นเมืองเป็นชนกลุ่มน้อย และกำลังรักษาความปลอดภัยทั้งหมดเป็นชาวต่างชาติที่ขึ้นตรงต่อผู้ปกครอง ในบางกรณียังมีจำนวนมากกว่าประชากรพื้นเมืองทั้งหมดด้วยซ้ำ คนพื้นเมืองเองก็อยู่ดีกินดีเกินกว่าจะมีแรงจูงใจเอาทุกอย่างไปเสี่ยงสู้
ผมคาดว่ามันน่าจะกลายเป็นหนึ่งใน แหล่งมลพิษที่เลวร้ายที่สุด ในการแข่งขัน AI มากกว่า แรงยั่วยวนให้เผาน้ำมันและก๊าซที่มีอุปทานแทบไม่จำกัดนั้นแรงเกินไป
จากบางมุมมอง การทำไม่ให้เกิดแรงยั่วยวนแบบนั้นขึ้นเลยน่าจะดีกว่า
ผมเห็นชัดเจนว่าอรรถประโยชน์หลักของ LLM คือการเป็น ตัวทวีคูณกำลัง สำหรับขยายข้อความที่ส่งไปยังสังคม
ปัจเจกชนทั่วไปจะถูกขังอยู่ใต้ผ้าห่มหนาของการสื่อสารและปฏิสัมพันธ์ที่แทบเป็นการทำซ้ำกัน และส่วนใหญ่ในนั้นจะไม่ใช่มนุษย์ วิธีเดียวในการควบคุมอินเทอร์เน็ตในท้ายที่สุดกลายเป็นการกลบมันให้มิดเหมือนทำให้จมน้ำ
ผมค่อนข้างเป็นคนเก็บตัว เลยสงสัยว่าคุณคล้ายกันหรือเป็นตรงกันข้าม โดยปกติผมจะอ่านสื่อเฉพาะทางและไม่ได้มองหา “ปฏิสัมพันธ์” ออนไลน์ และหลีกเลี่ยงโซเชียลมีเดียโดยสิ้นเชิง ก่อนยุคโซเชียลมีเดีย นี่เป็นเรื่องปกติ ผมสงสัยว่าคุณไม่คิดเลยหรือว่าการใช้ LLM ในทางที่ผิดอาจทำให้ผู้คนย้อนกลับไปใช้เครือข่ายแบบดั้งเดิมมากขึ้น
อีกอย่าง คุณบอกว่าถ้าจะควบคุมอินเทอร์เน็ตก็แค่กลบมันให้มิด แต่ในความเป็นจริงเราก็เห็นว่ามีคนไม่เสียดายเงินในการบิดกฎหมายด้วย มีเดิมพันมากกว่าการกด “มวลชน” ให้ต่ำลง
ในปี 1780 ผู้คนคิดว่าอรรถประโยชน์หลักของเครื่องจักรไอน้ำคืออะไร
การแลกเปลี่ยนเชิงพาณิชย์อาจใช้แบบนั้นได้ แต่สิ่งที่ทำให้ผู้คนติดอยู่กับโซเชียลมีเดียคือ ความต้องการปฏิสัมพันธ์ทางสังคม ที่ไม่ได้รับการเติมเต็มด้วยวิธีนั้น ต่อให้หมายถึงชนชั้นนำก็ไม่ใช่อยู่ดี พวกเขาทำสิ่งนี้ผ่านการใช้คนเป็นกันชนอยู่แล้ว และถ้ารวยพอ ก็น่าจะทำต่อไป
สื่อทุกวันนี้ก็ล้นไปด้วยขยะเหนียวหนืดเกินกว่าที่คนคนหนึ่งจะรับไหวอยู่แล้ว สมาธิเฉลี่ยก็อิ่มตัวแล้ว ผมจึงไม่คิดว่าการเทขยะที่สร้างด้วย AI เพิ่มเข้าไปจะเปลี่ยนอะไรได้มากนัก
วิธีควบคุมอินเทอร์เน็ตก็คือควบคุมมันตรง ๆ ตามตัวอักษร แบบที่รัฐบาลต่าง ๆ กำลังทำอยู่แล้ว
การสร้างอะไรบางอย่างให้เผด็จการ พูดตรง ๆ ก็น่าจะไม่ดีต่อ ประชาธิปไตย
ถ้าอยากให้ประชาธิปไตยมีสุขภาวะดี ก็ควรทำให้ความมั่งคั่งของชนชั้นแรงงานสูงสุด คนที่มีความเหลือเฟือพอจะดูแลตัวเอง ครอบครัว และชุมชนได้เล็กน้อย จะมีเวลาและการศึกษาที่จะมีส่วนร่วมในประชาธิปไตยอย่างมีความหมาย
ไม่ว่าจะสร้างให้เผด็จการอเมริกัน เผด็จการรัฐอ่าวเปอร์เซีย หรือเผด็จการรัสเซีย ผมก็คิดว่าอาจจะดีกว่าถ้าไม่ทำ แน่นอนว่าพูดง่ายกว่าทำ
ผมสงสัยว่าการมีส่วนร่วมในประชาธิปไตยในประเทศเผด็จการหมายความว่าอย่างไร
น่าขันที่ยิ่งเทคโนโลยีพัฒนาไปถึงระดับภาวะเอกฐานหรือใกล้เคียง และงานทักษะต่ำถึงกลางส่วนใหญ่ถูกทำอัตโนมัติ เราก็ยิ่งเห็น แนวโน้มดิสโทเปีย มากขึ้นในโลกตะวันตก โดยเฉพาะสหรัฐฯ ในขณะที่รัฐเผด็จการเหล่านี้มีระบบสวัสดิการที่แข็งแรงให้พลเมืองของตน และตอนนี้รวมถึงผู้อยู่อาศัยด้วย มานานแล้ว อีกทั้งมีประชากรน้อย จึงอยู่ในตำแหน่งที่ได้เปรียบในการเก็บเกี่ยวผลประโยชน์จากบูม AI
ผมมองว่านัยยะกลับเป็นไปในทิศทางตรงกันข้าม
เทคโนโลยีที่มีอิทธิพลมากพอสามารถทำให้รัฐบาลใด ๆ ก็ตามกลายเป็น เผด็จการและเบ็ดเสร็จนิยม ได้ สำหรับผู้มีอำนาจ ความอยากควบคุมทุกอย่างคือแรงยั่วยวนที่ยิ่งใหญ่ที่สุด และจากตรงนั้นก็เกิดรัฐที่เลวร้ายและการปกครองประชาชนที่เลวร้าย
ลองนึกดูว่าใน 1984 ของ Orwell แนวคิดสำคัญคือทีวีตามบ้านคอยจับตาดูอยู่ตลอดเวลา และใครบางคนที่อยู่เบื้องหลังอุปกรณ์นั้นเข้าใจสิ่งที่เห็นจริง ๆ
ส่วนท้ายนี้เองที่ถูกมองว่าเป็นดิสโทเปีย คงไม่มีคนมากพอจะดูและทำความเข้าใจทุกคนได้ตลอดทั้งวัน และยังมีปัญหาว่าใครจะเฝ้าผู้เฝ้าอีกด้วย 1984 จึงใกล้เคียงกับจินตนาการอันน่ากลัว เพราะไม่มีวิธีเชิงปฏิบัติที่จะทำให้เกิดขึ้นจริง
เป็นครั้งแรกในประวัติศาสตร์ที่ LLM/Generative AI รุ่นใหม่กำลังทำให้ส่วนนั้นของ 1984 กลายเป็นเรื่องที่เป็นไปได้จริง หากต้องการแจ้งเตือนล่วงหน้าเรื่อง “ความคิดอันตราย” ก็แค่มี GPU หนึ่งตัวต่อหนึ่งครัวเรือน และมันเป็นไปได้แล้วหรือกำลังจะเป็นไปได้ในไม่ช้า การที่ปริมาณการประมวลผลที่จัดให้แต่ละครัวเรือนมีน้อย จนรันได้เพียงปัญญาขั้นพื้นฐานและด้อยคุณภาพ ก็กลับเหมาะพอดีด้วยซ้ำ AGI อย่างน้อยในทางทฤษฎีอาจฟังทั้งสองฝ่าย ตรวจสอบภาพรวม แล้วเข้าข้างฝ่ายตรงข้ามได้ แต่เอเจนต์ LLM แบบเส้นตรงไม่มีความสามารถเช่นนั้น
มีรายงานว่าอย่างน้อย 6 บริษัท รวมถึง OpenAI และ Apple กำลังวิจัยอุปกรณ์ภายในบ้านที่คอยจับตาดูอยู่ตลอดเวลา โดยมี Generative AI รุ่นล่าสุดเป็นแบ็กเอนด์ หากจะช่วยได้อย่างมีความหมายด้วยประโยคเดียว ก็ต้องมีบริบทเพียงพอ ดังนั้นจึงจำเป็นต้องเห็นชีวิตช่วงล่าสุดทั้งหมดของคุณ ขณะเดียวกัน แค่นั้นก็เพียงพอจะรู้ว่าคุณจะลงคะแนนให้ใคร จะไปประท้วงงานใดที่ยังไม่ได้ประกาศด้วยซ้ำหรือไม่ และวิธีที่ดีที่สุดในการทำให้คุณกลัวจนไม่ไปคืออะไร คล้ายความต่างระหว่างเครื่องมือตอกตะปูกับอาวุธสังหาร ทั้งสองอย่างคือค้อนอันเดียวกัน
ตอนแคมเปญ TikTok-จีน มีวิดีโอจำนวนมากที่คน LGBT เล่าว่า TikTok รู้รสนิยมทางเพศของพวกเขาได้เร็วแค่ไหน ทั้งที่ไม่ได้กดไลก์วิดีโอใด ไม่ได้ติดตามใคร และไม่ได้ให้ข้อมูลโปรไฟล์ที่ติดตามได้ บางครั้งมันรู้ก่อนที่เจ้าตัวจะยอมรับกับตัวเองเสียอีก TikTok รู้ได้เพียงจากการดูว่าผู้ใช้จ้องอะไรและนานแค่ไหน แค่อยู่ดูวิดีโอออกกำลังกายของผู้ชายนานกว่าวิดีโอของผู้หญิงมาก หรือกลับกัน ก็เพียงพอแล้ว ดูเหมือนเรื่องนี้ถูกใช้เพื่อทำให้คนกลัวว่าจีนสามารถรู้เรื่องชาวอเมริกันได้มากเพียงใดจากการใช้งานแอปเท่านั้น
ถ้านั่นน่ากลัว สิ่งที่น่ากลัวกว่านั้นคือสิ่งนี้ อุปกรณ์ที่มี LLM เป็นแบ็กเอนด์สามารถทำอะไรได้มากกว่านั้นมากอยู่แล้ว เพียงแค่ดูว่าคุณดูรายการทีวีอะไร หัวเราะตรงไหน และพูดอะไรกับคนข้าง ๆ อาจไม่จำเป็นต้องเป็นมัลติโมดัลด้วยซ้ำ แค่คำบรรยายกับการถอดเสียงเป็นข้อความก็น่าจะทำได้ มันอาจรู้ความต้องการของคุณที่จะต่อต้านอำนาจนิยมที่กำลังมาถึงได้ ก่อนที่คุณจะยอมรับกับตัวเองด้วยซ้ำ
ขณะที่ Helen Toner กังวลเรื่องประชาธิปไตยอีกฟากหนึ่งของโลก ป้อมปราการแห่งประชาธิปไตย อาจเข้าใกล้สองขั้นตอนสุดท้ายก่อนการใช้งานครั้งแรกของสังคมแบบ Orwell ที่ทำงานได้จริงแล้ว ขั้นที่ 1 คือโน้มน้าวให้ทุกคนเอาอุปกรณ์แบบนั้นเข้าบ้านเพื่อประโยชน์ของตัวเอง ซึ่งกำลังดำเนินอยู่ ขั้นที่ 2 คือข่มขู่หรือยึดอำนาจบริษัทเจ้าของ เพื่อให้นำอุปกรณ์นั้นไปใช้ในทางที่ไม่ใช่เพื่อประโยชน์ของเรา ซึ่งยังเป็นสิ่งที่ต้องทำต่อไป
“แน่นอนว่าไม่มีทางรู้ได้เลยว่าในขณะใดคุณกำลังถูกจับตาดูอยู่ การที่ตำรวจความคิดต่อสายเข้ามาในวงจรส่วนบุคคลบ่อยแค่ไหน และเป็นระบบอย่างไร เป็นได้เพียงการคาดเดา บางทีพวกเขาอาจเฝ้าดูทุกคนอยู่ตลอดเวลาก็ได้ แต่ไม่ว่าอย่างไร พวกเขาก็สามารถต่อสายเข้ามาในวงจรของคุณได้ทุกเมื่อที่ต้องการ คุณต้องใช้ชีวิตอยู่ภายใต้สมมติฐานว่าเสียงทุกเสียงที่คุณส่งออกมาจะถูกดักฟัง และหากไม่อยู่ในความมืด ทุกการเคลื่อนไหวจะถูกจับตาดู และในความเป็นจริง คุณก็ใช้ชีวิตเช่นนั้นจนความเคยชินกลายเป็นสัญชาตญาณ”
อย่างไรก็ตาม ก็ถูกในแง่ที่ว่าเป็นครั้งแรกในประวัติศาสตร์ที่หลายประเทศเข้าใกล้ การสอดแนมการสื่อสารแบบครอบคลุมทั้งหมด อย่างแท้จริง
ผลลัพธ์ไม่ใช่คำอธิบายเป็นข้อความ แต่เป็นแบบไบนารีใช่/ไม่ใช่ LLM ก็ทำได้เช่นกัน แต่โมเดล Machine Learning เฉพาะทางที่ฝึกด้วยชุดข้อมูลเดียวกันมีแนวโน้มจะดีกว่าในแทบทุกตัวชี้วัดเชิงปริมาณ และเทคโนโลยีนั้นมีมาตั้งนานก่อนที่ Transformer จะปรากฏเสียอีก
ประมาณตำรวจความคิดระดับละแวกบ้าน
ธุรกิจทุกอย่างกับเผด็จการและระบอบเผด็จการควรถูกห้าม
ผมคิดว่าทำธุรกิจกับ 100 ประเทศอันดับแรกในรายชื่อนี้ได้: https://en.wikipedia.org/wiki/The_Economist_Democracy_Index
การทำธุรกิจกับประเทศที่เหลือมีแต่จะเสริมความแข็งแกร่งให้ระบอบที่ไร้มนุษยธรรม และน่าเสียดายที่ระบอบเหล่านั้นไม่ได้ฆ่าแค่ประชาชนของตัวเอง แต่ยังโจมตีประเทศเพื่อนบ้านด้วย ดู Ukraine สิ บางที Taiwan อาจเป็นรายต่อไปในไม่ช้า เงินมีกลิ่นติดอยู่
ความมั่งคั่งส่วนใหญ่ของประเทศพัฒนาแล้วถูกสร้างขึ้นจากการใช้ประโยชน์จากการคอร์รัปชันในประเทศกำลังพัฒนา ดังนั้นตราบใดที่พวกเขาร่วมมือกับอำนาจตะวันตก และขายทรัพยากรรวมถึงแรงงานของผู้คนให้บริษัทตะวันตกในราคาถูก ก็จะมีแรงจูงใจให้คงความคอร์รัปชันไว้ต่อไป
การทำธุรกิจกับ UAE แล้วเก็บเกี่ยวผลประโยชน์ ยังดีกว่าปล่อยให้ผลประโยชน์นั้นสุดท้ายไหลไปหา China
ความพยายามกดตะวันออกกลางไว้ตลอดไปเห็นได้ชัดว่าไม่ได้ผล ดังนั้นสิ่งที่ทำอยู่ตอนนี้คือการเมืองเชิงสัจนิยม และผมมองว่าเป็นคำตอบที่ชัดเจน Saudi จะเป็นเผด็จการอยู่แล้วไม่ว่าอย่างไร และนี่ก็เหมือนกับการเล่น Hearts of Iron ในโลกจริงให้เก่ง
ข้อเสียชัดเจน เรากำลังมอบอาวุธโดยพฤตินัยให้กับคนที่ไม่สอดคล้องกับโลกทัศน์ของเราโดยพื้นฐาน และแม้ตอนนี้อย่างมากก็เป็นพันธมิตรเพื่อความสะดวกเท่านั้น อีกทั้งไม่มีหลักประกันว่าสิ่งที่เราให้ไปจะไม่ถูกขายต่อให้ China เมื่อคิดว่าระบอบเหล่านั้นขึ้นชื่อเรื่องคอร์รัปชัน ผมมองว่าแทบจะแน่นอนด้วยซ้ำ
ไม่ว่าอย่างไร ก็ไม่ชัดเจนว่ามีใครในบรรดา “ผู้รับผิดชอบ” สนใจหรือไม่
จริง ๆ แล้วนั่นอาจเป็นประเด็นสำคัญก็ได้
ความเสี่ยงที่ใหญ่ที่สุดของ AI ไม่ใช่การก่อกบฏ แต่คือการเปิดทางให้เผด็จการและผู้มีแนวคิดเผด็จการเบ็ดเสร็จสามารถ ควบคุมประชากรทั้งหมดได้อย่างสมบูรณ์
อัลกอริทึมที่พัฒนามากพอสามารถใช้การอ้างอิงข้ามกัน ลีลาการเขียน ฯลฯ เพื่อค้นหาทุกอย่างที่คนคนหนึ่งเคยโพสต์ออนไลน์ และประเมินมุมมองกับความคิดเห็นของคนนั้นได้อย่างแม่นยำสูง นอกจากนี้ยังสามารถคาดการณ์ต่อยอดได้ด้วยว่าความคิดเห็นของเขาเปลี่ยนแปลงมาอย่างไร
รัฐบาลสามารถเล็งเป้าไปที่ผู้เห็นต่างได้ตั้งแต่ก่อนที่เขาจะรู้ตัวเสียอีกว่าตนเป็นผู้เห็นต่าง และยิ่งก่อนที่จะมีเวลาไปรวมกลุ่มจัดตั้งเสียอีก
การวิเคราะห์ลีลาการเขียน เป็นสาขาที่มีการศึกษากันดีอยู่แล้ว สิ่งที่ทำให้อุ่นใจได้คือมันใช้งานได้จริงก็ต่อเมื่อมีผู้ต้องสงสัยว่าเป็นผู้เขียนโพสต์นั้นจำนวนไม่มาก และมีข้อความจากผู้เขียนแต่ละคนมากพอสำหรับใช้เป็นตัวอย่าง กล่าวคือ ในสถานการณ์ที่ทุกคนเป็นผู้ต้องสงสัยที่เป็นไปได้ การเชื่อมโยงโพสต์นิรนามกลับไปยังผู้เขียนนั้น แทบเป็นไปไม่ได้โดยสิ้นเชิงในกรณีส่วนใหญ่ แม้ในไม่กี่กรณีที่พอใช้ได้จริง อย่างมากก็แค่สร้างสัญญาณอ่อน ๆ สำหรับการสืบสวนเพิ่มเติมเท่านั้น
น่าจะอ่านบทความของ Greenstadt และคณะเรื่อง “Adversarial Stylometry: Circumventing Authorship Recognition to Preserve Privacy and Anonymity” ได้อย่างน่าสนใจ
สำหรับ Trump ก็ชัดเจนว่าไม่สำคัญเช่นกัน ผู้คนถูกเนรเทศโดยไม่มีหลักฐาน บางครั้งไม่มีแม้แต่การตั้งข้อหาอย่างเป็นทางการ นั่นแหละคือแก่นของอำนาจนิยม คือการทำตามที่ผู้นำต้องการ สิ่งที่ทำให้ Trump ทำแบบนี้ได้ไม่ใช่ AI แต่คือระบบตรวจสอบและถ่วงดุลที่ไร้พลัง ในทำนองเดียวกัน W ก็โกหกเรื่องอาวุธทำลายล้างสูงเพื่อจะเข้าสู่สงครามไม่รู้จบ ต่อให้เหตุผลนั้นไม่จริงก็ไม่เป็นไร เขาลอยนวล และทำให้ตัวเองกับเพื่อน ๆ ในบริษัทกลาโหมร่ำรวยขึ้นโดยให้ประชาชนอเมริกันเป็นฝ่ายรับเคราะห์
https://www.newsweek.com/donald-trump-database-palantir-dyst...
เพียงแต่ทำงานในสเกลที่ใหญ่กว่ามาก
ตอนนี้เห็นแนวโน้มที่ปัจเจกบุคคลผู้มั่งคั่งกำลังรวมศูนย์อำนาจมากขึ้นเรื่อย ๆ และเรื่องนี้ยิ่งเห็นได้ชัดในพื้นที่สาธารณะ โดยเฉพาะอย่างยิ่ง ยังน่าสังเกตด้วยว่าคนเหล่านี้อยู่แนวหน้าของการเป็นเจ้าของและควบคุม การพัฒนาปัญญาประดิษฐ์ บังเอิญว่าแนวโน้มแบบนี้มักถูกเรียกว่า “ฟาสซิสม์เทคโนโลยี” และท้ายที่สุดก็วนกลับไปสู่โครงสร้างแบบเผด็จการอีกครั้ง