สมเด็จพระสันตะปาปา Leo XIV ตรัสว่า AI ต้องรับใช้มนุษยชาติ ไม่ใช่ผู้มีอำนาจเพียงไม่กี่คน

 (religionnews.com)
2 คะแนน โดย GN⁺ 2 시간 전 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • Magnifica Humanitas มองว่า AI คือการปฏิวัติอุตสาหกรรมครั้งใหม่ พร้อมเตือนถึงความเสี่ยงของความเหลื่อมล้ำที่ขยายตัว ประชาธิปไตยที่อ่อนแอลง และความเป็นมนุษย์ที่ถูกบั่นทอน
  • การปลดอาวุธของ AI ไม่ได้หมายถึงแค่ด้านการทหาร แต่รวมถึงการพา AI ออกจากตรรกะการแข่งขันทางเศรษฐกิจและการรับรู้ เพื่อไม่ให้เทคโนโลยีครอบงำมนุษย์
  • AI กำลังเสริมอำนาจให้ผู้ที่มี ทรัพยากร ความเชี่ยวชาญ และสิทธิในการเข้าถึงข้อมูล อยู่แล้ว ทำให้คนเพียงไม่กี่กลุ่มอาจกำหนดข้อมูล การบริโภค และกระบวนการประชาธิปไตยได้
  • เพื่อปกป้องศักดิ์ศรีความเป็นมนุษย์และประโยชน์ส่วนรวม ต้องมีความรับผิดชอบที่ชัดเจน ตั้งแต่การออกแบบไปจนถึงการใช้งาน และต้องนำจริยธรรมมาใช้ระหว่างการสร้างระบบ ไม่ใช่หลังเกิดความเสียหายแล้ว
  • AI ทางการทหารต้องมี ข้อจำกัดทางจริยธรรมที่เข้มงวด ความรับผิดชอบของมนุษย์ และกฎหมายระหว่างประเทศ ขณะที่ลัทธิล่าอาณานิคมข้อมูลและการแทนที่แรงงานก็ต้องถูกมองเป็นประเด็นความยุติธรรมทางสังคมด้วย

แก่นสำคัญของสมณสาส์นฉบับแรก: “การปลดอาวุธ” ของ AI

  • สมณสาส์นฉบับแรกของสมเด็จพระสันตะปาปา Leo XIV “Magnifica Humanitas” นิยาม AI ว่าเป็นการปฏิวัติอุตสาหกรรมครั้งใหม่ และยกประเด็นหลักเรื่องความเหลื่อมล้ำที่ขยายตัว ประชาธิปไตยที่อ่อนแอลง และความเสี่ยงต่อความเป็นมนุษย์
  • การปลดอาวุธของ AI ไม่ได้จำกัดอยู่แค่ในพื้นที่ทางทหาร แต่หมายถึงการแยก AI ออกจากตรรกะการแข่งขันทางเศรษฐกิจและการรับรู้ เพื่อไม่ให้เทคโนโลยีเข้าครอบงำมนุษย์
  • เป้าหมายไม่ใช่การละทิ้งเทคโนโลยี แต่คือการทำให้ AI เป็นเทคโนโลยีที่ “ปลดอาวุธ เปิดรับ และเข้าถึงได้”
  • บริษัท AI จำเป็นต้องอยู่ภายใต้กฎระเบียบระดับรัฐและนานาชาติที่เข้มงวดยิ่งขึ้น และทั้งปัจเจกกับชุมชนก็ควรมีส่วนร่วมอย่างกว้างขวางในการกำหนดอนาคตของ AI
  • Leo XIV อ้างอิงสมณสาส์นปี 1891 ของ Leo XIII “Rerum Novarum” ซึ่งตอบสนองต่อการปฏิวัติอุตสาหกรรมในศตวรรษที่ 19 เพื่อวางคำถามทางสังคมของยุค AI ไว้บนแนวต่อเนื่องของคำสอนสังคมคาทอลิก
  • สมณสาส์นฉบับนี้เกิดขึ้นจากการรับฟังนักวิทยาศาสตร์ วิศวกร ผู้นำทางการเมือง ข้าราชการ พ่อแม่ และครู พร้อมเรียกร้องให้มีการมีส่วนร่วมอย่างกว้างขวางต่อการเขียนโปรแกรม การกำกับดูแล และผลประโยชน์ของ AI

Big Tech และการกระจุกตัวของอำนาจ

  • Leo XIV มองว่าคนร่ำรวยเพียงไม่กี่คนอาจกำหนดอนาคตและปากท้องของมนุษยชาติได้ และช่องว่างระหว่างผู้ที่มีส่วนร่วมในการปฏิวัติดิจิทัลกับผู้ที่ยังถูกทิ้งไว้ชายขอบก็อาจยิ่งกว้างขึ้น
  • AI มีแนวโน้มเสริมอำนาจให้ผู้ที่มี ทรัพยากรทางเศรษฐกิจ ความเชี่ยวชาญ และสิทธิในการเข้าถึงข้อมูล อยู่แล้ว
  • กลุ่มที่ทรงอิทธิพลเพียงไม่กี่กลุ่มสามารถกำหนดข้อมูลและรูปแบบการบริโภค ส่งอิทธิพลต่อกระบวนการประชาธิปไตย และชี้นำพลวัตทางเศรษฐกิจให้เป็นประโยชน์ต่อตนเองได้
  • เทคโนโลยีไม่เป็นกลาง และสะท้อนให้เห็นผลประโยชน์รวมถึงผู้มีส่วนได้ส่วนเสียที่อยู่เบื้องหลัง
  • เมื่ออำนาจกระจุกอยู่กับคนส่วนน้อย อำนาจนั้นจะยิ่งไม่โปร่งใสและหลีกเลี่ยงการตรวจสอบจากสาธารณะได้ง่ายขึ้น นำไปสู่การพัฒนาที่บิดเบี้ยวซึ่งก่อให้เกิดการพึ่งพา การกีดกัน การชักจูง และความเหลื่อมล้ำรูปแบบใหม่
  • Chris Olah ผู้ร่วมก่อตั้ง Anthropic กล่าวว่า การพัฒนา AI ทำงานอยู่ภายใต้แรงจูงใจและข้อจำกัดที่อาจขัดกับ “การทำในสิ่งที่ถูกต้อง” เพราะแรงกดดันจากผลประโยชน์เชิงพาณิชย์ ภูมิรัฐศาสตร์ ความภาคภูมิใจ และความทะเยอทะยาน
  • Olah เห็นว่าชุมชนศาสนา ภาคประชาสังคม นักวิชาการ และรัฐบาลต้องมอง AI อย่างจริงจังและช่วยผลักดันไปในทิศทางที่ดีกว่าเดิม

ศักดิ์ศรีความเป็นมนุษย์ การตัดสินใจ และแรงงาน

  • หลักการสำคัญคือ มนุษย์มาก่อน AI และศักดิ์ศรีของมนุษย์ไม่ได้มาจากความสามารถ ความมั่งคั่ง สถานะทางสังคม หรือการเลือกที่ถูกต้อง แต่มาจากการมีอยู่ของมนุษย์นั้นเอง
  • ความเสี่ยงในยุค AI chatbot ไม่ได้หยุดอยู่แค่การที่ผู้ใช้เข้าใจผิดว่า AI agent เป็นมนุษย์ แต่อาจถึงขั้นทำให้ความต้องการที่จะมองหามนุษย์คนอื่นอ่อนแอลง
  • หากมอบการตัดสินใจให้เครื่องจักรมากเกินไป ก็อาจยิ่งเกิดการพึ่งพาสูงและการแสวงหาคำตอบฉับพลัน จนความคิดสร้างสรรค์และวิจารณญาณของแต่ละคนอ่อนแรงลง
  • แม้นวัตกรรม AI จะมีศักยภาพสร้างผลเชิงบวกต่อสังคมมนุษย์และการคุ้มครองสิ่งแวดล้อม แต่ก็ต้องจัดการกับความเสี่ยงของมันไปพร้อมกัน
  • หาก AI จะเคารพศักดิ์ศรีความเป็นมนุษย์และประโยชน์ส่วนรวม ก็ต้องมีความรับผิดชอบที่ชัดเจนในทุกขั้นตอน ตั้งแต่นักออกแบบและผู้พัฒนา ไปจนถึงผู้ใช้และผู้ที่ต้องพึ่งพาการตัดสินใจจริงเหล่านั้น
  • หลักศีลธรรมและจริยธรรมต้องถูกนำมาใช้ในระหว่างที่ระบบกำลังถูกสร้าง ไม่ใช่หลังจากเกิดความเสียหายต่อสังคมแล้ว
  • ท่าทีที่เรียกร้องให้ใช้ AI อย่างระมัดระวัง มีการประเมินอย่างเข้มงวด และบางครั้งต้องดำเนินไปอย่างช้าลง ไม่ได้เป็นการต่อต้านความก้าวหน้า แต่เป็นการดูแลครอบครัวมนุษย์อย่างมีความรับผิดชอบ
  • แม้แต่กรอบแบบ ethical constitution ของกรณีอย่าง Anthropic ก็ยังไม่เพียงพอ หากอิงเพียงศีลธรรมที่ถูกกำหนดโดยคนส่วนน้อย แต่ต้องถูกอภิปรายบนมาตรฐานความยุติธรรมทางสังคมที่ใช้ร่วมกัน
  • ความจริงเป็นองค์ประกอบจำเป็นของประชาธิปไตย และโดยเฉพาะในหมู่คนรุ่นใหม่ จำเป็นต้องมีการศึกษาเรื่อง AI
  • ตรงกันข้ามกับคำสัญญาว่า AI จะช่วยลดภาระแรงงาน ในทางปฏิบัติมักเกิดกรณีที่แรงงานถูกบังคับให้ปรับตัวตามความเร็วและข้อเรียกร้องของเครื่องจักร
  • ในการปฏิวัติอุตสาหกรรมครั้งที่สี่ สิ่งที่ต้องให้ความสำคัญก่อนคือ การคุ้มครองโอกาสการจ้างงาน และบทบาทที่ไม่อาจแทนที่ได้ของแต่ละบุคคล

ทรานส์ฮิวแมนิสม์ ความเหลื่อมล้ำ และลัทธิล่าอาณานิคมข้อมูล

  • ทรานส์ฮิวแมนิสม์ และโพสต์ฮิวแมนิสม์เชื่อมโยงกับสมมติฐานที่มองว่าการก้าวพ้นสภาพความเป็นมนุษย์คือความก้าวหน้า
  • ต่างจากมุมมองที่เห็นว่าโรคภัย ความพิการ ความชรา และความเปราะบางเป็นเพียงข้อจำกัดที่ต้องเอาชนะ มนุษย์มักเติบโตงอกงามได้ไม่ใช่ทั้งที่มีข้อจำกัด แต่หลายครั้งก็ผ่านข้อจำกัดเหล่านั้นเอง
  • Víctor Manuel Fernández ชี้ว่า ต่างจากมุมมองที่เห็นว่ามนุษย์มีวันหมดอายุและควรถูกแทนที่ คำสอนคาทอลิกยืนยันว่ามนุษย์ทุกคนมีศักดิ์ศรีอันไร้ขอบเขต
  • ท่ามกลางช่องว่างทางเศรษฐกิจโลกที่กว้างขึ้น ความก้าวหน้าทางเทคโนโลยีอาจสร้างความเหลื่อมล้ำเชิงโครงสร้างได้
  • ระบบภาษีควรช่วยลดภาระของผู้เปราะบางที่สุด และเรียกร้องความรับผิดชอบมากขึ้นจากผู้ที่มีทรัพยากรมากกว่า ขณะที่ผลประโยชน์จากนวัตกรรมต้องถูกแบ่งปันกับทั้งชุมชนอย่างโปร่งใส
  • เบื้องหลัง AI อาจมีร่องรอยของการแสวงหาประโยชน์จากมนุษย์และสิ่งแวดล้อม ตั้งแต่โมเดลที่ฝึกด้วยข้อมูลมีลิขสิทธิ์ ไปจนถึงการขุดแร่หายากที่ใช้กับฮาร์ดแวร์ AI
  • ลัทธิล่าอาณานิคมข้อมูล ถูกอธิบายว่าเป็นโฉมหน้าใหม่ของลัทธิล่าอาณานิคม ที่ครอบครองแม้แต่แนวโน้มด้านสุขภาพ โปรไฟล์ทางระบาดวิทยา แผนที่พันธุกรรม และข้อมูลประชากรศาสตร์
  • ข้อมูลเหล่านี้ได้กลายเป็น “แร่หายากชนิดใหม่ของอำนาจ” และเทคโนโลยี AI ที่อยู่ในมือของปัจเจกหรือกลุ่มไม่กี่รายที่มุ่งแสวงหากำไร อาจกลายเป็นการปกครองแบบอาณานิคมรูปแบบใหม่
  • เพื่อให้ความรู้ร่วมกันเป็นประโยชน์ส่วนรวม ไม่ใช่เครื่องมือแห่งการครอบงำ บุคคลต้องได้ความสามารถกลับคืนมาในการอธิบายข้อมูลที่บ่งบอกความเป็นตัวเอง และในการตัดสินใจว่าข้อมูลนั้นถูกใช้อย่างไร โดยใคร และเพื่อประโยชน์ของใคร

สงคราม ความยุติธรรมทางสังคม และประโยชน์ส่วนรวม

  • การใช้ AI ในทางทหารต้องอยู่ภายใต้ ข้อจำกัดทางจริยธรรมที่เข้มงวดที่สุด
  • ความรับผิดชอบต่อปฏิบัติการทางทหาร โดยเฉพาะการกระทำที่คร่าชีวิต ต้องยังคงเป็นของมนุษย์ ไม่ใช่เครื่องจักร
  • จำเป็นต้องมีกฎหมายระหว่างประเทศที่รองรับการตรวจสอบย้อนกลับของกระบวนการตัดสินใจในสงคราม การกำกับดูแลโดยมนุษย์ และการเพิ่มขึ้นของการใช้อาวุธอัตโนมัติรวมถึงผลลัพธ์ของมัน
  • หลักศีลธรรมของชีวิตทางสังคม เศรษฐกิจ และการเมือง ที่ยึดศักดิ์ศรีความเป็นมนุษย์และประโยชน์ส่วนรวมเป็นศูนย์กลาง ต้องถูกนำมาใช้กับยุค AI เช่นกัน
  • ความเป็นน้ำหนึ่งใจเดียวกันและการดูแล “เพื่อนบ้าน” เป็นแกนสำคัญ และมีการเน้นเป็นพิเศษถึงความรับผิดชอบต่อคนรุ่นถัดไป
  • ความยุติธรรมทางสังคมไม่ได้หมายถึงแค่การกระจายทรัพยากรอย่างเป็นธรรมมากขึ้นหรือการแก้ไขความอยุติธรรมในปัจจุบันเท่านั้น แต่ยังรวมถึงมิติของการฟื้นฟูเยียวยาด้วย
  • แม้ในพื้นที่ดิจิทัล ก็ต้องระวังการสอดส่องที่ล่วงล้ำ ชุมชนที่ถูกกีดกันจากการเข้าถึงเทคโนโลยีพื้นฐาน และอันตรายจากอัลกอริทึมที่ไม่โปร่งใสซึ่งทำให้การเลือกปฏิบัติดำรงอยู่ต่อไป
  • การย้ายถิ่นถูกมองว่าเป็น กระดาษลิตมัส ของความยุติธรรมทางสังคมในปัจจุบัน
  • Babel เป็นสัญลักษณ์ของอำนาจและการแสวงหาความสมบูรณ์เพื่อตนเอง ขณะที่การสร้างกรุงเยรูซาเล็มขึ้นใหม่ของ Nehemiah มุ่งไปที่การอธิษฐานและการมีส่วนร่วมของครอบครัวกับชุมชน
  • ข้อความจบลงที่ว่า แม้ในยุค AI การสร้าง Babel และการสร้างเยรูซาเล็มขึ้นใหม่ต่างก็เริ่มต้นจากภายในของแต่ละคน

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2 시간 전
ความคิดเห็นจาก Hacker News

  • แทบจะเป็นโพสต์ซ้ำเลย https://news.ycombinator.com/item?id=48265206

  • หลายอย่างเปลี่ยนไปตามยุคสมัย ตัวอย่างเช่น 1) ตอนนี้มี AI แล้ว และ 2) พระสันตะปาปาเป็นชาวอเมริกัน และน่าเชื่อถือกว่านักการเมืองระดับสูงที่ยังดำรงตำแหน่งของทั้งสองพรรคเสียอีก
    ไม่ได้ถึงกับว่าผู้คนโหยหายุคอำนาจพระสันตะปาปา แต่ใกล้เคียงกับการที่คนมีสามัญสำนึกกำลังมองหาใครก็ตามที่พอจะมีเหตุผลมากกว่า

  • เมื่อ 15 ปีก่อนเป็น สมเด็จพระสันตะปาปา Benedict และเป็นคนที่ต่างออกไปพอสมควร ส่วนตัวแล้วคิดว่าน่าจะมองเขาอย่างประชดประชันมากกว่า Francis หรือ Leo

  • ถ้าจะเล่นอุปมาเรื่องศาสนาต่อไป ตอนนั้นผู้ใช้ HN คงจะช็อกมากกว่ากับการที่ Chrome ไม่ได้ถูกมองเป็นการเสด็จกลับมาครั้งที่สองของพระเยซูอีกต่อไป