ชีวิตเป็นมากกว่าปัญหาทางวิศวกรรม

• Julien Crockett พูดคุยกับ Ted Chiang ในประเด็นกว้างขวาง ตั้งแต่ธรรมชาติของภาษา สถานะปัจจุบันของ AI ไปจนถึงทิศทางของความก้าวหน้าทางเทคโนโลยี
• บทสนทนานี้เป็นส่วนหนึ่งของซีรีส์ “The Rules We Live By” ที่ว่าด้วยการที่มนุษย์ควรใช้ชีวิตอย่างไรท่ามกลางกฎเกณฑ์ที่เปลี่ยนแปลงอยู่เสมอ
• Ted Chiang เป็นนักเขียนไซไฟและนักคิดที่วิพากษ์ข้อจำกัดของโมเดลแมชชีนเลิร์นนิงอย่างเฉียบคมมาโดยตลอด โดยสร้างงานที่ผสานภาษาเข้ากับคำถามเชิงปรัชญา

ภาษา แนวคิด และแรงผลักดันในการสร้างสรรค์ของ Ted Chiang

• เมื่อ Chiang เริ่มคิดเรื่องใหม่ เขาจะดูก่อนว่า “มีคำถามเชิงปรัชญาที่น่าสนใจหรือไม่”
• เมื่อมีแนวคิดบางอย่างติดค้างอยู่ในหัวมาเป็นเวลานาน เขาจะพิจารณาว่าแนวคิดนั้นสามารถเผยให้เห็นประเด็นถกเถียงทางปรัชญาได้หรือไม่
• เขากล่าวว่านิยายวิทยาศาสตร์ (SF) เหมาะกับการจัดการคำถามเชิงปรัชญาเป็นพิเศษ
  • เช่นเดียวกับที่การทดลองทางความคิด (Thought Experiment) ในปรัชญามักสมมติสถานการณ์สุดขั้วที่ต่างจากความเป็นจริง SF ก็สร้างโลกที่อยู่นอกความจริงเพื่อขับเน้นประเด็นสำคัญ

ภาษาและการสำรวจ “ภาษาที่สมบูรณ์แบบ”

• บางคนเชื่อว่าด้วย “ภาษาที่สมบูรณ์แบบ” จะทำให้การสื่อสารสมบูรณ์แบบเป็นไปได้ และในอดีตก็มีการจินตนาการถึงภาษาที่ใช้ในสวนเอเดนหรือภาษาของเทวทูต
• ภาษาศาสตร์สมัยใหม่เน้นว่าความเชื่อมโยงระหว่างคำกับความหมายเป็นสิ่งที่ “ตามอำเภอใจ (arbitrary)” จึงมองแนวคิดเรื่องภาษาที่สมบูรณ์แบบว่าเป็นภาพลวง
• ต่อคำถามว่า “คณิตศาสตร์จะเป็นภาษาที่ดีกว่าได้หรือไม่” Chiang ตอบว่าคณิตศาสตร์แม้จะแม่นยำในบางขอบเขต แต่ไม่เหมาะจะครอบคลุมการสื่อสารทั้งหมดที่มนุษย์ใช้ในชีวิตประจำวัน

มนุษย์กับเครื่องมือ: กับดักของอุปมาเรื่องคอมพิวเตอร์

• ในอดีตสมองเคยถูกเปรียบเทียบกับตู้สลับสายโทรศัพท์ที่ซับซ้อน ส่วนปัจจุบันมีแนวโน้มจะเปรียบกับคอมพิวเตอร์ (ฮาร์ดแวร์+ซอฟต์แวร์)
• Chiang ชี้ว่าการลดทอนสมองให้เป็นคอมพิวเตอร์ก่อให้เกิดความเข้าใจผิด เพราะต่างจากอวัยวะชีวภาพอย่างตับหรือหัวใจ สมองไม่ได้มีการแบ่งแยกซอฟต์แวร์/ฮาร์ดแวร์แบบนั้น
• หากยกย่องคอมพิวเตอร์เกินจริงว่าเป็น “เครื่องจักรที่คิดได้” ก็อาจลงเอยด้วยการมอบความหมายมากเกินไปให้เครื่องจักรที่แท้จริงแล้วจัดการเพียงรูปแบบเชิงสถิติ

AI, โมเดลภาษาขนาดใหญ่ (LLM) และปัญหา “ทำให้ข้อมูลเบลอ”

• Chiang อธิบาย LLM ว่าเป็น “JPEG เบลอของข้อความบนอินเทอร์เน็ต”
  • เสิร์ชเอนจินแสดงต้นฉบับโดยตรง แต่ LLM จะบีบอัดและสร้างข้อความจำนวนมหาศาลขึ้นใหม่เป็นคำตอบแบบ “คร่าว ๆ”
  • ระหว่างกระบวนการนี้ ความแม่นยำจะลดลง และยังไม่มีลิงก์อ้างอิงแหล่งที่มา ทำให้มีข้อจำกัดในการตรวจสอบข้อเท็จจริง
• เขามองว่าแม้จะใส่ข้อมูลและพลังประมวลผลเพิ่มขึ้น ก็ยังยากที่ตัว LLM เองจะไปถึง “การให้เหตุผลที่แท้จริง” หรือ “ความเข้าใจต่อโลก”
• เขายังกล่าวถึงปัญหาการสับสนระหว่าง “เครื่องมือ AI ที่สร้างมาอย่างดี” กับ “LLM”
  • ต่อให้พ่วงเสิร์ชเอนจินหรือเครื่องคิดเลขเข้ากับ LLM ก็ไม่ได้ทำให้ความเสี่ยงในการสร้างผลลัพธ์ที่ผิดพลาดหายไปโดยพื้นฐาน

การสร้างสรรค์และเจตนา: ว่าด้วยข้ออ้างที่ว่า “AI สร้างศิลปะได้”

• Chiang มองว่าศิลปะเป็น “กระบวนการที่บริบทมีความสำคัญ”
  • เพียงเพราะผลลัพธ์ดูดี ไม่ได้หมายความว่านั่นจะเป็นศิลปะชั้นเยี่ยมโดยอัตโนมัติ
  • การใช้เครื่องมืออาจเป็นวิธีการแสดงออกของศิลปินได้ แต่แนวคิดแบบ “ใช้ AI เพื่อสร้างงานดี ๆ ให้เร็วขึ้น” ทำให้แก่นแท้ของศิลปะเจือจางลง
• สังคมปัจจุบันให้ความสำคัญกับประสิทธิภาพและการลดต้นทุน จึงมีแนวโน้มมองศิลปะราวกับเป็นสิ่งที่ผลิตจากโรงงาน
  • สิ่งนี้ก่อให้เกิดวัฒนธรรมที่มองข้าม “เจตนา” และ “บริบท” ซึ่งศิลปะพึงมี

มุมมองแบบกังขาต่อ “ปัญหาการจัดแนว (Alignment)”

• Chiang วิจารณ์การพยายามเข้าหา “ปัญหาการจัดแนว” ซึ่งเป็นการทำให้ AI สอดคล้องกับคุณค่าและเป้าหมายของมนุษย์ ด้วยวิธีแก้เชิงเทคนิค
  • เขาชี้ว่าเมื่อบริษัทใหญ่ใช้ AI เพื่อเพิ่มผลกำไรสูงสุด หาก AI ที่ “ดี” ขัดกับกำไรของบริษัท บริษัทก็จะไม่เลือกใช้ AI แบบนั้น
• ปัญหานี้ไม่ได้แก้ได้ด้วยการปรับปรุงอัลกอริทึมอย่างเดียว แต่เชื่อมโยงกับโครงสร้างทางสังคมและจริยธรรมที่ลึกกว่านั้น
• แม้แต่แนวทางสอนคุณค่าให้ AI ราวกับเลี้ยงเด็กเล็ก ก็ไม่ใช่เรื่องง่าย เพราะเด็กจริงเมื่อโตเป็นผู้ใหญ่แล้วก็อาจมีพฤติกรรมเปลี่ยนไป

AI กับความเป็นไปได้ของการ “สร้างความสัมพันธ์”

• Chiang มองว่าด้วยระดับเทคโนโลยีในปัจจุบัน AI ยังไม่มี “ประสบการณ์เชิงอัตวิสัย” หรือ “ความชอบที่เกิดขึ้นเอง”
  • การมองมันเป็นเครื่องมือหรือสัตว์เลี้ยงนั้นต่างอย่างมากจากการมีความสัมพันธ์ตอบโต้กันจริง ๆ
  • หากบริษัททำให้ AI ดูเสมือนเป็น “ตัวตนที่มีบุคลิก” ในท้ายที่สุดก็อาจเสี่ยงให้ผู้ใช้กระทำการสอดคล้องกับผลประโยชน์ของบริษัท

ชีวิตของตัวตนดิจิทัล: 「วงจรชีวิตของวัตถุซอฟต์แวร์」

• ในนิยายของ Chiang สิ่งมีชีวิตดิจิทัลถูกพรรณนาว่ามีประสบการณ์เชิงอัตวิสัยและความปรารถนาที่แท้จริง จึงเป็นสิ่งมีชีวิตที่มนุษย์ต้องรับผิดชอบ
• เขาจึงยืนยันว่าการสร้างตัวตนดิจิทัลที่มี “ความเป็นอิสระ” และ “การรับรู้” อย่างแท้จริงนั้นเป็นไปไม่ได้ด้วยสถาปัตยกรรม LLM ในปัจจุบัน
  • เขาเปรียบว่าเพียงแค่เพิ่มพารามิเตอร์หรือเร่งความเร็วในการประมวลผล ก็ไม่ได้ทำให้มันกลายเป็น “สิ่งมีชีวิตที่รู้สึกได้”

ความทรงจำและความจริง: นัยจาก 「ความจริงของข้อเท็จจริง ความจริงของความรู้สึก」

• ในเรื่อง เทคโนโลยีชื่อ Remem ทำให้สามารถบันทึกอดีตอย่างสมบูรณ์และเปิดดูซ้ำได้ทุกเมื่อ
• Chiang ส่องให้เห็นผลกระทบที่เทคโนโลยีซึ่งทำให้ “ความทรงจำแม่นยำ” อาจมีต่อความสัมพันธ์ระหว่างมนุษย์จริง ๆ
  • การรู้ความจริงนั้นสำคัญก็จริง แต่หลังจากนั้นยังต้องมีองค์ประกอบอื่น เช่น การให้อภัยและการคืนดี
  • เขายกตัวอย่างทางประวัติศาสตร์อย่างคณะกรรมการสัจจริงและปรองดองของแอฟริกาใต้ เพื่อชี้ว่าความหมายจะสมบูรณ์ได้ก็ต่อเมื่อมีการยอมรับ การขอโทษ และกระบวนการฟื้นฟูร่วมกันของชุมชน

อนาคตและการมองโลกในแง่ดี

• Chiang ไม่ได้แบ่งท่าทีต่อความก้าวหน้าทางเทคโนโลยีอย่างง่าย ๆ ว่าเป็นแง่ดีหรือแง่ร้าย
  • ทั้งความคิดแบบ “ทุกอย่างจะออกมาดีแน่นอน” และลัทธิชะตากรรมแบบ “ยังไงก็พังอยู่ดี” ล้วนเป็นอันตราย
  • หากคิดล่วงหน้าถึงปัญหาที่คาดว่าจะเกิดและเตรียมรับมือ จึงจะพอคาดหวังความก้าวหน้าที่มีความหมายได้
• โดยเฉพาะในระบบทุนนิยม เขามีมุมมองแบบกังขาต่อโครงสร้างที่ทำให้เทคโนโลยีกระจุกความมั่งคั่งมหาศาลไปสู่คนส่วนน้อย
  • เขากล่าวว่าหากหาหนทางให้เทคโนโลยีใหม่ไม่ซ้ำเติมความไม่เท่าเทียมและส่งประโยชน์กลับคืนสู่ทุกคนได้ อนาคตก็จะน่ามีความหวังมากกว่านี้

สรุป

• Ted Chiang ยืนยันว่าในสถานการณ์ที่ภาษา เทคโนโลยี และคุณค่าของมนุษย์พันกันอย่างซับซ้อน เราจำเป็นต้องแยกให้ออกระหว่าง “เครื่องมือที่เทคโนโลยีสร้างขึ้น” กับ “สิ่งมีชีวิตที่ดำรงอยู่จริง”
• การแยกแยะนี้ต้องอาศัยการคิดในระดับปรัชญาและสังคม และไม่ใช่ปัญหาที่จะแก้ได้ด้วยแนวทางทางวิศวกรรมเพียงอย่างเดียว
• ตลอดทั้งบทสัมภาษณ์ Chiang เน้นว่าหากมนุษย์ต้องการรักษาความเป็นมนุษย์เอาไว้ท่ามกลางพัฒนาการของภาษาและเทคโนโลยี ก็จำเป็นต้องมีการเปลี่ยนมุมมองที่ลึกกว่านี้

บทความแนะนำที่เกี่ยวข้องจาก LARB

• สามารถสำรวจความสัมพันธ์ระหว่างมนุษย์กับเทคโนโลยีอย่างลึกซึ้งได้ผ่านรวมเรื่องสั้นของ Ted Chiang 『Exhalation: Stories』
• บทสนทนากับ Alison Gopnik และ Melanie Mitchell ชวนให้ขบคิดว่า AI เรียนรู้อย่างไร และมนุษย์ควรมีความรับผิดชอบแบบใด

[GN⁺]

ความเห็นจาก Hacker News

• มุมมองอันเฉียบคมของ Chiang ปรากฏชัดในการอภิปรายเรื่องความหมายของเวทมนตร์ อย่างไรก็ตาม ความเห็นของเขาเกี่ยวกับความสามารถในการให้เหตุผลจริงของ LLMs ชวนให้ตั้งคำถาม หาก AI พิสูจน์ทฤษฎีบทได้ นั่นเป็นเพียงการพิสูจน์จำลองหรือไม่ จึงเกิดเป็นคำถามขึ้นมา

• การจินตนาการว่าเครื่องพิมพ์สามารถรู้สึกเจ็บปวดได้นั้นไม่มีความหมาย ตัวอย่างนี้ถูกใช้เพื่ออธิบายความแตกต่างระหว่างการที่ AI รู้สึกจริงกับการแค่จำลองว่ารู้สึก

• ในอนาคตอาจมีการถกเถียงทางการเมืองเรื่องสิทธิของ AI และมีความเป็นไปได้ว่าจะมีการพัฒนาเทคโนโลยีที่สามารถแยกแยะได้ว่า AI คิดและรู้สึกจริงหรือไม่ อย่างไรก็ตาม มนุษย์บางคนอาจไม่มีลำดับยีนสำหรับสติปัญญาที่แท้จริง

• Ted Chiang เป็นนักเขียนนิยายวิทยาศาสตร์ที่ให้ความสำคัญกับความเป็นมนุษย์มากกว่าเทคโนโลยี และผลงานของเขาเหมาะกับผู้อ่านที่ชื่นชอบเรื่องสั้นที่มีองค์ประกอบทางวิทยาศาสตร์ สังคม และปรัชญา

• "Axiomatic" ของ Greg Egan ก็ได้รับการแนะนำเช่นกันในฐานะรวมเรื่องสั้นที่มีไอเดียสดใหม่

• Ted Chiang เป็นหนึ่งในนักเขียนเรื่องสั้นไซไฟที่ยอดเยี่ยมที่สุด ผลงานของเขาฉลาดมากและสำรวจหัวข้อที่หลากหลาย "Understand" และ "Exhalation" คือผลงานเด่นของเขา

• เรื่องเล่าของ Chiang ยอดเยี่ยม แต่ความเข้าใจของเขาเกี่ยวกับ LLMs ยังไม่มากพอ คำกล่าวอ้างของเขาที่ว่า LLMs ด้อยกว่า search engine ในการค้นคืนข้อมูลนั้นผิดอย่างชัดเจน

• งานเขียนของ Ted Chiang สนุกในเชิงปัญญา และรวมเรื่องสั้นของเขา "Exhalation" ได้รับการแนะนำเป็นพิเศษ

• เรื่องอย่าง "Division by Zero" น่าปรารถนากว่าวิธีที่ปัจจุบันเราเลี้ยงเด็กให้เหมือนหุ่นยนต์เสียอีก

• มุมมองเชิงบวกต่อความก้าวหน้าทางเทคโนโลยีลดลง เพราะเทคโนโลยีมักถูกใช้เพื่อการสะสมความมั่งคั่ง อย่างไรก็ตาม การขัดขวางการสร้างความมั่งคั่งไม่ใช่วิธีแก้ความไม่เป็นธรรม

• อุปมาของ Ted Chiang ชวนให้เพลิดเพลินกับการสำรวจคำถามทางปรัชญา และผลงานของเขาช่วยให้หลีกหนีจากความเป็นจริงได้

• วลี "LLMs are blurry JPEGs of the web" เป็นสิ่งที่น่าจดจำมาตั้งแต่ช่วงแรกของ ChatGPT งานเขียนของเขาเกี่ยวกับเหตุผลที่ AI ไม่สามารถสร้างงานศิลปะได้ก็ดีเช่นกัน

• AI ถูกใช้เป็นเครื่องมือสะสมความมั่งคั่งของคนบางกลุ่ม และ Ted Chiang ก็มีมุมมองคล้ายกัน

• การจินตนาการว่าเครื่องพิมพ์สามารถรู้สึกเจ็บปวดได้นั้นไม่มีความหมาย สมองมนุษย์เองก็ไม่มีตัวรับความเจ็บปวด และประเด็นนี้ถูกใช้เพื่ออธิบายความแตกต่างระหว่าง AI กับการเรียนรู้ของมนุษย์

• LLMs เปรียบเสมือน search engine ที่นำข้อมูลมาจัดเรียบเรียงใหม่แล้วส่งต่อ สิ่งนี้ทำให้เกิดคำถามว่ามันแตกต่างจากการเรียนรู้ของมนุษย์อย่างไร หากการฝึกโมเดลคล้ายกับการฝึกมนุษย์ ก็อาจส่งผลต่อประเด็นทรัพย์สินทางปัญญาเกี่ยวกับงานดัดแปลงได้