“แต่มันก็เกิดขึ้นแบบนั้น” - ความเห็นของ Casey Muratori ต่อสุนทรพจน์ในพิธีรับปริญญาของ Eric Schmidt
(youtu.be)- ประเด็นสำคัญของสุนทรพจน์ของ Eric Schmidt ไม่ได้อยู่ที่ช่วงพูดเรื่อง AI แล้วถูกโห่ แต่คือถ้อยคำที่ ทำให้ตำแหน่งของความรับผิดชอบพร่าเลือน ทั้งที่ยอมรับผลข้างเคียงของอินเทอร์เน็ต
- ช่วงที่เขาดำรงตำแหน่งผู้บริหารของ Google ตรงกับยุคที่ โมเดลธุรกิจอินเทอร์เน็ต อย่างโฆษณา การเก็บข้อมูล การชักจูงพฤติกรรม และการทำ A/B test ได้แข็งตัวกลายเป็นมาตรฐาน
- กรอบคิดที่ว่า “เครื่องมือเดียวกัน” ถูกใช้ได้ทั้งเรื่องดีและเรื่องร้าย ทำให้ dark patterns ดูเหมือนเป็นผลพลอยได้ แทนที่จะเป็นโครงสร้างที่ถูกออกแบบขึ้น
- แม้เขาจะแนะนำให้นักศึกษาเข้าไปอยู่ในห้องที่มีการตัดสินใจเรื่อง AI แต่กลับไม่มี การวิเคราะห์ความล้มเหลว ว่าเทคโนโลยีก่อนหน้านี้ผิดพลาดตรงไหน
- หาก AI จะไม่เดินซ้ำรอยอินเทอร์เน็ต ก็ต้องยอมรับก่อนว่าส่วนเลวร้ายในอดีตไม่ได้เกิดขึ้นเอง แต่เป็นผลจากสิ่งที่มนุษย์ สร้างขึ้น
ความรับผิดชอบที่ถูกทำให้พร่าเลือนในสุนทรพจน์รับปริญญา
- สุนทรพจน์ในพิธีรับปริญญาของ Eric Schmidt ที่ University of Arizona เป็นที่รู้จักจากช่วงที่เขาพูดเรื่อง AI แล้วถูกโห่ แต่ส่วนที่สำคัญกว่าคือครึ่งแรกซึ่งเขายอมรับ ผลข้างเคียงของอินเทอร์เน็ต
- Schmidt บอกว่าเขาเคยเชื่อว่าการเชื่อมต่อผู้คนทุกคนบนโลกและทำให้ข้อมูลของโลกเข้าถึงได้ จะนำไปสู่การทำให้ความรู้เป็นประชาธิปไตย การบรรเทาความยากจน และสังคมที่ฉลาดและเมตตามากขึ้น
- ขณะเดียวกันเขาก็ยอมรับว่าเครื่องมือเดียวกันนี้ทำให้ผู้คนโดดเดี่ยวลง แพลตฟอร์มที่มอบเสียงให้ทุกคนกลับบ่อนทำลาย พื้นที่สาธารณะ และให้รางวัลกับความโกรธ ขยายสัญชาตญาณที่เลวร้ายที่สุด จนทำให้วิธีที่เราพูดและปฏิบัติต่อกันหยาบกระด้างขึ้น
- เขาบอกว่าไม่มีใครตั้งใจสร้างเทคโนโลยีที่ทำให้ประชาธิปไตยแตกขั้วและทำให้คนรุ่นใหม่วิตกกังวล โดยสื่อความประมาณว่า “นั่นไม่ใช่แผนของเรา แต่ มันก็เกิดขึ้นแบบนั้น”
- เมื่อพูดถึงผลลัพธ์ที่ดี เขาใช้ภาษาที่แสดงการกระทำอย่างชัดเจน แต่เมื่อพูดถึงผลลัพธ์ที่เลวร้ายกลับใช้ถ้อยคำเชิงรับว่า “มันเกิดขึ้น” จึงทำให้ความรับผิดชอบถูกทำให้คลุมเครือ
ตำแหน่งของเขาในฐานะผู้บริหาร Google
- Schmidt ดำรงตำแหน่ง CEO และบทบาทผู้บริหารอื่น ๆ ของ Google ตั้งแต่ปี 2001 ถึง 2017 และช่วงเวลานี้ก็ทับซ้อนกับยุคที่ dark patterns ของธุรกิจอินเทอร์เน็ตถูกพัฒนาและฝังรากในอุตสาหกรรม
- Google ถูกมองว่าเป็นบริษัทที่ผลักดัน โมเดลธุรกิจอินเทอร์เน็ต อย่างโฆษณา การเก็บข้อมูล การชักจูงพฤติกรรมผู้ใช้ และแนวทางที่นำทุกอย่างไปทำ A/B test
- หาก Steve Wozniak พูดถึงช่วงที่เขาสร้างคอมพิวเตอร์ Apple รุ่นแรก ๆ ว่าไม่ได้ตั้งใจให้เกิดระบบนิเวศปิดหรือการควบคุมอุปกรณ์ ก็อาจฟังดูจริงใจได้ แต่ยากที่จะใช้ระยะห่างแบบเดียวกันกับ Schmidt
- ปัญหาที่ถูกชี้คือท่าทีที่ Schmidt มองตนเองว่าเป็นเพียงคนสร้าง “เครื่องมือ” อย่างเสิร์ชเอนจิน และแยกมันออกจากชั้นของธุรกิจโฆษณา บริษัทเก็บข้อมูล การปรับเปลี่ยนพฤติกรรม และ dark patterns
- กรอบคิดที่ว่า “เครื่องมือเดียวกัน” ถูกใช้กับ X ที่เป็นบวกและ Y ที่เป็นลบ ทำให้ผลลัพธ์ด้านลบดูเหมือนเป็นผลพลอยได้ของเป้าหมายอันสูงส่ง แทนที่จะเป็นโครงสร้างที่ถูกออกแบบและสร้างขึ้น
คำพูดเรื่อง AI และเสียงโห่จากนักศึกษา
- ในช่วงหลังของสุนทรพจน์ Schmidt บอกให้นักศึกษาเข้าไปอยู่ในห้องที่มีการตัดสินใจเกี่ยวกับ AI ส่งเสียงของตนเอง และนำคุณค่าและวิจารณญาณแบบมนุษย์เข้าไปด้วย
- เขาบอกว่าเทคโนโลยีในตัวมันเองเป็นเพียง เครื่องมือ และสิ่งที่จะถูกนำไปปรับให้เหมาะสมคือสิ่งที่มนุษย์เป็นผู้ตัดสินใจ และในช่วงชีวิตของนักศึกษา “ใครบางคนนั้น” จะกลายเป็นตัวนักศึกษาเอง
- จากนั้นข้อความก็เดินหน้าต่อด้วยการให้เลือก “เสรีภาพ” “การอภิปรายอย่างเปิดกว้าง” “โครงการที่เชื่องช้า ยุ่งเหยิง แต่สวยงาม ของการอยู่ร่วมกับคนที่เห็นต่าง” “ความเท่าเทียม” และ “มุมมองที่หลากหลาย”
- แต่นักศึกษาเหล่านี้ไม่เคยมีประสบการณ์กับเทคโนโลยีในแบบอื่นเหมือนคนรุ่นก่อน พวกเขารู้จักแต่ เทคโนโลยีแบบ dark patterns ที่ไม่อาจเป็นเจ้าของได้ ข้อมูลถูกเก็บไว้โดยผู้อื่น พฤติกรรมถูกติดตาม ข้อมูลถูกขาย และผู้ใช้ถูกกำหนดเป้าโฆษณา
- สำหรับนักศึกษาเช่นนี้ ภาพของผู้มีบทบาทตัดสินใจสำคัญในเทคโนโลยียุคก่อน ออกมาบอกให้เข้าร่วมกับคลื่นเทคโนโลยีลูกถัดไปอย่างกระตือรือร้น จึงมีความหมายซับซ้อนกว่าการเป็นแค่เหตุการณ์ที่พวกเขาโห่เพราะเกลียด AI
สิ่งที่ขาดหายไปคือคำขอโทษและการวิเคราะห์ความล้มเหลว
- Schmidt ยอมรับว่าผลลัพธ์เลวร้ายในอดีตเกิดขึ้นในช่วงที่เขาดำรงตำแหน่งและอยู่ในพื้นที่การตัดสินใจของเขา แต่ไม่ได้เสนอ การทบทวนอย่างจริงจัง ว่าความล้มเหลวเกิดขึ้นเพราะอะไร
- ไม่มีคำอธิบายว่าเหตุใดจึงปล่อยให้มีการสร้างชั้นทางเทคนิคและธุรกิจที่เลวร้ายทับอยู่บนเครื่องมือที่มีประโยชน์ เหตุใดจึงหยุดยั้งไม่ได้ และส่วนใดที่เขาควรรับผิดชอบ
- คำแนะนำที่มีคุณค่าจริงสำหรับนักศึกษาไม่ใช่แค่การบอกให้เข้าไปอยู่ในห้องของเทคโนโลยีใหม่ แต่คือการวิเคราะห์อย่างเป็นรูปธรรมว่าเทคโนโลยีก่อนหน้านี้ผิดพลาดตรงไหน และการตัดสินใจแบบใดที่ก่อให้เกิดผลลัพธ์เช่นนั้น
- ความกลัวต่อ AI ไม่ได้มาจากเทคโนโลยีเชิงนามธรรมล้วน ๆ แต่เกิดจากความทรงจำว่าเมื่อผู้ตัดสินใจใน Silicon Valley รับผิดชอบเทคโนโลยีใหม่ครั้งก่อน พวกเขาได้สร้างมันในเวอร์ชันที่เต็มไปด้วย dark patterns
- หากไม่มีคำขอโทษต่ออดีต ไม่มีการยอมรับความรับผิดชอบ และไม่มีวิธีหลีกเลี่ยงการทำซ้ำ การเหลือไว้เพียงถ้อยคำเชิงรับอย่าง “มันก็เกิดขึ้นแบบนั้น” ย่อมยิ่งเพิ่มความไม่ไว้วางใจว่า AI ก็จะเดินไปในทิศทางเดียวกับอินเทอร์เน็ต
เงื่อนไขเพื่อหยุดยั้งการทำซ้ำครั้งถัดไป
- ข้อสรุปคือส่วนเลวร้ายของอินเทอร์เน็ตไม่ได้เกิดขึ้นเองหลังจากปล่อยเครื่องมือสู่สาธารณะ แต่เป็นผลจากการที่ผู้คน สร้างส่วนเลวร้ายนั้นขึ้นจริง ๆ
- หากจะไม่ให้ AI เดินไปตามเส้นทางเดียวกับอินเทอร์เน็ต ก็ต้องยอมรับว่าเหตุใดเรื่องเหล่านั้นจึงเกิดขึ้น และการตัดสินใจแบบใดที่นำไปสู่ผลลัพธ์ดังกล่าว
- ไม่ใช่แค่ Schmidt รุ่นถัดไปเท่านั้น แต่ยังรวมถึงบุคคลแบบ Schmidt ที่ยังคงมีอิทธิพลอยู่ใน Silicon Valley และ Washington DC ในปัจจุบันด้วย ว่าการตัดสินใจในอดีตของพวกเขาได้สร้างสภาพแวดล้อมทางเทคโนโลยีในปัจจุบันขึ้นมา
- หากไม่มีการยอมรับและการทบทวนจากผู้ที่รับผิดชอบ ก็มีความเสี่ยงที่โมเดลธุรกิจแบบเดิมและ dark patterns แบบเดิมจะถูกทำซ้ำในเทคโนโลยีระลอกถัดไป
- บทสรุปที่ว่า ครั้งหน้าต้องทำให้ดีกว่าเดิม ไม่ได้เริ่มจากการมองโลกในแง่ดีต่อเทคโนโลยี แต่เริ่มจากการรับมือกับความล้มเหลวในอดีตอย่างมีความรับผิดชอบ
ต้องการติดตามหัวข้อเทคโนโลยีที่คัดสรรต่อไปไหม
ติดตามช่อง Telegram @GeekNewsTH
1 ความคิดเห็น
ความคิดเห็นจาก Lobste.rs
มีสคริปต์ถอดเสียงสำหรับคนที่อยากอ่านเป็นตัวอักษร
ดูแล้วคุ้มค่า Casey เดิมทีก็เป็นคนฉลาดอยู่แล้ว แต่หัวข้อนี้เป็น ประเด็นหนัก กว่าเรื่องเทคนิคที่เขามักพูดถึงมาก
Schmidt พูดกับนักศึกษาในทำนองว่า “จงพาความเป็นมนุษย์เข้าไปในห้องที่มีการตัดสินใจเรื่องเทคโนโลยี” ซึ่งฟังดูดี แต่พอมองจากสิ่งที่กำลังเกิดขึ้นตอนนี้ การตัดสินใจเรื่องเทคโนโลยีที่กระทบทุกคนอย่าง AI กลับถูกตัดสินโดย คนอื่น และคนที่เหลือดูเหมือนจะไม่ได้อยู่ในห้องนั้นเลย
อย่างที่บทความชี้ไว้ จุดสำคัญคือช่วงที่น้ำเสียงเปลี่ยนเป็น ประโยคถูกกระทำ อย่างสมบูรณ์ในทันที เขาไม่ได้พูดว่า “พวกเราสร้างสิ่งนี้ขึ้นมา แล้วเกิดผลลัพธ์ที่เลวร้าย และนั่นเป็นความผิดของพวกเรา” หรือ “พวกเราทำผิดพลาดอย่างมหันต์” หรือ “พวกเราล้มเหลวแบบนี้”
Joseph Weizenbaum ก็ชี้ปัญหาเดียวกันนี้ไว้แล้วตั้งแต่ปี 1976 ใน 『Computer Power And Human Reason』 ว่าแม้แต่ผู้บริหารระดับสูงก็ยังวาดภาพตัวเองเป็นเหยื่อผู้บริสุทธิ์ของเทคโนโลยีที่ตนเอง neither รับผิดชอบ nor เข้าใจ และความรับผิดชอบก็สลายหายไปในลักษณะว่า “ในโศกนาฏกรรมมีการกระทำ แต่ไม่มีผู้กระทำ” ตำนานเรื่องความหลีกเลี่ยงไม่ได้ทางเทคโนโลยี การเมือง และสังคม ทำงานเหมือนยากล่อมประสาทอันทรงพลังที่ทำให้มโนธรรมด้านชา และปลดภาระความรับผิดออกจากบ่าของ ผู้กระทำ ที่มีอยู่จริง
ถ้อยคำทำนอง “ระบบต้องรับผิดชอบ ไม่ใช่คน” ถูกพูดซ้ำแล้วซ้ำเล่า และแม้แต่คำถามว่าเราต้องการอนาคตแบบนั้นหรือไม่ก็หายไป เหลือเพียงท่าทีว่ามันกำลังมา หยุดไม่ได้ และย้อนกลับไม่ได้
ทั้งน่าขนลุกและจับความกังวลของฉันได้ดี ฉันเป็นหนึ่งในลูกหลานของอินเทอร์เน็ตยุคนี้ และวิดีโอนี้ให้ความรู้สึกเหมือนมัน ตั้งชื่อให้กับ ความรู้สึกนั้น
Casey ประเมินตัวเองต่ำไปมาก นี่เป็นวิดีโอที่ทำออกมาได้ดีมาก และตรงกับปฏิกิริยาที่ฉันมีตอนดูช่วงสำคัญ ๆ ของสุนทรพจน์นั้นด้วย
แล้วการอ้างอิง I Think You Should Leaveก็ขำมาก บรรยากาศแบบ “พวกเราทุกคนกำลังตามหาว่าใครเป็นคนก่อเรื่องนี้” มีอยู่เต็มไปหมด
ท่าทีแบบ “พวกเราแค่อยากสร้างโลกที่ดีกว่า แต่แล้วเรื่องแย่ ๆ ก็เกิดขึ้นเอง” เผยอะไรออกมามากจริง ๆ Eric Schmidt นั้น หน้าซื่อใจคด อย่างแท้จริง และก็เหมือนคนอีกมากที่ทำอันตรายผ่านการกระทำของตัวเองแล้วคอยหาเหตุผลมารองรับมัน
อีกแกนสำคัญคือ ปัญหาระหว่างรุ่น คนรุ่นของ Schmidt ถือครองอำนาจทางการเมืองและเศรษฐกิจมากเกินไป ทุกวันนี้คนหนุ่มสาวไม่ได้โง่ และพวกเขาเห็นว่าเกิดอะไรขึ้น ชีวิตของพวกเขาถูกควบคุมโดยคนอายุมากกว่า ที่บอกให้คนรุ่นใหม่ต้องแบกรับความไม่มั่นคงในการจ้างงาน ความยากลำบากทางเศรษฐกิจ เทคโนโลยีแบบดิสโทเปีย และวิกฤตสิ่งแวดล้อม แล้วก็ยังพูดว่าทั้งหมดนั้น “มันก็แค่เกิดขึ้น” ทั้งที่ทุกคนรู้ว่าคนพวกนั้นเป็นผู้สร้างสถานการณ์นั้นขึ้นมา นักศึกษาจะโห่ก็ไม่แปลก ถ้าเป็นฉัน ฉันก็คงทำเหมือนกัน