Google ถอนคำมั่นว่าจะไม่ใช้ AI กับอาวุธและการเฝ้าระวัง
(washingtonpost.com)- Google ปรับแนวทางจริยธรรม AI เมื่อวันอังคาร โดยลบคำมั่นสาธารณะที่ว่าจะไม่นำ AI ไปใช้ในด้าน อาวุธและการเฝ้าระวัง
- หลักการ AI ปี 2018 เคยมี ข้อจำกัด ที่ระบุว่าจะยกเว้นการประยุกต์ใช้ AI ในลักษณะที่ “ก่อให้เกิดหรือมีแนวโน้มจะก่อให้เกิดอันตรายโดยรวม”
- ในเอกสารเดิม ส่วน “แอปพลิเคชันที่เราจะไม่ดำเนินการ” ระบุหมวดต้องห้ามไว้ ได้แก่ อาวุธ การเฝ้าระวัง เทคโนโลยีที่มีความเป็นไปได้สูงว่าจะก่ออันตราย และกรณีการใช้งานที่ขัดต่อ กฎหมายระหว่างประเทศและหลักสิทธิมนุษยชน
- สำเนาที่เก็บไว้ใน Internet Archive ณ วันพฤหัสบดี ยังคงมีส่วนข้อห้ามดังกล่าวและทั้ง 4 หมวดอยู่
- การเปลี่ยนแปลงครั้งนี้ทำให้ถ้อยคำในหลักการ AI สาธารณะของ Google ที่เคยระบุชัดว่าตัดการใช้งานความเสี่ยงสูงบางประเภทออกไป หายไปแล้ว
คำมั่นห้ามที่หายไปจากหลักการ AI
- Google อัปเดต แนวทางจริยธรรม AI เมื่อวันอังคาร
- แนวทางใหม่ได้ลบถ้อยคำเดิมที่ระบุว่าจะไม่นำเทคโนโลยี AI ไปใช้กับ อาวุธ หรือ การเฝ้าระวัง
ข้อจำกัดในนโยบายปี 2018
- Google ออกนโยบายจำกัดขอบเขตการใช้งาน AI ตั้งแต่ปี 2018
- นโยบายในเวลานั้นระบุว่าจะไม่นำ AI ไปใช้ในลักษณะที่ “ก่อให้เกิดหรือมีแนวโน้มจะก่อให้เกิดอันตรายโดยรวม”
ส่วน “Applications we will not pursue” ที่ถูกลบออก
- หลักการ AI เดิมมีส่วนชื่อ “Applications we will not pursue”
- สำเนาที่เก็บไว้ใน Internet Archive ณ วันพฤหัสบดี ยังมีส่วนนี้อยู่
- ส่วนดังกล่าวระบุ 4 หมวดที่ Google บอกว่าจะไม่ดำเนินการ
- อาวุธ
- การเฝ้าระวัง
- เทคโนโลยีที่ “ก่อให้เกิดหรือมีแนวโน้มจะก่อให้เกิดอันตรายโดยรวม”
- กรณีการใช้งานที่ขัดต่อกฎหมายระหว่างประเทศและหลักสิทธิมนุษยชน
สิ่งที่เปลี่ยนไปในหลักการสาธารณะ
- ก่อนการเปลี่ยนแปลง หลักการ AI ระบุชัดว่าไม่รวมการใช้งานบางประเภท
- หลังการเปลี่ยนแปลง หลักการสาธารณะได้ตัดถ้อยคำที่ระบุว่าจะไม่ดำเนินการเกี่ยวกับอาวุธ การเฝ้าระวัง อันตรายโดยรวม และกรณีการใช้งานที่ละเมิดกฎหมายระหว่างประเทศและหลักสิทธิมนุษยชนออกไป
1 ความคิดเห็น
ความคิดเห็นจาก Hacker News
https://archive.ph/hfrKY
ตอนแรกนึกว่าเป็นการประกาศคำมั่นสัญญาใหม่ แล้วก็คิดว่า “เดี๋ยวก็คงลืมกันตอนที่สะดวก” แต่พออ่านบทความแล้วกลับรู้สึกว่า “อ้อ นี่มันกลายเป็นเรื่องสะดวกไปแล้วสินะ”
Google เป็นบริษัทยักษ์ใหญ่ และแม้บริษัทยักษ์ใหญ่โดยเนื้อแท้อาจไม่ใช่ “ความชั่วร้าย” แต่โดยพื้นฐานแล้วก็ไม่สนใจความดีหรือศีลธรรม
ถ้ามีช่วงไหนที่มันดูเหมือนสนใจ สิ่งนั้นก็เป็นแค่กิจกรรมทางการตลาดล้วน ๆ
อาจมีความต่างกันระหว่างความชั่วแบบตำรวจทุจริตกับความชั่วแบบฆาตกรต่อเนื่อง แต่ท่าทีที่ว่าเพื่อเงินแล้วจะทำอะไรก็ได้ ในทางประวัติศาสตร์ก็ถูกจัดเป็นพฤติกรรมชั่วร้ายมาโดยตลอด
อีกเรื่องหนึ่งคือสังคมที่ไม่มีบริษัทยักษ์ใหญ่จะดีกว่าหรือแย่กว่า แต่โลกที่บริษัทจ่ายภาษีสูงขึ้นมากตามขนาดบริษัทก็น่าจะน่าสนใจ
แถมก็ยังแจกฟรีเหมือนเดิม และคุณภาพก็ค่อนข้างดี
หลังจากนั้นพอรัฐสั่งแบนสิ่งนั้นอีก Walmart ก็เริ่มแจกถุงกระดาษฟรีตรงเวลาเป๊ะเหมือนนาฬิกา ซึ่งก็ถือว่าใช้ได้เหมือนกัน
พอเห็นแบบนี้ก็ได้ตระหนักว่าบริษัทจะไม่ทำสิ่งที่ดีกับสิ่งแวดล้อมขึ้นแม้แต่นิดเดียว ถ้าไม่ถูกบังคับ
ทุกการกระทำของบริษัท รวมถึงเรื่องเลวร้ายด้วย ก็แค่ไหลตามเงิน และหน้าที่ในการจัดวางเรื่องจริยธรรมคือหน้าที่ของรัฐบาล
ถ้า Google ไม่ทำ เดี๋ยวก็มีคนอื่นทำอยู่ดี ดังนั้นตามตรรกะนี้ Google หาเงินเข้าผู้ถือหุ้นเองยังจะดีกว่า
ในทางเทคนิค ผู้ถือหุ้นสายเคลื่อนไหวอาจรวมตัวกันแล้วพูดว่า “ถ้าไม่บุกตลาดนี้ ก็ต้องเปลี่ยนผู้บริหาร” ก็ได้
สุดท้ายก็เหมือนมีแค่ราคาหุ้นเท่านั้นที่เป็นตัวชี้วัดสำคัญ
คำสั่งลงมาจากข้างบน แล้วข้างล่างก็รับไปปฏิบัติ
เลยดูชั่วร้ายโดยเนื้อแท้
ประเด็นสำคัญคือความนิรนามที่เกิดจากจำนวนคนและความซับซ้อน
คนเป็นพัน ๆ ต่างก็อยากเห็นตัวเลขสูงขึ้น และความอยากนั้นเองที่ท้ายที่สุดกำหนดการตัดสินใจแบบนี้
ถ้าเรื่องนี้ทำให้หุ้น Google ร่วง Google ก็คงไม่ทำ
แต่พฤติกรรมร่วมของมนุษย์ต่างหากที่ค้ำราคาหุ้นเอาไว้
บริษัทยักษ์ใหญ่เป็นแค่แพะรับบาป และที่จริงแล้วมันใกล้เคียงกับชุดของกฎประชาธิปไตยมากกว่า
บริษัทคือหน้าต่างที่ทำให้เราเห็นธรรมชาติที่แท้จริงของมนุษย์
อยากโกรธเรื่องนี้ด้วยความอึดอัดแบบค่อนข้างไร้เดียงสาว่า “ทำไมเราทุกคนถึงอยู่ร่วมกันดี ๆ ไม่ได้”
ผมรู้ว่าโลกแบบไหนที่ตัวเองอยากได้ แต่ในฐานะเผ่าพันธุ์ เราเองรวมถึงตัวผมด้วย ก็ยังคงทำให้ความคาดหวังผิดหวังต่อไป ทั้งที่การทำลายตัวเองแทบจะถูกการันตีอยู่แล้ว
อยากโกรธ แต่ขณะเดียวกันก็จำต้องยอมรับความจริงอย่างเศร้าว่าทำไมไม่มีใครแปลกใจกับมัน
ในวงการนั้นมีคู่แข่งที่พร้อมทำแบบนั้นอยู่แล้ว และพวกเขาจะทำได้มากกว่านั้นอีก
เราได้เห็นพัฒนาการที่ค่อนข้างน่ากลัวจากฝั่งนั้นมาแล้ว และถ้าคิดดู สิ่งเหล่านั้นคือสิ่งที่ถูกตัดสินใจแล้วว่าสามารถเอามาให้สาธารณะเห็นได้
เรื่องที่น่าสนใจจริง ๆ กำลังเกิดขึ้นนอกโซเชียลมีเดีย หลังประตูที่ปิดตาย
ถ้ามีการยกตัวอย่างอาวุธเฉพาะที่รับมือได้ด้วยอาวุธ AI เท่านั้น ผมอาจคิดต่างไป แต่ตอนนี้ผมนึกไม่ออกเลยว่าทำไมเราต้องให้หุ่นยนต์เป็นคนตัดสินใจว่าจะฆ่าใคร
เวลาคนพูดว่า AI อันตรายหรืออาจนำไปสู่วันสิ้นโลก ผมมักจะไม่ค่อยเห็นด้วย แต่สำหรับอาวุธ AI นั้น มันอันตรายอย่างชัดเจนและอาจควบคุมไม่ได้ง่ายมาก
เพราะจุดประสงค์ตั้งต้นของมันก็คือทำให้มันอยู่นอกการควบคุม
ปัญหาไม่ใช่ว่าอาวุธ AI “ชั่วร้าย” แต่คือปัญหาการจัดแนวคุณค่ายังไม่ถูกแก้ และอาวุธ AI อาจไปฆ่าคนที่เราไม่ได้ต้องการให้ตาย
คำโกหกทำให้โลกหมุน และมันน่าขยะแขยง
ไม่ว่าจะมองยังไง เราอาศัยอยู่บนดาวเคราะห์ที่ทรัพยากรมีจำกัด และนั่นหมายถึงการแข่งขัน และการแข่งขันก็นำไปสู่นวัตกรรมด้านอาวุธ
เพียงแต่เราก็อยู่กับอาวุธนิวเคลียร์มาหลายสิบปีแล้วโดยร่วมกันไม่ใช้มันแบบหมู่คณะ เพราะงั้นก็ยังพอมีพื้นที่ให้มองโลกในแง่ดีอยู่บ้าง
ไม่มีเหตุผลให้ชะล่าใจ และทางนั้นมีแต่จะเร่งการทำลายล้าง
มันไม่จำเป็นต้องจบลงแบบนี้เสมอไป
นี่มีจริยธรรมมากกว่าหรือน้อยกว่ากรณีที่ OpenAI เพิ่งได้สัญญากับ DoDเพื่อนำโมเดลไปใช้งานในสนามรบ ทั้งที่เพิ่งพูดได้ไม่ถึงปีว่า “จะไม่มีวันเกิดเรื่องแบบนั้น” กันแน่
ข้อแก้ตัวคือประมาณว่า “สิ่งที่เราพูดหมายถึงแค่สงครามหรือวัตถุประสงค์ทางทหารบางประเภทเท่านั้น”
ท้ายที่สุด คำถามคือ การกลับลำอย่างเปิดเผยแบบ Google มันไม่ได้ซื่อตรงกว่าการคงภาพลวงว่าตัวเองยังพยายามทำสิ่งที่ถูกต้องอยู่หรอกหรือ
มันคล้ายกับการถามว่า “ใช่ มันดูเหมือนการยอมศิโรราบต่อทรราชต่างชาติ แต่เมื่อเทียบกับตอนที่ Vidkun Quisling ปกครองนอร์เวย์แล้ว มันมีจริยธรรมมากกว่าหรือน้อยกว่า?”
ส่วน OpenAI นั้นดูมืดหม่น ลื่นไหลจับไม่ติด และถูกนำโดยคนหลงตัวเองขั้นรุนแรง
จนทำให้ Pichai ดูเหมือนผู้ใหญ่ไปเลย
ในเชิงจริยธรรมมันอาจเหมือนกัน แต่ถ้ามีใครเอาปืนมาจ่อ อย่างน้อยก็ดีกว่าที่คนเหนี่ยวไกจะเป็นคนที่ยังมีความสามารถในการเห็นอกเห็นใจอยู่บ้าง มากกว่าจะเป็นตัวแทนของบริษัทที่เหล่าผู้บริหารระดับสูงจะพากันหนีเอาตัวรอดเป็นแถว
หนึ่งในสิ่งที่น่ากังวลที่สุดเกี่ยวกับ โมเดลภาษาขนาดใหญ่ สำหรับหน่วยข่าวกรอง คือมันสามารถขยายขอบเขตการวิเคราะห์ข้อความได้
แต่ก่อนอย่างน้อยก็ต้องมีเจ้าหน้าที่สักคนสนใจฉันก่อน แต่ตอนนี้ในทางทฤษฎี LLM สามารถอ่านทุกข้อความที่ฉันเคยพบเจอ แล้วทำเครื่องหมายได้ทุกอย่างตั้งแต่การละเมิดกฎหมายไปจนถึงแนวโน้มทางการเมือง
ถ้าจะกรองข้อความระดับหลายพันล้านรายการ ต้นทุนจะพุ่งขึ้นเร็วมาก จึงน่าสงสัยด้วยว่า LLM เป็นเครื่องมือที่ดีที่สุดสำหรับงานนั้นจริงหรือไม่
ตอนนี้ให้ความรู้สึกเหมือนช่วงใน Downton Abbey ที่ทุกคนกำลังรอให้ สงครามโลกครั้งที่ 1 เริ่มต้น
ทุกคนรู้สึกว่ามันกำลังจะมา แต่ไม่มีใครหยุดมันได้
ในทางปฏิบัติ หากเกิดสงครามระหว่างชาติตะวันตกกับรัสเซีย/อิหร่าน/เกาหลีเหนือ/จีน หรือกับใครก็ตามที่ท้ายที่สุดเราต้องสู้ด้วย เราก็จะทำทุกวิถีทางเพื่อให้อารยธรรมตะวันตกและทหารของเราอยู่รอดและชนะ
ท้ายที่สุด Google ก็เป็นบริษัทตะวันตก และถ้าเกิดสงครามขึ้น การไม่สนับสนุนอารยธรรมและกองทัพของเราจะเป็นจุดยืนที่ไม่เป็นที่นิยมอย่างยิ่ง และจะทำให้ Google กลายเป็นคนนอก
สิ่งตรงกันข้ามนั้นแทบไม่มีทางเกิดขึ้นตั้งแต่แรก
สหรัฐฯ กำลังกีดกันตัวเองและรังแกพันธมิตร
สำหรับมหาอำนาจทางเลือกที่ต้องการขยายอิทธิพล ไม่มีช่วงเวลาไหนดีกว่านี้อีกแล้ว
ระหว่างตะวันตกที่เป็นเอกภาพกับมหาอำนาจอื่น ๆ นั้น เดิมทีไม่ได้มีสงครามกำลังใกล้เข้ามา
สงครามกำลังมาเพราะตะวันตกไม่มีอยู่อีกต่อไปแล้ว
ไม่มีการแบ่งว่าอารยธรรม “ของเรา” กับ “ของพวกเขา” มีแค่อารยธรรมเดียวเท่านั้น
เมื่อหลายศตวรรษก่อน แนวคิดแบบนั้นอาจพอมีมูลอยู่บ้าง แต่ตอนนี้ความคิดที่ว่า “เรา” ต่างจาก “พวกเขา” อย่างมาก เป็นภาพลวงอันตรายสำหรับคนส่วนใหญ่
ถ้าเป็นประเทศที่ตอนนี้ขู่จะ ผนวก Greenland และเรียกร้องให้ย้ายชาวปาเลสไตน์ทั้งหมดไปยัง Jordan กับ Egypt อย่างถาวร ก็คงต้องการอาวุธควบคุมฝูงชนอย่างแน่นอน
เมื่อผู้คนรู้ว่าทั้งสองพรรคเอาเปรียบพวกเขามาโดยตลอด อาวุธแบบนี้ก็อาจมีประโยชน์ในประเทศด้วย
ฉันไม่เข้าใจว่าทำไม China ถึงเป็นภัยคุกคามนอกเหนือจากด้านเศรษฐกิจ
China เคยพยายามบุกสหรัฐฯ ไหม? Russia เคยพยายามบุก EU ไหม? คำตอบคือไม่
ตอนนี้ภัยคุกคามเดียวต่อ EU มาจากชายชุดส้ม
เขายังยกเลิกสนธิสัญญา INF ด้วย
ตอนนี้สหรัฐฯ จะติดตั้งขีปนาวุธนิวเคลียร์พิสัยกลางในยุโรป และ Russia ก็ติดตั้งใน Belarus
ดังนั้นสองมหาอำนาจก็จะมีแพะรับบาปที่สะดวกไว้รับนิวเคลียร์ก่อน แล้วค่อยกลับมาคิดกันใหม่หลังจากนั้น
ทั้งที่วิกฤตระหว่างประเทศทั้งหมดในช่วง 40 ปีที่ผ่านมาเริ่มจากฝ่ายใดฝ่ายหนึ่งในสองฝ่ายนี้ แต่สหรัฐฯ และ Russia ก็ยังอ้างว่าตนเองกำลังตกอยู่ในอันตรายต่อไป ซึ่งไร้สาระจริง ๆ
Russia ได้รุกรานประเทศในยุโรปจริง ๆ โดยเฉพาะ Ukraine
เหตุผลเดียวที่ยังไม่บุก EU โดยตรง ก็เพราะนั่นจะจุดชนวนสงครามที่จากพันธมิตร NATO ซึ่งจะทำให้เกิดความสูญเสียมหาศาลและท้ายที่สุดก็แพ้
สิ่งที่ทำให้ EU ปลอดภัยคือกำลังทางทหาร และประเทศที่มีกำลังทหารไม่พอก็จะถูกความทะเยอทะยานทางอำนาจเล่นงานและทุบตีอยู่เรื่อย ๆ
Ukraine ตกอยู่ในสภาพนั้นเพราะในทศวรรษ 1990 เชื่ออย่างไร้เดียงสาว่า Russia จะไม่รุกราน แล้วจึงยอมสละอาวุธนิวเคลียร์
จะเรียกสิ่งนั้นว่าเป็น ภัยคุกคามในจินตนาการ ก็คงยาก
นโยบายเศรษฐกิจก็มีลักษณะฉกฉวยอย่างมาก โดยเอาสิ่งที่เอาคืนไม่ได้จากประเทศอื่น แทนที่จะสนับสนุนพวกเขา
ถ้าหยิบเอาสิ่งที่ต้องการไปได้อยู่แล้ว จะบุกทำไม
ชายชุดส้มนั้นไร้ความสามารถโดยสิ้นเชิงในทั้งสองแนวรบ
เขาจะไม่ยอมใช้เงินกับกองทัพ และก็ไม่มีความสามารถพอจะทำข้อตกลงที่ไม่ขาดทุนในระยะยาวด้วย
น่าสนใจที่บริษัทพวกนี้เคลื่อนไหวตาม กระแสลมทางการเมือง
เหมือนที่ Meta ประกาศการเปลี่ยนแปลงบางอย่างราวช่วงพิธีสาบานตน ผู้บริหาร Google ก็คงสังเกตเห็นประกาศต่าง ๆ เกี่ยวกับ AI และคงไม่อยากให้รัฐบาลชุดปัจจุบันมองพวกเขาไปในทางใดทางหนึ่ง
ฉันคิดว่าความจริงน่าจะอยู่ตรงกลาง
ภายในบริษัทคงมีความเห็นต่างกันอย่างมาก แต่ก็แน่นอนว่าพวกเขาสนใจว่าคนที่มีอำนาจจะมองพวกเขาอย่างไร
บริษัทมีอำนาจที่ ไม่สมดุลอย่างมาก ในเชิงเทคนิค
ดังนั้นให้เคลื่อนไหวตามเจตจำนงของประชาชนย่อมดีกว่า
ทางเลือกตรงข้าม คือปล่อยให้บริษัททำตามใจตัวเอง ซึ่งอาจเลวร้ายกว่ามาก
แรงจูงใจเดียวของบริษัทคือ การแสวงหากำไร ไม่ใช่ละครองค์กรท่าทางกระอักกระอ่วนแบบที่พูดว่า “ทำให้โลกดีขึ้น”
บริษัทถูกสร้างขึ้นมาเพื่อจุดประสงค์นั้น และก็ทำตามนั้นมาโดยตลอด
ฉันไม่รู้ว่าเราคาดหวังอะไร หลังจากที่ Google เอาคำขวัญ Don’t be evil ออกไปแล้ว
ระบบอัตโนมัติที่ออกแบบมาดีอาจช่วยเพิ่มความแม่นยำของการเลือกเป้าหมายและลดความสูญเสียของพลเรือนได้มากทีเดียว
ถ้าคุณโกรธเพราะการมีอยู่ของอาวุธเอง คุณควรกลับไปทบทวนภาวะกลืนไม่เข้าคายไม่ออกของนักโทษอีกครั้ง
การหักหลังในระดับเล็กถูกควบคุมโดยรัฐบาล แต่ลองสมมติว่ามหาอำนาจหลักของโลกจะไม่ยอมรับเขตอำนาจของรัฐบาลโลกเดี่ยวที่สามารถบังคับไม่ให้หักหลังได้
โดยเฉพาะกลุ่มที่เข้มแข็งและมั่งคั่งอย่างพวกเรา ซึ่งมักจะมีสิ่งให้เสียมากในระบบแบบนั้น จึงยิ่งไม่น่าจะยอมรับ
Schmidt อดีต CEO ของ Google กำลังพัฒนา โดรน AI สำหรับ Ukraine ใน Estonia
หากเขาต้องการแหล่งจัดหา AI พื้นฐานที่ดี ก็พอคาดได้ว่า Google อาจเป็นหนึ่งในผู้จัดหาที่เขาให้ความสำคัญ
แน่นอนว่า Ukraine เป็นเพียงจุดเริ่มต้น และตลาดเป้าหมายสำหรับสิ่งเหล่านี้ โดยเฉพาะของที่ผ่านการพิสูจน์ในสนามรบแล้ว ยิ่งเป็นของที่พิสูจน์แล้วว่าใช้รับมือกับ Russia และโดยอ้อมกับเทคโนโลยี Chinese ได้ ก็จะใหญ่มหาศาล
สิ่งที่ถูกนำไปใช้ในสนามรบจริงยังมีเพียงบางส่วน แต่ก็มีความสนใจอย่างมากต่อแพลตฟอร์มภาคพื้นดินแบบควบคุมระยะไกลและแบบอัตโนมัติ
Google เป็นผู้นำด้านแพลตฟอร์มอัตโนมัติสำหรับพลเรือน และเส้นทางในการถ่ายทอดเทคโนโลยีนั้นไปสู่ระบบทางทหารก็ดูค่อนข้างง่าย