- "ภารกิจของเราคือทำให้ปัญญาประดิษฐ์ทั่วไป (AGI) ที่โดยทั่วไปฉลาดกว่ามนุษย์ สามารถเป็นระบบ AI ที่มอบประโยชน์ให้แก่มนุษยชาติทั้งหมด"
- "หาก AGI ถูกพัฒนาสำเร็จ เทคโนโลยีนี้อาจช่วยยกระดับมนุษยชาติได้ โดยส่งเสริมความอุดมสมบูรณ์ กระตุ้นเศรษฐกิจโลก และสนับสนุนการค้นพบองค์ความรู้ทางวิทยาศาสตร์ใหม่ ๆ ที่เปลี่ยนขอบเขตของความเป็นไปได้"
- "ในอีกด้านหนึ่ง AGI ก็อาจมาพร้อมความเสี่ยงร้ายแรงที่อาจนำไปสู่การนำไปใช้ในทางที่ผิด อุบัติเหตุรุนแรง และความปั่นป่วนทางสังคมได้ เนื่องจากด้านบวกของ AGI มีขนาดใหญ่มาก เราจึงเห็นว่าการที่สังคมจะหยุดการพัฒนาไปตลอดกาลนั้นทั้งเป็นไปไม่ได้และไม่พึงปรารถนา แต่สังคมและผู้พัฒนา AGI ควรร่วมกันหาวิธีที่ถูกต้องแทน"
- หลักการสำคัญ
- เราหวังว่า AGI จะช่วยเสริมพลังให้มนุษยชาติรุ่งเรืองได้อย่างเต็มที่ในจักรวาล เราไม่ได้คาดหวังว่าอนาคตจะเป็นยูโทเปียที่สมบูรณ์แบบ แต่เราต้องการเพิ่มสิ่งที่ดีให้มากที่สุดและลดสิ่งที่ไม่ดีให้น้อยที่สุด เพื่อให้ AGI เป็นตัวขยายศักยภาพของมนุษยชาติ
- เราต้องการให้ประโยชน์ การเข้าถึง และธรรมาภิบาลของ AGI ถูกแบ่งปันอย่างกว้างขวางและเป็นธรรม
- เราต้องการฝ่าฟันความเสี่ยงขนาดใหญ่เหล่านี้ให้สำเร็จ เมื่อเผชิญกับความเสี่ยงดังกล่าว เราตระหนักว่าสิ่งที่ในทางทฤษฎีดูเหมือนถูกต้อง ในทางปฏิบัติมักออกมาแปลกกว่าที่คาดไว้ เราเชื่อว่าควรปล่อยเทคโนโลยีเวอร์ชันที่ทรงพลังน้อยกว่าออกมาก่อน เพื่อเรียนรู้และปรับตัวอย่างต่อเนื่อง และลดโอกาสของ "ความล้มเหลวเพียงครั้งเดียว" ให้เหลือน้อยที่สุด
สารบัญ
- ระยะสั้น (แผน)
- เมื่อระบบต่าง ๆ เข้าใกล้ AGI มากขึ้น เราจะเพิ่มความระมัดระวังในการสร้างและเผยแพร่โมเดลมากยิ่งขึ้น
- เราพยายามออกแบบโครงสร้างในลักษณะที่เชื่อมโยงแรงจูงใจกับผลลัพธ์ที่ดี
- ระยะยาว (แผน)
ยังไม่มีความคิดเห็น