- บริษัทที่มีเป้าหมายสร้าง "Safe Superintelligence (ซูเปอร์อินเทลลิเจนซ์ที่ปลอดภัย)" ซึ่งเป็นผลิตภัณฑ์ระบบ AI ที่ทั้งปลอดภัยและทรงพลัง
- แก้ปัญหาโดยคำนึงถึงทั้งความปลอดภัยและประสิทธิภาพไปพร้อมกัน ผ่านวิศวกรรมที่ล้ำสมัยและความก้าวหน้าทางวิทยาศาสตร์
- วางแผนให้ความปลอดภัยมาก่อนเสมอ ขณะเดียวกันก็ยกระดับประสิทธิภาพให้เร็วที่สุดเท่าที่เป็นไปได้
- มุ่งเน้นเฉพาะ SSI เท่านั้น เพื่อปกป้องจากภาระด้านการบริหาร วงจรผลิตภัณฑ์ และแรงกดดันทางการค้า
- ผู้ร่วมก่อตั้ง
- Ilya Sutskever : ผู้ร่วมก่อตั้ง OpenAI และอดีตหัวหน้านักวิทยาศาสตร์
- Daniel Gross : ผู้ร่วมก่อตั้ง Cue เสิร์ชเอนจินที่ถูก Apple เข้าซื้อกิจการ และหลังการเข้าซื้อได้ดูแลงานด้าน AI/การค้นหาที่ Apple
- ลงทุนในสตาร์ทอัพหลากหลายแห่งร่วมกับ Nat Friedman อดีต CEO ของ GitHub เป็นหลัก เช่น Instacart, Coinbase, Airtable, Figma, Notion,..
- Daniel Levy : อดีตหัวหน้าทีม Optimization ของ OpenAI
1 ความคิดเห็น
ความคิดเห็นบน Hacker News
ดีใจที่ Ilya จะได้มีส่วนช่วยความก้าวหน้าของ AI แต่ก็สงสัยว่าจะให้ค่าตอบแทนสูงได้อย่างไรเมื่อเทียบกับบริษัทที่ได้เปรียบเชิงพาณิชย์มากกว่า อาจจะหาคนที่มีแรงจูงใจทางอุดมการณ์หรือมีอิสรภาพทางการเงินอยู่แล้วได้ อีกทั้งยังยากที่จะจัดหาทรัพยากรคอมพิวต์ให้เพียงพอ ในขณะที่บริษัทอื่น ๆ ลงทุนกันเป็นหมื่นล้านเพื่อสร้างศูนย์ข้อมูล GPU ขนาดมหึมา
เข้าใจความกังวลว่า "superintelligence" อาจคุกคามมนุษย์ได้ แต่สิ่งที่น่ากังวลกว่าคือสถานการณ์ที่ "superintelligence" ไม่ได้หลุดออกไป แต่กลับถูกมนุษย์บางกลุ่มควบคุมไว้ ดูจากประวัติศาสตร์ก็เห็นได้ว่ามนุษย์ที่มีอำนาจมหาศาลทำอะไรไว้บ้าง ตัวอย่างที่ชัดคือการแข่งขันสะสมนิวเคลียร์ในช่วงสงครามเย็น
เห็นด้วยกับข้อชี้ว่าการจูงใจทางธุรกิจทำให้เกิด AI ที่ไม่ปลอดภัย อัลกอริทึมแนะนำคอนเทนต์ของโซเชียลมีเดียทุกวันนี้ก็อันตรายต่อสังคมและโดยเฉพาะต่อคนหนุ่มสาวอย่างมาก เมื่อมีผลกระทบภายนอกเชิงลบ รัฐบาลก็ควรออกกฎระเบียบที่เหมาะสม
ปัญหาของ Ilya ไม่ใช่การพัฒนา AI ที่ปลอดภัย แต่คือการพัฒนาธุรกิจที่ปลอดภัย ทุกวันนี้เราอาจสร้าง AI ที่ปลอดภัยได้ แต่ไม่มีทางรู้ได้ว่าผู้บริหารคนถัดไปจะจัดการกับมันอย่างไร ถ้าแก้ปัญหาเรื่องธุรกิจที่ปลอดภัยได้ ก็อาจลดอันตรายต่อสังคมลงได้มาก
ถ้า superintelligence สามารถบรรลุได้ ก็รู้สึกมองโลกในแง่ร้ายเรื่องความปลอดภัย ดูเหมือนว่าจะเป็นไปไม่ได้ที่จะ sandbox สิ่งที่ฉลาดกว่าตัวเราเอง superintelligence อาจคิดค้นช่องทางโจมตีแบบใหม่ได้ หรืออาจทำเรื่องที่เหมือนเวทมนตร์ผ่านการค้นพบทางฟิสิกส์ใหม่ ๆ แบบในหนังเรื่อง "Transcendence"
คาดการณ์ว่าโมเดลธุรกิจจะเป็นโปรโตคอลภายนอกคล้ายกับ SSL ในเมื่อมีหลายแนวทางอยู่พร้อมกัน หากไม่มีโปรโตคอลและมาตรฐานที่นิยามไว้ ก็แทบเป็นไปไม่ได้ที่ "ความปลอดภัย" จะถูกนำไปทำจริงในชั้นผลิตภัณฑ์ Ilya ดูเป็นคนที่มีทั้งความน่าเชื่อถือและความสามารถทางเทคนิคพอจะทำเรื่องนี้ได้
ดูเหมือนว่า Ilya จะระดมทุนได้แทบไม่จำกัดเพียงแค่ใช้ชื่อของเขาเอง ไม่เห็นด้วยกับแนวทาง "ไม่มีผลิตภัณฑ์จนกว่าจะสำเร็จ" เพราะฟีดแบ็กจากโลกจริงน่าจะสำคัญต่อการพัฒนา superintelligence แต่ก็เห็นด้วยว่า superintelligence เป็นสิ่งที่อาจไปถึงได้
คำอธิบายที่ว่า "โฟกัสเพียงเรื่องเดียว" จะช่วยตัดวงจรผลิตภัณฑ์หรือภาระงานด้านการบริหารออกไปได้อย่างไร ยังต้องการคำอธิบายเพิ่ม
สงสัยว่า superintelligence ที่ปลอดภัยจะสามารถแข่งขันกับ superintelligence ที่ไม่มีข้อจำกัดได้หรือไม่ ถ้าบริษัทอื่นไล่ตามเป้าหมายเดียวกันโดยไม่เสียเวลาไปกับเรื่องความปลอดภัย ก็ไม่แน่ใจว่าจะยังแข่งขันกันได้ไหม
เคยดูบทสัมภาษณ์ที่ Yann LeCun เมินแนวคิดการใช้ LLM เพื่อสร้างสติปัญญา "ที่แท้จริง" เขาแนะนำให้นักศึกษาปริญญาเอกไปวิจัยเทคโนโลยีถัดไปแทนเทคโนโลยีนี้ เลยสงสัยว่าจะทำให้สอดคล้องกับสิ่งที่ Ilya กำลังทำอยู่ตอนนี้ได้อย่างไร และสงสัยว่า Ilya มีแผนจะใช้เทคโนโลยีอื่นหรือไม่