- Safe Superintelligence (SSI) ที่ Ilya Sutskever อดีตหัวหน้านักวิทยาศาสตร์ของ OpenAI ร่วมก่อตั้งขึ้นใหม่ ระดมเงินสดได้ 1 พันล้านดอลลาร์ เพื่อช่วยพัฒนาระบบ AI ที่ปลอดภัยซึ่งเหนือกว่าความสามารถของมนุษย์อย่างมาก
- ปัจจุบัน SSI มีพนักงาน 10 คน และมีแผนจะใช้เงินทุนนี้เพื่อจัดหากำลังประมวลผลและจ้างบุคลากรระดับแนวหน้า
- โดยจะมุ่งสร้างทีมวิจัยและวิศวกรขนาดเล็กที่ไว้ใจได้ในเมืองพาโลอัลโต รัฐแคลิฟอร์เนีย และเทลอาวีฟ ประเทศอิสราเอล
- บริษัทไม่ได้เปิดเผยมูลค่ากิจการ แต่ตามแหล่งข่าวที่เกี่ยวข้องระบุว่าได้รับการประเมินมูลค่าที่ 5 พันล้านดอลลาร์
- การระดมทุนครั้งนี้แสดงให้เห็นว่านักลงทุนบางส่วนยังคงยินดีเดิมพันครั้งใหญ่กับบุคลากรชั้นยอดที่มุ่งเน้นการวิจัย AI ขั้นพื้นฐาน
- นักลงทุนประกอบด้วยบริษัทร่วมลงทุนชั้นนำอย่าง Andreessen Horowitz, Sequoia Capital, DST Global และ SV Angel
- รวมถึง NFDG พันธมิตรการลงทุนที่ดำเนินการโดย Nat Friedman และ Daniel Gross ซีอีโอของ SSI ก็เข้าร่วมด้วย
- ความปลอดภัยของ AI เป็นประเด็นร้อนท่ามกลางความกังวลว่า AI อาจกระทำการขัดต่อผลประโยชน์ของมนุษยชาติหรือแม้แต่นำไปสู่การสูญพันธุ์ของมนุษย์
- ร่างกฎหมายในแคลิฟอร์เนียกำลังผลักดันกฎระเบียบด้านความปลอดภัยต่อบริษัทต่าง ๆ และกำลังสร้างความแตกแยกในอุตสาหกรรม
- OpenAI และ Google คัดค้าน ขณะที่ Anthropic และ xAI ของ Elon Musk สนับสนุน
- Sutskever เป็นหนึ่งในนักเทคโนโลยีที่มีอิทธิพลมากที่สุดในวงการ AI
- เขาร่วมก่อตั้ง SSI เมื่อเดือนมิถุนายนกับ Daniel Gross และ Daniel Levy
- Sutskever ดำรงตำแหน่งหัวหน้านักวิทยาศาสตร์ Levy เป็นหัวหน้านักวิทยาศาสตร์ และ Gross รับผิดชอบด้านกำลังประมวลผลกับการระดมทุน
New Mountain
- Sutskever กล่าวว่าเขาเริ่มธุรกิจใหม่นี้เพราะ “ผมค้นพบภูเขาลูกใหม่ที่แตกต่างจากงานที่ผมเคยทำอยู่เล็กน้อย”
- เมื่อปีที่แล้ว ในฐานะกรรมการขององค์กรแม่ไม่แสวงหากำไรของ OpenAI เขาโหวตให้ปลด Sam Altman ซีอีโอของ OpenAI โดยอ้างเรื่อง “การสื่อสารที่ขาดตอน”
- ไม่กี่วันต่อมา เขากลับคำตัดสินและลงนามในจดหมายร่วมกับพนักงาน OpenAI เกือบทั้งหมด เพื่อเรียกร้องให้ Altman กลับมาและให้คณะกรรมการลาออก
- อย่างไรก็ตาม เหตุการณ์นี้ทำให้บทบาทของเขาถูกลดทอน เขาถูกถอดออกจากบอร์ด และออกจากบริษัทในเดือนพฤษภาคม
- หลังจาก Sutskever ออกไป บริษัทได้ยุบทีม ‘superalignment’ ที่มีหน้าที่ทำให้ AI สอดคล้องกับคุณค่าของมนุษย์ เพื่อเตรียมรับวันที่ AI จะฉลาดเหนือมนุษย์
- แม้ก่อตั้งขึ้นเพื่อความปลอดภัยของ AI แต่แตกต่างจากโครงสร้างองค์กรที่ผิดปกติของ OpenAI ซึ่งเปิดทางให้สามารถปลด Altman ได้ SSI ใช้โครงสร้างแบบแสวงหากำไรทั่วไป
- ขณะนี้ SSI มุ่งเน้นอย่างมากกับการจ้างคนที่เหมาะกับวัฒนธรรมองค์กร
- บริษัทใช้เวลาในการตรวจสอบว่าผู้สมัครมี “อุปนิสัยที่ดี” หรือไม่ และมองหาคนที่มีความสามารถไม่ธรรมดามากกว่าจะเน้นคุณวุฒิและประสบการณ์เฉพาะด้านมากเกินไป
- Gross เสริมว่า “เราตื่นเต้นเมื่อได้พบคนที่สนใจตัวงานจริง ๆ แต่ไม่สนใจเรื่องรอบข้างหรือการโฆษณาชวนเชื่อเกินจริง”
- SSI มีแผนร่วมมือกับผู้ให้บริการคลาวด์และบริษัทชิปเพื่อตอบโจทย์ความต้องการด้านกำลังประมวลผล แต่ยังไม่ได้ตัดสินใจว่าจะร่วมงานกับบริษัทใด
- สตาร์ทอัป AI มักร่วมมือกับบริษัทอย่าง Microsoft หรือ Nvidia เพื่อแก้ปัญหาความต้องการด้านโครงสร้างพื้นฐาน
- Sutskever เป็นผู้สนับสนุนยุคแรกของสมมติฐานการสเกลลิงที่ว่า หากให้กำลังประมวลผลมหาศาล ประสิทธิภาพของโมเดล AI จะดีขึ้น
- แนวคิดนี้และการลงมือทำได้จุดกระแสการลงทุนด้าน AI ในชิป ดาต้าเซ็นเตอร์ และพลังงาน และวางรากฐานให้ AI แบบก้าวหน้าอย่าง ChatGPT
- เขากล่าวว่าจะเข้าหาการสเกลลิงในแบบที่ต่างจากที่ทำงานเดิม แต่ไม่ได้เปิดเผยรายละเอียด
- เขากล่าวว่า “ทุกคนเอาแต่พูดถึงสมมติฐานการสเกลลิง แต่ไม่ได้ถามว่าเรากำลังสเกลอะไรอยู่”
-
“บางคนสามารถทำงานหนักเป็นเวลานานมากเพื่อเดินบนเส้นทางเดิมให้เร็วขึ้นได้ นั่นไม่ใช่สไตล์ของเรา แต่ถ้าคุณทำอะไรที่แตกต่างออกไป คุณอาจสร้างสิ่งพิเศษได้”
ความเห็นของ GN⁺
- การลงทุนครั้งนี้เป็นตัวอย่างที่สะท้อนความสำคัญของการวิจัย AI ขั้นพื้นฐานและคุณค่าของบุคลากร แม้สตาร์ทอัป AI จำนวนมากจะเผชิญความยากลำบากในการระดมทุนก้อนใหญ่ แต่ SSI ก็ได้รับเงินลงทุนมหาศาลจากการยอมรับในความสามารถของผู้ก่อตั้ง
- ประเด็นความปลอดภัยของ AI กำลังกลายเป็นเรื่องสำคัญจากการพัฒนาอย่างรวดเร็วของ generative AI เช่น ChatGPT อย่างไรก็ตาม การกำกับดูแล AI เพื่อความปลอดภัยอย่างเข้มงวดเกินไปอาจขัดขวางนวัตกรรม จึงจำเป็นต้องมีแนวทางที่สมดุล
- SSI ระบุว่าจะเดินหน้ากลยุทธ์การสเกลลิงที่แตกต่างจากแนวทางเดิม แต่ยังไม่เปิดเผยรายละเอียด ทำให้ต้องจับตาดูต่อไป และคาดหวังการพัฒนาโมเดล AI รูปแบบใหม่
- ความขัดแย้งระหว่าง Sutskever กับ OpenAI น่าเสียดาย แต่ดูเหมือนจะเกิดแพลตฟอร์มใหม่ที่สามารถใช้ประโยชน์จากพรสวรรค์และวิสัยทัศน์ของเขาได้ จำเป็นต้องติดตามว่า SSI จะส่งผลต่อพัฒนาการของ AI ในอนาคตอย่างไร
- แม้จะเป็นสตาร์ทอัประยะเริ่มต้น แต่กลยุทธ์การจ้างงานของ SSI ก็น่าสนใจ การให้ความสำคัญกับความสามารถและค่านิยมมากกว่าการศึกษาและประสบการณ์ถือเป็นทิศทางที่พึงประสงค์ อย่างไรก็ตาม ในสถานการณ์ที่การแข่งขันแย่งชิงบุคลากร AI รุนแรง วิธีนี้จะได้ผลหรือไม่นั้นยังไม่แน่นอน
3 ความคิดเห็น
โห คนระดับ 100 ล้านดอลลาร์จริง ๆ!!!
ระดมทุนได้ 1.3 ล้านล้านวอนภายในเวลาเพียงสองเดือนหลังเริ่มก่อตั้ง.. ตลาดน่าหวาดหวั่นจริงๆ
อิลยา ซุตสเคเวอร์ ออกจาก OpenAI และก่อตั้ง Safe Superintelligence Inc.
ความเห็นจาก Hacker News
สงสัยว่าบริษัทที่ได้รับการลงทุนในสาย AI จะสร้างรายได้อย่างไร
ในฐานะ CFO ก็สงสัยว่าจะบริหารเงินสด $1B อย่างไรในระยะสั้นและระยะกลาง
ระดมทุนแบบเดียวกับ OpenAI แต่ SSI จะไม่ออกผลิตภัณฑ์แม้แต่ตัวเดียวจนกว่าจะไปถึง superintelligence
เงินลงทุน $1,000,000,000 อาจบิดเบือนวิสัยทัศน์ด้านความปลอดภัยของ SafeAI
การได้รับเงินหนุนจาก a16z อาจเป็นสัญญาณว่าวงการนี้ไม่ร้อนแรงเหมือนเดิมแล้ว
หลายคนกำลังตั้งสมมติฐานว่าเป้าหมายคือ LLM ขนาดใหญ่มาก
Sam Bankman-Fried ระดมทุนได้ที่ตัวคูณสูงกว่า
ไม่มั่นใจว่าจะสร้าง AGI ได้จริงหรือไม่
ไม่เข้าใจว่าทำไม AI ที่ "ปลอดภัย" ถึงระดมทุนได้มาก
เป็นหนึ่งในกรณีที่ได้มูลค่าประเมินเกิน 1 พันล้านดอลลาร์อย่างรวดเร็ว