OpenAI前首席科学家新创AI公司已筹资10亿美元 计划打造更安全的AI

由前 OpenAI 首席科学家Ilya Sutskever共同创立的人工智能研究实验室 Safe Superintelligence Inc.已筹集 10 亿美元资金，用于构建安全而强大的人工智能系统。

Safe Superintelligence 周三宣布，Andreessen Horowitz、Sequoia Capital 和 SV Angel 参与了此轮融资。Nat Friedman 和 Safe Superintelligence 联合创始人 Daniel Gross 的风险投资公司 NFDG 也参与了投资。

去年，Ilya Sutskever投下罢免OpenAI CEO奥尔特曼的关键一票。在短短几天内，他又改变了主意，和大多数员工一起签署联名信，要求奥尔特曼回归。奥尔特曼回归后，Ilya Sutskever被踢出OpenAI董事会，之后又在今年5月离职。

他离开后，OpenAI解散了曾由他领导的“超级对齐”团队。这个团队的核心工作是确保人工智能的价值观与人类一致，为人工智能超越人类智能的那一天做好准备。

Sutskever在离开 OpenAI 后不久，于 6 月成立了 Safe Superintelligence。该合资企业旨在在一个纯研究机构内开发强大的人工智能系统，该机构近期无意销售人工智能产品或服务。其方法将 Safe Superintelligence 与 OpenAI 和 Anthropic 等为消费者和企业提供人工智能产品的公司区分开来。

“这家公司的特殊之处在于，它的第一款产品将是安全超级智能，在此之前它不会做任何其他事情，”Sutskever表示。“它将完全免受处理大型复杂产品和陷入激烈竞争的外部压力。”