OpenAI前首席科学官Sutskever创办新AI公司 致力追求安全超级智能
OpenAI前首席科学官Sutskever创办新AI公司 致力追求安全超级智能
前OpenAI结合开创人Ilya Sutskever周三公布了其新人工智能公司Safe Superintelligence(SSI)。“我正在开办一家新公司,”Sutskever周三在X社交平台上写道,“我们将以一个重点、一个方针和一个产物,致力于寻求平安的超等智能。” 据领会,Sutskever是OpenAI的首席科学官,于上月分开了OpenAI。OpenAI焦点平安团队“Superalignment”的负责人Jan Leike同日也公布去职,插手竞争敌手人工智能公司Anthropic,他们去职的缘由是在若何处置人工智能平安问题上与OpenAI带领层产生了剧烈争执。 OpenAI的Superalignment团队专注于指点和节制人工智能系统,但在Sutskever和Leike公布去职后不久就闭幕了。 专注平安 据介绍,在这家新开办公司中,Sutskever将继续存眷平安问题。Sutskever在一次采访中暗示,SSI旨在在一个纯洁的研究组织内建立一个平安、壮大的人工智能系统,该组织近期无意发卖人工智能产物或办事。 “SSI是我们的任务、我们的名字,也是我们全部产物线路图,由于这是我们独一的存眷点,”SSI的一个账户在X上发帖称,“我们的单一重点意味着不会遭到治理费用或产物周期的干扰,而我们的贸易模式意味着平安、保障和前进都不受短时间贸易压力的影响。” Sutskever谢绝流露SSI的财政撑持者,也谢绝流露他筹集了几多资金。Sutskever与前苹果(AAPL.US)人工智能和搜刮营业的Daniel Gross和前OpenAI的Daniel Levy配合开办了这家公司。该公司在加州帕洛阿尔托和特拉维夫都设有处事处。 正如公司名称所强调的那样,Sutskever将人工智能平安作为重要使命。固然,要害在于肯定是甚么让一小我工智能系统比另外一个更平安,或说甚么是真实的平安。Sutskever今朝对此迷糊其辞,不外他确切暗示,这家新合伙企业将尽力经由过程在人工智能系统中实现工程冲破来实现平安,而不是依托利用于该手艺的护栏。他暗示:“我们所说的平安,是指像核平安如许的平安,而不是‘信赖和平安’那样的平安。” 斟酌到Sutskever在人工智能行业中近乎神话般的地位,几个月来,环绕其地位的不肯定性一向是硅谷存眷的核心。作为一位年夜学研究员,后来又成为谷歌(GOOGL.US)的科学家,他在开辟人工智能的一些要害进展中阐扬了主要感化。他在OpenAI初期的介入帮忙它吸引了对其成功相当主要的顶尖人材。Sutskever以其构建更年夜模子的首要提倡者而著名,这一策略帮忙这家草创公司超出了谷歌,并被证实对ChatGPT的突起相当主要。 在客岁年末OpenAI的戏剧性事务以后,人们对Sutskever打算的爱好进一步加强。他依然谢绝对客岁OpenAI董事会产生的事务流露太多。当被问及他与OpenAI CEO奥特曼的关系时,Sutskever只说“很好”,他暗示奥特曼“年夜致”领会这家新公司。关于他曩昔几个月的履历,他弥补道,“这很希奇。我不知道我是不是能给出比这更好的谜底。” 在某种水平上,SSI是对最初OpenAI概念的回归:一个研究组织试图成立一种通用人工智能,在很多使命上可以与人类匹敌,乃至超出人类。但跟着为计较能力筹集巨额资金的需求变得较着,OpenAI的布局也在随之演化。这致使该公司与微软(MSFT.US)成立了慎密的合作关系,并鞭策了其出产创收产物的尽力。所有首要的人工智能介入者都面对着一样的困难,跟着人工智能模子的范围继续以指数级的速度增加,他们需要为不竭扩年夜的计较需求付费。 但如许的经济实际让SSI成为投资者的一场冒险,他们会押注于Sutskever和他的团队将获得冲破,从而使其相对具有更年夜团队和领先优势的竞争敌手占有优势。这些投资者将投入资金,但其实不期望在此过程当中缔造出有益可图的热点产物。并且,SSI所但愿实现的方针是不是可能实现,这一点今朝尚不清晰。 虽然如斯,鉴于其开创团队的出色布景和该范畴的稠密爱好,SSI在筹集资金方面可能不会碰到太年夜坚苦。Gross暗示:“在我们面对的所有问题中,融资不会是此中之一。”