财联社6月20日讯（编辑 史正丞）当地时间周三，上个月从OpenAI离职的公司联合创始人、（前）首席科学家，以及去年在OpenAI董事会投出关键一票将奥尔特曼赶出公司，又反悔将他请回来的深度学习领域权威专家伊尔亚·苏茨克维（Ilya Sutskever），正式宣布单飞后的全新AI创业项目。
简单来讲，苏茨克维创办了一家叫做“安全超级智能”（Safe Superintelligence，简称SSI）的新公司，目标是“一步到位”地创造一个安全的超级智能。
安全第一、直通终极目标
苏茨克维打算在一个纯粹的研究机构里，直接创造一个安全、强大的人工智能系统，同时不会在短期内推出任何商业化产品或服务。他对媒体介绍称：“这个公司很特别，因为它的第一个产品就会是安全的超级智能，直到（实现）那一天前不会做任何其他事情，完全隔离于外部压力，不必去处理大型、复杂的产品或陷入激烈的竞争中。”
安全第一、不搞商业化、不理睬外界压力，整段话里苏茨克维没有提到过一次OpenAI，但背后的意思已经不言自明。虽然OpenAI的“宫斗”事件以奥尔特曼的大胜、速胜结束，但整件事情背后加速主义与安全主义的路线之争并没有结束。
虽然理念不同，但双方私下里依然维持着尚可的关系。在今年5月15日宣布离开工作十年的OpenAI之时，苏茨克维也发布了一张管理层的合照，并表示相信在奥尔特曼等人的带领下，OpenAI将构建出安全又有益的AGI（通用人工智能）。
对于苏茨克维的离开，奥尔特曼回应称“深感悲伤”，并表示没有苏茨克维就没有OpenAI的今天，并对双方分道扬镳“深感悲伤”。
自去年的“宫斗”事件结束后，苏茨克维一直对于整件事保持沉默，直到今天依然如此。在被问及他与奥尔特曼的关系时，苏茨克维只是简单地回答了一句“很好”，而被问及过去几个月的经历时，他也只是表示“非常奇怪”。
“像核安全一样的安全”
从某种意义上来看，苏茨克维目前也无法准确界定AI系统安全与否的分界线，只能说有一些不一样的想法。
苏茨克维暗示称，他的新公司将尝试使用“嵌入AI系统的工程突破”来实现安全，而不是技术上临时应用的“防护栏”。他强调：“我们所说的安全，是指像核安全一样的安全，而不是类似于‘信任与安全’那样的东西”。
他表示花了很多年来思考AI安全方面的问题，并且在心目中已经有了几种实现的方法。他介绍称：“在最基本的层面上，安全的超级智能应该具有这样的特性，即不会对人类造成大规模伤害。在此之后，我们可以说希望它成为一种善的力量，一种建立在关键价值观上的力量。”
除了大名鼎鼎的苏茨克维外，SSI还有两名创始人——前苹果公司机器学习主管、知名科技风险投资人丹尼尔·格罗斯，另一个是与苏茨克维一同在OpenAI训练大模型的工程师丹尼尔·莱维。
莱维表示，我的愿景与苏茨克维完全一致：一个小而精干的团队，每个人都专注于实现安全超级智能的单一目标。
虽然目前并不清楚SSI为何敢于喊出“一步到位”（到底有多少投资人、投了多少钱），但格罗斯明确表示，公司的确会面临许多问题，但找钱不会是其中之一。
回归OpenAI的初心
从一系列愿景中不难发现，所谓“安全超级智能”，本质上就是OpenAI创立初期的概念。但随着训练大模型带来的费用激增，OpenAI不得不与微软合作，换取资金和算力支持延续他们的事业。
这样的问题也会出现在SSI未来的路上——公司的投资人真的愿意投入大量资金，看着这家公司没有任何产出，直到实现“超级智能”的最终目标吗？
顺便一提，“超级智能”本身也是一个理论上的概念，指的是一种超越人类水平的人工智能系统，比起全球大多数超级科技公司正在追求的成果更加先进。但业内对于能否实现这样的智能，或如何构建这样的系统尚未形成共识。
而令人在意的是，在SSI公司发布的首个公告中，第一句话就是“超级智能已经近在咫尺”。
附：SSI公告
安全超级智能公司 (Safe Superintelligence Inc.)
超级智能已经近在咫尺。
构建安全的超级智能是我们这个时代最重要的技术问题。
我们已经启动了世界上第一个直击目标的SSI实验室，目标和产品只有一个：安全的超级智能。
它叫做安全超级智能公司。
SSI是我们的使命、我们的名字和我们全部的产品路线图，因为这是我们唯一的关注点。我们的团队、投资者和商业模式都齐心协力实现SSI。
我们将安全性和能力并行，视为需要通过革命性工程和科学突破解决的技术问题。我们计划在确保安全性始终优先的情况下尽可能快地提高能力。
这样，我们就能在平静的状态中扩展。
我们的专注意味着不会因管理事务或产品周期而分心，我们的商业模式意味着安全性和技术进步都不会受到短期商业压力的影响。
我们是一家美国公司，在帕洛阿尔托和特拉维夫设有办事处，这些地方是我们的根基所在，也能在这些地方招募到顶尖的技术人才。
我们正在组建一个精简的、出类拔萃的世界顶尖工程师和研究人员团队，只专注于SSI。
如果你是那样的人，我们提供一个机会，让你完成一生的事业，帮助解决我们这个时代最重要的技术挑战。
现在是时候了。加入我们。
伊利亚·苏茨克维尔 、丹尼尔·格罗斯、丹尼尔·利维
2024年6月19日
友情提示
本站部分转载文章，皆来自互联网，仅供参考及分享，并不用于任何商业用途；版权归原作者所有，如涉及作品内容、版权和其他问题，请与本网联系，我们将在第一时间删除内容！
联系邮箱：1042463605@qq.com