突发!Ilya 官宣成立新公司 SSI,只专注于安全超级智能
时间:2024-06-20 14:04 | 作者:思娟 | 【 字体:大 中 小 】
自前 OpenAI 联合创始人、首席科学家 Ilya Sutskever 官宣离职一个月后,Ilya 终于终于有了新消息:成立新公司 SSI,专注于安全超级智能。
字条网四卷带您了解
今日凌晨,Ilya 在 X 上“官宣”了这一消息。
Ilya 写道,“我们将直截了当地追求安全超级智能(safe superintelligence,SSI),只有一个重点、一个目标和一个产品。我们将通过一个小型精干的团队所取得的革命性突破来实现这一目标。”
在接受彭博社采访时,Ilya 表示,“它将完全不受外界压力的影响,不必处理庞大而复杂的产品,也不必陷入竞争激烈的赛跑中。”
据 SSI 公司的官方公告介绍,他们将安全和能力作为一个技术问题,通过革命性的工程和科学突破加以解决,并计划尽快提高能力,同时确保我们的安全始终处于领先地位。
“这样,我们才能安心地扩大规模。”
“我们的专注意味着不会受到管理费用或产品周期的干扰,我们的业务模式意味着安全、保障和进步都不会受到短期商业压力的影响。”
完整公告如下:
超级智能已经触手可及
构建安全的超级智能是我们这个时代最重要的技术问题。
我们已经启动了世界上第一个专注于安全的超级智能的实验室,目标和产品只有一个:安全超级智能。
它的名字叫 Safe Superintelligence Inc.。
安全超级智能是我们的使命、名称和整个产品路线图,因为它是我们唯一的关注点。我们的团队、投资者和商业模式都是为了实现 SSI 而努力。
我们将安全和能力作为一个技术问题,通过革命性的工程和科学突破加以解决。我们计划尽快提高能力,同时确保我们的安全始终处于领先地位。
这样,我们才能安心地扩大规模。
我们的专注意味着不会受到管理费用或产品周期的干扰,我们的业务模式意味着安全、保障和进步都不会受到短期商业压力的影响。
我们在美国成立了这家公司,目前在帕洛阿尔托和特拉维夫设有办事处,在那里,我们根基深厚,有能力招募到顶尖的技术人才。
我们正在组建一支由全球最优秀的工程师和研究人员组成的精干、高效的团队,只专注于安全超级智能,而非其他。
如果你是这样的人,我们将为你提供一个完成毕生事业的机会,帮助你解决我们这个时代最重要的技术挑战。
现在正是时候。加入我们吧
Ilya Sutskever, Daniel Gross, Daniel Levy
2024 年 6 月 19 日
数十年来,研究人员一直在思考如何让人工智能系统变得更安全。目前的技术水平是利用人类和人工智能来引导软件朝着符合人类最佳利益的方向发展。至于如何阻止人工智能系统失控,这在很大程度上仍是一个哲学问题。
正如公司名称所强调的,Ilya 将人工智能的安全性放在首位。当然,关键在于确定是什么让一个人工智能系统比另一个系统更安全,或者说,到底是什么让人工智能系统更安全。
Ilya 说,他花了数年时间来思考安全问题,并已经想到了一些办法。但还没有透露一些具体细节。
但他表示,新公司将尝试通过人工智能系统中的工程突破来实现安全,而不是依靠临时应用于技术的防护措施。他说,“我们所说的安全是指像核安全那样的安全,而不是‘信任和安全’那样的安全。”
“我们可以说,我们希望它是一股善的力量。我们希望它能在一些关键价值观的基础上运行。我们所考虑的一些价值观也许就是过去几百年来取得巨大成功的价值观。”
除了 Ilya,SSI 公司还有另外两位联合创始人。其中一位是投资人、前苹果公司人工智能主管Daniel Gross,他因支持包括 Keen Technologies 在内的多家备受瞩目的 AI 初创公司而备受关注;另一位联合创始人是Daniel Levy,他曾在 OpenAI 与 Ilya 一起共事。
鉴于 Ilya 在人工智能行业近乎神话般的地位,几个月来,围绕他的身份不确定性一直是硅谷的焦点。作为一名大学研究员和后来谷歌的科学家,他在开发一系列关键的人工智能进展中发挥了重要作用,他在 OpenAI 早期的参与帮助 OpenAI 吸引到了对其成功至关重要的顶尖人才,他也因倡导建立越来越大的模型而闻名,对 ChatGPT 的崛起起到了至关重要的作用。
Ilya 说,大语言模型将在安全超级智能中发挥重要作用,但他们的目标是更强大的东西。对于目前的系统,“你和它说话,进行对话,然后就完成了”。他所追求的系统将更具通用性和扩展性。“你说的是一个自主开发技术的巨型超级数据中心。这很疯狂吧?我们希望为其安全性做出贡献。”
![](https://www.zt-hy.com/template/pc/skin/images/ndarrow.png)
猜你喜欢
![阅读量](https://www.zt-hy.com/template/pc/skin/images/default.jpg)
辛选直播间618带货近4000万单,10场直播销售额破亿
![](https://www.zt-hy.com/template/pc/skin/images/watch.png)
![阅读量](https://www.zt-hy.com/template/pc/skin/images/default.jpg)
星纪魅族彭翻:希望将Flyme Auto做成中国的安卓
![](https://www.zt-hy.com/template/pc/skin/images/watch.png)
![阅读量](https://www.zt-hy.com/template/pc/skin/images/default.jpg)
永辉超市首家胖东来“爆改”店恢复营业,首日销售额达188万
![](https://www.zt-hy.com/template/pc/skin/images/watch.png)
![阅读量](https://www.zt-hy.com/template/pc/skin/images/default.jpg)
马斯克向广告商示好,收回“去你的”言论
![](https://www.zt-hy.com/template/pc/skin/images/watch.png)
![阅读量](https://www.zt-hy.com/template/pc/skin/images/default.jpg)
低价或难挽救!最懂苹果分析师:据观察Vision Pro用几次就没用了
![](https://www.zt-hy.com/template/pc/skin/images/watch.png)
![阅读量](https://www.zt-hy.com/template/pc/skin/images/default.jpg)
突发!Ilya 官宣成立新公司 SSI,只专注于安全超级智能
![](https://www.zt-hy.com/template/pc/skin/images/watch.png)
![阅读量](https://www.zt-hy.com/template/pc/skin/images/default.jpg)
隔空回应比亚迪?长城李瑞峰:车市有人出老千我们就要掀桌子
![](https://www.zt-hy.com/template/pc/skin/images/watch.png)
![阅读量](https://www.zt-hy.com/template/pc/skin/images/default.jpg)
除了英伟达,还有谁接了xAI“大单”?马斯克:戴尔和超微电脑!
![](https://www.zt-hy.com/template/pc/skin/images/watch.png)
![阅读量](https://www.zt-hy.com/template/pc/skin/images/default.jpg)
CVPR最佳论文被生成式AI占领,清华武大华南农大上科校友获奖
![](https://www.zt-hy.com/template/pc/skin/images/watch.png)
![阅读量](https://www.zt-hy.com/template/pc/skin/images/default.jpg)
DNF安卓分离仅是开始:游戏厂商积极布局自有渠道,市场变革在即
![](https://www.zt-hy.com/template/pc/skin/images/watch.png)
![](https://www.zt-hy.com/template/pc/skin/images/info2.png)
《羊了个羊》小游戏爆火 没人过去第二关:比《王者》还气人
![《羊了个羊》小游戏爆火 没人过去第二关:比《王者》还气人](https://img.xajjn.com/article/2022/09/14/316.png)
![](https://www.zt-hy.com/template/pc/skin/images/info2.png)
WPS率先适配iOS16:7个超实用的新功能
![WPS率先适配iOS16:7个超实用的新功能](https://img.xajjn.com/article/2022/09/14/308.png)
![](https://www.zt-hy.com/template/pc/skin/images/info2.png)
临近iPhone14发售日 苹果市值一夜蒸发1500亿美元
![临近iPhone14发售日 苹果市值一夜蒸发1500亿美元](https://img.xajjn.com/article/2022/09/14/285.jpg)
![](https://www.zt-hy.com/template/pc/skin/images/info2.png)
刷新中画幅无反数码相机新高度 京东上新哈苏新品打造极致摄影新体验
![刷新中画幅无反数码相机新高度 京东上新哈苏新品打造极致摄影新体验](https://img.xajjn.com/article/2022/09/14/260.jpg)
![](https://www.zt-hy.com/template/pc/skin/images/info2.png)
2022京东×联想宠粉日火热进行中 全场至高享12期免息
![2022京东×联想宠粉日火热进行中 全场至高享12期免息](https://img.xajjn.com/article/2022/09/14/237.jpg)
![](https://www.zt-hy.com/template/pc/skin/images/info2.png)
提前激活iPhone14每台罚款20万 经销商开机展示:灵动岛动画绝了
![提前激活iPhone14每台罚款20万 经销商开机展示:灵动岛动画绝了](https://img.xajjn.com/article/2022/09/14/227.jpg)
![](https://www.zt-hy.com/template/pc/skin/images/info2.png)
千万小心!一种钓鱼攻击正在诱捕Steam用户
![千万小心!一种钓鱼攻击正在诱捕Steam用户](https://img.xajjn.com/article/2022/09/13/3166.jpg)
![](https://www.zt-hy.com/template/pc/skin/images/info2.png)
中国成汽车出口第三大国(去年出口量仅次于日本、德国)
![中国成汽车出口第三大国(去年出口量仅次于日本、德国)](https://img.xajjn.com/article/2022/09/13/2621.png)
![](https://www.zt-hy.com/template/pc/skin/images/info2.png)
手机连不上wifi是怎么回事 手机连不上wifi是什么情况
![手机连不上wifi是怎么回事 手机连不上wifi是什么情况](https://zt-hy.com/public/static/common/images/not_adv.jpg)
![](https://www.zt-hy.com/template/pc/skin/images/info2.png)
京东白条怎么用 京东白条怎样用
![京东白条怎么用 京东白条怎样用](https://zt-hy.com/public/static/common/images/not_adv.jpg)