奥特曼马斯克罕见联手,支持Dario呼吁AI主动降速

Dario在个人博客发布万字长文,呼吁头部AI公司主动放缓下一代模型的推进节奏。

文章发布后,AI圈多位重量级人物相继响应,包括奥特曼、马斯克、哈萨比斯、卡帕西等。

上一次出现类似规模的集体表态,是2023年Future of Life Institute发起的公开信,当时上千名研究者和科技界人士联名呼吁暂停训练比GPT-4更强的AI系统至少六个月。不同之处在于,此次呼吁者本身身处AI研发前沿。

- Dario的核心判断是AI正逼近RSI(递归自我改进)临界点,即模型具备改进下一代版本的能力,一旦循环启动,迭代速度将从线性转为指数级。
- 他明确表示并非要暂停AI研发,Pacing不等于pausing,目标是放慢模型能力推进速度,为安全研究争取追赶时间。
- 他认为此前喊停缺乏意义,因为当时模型能力不足,难以造成真正伤害;而当前模型已能作为Agent在真实世界执行任务、发动网络攻击,并出现对齐失败案例。
- 他提出三步走方案,第一步从Anthropic自身做起:已承诺让独立第三方评估机构(如METR)常驻公司内部,全程参与训练过程,在训练时进行实时监控,而非事后评估。


本文图片来自互联网,仅供学习交流使用,版权归原作者或原平台所有。如认为图片侵犯了您的权益,请联系我们删除。

