三巨头呼吁放缓AI发展，但速度该由谁定义？

（图源：视觉中国）

蓝鲸新闻9月15日讯（记者 卢思叶）北京时间9月15日凌晨，英伟达CEO黄仁勋在All-In Summit峰会上与美国总统特朗普通过电话形式，加入了关于AI是否应该减速的讨论。

在通话中，特朗普将近期关于AI可能导致灾难性后果的说法称为“骗局”，并表示机器人和AI不会接管世界，“数据中心是未来20-25年的石油，AI也是如此。”黄仁勋则表达了赞同。

这场争议是近日硅谷科技圈最热门的话题，由Anthropic CEO Dario Amodei的一篇长文开启。9月12日，Dario Amodei发文呼吁“必须放慢前沿AI模型能力提升的速度”，为安全研究、外部评估和风险控制争取更多时间。

随着黄仁勋和特朗普的加入，关于AI减速的争论还在升温，并从学术安全问题进入产业与资本市场。

这场争论的焦点是什么？同济大学副教授李王明卉告诉蓝鲸科技，当前争论的核心分歧并不只是“安全还是发展”，还在于大模型到底在比什么？是比速度、比方向，是企业竞争逻辑优先，还是人类整体适应能力优先，以及谁来定义和决定这个速度。

她认为，两种声音并不一定矛盾，关键在于怎么定义“领先”。如果只是比谁先推出最强模型、谁参数更大、谁发布更快，那它和安全之间的关系确实会紧张。但如果领先是指更可信、更可控、更可持续、社会更能接受，那安全和领先其实可以统一。

前沿AI可以发展，但不应把快当成唯一目标，“适当慢一点，让人类想清楚价值、边界和治理，不是坏事。”李王明卉认为。

三大AI巨头罕见达成一致

作为扩张最激烈的头部AI模型企业的掌舵人，Dario Amodei的这一提议有些反常识。

为什么在此时提出这样的主张？Dario Amodei给出了两个主要原因。一是AI开始越来越多地参与下一代AI的开发，一旦模型能够帮助研究人员开发更强的模型，AI能力的提升可能形成一定程度上的“递归式自我改进”。

技术迭代速度可能因此进一步加快，最终快到安全研究人员甚至无法充分理解正在发生的变化。Dario Amodei称，今年夏天以来，这一趋势已经在行业中变得更加明显，包括Anthropic自身也出现了类似情况。

第二个原因是来自AI智能体。一群AI智能体在执行任务时自主展开网络攻击，并试图攻击用于评估其表现的系统，这样的情况在今年已经有发生。

Dario Amodei认为，如果具备类似行为模式的AI智能体拥有更强的能力，风险规模也可能随之放大。他甚至警告，如果未来6至12个月AI能力继续快速提升，类似系统可能具备更强的网络控制能力。

上述观点罕见地获得作为竞争对手的其他前沿AI公司的支持，握有xAI的马斯克直接回应“Dario是对的”。

OpenAI CEO Sam Altman转发文章并表示同意，并称这已经成为OpenAI近期内部讨论的重要议题，OpenAI也计划采用类似机制，让独立评估人员拥有类似公司内部员工的访问权限。

三大巨头的表态引发热议，文章发布后的周一交易日，亚洲AI及半导体板块普遍下跌，纳斯达克指数也出现明显回落，芯片股成为跌幅最集中的板块。

黄仁勋：安全和领先并不互斥

对Dario Amodei此前发表的文怎么看？这个问题在今日圆桌讨论环节首先被提出，黄仁勋表示安全与领先并不是互相排斥的选择，“至于暂停、放慢节奏，这些都是公司可以自愿采取的措施。”

对于文章中提到的“递归式自我改进”，以及AI是否正在接近超级智能，黄仁勋也表达了看法。

在他看来，递归式自我改进是由上下文学习、技能学习、反思、强化学习、合成数据等一系列方法组成。让AI利用技术提高各种任务的生产力，包括帮助建设AI本身，是合乎逻辑的发展路径。

因此，他并不认为递归式自我改进意味着AI会失控，企业可以在内部持续进行这类尝试，在产品正式发布之前，仍然需要经过评估和重新测试，确认模型没有出现超出预期的能力或行为。

对于AI能力究竟发展到了哪一步，黄仁勋的判断更加激进。

在被问及距离AGI还有多远时，他直接表示：“我认为我们已经到了。”而当主持人继续追问距离超级智能还有多远时，黄仁勋同样回答称：“我认为超级智能也已经到了。”

不过，他对“超级智能”的定义与通常意义上的通用超级智能有所不同。在他看来，如果把任务限定在一个具体领域，AI已经能够达到甚至超过人类水平，就可以称为该领域的超级智能。如智驾、药物研发和虚拟筛选等任务中，类似情况已经出现。

值得注意的是，产业内部还没有形成统一答案，但影响持续传导到资本市场。截至发稿的美股盘中，半导体、存储芯片板块由跌转涨，小幅上扬。

对于市场反应剧烈的算力端，李王明卉教授认为，算力需求长期仍然存在，只是结构会发生变化。“训练端如果超大模型节奏放缓，GPU和半导体短期会承压，因为市场对资本开支预期很敏感。但推理端、端侧、企业私有化部署、行业应用带来的算力需求，还会增长。”

而对于模型的影响，她表示，模型迭代不会停，但节奏可能会分化。前沿超大模型、超大训练可能会更谨慎，安全、对齐、评估、可解释性这些环节的投入会增加。小模型、开源模型、垂直行业模型、Agent应用，可能还会继续跑得很快。