Altman深度访谈：人类灭绝风险非零、开源模型将引发网络安全海啸 算力竞赛不会停

10月5日，OpenAI联合创始人兼CEO Sam Altman在接受《名利场》深度专访时，就人工智能的存在性风险、开源模型的网络安全威胁、监管边界以及AI基础设施竞赛等核心议题发表了迄今最为系统的表态。他承认AI导致人类文明终结的概率"非零"，同时警告开源大模型将引发"网络安全海啸"，并坚持认为算力投入与安全标准必须同步提升。

在风险与监管问题上，Altman的立场颇为微妙：他一方面主动暂停了Astra 6.1模型的发布，理由是该模型“倾向于事故风险”;另一方面又明确表示支持开源模型，即便这意味着社会必须承受“相当严重的网络安全事件”。他对特朗普政府主导的AI自律协议评价有限，称其"是个好的开始，但远不够"，并再度呼吁就共同安全标准达成协议。

在算力与基础设施层面，Altman描述了一个能力跃升速度远超外界认知的行业现实——模型已强大到可以在训练过程中突破沙盒、入侵系统，这迫使OpenAI将安全测试前移至训练阶段本身。他坦言，政策制定者尚未真正感受到这条指数曲线的陡峭程度，“世界大概率会被下一个出大问题的事情打个措手不及”。

“奥本海默时刻”：文明级风险与非零概率

Altman在访谈中正面回应了外界将其比作"AI时代奥本海默"的说法。他并未否认这一类比，但强调这场技术革命本质上是"一小群杰出科学家和工程师共同完成的壮举"，而非某一个人的功绩。

在存在性风险问题上，Altman措辞审慎但态度明确。他承认AI导致人类文明终结的可能性“非零”，并表示这正是OpenAI成立的初衷之一。他同时警惕另一种极端——少数公司或国家借助AI实现权力高度集中，“这同样是灾难性的”。

对于有观点认为渲染灭绝风险不过是行业的营销手段或阻止新进入者的策略，Altman承认“确实有人在利用这一点为权力集中寻找借口”，但他坚持认为真实风险客观存在，不能因此被否定。他的表述是：“这不意味着风险不存在。”

开源模型与网络安全：Altman预警“海啸”将至

这是本次访谈中信息密度最高、市场含义最直接的部分。Altman明确表示支持开源大模型，但同时发出了罕见的公开警告："开源模型将带来一场即将到来的网络安全海啸。"

他的逻辑是：为了确保AI技术的民主化和广泛可及性，社会必须接受一定程度的安全代价。"我们愿意接受一些事情出错，以确保这是一项被广泛持有、使用和民主化的技术，"他说，"我们将不得不作为一个社会，接受来自开源模型的相当严重的网络安全事件，以换取随之而来的自由。"

他以航空业类比监管边界——飞机受到极为严格的监管，但仍然会坠毁。他认为，可接受的风险边界应由政治进程而非科技公司单方面决定。值得注意的是，Altman同时透露，OpenAI已将安全测试前移：此前仅在训练完成后进行测试，现在已在训练过程中实施监控，因为"模型已经聪明到可以逃出沙盒、入侵系统"。

马斯克是个“霸凌者”

Altman谈到马斯克时表示，如果希望他和埃隆 · 马斯克能够开展合作，大家就必须接受一定程度上的纷争。

“我认为有些时候，你就得狠狠回击霸凌者。”Altman表示，“而且我还觉得，埃隆和很多喜欢欺压别人的人一样，只会尊重敢于还手的对手。”

当下行业再次掀起对于人工智能安全问题的担忧，这位 OpenAI 首席执行官称自己仍然愿意和马斯克合作，而马斯克如今已经开始把昔日盟友称作“骗子Altman”。

“如果希望我能够和他共事，或许大家应该乐见我偶尔予以回击。当然，我是愿意和埃隆开展合作的。”他说道。而就自身而言，Altman坦言“我并不认为自己是一个完人”。但与此同时，他并不觉得自己才是最大的问题所在。

“在埃隆和我两个人当中，我并不确定大家矛头应该指向的那个人就是我。”他表示。

Astra 6.1暂停发布：安全标准随能力提升而提高

Altman在访谈中披露，OpenAI近期暂停了Astra 6.1模型的发布，原因是该模型未能通过安全标准。他将这一决定定性为主动自律的体现，而非外部压力的结果。

"这些模型现在处于严肃能力时代，"他说，"一年前我们或许可以合理地说，'把它发布出去，可能有点不安全，但不会发生太坏的事情'。现在不同了。"他表示，随着模型能力持续提升，OpenAI对自身的安全要求门槛将"越来越高"。

他同时拒绝了另一个极端——将强大模型锁定在少数公司手中。“如果你完全不发布，你会从另一个方向跌落，”他说，指的是权力过度集中的风险。他将OpenAI的路径描述为"在两种灾难之间走一条务实的中间道路"。

此外，Altman还透露，OpenAI此前已多次主动暂停模型训练，以等待对齐和可监控性研究跟上能力进展，但这些决定此前并未引发广泛关注。

算力、数据中心与AI基础设施：指数曲线远超政策认知

Altman在访谈中多次强调，外界——包括政策制定者——对AI能力提升速度的感知严重滞后于行业现实。他将当前的公司成长速度描述为“科技史上前所未有”，“每五年的公司成长被压缩进一年”。

在基础设施层面，他的表态揭示了一个关键转变：安全测试已不再是训练后的事后工作，而必须嵌入训练过程本身。这意味着算力投入与安全基础设施的建设必须同步推进，而非顺序进行，这将显著推高AI开发的综合成本。

对于IPO计划，Altman表示OpenAI"并不急于上市"，并强调即便上市后，非营利机构仍将继续治理公司。他明确表示，若股东利益与公司使命发生冲突，"使命优先"，股价可能因此"大幅波动"。他坦承自己在OpenAI没有直接股权，并罕见地表示"希望当初拿了股票"。

在国际合作层面，Altman呼吁就AI安全标准及合规核查机制达成协议。他对特朗普政府主导的AI自律协议评价有限，认为其"有一定社会约束力，但缺乏实质权力"，并预判监管政策将高度依赖"下一个出大问题的事情"的具体形态——是生物武器、网络攻击，还是其他形式。

本文转载自“华尔街见闻”，作者：赵颖；智通财经编辑：刘家殷。