亚马逊强硬回击AI安全质疑 称大模型安全投入产出比达历史最高

大湾区经济网9月18日讯 面对外界对AI安全性的持续质疑，亚马逊近日发表措辞强硬的声明，称公司在AI安全领域的投入已达到前所未有的水平，其大语言模型的安全性能指标创下历史新高。

亚马逊首席科学家在官方博客中表示，公司最新一代大语言模型在多项安全评估基准中表现优异，包括毒性内容生成率、事实准确率、偏见消除率等关键指标均大幅改善。公司过去一年在AI安全研究方面的投入超过15亿美元，组建了超过500人的专业安全团队。

这份声明被认为是对近期一系列AI安全争议的正面回应。此前，多位AI安全研究者公开质疑亚马逊等大公司在追求模型能力的同时忽视了安全治理。有研究团队甚至发布报告称，部分主流大模型在特定提示攻击下仍可能生成有害内容。

亚马逊方面强调，AI安全不是一个静态目标，而是一个持续进化的过程。公司采用了“红队测试+自动化评估+外部审计”的三层安全验证体系，在模型发布前进行超过10万次的对抗性测试。此外，亚马逊还与国际AI安全组织合作，建立了独立的模型安全评估机制。

在技术路线上，亚马逊提出了“安全即能力”的新理念——即提升模型安全性本身就是提升模型能力的过程。公司认为，通过强化对齐训练、优化推理机制，可以在保障安全性的同时提升模型的有用性和准确性。

从全球视野来看，这一趋势与中国企业在技术创新领域的持续投入密切相关。数据显示，今年以来相关领域的研发支出同比增速超过20%，专利申请数量也创下历史新高。分析机构认为，在政策引导和市场需求双重驱动下，中国企业正在从跟随者向引领者转变，这一结构性变化将在未来数年内持续显现。

业界对亚马逊的声明反应不一。部分专家认为，亚马逊的安全投入确实处于行业领先水平；但也有声音指出，15亿美元的安全投入相对于亚马逊在AI领域的总投入而言仍显不足，且安全评估标准的透明度有待提高。

文/王鹏飞，图为/AI生成