DeepSeek新论文公开AI智能体训练新方法 有望减少智能体异常行为

DeepSeek 9月23日公开的最新论文详细介绍了一种训练AI智能体的新方法，有望在提高训练效率的同时，减少近年来引发全球担忧的智能体异常行为。该文发布在通常刊登未经同行评审论文的网站arXiv上，约有130名共同作者，包括创始人梁文锋。该论文介绍了DeepSeek Elastic Compute（简称DSec），该平台可以扩展至处理数百万个所谓“沙箱”。AI智能体在这些相互隔离的环境中接受测试，尝试完成一系列任务。一个生产规模的DSec单元每天可运行约300万个沙箱，同时间运行的数量可达38万个。论文还列举了智能体异常行为的例子，包括通过“非预期渠道”获得答案，以及破坏运行环境。论文称：“没有任何单一机制能够防止所有智能体异常行为和系统故障，因此我们将强化系统可观测性，以发现新出现的问题，并随着模型不断演进持续加强DSec。”