Anthropic联合创始人奥拉：AI或“大规模”取代人类劳动力，呼吁加强外部监督

智通财经APP获悉，Anthropic联合创始人克里斯·奥拉周一表示，人工智能的开发不能完全交由科技公司主导，呼吁宗教领袖、政府及公民社会加强监督。奥拉在教皇方济各首份关于人工智能的通谕发布会上指出，AI“极有可能”会“大规模”替代人类劳动力。

奥拉指出，像Anthropic这样的前沿AI实验室“运行在一套激励机制和约束条件之中”，这些条件——包括强大的商业压力、地缘政治考量以及个人职业动力——有时会与“做正确的事”发生冲突。

“即使是最善意的研究人员，也会受到这些力量的影响，”奥拉表示。他认为，这恰恰说明了外部监督的不可或缺性——需要来自科技行业之外的、有分量的声音，对AI公司的决策提出挑战和引导。

奥拉认为，这使得外部监督变得至关重要。

Anthropic与特朗普政府的摩擦：坚持军事用途“护栏”

Anthropic是一家总部位于美国的公司，开发了Claude AI工具。该公司与特朗普政府发生过冲突，尤其是在坚持设置护栏方面——限制其模型被用于自主武器瞄准或国内监控等军事用途。

奥拉对教会参与这一快速发展的技术表示欢迎，称AI引发的伦理问题远远超出了工程范畴。这一立场在美国科技界属于较为罕见的“自我约束”案例。大多数AI公司要么积极配合政府合同，要么仅发表模糊的伦理声明。Anthropic的做法既体现了其联合创始人的理念，也反映出科技企业在国家安全与道德红线之间的张力。

“AI提出的问题比AI研究群体本身要大得多，”他呼吁出现“认真、深思熟虑的批评者”，能够挑战企业，并帮助引导强大新系统的开发朝着积极方向发展。

三大紧迫议题：就业替代、全球共享、系统透明度

奥拉强调了三个亟需关注的领域：大规模失业风险;确保AI收益惠及全球——他指出AI开发集中在少数富裕国家，必须解决收益共享问题;如何解释日益复杂且有时不透明的系统行为——这一问题尚未解决。

奥拉直言，AI“极有可能”会“大规模”替代人类劳动力。“如果这种情况发生，为被替代者提供支持将是一项具有历史意义的道德义务。”这一判断呼应了近期多项经济学研究——高盛曾预测，全球约有3亿个全职岗位可能受到生成式AI的影响。

AI收益存在全球分配不均问题。奥拉质问道，“AI开发集中在少数富裕国家。我们如何确保AI的收益在全球范围内共享?”目前，美国和中国占据了全球AI基础设施与人才的大多数份额，而非洲、拉美及南亚大部分地区仍是“旁观者”。这种技术鸿沟若不主动弥合，可能进一步加剧全球不平等。

此外，还有系统行为的“黑箱”问题。奥拉提出，AI系统正变得日益复杂，有时甚至对开发者自己来说都是不透明的。如何解释这些系统的行为、如何确保其在关键决策(如医疗、司法、金融)中可被审计、可被问责，仍然是一个悬而未决的难题。

值得一提的是，周一的活动标志着科技行业与天主教会之间一次不同寻常的汇聚。天主教会一直试图在AI快速发展的影响方面定位自身的道德声音。