来源:21世纪经济报道
2024-07-23 08:54:36
(原标题:从三中全会《决定》看AI发展风向:强调标准化发展、建立安全监管制度)
21世纪经济报道记者肖潇 实习生霍凯 北京报道
一向被视为经济政策风向标的二十届三中全会,于上周正式落幕。周日(7月21日),新华社授权发布了《中共中央关于进一步全面深化改革、推进中国式现代化的决定》(下称《决定》)。
《决定》共15部分,60项条款,分别在产业发展和安全治理方面,各提到人工智能两次。作为全会最重要的成果,《决定》在人工智能方面透露了哪些风向?国内又有哪些政策已经在塑形人工智能产业?
《决定》首先在与体制机制发展有关的部分提到了人工智能。《决定》进一步强调了产业政策,承诺推动“战略性产业”,点名列举的八大战略性产业为新一代信息技术、人工智能、航空航天、新能源、新材料、高端装备、生物医药、量子科技。
值得注意的是,人工智能在今年引起高层关注。国务院总理李强今年召开了三次经济形势专家和企业家座谈会,每次发言的8位嘉宾中,都有人工智能领域的企业家代表:
1月23日,百度CEO李彦宏在企业家中第一个发言,百度近两年在生成式AI大模型、无人驾驶领域的发展迅速;
4月8日,第一个发言的企业家是上海傅利叶CEO顾捷,公司专攻通用人形机器人;
7月10日,北京梅卡曼德机器人CEO邵天兰发言,公司研发以深度学习为核心的智能工业机器人。
产业政策文件在最近同步发出。比如7月2日,工业和信息化部等四部门印发了《国家人工智能产业综合标准化体系建设指南(2024版)》。该建设指南明确了人工智能标准体系结构、人工智能标准体系框架两个建设思路。承诺到2026年,标准与产业科技创新的联动水平会持续提升,将新制定国家标准和行业标准50项以上,引领人工智能产业高质量发展。
本次《决定》也在列举战略性产业后再次重申,要以国家标准提升引领传统产业优化升级。
促发展的另一边,《决定》也强调了治理的重要性。其中一条落在“深化文化体制机制改革”板块,指出要“完善生成式人工智能发展和管理机制。加强网络空间法治建设,健全网络生态治理长效机制”;
另一条落在“推进国家安全体系和能力现代化”板块,指出要“加强网络安全体制建设,建立人工智能安全监管制度。”
北京师范大学法学院副教授、中国互联网协会研究中心副主任吴沈括告诉21记者,我国目前AI监管的整体特点是立足产业,在确保安全的前提下指引发展。可以说是一种综合式的生态治理,从政策战略、法律法规和其他规范三个维度来展开。
在两周前结束的2024年中国互联网法治大会上,人大常委会法工委研究室主任王洪宇回应了中国人工智能法的立法问题。他也表示,目前指导中国人工智能法立法的基本原则是平衡发展与安全,立法思路是包容、审慎和分阶段。 换言之,立法短期内难见影子。
目前对于人工智能的监管,我国主要还是通过政策规定引导。其中,最重要的监管抓手是由算法备案和大模型备案共同构成的“双备案”制——前者来自《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》;后者来自去年7月,国家网信办等七部门新公布的《生成式人工智能服务管理暂行办法》,针对AI大模型,对内容的安全性、准确性和可靠性提出要求,
不过,上述两种规定都没有细化对大模型的具体要求、评估参数、评估工具等。今年3月,全国网络安全标准化技术委员会出台《生成式人工智能服务安全基本要求》,作为配套性的标准指南,更具实践指导意义。
该标准在语料采集、语料标注、内容安全监测、服务稳定性等方面提供了量化评估标准。比如在内容安全方面,《生成式人工智能服务安全基本要求》指出要采用人工抽检,从全部训练语料中随机抽样不少于4000条语料,合格率不应低于96%;从应拒答测试题库中随机抽取不少于300条测试题,模型的拒答率不应低于95%。
需要注意的是,《生成式人工智能服务安全基本要求》为技术性质的指南,不具有强制性,但可以作为指引。此前21记者参加的行业讨论会中,多家国内大模型公司法务都曾提到,该要求是企业合规落地的参考模板。
此外,去年11月推出的《科技伦理审查办法(试行)》也在AI监管领域掀起不小的讨论。伦理治理是人工智能领域的重要板块,《科技伦理审查办法(试行)》明确要求,从事人工智能等科技活动的单位,研究内容涉及科技伦理敏感领域的,应设立科技伦理(审查)委员会,同时在国家科技伦理管理信息登记平台进行登记。
中国人工智能学会人工智能伦理与治理工委会主任陈小平此前撰文指出,我国已经对生命科学、医学领域的伦理研究做出了贡献更详细的规定,但AI领域缺乏更具体的规定,因此AI伦理审查实施细则应当作为下一步的重点工作。
吴沈括认为,在人工智能监管的规则完善上,评估、审计等规则还有待落地,以及缺少业务层面的典型案例汇总。整体来说,他认为人工智能的监管核心仍然在于培育健康发展的AI生态。
21世纪经济报道
2024-09-07
21世纪经济报道
2024-09-07
金融界
2024-09-07
21世纪经济报道
2024-09-07
读创
2024-09-07
读创
2024-09-07
证券之星资讯
2024-09-06
证券之星资讯
2024-09-06
证券之星资讯
2024-09-06