四部门出手启动“清朗”专项行动，天融信关注算法安全问题

近日，国家市场监督管理总局办公厅、公安部办公厅等四部门决定自即日起至2025年2月14日开展“清朗·网络平台算法典型问题治理”专项行动，重点整治同质化推送营造“信息茧房”、违规操纵干预榜单炒作热点等6个重点问题，督促企业深入对照自查整改，进一步提升算法安全能力。

与往年清朗行动关注点不同，今年专项行动将重点关注提升榜单透明度、打击操纵榜单行为。中国计算机学会计算机安全专业委员会委员、天融信科技集团(002212.SZ)副总裁吕延辉在近期采访中表示，本次专项活动的治理重心主要在于规范化热搜榜单的透明度和可解释性，而不仅仅局限于直接对网络水军等违法行为的整治。透明度和可解释性意味着热搜榜单的形成应当需要一定的合理性和公正性，可以间接打击网络黑灰产，确保榜单排序规则不会被用于恶意营销和炒作。通过健全的技术监测与识别手段，结合严格的法律制裁，将能够更有效地遏制此类违法活动，净化网络环境。

他进一步举例，在2024年，某地公安局就成功端掉一个网络水军犯罪团伙，该团伙声称花5万元就可登上热搜榜，涉及到社会舆论、热点事件、广告推广、账号运营等多个环节。

除上述关注点外，本次 “清朗·网络平台算法典型问题治理”专项行动还将重点关注大数据“杀熟”、 增强算法向上向善服务保护网民合法权益和落实算法安全主体责任。吕延辉介绍，大数据“杀熟”是利用算法和大数据分析进行的不公平的价格歧视和误导性促销行为，与用户的个人信息密切相关，不仅可能侵犯《消费者权益保护法》中明确规定的消费者知情权、公平交易权等基本权利，还可能触及并违反《网络安全法》、《个人信息保护法》等相关法律法规中关于个人信息保护、公平交易原则等的具体条款。他认为，严禁大数据“杀熟”就要求企业在用户信息使用过程中做到合法合规，在定价和促销活动中保持公平、透明和诚信。消费者自身也应该加强自我保护意识，例如发现问题后及时固定“杀熟”证据，学会运用法律武器维护自身权益。

在谈到落实算法安全主体责任时，吕延辉表示，专项行动的主要目标是确保企业在使用算法时，能够全面承担起相应的安全主体责任。这要求企业在追求技术创新和业务发展的同时，必须高度关注算法使用的合规性与安全性，防止损害用户权益、危害社会稳定或触犯法律法规。

他认为，合规备案是基线。例如，对于提供深度合成服务、生成式人工智能服务的企业，必须及时履行国家相关备案手续，确保业务在合法合规的框架内运行。其次，数据安全管理是关键。企业应建立健全数据安全管理制度和技术体系，从数据采集、存储、传输到使用的每一个环节，都要确保数据的安全性、完整性和合法合规。此外，在算法设计研发阶段，企业应建立并严格执行安全开发规范，推进人工智能可解释性研究，确保算法决策的透明度和可理解性。同时，在算法的系统部署、测试、运行等关键环节，必须全面落实监测、管理与评估等安全及合规措施。例如，要确保用于训练算法的数据来源合法，不侵犯个人隐私和其他合法权益。最后，他建议定期开展内容审查、价值观导向审查、避免算法歧视、增加算法公开透明。

据了解，天融信目前已成为国内自主研发产品品类最全的网安企业，围绕网络安全、大数据与云服务三大业务，推出100余类产品和服务、1000多款型号，具备“一专多强”网络安全与数据安全技术能力。相关负责人表示，天融信将持续在AI+安全、数据安全、新型工业化安全、车路云一体化安全、商用密码应用安全等领域探索实践，打造网络安全新质生产力。

消息面上，天融信自主研发的天问大模型近日成功通过“生成式人工智能服务备案”，获得备案批号，加上此前其通过了“境内深度合成服务算法备案”，目前天问大模型已经完成了算法及模型服务的双备案。此外，天融信近日在互动平台表示，公司正在积极拓展国际化业务，目前主要参与了亚洲、非洲、拉美等“一带一路”沿线的数字基础设施安全建设，以及“走出去”企业安全建设。在跨境数据流动方面，公司引入了自然语言处理、深度学习、差分隐私、同态加密、数据匿名等前沿技术，发布隐私计算平台、数据防泄漏、数据分类分级、数据安全管理平台、数据安全治理咨询、数据安全评估、数据安全运营等相关产品及服务，推出数据跨境安全合规建设解决方案，能够帮助客户制定执行跨境数据安全合规基线、建立数据全生命周期的安全技术体系，以及数据出境常态化风险监控体系，以满足数据跨境流动合规建设需要。