|

银行

消道长辟谣|App偷听用户对话?算法导致信息茧房?真相是……

来源:消费者报道

2025-05-07 10:28:47

(原标题:消道长辟谣|App偷听用户对话?算法导致信息茧房?真相是……)

你看到的内容是你想看到的,也是算法想你看到的。

事实上,算法一直饱受争议。有人认为推荐算法的出现,完成了尼葛洛庞帝“我的日报”的预言。用户甚至不需要亲自创造“我的日报”,因为推荐算法正在为每个用户默默执行。但也有人认为推荐算法把用户桎梏在一个个彼此隔绝的“信息茧房”。

因此,算法公开透明显得尤为重要。今年1月,抖音宣布将推出10项措施,推动算法和平台治理透明化。3月,抖音上线了“抖音安全与信任中心”网站,面向社会公开算法原理、社区规范、治理体系和用户服务机制。这标志着互联网行业对算法治理的探索迈入“深水区”。

人们需要算法吗?

在社会学家的眼中,大家所处的时代具有两个鲜明特质:信息过载、生活加速。

前者意味着用户每天要面对海量的信息。据IDC发布的《数据时代2025》报告,全球每年产生的数据从2018年的33 ZB(泽字节,是GB的240倍)增长到175 ZB,以25Mb/秒的下载速度计算,一个人下载全人类2025年产生的数据需要18亿年。具体到个人,用户面对的新增信息量,也从报纸时代的每天几十个版面、数百条新闻,增加到一个平台每天就有上亿条新内容,远超个人所能处理的极限。

身处信息爆炸时代,用户难以单凭传统方式筛选出对自己有价值的信息。在这种背景下,推荐算法的出现极大地提升了大家获取信息的效率和质量。

推荐算法是一种基于用户行为、兴趣,向用户推荐内容的信息过滤技术。它的目的是减少用户在海量数据中筛选信息所需的时间和精力,把合适的内容推荐给合适的用户,以提高信息分发的效率和准确性。

从技术视角来看,推荐算法的基础是机器学习。而机器学习是人工智能的核心技术之一,其定义有很多种,大体都可以归结为通过已有的数据进行数学建模、挖掘规律,随后,在此基础上对未知的数据进行预测。

以抖音为例,随着机器学习技术的发展,平台已经几乎不依赖对内容或者用户打标签,而是通过一系列神经网络计算,直接预估每一个用户对每一个内容的目标行为,比如点赞、关注、分享、评论的概率,并挑选出概率最大的一部分内容,推荐给用户。这意味着,算法无需理解内容类型或语义,就能直接预测用户行为。

清华大学社科院发布的《破茧还是筑茧?用户使用、算法推荐与信息茧房研究报告》显示,70%的用户对个性化推荐算法持肯定态度,认可算法技术是海量信息时代的一种有效策略,帮助用户解决信息过载的问题。在实际使用调研中,超过90%的短视频APP用户选择开启个性化推荐算法。

算法会导致信息茧房吗?

“在互联网平台上,哪些内容我们看久了,之后就会收到重复内容的频繁推送”“我们跟朋友聊什么,就会刷到与之相关的网页、短视频链接”。大数据时代,每个人都被算法“精准投喂”,陷入到“信息茧房”当中。

“信息茧房”一词,最早出现在凯斯·桑斯坦的《信息乌托邦》一书,后扩展至互联网时代的个性化信息过滤问题,指个体通过兴趣筛选信息,逐渐将自己束缚在类似“蚕茧”的同质化信息环境中,导致认知窄化和社会孤立。

不少观点认为,内容平台在推荐算法加持下,只给用户推送他们喜欢看的内容和观点,会致用户处于“信息茧房”中。

为进一步深化互联网信息服务算法综合治理,中央网信办、工信部、公安部、国家市场监管总局等四部门于2024年11月联合发布了《关于开展“清朗·网络平台算法典型问题治理”专项行动的通知》,明确了信息茧房、热搜榜单、新就业形态劳动者权益、大数据“杀熟”、算法向上向善、落实算法安全主体责任等六大整治任务,督促企业深入对照自查自改,进一步提升算法安全能力。通知同时明确了算法导向正确、算法公平公正、算法公开透明、算法自主可控、算法责任落实等工作目标。

除了监管部门和用户,平台同样希望打破信息茧房,因为相似的内容过多直接会影响用户体验,多元化内容有益于用户的长期留存,而算法承接的任务就是实现基于用户感兴趣前提下的多元化。

据抖音总裁韩尚佑介绍,目前抖音建立了多目标模型,设置了100多个目标,以解决单一目标下系统容易重复推送相似内容的问题;还加强了推荐系统中对搜索行为的应用,让系统实时根据用户搜索兴趣进行调整。

腾讯公司副总裁陈勇则提到,他们正在陆续构建更丰富的“破茧”功能矩阵,并提供用户指引,通过算法迭代和体验优化的双支点,让用户找得到、用得上、有实效。

小红书总编辑、副总裁许磊认为,“信息茧房”是一个双向过程,平台和用户在内容偏好上,要做到灵活调节,借助正、负反馈机制,进一步破除“茧房”。

具体到算法的技术层面,抖音算法工程师刘畅表示,抖音更关注用户长期价值,而非追求平台的短期数据。为此,抖音算法考虑了众多目标,如完播、评论、点赞、对作者长期消费、分享、跟拍等,力图计算出更符合用户长期价值的目标。

抖音算法在多目标建模体系下,设置了专门的探索维度。一是对用户在平台上已经表现出的兴趣,尽可能推荐更多样的内容,通过多样性打散、多兴趣召回、扶持小众(长尾)兴趣等方法控制相似内容出现的频次。二是帮助用户探索更多新兴趣,采用随机推荐、基于用户社交关系拓展兴趣、搜索推荐联动、“不感兴趣”不再展现等多种方式,让用户的主动行为影响推荐系统,使推荐更加个性化和多样化。

刘畅介绍,抖音的推荐算法与国内外大部分内容推荐平台相似,包含召回、过滤、排序等环节,重点是学习用户行为。抖音基于用户行为的推荐方法包含多种技术模型,如协同过滤、双塔召回、Wide&Deep模型等。算法可以在完全“不理解内容”的情况下,找到兴趣相似的用户,把其他人感兴趣的内容推荐给该用户。目前,抖音算法已几乎不依赖对内容和用户打标签,而是通过神经网络计算,预估用户行为,计算用户观看这条内容获得的价值总和,把排名靠前的内容推给用户。

算法会窥探用户隐私吗?

针对算法与个人隐私的冲突问题,《消费者报道》选取了三个与消费者日常生活密切相关的典型场景进行深度剖析,从技术原理、法律法规及消费者权益保护等维度展开全面解读。

质疑1:

我刚和朋友聊到某个商品,打开手机就收到相关广告,到底是巧合还是App在监听?

质疑2:

为什么我在A平台看得多的内容,B平台也会给我推送,我的浏览隐私是不是被泄露或者共享了?

质疑点3:

我不想让推荐算法知道我的浏览习惯,明明对喜欢的内容点了不感兴趣,为什么还会收到相似内容的推荐?

结语

当算法的神秘面纱被揭开,整个互联网行业将会迈上新的发展台阶,为用户带来更优质、安全、多元的服务体验。

正如加拿大传播学家文森特·莫斯可所言:不必压抑这些争论,因为当新技术彻底融入人们地生活后,这些争论自然会趋缓。人们也终于可以用平和与理性去理解技术的结果。


证券之星资讯

2025-05-07

证券之星资讯

2025-05-07

首页 股票 财经 基金 导航