1
人民网三评算法推荐
羽生
【一评】
不能让算法决定内容
每过一段时间,今日头条官方头条号都会发布《反色情低俗处罚通告》,封
禁或禁言一批不规矩的头条号。然而,通告能惩一时之弊,却无法阻止又一批违
规账号“春风吹又生”。为何色情低俗的内容成了部分智能新闻客户端的顽疾?
值得我们深入思考。
以今日头条、一点资讯为代表的智能新闻客户端,凭借强大的算法、先进的
数据抓取技术,能够精准分析并解读用户的阅读习惯和兴趣,从而为用户提供量
身定制的新闻产品,满足了个性化的需求,顺应了阅读分众化的时代潮流。
然而技术红利的背后,也有阳光照不到的地方。传播色情低俗内容,还只是
智能新闻平台在内容分发方面所面临的难题之一。再比如未经科学验证的健康知
识、夸大其词的广告、只为博眼球的标题党、过于情绪化的观点乃至毫无用处的
信息,都时常出现在智能平台首页的推荐当中。比如有位网友无意点击了一条关
于花圈的消息,结果今日头条就连续推送丧葬用品信息,令人不堪其扰。还有网
友总结那些劣质的信息可以分为三类:真假难辨,鱼龙混杂;对错不分,价值导
向错乱;缺乏深度,内容和观点过于肤浅。
毋庸讳言,内容的野蛮生长,在任何一个时代都存在,其背后有更深层次的
经济社会根源乃至人性的因素,不能完全由哪个平台来“背锅”。然而也必须承
认,在互联网时代,特别是大数据技术和算法时代,这种野蛮生长被加快了、放
大了、凸显了。为什么?原因在于技术、代码、算法替代了传统内容分发过程中
专门把关内容的编辑。内容能否推送、推送给谁,都是机器说了算,依据的标准
就一条:能不能抓眼球、能不能吸引用户。单一的标准不仅容易忽视优质内容更
为丰富的内涵和维度,也增加了把关内容的难度和成本。这也就不难理解,为什
么即使事后不断处罚违规的内容账号,却无法停止劣质内容的再次生长。
这些问题,也许最终还是要从算法本身入手解决。据了解,有些智能平台已
经意识到问题的严重性,正在开发更先进的技术和算法,超越事后处罚的传统方
式,尝试在信息传播的前端加强对内容的把关。或者超越“眼球新闻”,将更多
有价值的评价标准引入新闻产品的分发过程。此外,“人机结合”有可能是另一
种值得尝试的路径。在依靠甚至依赖算法的当下,也可以将更多人工劳动引入其
中,看似又回到传统的新闻生产模式,但实际上既发挥了技术的优势,又弥补了
存在的不足,实现了人与机器的优势互补。
任何时候,内容推送不能少了“总编辑”,再好的传播渠道也要有“看门人”,
即使在技术为王的时代,也不能完全让算法决定内容。这一方面需要更完善的法
律法规、更理性健康的舆论空间,为互联网算法时代的信息传播保驾护航,但更
少不了作为内容提供者的智能平台,肩负起应该承担的社会责任,扬长避短,让
技术和算法真正造福这个时代。
2
【二评】
别被算法困在“信息茧房”
《也许很多人都有如下经历:在今日头条客户端,点击一条茶叶的消息,之
后就会不停收到各种关于茶的养生知识和广告推送……大数据兴起,算法越来越
高级,技术越来越完善,我们迎来了信息订制化、传播智能化的时代。
毫无疑问,信息的私人订制能满足人们多元化、个性化的需求。智能化的信
息传播机制可以快速完成用户与信息的精确匹配,大大降低获取信息成本,为生
活带来便利。但换个角度看,算法主导下的内容分发模式,也会带来“自我封闭”
的危险。
传播学有种回音室效应,在算法的帮助下,我们可以轻易过滤掉自己不熟悉、
不认同的信息,只看我们想看的,只听我们想听的,最终在不断重复和自我证成
中强化了固有偏见和喜好。一旦身处这样的“信息茧房”,就再难接受异质化的
信息和不同的观点,甚至在不同群体、代际间竖起阻碍沟通的高墙。
近日,一项调查显示,近 60%的“95 后”在社交网络上屏蔽父母,不少人担
心技术的进步反而阻碍了父母和子女的交流,这忧虑不无道理。作为子女,如果
连父母都可以屏蔽,如何体现孝道和爱心,如何传承中华民族的优良传统,情何
以堪?
必须承认,所谓先进的技术、精密的算法可能会放大某些消极影响。在社会
层面,如果我们都沉浸于自己的“舒适地带”自怨自怜,就可能进一步缩减理性、
开放、包容的公共空间,从而失去在争议中达成共识的机会。比如共享单车到底
是城市交通的革命还是管理的负担?暴走团能不能夜间占用马路?产妇自杀错
在家庭还是医院?如果争论双方互相屏蔽,就可能在自说自话中激化矛盾,固化
认知,走向封闭,更甚者,演变为群情激奋的互喷和站队,造成人为撕裂,不利
于解决问题。
因此,走出“信息茧房”还需进一步强化监管。对于拥有强大算法和技术支
撑的信息平台来说,一心“取悦”用户还远远不够,更要自觉执行中央有关政策
法规,不能有侥幸心理,任凭暴力、色情等不良信息泛滥,不能借技术深奥之名
糊弄网民和群众。此外,全社会要形成共识,既重视科学算法,又齐抓共管,清
朗网络空间。
回想互联网兴起之初,信息大爆炸的时代来临,许多人在当时预言:空前开
放的时代到来了。然而几十年过去,随着算法日益精密、技术不断提升,智能化
的信息分发模式反而把许多人困在“信息的茧房”,失去了探索未知、创造不同
可能性的机会。预言与现实的反差,正提醒我们:勇于驶出信息的孤岛,敢于走
出知识的一亩三分地,拥抱丰富多彩的世界,才能赢得精彩的未来。
3
【三评】
警惕算法走向创新的反面
不少网友有如下体会:今日头条可能是新闻客户端中信息最全、涵盖范围最
广,但也恰恰是内容最杂最乱的手机 APP,你可以从中读到新闻,也能看视频、
直播,还能参与问答,还有众多的自媒体账号。同时,今日头条还能通过技术,
从其他信息平台抓取用户感兴趣的内容,直接“为我所用”,从而达到“以一当
十”的效果。
然而有这样的便利,却也带来不少问题。据媒体报道,刚过去的 7 月到 8
月之间,今日头条陷入 5 起版权纠纷当中。而就在 6 月下旬,法院才刚刚判决今
日头条侵犯了腾讯、搜狐部分作品的版权和约稿版权。这中间情况复杂,孰是孰
非不能妄言。但必须反思的是:拥有精密算法和先进数据抓取技术的智能信息平
台,为什么屡屡游走在法律的灰色地带而不能自拔?为什么总在打规则的擦边
球?
稍稍回顾人类的历史就会发现,技术的迭代与创新,确实容易突破法律的边
界,踏入规则的“无人区”。正如经济学家熊彼特用“创造性破坏”来描述一些
具有开创性的工作,突破现有秩序边界,甚至可能构成创新的前提条件。
然而这并不意味着,技术和算法就可以“为所欲为”,随意地突破秩序和规
则的底线。一旦失去节制的美德,算法也可能误入歧途,甚至走向创新的反面。
有位自媒体作者曾经感慨:智能信息平台的时代即将到来,我们这些靠卖文为生
的人,可能就要沦为依赖平台而活的“搬砖工人”了。一旦平台获得如此强势的
地位,就可能出现转载原创者的内容而不给于相应报偿的情况,最终只能进一步
浇灭原创作者的激情和热爱。
这就说明,智能信息平台带来的最大问题,可能还不是侵权,而是走向创新
的反面,甚至可能从根上破坏创新的源动力。
由于智能平台能够轻易掌握大多数人想看什么、爱看什么,并且根据用户需
求精准送达信息。带来的问题就是:智能平台可能走向媚俗化,并过度追求“眼
球新闻”。对于普通作者来说,如果想在平台上生存下去,就只能一味迎合、取
悦,而失去了独立思考、深度观察的能力,进而削弱整个社会的创造力。正如有
位媒体创业者所说,搞深度内容还不如去拍搞笑视频,反而能赢得更多点击量。
这样的趋势令人担忧。实际上,今日头条上许多的所谓自媒体账号一直充斥着低
俗、无下限甚至谣言信息。更有甚者,所谓的算法推送和定制发布,误导一些个
地方政府和部门,算糊涂账,花冤枉钱,已经引起广大网友的热议和不满。
避免算法走向创新的反面,需要完善相关法律法规,在执法过程中加强对侵
权行为的处罚力度,保护原创者应得的回报;但更重要的,则是需要平台企业肩
负起相应的社会责任,在为用户提供便利的同时,更要守住底线、把住红线,呵
护整个社会的创新价值。说的通俗一些,智能平台的身上也应流淌“道德的血液”,
不能为只为眼前的流量而放弃了长远。
4
【相关评论】
纠正算法推荐,既要听其言,更要观其行
人民网评
近日,针对传播低俗信息和低质内容等问题,今日头条发布《集中清理违规
账号的情况通报》,关闭社会频道、将新时代频道设置为默认频道,同时封禁、
禁言账号 1 千多个。“为守护健康的网络空间点赞”“早就盼着整改的这一天
了”……网友的热议折射出对网信部门治理新兴媒介平台乱象的信任和期待。
第一时间回应网友呼声,并推出相应整改措施,今日头条知错就改的态度值
得肯定。同时也要看到,封禁一些账号能够惩一时之弊,但低俗内容屡禁不止的
现实说明,封禁账号不过是内容平台建设的常见纠错机制,并不能从根源上解决
低俗内容泛滥的问题,关键还得建立长效机制、强化企业的社会责任。
技术发展推动了媒介形态的变革,不论承认与否,在这个信息过载的时代,
算法推荐消耗的是最为稀缺的时间和注意力资源。拥有流量入口的平台,如果把
低俗化、肤浅化的信息一股脑的推送给用户,这种无原则的迎合行为,或许能获
得一时关注,但无异于坑粉、害粉;或许短期能带来巨大盈利,但长远来看必将
损害自己的公信力与影响力。取缔低俗内容,光有信誓旦旦的表态不行,仅靠封
禁几个账号不够,需要在技术层面、管理层面、价值层面,把长效机制真正建立
起来,才能铲除低俗内容泛滥的土壤。
进一步说,技术创新的边界应该是企业的社会责任。企业想盈利无可厚非,
可怎么盈利却有天壤之别。以优质文化产品取胜,这是健康的产业模式,而把低
俗内容兜售给消费者,这是不负责任的行为。算法推荐赚取巨大流量红利的同时,
是否应该反思这种创新能给社会带来怎样的进步。如果新的媒体平台,只是为了
让低俗化、媚俗化、娱乐化的信息更加便捷传播,如果新的技术,只会降低人的
思考能力和审美水平,这样的媒介形态和产品创新必将在社会发展中被淘汰。
整改和处罚只是手段,按照中央要求,营造清朗、干净、健康的网络空间,
才是管理者和经营者的共同责任和目标。纠正算法推荐的弊端,治理低俗内容倾
向,根源上来说,是关照每一个人在未来的高品质生活、自主选择以及全面发展
的能力。今日头条的《通报》迈出了第一步,值得业界借鉴,但当事方不能仅满
足于此,而应该以更大的决心和行动,从根本上改变不顾导向的所谓算法推荐,
管理部门在关注,网民更有期待。
把好算法推荐“方向盘”
张涛甫 来源:人民日报
今天,面对海量信息,信息选择已经成为大部分人在日常生活中都会碰到的
问题,有时甚至会成为一种烦恼。针对这一问题,“知心”的技术和精明的商家
为人们找到了一条选择捷径:算法推荐。算法推荐的问世和普及是媒介技术进步
的体现,它让信息与用户实现精准对接,将信息与用户进行个性化匹配,让人很
容易从纷繁复杂的信息中找到自己需要的信息,从而节约信息搜寻成本、提升信
息选择效率。这些好处容易让人产生惰性和惯性:算法推荐如此方便,可以放心
地让其为我们导航。实际上,算法推荐是一把双刃剑,关键看我们怎么用。
在移动互联网时代,算法技术的产生适逢其时,算法推荐正在信息传播中大
显身手。但是,算法既可用来计算,也可用来算计。如果算法被利益所绑架,就
会沦为对用户的算计。一些新媒体或机构,或是出于对算法技术的过度迷信,或
5
是出于对市场利益的盲目追逐,在所谓“用户至上”的名义下,对信息不加辨别、
缺乏分析,用算法推荐全方位“讨好”受众,甚至迎合某些受众的低级趣味,这
就会产生严重后果。一是算法的迎合式推荐会造成庸俗、低俗、媚俗信息泛滥,
进而造成某些用户低级趣味的固化和泛化。二是会形成信息“茧房”问题。基于
算法得出的针对特定用户进行的个性化推荐,势必造成用户信息选择面的收窄,
仿佛在用户周围砌起了一堵墙,形成信息“茧房”。所以说,在信息高速公路上,
算法推荐如果不装上“方向盘”上路,就会偏离正途、迷失方向。
算法推荐的“方向盘”是什么?就是主流价值,就是社会主义核心价值观。
一个社会的良性运行和健康发展需要主流价值的感召和引领。主流价值缺位,不
利于社会发展。算法作为一种信息技术,本身并不带价值立场和道德立场,但使
用算法推荐者不可能没有价值立场和道德立场,其动机和德性决定了算法推荐的
价值取向。这就要求算法推荐使用者特别是市场化传播平台要有价值自觉和责任
担当,要对算法推荐的社会影响负责。
可见,技术承载着价值,利用算法处理和推荐信息,就要对信息内容的社会
影响负责。涉及的用户规模越大,就越要注重社会责任。算法推荐使用者对自己
推荐的信息内容应认真把关,不能以牺牲导向为代价片面追求经济效益,也不能
将把关程序全部交给机器。我们应充分利用算法技术,大范围、精准化把握受众
需求,特别是要准确洞察用户的价值偏好,有的放矢做好精准传播,从而实现主
流价值的有效抵达。对于个别用户的低级趣味,不能投其所好,哪怕市场利润再
可观,也不能越过雷池、踩踏底线。只有这样,才能将算法推荐用在正确的方向
上,实现社会效用的最优化和最大化。对于主流媒体来说,在信息传播中必须搭
上新技术的快车,保持对算法推荐的敏感,学会借势算法、驾驭算法,进一步增
强自身的传播力、引导力、影响力、公信力,更好地传播主流价值,扩大主流价
值影响力版图。总之,只有给算法推荐装上主流价值的“方向盘”,才能更好地
利用算法技术服务用户、造福社会,画出最大同心圆,凝聚奋进正能量。
不能用算法“算计”消费者
来源:经济日报
打开购物软件,看到的商品是算法推送的;打开资讯软件,看到的新闻是算
法推送的;打开旅游软件,看到的酒店也是算法推送的,而且很可能价格比别人
还要贵——这样的算法真叫消费者又爱又怕。
1 月 7 日,中消协召开网络消费领域算法规制与消费者保护座谈会。中消协
秘书长朱剑桥综合近期消费者投诉、有关调查和相关媒体报道,将网络消费领域
的算法问题总结为六大类,包括网络游戏抽奖概率不明、大数据杀熟、网络促销
规则繁复、网络搜索竞价推荐、网络直播推送违反法律规定和公序良俗、刷好评
隐差评,使评价结果呈现失真等。算法变成了经营者“算计”消费者的工具。
算法是个“谜”
算法被滥用,消费者对此基本上无能为力,因为无论是取证本身还是举证,
以及证据被相关执法机构采纳的可能性,目前都存在巨大难度。
安徽省消费者权益保护委员会秘书长丁涛介绍,去年一年,安徽省消保委收
到消费者通过 12315 热线等渠道投诉举报芜湖叠纸网络科技有限公司共计 953
件,主要反映游戏抽奖概率有问题,用户通过多次抽取,计算出获取道具的概率
达不到企业公示的概率。然而,芜湖叠纸网络科技有限公司在其约谈以及整改报
告中,自述公司网络游戏抽奖概率合法合规。为尊重事实、正确处理,芜湖市消
6
保委也组织召开了市区两级市场监管部门、文旅部门、公安部门等相关部门联合
处理推进会,共同对叠纸公司存在的概率等问题进行调查核实,因为对概率规则
等问题缺乏专业的认定能力,也找不到权威第三方机构进行认定,调查受到阻碍,
无法推进。消保委出面进行的调查尚且如此,单个消费者想要质疑企业利用算法
“算计”自己,更是难上加难。
算法是个“坑”
目前大多数专家认为,算法本质上只是互联网厂商利用技术手段来引导和管
理,甚至分类客户的手段。类似手段的存在早于互联网时代。“例如,没有移动
互联网的时候,商场电梯要兜一大圈,是利用物理规则管理用户,让到达商场的
用户把更多的时间和更多的注意力留存在平台上,给他们提供更多的商业利益。”
北京清律律师事务所主任熊定中认为,这跟电商平台在首页推荐合作商品其实是
一个道理。
此前消费者对商场、超市的“诱导”并不排斥,为什么现在这么反感互联网
企业的算法诱导?在熊定中看来,很大程度上是因为使用算法的平台已经具备了
市场支配地位,或者垄断地位,消费者没有选择的权利。从这个层面看,大众对
算法的抵触情绪其实是对企业滥用支配地位的不满。
但熊定中提醒,几个类型的算法,无论经营者是否具备市场支配地位,都要
加强监管,“一是影响到公共安全的,比如算法给骑手配送的时间太短,让他只
能违反交通规则逆行送达,这是违反公共安全;二是跟生命健康相关的算法;三
是涉及到老百姓钱的。对这三类算法的监管,不应该受到平台大小的影响”。
算法要管控
如何监管看不见、摸不着的算法,在世界各国都是难题。
“算法本身是一种技术手段,经营者可以利用算法提升经营效率,为消费者
提供更丰富、更优良的产品和服务,也可以利用算法钻法律的漏洞,实施违法违
规行为,侵害消费者的合法权益。”朱剑桥指出,一些常见的网络消费领域不公
平算法应用,具有技术性和隐蔽性,潜移默化地影响着消费者的购买决策,消费
者很难通过个体力量与之抗衡。如果任其无序发展,一方面不利于市场经济的公
平有序竞争,不利于经济可持续发展;另一方面也会使消费者面临数据算法压榨,
成为技术欺凌的对象,甚至被算法扭曲价值取向和道德观念,沦为平台经营者的
掌中“玩物”。
中消协建议,在个人信息保护法、反垄断法、反不正当竞争法、价格法等相
关法律中增加算法应用的相关规定,特别是要保障算法应用的透明、公平、诚信。
明确经营者使用算法应做到可知、可查、可逆。发生争议,负有向有关行政部门、
司法机关、第三方机构提供算法、后台数据、相关资料及进行说明的义务。做到
算法应用的可验证、可解释、可追责。
算法推荐不应跑偏变味
来源: 经济日报
随着信息技术发展、大数据广泛应用,算法推荐让信息传播更加个性化、定
制化、智能化,但也出现了一些乱象。据悉,一些新闻资讯、网络社交等平台的
个性化推送存在“泛娱乐化信息多、低俗内容多、未经核实内容多”“三多”现
象,也容易引发一些用户尤其是青少年沉迷网络问题。
借助算法推荐,信息获取已从“大海捞针”进入“私人定制”时代,在带来
方便的同时,也产生了一些负面影响。一是会加速形成“信息茧房”和“情绪传
7
染”效应,导致用户视野局限。二是可能导致未成年人沉迷网络。三是给“大数
据杀熟”提供便利。算法推荐逐渐成为各大平台的常规操作,通过用户数据量及
数据更新频次,可轻易判断出是“生客”还是“熟客”,一旦技术被滥用,很可
能沦为“杀熟”的帮凶。
算法推荐不应跑偏变味,而是要更有“温度”。这就要求设计者、运营者负
起责任,相关企业严格遵纪守法,积极履行社会责任。比如,可以建立社会化评
议机制,对平台运用算法产生的后果予以评价,从而为用户提供更好的服务。同
时,还需要强有力的监管。近日,国家市场监管总局发布的《关于平台经济领域
的反垄断指南(征求意见稿)》对此作出了相关规定,相关立法还需进一步完善。
相关职能部门应行动起来,对算法推荐强化规制,依法惩戒涉嫌违法行为。
算法推荐在实践中不应片面追求效率,还必须兼顾公共价值观、社会道德等,
确保算法推荐在正轨上运行。这需要监管部门、平台、企业以及用户共同发力,
让算法推荐真正惠及用户。
儿童邪典片,凸显算法推荐黑洞
来源:钱江晚报
又是一条令家长不安的新闻:大量“儿童邪典片”从国外网站流入中国,制
作者把儿童熟悉的卡通人物包装成为血腥暴力或软色情内容,甚至是虐童的动画
或真人小短片。
这些视频具有极大的迷惑性,除了片中角色套用了儿童喜爱的动漫形象外,
人物衣着也都是容易让儿童产生兴趣的鲜艳亮色,剧情设计中,除了一些恶搞和
暴力元素外,还充斥着“屎尿屁”、洗澡、手术和怀孕等不宜儿童观看的内容。
根据视频内容和标签,这显然是有目的地针对儿童群体投放,而毫无疑问,这种
诱导式的视频会给儿童带来心理阴影和无形的伤害。
更令家长惊恐的是,一旦小朋友观看了几部视频之后,根据观看记录和数据
计算,平台就会推荐更多同类视频,形成恶性循环。实际上早在去年 7 月份,这
一事件经美国媒体的揭露就已经轰动了全美。而据报道,这些视频竟然早在 2016
年就已经流入到了国内,并且在很短的时间内迅速在各大视频网站传播。这些暗
黑视频何以能够在平台停留如此长的时间,甚至出现大规模泛滥的地步,所谓“价
值中立”的算法推荐难辞其咎。视频网站可以有算法进行个性化推荐,却无能力
进行自查自纠?非要等到大规模的舆论风暴之后,才进行自净是不是有点晚了。
对于制作以及发布“儿童邪典视频”这种违法行为,互联网企业有着不可推卸的
责任,必须担负道德和法律上的双重责任。
保护儿童在互联网上的安全,与保护他们在学校、家庭内外的安全同样重要。
因为我们必须直面的现实是,网络用户的不断低龄化。如何保护孩子远离网络伤
害,需要一条无缝链接的监管网络,光靠任何一方都无法构筑一个安全的网络环
境。
监护人是第一道绿坝,同时还需要政府层面的法律监管、企业的自律,行业
内部的自我审查和监督机制。我国的法律法规当中也有一系列针对儿童权益保护
的媒体政策,但相关标准和处罚力度弹性较大,造成了在执行过程中缺乏约束力。
从顶层设计来讲,应尽快推进儿童互联网安全相关法律。