算法分发引发的媒介伦理冲突及规制

高慧珂

（河北传媒学院 石家庄 050010）

随着智媒体的发展，大数据、机器人写作、算法分发等人工智能技术慢慢地渗透到新闻信息采编发的各个环节，由大数据衍生出的算法推荐新闻迅速崛起。不可否认，这改变了原有的信息传播方式、生活方式甚至社会结构，对于实现新闻分发、增强受众黏性具有重要意义。但算法是一种复杂的技术，当前，算法技术作为一种被广泛运用的新兴技术，本身发展还不成熟，在实际的运用中，其引发的伦理问题也无法准确全面地预测和解决，亟须建构多主体发力的健康的算法推荐生态环境。所以，如何加强技术控制，建立合理的信息管理制度，提高信息治理能力的现代化，对智能生产力的安全释放至关重要[1]。

算法是人工智能的核心技术，人工智能算法是一种利用机器深度自主学习能力对现实生活中大量分散的、碎片化的数据信息进行自动化处理的机制[2]。它的运行逻辑是通过大量搜集平台用户的信息使用踪迹，如点赞、评论、转发等，运用相关数据模型分析，预测并推送用户可能感兴趣的内容。算法分发技术在我国的使用可以追溯到2012年，“今日头条”成为我国第一个以个性化推送为特色的新闻聚合平台。之后，其他平台纷纷效仿，引入算法技术。如今，算法技术深入到我们生活的方方面面。我们经常会发现当我们在淘宝搜索一件商品之后，可能会在其他平台多次看到该类型产品相关信息的推送。

算法的“机制化”是指根据算法而生成的具有普遍性、连续性、稳定性和恒久性的自动决策化机制[2]。以新闻智能推送算法为例，算法推荐新闻平台将实现自身利益最大化的算法嵌入新闻传播过程中，以便快速有效地检测出新话题和热点话题，以此构建一套新闻推送的日常机制[3]。这种“机制化”打破了传统媒体中职业媒体人的把关原则，将信息的把关任务无形的方式让渡给没有情感的冰冷机器，这必定会产生媒介伦理问题。

（一）精准推送和新闻“真实性”“客观性”的矛盾

真实是新闻的生命，是新闻工作的第一要义，也是新闻工作者必须遵循的工作准则。算法分发机制节省了生产者对新闻的筛选、甄别，实现了自动化精准推送，这大大提高了新闻的分发效率，节省了人力成本。但是依据算法逻辑，它是依据大量抓取的数据来分析用户喜好并推送信息的，如果数据源本身存在失实和偏向性，那么算法分发也相应地会推送虚假和非客观的新闻信息。如2008年，Youtub就因为算法失误传播了关于佛罗里达州枪击案阴谋论的假新闻。新闻“真实性”“客观性”在新闻界的重要地位意味着算法分发技术正在不断挑拨新闻业底线和神经，对新闻专业主义造成严重威胁，算法推荐技术和新闻的基本原则之间的矛盾日渐加剧。

（二）算法机制下个人隐私权的让渡

算法分析的前提是收集大量有关个人的数据，这些数据涉及到个人隐私问题，而隐私会不会遭到转卖或者恶意使用完全依靠平台方的自律，没有外在的强制力作约束，因此，算法分发在一定程度上对个人隐私造成威胁。如2008年有网友发现在更换了一个通讯录空白的手机后依然被推荐了原手机中通讯录好友注册的今日头条账号，后来该网友将今日头条起诉至法院。

（三）受众被束缚在“信息茧房”的牢笼中

“信息茧房”（InformationCocoons）由美国学者桑斯坦提出，它意味着我们只听我们选择和愉悦我们的东西，久而久之我们将会困顿于自己思想的牢笼之中。当下，算法是否导致信息茧房这一说法在学界依然存在争议，但笔者坚持认为算法分发技术正加速着桑斯坦所提出的“信息茧房”效应的形成。

首先，算法分发总是使人们看到他们自己想看的，这不利于他们拓展阅读面和知识面，反之还会固化他们的原有想法，不利于新知识和新观念的接受与更新；
其次，受个人兴趣驱使，算法推荐会使个人的视野局限在很小的圈子或者茧房之中，不利于个人对社会的真实和整体认知；
最后，对性、暴力、色情等负面信息的关注是人之本性，这种本性在算法机制下必然会被放大，使相关信息充斥整个网络，并在拟态环境作用下深刻影响人们的认知框架和价值选择。网络中的群体极化和沉默的螺旋等传播现象也可能会在算法机理下随着铺天盖地的信息重复行为而不断加强。这种现象的最终指向则是主流价值观逐渐被解构，舆论走向难以把控，公众缺乏对社会的统一认同而走向割裂。

（四）知沟扩大和阶层的“两极分化”

在智媒体分发背景下，算法推荐有扩大知识鸿沟的趋势。虽然移动媒体已经普及，但是在很多贫困地区，人们依然不具备这样的硬件条件，或者即使具备硬件条件但相应的媒介使用能力依旧欠缺。因此，相对于这部分群体，社会经济地位高的人依然能够借助算法技术优势更快更多地获取信息。按照蒂奇诺的“知沟理论”，这必将导致两者之间知沟的不断扩大。

在当今社会，社会经济地位高的人往往具有高学历背景和高知识水平的特征，而社会经济地位低的人则恰恰相反。社会经济地位高的人往往会下意识关注能够提升其个人能力和素养的信息内容，而社会经济地位低的人往往受兴趣驱使关注一些低俗信息。长期以往，两者之间的知沟也会呈现扩大的趋势。两者之间能力差距的扩大也会导致社会财富越来越多地被少数精英所掌握，呈现出社会阶层的“马太效应”。因此，算法分发技术使由于经济条件和个人偏好因素所导致的知沟扩大现象有加速趋势。

技术是中性的，它本身不承载任何道德价值，其对社会产生什么性质的影响完全由生产和使用它的人所决定。在智能化信息生产和分发的背景和趋势下，我们有必要认清伦理风险的根源所在，通过有效手段治理其导致的诸多问题。这需要从多主体入手，共同建构健康的算法推荐生态环境。

（一）赋能算法，重塑“把关和分发”机制

一个良性社会的运转需要主流价值观的感召和引领，而其实现的基础是公众对主流价值观的普遍认同。传统的算法推荐以受众兴趣为分发依据，这将会解构主流价值观，不利于社会整合。因此，在技术方面，平台要优化算法技术，预设好主流价值立场和道德立场，用主流价值观完成对算法的规训，确保用户获取到媒体平台分发的主流价值产品[4]。在具体操作中，编辑可将失范内容上传至专门的数据库，通过算法的关键词屏蔽技术将这些内容自动排除在算法推送之外[5]。另外，为了丰富内容推送，平台还可以考虑以用户点赞、评论、转发、社交圈层、浏览记录等指标为推送依据的基础上，考虑加入内容的评价系统、热度系统、专业系统等指标[5]，为用户提供更丰富更有价值的信息，避免受众成为兴趣的奴隶。人民日报打造的客户端“央视频”就是利用主流价值观驾驭算法，构建了“主流价值+算法分发”为一体的分发模式，其推荐机制除了以点击量、浏览量、点赞量等常规指标为依据，还创新性地加入了价值传播因子、动态平衡网络、社会网络评价体系等和正能量相关的指标，这种算法推荐机制平衡了受众兴趣和主流价值观，提高了媒体的舆论引导能力，使媒体可以在重大的公共事件中把握风向，凝聚共识。同时，也有利于保障优质内容触及网民，避免受众被偏好牵着鼻子走，从而陷入信息茧房之中。在2021年10月15日的央视频APP搜索框中，热搜榜排名前五的分别是《神十二航天员给神十三乘组分享经验》《全国住房公积金小程序正式上线》《第130届广交会》《电影中的“伍千里”真实存在》《工信部下架96款侵害用户权益APP》，这些事件都是刚刚发生的热点事件，全网关注和讨论热度较高，且内容兼具娱乐和社会新闻等多种类型，从中可以看出主流价值观和受众兴趣相结合的算法推荐机制。

传统的算法分发基于自动化机制，不需要人工的参与，这显然使得算法技术在辨别假新闻和处理含有情感价值的信息面前力不从心，并由此会对新闻的“真实性”和“客观性”造成威胁。因此，笔者认为可以加入人工审核元素，形成“人机共审”的协作机制，减少和弥补技术带来的误差，更好地引导新闻价值回归本位，保证新闻的“真实性”和“客观性”。

（二）“他律+自律”的双约束机制

我们可以从他律和自律两个方面来规划算法分发技术的使用。在他律方面，首先，政府要制定与之相适应的法律条文，使得有法可依。在法律制定方面，虽然很多学者多年以来都推崇“算法透明”制度化，但是在很多国家，算法透明依然没有包含在法律之中。这是因为在很多国家，算法都被认为是一种商业机密，一旦这个秘密公之于众，很多国家或者企业就会趋之若鹜，随意地拿走可能是别人费劲波折得出的技术成果。因此，算法透明化是不利于技术创新的。笔者认为，法律的制定还是要从具体的操作层面入手。如加强对个人信息的规划采集，规定平台在注册之前要有相应的隐私保护协议，并通过用户的同意之后才可以使用用户信息。其次，建立监管评议评审机制。行业主管部门及媒体单位必须履行好监管责任，加大对“算法推荐”的执法检查力度，对违法责任者予以惩戒，增强法律教育效果。同时倡导建立行业伦理评议评审委员会组织，开展内容监测评议工作，定期向社会公众公开媒体机构伦理的公共社会责任承担情况，约束或减少失范行为[4]。

平台的自律也很重要。平台要凝聚共识，明确智媒体信息传播伦理原则，引导建立统一的行业规范，定制大数据、人工智能在智媒体中的使用规则[4]，促进行业自律规范伦理道德体系建设。

（三）提高开发者社会责任感及受众媒介素养

学者袁帆和严三九通过有效调查问卷对现阶段传媒业算法工程师的算法伦理水平进行考量。结果显示，目前传媒业算法工程师的算法伦理水平整体处于模糊状态，且工程师的算法伦理水平和学历背景并没有太大关系[6]。这说明计算机专业的工程师并不比非科班出身的工程师的算法伦理水平高，而且计算机专业对算法伦理价值观念的教育还存在滞后性，未得到普及和重视。因此，一方面，笔者认为企业内部要主动对新进算法工程师和原有工程师进行系统的算法伦理培养，建构一套完整的内部伦理准则和行为规范，从思想和行为、内力和外力两方面打造企业的价值观体系。另一方面，要为计算机相关专业适时更新或增设传媒业的算法伦理知识，使算法工程师在步入社会之前就在潜移默化中意识到算法技术对社会的影响，意识到作为一个合格的算法工程师应尽的责任。

学者吴飞曾说过，现在是一个新闻专业主义2.0的时代，新闻专业主义不再是新闻从业者所必须遵循的行为信条，而是所有参与传播的个人所应该奉行的交往信条和基本精神。受众生产的信息内容是算法进行收集考量的依据，如果受众传播的信息比较低俗化，那么算法就会不断推送类似内容，因此，公众媒介素养的提升是很有必要的。相关部分要将宣传教育深入到学校、家庭、社会等各个层面，促进全民信息素养的提升，从而使公众将新闻专业主义内化于心、外化于形，在参与网络信息生产和传播的过程中，能够做到遵循真实、客观的传播原则，不信谣不传谣，不散播色情暴力等低俗内容。

新闻算法分发是以用户主动或被动让渡隐私为前提的，这使得隐私的不为人知与算法下用户无所遁形成为悖论。在算法高度普及化的时代，公众势必要提高隐私保护意识，在注册软件时一定要认真阅读平台的隐私协议，防止平台打擦边球，设置隐藏条款，从而非法获取和使用用户隐私。

算法的分发技术在一定程度上实现了信息精准投放，使信息价值的开发具有无限的可能，但是，技术是把双刃剑，算法分发技术在满足我们信息需求的同时，也带来了许多亟待解决的媒介伦理问题，而且在人性和情感价值的信息处理方面，算法不如人类细腻，它无法完全取代人类。未来，算法和人的关系将更多地呈现出一种“人机共生”的相互协作关系，而我们也只有直面问题，趋利避害，才能使算法分发技术的价值最大化。■