网站首页 | 网站地图

首页 > 国家治理 > 前沿理论 > 正文

数字平台的伦理困境与系统性治理

摘 要:数字技术加强了社会连接,丰富了人与人之间沟通的渠道,使人们得以在虚拟领域中实现互动和信息共享,个人的声音因此可以被更广泛的听到。而数字技术的联通性也让不同虚拟平台之间、虚拟平台与现实世界之间融合起来,构建起网络化社会。数字平台一方面增强了人与人之间理性对话的潜能,为民主参与提供了新的机会;另一方面放大了人与人之间的负面情绪,加速了虚假、仇恨等消极信息的传播。为了更好维护技术发展的初衷,需要集中政府、平台、受众等不同主体力量,实现对数字平台伦理的系统性治理。

关键词:数字平台 伦理治理 科技治理 信息传播

中图分类号B82 文献标识码A

1982年,科尼利厄斯·卡斯特里阿迪斯(Cornelius Castoriadis)指出,人类无法接受“无序(Chaos)状态”,无序如同深渊令人颤栗。人类所遭遇的无序常常是人类加诸自身的。比如科技的进步一方面提高了人类建立秩序的能力,但同时一次又一次地将人类推向混乱的边缘。数十年前,原子裂变让人恐慌,而今天比特(bit)又在改变度量尺度,给人带来前所未有的无序感。方兴未艾的全面数字化浪潮进一步加剧这一感受:数字化变革改变了人类的政治、经济、社会和文化的方方面面,人类的日常生活被数字技术和互联网技术重新定义并改造了。一批全新的垄断性互联网企业——苹果、亚马逊、谷歌、Facebook、Twitter、微软、腾讯、阿里巴巴、字节跳动等将本行业造就为资本竞技场,它们是政治经济之外的新权力来源。这些平台将虚拟世界与实体世界融合起来了,改造了时空结构,建立了“网络共和国”。而在元宇宙世界中,这种融合将会变成无逢连接。

伦理学研究的是人类的美好生活如何可能的问题,指向的是苏格拉底所提出的人类最值得过的那种生活。当代的伦理理论必须思考人类如何与技术和谐相处的问题。那么,数字技术的发展对人类实现美好生活来说是一种挑战还是福利?目前与人类日常生活联系紧密的主要数字平台有:数字基础设施平台,包括主要操作系统和应用商店平台,如苹果、谷歌、微软等;国民生产和社会生活服务平台,如钉钉、大众点评、去哪儿、携程、优酷、滴滴打车、高德地图等;数字媒介平台,如Facebook、Twitter、微信、抖音、微博等;电子商务和互联网金融平台,如亚马逊、阿里巴巴、京东等等。社会因沟通而存在,数字媒体平台就是网络化社会得以形成的基础,基于此本文将重点分析第三类平台,即数字媒体平台的伦理治理问题。

数字平台遭遇的伦理问题

媒介固有的物质结构和符号形式发挥着规定性的作用,决定着什么信息被编码、传输,如何被编码、传输,又如何被解码。[1]数字技术加强了社会连接,丰富了人与人之间沟通的渠道,形成了一种不同于现实生活的数字世界。数字技术提供了新的可供性(affordance),让更多的参与者的声音可以被听到,人们得以在虚拟领域中实现公共互动和信息共享。公民政治参与度将达到前所未有的高度,因为任何拥有移动手机和互联网的人都能在促进问责制和透明度方面发挥作用。[2]社交媒体具有社会性(sociality)和聚合性(connectivity)的生产特点,平台用户除了制作自己的内容外,还会分享、转发他人的帖子。社交媒体平台由此为新的意见领袖赋能,并扩大其目标受众的范围[3],但也使得一些信息能够以“病毒式传播”的方式迅速蔓延[4]。虚假、诈骗、色情、恐怖、憎恨、暴力与诽谤等信息充斥在虚拟的数字空间中。数字平台就是一个双向加速器:一方面,增强了人与人之间理性对话的潜能,为民主参与提供了新的机会;另一方面,放大了人与人之间的偏见、冷漠、愤怒与仇恨,传播了大量的虚假信息,甚至会引发社会动荡。具体而言,数字平台正遭受到如下伦理困境:

“数字野火”:信息失真与虚假报道

亚里士多德将“诚实(aletheia)”确定为基本美德。而当今信息传递的现状却是,“假新闻”“伪新闻”和“虚假信息”成为新闻传播活动中难以消除的顽疾。2016年,牛津字典将“后真相”列为年度词汇,表明信息传播中真实、诚实问题的严峻性。社交媒体平台一般是基于用户生成内容(UGC)模式建立起来的,缺少传统媒体中的信息把关人,每一位用户都可以生产和传播信息,这为谣言和虚假/恶意信息的迅速传播创造了环境。信息失真、傀儡账号、另类事实、谣言或恶意活动会对个人或团体的声誉造成极大损害。一项研究表明,2016年美国大选期间,Facebook上排名前20位的假新闻无论是分享量还是评论量,都远超排名前几位的真实新闻。单纯的虚假信息也许通过媒介平台标明“真”和“假”标签就能让用户识别,但现实中,不少信息往往是真假参半,如将一个准确的事实放在一个精心编制的错误语境下,或者在一张真实的照片上标注虚假说明,更何况还存在不少更模糊的语言和更隐蔽的算法对信息传播加以操控。

沟通受阻:“回音室”与群体极化

哈贝马斯提出交往理性,其核心是“建立在言语之上,各主体通过有效对话、增进了解,从而达成共识”。但问题是:其一,真正的理性对话并不是主流的。皮尤研究中心(Pew Research Center)的研究表明,社交媒体平台不仅不能促进争议性话题领域中更加公开的公众交流对话,反而抑制了对话的产生。这主要体现在网络中社交媒体用户相较现实生活中的大众更不愿意与他人讨论有争议的政治问题,无论是即时性讨论还是留言评论。有调查显示,86%的美国人愿意就“有关问题”进行当面交谈,但只有42%的Facebook和Twitter用户愿意在这些平台上发布有关信息。其二,在数字平台上,往往容易出现“回音室”效应(指由于信息的选择性接收与传播,造成网络中群体的割裂、独立)。社交媒体平台能够将原本发生于现实生活中的社会活动或进程进行放大升级,或者是基于算法等工具产生特定导向,从而使社交媒体平台更容易被操控。有时平台还会出于自身利益考量对公众进行屏蔽。在数字空间中,网络社群更多地是基于个性化的兴趣爱好、价值理念、目标利益等连结起来的。人们以兴趣为基点,在互联网空间中建构起各类“圈子”,使得传播也呈现出“圈子化”趋势。[5]如“饭圈”就是依赖文化纽带、感情规训并且接受商业资本介入的类组织群体。[6]数字空间的圈子化是一种抱团取暖的互助现象,各种圈子会基于各种不同的社会事件和利益诉求进行交流讨论。互联网环境中的个体,倾向于寻找与自身观点、价值取向相同的团体,并在群体互动中将情绪升级,从而产生群体间的对立与割裂。当对立双方存在明显情感抵触或相互厌恶,便导致社会极化。这一现象通常会被别有用心的人加以利用,在西方国家政治活动中尤为常见:权力乐于操纵情绪而不是鼓励理性平等的对话,因为他们更易于从群体间的愤怒、仇恨、偏见和谎言中获益。

算法偏见与歧视

早在1996年,Batya Friedman和Helen Nissenbaum就指出,人类的偏见能通过各种方式融入机器算法过程。技术不是中立的,它投射出发明者的价值偏向,且使用者的立场在其中也起到重要作用。不同的数字平台会基于商业或政治的目的,为平台架构和算法中嵌入某些价值观。在计算机领域,有一个常见缩写GIGO意思是“垃圾进,垃圾出”(Garbage In,Garbage Out),有人用了一个类似的词BIBO来表示“偏见进,偏见出”(Bias In,Bias Out)。巴蒂娅·弗里德曼(Batya Friedman)和海伦·尼森鲍姆(Helen Nissenbaum)认为算法存在三类偏见:先在偏见、技术偏见和突发偏见。先在偏见的根源在于社会制度、实践和态度;技术偏见产生于技术上的考虑限制;突发偏见产生于使用环境中,源于社会知识、人口或文化价值观的改变。如平台会根据消费者的数据资料向其提供不同的产品、服务或价格,这种“算法偏见”会造成不公平或歧视性的结果。复旦大学管理学院孙金云研究团队发现,使用苹果手机和非苹果手机的用户,在使用网约车时价格会有较大的差异。算法歧视已经引发了不少诉讼,并导致拟议的立法要求公司评估其算法对准确性、歧视、隐私和安全的影响。算法歧视涉及到三个伦理方面的问题:算法公平性、算法身份污名化、隐私保护。近年来,有关“算法责任”(algorithmic accountability)问题已经引起了社会的广泛关注,谷歌、微软和腾讯这样的技术公司也已经参与进来。

个人数据安全与隐私保护

现代数字技术为优化用户体验带来了无限的可能性,但这种高度定制内容所带来的便利性和效率是以一个重要的代价为前提的:即平台对用户个人数据的收集和访问。据报道,Uber对顾客和司机都使用了他们所谓的“上帝视角”实时追踪系统。平台收集个人数据,有的旨在提高服务质量,有的则想控制用户,或者将用户信息作为商品出售。不少数字平台公司对隐私采取了轻视的态度,因此数据泄漏时有发生。如2018年3月,有报道称英国政客营销企业剑桥分析公司(Cambridge Analytica)不当访问了8700万Facebook用户的数据,并且根据这些数据帮助一些政客参与政治竞选。大规模的数据挖掘、全球性的数字监控和算法分析,让普通公众在数字世界里“裸奔”,而只有那些拥有强大权力的极少数群体才能在数字领域获得隐私保护。

伤害性与反智性言论

技术既赋予了网络中行动者自由表达的权力,但也放大了其中的分歧和矛盾。“其匿名性、隐蔽性的特征为民粹主义的进一步蔓延提供了土壤。”[7]公共话语的权力同时被掌握在个人和平台中介机构手中,这也恰恰是引起人们对线上言论自由关注的重要因素。苏珊·雅各比在《反智时代:谎言中的美国文化》一书中虽揭示了美国社会在传统媒体时代与新媒体时代均存在反智反理性的思想,但其研究表明在互联网普及,尤其是手机普及后,这一情况更为严重。因为在数字传播时代,人们之间虽然加强了彼此间的联系,但却丧失了深入对话的机会,人们习惯了“用拇指发言”,而削弱了使用具有反思性的大脑进行交往的能力。这对培养、维护和繁荣公民美德,包括沟通正义、揭露真相的勇气、文明与理性对话等都是严重的阻碍。

数字平台伦理的系统性治理

物联网、机器人、生物识别、虚拟和现实增强以及数字平台涉及大量的伦理问题,包括隐私、自治、安全、人类尊严、正义和权力平衡。目前人们已经广泛关注到了隐私和数据保护等方面的问题,如欧盟和我国已先后出台了多项相关政策、法规。但还有一些重要的议题并没有得到广泛的讨论,诸如歧视、自主权、人类尊严和不平等的权力问题虽然也有人关注到了,但无论是理论还是实践层面,这些议题还需要更充分的研究。Nick Couldry认为,准确、真诚和关怀不仅是媒体实践的道德规范,而且是需要着重培养的美德,并且,如果我们同意媒体是人类现在生活条件的组成部分,也就是融合于跨尺度的复杂的相互联系的生活世界,那么媒体就有理由成为促进人类实现卓越实践的一部分。在平台的伦理治理方面可以考虑从如下几方面入手:

政府主导建规立法

网络信息内容良莠不齐,一些新兴的信息技术如深度伪造(Deepfake)、智能算法等被滥用于网络内容的生产和传播,制造热点事件,形成网络舆情,对网络舆论环境和国家意识形态安全等领域形成了挑战,如果应对不利,那么网络信息和舆情的负面作用会对公共管理及公共政策产生冲击,危及社会稳定,影响政府公信力。一些国家甚至利用社交媒体煽动“颜色革命”,危及其他国家政权。目前,对于网络信息内容的治理受到各国政府的高度重视。如欧洲各国非常重视隐私与数据保护,提出了删除权;德国通过了针对社交媒体中假新闻和仇恨言论的立法,要求媒体公司删除此类内容,否则将面临巨额罚款;美国推出了清网计划,防止公民被污染信息环境的影响;中国更是全方位建章立规,如2021年8月,十三届全国人大常委会第三十次会议审议通过《中华人民共和国个人信息保护法》,2021年9月,国家网信办等印发《关于加强互联网信息服务算法综合治理的指导意见》,旨在“推进算法分级分类安全管理,有效识别高风险类算法,实施精准治理”。

强化平台伦理责任担当

数字平台占据了信息传播的新枢纽的位置,用户、信息、服务汇聚在平台上,平台因之具有了“中介权力”“制约权力”等,具有了新型“守门人”(Gatekeepers)定位。巴尔金教授将在线服务提供商定义为“信息受托人”,认为由于在线服务提供商从终端用户那里获得敏感信息,更应接受额外的监管。比如要求社交媒体平台提供“谎言认定”选项,使用户得以表明帖子是否可信;鼓励并要求用户负责任地发帖等等;要求算法推送更多样化的信息给用户以防止信息茧房和社会极化等等。数字平台对用户所产生的作用是非常大的,有研究表明,通过调整用户新闻提要中正面和负面信息的数量,便能在用户没有意识到的情况下影响他们的心理状态[8]。从功利主义视角看,数字平台企业当然会首先关注自己的营利,但培养塑造其用户正确价值观和品德,无论是对社会还是对企业来说都是有益的,对此,平台企业应增加积极的、建设性的内容在推送中的占比,鼓励健康的阅读习惯,以及引导有同理心的互动,而不是短视性地依靠易沉瘾的内容和算法来迅速获得经济上的收益。但现实生活中,一些平台企业通常对监管其平台上发布的内容缺乏足够的重视。

培养公民的信息伦理素养

公众在数字空间这一新场域进行的公共讨论的基本权利和自由受到保护,而其中更深一层的言论质量、观点价值等仍难以规范。整体而言,中国公众现有的数字实践中尚未呈现出较高的交往理性特征,而缺乏理性的言论则可能导致观点的对立与极化,使得“理性话语共同体”的建构更加困难。在实践中,人们随时可能因为缺乏理性而走向偏误,如未能充分客观认识自己的处境,或者过分依赖那些未经证实却广为流传的结论。社会学家Barry Wellman和技术研究员Lee Rainie在2012年出版的《网络化:新的社会操作系统》一书中提出新的“网络化个人主义”(networked individualism),认为这是一种注定要产生一个更有教养、更有创造力、更有生产力、更幸福的社会的力量。这种自由主义的观点充满着乐观的想象,但人类朝向美好的数字生活前进的道路上一定充满斗争和混沌的,需要网络空间受众共同维护和努力才能达成的。数字平台给了人们广泛参与讨论的机会,但如何让平台正向赋权于人并非易事。今后可能需要建立起一系列公众参与信息传播活动的伦理规则,比如要求公众不发表反智性的观点,不利用数字平台作恶,要培养和发展他们彼此的“交流美德”(如诚实、耐心、宽容、平等和富有同理心)。而对于那些恶意公众,可以考虑建立全网通用的黑名单制度。

数字平台的伦理建设是一项艰难的系统工程

数字技术已渗透到我们生活的方方面面:技术甚至已有可能渗透进入人体(如大脑植入),或者在我们之间建立起联系(如通过Facebook、微信等社交媒体),数字技术对我们的“了解”也越来越多(通过大数据和情感识别等技术),并能够不断学习表现得更像人类(社交机器人、虚拟人类,其表现出很强的智能行为,并能开始模仿人类的情感情绪)。数字技术正在建立与人们更为亲密的技术网络,平台成为一种新型的权力,提供了各种新的可能性,但也挑战了传统的伦理道德观念。传统伦理理论思想包括义务论、目的论和美德论三种不同的路径,每一种理论思考对数字平台治理来讲,都是有参考价值的。在实践运作中,没有必要固守一种理论传统,只要对秩序的建立有帮助就是可以接受的。数字信息平台的伦理建设应是政府、平台企业和公民共同的责任。

传统媒体时代,所有生产得以传播的内容都要经过职业化的媒体组织机构的规划和专业编辑的审核,传播的范围也相对有限,即使是主流权威媒体,其收视率和读者量也较抖音、微信这样的新型平台媒体有明显差距。当前,新媒体平台对内容虽然也有一些规制,但相较于传统媒体仍要宽松得多,几乎任何内容都有在平台上被传播和看见的机会。平台驱动下,人的社会属性正在以一种更隐蔽的方式发生改变,给社会带来了政治经济和伦理道德的风险。但这并不是说需要采取一种反市场化的态度来应对数字公共领域的权力变化。

党的十九届五中全会审议通过的《中共中央关于制定国民经济和社会发展第十四个五年规划和二〇三五年远景目标的建议》提出,“加强数字社会、数字政府建设,提升公共服务、社会治理等数字化智能化水平”,这对数字平台的监管提出了新的要求。如明确数字平台有责任把好言论关,有义务删除各种伤害性和反智性言论;要求平台提高算法的透明度,防止新的网络精英对舆论的控制,增加边缘性群体在数字平台上的可见度;要求平台为公众参与制定自己的规则,从而提供一个更有保障的在线公共领域;要求数字媒介平台运用“智能算法+人工干预”等方式,推送更多的正能量信息和主流价值观的内容,以达到“将人工智能运用在新闻采集、生产、分发、接收、反馈中,用主流价值导向驾驭‘算法’,全面提高舆论引导能力”[9]。数字化对公共价值是有影响的,如何在数字生活和数字实践中有效地保障这些公共价值,将是政府、平台和公民们的共同责任。

【本文作者为浙江大学传媒与国际文化学院教授、浙江大学宁波理工学院传媒与法学院院长;本文系国家社科基金重点项目“新媒体环境下公共传播的伦理与规范研究”(19AXW007)阶段性成果】

注释

[1]林文刚编,何道宽译:《媒介环境学——思想沿革与多维视野》,北京:北京大学出版社,2007年,第30页。

[2]Schmidt,Eric and Jared Cohen. The New Digital Age: Transforming Nations,Businesses,and Our Lives. New York: Vintage,2014,p.121.

[3]K Starbird.,Disinformation's spread: bots,trolls and all of us. Nature,2019,571(7766):449-449.

[4]Murthy D.,Towards a sociological understanding of social media: theorizing Twitter,Sociology. 2012,46(6),1059-1073.

[5]蔡骐:《网络虚拟社区中的趣缘文化传播》,《新闻与传播研究》,2014年第9期,第5—23+126页。

[6]毛丹、王敬雅、陈佳俊:《“饭圈”观察:组织特征与圈内外关系》,《社会学研究》,2021年第6期,第90—112+228页。

[7]黄楚新:《网络民粹思潮的动态、趋势及对策》,《人民论坛》,2021年第3期,第26—28页。

[8]Kramer,A. D. I.,Guillory,J. E.,& Hancock,J. T.,Experimental evidence of massive-scale emotional contagion through social networks. Proceedings of the National Academy of Sciences,2014,111(24),8788-8790.

[9]习近平:《加快推动媒体融合发展 构建全媒体传播格局》,《求是》,2019年第6期,求是网,http://www.qstheory.cn/dukan/qs/2019-03/16/c_1124241424.htm,2019年3月16日更新。

责编: 李 懿/美编:石 玉

Ethical Dilemma and Systematic Governance of Digital Platforms

Wu Fei

Abstract: Digital technology strengthens social connections, broadens people’s communication channels, and enables people to interact and share information in the virtual field, thus making personal voices heard more widely. The connectivity of digital technology also promotes the integration between different virtual platforms and between virtual platforms and the real world to construct a networked society. The digital platforms, on the one hand, increase the potential of rational dialogue between people, providing new opportunities for democratic participation, but on the other hand, exacerbate the negative emotions between people, accelerating the spread of false, hostile, and other negative information. In order to utilize the advantages of technological development, we should make systematic governance over ethics in digital platforms through the joint efforts of different subjects including government, platforms, and users.

Keywords: digital platform; governance over ethics; governance of science and technology; information dissemination

声明:本文为《国家治理》周刊原创内容,任何单位或个人转载请回复国家治理周刊微信号获得授权,转载时务必标明来源及作者,否则追究法律责任。

[责任编辑:罗婷]