人民智库 旷视AI治理研究院 | 联合发布
2020年度全球十大人工智能治理事件及变革趋势前瞻
当前,新一代人工智能技术正在全球范围内蓬勃兴起,与大数据、区块链、5G等新技术相互融合、相互因应,为经济社会发展尤其是数字经济发展注入新动能,正在深刻改变着人类的生产生活方式。与此同时,如何在新技术变革浪潮中始终立于主动,实现人工智能等前沿科技领域有效治理,确保其持续健康发展,也成为国际国内、社会各界广泛关注的重要现实问题、重大时代议题。
党的十八大以来,以习近平同志为核心的党中央高度重视前沿科技领域发展与治理,中央政治局就人工智能、区块链、量子科技等新技术领域相关问题分别进行集体学习。习近平总书记高度重视新一代人工智能发展与治理,提出“要深刻认识加快发展新一代人工智能的重大意义,加强领导,做好规划,明确任务,夯实基础,促进其同经济社会发展深度融合,推动我国新一代人工智能健康发展”。
刚刚过去的2020年,波澜壮阔、极不平凡。“两个一百年”目标历史交汇,中华民族伟大复兴战略全局与世界百年未有之大变局相互激荡、相互作用,新冠肺炎疫情仍在多国肆虐,人工智能在疫情防控、社会治理、国际协作等多个领域发挥重要作用,新一代人工智能技术发展取得诸多重大成果,世界各国积极探索与人工智能发展相适应的治理路径,出现诸多具有标志性意义、可能产生深远影响的重要事件。对这些事件进行梳理总结、深入研究,有助于深化对人工智能治理规律的认识,有助于更精准把握人工智能技术、产业、生态发展趋势,有助于引发社会各界就人工智能治理领域关键问题、重点难点进行深入思考,形成更广泛共识。
人工智能治理是复杂性、系统性很高的社会议题,涵盖政策、技术、产业、法律、传播、伦理、安全、国际关系等诸多领域。对国际国内人工智能治理标志性事件开展研究,也必然需要各界共同推动。为此,人民智库与旷视AI治理研究院成立联合课题组,共同开展“2020年度全球十大人工智能治理事件”遴选、评议,组织相关领域权威专家学者,从AI与公众福祉、AI与公平正义、AI政府(企业)治理、AI系统安全性与数据隐私安全等四个主要维度出发,依据理论价值、实践价值、新闻价值、研究价值等四个评价标准进行评议,并面向社会公众开展在线问卷调查,对人工智能产业领域从业者,相关部委、行业协会领导专家等典型群体进行深入访谈。经综合各方面资料、数据、意见、观点,最终评选出2020年度全球十大人工智能治理事件。
这些事件,反映着人工智能治理领域实践探索和前沿趋势,反映着新一代人工智能技术的广泛应用前景,反映着公众对人工智能治理引导科技向善,助力政府、机构、企业的多层次、多样化参与,通过新一代信息技术的良性发展增进人类福祉、改善民生的热切期待。
助手还是杀手?读懂人类意识的AI或者拥有自主意识的AI?关系人类福祉的人工智能,要走“边发展,边治理”的新模式
人工智能这一概念,自1956年美国达特茅斯会议提出至今,经历了漫长的野蛮生长初生阶段。霍金提出“人工智能也有可能是人类文明史的终结,除非我们学会如何避免危险”;马斯克认为,人工智能的“风险大得多”,并且这是“威胁人类文明存在的根本性风险”。近年来,伴随无人驾驶、人脸识别、智能语音等人工智能技术的广泛应用,以及基于深度学习、跨界融合、人机协同、群智开放、自主操控为特征的新一代人工智能技术发展的第三次浪潮来临,对于人工智能治理的讨论再次被社会各界广泛提及。
中国互联网飞速发展近30年,相关专家总结互联网治理的经验教训时,认为过去我们的治理模式之一就是“先发展,后治理”,即先“摸着石头过河”,待问题出现或者积累到一定程度,再进行专项治理并建立规范。然而人工智能在我国的爆发式发展所具备的新特征更为明显:一是政策支持和重视程度更高;二是与社会资本的结合度更高;三是原本已成规模的互联网企业纷纷涉足人工智能领域;四是技术基础、产业基础及经济社会发展需求更为强烈。这些因素都直接决定了人工智能治理不可能重复互联网治理的老路,对治理结构、治理路径和治理范围都提出了更多、更新的挑战,也需要我们以更创造性的理念来应对。
本次十大事件评选中,涉及人工智能与人类福祉、公平正义高度的事件受到的关注度最高,如通过算法黑箱侵犯外卖小哥利益的事件“AI成‘监工’:算法下外卖骑手挑战交通规则,‘助手’可能变‘杀手’”(排名第1,得票率51.20%);以及假借人工智能技术进行违法行为的事件“湖南岳阳警方破获AI犯罪案,技术犯罪仍要惩罚人”(排名第9,得票率48.75%)。国际方面,最受关注的是人工智能技术突破现有边界,有可能对人类福祉造成不良影响的事件,如:“人工智能可以翻译大脑想法将大脑信号转化为文本数据,‘读懂意识’让隐私无处遁藏”(排名第2,得票率50.09%);“人工智能技术突破现有边界,具备‘自主意识’,可实现独立研发、自我修复等功能”(排名第8,得票率48.75%)。
党的十九届四中全会《决定》提出,“健全科技伦理治理体制”。将健全科技伦理治理体制作为推进国家治理体系现代化的重要组成部分,是以习近平同志为核心的党中央在全球范围新一轮科技革命和产业变革蓬勃兴起、人类发展面临前所未有的新机遇和新挑战的历史时刻作出的重大部署,对于克服科技领域存在的伦理问题、促进我国科技事业健康发展,具有重要意义。