党的二十届三中全会审议通过的《中共中央关于进一步全面深化改革 推进中国式现代化的决定》提出，要“加强网络安全体制建设，建立人工智能安全监管制度”。人工智能安全是国家安全的重要组成部分。全国网络安全标准化技术委员会于2024年发布的《人工智能安全治理框架》1.0版也提倡人工智能的发展要遵循“以人为本、智能向善”的方向，有效防范化解人工智能安全风险。近年来，“人本人工智能”这一理念引起了学界和业界的广泛关注，它符合人类对人工智能和谐友好、尊重隐私、安全可控、开放协作的希望。为促进人工智能技术朝着以人为本的方向发展，需从人工智能的研发、使用和监管三个方面协同发力。
秉持智能向善、安全透明、公平无偏的人工智能研发理念。“向善”是人工智能发展的基本原则。人工智能技术研发工作的各项内容都应将伦理道德纳入考量范畴。在人工智能深度学习的输入和输出之间，存在着普通用户甚至是开发者都难以洞悉的“算法黑箱”，不仅为人工智能的安全性和可靠性带来了挑战，也影响了人工智能在一些关键领域的应用，如医疗诊断、金融决策等。算法黑箱可能会隐藏算法中的偏见，这些偏见来源于并不中立的训练数据，这些数据产生自真实的人类社会活动，可能存在不平等性、排斥性和歧视性。因此，在数据采集环节，应加强伦理审查，杜绝有意识的偏见，并尽可能减少无意识的隐性偏见。在算法设计和实现环节，提升算法自动化决策的透明性、可解释性和可理解性，逐步实现可验证、可审核、可监督、可追溯、可预测、可信赖。
构建合法合规、责权明确、尊重隐私的人工智能使用原则。技术不是超越社会的、“中性的”力量，而是寓于现实的多重关系之中。人工智能作为一种通用技术，在造福人类的同时，也存在着被恶意使用的风险。人工智能一方面放大了现有威胁，如钓鱼邮件、恶意软件和隐私侵犯等；另一方面引入了新型威胁，如人工智能自动化攻击、人工智能深度伪造等。因此，人工智能产品或服务在为人类所使用之前，需经过严格的论证与评估，充分考虑利益相关主体的合法权益，避免误用滥用，禁止违规恶用。此外，要警惕由人工智能技术构建的“圆形监狱”。人工智能时代的一个特征便是人与技术融为一体，人类身处技术之中，依赖甚至依附于技术。由技术建构的“圆形监狱”不仅可能产生对人类活动的隐匿监控，甚至可能加剧了人类的物化和异化现象，对人类的本质、主体地位、基础认知能力和创造力等形成强烈冲击。因此，在充分挖掘人工智能技术对人类生活赋能潜力的同时，也要避免人工智能反向作用。
实施全面监督、动态调整、公众参与的人工智能监管机制。要想将人工智能技术作为人类社会高质量发展的稳定引擎，就需要警惕由技术发展过快所带来的治理落后问题，摒弃以牺牲安全为代价的粗放增长，遵循“边发展、边治理”的准则。首先要建立健全公开透明的人工智能技术监管体系，搭建人工智能设计问责和应用监督的双层监管结构，实现对人工智能算法设计、产品开发和成果应用等的全过程监管。鉴于人工智能技术的迭代速度极快，其相应的监管方式也需与时俱进。应考虑技术特点、行业领域、应用场景等因素，科学动态地调整人工智能技术研发和落地应用标准。推进人工智能与网络安全、信息安全等领域融合，防范数据泄露、恶意攻击和其他安全威胁，通过高效的科学监管来提升人工智能安全治理水平。更为重要的是，持续推动人工智能健康发展，需要多方协同、共建共治，从而使人工智能技术始终符合人类的道德规范和价值标准。可尝试构建多部门协调、多学科融合、多方主体参与的人工智能安全治理框架和工作体系，搭建公众参与治理的线上线下平台，建立起人人有责、人人尽责、人人享有的人工智能安全治理规范，携手打造开放、公平、非歧视的人工智能发展环境，共同走向更加美好的智能未来。
作者：姜婷婷，武汉大学数据智能研究院；许艳闰，武汉大学信息管理学院