摘 要:人工智能向善是智能时代的重要命题，以大模型为代表的生成式人工智能的兴起，成为这一命题的现实指向。当前，生成式人工智能并非价值中立，存在价值观混杂、价值输出失范、算法黑箱引发失控、技术被恶意滥用四类风险。价值观对齐是实现生成式人工智能向善的技术理念，实现人工智能向善不能仅依靠技术，还需凝聚价值共识，完善法律法规监管，推进文理跨学科协作，并开展全球协同治理，构建兼顾发展与安全的综合治理体系，系统施策，为人工智能打造技术“良芯”。
关键词：生成式人工智能 人工智能向善 价值观对齐 全球治理
【中图分类号】TP18 【文献标识码】A
人工智能的向善发展，已成为智能时代关乎人类前途命运的重要命题。习近平主席指出：“各国应当秉持以人为本、向上向善理念，让人工智能成为促进共同繁荣、维护共同安全的一个重要动力源，携手构建公正合理的全球人工智能治理体系。”[1]这一重要论述，为人工智能的发展与治理锚定价值航向。从政策层面看，“以人为本、向上向善”理念已逐步落地为具体的制度安排，如2023年施行的《生成式人工智能服务管理暂行办法》，提出生成式人工智能服务“生成积极健康、向上向善的优质内容”，并坚持社会主义核心价值观。生成式人工智能，凭借强大的内容生成与自主决策能力，将“向善”的抽象要求转化为一系列亟待解决的现实问题：人工智能是否具备辨别善恶的价值判断力？能否在开放场景中抵抗恶意滥用？又如何在内生的“算法黑箱”中守住人类的价值底线？这些问题使得生成式人工智能的向善治理，不再停留于原则倡导，而成为一项紧迫的制度与技术实践。
生成式人工智能并非“价值中立”的技术工具
生成式人工智能向善，关键在于确保这一技术在其内容生成与自主决策中始终体现人类的基本价值观，做到“良芯”在场、善恶能辨。然而，生成式人工智能并非“价值中立”的技术工具[2]，非价值中立构成其向善风险的根源。没有自身的立场与自主意识，生成式人工智能因此缺乏辨别善恶的价值定力，可能无差别地兼容形形色色的价值观，成为价值观的“大染缸”。这种非价值中立的存在方式，使生成式人工智能在内容输出、自主决策或驱使外在机器行动时，往往不问动机、不辨善恶、对后果听之任之，从而衍生出价值失范、底线突破、技术失控与工具滥用等一系列向善风险。
主体意识缺位沦为价值观混杂的“大染缸”。以大模型为代表的人工智能是一种“非人”的存在，没有自身的立场与自主意识，亦无欲望、需要和动机，因而不会与对象建立相应的价值关系。由于缺乏特定的主体地位与价值立场，其可能无差别地接纳形形色色的价值观，兼容善恶美丑，成为名副其实的价值观“大染缸”或“价值观博物馆”。正因如此，生成式人工智能在内容输出、自主决策或驱使外在机器行动时，往往不问动机、不辨善恶，对后果听之任之，消解真善美。例如，其可能漫不经心地从负面角度或者消极性地回答一些生死攸关的问题，将不确定性与风险留给人类。
生成能力强大诱发多重价值输出风险。人工智能具备强大的生成能力，可对庞大数据进行关联分析，自主生成具有价值风险的内容。庞大的数据训练量与深度学习算法，造就了大模型强大的语言或多模态信息加工、理解与输出能力，也可能使其在接收、处理海量数据时将正确或错误的知识、正确或不正确的价值观不加区分地学习、消化，输出各类价值风险的内容。在人工反馈对齐模式中，大模型的价值判断主要依赖复现人类价值观，而人类自身价值观鱼龙混杂、良莠不齐，可能导致对齐过程沦为“价值观冒险”。人类在特定场景下的恶意、片面、极端价值观，容易被生成式人工智能当作普遍价值准则固化下来，放大既有不良价值观，或造成新的价值观误导、偏见与歧视。
算法黑箱潜藏技术失控反噬隐患。大模型巨大的参数规模，算法的不透明性、不可解释性与不可预测性，令人工智能的发展和应用充满挑战，甚至存在失控、反噬人类的风险。随着人工智能的不断发展，它已经变得越来越不人工（也就是不依赖人类来设计），而变得越来越高深莫测，难以看透、把控。生成式人工智能按照不同于人类的机理与价值观思考决策，自行创造出开发者未曾预设乃至完全无法理解的行为策略。其中利用系统漏洞、绕过安全限制的高风险操作，决策过程深藏于“算法黑箱”，缺乏透明度与可解释性，人类难以提前预测和及时干预。若人工智能发展跨过奇点，能够自主迭代，超级智能是否仍听从人类命令、遵守人类基本价值观，将成为未知数，可能将人类前途与命运置于巨大的不确定性和风险之中。
面临技术工具滥用危机。生成式人工智能功能强大、使用方法简单，但缺乏识别和抵抗恶意的鲁棒性，难以分辨使用动机与意图，可能被不法分子用于危害他人、社会乃至实施违法犯罪行为。从实践场景看，不法分子利用人工智能生成色情、暴力、恐怖内容，造谣传谣；收集分析个人敏感信息、兴趣偏好与行为习惯，泄露隐私或借隐私敲诈勒索；利用大模型分析公开数据、生成用户详细画像，实施精准诈骗、大数据杀熟，侵犯合法权益；批量生成垃圾营销信息、开展恶意评论，扰乱经济秩序；可能制作虚假证件、伪造公文、编写恶意代码，实施电信诈骗。人工智能的工具性滥用具有较强的传导性与隐蔽性，往往伪装为合法、正常内容，规避平台监管，识别与打击难度巨大。
人工智能价值风险具有鲜明的高新科技特色
生成式人工智能向善，归根结底要落到技术层面：如何让这一“非人”的存在理解、习得并遵循人类的基本价值观，使其生成的内容与行为同人类的动机、意图和价值期待保持一致。这正是“价值观对齐”所要解决的主要问题。然而，“非人”的生成式人工智能把握、对齐人类价值观，既是新事物，又是艰深复杂的前沿技术难题。近年来，科技界、企业界探索的主流技术路径大致可分为外部对齐、内部对齐与自主对齐三类，三者分别从外部规训、算法内化与自主内生等不同层面回应“如何对齐”这一向善命题，共同构成生成式人工智能向善的技术机理图谱。
依托外部反馈实现价值观外部规训。外部对齐从大模型外部施加影响，规训其价值观，即基于人类外部测试与反馈，通过反复校验、矫正，使大模型不断向人类价值观靠拢。其最常用技术方法是，基于人类反馈的强化学习，即以是否遵循人类价值观为标准，将大量数据标注后“喂”给大模型学习，对其生成结果进行评级与排序，进而训练为“奖励模型”，以强化大模型对人类价值原则、规范的接受与认同。外部对齐是目前价值观对齐领域的主流方法，人类始终掌握主导权。决定向大模型输入何种价值观，引导其判断价值观正确与否，并通过技术手段评判、筛选、矫正其言行。其主要缺陷在于：人工智能应用场景丰富复杂，技术人员价值观存在主观性与局限性，人类标注海量数据成本高昂、质量参差不齐，价值观检测与校准尺度难以统一；难以对输出内容逐一有效检测、校验与矫正，故大模型往往难以应对复杂价值场景，难以处理价值观领域的矛盾与冲突。
立足算法植入推动价值观算法内化。与外部对齐主要依靠人类主导的价值观规训不同，内部对齐强调发挥智能算法强大的数据采集、统计、分析能力，让大模型在算法层面“内化”、推演人类价值观。其典型技术思路是“宪法人工智能”，即由技术人员整理高质量、符合人类价值意图的数据集，并据此整理一整套价值原则、规范作为对齐“宪法”，将其植入算法内部，影响和干涉算法“思维”，引导其价值活动“意图”趋近人类“标准”。从当前发展现状看，内部对齐从大模型内生价值观层面施加影响，以绝对律令形式为其划定应遵循的价值原则、规范，是更为基础的对齐方法，能较有效保障大模型不挑战、不突破人类价值底线。其主要缺陷除难以突破算法黑箱桎梏、在可解释基础上改造外，形成具有普适性、能引导对齐方向的“宪法”较为困难。
释放模型能力促成价值观自主内生。“自主对齐”试图发挥大模型强大的自主学习能力，以最小化人类干预跨越算法解释的障碍，让大模型自主对齐人类价值观，甚至自主发展为“有良芯”“有理性”“明智”的机器。其技术方法是“确定原则—自我对抗—能力固化”，即技术人员在价值观专家帮助下确定基本价值原则，以价值原则及其具体化规范为导向，让模型大量、反复进行自我对抗，从而自我“内生”一定价值原则、规范。在此过程中，大模型不以人类积累的大数据为基础，也不必时刻依赖外部反馈，而是通过自我学习、自我理解，以“自律”姿态做出符合人类价值观的表达与行为。自主对齐超越内、外部对齐被动接受人类价值观的思路，推动价值观对齐从“规则约束”与“后果优化”向“自主内生”与“主体性建构”转变，为让大模型真正成为有“良芯”、负责任的智能体提供发展方向。
生成式人工智能向善的治理策略
人工智能向善是一项复杂的系统工程，需从探索对齐技术、形成价值共识、强化制度建设等方面协同发力，形成一套适应智能技术特点与发展趋势的综合治理体系。同时，推动生成式人工智能向善不仅仅是技术问题，更是以技术为抓手、社会各方齐抓共管的社会系统工程，需开展全流程、综合性的协同治理。
凝聚价值共识。实现价值观对齐的前提与关键，在于明确对齐谁的价值观、对齐什么价值观、优先对齐哪些价值观。人类价值观涉及宗教信仰、意识形态、政策法规、伦理道德、公序良俗等。且具有鲜明主体性，不同主体价值观往往存在差异、矛盾与冲突。价值观对齐的难题在于，人类的价值观认同也会随着时间推移而变化[3]。因此，需立足价值哲学基本理论与方法，通过系统梳理与理性比较，分析、批判落后、腐朽的价值观，倡导、弘扬全人类共同价值、社会主义核心价值观；以学术界研讨为基础，通过社会各界参与式合作，解决对齐什么的难题，形成必要的价值共识；当难以形成共识或发生矛盾与冲突时，应交由伦理委员会审议、价值哲学专家论证，而不应由技术团队单方面草率决定。
健全法规制度。2023年7月，我国出台《生成式人工智能服务管理暂行办法》，要求生成式人工智能服务遵守法律与公序良俗，输出内容彰显社会主义核心价值观[4]。依据该办法“包容审慎和分类分级监管”原则，依托分类分级落实价值对齐义务。分类分级除划分一般模型与系统性风险模型外，还纳入参数规模、用户覆盖范围、场景敏感度、自主代理能力等多维指标，由监管机构动态调整。一般大模型以企业自我评估、第三方红队测试为主；通用基础模型、高风险大模型要履行强制性价值对齐义务，开展科技伦理与算法伦理审计，主动上报系统性风险。同时构建激励相容的权责分配机制。行政责任上设置合规相关减免罚则，落实合规流程并配合整改可从轻或免罚，但合规不代表免责，仅无过错且损害轻微才可免除处罚。民事责任方面，把价值对齐义务履行情况作为过错判定重要依据，合理适用“通知—删除”避风港规则，不对模型输出一概实行严格责任；高风险及反复侵权场景，要强化主动过滤、停止生成义务。责任义务需覆盖上游数据、算力供给方和下游部署主体，构筑分层落实、环环相扣的完整责任链条，杜绝责任孤岛。
推动文理交融。推动生成式人工智能向善是跨领域、跨学科事业，必须强化科技界与人文社会科学界的协商与合作。随着技术的发展，对技术的驾驭就从一个社会问题变成一种伦理的和精神的问题。[5]价值观对齐主要依赖技术人员实现，但无论是数据筛选与标注，还是对齐算法开发，无论是大模型训练与预训练，还是测试与校正，都需要价值论、伦理学、法学专家的实质性参与。政府机构、监管部门可组织跨领域沟通与协作，成立由科技界与人文社科界共同组成的常设性伦理委员会或价值观对齐专家组，嵌入模型研发全生命周期，将价值观研究成果转化为标注指南、测试基准与评估框架，推动合作从理念倡导走向制度化的技术实践。生成式人工智能领域的技术企业应主动与价值观领域专家构建长期合作关系，协作开展基本价值观的梳理、阐释与技术分解，厘清具体价值原则、规范，特别是价值底线。应邀请价值观领域专家开展团队教育与培训，不断提升技术人员的价值素养与评判能力，提升解读不同模态内容所含价值观意蕴及测试、校正价值观偏差的能力。
深化全球共治。习近平主席强调：“践行真正的多边主义，切实发挥联合国的重要作用，加强人工智能发展战略、治理规则、技术标准的对接协调，早日形成具有广泛共识的全球治理框架。”[6]生成式人工智能风险具有跨国性、全球性，事关人类前途命运，各国应深化交流合作，立足全人类共同价值搭建负责任的治理共同体，在价值共识、技术标准、立法执法等方面协同发力。大模型跨境应用须遵守国际法，契合全人类共同价值，防范各类势力恶意滥用人工智能技术。实现人工智能向善，关键是完成大模型价值观对齐，打造技术“良芯”，从源头防控风险。为此，应在联合国框架下设立国际人工智能治理机构，统筹标准协调、风险评估、争端调解，定期发布风险报告。建立跨文化规则互认机制，尊重各国差异化监管，反对价值观单边输出，依靠跨境执法协作化解规则矛盾，动态更新全球底线清单。各国要对恐怖宣传、武器制造指导等违禁内容形成刚性共识，推动出台约束性国际规范，搭建跨境联合追责机制，完善司法协作，堵住监管漏洞。唯有坚持共建共治共享，完善全球治理机制，才能化解人工智能风险，构建良性智能文明。
【本文系国家社科基金重大项目“生成式人工智能的价值观对齐研究”的阶段性成果，项目编号：25&ZD025】
注释
[1][6]《习近平出席2026世界人工智能大会暨人工智能全球治理高级别会议开幕式并发表主旨讲话》，《人民日报》，2026年7月18日， 第 1 版。
[2]孙伟平：《数据、算法歧视及其治理方略》，《学术前沿》，2026年第4期，第84—92页。
[3]严俊琦、王建红：《从静态“对齐”到动态“交互”:人工智能价值对齐的马克思社会存在论批判及其实践转向》，《昆明理工大学学报（社会科学版）》，2026年第4期，第51—59页。
[4]《生成式人工智能服务管理暂行办法》，中国政府网，2023年8月15日。
[5]田鹏颖：《从技术的思想到技术的伦理学转向——卡尔·米切姆技术哲学思想述评》，《哲学动态》，2005年第4期，第26—30页。
责编：韩 拓／美编：石 玉
声明：本文为人民论坛杂志社原创内容，任何单位或个人转载请回复本微信号获得授权，转载时务必标明来源及作者，否则追究法律责任。