摘 要:生成式人工智能具有高度拟真性、规模化生成、语境适应性、交互代理等特质，可对网络信息生产、流通与聚合机制产生深刻影响。这一技术变革，既给网络生态治理带来新考验、新课题，也为提升治理效能、壮大主流舆论、优化内容生态提供新的技术支撑。应对其给现有舆论生态治理框架带来的机遇和挑战，需从技术、制度、素养等维度协同发力，夯实网络空间的信用基础，推动网络生态治理范式转型。
关键词:生成式人工智能 网络生态治理 治理范式 协同治理
【中图分类号】G206 【文献标识码】A
随着生成式人工智能技术的快速发展，网络内容的生产方式与传播格局正经历深刻变革。当海量虚实难辨的信息涌入舆论场，网络舆论所反映的民意就需要审慎研判；当文字、图像、声音、视频均可由算法生成，“公众意见”的内涵也在经历深刻变化。而这些变化，关乎网络空间能否真正成为思想引领、道德培育、文化传承的重要阵地。习近平总书记指出：“网络生态治理是网络强国建设的重要任务，事关国家发展和安全，事关人民群众切身利益。”[1]如何构建与新技术发展相适应的网络治理体系，持续优化网络生态，已成为我们必须回答的时代课题。
生成式人工智能的技术特质及其对网络生态的重构
生成式人工智能对网络生态的影响源于其独特的技术特质，主要体现在四个方面。一是高度拟真性。大语言模型对人类语言风格、情感表达和论证逻辑的深度模仿，使其输出在表面上难以与人类创作相区分。二是规模化生成能力。内容生产的边际成本趋近于零，单一主体能够在短时间内生成海量差异化内容，生成式人工智能使“意见”生产不再受制于人类表达的时间与精力限制。三是语境适应性。模型可以根据指令调整输出风格、立场和受众定位，精准针对特定群体，实现“千人千面”的定制化内容生成。四是交互代理能力。人工智能不仅能够生成静态内容，还能作为“对话者”持续参与舆论互动，模糊内容生产与参与传播之间的边界。
将人工智能时代与此前的不同媒介时代相比较，可以更清晰地看到媒介生态的深刻变迁。在大众媒体时代，信息环境主要由专业新闻机构建构，内容生产具有明确的主体责任，信息来源可追溯、可问责。进入社交媒体时代，专业机构的信息垄断被打破，用户生成内容成为主流，但内容仍然源于真实的人类表达。人工智能时代，信息环境则发生质变，内容不再仅仅被选择性呈现，而是可以被大规模合成创造；信息环境的“原材料”本身就可能是机器生产的；创作主体从人类扩展到人机混合甚至纯机器，“作者”这一概念的边界变得模糊。生成式人工智能技术若被不当使用，可能使舆论环境从“对现实的选择性呈现”演变为“对现实的合成性替代”。这将对网络生态治理构成严峻挑战，我们需系统审视其中薄弱环节，通过制度完善、技术治理与多方协同，切实筑牢治理屏障，推动形成清朗有序、向上向好的网络生态。
人工智能时代网络生态可能面临的系统性风险
生成式人工智能的规模化生成能力，若缺乏有效规制，可能给网络生态带来系统性风险。
主流价值影响力被稀释。海量合成内容会导致单位信息的价值被稀释。在此情形下，真实的民意表达被淹没在合成信息的“噪声”中，导致公众难以辨识有效信息，有限的公共注意力被大量低质内容消耗，使严肃议题难以得到充分讨论。同时，由于“量”已不能反映真实民意的“质”，传统基于数量统计的舆情分析方法面临失效风险。长期接触由特定大语言模型构建的信息环境，会使公众的价值观念受到持续影响，更容易接受其中隐含的立场或观念，进而可能对主流价值认同和社会治理效能产生潜在影响。[2]
公共话语生态受到冲击。低成本、规模化的人工智能生成内容在注意力竞争中占据优势，而需要投入时间与精力的深度思考则面临被边缘化的风险。随着“发声”门槛降低，理性参与者逐步离场，致使公共讨论呈现出从实质性观点交锋，滑向形式化符号堆砌的趋势。此外，专业人士基于审慎判断的见解，也往往会被海量看似专业、实则似是而非的人工智能“分析”所淹没。
社会信任基础面临考验。从信任利用角度看，生成式人工智能能够模仿熟人语气、冒充权威机构、制造看似专业的论述，系统性利用社会信任网络。然而，一旦这种利用被识别，又容易导致信任的全面退潮。从证据环境角度看，深度合成技术使图片、视频、音频等传统“证据”都可能被伪造，“以证据论事”的认知框架随之受到挑战，公共讨论可能陷入“无限举证”的困境。更值得关注的是，生成式人工智能在一定程度上突破了传统舆论操纵的约束条件，既能实现百万量级的规模传播，又能进行个性化精准定制，这种技术能力是此前传播手段所不具备的。
生成式人工智能给现有舆论生态治理框架带来的机遇和挑战
当前，人工智能、大数据等新技术新应用不断涌现，给网络生态治理带来挑战，也提供新的支持条件。[3]就机遇而言，生成式人工智能为网络生态重构和治理范式重塑提供新的技术支撑。在赋能主流内容生产、壮大网络正能量方面，生成式人工智能可以大幅提升优质内容的生产效率，辅助主流媒体创作有内涵、有温度、有影响且符合新媒体传播规律的作品，将主流价值内容转化为适合不同受众的多样化表达形式，实现分众化、精准化传播。与此同时，相关技术能够显著提升舆情感知的精准性与时效性。生成式人工智能凭借其强大的自然语言理解能力，能够实时分析舆情的情感、路径与趋势，精准把握舆论气候，并辅助识别虚假及深度伪造信息，为事实核查提供技术支撑。在网络空间治理方面，生成式人工智能可以为网络平台的内容审核提供智能辅助，在海量信息中快速识别违规内容；在网络政务服务中，驱动智能问答系统全天候响应群众咨询；在网络安全防护中，实时监测异常行为。在支撑国际传播能力建设方面，借助大模型多语言生成能力，可以将中国声音高效转化为多语种内容，突破语言传播壁垒，并帮助分析不同文化背景受众的信息偏好，实现更精准的跨文化传播。
就挑战方面而言，生成式人工智能的广泛应用，给现有治理框架带来一些有待解决的新课题。在感知层面，传统舆情监测主要依赖关键词识别、情感分析和传播网络追踪，这些方法难以有效区分内容真实来源，容易导致对舆论态势的误判。在归责层面，当人工智能生成能力扩展到广大用户层面时，责任链条在“模型开发者—部署者—使用者—分发平台”之间变得分散，难以明确界定追责主体。在时效层面，人工审核与事实核查的速度往往落后于人工智能生成与传播的速度，形成结构性“时滞”。更深层的问题在于网络舆论出现的“异化”现象。人工智能生成的“意见”脱离人类主体的真实意图，成为一种无主体的符号存在；舆论渠道可能被用于影响甚至操纵公众；表面的“公众意见”可能与真实民意存在脱节。这种“异化”不仅降低公众参与公共讨论的积极性，也使“什么都可能是假的”成为一种较为普遍的心态，进而对社会公共生活的信任基础产生一定影响。
网络生态治理的范式转型势在必行
将人工智能时代网络空间的舆论风险类比为“信用危机”，治理的目标就不能局限于管理具体内容，更重要的是夯实网络空间的“信用基础”。为此，需从以下几个方面入手实现范式转型。
在技术层面，建设网络空间的“信用基础设施”，从“事后监管”转向“事前与事中嵌入”，提升网络生态治理的前瞻性和精准性。建立内容溯源机制，推动人工智能生成内容的数字水印、元数据标注等技术标准化，使内容来源可追溯、可验证。加强检测能力建设，发展深度合成内容的检测技术，建立人工智能生成内容的特征数据库，支持跨平台协同识别。推动负责任人工智能的设计嵌入，在基础模型训练与对齐阶段植入防止滥用的技术约束，推动“可信人工智能”原则落地。[4]
在制度层面，从“集中式管控”转向“分布式协同治理”，提升网络生态治理的系统性和协同性。必须坚持党管媒体原则不动摇，加强对网络平台、自媒体及多频道网络机构等的引导，推动其切实履行社会责任，主动传播正能量。在责任框架设计上，应依据主体角色明确分层责任：基础模型提供者须承担防范能力滥用的主体责任，服务部署者应落实具体场景下的风险管理责任，内容分发平台则需履行传播环节的内容把关责任。通过政策引导、许可管理等多种方式，促进行政监管与行业自律有效衔接，统筹推进网络领域立法、执法、司法与普法各项工作，形成治理合力。
在素养层面，强化公众对网络信息的认知判断能力，提升网络生态治理的持久性。引导公众理解生成式人工智能的能力边界与风险特征，培养公众对信息来源的批判性审视习惯。同时，培育公众建立基于来源评估与交叉验证的判断习惯，既不轻信一切信息，也不陷入虚无主义。更为关键的是，主流媒体需发挥网络优质内容供给的示范引领作用，在众声喧哗中建立可信赖的“定海神针”，深化党的创新理论网上宣传，大力弘扬社会主义核心价值观，推出多有内涵、有温度、有影响的网络作品，为公众正确感知舆论气候提供权威参照系。
在国际合作层面，推动建构网络空间命运共同体，提升网络空间治理的国际话语权。习近平总书记强调：“网络生态治理是世界各国面临的共同课题。”[5]当前，面对生成式人工智能等新技术带来的全球性挑战，加强国际协作显得尤为重要与紧迫。我们应秉持共商共建共享的全球治理观，主动参与并引领人工智能治理、数据安全、数字伦理等新兴领域的国际规则与标准制定，以网络空间命运共同体理念凝聚全球共识。同时，加强国际传播网络平台和能力建设，积极运用人工智能等新技术赋能国际传播全链条，通过更精准、更生动、更具文化穿透力的内容生产和传播，向世界展现可信、可爱、可敬的中国形象。
【本文作者为山东大学舆论研究中心主任，山东大学新闻传播学院教授、博导；本文系国家社科基金一般项目“社会时空视角下媒体深度融合的发展策略与理论路径研究”（项目编号：21BXW003）的阶段性成果；山东大学新闻传播学院博士研究生吴元浩，对本文亦有贡献】
注释略
责编：冯一帆／美编：石 玉