【摘要】数字时代,“网络开盒”现象愈发突出,展开系统性治理,成为迫切之举。政府部门需要基于算法行政框架,准确识别“网络开盒”的风险点,加大数据跨境流动的监管力度,构建可信数据空间,从根源上消除“网络开盒”的个人信息来源。作为治理“网络开盒”的关键角色,网络平台应履行“看门人”义务,对自身算法进行备案,规范个人信息收集、处理等流程,同时阻隔潜在的“网络开盒”行为人在网络空间中聚集,配合相关部门及时调取固定证据。针对涉及“网络开盒”的未成年人,一方面,要引导其远离“网络开盒”,树立正确的网络使用观念;另一方面,要加强未成年人个人信息保护,避免其受到“网络开盒”的负面影响,营造良好网络生态环境。
【关键词】“网络开盒” 网络暴力 个人信息保护
【中图分类号】D922.16 【文献标识码】A
数字时代,网络空间成为公众日常交互信息的重要集散地,但其舆论环境因此变得“鱼龙混杂”。各类网络违法犯罪案件不时出现,表现形式不断翻新,导致损害范围随之扩大,其中以“网络开盒”行为最为严重。例如,某未成年人曾因“饭圈”纠纷而肆意“网络开盒”他人,通过新兴数字技术从海外社工库非法获取一名孕妇的个人信息,发布在网络空间后公开组织、引导网络暴力,造成严重后果,引发公众对于网络空间安全的担忧。2025年5月,中央网信办专门印发通知,从阻断“开盒”信息传播、完善预警机制、加大惩治力度、优化保护措施、加强宣传引导等多个维度明确工作要求,督促各地网信部门、各网站平台进一步强化“开盒”问题整治工作。①事实上,“网络开盒”行为是在网络场域中,由新兴数字技术加持的升级版“人肉搜索”,兼具人肉搜索与网络暴力的行为特征。不法分子通过非法技术手段,搜集并公开他人姓名、身份证号、家庭住址、联系方式、银行流水等一系列敏感个人信息,继而依托有组织的个人信息黑灰产业来煽动网络暴力、诽谤攻击或谋取利益。②数字技术加剧“网络开盒”趋势,整体呈现行为多样化、模式隐蔽化、损害扩大化的特征。“网络开盒”行为涉及多方主体,应从政府、平台、个人等多方面入手,根据不同主体的作用来调整相应的治理模式,针对“网络开盒”不同阶段的特征展开有效治理。
政府部门:切断“网络开盒”信息获取途径,阻断数据泄露风险
政府部门在“网络开盒”的治理过程中扮演主导角色,需要根据“网络开盒”的行为特征,展开溯源性治理,在“网络开盒”的源头对个人信息提供保护。在算法行政的语境下,需要基于人工智能算法,准确识别“网络开盒”的风险点,提升对“网络开盒”的治理质效,构建可信数字身份,严格监管个人信息的跨境流动,从根源上掐断非法获取个人信息的渠道,在法律规范框架内,根治“网络开盒”乱象。
通过算法行政框架,实现治理模式的转型升级,在履行自身行政职能的过程中,规范化使用算法技术预防“网络开盒”行为,保护国内的个人信息数据库,通过人工智能算法发掘潜在的“网络开盒”风险点,并针对风险点强化公民个人信息保护。应依据《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等规定,保护自身的数据库,尤其是在公开公民个人信息时,通过人工智能算法实现自动化监管,对个人信息进行加密处理,对于频繁地违规抓取网站中公民个人信息行为进行精准治理,监测“网络开盒”的相关词汇与账号。在此背景下,需要完善个人信息保护法律规范,制定治理“网络开盒”行为的法律规范框架,推动行政机关与司法机关协同治理“网络开盒”行为,将保护公民个人信息的诉求嵌入算法行政的逻辑之中。通过人工智能算法,实现对个人信息的自动化保护,并在“网络开盒”行为发生后,及时追溯个人信息的泄露来源。当出现“网络开盒”情形时,政府部门需要在“网络开盒”的初始阶段尽可能切断信息传播通道,并引入司法机关来治理存在犯罪风险的个人信息黑灰产业。当“网络开盒”已经发展到网络暴力阶段时,需要与司法机关配合,共同遏制网络暴力行为,避免负面影响持续扩大,通过数字化渠道打通跨部门、跨平台的数据壁垒,在不同平台消除个人信息泄露的痕迹。
重视对数据跨境流动行为的监管,将这一行为置于算法行政框架下展开,尤其是当跨境流动的数据涉及个人信息时,需要通过人工智能技术进行全流程监管,从根源上遏制“网络开盒”行为。事实上,很多“网络开盒”行为的初始数据来源是海外社工库。这些海外社工库中的个人信息主要是从跨境流动数据中筛选所得,亦有部分个人信息是通过不同渠道流通的数据进行组合分析后再次生产。鉴于此,政府部门需要在数据跨境流动中发挥监管作用。2022年印发的《中共中央、国务院关于构建数据基础制度更好发挥数据要素作用的意见》提出,要“有序发展数据跨境流通和交易,建立数据来源可确认、使用范围可界定、流通过程可追溯、安全风险可防范的数据可信流通体系”。因此,要在数据跨境流动过程中设置合理的监管模式,基于对个人合法权益的保护理念来监管数据跨境流动。对于可能泄露公民个人隐私的信息,进行监管并禁止出境。
事实上,虽然数据的价值在于流动,但是推动数据跨境流动,不等于放任数据在海外被泄露、违规利用。政府部门应在事前预防数据跨境流动带来的数据泄露、违规利用等安全风险。在数据跨境流动之前,需要按照《中华人民共和国数据安全法》第十一条规定的“国家积极开展数据安全治理、数据开发利用等领域的国际交流与合作,参与数据安全相关国际规则和标准的制定,促进数据跨境安全、自由流动”要求,对敏感个人信息进行分类分级筛选,在法律监管框架下进行实质分析,发掘个人信息中的潜在内容,在不侵犯公民个人隐私的前提下,利用人工智能技术进行提前预警,并加工处理可能存在潜在风险的个人信息。此外,可以对跨境流动的个人信息引入区块链技术进行全流程监管,当个人信息出现在海外社工库并被用于“开盒”时,根据区块链中各个节点的记录信息,对涉及“开盒”的个人信息进行溯源并追责,借助数字技术查明个人信息的泄露源头并展开积极治理。
借助算法行政框架,构建可信数据空间,消除“网络开盒”的个人信息来源,通过“数字身份证”模式避免各个平台重复收集个人信息。个人信息的收集、使用、处理、交流等流程,都应该在安全可靠的规范框架下展开。在此过程中,可以将算法技术嵌入可信数据空间进行直接监管,并针对个人信息安全设置敏捷治理框架,在出现个人信息泄露风险时积极展开治理,避免损害范围扩大。在可信数据空间内,按照规范要求的流程收集公民个人信息,并进行合理的技术处置,有效保护并隐藏敏感个人信息,“网络开盒”行为人便难以获得敏感个人信息,网络暴力行为也就难以展开。事实上,可信数据空间的核心诉求是“数据不落地”,其可以避免原始的个人信息数据被未经授权的主体接触、存储或滥用,在不同行政部门交互数据时坚持数据“可用不可见”,从流转环节阻断“网络开盒”的个人信息获取渠道。
总之,通过算法行政框架,可以从根源上遏制“网络开盒”中的数据泄露行为。政府部门需要利用人工智能技术,挖掘数据泄露的风险点,加大数据跨境流动的监管力度,构建可信数据空间,为数据收集、适用等交互流程提供安全可靠的网络场域,降低因数据泄露而引发“网络开盒”的安全风险。
网络平台:优化算法技术,履行“看门人”职责
随着数字时代各类技术工具的不断发展,以及网络空间场域的不断拓展,传统社会中由国家与社会所构成的二元结构体系开始逐渐解体,并随之转向“国家—平台—社会”的结构③,其中网络平台逐渐成为连接国家与社会的重要纽带,在网络社会各类风险的监管与预防过程中扮演重要角色。在“网络开盒”治理过程中,应从网络平台入手,开展系统性治理,将网络平台视为遏制“网络开盒”行为的关键角色,并结合网络社会的实际情况,促使网络平台履行“看门人”义务。
网络平台在特定算法投入运行之前,要按照《互联网信息服务算法推荐管理规定》履行算法备案手续。算法备案可以在保障政府进行有效监管的同时,降低监管措施对数字经济发展的影响,以更为专业、温和的手段,推动平台对个人信息提供更为实质的保护,并降低平台在利用人工智能技术处理个人信息时带来的泄露风险。平台在算法备案过程中,应以可解释原则为关键要求,详细解释个人信息收集的必要性,并且遵照“最小必要”原则,框定个人信息的收集范围,从而在根源上减少公民个人信息的泄露来源。此外,平台要解释并证明自身算法在运行过程中,对于个人信息保护的措施以及效用,解释自身算法如何利用加密技术来保护个人信息并避免造成负面影响,证明算法在个人信息保护过程中遵循法律规范的要求,杜绝违规挖掘个人信息潜在内容的情形,从而增加算法的透明度与公信力。
网络平台作为网络空间的“看门人”,应及时阻断试图“网络开盒”的行为人在平台聚集,按照法律规范的要求,设置监管框架;利用数字技术手段,调整针对不同群体的信息推送渠道,从而在平台内部形成安全高效的技术监管环境。“网络开盒”频繁发生在部分网络平台的原因在于,一些平台为获取流量,人为地调整信息推送内容,将容易引发矛盾的内容向相互对立的组群推送,从而激化矛盾来吸引流量,恶化网络空间的整体生态环境。事实上,一些有共同兴趣爱好的网络用户在网络平台中聚集成为某一类组群,当爱好相冲突的组群之间关于某一内容产生矛盾时,便容易在短时间内形成激烈冲突,此时网络平台给不同群体之间构建的便利交流通道就成为交流信息的来源,从而加剧“网络开盒”的趋势。同一组群的用户之间会分享自己获取的他人信息,并在整合后进行披露,试图通过“网络开盒”故意引导网络暴力。鉴于此,网络平台应在监管过程中尽可能削弱这类矛盾冲突,通过技术手段将存在潜在矛盾的组群之间加以隔离,在信息推送过程中进行严格审核并屏蔽敏感词汇以弱化矛盾冲突。当部分组群内部开始传播个人信息时,平台应积极监管并加以审查,在必要情况下直接封禁这类组群的交流渠道,让碎片化的个人信息无法在组群内进行整合,“网络开盒”的行为人便难以大规模聚集而引发有组织的网络暴力。
面对已经发生的“网络开盒”行为,网络平台应配合相关部门固定证据,基于自身的技术优势及时履行证据收集、固定义务,从而帮助相关部门公正、合理、高效地处理“网络开盒”案件,同时帮助“网络开盒”的受害者积极维护自身权益。《网络暴力信息治理规定》第二十五条规定,“公安、网信等有关部门依法调取证据的,网络信息服务提供者应当及时提供必要的技术支持和协助”。在“网络开盒”行为中,由于其属于网络暴力的前期行为,需要作为“看门人”的平台积极履行上述义务。网络平台在固定证据时要充分发挥技术优势,对于“网络开盒”的时间、内容、规模等要素进行数字化记录,帮助相关部门及时掌握“网络开盒”的具体情形;应根据证据积极追溯“网络开盒”的来源,记录“网络开盒”发起者的用户名、IP地址等账号信息,帮助相关部门进行事后追责,同时帮助“网络开盒”的受害者积极维护自身的名誉、尊严等合法权益。
总之,网络平台应积极履行监管义务,优化算法技术,规范个人信息的收集路径;阻断平台内“网络开盒”行为人的聚集行为,消除潜在风险;发挥自身的技术优势,帮助相关部门及时固定证据。
完善法律保护体系,防止未成年人介入“网络开盒”
根据“网络开盒”的行为主体特征,展开针对性治理。当前“网络开盒”的突出特征之一是有大量未成年人参与。事实上,这类未成年人虽然能够熟练应用网络技术,但其心智尚未完全成熟,导致他们尚未认识到“网络开盒”的风险便介入其中,甚至受到“网络开盒”行为的反噬而身心健康受损。与此同时,部分未成年人深陷“饭圈文化”,无法区分网络与现实的差异,不良情绪在其中蔓延,由未成年人引发的“开盒挂人”情形屡见不鲜,其对象也大多是未成年人,已呈现专业化和产业化趋势,形成相对完整的黑灰产业链。④鉴于此,在治理“网络开盒”的过程中,要持续加强未成年人个人信息保护,营造良好的网络空间环境。
在“网络开盒”的预防性治理过程中,应引导未成年人树立正确的网络使用观念,在网络空间合理行使言论自由权并理性发表网络评论,引导其对各类事物保持理性客观的态度,避免受到某些极端的“饭圈文化”、粉丝团体鼓动,同时引导他们保护个人隐私。《未成年人网络保护条例》第十九条规定,“未成年人网络保护软件、专门供未成年人使用的智能终端产品应当具有有效识别违法信息和可能影响未成年人身心健康的信息、保护未成年人个人信息权益、预防未成年人沉迷网络、便于监护人履行监护职责等功能”,这为积极引导未成年人远离“网络开盒”提供了规范依据。首先,严格审查是否存在未成年人聚集的网络组群,并对可能存在“网络开盒”倾向的组群进行强化监管,对未成年人网络账号的异常操作进行追踪。当发现其中存在频繁搜索、发送他人个人信息的行径时,可暂时封禁其网络账号;当出现“网络开盒”“海外社工库”等敏感词汇时,应直接封禁相关网络组群。其次,对于向未成年人鼓动“网络开盒”行为、传授“网络开盒”方法的账号进行严格监管,并在查实之后直接予以禁封,从而将未成年人屏蔽在“网络开盒”行为之外,避免“网络开盒”的方法在未成年人之间流传。再次,对于涉及“网络开盒”的未成年人,需要秉持轻缓化的理念来予以积极引导⑤。应充分考虑到未成年人参与“网络开盒”行为,主要是受到网络组群氛围的影响以及其他行为人的鼓动,由于其心智尚不健全而急于寻求认同,在大多数情形下属于“情节显著轻微,危害不大”,主要应以教育矫正措施而非刑事制裁措施进行治理。
在“网络开盒”行为中,未成年人很可能成为受害者,因此要积极保护未成年人的合法权益,保障其个人信息不被泄露,帮助其规避“网络开盒”的负面影响,在网络空间中为未成年人提供系统性法律保护。从源头上减少未成年人个人信息泄露的风险,规范信息收集场景。当信息收集涉及未成年人时,应采用更为严格的审查标准,并对信息来源进行标注与常态化监管。当“网络开盒”的对象是未成年人时,网络平台要及时阻断信息传播,分辨出其中涉及未成年人的内容并加以屏蔽;相关部门应第一时间介入,遏制针对未成年人的“网络开盒”的负面影响。对于“网络开盒”中的未成年人受害者,应提供多种救助措施,简化其维权途径,并在网络空间中消除其个人信息;当未成年人因为“网络开盒”而导致极端行为时,严肃追究相关行为人的刑事责任。
在良法善治语境下,网络空间的发展应满足人民群众对美好生活的向往,网络空间不能沦为肆意“开盒”的“法外之地”。针对“网络开盒”行为,需要从政府、平台、个人等多方面进行轻重有序的治理。在政府层面,需要借助算法行政框架,积极发现并预防“网络开盒”的风险;提升数据跨境流动过程中的监管强度,构建个人信息的可信数据空间。在平台层面,应将网络平台作为治理“网络开盒”的关键角色,推动网络平台履行“看门人”义务,规范算法收集、处理个人信息的流程,利用新兴技术模式,阻断“网络开盒”行为人在网络空间中聚集,同时积极固定证据来帮助事后追责。在个人层面,应将未成年人作为重点监管对象,一方面,加强对未成年人的引导,避免其参与“网络开盒”;另一方面,保护未成年人规避“网络开盒”的危害,帮助其在事后积极维护自身权益,营造良好网络生态环境。
【注:本文系国家社会科学基金重大项目“数字经济的刑事安全风险防范体系建构研究”(项目编号:21&ZD209)阶段性成果】
【注释】
①《中央网信办部署进一步加强“开盒”问题整治工作》,中国网信网,2025年5月27日。
②霍旻含:《严惩“开盒”,给隐私“上锁”》,《人民日报海外版》,2025年7月7日。
③周佑勇:《从部门立法到领域立法:数字时代国家立法新趋势》,《现代法学》,2024年第5期。
④董彪:《针对未成年人“开盒挂人”的社会危害、成因及治理》,《民主与法制时报》,2024年10月30日。
⑤刘艳红:《犯罪圈均衡化与刑罚轻缓化:轻罪时代我国刑事立法发展方向》,《中国刑事法杂志》,2024年第1期。
责编/银冰瑶 美编/王梦雅
声明:本文为人民论坛杂志社原创内容,任何单位或个人转载请回复本微信号获得授权,转载时务必标明来源及作者,否则追究法律责任。
