【摘要】不透明性是人工智能治理面临的重大挑战，包括人工智能系统的不透明性、复杂的不透明性和社会的不透明性三个维度。治理人工智能不透明性需发展技术知识论，在技术认识论基础上引入工程师思维和“造物”逻辑，将人工智能及其发展模式的生成过程纳入知识论分析：通过造物构建技术本体，降低“系统的不透明性”；通过工程优化构建工程本体，降低“复杂的不透明性”；通过加强人工智能开放性发展模式构建社会本体，降低“社会的不透明性”。基于本体的人工智能不透明性治理策略，可为人工智能飞速发展、智能社会健康发展保驾护航。
【关键词】人工智能 不透明性 造物 本体 技术知识论
【中图分类号】TP18 【文献标识码】A
【DOI】10.16619/j.cnki.rmltxsqy.2026.16.010
【作者简介】潘恩荣，中山大学哲学系（珠海）教授、博士生导师。研究方向为工程设计哲学与设计伦理、人工智能伦理、技术知识论，主要著作有《创新驱动发展与资本逻辑》《工程设计哲学：技术人工物的结构与功能的关系》。
当前，世界百年变局加速演进，新一轮科技革命和产业变革加速突破，全球人工智能技术创新进入前所未有的活跃期，万物智联、人机协同、跨界融合、共创分享的智能技术，叠加释放巨大能量，既蕴含巨大机遇，也面临治理挑战。习近平总书记指出，要高度重视人工智能引发的各类内生和衍生风险，推动构建法律法规、技术监测、风险预警、应急响应体系，筑牢安全底线，防范滥用恶用，确保人工智能始终处于人类控制之下。[1]2025年8月21日，国务院印发的《关于深入实施“人工智能＋”行动的意见》提出，到2027年，我国新一代智能终端、智能体等应用普及率超70%；到2030年，其普及率超90%；到2035年，我国全面步入智能经济和智能社会发展新阶段，为基本实现社会主义现代化提供有力支撑。[2]值得注意的是，新一代人工智能（artificial intelligence, AI）存在“不透明性”（opacity）。人工智能的底座——深度神经网络——是机器学习领域非常强大、技术上非常重要的一环，但也是难以理解的技术“黑箱”之一。[3]人们对人工智能生成的内容（artificial intelligence generated content, AIGC）往往是“知其然而不知其所以然”。AIGC的真实性或有效性相对容易验证，但人工智能本身与其输出的AIGC之间的因果关系却难以解释。
在人工智能伦理争议与安全问题频发的当下，如何有效治理人工智能的不透明性，不仅构成人工智能治理领域亟待解决的重大理论问题，更是实现人工智能安全、可控和可信发展所面临的紧迫现实任务。从现代技术哲学认识论视角看，人工智能是人类设计和制造的一种“技术人工物”（technical artifact）。技术人工物结构与功能之间存在着逻辑鸿沟，[4]即不透明关系。人工智能的不透明性问题，也具体反映在人工智能模型的结构与功能之间的不透明关系问题中。现代技术哲学关于技术人工物结构与功能关系的研究，可以为治理人工智能不透明性提供思路。本研究首先梳理人工智能“不透明性”特征，通过探讨技术人工物“结构与功能关系”，寻求解决人工智能不透明性问题的路径，继而基于工程师思维和“造物”逻辑，提出治理人工智能不透明性的策略。
人工智能的不透明性特征
与传统符号主义不同，新一代人工智能属于联结主义，底座深度学习技术的关键是深度神经网络，其天然具有“黑箱”特性。人工智能专家对深度学习的理解当前仍停留在初级阶段，难以完全解释深度神经网络的工作原理、理解并预测人工智能的行为。[5]因此，尽管人工智能在模式识别、文本音视频生成等方面有着突破性进展，但新一代人工智能始终存在着不透明性。
作为一种技术人工物，人工智能底座深度神经网络天然的“不透明性”导致人工智能的结构与功能之间存在解释鸿沟。关于人工智能的不透明性，现有研究存在两种理解，即哲学上的理解与技术上的理解。
在哲学理解方面，人工智能的不透明性引发了认识论上的新挑战。哲学家保罗·汉弗雷斯（Paul Humphreys）认为，相比于传统科学知识生产的理论推导和实验验证，计算机模拟和机器学习等计算科学的兴起引发了新的认识论挑战——认知不透明（epistemic opacity）。[6]计算机模拟关键过程的大多数步骤都无法直接进行检查和验证，导致初始状态与最终状态之间的动态关系模糊不清，人们的理解往往局限于模型的“输入—输出”关系。如此，真实的动态模拟场景与静态的人类理解之间便出现两种“认知不透明现象”。第一种现象是计算过程的速度超出人类认知理解的范围，即计算科学中“过程的认知不透明性”：如果对于认知主体X在时间t来说，某个过程在认识上是不透明的，就意味着X在时间t时完全不了解该过程在认识上相关的所有要素；第二种现象是连接主义（神经网络）模型无法解释认知过程中具体达成目标的原理和机制，即“本质的认知不透明性”：[7]如果一个过程对于X来说本质上在认识上具有不透明性，就意味着，鉴于X的特性，X无法知晓该过程所有在认识上相关的要素。
在技术理解方面，人工智能的“不透明性”已经超出关于算法“黑箱”的范围。计算机专家珍娜·伯勒尔（Jenna Burrell）认为，人工智能的“不透明性”分为三种形式：[8]第一种是“保密型不透明性”（opacity as intentional corporate or state secrecy），指企业或国家机构有意隐藏算法内部框架和代码等细节，尤其是为保护商业机密、维持竞争优势，或为防止系统漏洞被滥用；第二种是“技术文盲型不透明性”（opacity as technical illiteracy），对于大多数公众甚至政策制定者而言，计算机编程和算法设计是一种“黑箱”，这种认知鸿沟源于相关技能的高度专业化，非专业人士难以跨越；第三种是“算法应用型不透明性”（opacity as the way algorithms operate at the scale of application），传统大型计算机应用程序或软件往往是团队研发的结果，应用层面的机器学习算法具有规模性和复杂性，其内部合作机制往往存在不透明。大数据算法在海量数据中寻找规律，实际运行过程往往无法转化为人类能理解的因果逻辑或语义规则。神经网络本身存在“黑箱”性质，其工作原理即便是人工智能专家也难以完全理解和解释。
综合技术和哲学方面的理解，可以把人工智能的不透明性特征归结为三类。第一类是“系统的不透明性”（systematical opacity）。与以往机器学习技术相比，2006年发明的深度学习算法不再需要完全依赖人类专家，就能解决五层以上神经网络的“梯度消失”问题。[9]但是，深度神经网络仍然是最难理解的技术。[10]因此，技术方面的“算法应用型不透明性”与哲学方面的“本质的认知不透明性”是同一回事，可以统称为“系统的不透明性”。这是人工智能深度神经网络本身的特征，与应用场景或人的认识能力无关。也就是说，对于任何拥有足够理性能力的人而言，基于深度学习技术的人工智能模型及其计算过程都是不透明的，其输出的AIGC的过程也是不透明的。
第二类是“复杂的不透明性”（complex opacity）。这是技术方面“技术文盲型不透明性”与哲学方面“过程的认知不透明性”的综合。受计算机的算力、运行速度、算法复杂程度、系统误差等限制，科学家难以追踪计算的全部步骤，也无法完全认识与理解超越自身能力的科学方法。[11]因此，“复杂的不透明性”是由人工智能计算过程的“复杂性”引发的“认知不透明”现象，最终传导到人工智能知识可解释性上。这在大模型技术中表现尤为明显。动辄十亿起步的模型参数量，远超正常人能够处理的数量级。从理论上说，如果一个人对人工智能并不了解，只要他的时间是无穷尽的，那么，解决这类人工智能“不透明”只是一个时间问题。然而，实际上人的时间是有限的，任何人都无法在有限时间内完全理解人工智能输出的全部计算过程。
第三类是“社会的不透明性”（social opacity）。从互联网到大数据时代，商业巨头建立的“数字平台”构造了一种“垄断性”知识生产模式——平台肆意进行数据搜集、数字画像、搜索排名和金融审批等，但公众完全不知道平台如何利用这些知识，以及是否侵犯了个人合法权益。进入人工智能时代，商业竞争或国家竞争进一步推动“人工智能知识”及其生产从“开放”走向“封闭”。美国前沿人工智能企业及其主流产品发展方向是“封闭人工智能”（closed AI）模式，包括OpenAI（GPT系列）、Anthropic（Claude系列）、Google（Gemini系列）等，商业封闭模式进一步加剧了社会层面的认知不透明现象。美国政府力图通过“创世纪计划”等方式打造“封闭人工智能”模式，抢占人工智能技术研究和商业应用的优势地位。其策略不仅包括对中国技术实施封锁和出口管制，还联合盟友组建排除中国的技术联盟。
综上所述，系统的、复杂的和社会的人工智能不透明性及其内在交叠，构成一道人工智能的不透明高墙。这将是未来智能社会建设的重大挑战之一。人们理想的未来智能社会，应该是人工智能行为与人类意向或价值观充分对齐、人工智能的负面影响完全可控、人工智能推动智能经济和智能社会快速发展的社会。然而，由于人工智能的不透明高墙存在，未来智能社会不仅难以主动治理伦理问题，更难以主动防控安全问题。在微观上，人们难以解释人工智能模型结构与其输出AIGC之间的因果关系。在涉及生命财产安全等重大问题上，当人工智能出现幻觉、欺骗或伪装对齐等不良行为时，人们只能被动应急处理而难以预测并未雨绸缪。在宏观上，整个智能社会的知识创新活动将因不透明性而降低，未来智能经济可能会因科技创新性低而增长变缓甚至停滞。因此，为推动“人工智能＋”行动的顺利开展，确保人工智能始终处于人类控制之下，治理人工智能的“不透明性”不仅是重大的理论问题，而且是迫在眉睫的实践任务。
对不透明性认识的两种哲学观点
人工智能是人类设计和制造的一种技术人工物，技术人工物在结构与功能之间存在着逻辑鸿沟，即不透明关系。因此，对技术人工物的研究有助于治理人工智能的“不透明性”。
从现代技术哲学认识论角度看，人工智能本身与其输出的AIGC之间的关系是技术人工物“结构与功能关系”问题。彼得·克洛斯（Peter Kroes）提出“技术人工物双重属性”（dual nature technical artifact, DNTA）理论：由人所设计制造的技术人工物，一方面具有结构属性，即技术人工物的几何、物理和化学性质等；另一方面具有功能属性，即技术人工物可以“用来做什么”，即用途（for-ness）。[12]然而，技术认识论最终没有建立技术人工物结构与功能之间的肯定性关系。克洛斯发现，技术人工物的双重属性之间存在“逻辑鸿沟”，即从结构描述不能推导出功能描述，反之亦然。[13]
沿着技术认识论的思路，技术人工物的结构与功能之间关系始终是不透明的。同理，人工智能模型结构与其输出AIGC之间的关系也是不透明的，即存在着逻辑鸿沟。因此，基于技术认识论的研究进路无法治理人工智能的不透明性。
现在的问题是，除了技术认识论，还有没有其他进路能够治理人工智能的不透明性？答案是有的。人工智能的系统不透明性问题，即深度神经网络的黑箱性质，以及技术人工物结构与功能关系的逻辑鸿沟，与康德的“物本身”（thing-in-itself）问题具有同构性。康德认为，“物本身”是不可知的，即“作为我们的感官对象而存在于我们之外的物是已有的，只是这些物体本身可能是什么样子，我们一点也不知道，只知道它们的现象，也就是它们作用于我们之内所产生的表象”[14]。
在技术哲学思想史上，有两种观点提出了化解康德提出的“物本身”问题的研究思路，这能部分解决技术人工物的结构—功能关系问题，对人工智能的不透明性问题的治理也有借鉴作用。
马克思主义哲学对不透明性问题的认识。恩格斯指出，最令人信服地反驳康德物本身不可知性的力量是实践——实验与工业，[15]即诉诸产业界的技术实验或制造工艺的力量。在康德看来，物存在于人的理性认识能力之外，故而人只能获得物呈现出来现象的知识，却无法直接认识物本身。但是，工业界的技术研发和制造可以直接介入物本身之中。早期技术利用自然物作为原料制造新的技术人工物，后期技术利用其他原料合成已经存在的自然物。例如，人工合成尿素打破了尿素只能由生物内部产生的传统观念。恩格斯进一步指出，一旦人们把自然物再次制造出来，且能满足人的目的，就证明人们对物本身及其产生过程的“理解”是正确的，物本身不可知性就消除了。此时，人们通过制造技术人工物获得了知识，也理解了物本身及其世界。
技术哲学对不透明性问题的认识。德国物理学家、工程师弗里德里希·德绍尔（Friedrich Dessauer）提出，技术发明构成的“第四王国”能够“认识”物本身。德绍尔将康德的三大批判，即纯粹理性批判、实践理性批判和判断力批判，称作“三个王国”。在“第一王国”中，人类无法洞察物本身的性质。在“第四王国”中，人类跟物本身的关系发生了变化。已经完成的发明，即技术人工物，可以被人当作自然物一样感知。此时，人获得的是技术人工物的表象，却仍然不能获得物本身的性质。只有回到发明的过程，“发明家在尝试通过修正自己的眼光和思想去‘达到’本质的时候，就在一个内在的、实验的发展过程中面对了本质，即物自体”，[16]人才有可能获得物本身的某种性质。因此，当技术人工物被发明制造并能够像自然物一样运转时，物本身的某种性质就已经通过人类的发明行动传递到技术人工物身上。
恩格斯和德绍尔的观点都指向一种工程师思维的“造物”逻辑——发明和制造某个具体的技术人工物能够获得物本身具有的某种性质的“知识”。在康德看来，知识是一种认识过程的结果：由于物本身是不可知的，我们获得的知识是物呈现给我们的表象的知识，但不是物本身的知识。恩格斯和德绍尔则表达了不同的看法，即知识是一种成功造物的结果：当人们通过现代工业的造物活动发明或制造一种技术人工物并成功运行后，物本身的某种性质已经传递到技术人工物身上，人们事实上获得了物本身某种性质的知识。这种知识更多属于波兰尼意义上的默会知识（tacit knowledge），[17]它不同于传统科学知识的可解释、可言传性，而是通过意会、身教等方式传递，并在实践中反复运用。
基于“造物”的逻辑，理解技术人工物的结构与功能关系“不是来自哲学理论的力量而是来自现实的力量”。[18]技术认识论研究出现逻辑鸿沟的原因是，哲学分析缺失现实中技术研发和工程设计的“造物”力量。根据经验转向纲领，技术哲学家必须与工程师一起研究，才能建立哲学分析命题与经验综合命题之间的相互交流方式。然而，技术认识论研究强调哲学家需要学习技术研发和工程设计中的“工程语言”，以获得相关经验。“工程语言”蕴含的经验是康德主义意义上哲学家基于理性能力理解工程现象的结果，并未进入发明制造的过程，也未直面技术人工物及其产生过程，因而终究未能触及技术人工物本身。因此，技术认识论研究最终没有建立技术人工物结构与功能之间的肯定性关系，也不能治理人工智能的不透明性问题。
人工智能不透明性治理需引入工程师思维和“造物”逻辑
理解技术人工物的结构—功能关系问题，需要在技术认识论研究的基础上，引入工程师思维和“造物”逻辑，把握技术人工物本身的知识。哲学分析澄清“结构”“功能”“知识”“解释”等概念的主要途径，并非基于技术认识论的“认知”过程，而是基于技术人工物本身的“造物”过程。这是一种“技术知识论”研究，即哲学反思不能停留在外在认知逻辑，而应吸收工程实践中的“造物”逻辑，将技术人工物的生成过程纳入知识论分析。
工程师思维。工程师思维强调“技术知识论”，其优先选择技术与工程的方法论，而非自然科学方法论。传统科技观认为，科学是基础研究，而技术与工程是应用研究，即“认识”的科学知识在先，技术人工物发明制造的“造物”在后。这种观念符合科学认识论的理解模式。然而，现实的科学技术活动与传统科技观的理解并不一致。更为常见的情况是，技术与工程的造物事实在先，而科学知识在后。当前，人工智能的蓬勃发展首先来自技术与工程的造物成就，但人工智能不透明性高墙导致人们无法为新一代人工智能及其行为提供可信的科学解释和科学知识。因此，关于技术人工物结构与功能的关系研究，采用“哲学家—工程师”思维比单独的哲学家思维更能触及人工智能（技术人工物）本身及其结构与功能关系问题。
工程师思维强调在“结构—功能”二分概念框架上，预设一个“整体论”前提。2007年，学者尤纶·德·莱德（Jeroen de Ridder）引入技术与工程中常见的“功能分解方法”，并提出人工物解释（artifact explanation）理论，回答了常规设计场景中“制造”的“结构与功能关系问题”，但其在“发明”的创造性设计情境中仍然存在逻辑鸿沟；后续研究继续引入了奎因的“经验论第二教条”——还原论批判，建立了“整体论”分析方法替代功能分解方法。[19]这是将科学研究的“还原论”思维切换到技术和工程设计的“整体论”思维。
“造物”逻辑。“造物”逻辑替代“认知”逻辑。基于“整体论”前提，理解技术人工物结构与功能关系的主要方法不再是康德主义认识论的“认知”方法，而是技术人工物的“造物”方法。克洛斯（2012）强调，“从本体论的角度来看，DNTA可以解释为，技术人工物在某种程度上是由物理对象和人们意图构成的。无论构造关系如何解释，这都意味着技术人工物在本体论上是依赖于心灵的实体，因此在本体论上不同于物理对象。一个物体不能仅凭其物理特性就成为技术上的人工物；作为一个技术人工物也涉及功能属性，而这些属性又涉及人们的意图”[20]。技术人工物是工程师造物的结果，既遵循自然科学的原理和规律，也赋予人类认识的意图，更建立在工程师对物本身及其产生过程和正确运转的“理解”基础上。
关于“造物”的技术知识论描述替代“认知”的技术认识论描述。诉诸现实技术“造物”的力量，其知识论描述具有类函数模型特征，能够解释创造性设计情境中技术人工物的结构与功能之间的肯定性关系。结构类函数指向技术人工物结构属性的描述，属于“物本身”及其世界的性质，如物理、化学、几何的特征；功能类函数指向技术人工物的功能描述，即人对于技术人工物“用于做什么”的描述，属于人们理性认知的意向性表达。当结构类函数与功能类函数之间的差小于或等于技术“造物”可接受的误差时，技术人工物便得以“运转”并进入现实经验世界，此时技术人工物本身的结构描述与基于人们意向的功能描述之间，便建立肯定性关系。[21]
综上所述，理解技术人工物的结构—功能关系问题，工程师须经历“造物”完成时刻，才能把握住技术人工物“本身”的某种知识。这种知识与传统“认识论”的知识差异，不是通过理性“认知”的过程获得，而是通过介入技术人工物“造物”的过程而获得。同理，治理人工智能不透明性也需要依赖人工智能专家“造物”，并成功运行其过程中对人工智能系统的理解。
人工智能不透明性的“本体”治理策略
通过造物构建技术本体，降低“系统的不透明性”。人工智能“系统的不透明性”的治理策略是“本体—造物”，通过造物的结果构成人工智能的技术本体替代深度学习网络，其中蕴含的知识能够降低“系统的不透明性”。学者约翰·霍普菲尔德（John J. Hopfield）和学者杰弗里·辛顿（Geoffrey Hinton）荣获2024年诺贝尔物理学奖，他们的重要贡献是在“系统的不透明”上取得突破性进展，不仅提出认识论意义上的新理论，而且在“造物”方面创造了新的技术本体。霍普菲尔德神经网络（Hopfield neural network, 1982）借鉴物理学能量函数概念模拟人的记忆，后来用电子元件制造了“实体网络”并验证成功。辛顿等发明的深度学习技术解决了深度神经网络的“梯度消失”问题，使得机器学习不再完全依赖人类专家。[22]后来，辛顿团队基于深度学习技术和英伟达GPU（图形处理器）显卡的AlexNet算法，验证了深度学习及其背后深度神经网络的有效性。从此以后，“深度学习算法＋GPU显卡”构成的新一代人工智能的“技术本体”，成为学术界和工业界前沿人工智能研究的默认配置。工程师可以直接使用“技术本体”降低“系统的不透明性”。以此类推，未来治理人工智能“系统的不透明性”，不仅要提出认识论意义上的新理论新方法，还要发明和制造新的技术本体，如“模型＋硬件”的新人工智能系统。只要人工智能的技术本体存在且能够运行，并满足人的目的，那么工程师对人工智能模型本身及其产生过程的理解就是正确的。当人工智能模型本身的某种性质被转移到现实经验世界时，就会降低其“系统的不透明性”。
通过工程优化构建工程本体，降低“复杂的不透明性”。人工智能“复杂的不透明性”的治理策略是“本体—优化”，主要针对大语言模型的“规模定律”（scaling laws），通过工程优化降低“复杂的不透明性”。OpenAI在大语言模型的训练过程中发现了“经验性”的规模定律，即模型性能随着参数量、数据集和训练算力的增加而增加。因此，人工智能模型的参数、训练的数据和算力（显卡）构成可运行的“工程本体”。“规模定律”及其工程本体模式一度被业界奉为圭臬，支撑大模型和生成式人工智能技术的持续发展。然而，超大规模的参数量、数据集和算力带来的复杂性已远超人类认知能力。DeepSeek的成功证明，通过技术与工程层面的优化，在降低模型“工程本体”的复杂度的同时，仍然可以保持同级别的性能，从而降低人工智能“复杂的不透明性”。
通过加强人工智能“开放性”发展模式构建社会本体，降低“社会的不透明性”。人工智能“社会的不透明性”的治理策略是“本体—开放”，主要针对封闭的人工智能发展模式，通过加强人工智能发展模式的“开放性”，以降低“社会的不透明性”。传统科学研究坚持科学知识的开放性，如默顿规范强调“公有主义、普遍主义、无私利性和有条理的怀疑主义”。[23]然而，人工智能时代的科学研究早已脱离默顿规范依赖的学院科学——大学等高等科研机构引领科学研究。前沿人工智能研究主要在产业界而非学术界、在企业而非大学。也就是说，作为科技创新和科学知识生产的主体，随着商业活动持续，企业提供的产品和服务等技术人工物不断嵌入人们的生产生活，从而改变世界。面对这样一种产业化的科学研究，传统学院科学的知识模式及康德主义认识论研究并不适用，而源自黑格尔和马克思的“本体—历史”知识模型能够解释产业化的科学研究和科学知识。[24]然而，商业的私有制意识和保密等因素迅速渗透前沿人工智能研究。美国人工智能发展模式的主流是“封闭性”，力图通过政治策略打造一种“社会本体”，整合前沿人工智能企业，以及数据、算法和算力（芯片）等方面的资源形成垄断，从而加强人工智能的社会不透明性。“社会本体”是一种“社会人工物”（social artifact）[25]，即由人工智能模型（技术人工物）与应用场景（如政策和商业规则）集成的人工智能发展模式。降低人工智能的社会不透明性，需在“本体—历史”的基础上加强“开放性”。例如，在产业界，DeepSeek等中国人工智能大模型采取“开源”发展模式，有力地狙击了封闭的人工智能发展模式，形成新的开放性“社会本体”——开源的人工智能发展模式和生态。
结语
治理人工智能不透明性的思路是“技术知识论”研究进路，遵循工程师思维增强哲学分析，其关键是“造物”逻辑。技术认识论思路遵循“认知”视角，并没有经历人工智能“造物”成功运转时刻的过程并直面技术人工物本身，因此，只能获得结构性知识和功能性知识，却难以获得人工智能“结构如何实施了功能”的知识。这使得人工智能的结构与功能之间无法建立肯定性关系，人工智能的不透明性亦难以降低。技术知识论思路引入工程师思维和“造物”逻辑增强哲学分析，表达了一种面向人工智能（技术人工物）本身的“知识”：一方面是人工智能技术本体、工程本体或社会本体的结构性知识，另一方面是基于人们理性判断人工智能可“用于做什么”的功能性知识。在人工智能“造物”成功运转时，人们获得了人工智能的完整知识，包括功能知识——人们对人工智能的用途的认识，结构知识——人工智能的结构性质，以及人工智能能够运转的知识——作为载体的结构如何实现其功能。
技术知识论与技术认识论存在明显不同。技术认识论强调哲学分析建立在经验研究基础上，是通过学习“工程语言”获得的经验，而并非是直面技术人工物及其产生过程获得的经验。技术知识论则强调哲学反思不能停留在外在认知视角，而应吸收工程实践中的“造物”逻辑，将技术人工物的生成过程纳入知识论分析。
技术知识论与技术认识论在特定条件下可以相互转换，若人工智能的不透明性得以消除，二者便可能趋同。在实践中，技术发明的知识常常先于科学知识出现。人们为了理解和掌控技术知识，激发了对科学知识的研究。1733年，约翰·怀亚特发明的新纺纱机具有“不用手指纺纱”的特性，开启了第一次工业革命。[26]这是人类制造的机器提供的知识——滚筒的运动能够将棉花条抽成棉纱线——类似于人类纺纱工的“搓捏”技能。但是，在专利说明书中，关于纺纱的机制含糊其词，无法解释清楚机器如何实现人们“搓捏”技能。[27]由于机器纺纱缺乏足够的透明性，市场对新纺纱机的信任和接受度较低，这也是怀亚特纺纱机商业化失败的重要因素之一。后来，纺纱机的改进只能来自少数“天才”的灵感，如哈格里夫斯发明珍妮纺纱机的灵感是看到倒地的纺车锭子斜着也能转。由于机器纺纱的不透明性，关于机器如何能够“搓捏”棉纤维成线的现象，在当时被视为是“魔鬼”作祟。这种情绪甚至引发邻居担忧，而强行冲进哈格里夫斯住所，捣毁珍妮纺纱机样品和砸碎家具。[28]直到20世纪摩擦学（tribology）等发展起来后，人们才能解释清楚滚筒（技术本体）如何通过转动和转速配比，实现“不用手指纺纱”的“搓捏”技能。
因此，对于人工智能的不透明性高墙而言，基于技术本体、工程本体和社会本体的“可解释人工智能”的研究，为实现技术知识论与技术认识论相互转换提供了一种可能路径。尽管这不是“确定”的保证，但至少是一种“有希望的路径”，既有助于缓解人们面对人工智能不透明高墙带来的焦虑情绪，也有利于人们积极化解智能社会可能出现的伦理和安全风险。
注释
[1]《习近平出席2026世界人工智能大会暨人工智能全球治理高级别会议开幕式并发表主旨讲话》，《人民日报》，2026年7月18日，第1版。
[2]《国务院关于深入实施“人工智能＋”行动的意见》，2025年8月21日，https://www.gov.cn/gongbao/2025/issue_12266/202509/content_7039598.html。
[3][5][10]J. Simon; D. Kunin; A. Atanasov et al., "There Will Be a Scientific Theory of Deep Learning," 23 April 2026, https://arxiv.org/pdf/2604.21691.
[4][12][13]P. Kroes, "Technological Explanations: The Relation Between Structure and Function of Technological Objects," Society for Philosophy and Technology, 1998, 3(3).
[6][11]P. Humphreys, Extending Ourselves: Computational Science, Empiricism, and Scientific Method, Oxford: Oxford University Press, 2004, pp. 147-150, 52.
[7]P. Humphreys, "The Philosophical Novelty of Computer Simulation Methods," Synthese, 2009, 169(3).
[8]J. Burrell, "How the Machine 'Thinks': Understanding Opacity in Machine Learning Algorithms," Big Data & Society, 2016, 3(1).
[9][22]周志华：《关于深度学习的一点思考》，于剑、封举富、张敏灵等编著：《机器学习及其应用2019》，北京：清华大学出版社，2019年，第2～3、5页。
[14]康德：《任何一种能够作为科学出现的未来形而上学导论》，庞景仁译，北京：商务印书馆，1982年，第50页。
[15]《马克思恩格斯文集》第四卷，北京：人民出版社，2009年，第279页。
[16]德绍尔：《技术的恰当领域》，参见《技术哲学经典读本》，上海交通大学出版社，2008年，第456～477页。
[17]波兰尼：《个人知识：朝向后批判哲学》，徐陶译，上海人民出版社，2017年，“前言”，第1～2页。
[18][24]盛晓明：《从本体—历史的观点看》，《哲学研究》，2012年第4期。
[19][21]潘恩荣：《工程设计哲学：技术人工物的结构与功能之间的关系》，北京：中国社会科学出版社，2011年，第175～180、179页。
[20]P. Kroes, Technical artefacts: Creations of Mind and Matter, A Philosophy of Engineering Design, Dordrecht: Springer Science+Business Media B.V., 2012, p. 42.
[23]默顿：《科学社会学》上册，鲁旭东、林聚任译，北京：商务印书馆，2003年，第361～376页。
[25]潘恩荣、孙志艳、郭喨：《智慧集成与反身性资本重组——人工智能时代新工业革命的发展动力分析》，《自然辩证法研究》，2020年第2期。
[26]《马克思恩格斯文集》第五卷，北京：人民出版社，2009年，第428页。
[27]芒图：《十八世纪产业革命：英国近代大工业初期的概况》，杨人楩、陈希秦、吴绪译，北京：商务印书馆，2011年，第182～183页。
[28]艾伦：《近代英国工业革命揭秘：放眼全球的深度透视》，毛立坤译，杭州：浙江大学出版社，2012年，第293～294页。
The Opacity of Artificial Intelligence and Its Governance
Pan Enrong
Abstract: The opacity of artificial intelligence (AI) constitutes a major challenge for AI governance, encompassing three dimensions: the opacity of AI systems, the opacity of complexity, and the opacity of society. To govern AI opacity, it is necessary to develop a theory of technological knowledge that, building upon the technological epistemology, introduces engineer's thinking and the logic of creation, thereby incorporating the generative processes of AI and its developmental models into the analysis of theory of technological knowledge. By constructing a technological ontology through creation, the "opacity of systems" is reduced; by constructing an engineering ontology through engineering optimization, the "opacity of complexity" is reduced; and by constructing a social ontology through reinforcing an open development model of AI, the "opacity of society" is reduced. Ontology-based governance strategies for AI opacity can safeguard the rapid advancement of AI and the sound development of an intelligent society.
Keywords: artificial intelligence, opacity, creation, ontology, theory of technological knowledge
责 编∕石 晶 美 编∕梁丽琛
