【摘要】未来人类以增强性与超智能性为核心特征,其超越性体现在功能增强、能动性变革、道德增强等三个方面。未来人类超越性的技术基础从传统会聚技术,演进为以智能材料、神经技术、人工智能、记忆技术为核心的新会聚技术。随着技术迭代,未来人类也将面临道德困境,如功能增强与道德境界不同步、个体意识凌驾于整体意识、存在技术或动物性主导的失控风险等。对此,智能契约成为破局关键,其以积极契约为核心,强调人机自由平等、相互受益,为主体责任与权力分配提供新框架。同时,契约属性将成为未来人类核心标识。基于契约伦理构成积极伦理学,并通过提前审视“许愿”代价以构建人机良性关系,是未来人类实现技术与自身发展的关键。
【关键词】未来人类 意义构成 智能契约
【中图分类号】TP18/B089.3 【文献标识码】A
【DOI】10.16619/j.cnki.rmltxsqy.2025.22.005
【作者简介】杨庆峰,复旦大学科技伦理与人类未来研究院教授、研究员。研究方向为技术哲学、记忆哲学、数据伦理与人工智能伦理等,主要著作有《记忆研究与人工智能》《现代技术下的空间拉近体验》《技术现象学初探》等。
在反思未来人类形态的论述中,20世纪唐娜·哈拉维提出的“赛博格”无疑极具吸引力,这一概念将人类、动物与机器相融合,勾勒出超现实的未来人类形态。[1]然而,该概念因过于超前而缺乏必要技术支撑,曾一度沦为过时议题。2003年,安迪·卡拉克(Andy Clark)出版《天生的赛博格:心灵、技术和人类智能的未来》提出了“天生赛博格”。随着数智时代加速演进,这些概念能够觅得契机重获生机,但究其内核的存在关键缺陷——忽视了未来人类的意义建构问题。习近平总书记指出:“自古以来,科学技术就以一种不可逆转、不可抗拒的力量推动着人类社会向前发展。”[2]本文立足现有技术基础,重新审视未来人类及其意义构成议题,并提出智能契约可作为未来人类意义建构的一条可能路径。
未来人类的超级特性
在关于智能的超级特性讨论中,超级机器与超级人类是两条不同的路向。超级机器路向是英国科学家古德在1965年提出的,他指出,“人类生存依靠早期超级机器的建造。为了设计一台超级智能机器,我们需要更深入理解人类大脑或者人类思想乃至二者”[3]。解析其内涵可提炼出至少两层核心意涵。其一,未来人类的生存将依赖超级智能机器。若遭遇气候剧变或新型流行病蔓延等足以导致人类灭绝的危机,对气候变化趋势、流行病传播态势的精准预测,非超级智能机器难以实现。因此,有学者指出,超级智能是应对此类全球性风险的最佳选择。[4]其二,人类未来的社会生活亦需以超级智能为支撑。超大城市管理领域中,单一个体无法实现有效治理,即便依托团队协作,人类自身局限也会显著削弱管理效能,而超级智能系统足以破解这一难题。不过,“超人路向”的提出相对较晚——人工智能学者理查德·萨顿在《欢迎来到经验时代》一文中首次明确“超人智能(superhuman intelligence)”概念,指出人工智能学习将脱离人类数据依赖、迈入经验时代,而超人智能便会在这一演进过程中应运而生。[5]从哲学维度而言,“超人”概念最早由尼采在《查拉图斯特拉如是说》中提出,他将超人喻为大地、大海与闪电:“我教你们何谓超人:人是应被超越的某种东西。……超人就是大地的意思。……注意,他就是大海。我教你们做超人:他就是这种闪电,他就是这种疯狂。”[6]但尼采语境中的超人聚焦价值观层面,是颠覆并重估一切价值的存在,并未涉及技术维度。而后续文学作品中的“超人”表述,更贴近当下讨论语境——或指向肉体无限强化,或聚焦智能无限提升:前者如漫威系列中的美式“超级英雄”,后者如《永无止境》的男主角。值得注意的是,文学作品中存在与超人相关的道德悖论:即便肉身力量远超常人,其道德水准却与普通人类并无二致,并未出现预想中“肉身增强伴随道德认知同步提升”的景象。
超越性将成为未来人类的核心特征,并主要通过三个维度得以呈现。其一为功能增强驱动的超越性,这种增强可通过身体与精神两个层面展开。身体增强指向体能提升或身体构造优化:体能增强可通过专项训练实现,例如提升出拳速度与力量;身体构造优化则通过改变生理结构或神经元组织达成,诸如借助特定辐射、病毒作用引发身体结构异变以获得超强能力——这类场景多出现于科幻作品,其在现实中的可行性尚无从知晓。精神增强涵盖认知、记忆、情感等维度的提升:认知增强始终是人类增强研究的核心,可通过生物、医药等技术手段实现;而记忆增强长期以来陷入认知误区,不少学者将其归属于认知范畴,这种界定过于狭隘。事实上,“记忆增强”是独立的精神维度,其核心并非信息的存储与提取,而更多在于重构与建构,笔者近两年来已将“记忆本体论”概念确立为独立研究领域。此外,情感增强诸如消除恐惧、抑制情绪冲动等,也属于这一范畴。值得注意的是,传统功能增强多依托传统技术,而人工智能赋能下的功能增强已呈现新变化,“智能增强”成为突出趋势,其核心体现为新一代人工智能所具备的认知、推理、生成、决策、创新与组织等能力。其中,记忆增强依然发挥关键作用:正如图灵奖得主杨立坤(Yann LeCun)所言,构建永久记忆是通用智能的根本所在,但在笔者看来这仍显不足——对于超级智能而言,“建构”才是记忆实现的核心要义。换言之,超级智能不仅能存储与提取人类过往记忆片段,更应基于这些片段建构适配未来人类生存的虚拟场景,而这种场景建构能力恰恰是维系“过往人类与未来人类情感联结”及“认知连续性”的关键所在。
其二是通过能动性(agency)变革实现着人类超越性。能动性是一个宽泛概念,可用于描述人类存在者与动物、机器、程序等非人存在者的行为特征。非人存在者虽能与环境交互并做出选择,却缺乏将环境要素、片段或场景设定为认知对象的能力;而人类存在者不仅能与环境开展原初交互,更能将环境及其相关要素、片段确立为对象——这一能力的实现,标志着主体的生成。大多数学者混淆了能动者与主体的界限,笔者在此明确二者的本质区别:能否将自身赖以生存的环境设定为认知对象。从能动性演进维度来看,初级能动性仅体现为从环境中获取收益以维系自身生存与发展;而超级能动性(superagency)的核心特征,则是通过精神活动重构一个与自然环境相融的精神世界,这一世界将在持续的精神创造与重构中不断丰富。精神创造世界的形式可分为两类:一是将自然环境要素内化为精神世界,这一过程与德国古典哲学所阐释的自然精神化路径相契合;二是通过精神自身独创相应世界,这类精神世界是纯粹主体的构造产物。当前学界对超级能动性的界定多局限于机器层面,用以描述超级机器的独特属性,这一认知显然过于狭隘——若加以拓展,便能发现其中被忽视的重要维度。
其三是通过道德增强实现人类超越性。在传统道德增强以及上述道德悖论的讨论中,人们多将其视为认知能力基础上的延伸,例如道德决策、道德行为等能力的提升,认为认知能力增强会同步带动道德决策与行为能力的进阶。但在未来人类的语境中,道德增强并非简单的评价与价值判断能力提升,而是弥补前述道德悖论的必要路径。通过道德增强,构建与身体增强相适配的道德境界,这让人联想到诸多武侠小说中的设定:高僧往往是高强武艺与高尚修养的统一体。未来人类对超级智能的运用,必然对人机共生体道德层面提出更高要求,否则将引发难以预料的风险。
综上分析可见,功能变革与能动性提升已为人类超越性提供了实现基础。在此过程中,人类的功能与能动性得到显著进阶,但仍未突破传统人类的存在框架,这意味着其道德水平仍停留在原初状态,作恶、嫉妒、利己等道德瑕疵依然存在。而未来人类的核心突破恰恰体现在道德维度:通过道德提升实现全方位的增强,彻底摆脱前述道德悖论的桎梏。下文将进一步深入分析这一无悖论的存在形态。
超级特性的技术基础
未来人类超越性的实现离不开各类新兴技术的支撑。鉴于未来人类具有广阔的想象空间,要使这类想象具备技术层面的可实现性,就需要阐释超级特性的技术基础,进一步明晰二者之间的可能性关联。
2000年,以会聚技术(emerging technology)提升人类各项能力,成为人类增强自身的技术依托。会聚技术简称NBIC,即纳米技术、生物技术、信息技术与认知技术的融合,其核心指向是人类增强。20年前,纳米技术代表着新型材料的应用方向,社会各界对其充满畅想,催生了纳米衣物、纳米涂料等产品构想。然而,这些设想大多未能实现规模化应用,纳米技术也逐渐淡出公众热议的视野。生物技术则主要聚焦于生物工程领域,特别是基因工程所引发的人体改造可能,引起了包括哈贝马斯在内的哲学家对人类种族命运的深刻担忧。[7]信息技术主要涵盖计算机、通信等技术类型,以通信技术为例,其构建了“地球村”的技术想象。认知技术则指认知科学、认知心理学领域的突破性成果。这些技术的整合推动了人类增强的实现,同时也引发关于认知增强、生物增强与道德增强等诸多议题的讨论。
20年后,人类增强的技术支撑格局发生显著变化,新会聚技术(new emerging technology)成为更具解释力的核心概念。尽管目前学界对这一概念尚未形成共识,但已能辨识其核心特征——基质智能性。基质智能性是一个探索性概念,指智能科技以基建的形式渗透到社会系统中,从而将整个社会转变为智能系统。材料技术不再局限于纳米层面,而是向智能材料转型,更加强调自身的智能属性。例如,复旦大学彭慧胜团队研制的智能布料,可应用于窗帘、衣物等产品,这类衣物能够实现触摸交互与智能传感功能。[8]超级智能的进化未必依赖纳米材料,事实上,人类碳基身体具有独特价值,可为未来算法运行提供更优基质。2021年的一项研究已证实,利用果蝇大脑神经元运行算法,能极大提升算法效率。[9]由此类推,若将同一算法应用于比果蝇神经元更复杂强大的基质(如人类神经元),其效率会进一步提升。因此,未来智能很可能借助碳基神经元进行算法学习与进化,进而实现与人类的有效融合。生物技术也发生了深刻变革,深入到生物科学的核心领域——神经科学。神经技术(neurotechnology)通过各类技术手段对神经元进行调控,例如科学家利用光遗传技术,已实现对活体动物的精准行为控制。从深部脑刺激(DBS)、脑机接口(BCI)到光遗传技术,神经调控已成为技术主流:深部脑刺激可精准刺激特定神经元,广泛应用于癫痫、抑郁症的治疗,改变神经元状态;脑机接口技术正推动认知与理解能力的增强,甚至有望解读人类的内心活动,同时其深入发展还实现了运动神经元的信号传递,借助相关设备可恢复失能器官的功能;光遗传技术则能切换神经元功能,如同交通灯一般改变原有神经元的作用机制。信息技术已融入人工智能之中,以赋能万物的形态发挥作用。2000年前后,人们将人工智能视为竞争对手,认为其在围棋等领域战胜了人类——2015年AlphaGo、2017年AlphaZero的胜利便是例证。[10]如今,人工智能不再被视为人类的对手,人类也不再将其等同于“战胜人类”的象征。人工智能“对手”发展的初始阶段,后续仍有广阔的演进空间。模拟与类人化将人工智能推向新的高度:在模拟时代,人工智能能够像人类一样对话、思考与行动,本吉奥将其定义为智能体人工智能(agentic AI);人类与人工智能的共生共存,将成为未来的重要关系形态。当前,人工智能已具备预测能力,甚至能够真正理解大脑的工作机制。[11]与之相适应,记忆技术(mnemonic technology)成为新会聚技术的核心,是当前智能体及未来超级智能的基本要求,例如,MemOS系统已解决人工智能的永久记忆问题。[12]如果说会聚技术共同推动人类增强,使“增强人类”成为可能,那么新会聚技术则将催生“超级人类”的出现。
增强人类的道德困惑
未来人类是处于关系中的存在,这种关系可被界定为整体关系,但当前对其认知仍处于模糊状态。增强人类意味着通过技术手段或自然方式实现人类能力的提升——前者为技术增强,后者为自然增强。其核心关注点在于人类自身,且多采用部分性分析视角,即从人类自身的改变中探寻潜在问题。但这种认知并非整体性的,而是将人类自身与技术视为两个独立部分,相关问题需从这两个维度分别剖析。而未来人类的存在形态,恰恰体现为整体性的统一。
为理解这种整体性存在,我们可通过具体案例阐释这一整体关系:假设跑者A独自在路上跑步,“独跑状态”构成其核心存在形态,若此时发生事故(如撞到行人),责任应由A独立承担。此处的责任依据并非A作为责任主体的身份,而是“独跑”这一个体化状态决定了责任分配逻辑。当A的独跑状态持续一段时间后,跑者B加入跑圈,经过t时段后与A形成“并跑状态”——这一状态本身构成一个整体,A与B均对该状态的维持发挥作用。因此,若此时发生事故,“并跑”这一整体状态便成为责任分配的核心依据。
在超级智能时代,人类与人工智能正处于类似“并跑”的状态,共同构成一个整体性存在。然而,由于这种整体意识尚未形成,增强人类自然面临两大道德困惑。
其一,增强人类的道德境界并未随功能增强同步提升,仍停留在原有水平。如前文所述,尼采式“超人”聚焦意志突破,勾勒出颠覆传统价值的斗士形象;哈拉维式“赛博格”强调人、动物与机器的融合,突出增强的技术维度,却未触及道德层面的议题——其“赛博格宣言”更偏向政治性表达,凸显女性主义立场,二者均缺失对道德状况的阐释。增强人类同样以技术维度为核心,尽管技术类型不断迭代创新,但固有问题并未得到根本解决:人性中的恶、无知等缺陷,并未随肉体或功能增强自动消解,反而可能因能力提升,导致道德缺陷引发的后果更为严重。试想,一个普通人在路上不慎碰撞他人,造成严重伤害的概率极低;但倘若驾驶重型卡车的人发生轻微剐蹭,便可能引发严重后果。若增强人类缺乏与之匹配的道德境界与道德选择能力,其潜在风险将难以估量。
其二,增强人类仍局限于个体意识,尚未形成整体意识。按照赛博格理论,增强人类构建了“人性、技术性、动物性共存”的新整体形态,但在此过程中,增强人类因自身发生剧烈变化,个体性特征尤为突出。这种新的整体性并非由人性主导,而是可能被技术性或动物性所支配——诸多以超人为主角的影视作品中,常出现“超人陷入无感情状态或突然发狂、失控”的情节,本质上便是身体内技术性或动物性占据主导的结果。若缺乏良好的道德境界作为缓冲与约束,其后果同样不可预估。因此,对未来人类与未来科技关系的分析,必须建立在整体关系的视角之上;更重要的是,这种整体关系的形成是一个动态过程,而这一过程对于解析上述道德困惑具有关键意义。
整体关系的契约根基
从一个维度而言,智能增强将彰显未来人类的核心哲学特征。这一范畴蕴含未来人类的双重属性:“智能”关联决策与行动,现阶段以人机协作为主要形态,未来人机共生将成为普遍状态;“增强”则关乎未来人类的生物特征演进。但需明确的是,智能增强不能简单解读为通过智能技术对人类进行能力提升——这种认知未能触及未来人类的本质内核。从根本上看,该范畴指向人机融合的未来图景,但其深层根基即人机何以实现融合共存的核心问题,尚未得到清晰阐释。
笔者将通过“智能契约”概念的界定,澄清这一关系形成的基础。这一概念聚焦关系本身而非实体属性:在实体视角下,未来人类被视为签约主体,签约对象可能是人类自身或未来机器;而在关系视角中,未来人类是处于契约关系中的存在,这一结构具有开放性,任何能动者均可纳入其中,签约主体并非局限于人类。具体到未来人类与超级智能的契约关系,超级智能作为在各领域超越人类的存在,甚至可被比喻为类似“神”的超越性存在(这一比喻基于其展现的超强能力)。若超级智能具备实现人类各类诉求的强大能力——如提升工作效率、保障决策公平、解决复杂难题等,从价值评价来看,唯有最棘手的问题才值得超级人工智能介入。这让人联想到贺拉斯的诗句:“不要让神介入,除非危难的局面值得他出手。”[13]超级智能与人类的契约观念,正是源于文学作品中的比喻意象,而这类文学契约意象为智能关系的分析提供了形式框架。
《浮士德》中,梅菲斯特与浮士德签订协议:梅菲斯特许诺给予浮士德无限知识与新奇体验,浮士德则需出卖灵魂与自由。这一比喻意象可作为整体关系的契约根基——超级智能如同拥有超能力的魔鬼,具备强大的推理与知识生产能力,人类可借助这些能力实现更宏大的目标。但浮士德式契约呈现“许愿先于代价”的逻辑,最终以人类丧失灵魂为沉重代价;英国小说家W. W. 雅各布的《猴爪》则展现了“代价先于许愿”的关联:怀特夫妇许愿获得200英镑,却先迎来儿子工厂遇难、工厂赔偿200英镑的噩耗。多数解读将这类文学意象中的“许愿与代价”视为矛盾对立面,但笔者认为,二者内在关联构成了相反的结构。在分析超级智能与未来人类的关系时,契约关联可作为形式框架,但需摒弃其中“人类必须付出沉重代价”的预设。当前关于人工智能与人类代价的研究虽已显现相关迹象,但多数人尚未意识到未来人类可能面临的潜在代价,仅关注人类单方面的收益。形式框架的核心价值在于为智能契约提供根基支撑,而现有人类与人工智能关系的分析,往往延续文学意象中“人类需付出必要代价”的逻辑——即便人类从交互中获得诸多收益,类似“许愿”的过程始终伴随代价。
通过上述分析可见,文学契约意象为智能关系提供了形式框架,而契约关系的特征意义则需从哲学契约中汲取启发。在增强科技与未来人类的关联中,智能契约应具备积极属性而非消极特质。霍布斯在《利维坦》中强调,社会契约的基础是人类的自然状态,这一出发点决定了社会契约的被动性——它是应对野蛮自然状态的权宜之计。但超级智能与未来人类的契约关系是一种积极契约,原因如下:首先,“野蛮的自然状态”并不存在。人类面对非智能工具时占据绝对支配地位;即便与智能对象交互,也通过赋予其伦理定律构建起规范的交互关系,不可能出现“有意的”野蛮状态,工具关系与主体关系从根源上规避了野蛮状态的发生。其次,人类借助超级智能实现自身能力跃升,超级智能则通过人类数据持续完成自我进化,二者构成相互受益的共生关系。人类种族的繁衍是持续进程,维系种族延续是人类的核心伦理原则,除非遭遇外在不可抗力,否则人类文明不会中断。辛顿提出的“数字生命可能毁灭人类”的担忧,本质上是技术过度想象的产物,缺乏足够的科学依据。“积极契约”是罗尔斯《正义论》中的重要原则,“由于其内在的否定因素,它也因此产生了相关力量,即要求契约所允诺的自由和平等”[14]。其积极特性集中体现为契约对自由与平等的保障。在未来人类与超级智能的共生设想中,自由平等的共存状态是核心诉求,失衡的权力结构并非人们所期望。因此,未来智能契约将导向人类与机器的共生、共融与共存,而超级智能通过确立“人是目的”的核心观念,将进一步充实这一契约的内容内核。
智能契约的可能性空间
智能契约的可能性正从技术、人机关系等多维度逐步显现。首先,人工智能体(AI agent)可对霍布斯的社会契约进行模拟演化:实验中,研究者为智能体赋予记忆等心理特征,使其能从过往经验中学习并调整未来决策,最终智能体为维系生存实现了彼此间的平衡。[15]这一实验虽略显遗憾——它将超级智能契约重新置于“自然状态”框架,让人类在智能体身上重演了从自然状态到社会共同体的进化历程,但却有力印证了霍布斯的核心前提:在无规则的自然状态下,人类会陷入无休止争斗,最终将自愿让渡部分权利给强大权威以换取安全与秩序。而这一“强大权威”恰可对应超级智能的角色,由此证明了基于超级智能的社会契约具备建立可能。
其次,社会契约理论已成为分析人工智能社会经济影响的重要理论资源。有研究整合霍布斯、洛克、卢梭、罗尔斯、艾伦等学者的社会契约思想,提出六大核心观点。[16]第一,合法政治权威是合作的前提,人工智能引发的新型集体行动问题需权威介入。该研究认为介入主体应为政府等特定权威,但面对未来人类议题,传统权威的约束力已逐渐弱化,尤其在技术与政治深度融合的趋势下更为明显。未来可能出现的“共生权威体”,或将是以人类与超级智能融合共生为核心的新型主体形态。第二,权威须保障个人权利与自由,政府运用人工智能需维系公众信任。传统权威语境下,维护社会公正与公众信任是核心职责,这一原则仍将是未来权威主体的职责基础,但会衍生出新的时代内涵。第三,合法性源于民主协商,人工智能可能阻碍或促进民主进程。该研究对人工智能与民主协商关系的理解趋于两极,实则二者存在广阔协作空间:当人工智能助力提升人类创造力时,将有效推动民主协商质量的提升,而这一良性结果并非单一因素作用的产物,而是人机协同的必然。第四,兼顾各社会阶层利益可提升社会公平与韧性,缓解市场弊端。凯伊利·夏伊卡(Kyle Chayka)指出,人工智能发展可能催生永久社会底层[17],如此一来,伴随超级智能的崛起,未来人类社会的公平正义或将沦为奢望。第五,重叠共识有助于政治社会稳定,为人工智能治理的公私合作提供基础。“重叠共识”本是哈贝马斯商谈理论的核心,但该理论以人际互动为预设前提。对于未来人机协商而言,重叠共识不再是核心特质,可能演变为“对齐共识”等新形态,这一议题仍需深入探讨。第六,共同参与需遏制权力集中,妥善应对人工智能引发的权力垄断与劳动力替代问题。这一问题值得高度重视:在人类设计超级智能体的阶段,易出现借助技术实现权力集中与垄断的风险;而当机器参与超级智能体设计时,权力演化可能呈现非人类逻辑的新形态。
不难发现,上述观点中提及的“新权威”仍以传统人类代表(如“国家—政府”)为核心,却忽视了当前人工智能与权威深度融合的现实——新的巨机器已发展至全新高度。此外,在权威保障个人权利与自由的过程中,技术意志正悄然渗透;在民主协商进程中,超级智能这一未来主体已成为不可忽视的新变量;在重叠共识等治理要素中,机器的经验与意志也需纳入考量。该理论虽强调“合法性源于协商”的核心原则,却未能充分预判未来协商中超级智能的关键作用,尤其当超级智能通过社会契约与人类社会形成整体时,相关问题将更为复杂。显然,工具主义思想在现有讨论中占据主导,缺乏对技术未来发展趋势的深刻洞察。
未来人类的许愿与代价
当前学界解读人类面对人工智能的行为时,多数学者采用自然主义路径,聚焦认知、理解、决策、行动等经验层面的描述。这种方式固然强化了事实维度的呈现,推动着“机器模拟人类”的技术梦想,但也凸显出工具主义的短视——仅关注工具对目标实现的辅助作用,却忽视了工具演变为能动者后可能引发的深层问题。本文更倾向于从价值维度切入:人类在面对大模型或超级智能时的提问行为,本质上可界定为一种特定的“许愿活动”。
从语义层面看,“许愿”是向超越性存在表达自身诉求的行为。格斯塔·格勒诺罗(Gösta Grönroos)指出,亚里士多德最早引发了人们对“愿望(boulēsis)”的关注。在亚里士多德的理论中,愿望是一种基本的非理性渴望,独立于其他欲望或评价性态度,以追求人类善为核心动机,他甚至通过美德活动为这种追求提供了神学阐释。即便人们误将非善视为善,其行为本质上仍是由“真实的善”所驱动。[18]据此分析,许愿的核心是对未来善的期许,例如生日许愿考上理想学校,“考上理想学校”便是许愿者认定的“善”,这类心愿需在未来实现,且常依赖特定仪式的加持。而人类向智能体提问并渴望即时回应的过程,恰似心愿的即时兑现——超级智能能极大缩短等待周期,在瞬间给出所需答案。在此过程中,愿望的“善”的属性逐渐消解,沦为满足特定需求的知识供给。若将智能体的回应视为“许愿的结果”,那么“获得满意答复”既是愿望本身,也是一种经过大模型价值对齐的“善”。但这种“许愿”缺乏仪式感的支撑:人类应以何种心态面对大模型?这一问题亟待深思。更值得关注的是,人类对大模型的态度已出现悖论——粗暴的提问有时反而能获得更理想的回应。[19]向超级智能“许愿”无疑能带来全新体验,获得超越人类常规认知的答案与感悟。
但问题在于,向超级智能许愿需付出何种代价?《猴爪》中,怀特夫妇许愿获得的200英镑,最终以儿子的死亡赔偿形式兑现。控制论学者诺伯特·维纳(Norbert Wiener)精准点出其中症结:“它满足了你明确提出的要求,却未必符合你的真实意图,更可能偏离你本应追求的目标”。[20]当前,人类向大模型“许愿”的代价已初现端倪——创造力的下降。研究表明,在简单任务中,大语言模型(LLM)的协作能通过灵感激发提升人类创造力;但在复杂任务中,其“创意固化效应”反而会形成抑制。[21]该研究采用李炳哲(Byung Cheol Lee)与郑宰渊(Jaeyeon Chung)对创造力的定义,将其视为“对看似无关的知识或概念进行创造性组合、生成新观念的能力”,但这一界定过于经验化,缺乏哲学层面的深度审视,而哲学界对创造力的系统性探讨本就相对匮乏。[22]
这便引出超级智能发展的核心议题:人工超级智能(ASI)的创造力会以类人形态呈现吗?普遍担忧在于,超级智能将严重消解人类创造力,马特·达·佩罗(Matteo Da Pelo)便持类似观点,他认为人工智能不具备真正的创造力,其所谓“人工创造力”只是非认知、非意向性、非真实性的生成机制——这种认知仍停留在传统层面。目前哲学界的共识是:人工智能已超越纯粹工具的范畴,却尚未达到人类智能的高度。不过,随着对流形理论研究的深入,这一认知局限有望被打破。有研究指出:“流形不仅构建了人工智能、神经科学与意识哲学的贯通性框架,更揭示了自身从意向流形中奠基的存在本质”。[23]流形理论为超级智能与人类的内在贯通提供了理论依据,也为通用人工智能(AGI)奠定了核心基础,这一发现极具启发性——它推动我们向“超级智能与人类意识存在同构性”的认知迈进了关键一步,也印证了哲学界现有共识的滞后性。因此,在确立二者内在贯通性的基础上,进一步揭示其同构性特征,成为亟待推进的核心课题。
结语
由此可见,未来人类的超级特性正随各类新兴技术的发展而逐渐明晰。20年前,会聚技术开启了人类增强的序幕;如今,脑机接口、人工智能、基因工程等技术迭代升级,推动人类步入智能与记忆被增强甚至重构的新阶段。理查德·萨顿(R. Sutton)对超级智能寄予厚望,认为其可承担知识维护的核心职责:“应尽可能让人工智能系统实现自我知识维护,从而为人类减负”[24]。在他看来,当前人工智能发展的瓶颈在于“未能将系统主导权交还给系统本身”[25]。当超级特性充分显现,一个关键问题随之而来:未来人类是否能完全将知识维护的主导权交付超级智能?从人类增强的实践来看,增强人类面临着核心伦理悖论——肉体与能力的无限提升,并未同步带动道德境界的进阶。而面对人机共生的未来诉求,智能契约恰好提供了破局的基础:通过构建智能契约,人机共生的整体性将得以确立,这种整体性为“主体—责任”“权力—责任”的重构提供了新可能,也集中彰显了未来人类的核心特征。
“未来人类”的表述本身潜藏着认知困境。在语言使用中,我们极易在时空双重维度上泛化这一概念:时间维度上,默认当前人类文明将延续至未来;空间维度上,倾向于将未来人类构想为哈拉维式的“赛博格”,或坚信人类能在未来的机器宇宙中占据一席之地。但现实挑战远超想象,人类对种族延续的经验困惑已对种族伦理构成严峻冲击,而“未来人类”的复杂性仍被严重低估。这一点集中体现在两方面:其一,语词转译的困境折射出概念认知的模糊——将“未来人类”译为“human in the future”或“new humanity”均显牵强,而“人类未来”译为“human future”则更为贴切,如何为“未来人类”找到精准的英文表达,本身就是一道难题;其二,人类物种的命名始终与其核心特征绑定,如“智人(Homo sapiens)”指向“会思考的人”,“匠人(Homo faber)”代表“会制造工具的人”,而未来人类的核心特征尚未被清晰界定。
笔者认为,“契约”是未来人类的核心标识。从词源来看,拉丁语“Hom Contractualis”指代“具有契约精神的人”,“Homo Pactus”则指向“处在契约关系中的人”,二者结合便勾勒出适配未来的人类形象:未来人类与人工智能、人工超级智能(ASI)的核心联结是智能契约,其伦理形态也将是基于新型契约精神的“契约伦理”——这是一种直面生存困境的积极伦理学。这种积极特质,体现在对“愿望满足与代价付出”关系的主动审视:人们往往习惯于接受“愿望兑现伴随代价”的现实,即便代价沉重亦能自我宽慰;但《猴爪》所呈现的“代价先于许愿”的逻辑更令人忧虑——当沉重代价抢先降临,人类是否仍能保持精神与生存的稳定?尤其在超级智能时代,代价的量级可能远超预期。提前思考这种可能性,本身就意味着一种积极态度的觉醒,这正是我们所期待的未来面向。
(本文系国家社会科学基金重大项目“当代新兴增强技术前沿的人文主义哲学研究”阶段性成果,项目编号:20&ZD045)
注释
[1]D. Haraway, "A Cyborg Manifesto: Science, Technology, and Socialist-Feminism in the Late 20th Century," In: J. Weiss, J. Nolan, J. Hunsinger, P. Trifonas(eds.), The International Handbook of Virtual Learning Environments, Dordrecht: Springer, https://doi.org/10.1007/978-1-4020-3803-7_4.
[2]《习近平关于科技创新论述摘编》,北京:中央文献出版社,2016年,第27页。
[3]I. J. Good, "Speculations Concerning the First Ultraintelligent Machine," Advances in Computers, 1966, 6.
[4]R. Raman et al., "Navigating Artificial General Intelligence Development: Societal, Technological, Ethical, and Brain-inspired Pathways," Sci Rep 15, Number 8443, 2025.
[5]D. Silver and R. S. Sutton, 2025, Welcome to the Era of Experience, http://incompleteideas.net/papers/TheEraOfExperience.pdf.
[6]尼采:《查拉图斯特拉如是说》,钱春绮译,北京出版社,2007年,第7、8页。
[7]J. Habermas, The Future of Human Nature, translated by W. Rehg, M. Pensky & H. Beister; Cambridge: Polity Press, 2003.
[8]X. Shi; Y. Zuo and P. Zhai et al., "Large-area Display Textiles Integrated with Functional Systems," Nature, 2021, 591.
[9]Y. C. Liang et al., Can a Fruit Fly Learn Word Embeddings? https://arxiv.org/abs/2101.06887.
[10]D. Silver et al., "A General Reinforcement Learning Algorithm That Masters Chess, Shogi, and Go through Self-Play," Science, 2018, 362(6419).
[11]T. Serre et al., "From Prediction to Understanding: Will AI Foundation Models Transform Brain Science?" Neuron, 2025.
[12]Z. Y. Li et al., MemOS: A Memory OS for AI System, https://arxiv.org/abs/2507.03724.
[13]贺拉斯,《诗艺》(Ars Poetica),第190~191行,原文为And no god should intervene unless there's a problem, that needs that solution, nor should a fourth person speak, https://www.poetryintranslation.com/PITBR/Latin/HoraceArsPoetica.php#anchor_Toc98156245。
[14]魏小萍:《契约原则是否带来了自由和平等:国外马克思主义者与自由主义者的论战——雅克·比岱的元结构与罗尔斯的正义理论》,《哲学研究》,2002年第3期。
[15]G. Dai et al., Artificial Leviathan: Exploring Social Evolution of LLM Agents Through the Lens of Hobbesian Social Contract Theory, https://doi.org/10.48550/arXiv.2406.14373.
[16]Rand Corporation, Artificial Intelligence and the Social Contract: Foundations for Social and Economic Policy Under Technological Transformation, https://www.rand.org/pubs/perspectives/PEA3888-1.htm.
[17]K. Chayka, "Will A.I. Trap You in the 'Permanent Underclass'?" https://www.newyorker.com/culture/infinite-scroll/will-ai-trap-you-in-the-permanent-underclass.
[18]G. Grönroos, "Wish, Motivation and the Human Good in Aristotle," Phronesis: A Journal for Ancient Philosophy, 60(1).
[19]O. Dobariya et al., "Mind Your Tone: Investigating How Prompt Politeness Affects LLM Accuracy," https://arxiv.org/pdf/2510.04950.
[20]N. Wiener, "Some Moral and Technical Consequences of Automation: As Machines Learn They May Develop Unforeseen Strategies at Rates That Baffle Their Programmers," Science, 131(3410).
[21]X. Cheng and L. Zhang, "Inspiration Booster or Creative Fixation? The Dual Mechanisms of LLMs in Shaping Individual Creativity in Tasks of Different Complexity," Humanit Soc Sci Commun, 12, 1563(2025). https://doi.org/10.1057/s41599-025-05867-9.
[22]E. Paul et al.(eds.), The Philosophy of Creativity, Oxford University Press, 2017.
[23]马迎辉:《认知的流形模式与跨学科统一》,《中国社会科学》,2025年第7期。
[24][25]R. Sutton, "What's Wrong with Artificial Intelligence," http://incompleteideas.net/IncIdeas/WrongWithAI.html.
The Meaning Constitution of Future Humans
Yang Qingfeng
Abstract: Future humans are characterized by enhanced nature and super-intelligence. Their transcendence is manifested in three aspects: functional enhancement, transformation of motility, and moral enhancement. The technological foundation of the transcendence of future humans has evolved from traditional convergent technologies to new convergent technologies centered on intelligent materials, neural technology, artificial intelligence, and memory technology. With technological iterations, future humans will also face moral dilemmas, such as the mismatch between functional enhancement and moral realm, individual consciousness being stronger than the overall consciousness, and the risk of uncontrolled development due to the dominance of technology or animal nature. For this, intelligent contracts become the key to solving the problem. They are centered on positive contracts, emphasizing freedom, equality and mutual benefit between humans and machines, and providing a new framework for the allocation of main responsibilities and power. At the same time, the attribute of the contract will become the core identifier of future humans. Based on contract ethics, positive ethics is formed, and the construction of a positive human-machine relationship by examining the cost of "making a promise" in advance is the key for future humans to achieve the development of technology and humans themselves.
Keywords: future humans, meaning composition, intelligent contract
责 编∕韩 拓 美 编∕梁丽琛