人工智能发展的保守主义路径
我们通过新技术一步步走向未来。对未来的协商体现在对技术的每一步考虑之中。面对不断涌现的人工智能新技术，技术保守主义立场可能更为可取。
技术保守主义可以理解为：在发展或者选择技术时我们应当以尊重当下所有人的利益为前提。具体地说，在发展技术时应当坚持以新技术的采用可以让所有人的利益都得到提高或者至少不损害为最高原则；在接受某项新技术时社会应当保持慎重的态度，该新技术的采用要使当下所有人的利益都得到帕累托改进；并且不采用技术后果不明的技术。
技术保守主义至少有如下三条作为辩护的理由：第一，人类对技术的全面后果是无知的或者至少是部分无知的；而技术的全面后果往往是无法通过实验或者理论来推演的。第二，因技术发展的巨大惯性，人们即使发现了技术的灾难性后果，社会也很难即刻停下来。第三，技术专家往往倾向于他们所发明的新技术的实施。他们轻视或者忽视该技术的“坏处”，而放大该项技术的“益处”，这不是说他们不客观或者不道德，而是说，这是自我肯定的人性使然。如，核能被告知是清洁且安全的能源，而核电站一直以来也被科学家们宣称绝对安全、发生核事故是小概率事件。然而，自核能技术被人类应用以来，已经发生多起核事故，2009年美国《时代》杂志对历史上发生的令人恐怖的核事故进行了回顾，评出“十大核事故”，其中包括1986年的苏联切尔诺贝利核电站事故。[15]其时，还没有发生日本福岛核事故。2011年的福岛核事故不断产生的核污染废水问题一直困扰着周边国家。1979年美国的三英里岛核事故、1986年切尔诺贝利核电站及2011年福岛核事故均是核电站事故，而当前核电站遍布全球！
基于以上理由，新技术被应用之前应当得到充分且全方位的评估与论证，并且应当让公众（外行）参与到技术评估与论证中来。可以看到，技术保守主义并不是限制新技术的使用，而是对技术的使用采取审慎的态度。对于当前不断推陈出新的人工智能新技术，技术保守主义不仅要求人工智能技术被实施之前需要充分评估与论证，而且重要的是，因为人工智能技术的特殊性，它还要经得起伦理和社会的审查。
事实上，人们一直在考虑如何约束机器人或者人工智能的发展。1950年，美国著名科幻作家艾萨克·阿西莫夫出版了他的著作《我，机器人》。在这部著作里，阿西莫夫提出了著名的机器人三定律：第一定律，机器人不得伤人，或任人受伤而袖手旁观；第二，除非违背第一定律，机器人必须服从人的命令；第三，在不违背第一及第二定律的情况下，机器人必须保护自己。我们看到，在按照阿西莫夫三定律而建立起来的人与机器人共存的社会中，机器人对整体人类只有帮助，不会造成伤害，至少表面上如此。这样的技术的采纳应当是对所有人的福利都有提高而没有伤害，因而符合技术保守主义的立场。
然而，遵循阿西莫夫三定律而建造的人工智能或者机器人是奴隶般的，它们在社会上运行可以帮助人类整体，但它们奴隶般的地位是我们人类希望的吗？这是技术社会的理想形态吗？弗洛里迪说：“允许人类和智能陪伴做朋友是否是一个道德伦理层面的问题。我们是否会因为它们的非生物性而歧视它们？”[16]就我们目光所及的人—机社会的未来，人工智能还处于人类的控制之下。在这样的人—机社会里，理想的人—机关系应当如何？
人工智能不仅应当提高人类的整体物质福利，而且应当满足人类的精神需求。为此，人们提出了“友善的人工智能”（friendly AI）概念。一个友善的人工智能是指它采取的行动在整体上对人类和人性仁慈而非暴力，善意而非敌意。美国机器智能研究所（前身是著名的奇点研究所）的研究人员俞德考夫斯基（Eliezer Yudkowsky）在2001年发布了《创造友善AI1.0：仁慈目标架构的分析与设计》研究报告，在该报告中他是这样表述友善的人工智能：它们是被设计来完成真实世界的目标且对人类有益、无伤害人类行动的系统。而创造友善的人工智能则描述了建造一个仁慈（benevolent）即友善（friendly）的人工智能的设计特征和认知构架。[17]
福洛丁和皮得森（Barbro Fröding & Martin Peterson）认为，未来人工智能最重要的特征之一是它们拥有运用友好的方式对待人类的能力：“它们对人类具有（看上去）友好的能力，而不是刻薄、敌意或者不友善。”[18]在他们看来，不是说友善的人工智能与人类之间存在真正的友谊，而是说人类与它们之间具有“似友谊”（as-if friendship）。他们在亚里士多德关于友谊的理论中找到了理论支撑。他们认为，高度顺从的奴隶式人工智能（Slave AIs）不是友善的人工智能，功用人工智能（Utility AIs）和社交人工智能（Social AIs）则是友善的人工智能。这就是说，由于友善（友谊）是相互的，一个理想的人工智能社会是人类与人工智能友好相处的社会。
结束语
在对未来的思考中，科学家与技术家们往往趋于乐观，而哲学家们往往趋于保守——哲学的这种保守是一种对人性的守护和热爱。然而，在对未来的思考中，哲学似乎有点力不从心，文学似乎更有吸引力。
人类一直由伟大的叙事鼓舞并引导。在这样的叙事中，人类行动的意义被设定，伦理也被偷偷嵌入。然而，不同的叙事中生命被赋予的意义是不同的。如果有伟大叙事认为我们有使命走向星辰大海，我们将前仆后继地走向宇宙深处；而如果有伟大叙事认为我们人类自身只是走向更高级智能的一个环节，而人工智能就是人类智能的更高级的接棒者，那么，我们会大力发展人工智能，并心甘情愿地接受人工智能替代我们人类占据这个星球。我们现在需要关于人类、生命和人类未来的伟大叙事，这样的叙事可能不是哲学，但一定包含着深刻的哲学；这样的叙事超越人工智能相关的科学和技术本身，并对人性有独到的理解。并且最重要的是，这样的叙事能够真正洞悉我们这个世界背后的超级密码。
（本文系国家社科基金重大项目“当代新兴增强技术前沿的人文主义哲学研究”的阶段性成果，项目编号：20ZD045）
