智能技术带来的可能的技术代价
新技术与社会的融合能够给社会带来利益，同时也会带来伤害。新技术带给社会的伤害可以看作是社会要付出的“技术代价”，这样的代价是社会整体为技术发展而所要付出的总体成本。在信息技术发展的短暂时间里，许多人尤其是青少年沉湎于电子游戏甚至患上网瘾，这已经是不争的事实。信息技术给社会带来的巨大利益使得它的发展不可阻挡；而对于沉湎于游戏甚至染上网瘾的孩子，其家庭自动地归责于自己或者是某个偶然原因，而不会将责任归于社会发展信息技术。从技术的社会化角度来看，这便是社会为发展信息技术所要付出的“技术代价”。
某种技术对某个个体的伤害可能只是概率上的或者是偶然的，而某些技术对社会的伤害则是必然的，只不过不同的技术给社会造成的伤害形式及伤害程度是不同的。社会要权衡的是相应技术的代价是否是可接受的。汽车使人们出行更便利，然而汽车的普及造成了大量的交通事故与死亡人数；而假设没有现代交通系统，许多死亡就可以避免。据统计，2017年～2019年，中国每年交通事故死亡人数约为6.3万。尽管人们逐渐适应现代交通技术系统，相对于汽车保有量，交通事故率也在降低，但是中国汽车总量在逐年增加，因为交通事故而死亡的总人数并没有进一步下降。这些死亡或者伤残是现代交通技术给社会带来的不可避免的代价，尽管它们不是唯一的代价。社会可以通过采取各种可能的措施降低伤害，但是这样的伤害有一个不可降低的“下限”。日本是交通事故率较低的国家，据报道，2017年，日本因交通事故而死亡人数只有3000余人；日本政府希望将交通事故死亡人数控制在2500人以下，而实际上这是难以完成的目标——这样便是现代汽车系统运行下不可再低的代价。
我们通常对交通事故中的死亡或伤残的人态度漠然，认为那是必然的“不幸”，如同自然死亡或者生病一样。我们习惯于将每年因交通事故而死亡的人数只看作一个数字，没有人怪罪或者攻击现代交通系统，而事故家庭只能怪罪自己的不幸或者交通肇事者。人们认为现代交通系统的采用是必然的，而没有现代交通系统是不可想象的。然而，有些技术的不被采用是可想象的。据美国网站提供的数据，1999年～2016年，美国67.7%的谋杀案是由枪支造成的，总共有213175人死亡，即平均每年有11843人死于枪击谋杀。我们当然不能将这些谋杀案造成的死亡人数全部归因于枪支合法化，因为假设没有枪支合法化，其中的部分死亡者也会被其他方式所谋杀。但是枪支合法化使得谋杀变得容易，因而，美国平均每年1万多人的枪击谋杀死亡中有很大比例应当归因于枪支合法化，这些死亡是社会为枪支使用合法化所付出的技术代价。在美国，人们经常抗议政府而要求禁枪，因为全面禁枪的社会是可想象且一定程度可接受的社会。因此，现代交通系统是所有社会协商出来的结果，而枪支合法化也是美国这个国家协商出来的结果。
人类处于高度互联时代，人类的理性或者严格地说“集体理性”得以彰显。这样的理性体现在人类关于未来的协商中。这种协商不仅仅体现在集体理性对个体理性困境——如囚徒困境——的克服中，而且更重要的是，人类能够对人类未来进行整体地考虑，分析未来的各种可能性，权衡利弊，选择并确定未来。
在协商人工智能社会的未来时，我们首先得要弄清人工智能给社会带来的可能代价是什么，因为只有弄清可能的代价，我们才能进行利弊权衡。
人工智能会使人类整体性地沦为彻底的“无用阶级”吗？机器作为劳动的替代物而被设计和制造出来，它天生与劳动处于对立的关系；这一点上人工智能也一样。传统机器替代人的体力，被替代的劳动者因具有智力上的优势，其替代是暂时的，从理论上讲被替代的劳动者能够通过学习新知识而找到新的工作。与传统机器不同的是，人工智能替代的是人的智力，它们能够进行劳动，能够代替人的劳动而创造价值——在这个意义上，马克思的劳动价值论也面临着挑战。而一旦人工智能形成规模并在智能上完全超越人类，人工智能能够完全接替人类来创造价值，人便没有了价值；而无需等到超级智能机器被设计出来（奇点）的那一天。届时，地球上将由人工智能机器统治，正如明斯基和莫拉维克所认为的那样。对人类来说，这样的代价可能“太大了”，至少是当下的大多数人所不能接受的。当然，很有可能的是，未来的人类会赞同明斯基等人的观点，人类与机器人都是“我们”，而机器人将是人类心灵的孩子，人类心甘情愿地让它们作为我们的后代接管地球！
智能社会中人群会面临被机器算法全面操控的风险。当前，我们已经被算法部分操控。智能手机上的各种推送，是计算机视觉根据它所“看到”的我们的偏好而精准投放的。大数据是信息技术系统在与人类社会交互中所产生的巨量信息；无论如何，它们是个体或者群体行为的相关信息——太空中获取的星体数据不能成为大数据，尽管它们是科学仪器“观察”和“加工”后的信息。大数据被认为包含着巨大的价值，或者巨大的商业价值，因为这些大数据中包含由个体信息和个体偏好形成的群体偏好或者规律。我们被数据化从而被客体化，同时被计算与预测。基于大数据的计算便是基于个体组成的群体的行为信息之上，这样个体的“行”和“为”，乃至“思”和“想”都被关注、收集与计算。因而，尽管可能的是，在算法设计时通过将伦理嵌入到算法之中保证没有人在背后对作为数据对象的个体进行“偷窥”，但实际上，群体被偷窥，商业价值和政治目的便通过群体被偷窥而实现。由大数据而产生的价值是通过偷窥我们的行为以及这些行为背后的思想，从而预测乃至操控我们的行为来实现的。掌握数据的公司可以通过投放某些数据扰动人群，对人群进行操纵，这种操纵可以是商业的，也可以是政治的。这种操纵如同羊群被恐吓声所驱赶或者被投放的食物所吸引。个体数据是大数据时代个体的新的身份。这是数据化个体的时代，我们无处可逃。而对我们的数据进行操作则是需要规制的。对于个体而言，存在“不可数据化”的东西（如隐私）和可数数据化的部分，不可数据化的边界在哪里？可数据化的使用权限在哪里？等等。数据化个体并对群体进行这种操纵可能催生新型的政治或者商业模式，我们得适应并运用政策与伦理规制这种操纵；我们需要考虑并建立新型的政治或者商业伦理以及制定相应的治理政策。
基于互联网的“虚拟世界”正“废物化”人类。每个人都会做梦，每个人也能够进行幻想。做梦是人的心灵处于沉睡状态下心理的自然呈现；而与梦境不同的是，幻想是人的心灵的正常功能，它是对现实状态的理性超越。幻想是想象一系列非真实的事件；或者说幻想是在构建某个虚拟世界，在这个世界中有一系列引发行为主体情绪的虚拟事件发生，这样的系列事件尽管不符合现实，但它们之间一定符合逻辑。梦境只能是私人的，人们无法“共同做梦”——不同的人无法进入同一个梦境；但是人们可以“共同幻想”。共同幻想是指不同的人在同一个现实时空中共同构建某个虚拟世界，或者进入某个虚拟世界中一起进行新的想象。人类的神话、文学等便是特定群体的共同幻想。而今天互联网为人们搭建了一个新的共同幻想的平台。人们能够通过互联网进入同一个“虚拟世界”，“共同地”且全身心地沉浸到某个幻境中并进行新的幻想。每个人都能够进入的虚拟世界构成共同幻境。然而，基于互联网而构建的虚拟世界或者共同幻境正“废物化”人类。赫拉利说：“那些对社会来说多余的人，可以多花点时间在3D虚拟世界里；比起了无生趣的现实世界，虚拟世界能够为他们提供更多的刺激，诱发更多的情感投入。……这些人对社会毫无用处，整天活在现实与虚拟之间，这样的生命何来神圣？”[12]Meta（Facebook）宣布建设元宇宙（Metaverse），元宇宙便是在构建巨大的共同幻境——尽管元宇宙有助于服务当下世界。基于互联网的共同幻境（元宇宙）的构建对人的精神的控制与圈养等副作用是巨大的，而且很可能的是，它正全面“废物化”人类。
