注释
[1]潘天群：《技术社会中的涂层博弈》，《社会科学辑刊》，2021年第3期。
[2]当前兴起的人类增强（human enhancement）技术的研发正试图打破人类自我进化的瓶颈，通过技术增强人类使个体成为超人。
[3][4]［意］卢西亚诺·弗洛里迪：《第四次革命：人工智能如何重塑人类现实》，王文革译，杭州：浙江人民出版社，2016年，第XII、107页。
[5][6]Hans Moravec, Mind Children, London: Harvard University Press, 1988, p. 1, p. 6.
[7][8]Marvin L. Minsky, "Will Robots Inherit the Earth?", Scientific American, Oct, 1994, pp. 108-113.
[9]转引自［美］库兹韦尔：《奇点临近》，李庆诚、董振华等译，北京：机械工业出版社，2011年，第10页。
[10][11]David Chalmers, "The Singularity: A Philosophical Analysis", Journal of Consciousness Studies, 2010, 17(9-10), pp. 7-65.
[12]［以］尤瓦尔·赫拉利：《未来简史》，林俊宏译，北京：中信出版社，2017年，第294页。
[13]Evan Mills, Nathaniel Mills, "Taming the Energy Use of Gaming Computers", Energy Efficiency, 2015, 9(2), pp. 321-338.
[14]郑鹏：《人工智能创作、“作者之死”与人的主体性之反思》，《安徽大学学报（哲学社会科学版）》，2020年第3期。
[15]《十大恐怖核事故：切尔诺贝利核泄漏上榜》，《科技传播》， 2011年第8期。
[16]［意］卢西亚诺·弗洛里迪：《第四次革命：人工智能如何重塑人类现实》，第180页。
[17]Eliezer Yudkowsky, Creating Friendly AI 1.0: The Analysis and Design of Benevolent Goal Architectures, 2001, the Singularity Institute, San Francisco, CA, June 15.
[18]Barbro Fröding, Martin Peterson, Friendly AI, Ethics and Information Technology, 2020, 23(3), pp. 207-214.
责 编／张 晓
潘天群，南京大学哲学系教授、博导，南京大学科学技术与社会研究所所长。研究方向为科学技术哲学、人工智能哲学、逻辑学、哲学践行、博弈论。主要著作有《博弈生存——社会现象的博弈论解读》《社会决策的逻辑结构研究》《博弈思维——逻辑使你决策致胜》等。
Negotiating the Future of Artificial Intelligence Society
Pan Tianqun
Abstract: Intelligent technology is becoming a part of human society which is constructing human society together with us. The rapid development of artificial intelligence shows human a variety of possibilities of future society. However, while artificial intelligence brings well-being to human, it is also bringing actual or possible "costs of technology" to the society. Facing the current rapid development of intelligent technology, human must base himself on the present to negotiate the future, and commonly determine or choose a future that is beneficial to human among various possibilities of human's future.
Keywords: the future of human, cost of technology, common negotiation, artificial intelligence, conservatism.
