在移动互联网，大数据，云计算等新技术的驱动下，人工智能加速发展，呈现出深度学习、知识推理、人机协同、群智开放等新特征，形成新的发展空间，成为了当前科技创新和产业推动产业升级转型的重点。
发展人工智能技术的根本出发点在于提高人类的生活水平。因而我国发展人工智能的初心也必须从造福人民出发，以保障和改善民生为本源，推动人工智能在人们日常工作，学习和生活中的深度应用，加强在教育、医疗卫生、体育、交通、助残养老和家政服务的应用。同时要开发用于政府决策和社会治理的人工智能系统，加强社会信息资源整合，推进智慧城市建设，加强人工智能在生态领域运用，从而提高公共服务和社会治理水平。
技术的发展从来都是一把双刃剑，人工智能在给人类社会带来便利的同时也带来新的安全问题及风险。首先，人工智能自身存在诸多的内生安全问题，不论在模型与系统方面，还是在数据层面的安全漏洞都会直接影响人工智能算法的安全性。其次是人工智能的风险滥用，利用深度的伪造技术，产生不实内容，从而误导公众。第三是机器学习算法的黑箱问题，其中不可避免隐藏了歧视和偏见。当此类算法应用到需要进行风险识别和信用评估等金融和司法领域时，就可能产生不公正的决策结果。最后是人工智能可能造成的数字鸿沟问题，人工智能研究和应用需要一定的经济基础，对于一些落后的国家和地区的人们来讲，无法以均等的机会来获得人工智能技术带来的福祉。因此在发展人工智能的同时，必须高度重视可能带来的风险挑战，加强前瞻预防和约束引导，最大限度降低风险，确保人工智能安全、可靠可控发展。为了保障我国人工智能发展任务的顺利推进，我们要加强人工智能相关法律伦理和社会问题的研究，建立保障人工智能健康发展的法律法规和伦理道德框架，明确人工智能法律主体以及相关权利、义务和责任，在发展AI过程中解决伦理和安全问题。
（作者为中国科学院院士）
