当人工智能越来越“聪明”，越来越像人类甚至超越人类，它会带来哪些潜在风险？当人工智能的治理变得至关重要，国际合作又存在哪些共识和挑战？当人工智能与人类的牵绊越来越深，未来，人类和人工智能会是怎样的相处模式？面对一定会到来的智能时代，人类将不得不思考这些问题，人工智能的治理也由此显得迫在眉睫。
在本期《两说》节目中，第一财经主持人张媛深度对话中国科学院自动化研究所研究员、国家新一代人工智能治理委员会委员曾毅。作为我国人工智能伦理治理领域的代表人物之一，曾毅深度参与中国国家层面AI伦理规范与治理框架的制定，还作为中国代表在国际人工智能伦理治理中贡献中国智慧与中国方案。在节目中，曾毅阐述了他对现阶段人工智能水平的判断，人工智能真正的风险所在。他提出治理和发展并不矛盾的观点，并详细回忆了在联合国磋商人工智能全球共识的细节。此外，曾毅还用中国哲学的智慧畅想了人类与人工智能和谐相处的美好愿景。
人工智能
真的可控吗？
人工智能正在人类的工作和生活中发挥越来越重要的作用，它能帮你提高工作效率、陪你聊天，它似乎变得越来越“聪明”，甚至知道怎样讨好人类、敷衍人类、模仿人类……为此，有人担心人工智能是否拥有自主意识，是否会像科幻电影中的场景那样失去控制甚至对抗人类。对此，曾毅表示现在的人工智能是用数学优化的方法得到的输出，只是行为上像人，不具备真正的理解能力。他认为，人工智能真正的风险在于它会犯很多人不会犯的错误，而人类根本不知道人工智能会以什么样的方式、在什么时候犯错。在这种情况下，人工智能如果被误用和滥用，就会给人类造成灾难
