人工智能不要光只看其发展，还需要重视它带来的安全挑战!

　　人工智能正在改变人类生活的众多领域，人工智能和数据分析技术的快速发展，给经济、社会、治理等带来了深远影响。目前世界主要发达国家把发展人工智能作为提升国家竞争力、维护国家的重大战略，加紧出台规划和政策。力图在新一轮国际科技竞争中掌握主导权，各个经济体向智能社会奔跑的路线也不尽相同。在此背景下，如何对“一切数字化”的政策、法律和伦理后果进行思考至关重要。

　　6月12日，美国智库布鲁金斯学会召开第九届A. 阿尔弗雷德·陶布曼(A. Alfred Taubman)年度公共政策论坛“一个新时代的曙光：人工智能的机遇与挑战”。来自美国学术界、企业界、政界的专家学者，就人工智能进步展现的希望、风险，以及如何安全地从中获益展开讨论。

网络和现实安全的挑战

　　布鲁金斯学会主席约翰·R. 艾伦(John R. Allen)首先向与会专家提出一个问题：无论是在概念上还是在组织结构中，人工智能有能力给国家安全的几乎各个方面带来剧变;那么，人工智能对我们关于国家安全的思考最大改变是什么?

　　美国国土安全部高级研究项目局网络安全部副主任斯科特·图斯利(Scott Tousley)表示，人工智能无疑将给国家安全的方方面面带来巨大影响，尽管我们尚不知具体会如何发生。过去10年里，已有许多案例表明，人工智能可以同时促进网络攻击技术和网络防御技术的发展，它像其他许多新技术一样是一把“双刃剑”。人工智能或许是当前全球化世界中最具突破性的领域，美国、德国、韩国、俄罗斯、中国等都投入了大量资金，用于人工智能技术研发及相关的政策、法律问题的研究;各国不仅在技术层面上，也在社会层面上对人工智能技术进行“实验”或尝试。

　　人工智能给现实世界带来的安全挑战不容忽视，布鲁金斯学会研究员苏珊·汉尼斯(Susan Hennessey)认为，它将催生全新形式的“脆弱性”。例如，机器学习中使用的人工神经网络，在无人驾驶领域得到了广泛应用，尤其是用于图像识别，但原本无害的神经网络可能在遭受对抗样本(adversarial example)攻击后变成“杀人凶手”。关于对抗样本的一个常用举例，来自美国谷歌公司计算机科学家伊恩·J. 古德费洛(Ian J. Goodfellow)等人的一项研究：某个神经网络以57.7%的置信度将一张图片中的熊猫判断为“熊猫”，且“熊猫”类别是所有类别中置信度最高的，因此该网络得出“图片中的物体是一只熊猫”的结论。但在少量添加精心构造的噪声后，该神经网络就会以99.3%的置信度将图片中的熊猫判断为“长臂猿”，即使在人类看来图中物体依然是熊猫。此类例子表明，怀有不良意图者可通过欺骗人工智能，给世界造成巨大安全威胁。

及早设计制定治理框架

　　对于现在就建立针对人工智能的法律和政策框架，是否为时过早?来自马里兰州第6选区的美国众议院议员约翰·德拉尼(John Delaney)表示，美国政府的一大问题是不善于管理变化，由私人部门驱动的变化发生了，技术创新显然极大地改善了人们生活的各个方面，但也给特定的个人、教育系统、劳动力市场带来许多挑战，而政策制定者的职责是观察世界如何变化，然后更新基本的社会制度以便智慧地应对变化。2017年5月，德拉尼在众议院内部发起了人工智能党团会议(AI Caucus)，目的是将政府内部、学术界和私人部门的专家聚在一起，探讨人工智能技术进步带来的机遇与挑战。同年12月，德拉尼和参议院、众议院的其他几位议员共同提出了《人工智能的未来法案》，其宗旨是为人工智能技术持续发展创造一个支持环境，并指定美国商务部设立一个联邦顾问委员会，评估新兴人工智能技术带来的经济机遇，以及对美国人生活各方面产生的影响。

　　德拉尼表示，他们这么做是因为企业、学术机构、非营利机构都对人工智能的影响十分感兴趣，并且在为此做准备。而联邦政府大体上在忽视变化，继续纠缠于过去的冲突而非聚焦于最重要的未来。因此，他认为现在就要开始建立法律和政策框架，以确保人工智能继续造福于人类且使社会更加公平。他认为，人工智能无疑是一个至关重要的议题，但也非社会要应对的唯一问题，他倾向于将人工智能视为令人惊奇的技术创新的下一个演化阶段，它在多个方面改变着世界，跨越治理的各个领域和平台，所以需要开展基础性更新。

　　美国哈佛大学肯尼迪政府学院科学、技术与社会项目高级客座研究员尼古拉·米埃勒(Nicolas Miailhe)表示，思考并着手构建人工智能技术革命的治理框架，永远不会为时过早。许多人认为，人工智能在第四次工业革命中占据重要地位，而这次工业革命比前几次更具全球性、互联性，这就需要全球共同治理。近日，法国和加拿大政府发表的关于人工智能的共同声明表示，在不久的将来，人工智能将影响一切人类活动，为经济和社会创造前所未有的福祉;法加两国希望促进以人类为中心，以包容、多样化、创新、经济增长等为基础的人工智能，并强调发展对人工智能影响的预测能力和共同努力。为此法加两国呼吁，创建一个国际研究团队，在全球范围内分享关于人工智能的研究成果和最佳实践。此外，值得深思的问题还包括，人类应将哪些交给人工智能来做，以何种方式?在作出向机器“授权”的选择时，应以哪些原则和价值观为指导?

　　米埃勒对本报记者说，人工智能算法离不开海量数据的支撑，机器通过“进食”数据学习和自我优化。因此，掌握先进人工智能技术的国家，未来将在世界范围内展开对大数据市场的激烈竞争。

　　美国纽约大学信息法研究所研究员茱莉亚·波尔斯(Julia Powles)表示，人工智能技术和其他新科技一样，需要加以治理和规范。但是，人工智能领域体现出一种“力量转移”。这个领域充斥着巨额资本和“新玩家”，科技巨头企业的影响力在许多方面超过政府，治理难度相应增加。另外，代表着公共利益的行业对人工智能、大数据技术等的应用还不足，如政府享有强大的数据资源优势，但很多时候将其拱手让给具备更强计算能力的其他主体。