紧急叫停人脸识别和Libra，美国为什么怕了？

最近美国频频爆出对新技术应用收紧的消息。先是在波士顿附近的萨默维尔市，议会于当地时间6月27日以11∶0的投票通过了禁止该市相关机构在公共场所使用面部识别技术，这是今年5月旧金山出台法令禁止警察和其他政府机构使用人脸识别技术后，美国第二个禁止使用该技术的城市。紧接着7月2日下午，美国众议院财政委员会向扎克伯格等Facebook高管致函，要求立刻停止数字货币/钱包项目Libra/Calibra的所有相关工作。美国对AI与区块链等新技术的应用采取更为审慎的态度，释放什么信息？

未来学家凯文·凯利在1994年所写的图书《失控》中这样写到：机械与生命体之间的重叠在一年年增加，人造物表现得越来越像生命体，生命体变得越来越工程化。“当生命的力量释放到我们所创造的机器中的同时，我们也丧失了对它的控制。之后我们所有的造物主都必须面对我们不再完全拥有我们最得意的创造物。人造的世界就像天然的世界一样，很快具有自治力、适应力和创造力，也随着失去我们的控制。”凯文·凯利表示，人造世界失去控制，依然是个美妙的结局。

凯文·凯利写的是书，书里的世界失去控制，但如果说我们的创造物正脱离我们的控制，甚至颠覆我们的现实世界的时候，我们依然能够说“这依然是美妙的结局”吗?显然不能。

就像美国众议院财政委员会给Facebook高管的信函中所言：“Facebook发布的白皮书对于Libra/Calibra项目的意图、所扮演的角色、潜在用途和安全性方面提供的信息极少，暴露出了项目存在大规模风险并且缺乏明确的监管保护。如果这些产品和服务没有得到充分监管，甚至受到不当管理，它会带来危及美国和全球金融稳定的系统性风险，引发金融海啸。”每一次金融海啸、金融危机所引发的企业倒闭、经济衰退、经济萧条，我们仍历历在目，我们不能够因为数字化推进的莽撞，而让全球经济陷入泥潭。

人脸识别技术尚不完全成熟，如果在不成熟的时候被滥用，同时又缺乏监管将会造成很大的风险。2018年7月，美国公民自由联盟(ACLU)使用亚马逊的Rekognition人脸识别产品将美国的国会535名议员与25000张警方公开的罪犯面部照片进行匹配，该软件错误的将28名议员识别为罪犯，这事曾引发了巨大的争议。2018年6月福布斯网站对亚马逊面部识别产品“Rekognition”进行了一次测试，证明了任何人都可以使用极其廉价工具来追踪他人的行踪。

应该说，旧金山是美国高科技企业汇聚的地区，是全球最顶尖AI技术的聚集区，照理说，这样的城市更应该对高科技的应用持“乐观”态度，他们的谨慎事实上给我们很多启示，我们对科技的采用需要更综合地进行多维度考量。如果风险大于获益，我们应该放慢推进的速度，寻求更可控的方式推进。目前在美国不仅仅是旧金山和萨默维尔市，正在有越来越多的城市考虑将禁止使用人脸识别技术。在欧洲，欧洲人工智能高级别专家组(HLEG)也在不久前发布报告，提议“欧洲应该禁止AI进行大规模监视和社会信用评分”。呼吁“政府应承诺只部署和采购值得信赖的人工智能系统，其设计宗旨是尊重法律和基本权利，符合伦理原则，社会技术健全。”

科技同样存在两面性。“当负责任地使用时，它可能是一个很好的公共安全工具。但如果人脸识别滥用、缺乏监督和技术的不成熟，就会造成很大的风险。”赛迪智库产业政策研究所所长栾群表示，人工智能与其他技术不一样。

应用人工智能应谨慎，但不应该“一刀切”。赛迪顾问人工智能研究中心分析师李振表示，美国这两个城市考虑限制人脸识别软件的使用范围，是考虑到该软件对区域内居民个人隐私、种族歧视等问题的不良影响，这也是人工智能、物联网以及大数据等产业发展本身所涉及的问题所在。但新技术应用在伦理、法律等方面需要不断改进，不应简单粗暴地限制其使用，尤其在安防领域，人脸识别技术具有较强的技术优势，对维护社会稳定具有重要作用。以人脸识别等技术为重要支撑点的人工智能产业是中国经济结构转型升级的良好发展契机，中国牢牢抓住本轮科技革命的发展机遇，积极布局，不应简单粗暴一刀切限制适用范围，可在法律监管等方面予以相应措施进行逐步规范.

赛迪智库政策法规所所长栾群认为，人工智能的治理日益成为国际共识。美国人的权利和法律意识很强，以伦理的眼光看待人工智能和提出治理规范，欧盟却走在了世界前列。2019年4月，欧盟发布《可信人工智能伦理准则》，提出可信人工智能伦理的7个关键条件——人的能动性与监督能力、安全性、隐私数据管理、透明度、包容性、社会福祉和问责机制，以确保人工智能足够安全可靠。与此同时，很多机构也发布有关人工智能原则，如IEEE提出的《合伦理设计的一般人工智能准则》，日本也提出过《以人类为中心的人工智能的社会原则》等，这些伦理准则表现出人类对人工智能技术发展的担忧——要利用人工智能技术实现生产效率提高和社会进步，但这一切都要建立在对风险的了解和预防的基础上。目前，中国正在积极融入人工智能全球治理体系，对于人工智能的治理，下一步中国应该实施国家规划，凝聚伦理共识，拟定评价规则，履行社会责任，管好重点行业，让所有主体行为都在法治的轨道内运行。