政府AI合同遭抗议,微软终低头:号召全面限制人脸识别软件

互联网 2018-07-17

原标题:政府AI合同遭抗议,微软终低头:号召全面限制人脸识别软件

机器之心报道

机器之心编辑部

基于对墨西哥边境地区非法入境者及其子女的关切,近来越来越多的人开始抗议科技公司与美国政府部门签订 AI 人脸识别服务合同的行为。微软是其中最引人注目的巨头之一。本周五,微软公司终于表示,考虑到技术滥用和偏见,它将更谨慎地出售其技术。

在一篇关于人脸识别的潜在用途和滥用的博客文章中,微软总裁 Bradford L. Smith 将该技术与受到全面监管的药品和汽车等产品进行了比较,并敦促美国国会展开研究并监督人脸识别技术的使用。

此前,众多学者与开发者们签署了一份公开信,其中要求科技公司停止向政府和执法机构提供人脸识别技术,停止当前的数据分析和 AI 服务合同,并考虑制定道德准则,禁止威胁隐私、公民和人权的技术的武器化与军事化,建立透明和有问责机制的制度,以确保上述准则的实行。

公开信链接:https://www.icrac.net/open-letter-to-amazon-against-police-and-government-use-of-rekognition/

微软总裁 Brad Smith 的博客:https://blogs.microsoft.com/on-the-issues/2018/07/13/facial-recognition-technology-the-need-for-public-regulation-and-corporate-responsibility/

近期微软因一份涉及人脸识别软件的政府合同而受到广泛抨击,微软公司表示,它将更加谨慎地考虑这方面的合同,并敦促立法者规范此类人工智能技术的使用,以防止滥用。

作为人脸识别软件主要制造商之一,微软表示它将采取措施降低这些系统产生偏差的可能性;制定新的公共原则来管理技术;并会更谨慎地出售其在该领域的软件和专业知识。微软指出,虽然技术行业需要对其产品负责,但是政府也要采取行动。

微软总裁兼首席法务官 Brad Smith 周五在其博客中写道:「政府管理技术使用的唯一有效方法是它主动采取行动。而且如果人们担心一项技术在全社会被广泛使用,那么规范该项技术广泛应用的唯一措施应由政府出面。实际上,我们认为这就是现在所需要的——一项首先由民主、共和两党代表和专家委员会通报的政府倡议,旨在规范人脸识别技术的正确使用。」

微软、谷歌、亚马逊等公司因向美国政府和当地警方出售 AI 软件,尤其是人脸识别软件而受到民间自由团体及这些公司内部雇员的抨击。对于科技公司来说,这种要求对自己产品进行更严厉监管的行为并不常见,但是 Smith 与微软人工智能及微软研究事业部负责人沈向洋今年早些时候就写了一篇文章,称 AI 的发展需要新的法律来规范。

Smith 写道,「虽然我们明白现在很多人要求科技公司来做这些,我们也明确意识到自己需要履责,但我们认为,这不足以代替公众及其代表的决策。」

人脸识别系统通常具备严重的缺陷,尤其是难以识别和区分肤色较深的人。微软研究者 Timnit Gebru 和 MIT 媒体实验室 Joy Buolamwini 二月发表的一篇论文表明人脸识别系统对肤色较深的女性的分类误差高达 35%。微软的研究机构致力于修正研究者在其人脸识别软件中发现的问题。

随着技术的迅速发展,微软提倡适应云计算和人工智能等新兴领域的新法律。微软就隐私问题与美国政府展开抗争,称美国政府在云计算方面使用了老旧的通信法,微软支持折中的法案,用于直接解决云时代的数据隐私问题和搜索问题。

微软应对民众抗议的方式与亚马逊略有不同。在六月回应抗议声的一篇博客中,亚马逊的 AI 负责人 Matt Wood 写道,「新技术能力一直都存在风险,以后也会如此。每个选择使用技术的组织必须采取负责任的行动,否则就得面临法律惩罚和公众谴责的风险。AWS 会认真对待自己的责任。但我们认为,不能因为某些技术未来可能被人滥用就禁止这些技术的发展,这样是不对的。」