AI Weekly：越来越多的专家同意必须对面部识别系统进行监管

 
周二，奥克兰成为仅次于旧金山和波士顿郊区萨默维尔的第三个美国城市，禁止当地政府部门(包括警察部门)使用面部识别。由奥克兰隐私咨询委员会编写并由市议员Rebecca Kaplan赞助的市议会通过的法令禁止该市及其工作人员获取，保留，请求，访问或使用面部识别技术或从中收集的任何信息。
奥克兰的禁令长期以来一直被期待 – 奥克兰隐私咨询委员会在上个月末批准了该法案的措辞 – 但随着人工智能专家，隐私倡导者和立法者越来越多地表达了对基本上不受监管的技术应用的担忧。
2018年9月的一份报告显示，IBM与纽约市警察局合作开发了一个系统，允许官员根据肤色，头发颜色，性别，年龄和各种面部特征搜索人物。据报道，联邦调查局和美国移民和海关执法部门正在使用面部识别软件筛选数百万张驾照照片，通常没有法院命令或搜查令。今年夏天，亚马逊将Rekognition(一种基于云的图像分析技术)播种到佛罗里达州奥兰多市和华盛顿州俄勒冈州警长办公室的执法部门。奥兰多市本周表示，由于缺乏必要的设备或带宽，它已停止其Rekognition试点。但华盛顿县使用Rekognition构建了一个应用程序，让代表通过一个拥有30万张面孔的数据库运行可疑犯罪分子的扫描照片，华盛顿邮报声称这些照片“加强了”该州的警察工作。
昨天，非营利组织倡导组织“为未来而战”发布了一张地图，突出了面部识别传播的速度。该地图列出了数十个美国机场，州和地方执法机构，州和城市，这些系统正在积极使用。
令人沮丧的是，正如专家们反复指出的那样，面部识别系统各自的准确性与部署速度之间几乎没有相关性。最近透露，伦敦大都会警察局使用的系统每次击中都会产生多达49个假匹配。在2017年众议院监督委员会面部识别技术听证会期间，美国联邦调查局承认，其用于识别犯罪嫌疑人的算法在15%的时间内是错误的。麻省理工学院媒体实验室研究员和算法正义联盟创始人Joy Buolamwini在面部识别系统的审计中发现 – 包括亚马逊，IBM，Face ++和微软制作的面部识别系统 – 他们对年轻人，女性和皮肤黝黑的人表现不佳。
有证据表明乔治敦大学隐私和技术中心的高级助理Clare Garvie以及监视计算机辅助面部识别趋势的Perpetual Lineup报告的合着者等分析师得出结论，面部识别技术可能会造成非凡的伤害。上个月，该中心发布的报告详细说明了纽约警察局使用改变的图像和看起来像嫌疑人逮捕的名人照片，以及在底特律和芝加哥使用的实时系统，并在美国其他主要城市进行了测试。
“想象一下，如果我们有指纹实验室绘制指纹或用笔画出潜在印刷品的手指脊并提交搜索，”她在5月告诉众议院监督和改革委员会。 “这将是一个丑闻，这将是一个错误或定罪被推翻的原因，而且这是一个巨大的问题。”
也许不出所料，除了采取直接禁令外，国家，州和地方各级的立法者已经推翻了不受约束的面部识别软件。 5月份美国国会众议院监督和改革委员会听证会上两党支持执法部门对系统使用的限制，马萨诸塞州和华盛顿州立法机构已经考虑暂停对面部监控平台的暂停。另外，加利福尼亚州立法机构目前正在权衡面部识别禁令的警察身体凸轮镜头，伯克利市议会也是如此。
但是要求监管机构的监管和合作并不是普遍存在的。当乔治敦大学的研究人员在2016年首次要求NYPD的面部识别记录时，他们被告知没有这样的记录存在 – 尽管该技术自2011年以来一直在使用。仅在法庭服务两年后，该机构才翻了3,700页与其面部识别软件使用相关的文件。
Garvie和其他人说，在未来的立法中，他们希望看到强制性偏见和准确性测试，法院监督，最低照片质量标准和公共审计(如旧金山已经要求的年度监督技术使用报告)。批评者还提倡反对警察使用实时面部识别以及使用面部识别软件扫描驾驶执照数据库的做法。许多人认为，如果面部识别有助于逮捕，检察官和警察应该有义务告诉嫌疑人及其律师。
这是一个冗长的清单，但Garvie认为这是负责任地部署面部识别技术所需的基线。
“我们今天看到的是，在没有监管的情况下，[面部识别]继续被使用，现在我们有更多关于它有多危险的信息，以及现有部署的先进程度，”她说道。先前的陈述。 “根据这些信息，我们认为需要暂停，直到社区有机会权衡他们希望如何进行监管，直到有非常严格的规则来指导如何使用这项技术。 ”