AI威胁大于承诺吗?科技开发商与激进主义者一起呼吁采取新的保障措施

 
让达斯·维达(Darth Vader)逍遥法外比将卢克·天行者(Luke Skywalker)监禁要糟糕得多。这就是COMPAS(针对替代性制裁的更正罪犯管理分析)的哲学论点，COMPAS是全国刑事司法系统采用的犯罪累犯预测算法，涉及华盛顿技术与自由项目主管ACSHAN的Shankar Narayan。
Narayan在星期五的西雅图互动会议上使用了《星球大战》的参考资料。他说，引用来自COMPAS创作者Equivant的设计师的话，说明了允许人工智能错误地将某人锁起来的危险。
他将COMPAS描述为“误报与否定”之间的“规避风险”平衡，可能对边缘化社区造成破坏性的现实后果。
他说：“鉴于黑人社区过分代表了刑事司法，”他说，这样的工具“将导致更多的人被认为是’高风险’。”
对人工智能的此类担忧已在名为“人工智能的承诺与威胁”的小组中充分展示，在该小组中，即使是对AI的潜力感到兴奋的技术开发人员也越来越多地采用安全措施。
几乎每一种监视技术都会对边缘化和弱势社区产生不平等的影响，历史悠久
例如，HTC为其Vive虚拟现实平台提供了人体追踪技术，但选择创建了一个封闭的系统，从而不会公开共享用户数据。该公司平台策略和开发人员关系副总裁Vinay Narayan表示，这项决定使业务创新与消费者隐私之间取得了平衡。台湾消费电子制造商HTC以其智能手机和VR技术而闻名，其北美总部位于西雅图。
他说：“从技术角度来看，没有人愿意这样做，因为如果我不将所有数据都带回中央服务器，就无法快速迭代。” “我们意识到我们构建了一个非常强大的工具，尽管我们引入了许多技术保障措施，但我们不知道其他人将如何使用它。”
尽管HTC意识到自己产品的潜在滥用，但AI在越来越多的日常软件应用中的普遍性日益增强，这意味着其他公司并不那么警惕。
“大多数使用这些工具的公司最终都不是AI公司。他们是希望缩短响应时间的客户服务公司。” Shankar说(与小组成员Vinay Narayan无关)。 “您甚至可能都不知道自己正在使用AI。”
对性能不佳或有偏见的AI的一种常见应对措施是改善数据集，而Shankar Narayan则大为否认。
“技术人员和数据科学家对技术有着无限的乐观，但是从我的角度来看，实际上已经看到了权力的运作方式以及刑事司法系统中数据的偏度，似乎几乎不可能进行清洁数据集来修复您的工具，”他说。
Shankar Narayan表示，的确，用更多数据修复AI的冲动是，它激励了更多数据的收集。 ACLU官员在描述通用方法时说：“收集，收集，收集，收集-即使它远远超出了该技术的既定目的。”
这种冲动使他在所谓的智慧城市中停下来，智慧城市严重依赖监视技术来优化城市系统，例如交通流量和能源使用。他喜欢一种更平衡的方法，例如一位前波士顿市数据科学家本·格林在他的新书《聪明的足够的城市》中概述的方法。
华盛顿州的无人机和身体摄像头特遣部队士兵Shankar Narayan表示：“几乎每一种监视技术都对边缘化和弱势社区造成不成比例的影响，历史悠久。” “这就是为什么我经常被”让我们把它扔到那里看看会发生什么’的态度而感到困惑。”
这种原则性立场也与AI辅助技术正在尝试解决的现实问题相抵触。例如，本来可以允许西雅图对行人过路处的车辆进行摄像头执法的立法，以及在仅公交专用道上非法行驶的车辆，在今年的立法会议上死于委员会。
对于HTC的Vinay Narayan来说，这样的政治决定恢复为效率低下的现状，即有限数量的警察难以执行交通法规。
他说：“我们正在使用人为人工接口来实现非常大的流量。” “这是计算机视觉和AI真正可以帮助解决问题的地方。”
但是对于尚卡尔·纳拉扬（Shankar Narayan）来说，他已经看到警察和检察官从华盛顿的红灯摄影机中获取其他犯罪所需的数据，该技术的有效性却受到了广泛关注。 他说：“我们不反对使用摄像机的概念，但没有保护措施。”他说，“任务爬行的问题：一旦摄像机到位，您就想将其用于更多用途。”