为什么我们依赖的AI无法正确获得隐私(至今)

 
尽管现在我们每天与之交互的许多数字服务中都普遍采用基于人工智能(AI)的技术，但一个经常被忽略的事实是，很少有公司实际在构建底层AI技术。
面部识别技术就是一个很好的例子，它的构建异常复杂，并且需要数百万个面部图像来训练机器学习模型。
考虑您使用的所有不同服务的所有基于面部识别的身份验证和验证组件。每个服务在提供面部识别功能时都没有重新发明轮子。相反，他们与AI技术提供商集成。一个明显的例子是集成了FaceID的iOS服务，例如，可以快速登录到您的银行帐户。不太明显的情况是，可能要求您通过将脸部图像和身份证明文件上传到云服务以进行验证来验证身份，例如，如果您要租车或开设新的在线银行帐户。
我们还越来越多地了解到政府在公共论坛中使用面部识别来识别人群中的个人的情况，但这并不是每个政府都在构建自己的面部识别技术。他们正在从AI技术供应商那里购买技术。
为什么这很重要?对于一家公司而言，依靠AI技术供应商的专业知识而不是自己尝试构建复杂的AI模型无疑是很有意义的，这很可能无法达到必要的性能水平。
重要性在于，由于这些AI服务是由一家公司构建并由许多其他公司部署的，因此满足隐私要求的责任链经常崩溃。
如果某人与建立处理其个人数据的AI技术的公司没有直接关系，那么该人有什么希望了解其个人数据的使用方式，该数据的使用方式如何影响他们以及他们如何能够控制该数据的使用?
实际发生的情况是，AI技术供应商试图告诉其客户(例如，授权该技术的公司)其技术如何工作，然后他们通过合同要求其客户提供所有必需的通知并获得人们的所有必需的同意。谁接触了AI技术。
这种模式也许是有道理的，因为它是AI行业中普遍建立的法律惯例。
但是，公司获得AI技术许可的可能性有多大
了解AI技术如何提供，构建和执行?
设法充分解释了AI技术及其如何向用户使用个人数据?
已经为用户建立了控制AI供应商如何使用其个人数据的方法?
再以人脸识别技术为例。尽管大多数人已经以某种方式使用或接触了面部识别技术，但大多数人可能不知道他们的面部图像是否被用于构建该AI技术，或者如何找到该问题的答案-甚至可能的程度。
由AI供应链的复杂性引起的这些问题需要修复。
AI技术供应商必须寻求创新的解决方案，以增强其客户的能力，然后才可以增强其用户的能力。这可以包括强大的隐私声明，在其客户端集成文档中建立隐私提醒，并为客户端引入技术方法以分别控制数据使用。
虽然这些步骤可以使公司有权向其用户提供更好的通知和控制，但AI技术供应商还应该寻找直接与用户交互的方法。这不仅意味着发布解释AI技术的隐私政策，而且更重要的是，开发一种让人们直接来AI技术供应商了解他们的数据如何被使用以及如何对其进行控制的方法。
不幸的是，这些服务贴上白色标签会阻碍透明度。白标是使技术看起来像是已建立并由提供服务的公司运营的做法。这是通常用来为消费者提供更统一和独特体验的做法。但是，当将其应用于AI技术时，会引起重大问题。
如果AI供应链不透明，那么使用此技术的人就没有机会控制其数据和隐私。 技术供应商和使用该技术的公司都必须努力解决这一问题。 这意味着要共同努力以提高透明度，也意味着给人类一个清晰的方式来控制每个公司的数据。 只有各方共同努力，才能实现我们需要在AI中看到的范式转变，在AI中人们控制自己的数字世界，而不是相反。