欧盟提出人工智能规则以限制风险

 
欧洲联盟周三公布了监管人工智能的提案，该提案呼吁对迅速发展的技术的危险应用提出严格的规则和保障。
该报告是欧盟更广泛的数字战略的一部分，该战略旨在保持其作为技术标准全球标兵的地位。寻求进入欧洲广阔而有利可图的市场的大型科技公司，包括来自美国和中国的公司，都必须遵守任何生效的新规定。
欧盟执行委员会表示，它希望发展“可信赖人工智能的框架”。欧盟委员会主席乌尔苏拉·冯·德·莱恩(Ursula von der Leyen)下令其最高代表在12月上任100天后提出协调一致的欧洲人工智能和数据战略方法。
冯·德·莱恩在布鲁塞尔对记者说：“在必不可少的人权和利益受到威胁的情况下，我们将格外小心。” “人工智能必须为人民服务，因此人工智能必须始终遵守人民的权利。”
渴望建立“技术主权”的欧盟领导人还发布了一项战略，以解锁来自非洲大陆企业和公共部门的数据，以便可以利用它来进一步推动人工智能的创新。没有任何本土科技巨头的欧洲官员希望通过利用欧盟庞大且不断增长的大量工业数据来赶上美国和中国，他们预计这将是数字化转型的新潮。
欧盟委员会主席乌尔苏拉·冯·德·莱恩(Ursula von der Leyen)看着发明“你会说机器人吗?” 2020年2月18日，星期二，在布鲁塞尔VUB(布鲁塞尔自由大学)的AI Xperience中心。(Stephanie Lecocq，通过AP拍摄的泳池照)
他们还警告说，即将出台的《数字服务法案》将对外国科技公司施加更多的监管，这是对欧盟如何对待数字公司的彻底改革，包括可能追究其对平台上发布的非法内容的责任。最近几周，包括游说谷歌在内的一系列硅谷科技老板，包括Facebook首席执行官马克·扎克伯格，谷歌首席执行官Sundar Pichai和微软总裁布拉德·史密斯，都访问了布鲁塞尔。
内部市场专员Thierry Breton表示：“不是我们需要适应当今的平台。这是需要适应欧洲的平台。” “这就是我们在这些平台的首席执行官见我们时传达给他们的信息。”
他说，如果科技公司不能“为我们的人民构建系统，那么我们将进行监管，并准备在年底通过《数字服务法》来做到这一点。”
欧盟提出人工智能规则以限制风险
2020年2月19日，星期三，欧洲委员会主席Ursula von der Leyen离开，在布鲁塞尔欧盟总部举行的每周一次的专员公署会议上，与欧洲适应数字时代的专员Margrethe Vestager进行了会谈。将针对欧盟应对数字时代和人工智能使用挑战的战略制定计划。 (美联社照片/ Francisco Seco)
欧盟的报告称，需要针对“高风险的人工智能系统”制定明确的规则，例如招聘，医疗保健，执法或运输领域的人工智能系统，这些系统应“透明，可追溯并保证人为监督”。其他人工智能系统可能附带标签，以证明它们符合欧盟标准。
人工智能使用计算机来处理大量数据并做出决策，而无需人工输入。例如，它用于在金融市场上交易股票，或者在某些国家/地区用于扫描人群中的面孔以找到犯罪嫌疑人。
尽管可以用来改善医疗保健，提高农业效率或应对气候变化，但它也带来了风险。尚不清楚哪些数据人工智能系统可以发挥作用。例如，面部识别系统可能偏向某些社会群体。报告还说，人们也担心隐私和将技术用于犯罪目的。
监督以人为本的人工智能指导方针至关重要，因为“如果我们不信任该技术，那么任何积极的事情都将无法实现。”负责监督欧盟数字战略的执行副总裁玛格丽特•维斯塔格说。
根据提议(公开征询期至5月19日)，欧盟当局希望能够以与检查化妆品，汽车和玩具相同的方式测试和验证支持人工智能的算法所使用的数据。
该委员会说，使用无偏数据来训练高风险人工智能系统非常重要，这样它们才能避免歧视。
具体来说，可能需要AI系统使用反映性别，种族和“其他可能的被禁止歧视理由”的数据。
其他想法包括保存数据以帮助跟踪任何问题，并让AI系统清楚地说明其功能和局限性。报告称，应告知用户何时与机器而不是人机交互，而人应负责系统，并对诸如拒绝福利申请的决定拥有最终决定权。
欧盟领导人表示，他们还希望就何时允许在远程识别系统中进行面部识别展开一场辩论，该系统用于扫描人群，以检查人们的脸孔是否与数据库中的人脸相对。它被认为是该技术的“最具侵入性的形式”，除特殊情况外，在欧盟已被禁止。