《人工智能法案》本周三在欧洲议会获得最终批准

欧洲议会周三通过了《人工智能法案》，这一具有里程碑意义的裁决为欧盟人工智能治理制定了标准。但它是否走得太远了，或者还不够？

《人工智能法案》是世界上首次根据基于风险的方法来监管人工智能系统的尝试。现在，这些规则最终生效的道路已经在欧洲议会铺平。

还需要一些时间。四月份，欧洲机构将需要批准律师对文本进行的语言更改。但随后——绿灯亮了。《人工智能法案》将于五月在欧盟官方期刊上发布并成为法律。

严格的规则和禁止的做法

欧洲议会议员自然很高兴。欧盟单一市场专员蒂埃里·布雷顿 (Thierry Breton) 在 X 上表示，民主已经战胜了游说者：“欧洲现在是人工智能领域的全球标准制定者。我们正在尽可能少地进行监管，但坚持应管尽管！”

“我们正在为这项技术的未来制定一个欧洲共同愿景：人工智能更加民主和安全，但我希望它也更具竞争力——前提是做得正确，”立法者伊娃·梅德尔在议会中表示周二。

与往常一样，《人工智能法案》的效果如何还有待观察。例如，欧盟成员国仍在决定由哪个监管机构来监督合规性。

他们有 12 个月的时间提名国家主管当局。然而，例如西班牙早在2023年就已经成立了人工智能监管机构。所有这些机构都将得到欧盟委员会人工智能办公室的支持。

根据该文件，机器学习系统将根据其对社会造成的潜在风险分为四个主要类别。换句话说，这是一种“基于风险”的方法。

例如，旨在影响行为或利用个人或群体的弱点的人工智能系统将被禁止。使用生物识别数据来确定一个人的种族、性取向或信仰也是不允许的。

公共场所实时人脸识别？除非执法部门处理严重犯罪或寻找失踪人员，否则禁止使用。在美国已经盛行的预测性警务也将被禁止。

《人工智能法》中规定的人工智能公司禁止行为禁令将于 11 月实施。通用人工智能规则将于生效一年后，即2025年5月适用，高风险系统的义务将在三年内激活。

后者在进入欧盟市场之前也将受到严格的规则的约束。由 ChatGPT 等生成式人工智能模型创建的内容必须被标记，并且系统将无法发布受版权保护的数据的摘要。

漏洞明显

然而，几个月来，《人工智能法案》的命运受到法国、德国和意大利以及它们对基础模型监管的反对的威胁。这三个国家不想切断 Mistral AI 和 Aleph Alpha 等有前途的欧洲人工智能初创公司的翅膀。

争论仍然很激烈。科技公司，尤其是规模较小的科技公司，希望避免双重监管和过多的高风险义务。

年轻的人工智能初创公司 Copyleaks 的首席执行官阿隆·亚明 (Alon Yamin)在 2 月份向 Cybernews 表示，这项监管可能会扼杀人工智能新手的创新，因为他们刚起步时几乎没有现金，因此实际上需要更多的喘息空间。

研究公司 Everest Group 合伙人尼蒂什·米塔尔 (Nitish Mittal) 表示：“与美国和中国企业和政府所取得的进步相比，欧盟人工智能法案可能会阻碍欧洲人工智能的指数级创新，人们担心这一点。”

公平地说，米塔尔同意《人工智能法案》的“风险管理框架是细致入微的，因为它审视整个设计和开发过程中的风险，考虑对安全、隐私和基本权利的影响。”

此外，还有一个新的例子展示了欧洲科技初创公司 Mistral AI 如何应对欧洲立法者。

该公司几个月来一直抱怨《人工智能法案》中的规定，以及成为美国科技巨头的强有力替代品的必要性，但随后与微软达成了合作伙伴协议，而微软当然是一家美国科技巨头。

这就是数字监管机构和激进组织所担心的空话和承诺。更重要的是，至少根据非盈利研究和倡导组织 AlgorithmWatch 的说法，成员国将必须“堵塞监控漏洞”。

“该法案未能有效禁止所有人工智能驱动的监控行为，例如自动面部识别。具体来说，《人工智能法案》中对使用实时和回顾性面部识别的限制很小，并且不适用于私营公司或行政机构。”AlgorithmWatch 在一份新闻稿中表示。

“由于早期的限制——此类技术只能用于解决严重的跨境犯罪——已从最终文本中删除，对刑事犯罪‘威胁’的模糊提及现在足以证明使用公共场所的回顾性面部识别。”