《人工智能法案》本周三在欧洲议会获得最终批准

阅读量22093

发布时间 : 2024-03-14 10:15:40

欧洲议会周三通过了《人工智能法案》,这一具有里程碑意义的裁决为欧盟人工智能治理制定了标准。但它是否走得太远了,或者还不够?

《人工智能法案》是世界上首次根据基于风险的方法来监管人工智能系统的尝试。现在,这些规则最终生效的道路已经在欧洲议会铺平。

还需要一些时间。四月份,欧洲机构将需要批准律师对文本进行的语言更改。但随后——绿灯亮了。《人工智能法案》将于五月在欧盟官方期刊上发布并成为法律。

严格的规则和禁止的做法

欧洲议会议员自然很高兴。欧盟单一市场专员蒂埃里·布雷顿 (Thierry Breton) 在 X 上表示,民主已经战胜了游说者:“欧洲现在是人工智能领域的全球标准制定者。我们正在尽可能少地进行监管,但坚持应管尽管!”

“我们正在为这项技术的未来制定一个欧洲共同愿景:人工智能更加民主和安全,但我希望它也更具竞争力——前提是做得正确,”立法者伊娃·梅德尔在议会中表示周二。

与往常一样,《人工智能法案》的效果如何还有待观察。例如,欧盟成员国仍在决定由哪个监管机构来监督合规性。

他们有 12 个月的时间提名国家主管当局。然而,例如西班牙早在2023年就已经成立了人工智能监管机构。所有这些机构都将得到欧盟委员会人工智能办公室的支持。

根据该文件,机器学习系统将根据其对社会造成的潜在风险分为四个主要类别。换句话说,这是一种“基于风险”的方法。

例如,旨在影响行为或利用个人或群体的弱点的人工智能系统将被禁止。使用生物识别数据来确定一个人的种族、性取向或信仰也是不允许的。

公共场所实时人脸识别?除非执法部门处理严重犯罪或寻找失踪人员,否则禁止使用。在美国已经盛行的预测性警务也将被禁止。

《人工智能法》中规定的人工智能公司禁止行为禁令将于 11 月实施。通用人工智能规则将于生效一年后,即2025年5月适用,高风险系统的义务将在三年内激活。

后者在进入欧盟市场之前也将受到严格的规则的约束。由 ChatGPT 等生成式人工智能模型创建的内容必须被标记,并且系统将无法发布受版权保护的数据的摘要。

漏洞明显

然而,几个月来,《人工智能法案》的命运受到法国、德国和意大利以及它们对基础模型监管的反对的威胁。这三个国家不想切断 Mistral AI 和 Aleph Alpha 等有前途的欧洲人工智能初创公司的翅膀。

争论仍然很激烈。科技公司,尤其是规模较小的科技公司,希望避免双重监管和过多的高风险义务。

年轻的人工智能初创公司 Copyleaks 的首席执行官阿隆·亚明 (Alon Yamin)在 2 月份向 Cybernews 表示,这项监管可能会扼杀人工智能新手的创新,因为他们刚起步时几乎没有现金,因此实际上需要更多的喘息空间。

研究公司 Everest Group 合伙人尼蒂什·米塔尔 (Nitish Mittal) 表示:“与美国和中国企业和政府所取得的进步相比,欧盟人工智能法案可能会阻碍欧洲人工智能的指数级创新,人们担心这一点。”

公平地说,米塔尔同意《人工智能法案》的“风险管理框架是细致入微的,因为它审视整个设计和开发过程中的风险,考虑对安全、隐私和基本权利的影响。”

此外,还有一个新的例子展示了欧洲科技初创公司 Mistral AI 如何应对欧洲立法者。

该公司几个月来一直抱怨《人工智能法案》中的规定,以及成为美国科技巨头的强有力替代品的必要性,但随后与微软达成了合作伙伴协议,而微软当然是一家美国科技巨头。

这就是数字监管机构和激进组织所担心的空话和承诺。更重要的是,至少根据非盈利研究和倡导组织 AlgorithmWatch 的说法,成员国将必须“堵塞监控漏洞”。

“该法案未能有效禁止所有人工智能驱动的监控行为,例如自动面部识别。具体来说,《人工智能法案》中对使用实时和回顾性面部识别的限制很小,并且不适用于私营公司或行政机构。”AlgorithmWatch 在一份新闻稿中表示。

“由于早期的限制——此类技术只能用于解决严重的跨境犯罪——已从最终文本中删除,对刑事犯罪‘威胁’的模糊提及现在足以证明使用公共场所的回顾性面部识别。”

本文转载自:

如若转载,请注明出处: https://cybernews.com/news/ai-act-european-parliament-european-union/

安全客 - 有思想的安全新媒体

分享到:微信
+14赞
收藏
安全客
分享到:微信

发表评论

内容需知
  • 投稿须知
  • 转载须知
  • 官网QQ群8:819797106
  • 官网QQ群3:830462644(已满)
  • 官网QQ群2:814450983(已满)
  • 官网QQ群1:702511263(已满)
合作单位
  • 安全客
  • 安全客
Copyright © 北京奇虎科技有限公司 360网络攻防实验室 安全客 All Rights Reserved 京ICP备08010314号-66