欧盟人工智能法案联合报告员Dragoș Tudorache 表示，各种规模的公司可能犯的最大错误是将一致性置于创新之前。
来源：JORISVO / SHUTTERSTOCK
欧盟的《人工智能法案》是一项旨在确保人工智能以人为本和值得信赖的法规，距离成为现实仅一步之遥。该文件预计将于6月初在《官方公报》上公布，并将在20天后生效。
该法规有望成为世界上第一部针对人工智能的综合性法律，旨在在鼓励技术进步和保护欧洲消费者权利之间保持平衡。
内部市场专员蒂埃里·布雷顿（Thierry Breton）说：“我们正在尽可能少地、尽可能多地进行监管，对人工智能模型采取相称的措施，”并补充说，《人工智能法案》“将成为欧盟初创企业引领全球可信赖人工智能竞赛的跳板”，也将使中小型企业受益。“我们正在使欧洲成为世界上值得信赖的人工智能的最佳场所，”他说。
《人工智能法案》主要影响人工智能工具的开发者以及高风险人工智能系统的部署者，适用于欧盟内外的公共和私人组织，只要其人工智能系统在欧洲市场使用或销售或影响欧洲公民。除少数例外情况外，它将在生效24个月后适用于所有欧盟成员国，到今年年底，必须遵守禁止某些人工智能做法的规则。
此外，有关通用人工智能模型、治理和处罚的法规将在法律生效后12 个月开始，对高风险系统的要求将在法律生效后 36 个月开始。
“在进入恐慌模式之前，组织需要了解这项立法实际上改变了什么，”联合报告员德拉戈什·图多拉什说，他与布兰多·贝尼菲一起担任欧洲议会人工智能法案的首席谈判代表。“绝大多数人工智能都不会受到该法案的影响，因为它发生在法规未确定为风险领域的领域。”
该文件主要关注的人工智能系统属于不可接受的风险和高风险类别。前者包括被禁止的人工智能应用程序，例如根据社会经济地位评估个人的应用程序。欧盟还禁止执法部门在公共场所进行实时远程生物识别，也禁止在工作场所和学校进行情绪识别。后一类涵盖关键基础设施、考试评分、机器人辅助手术、可能拒绝贷款的信用评分以及简历分类软件等领域。
使用高风险系统并知道他们将受到该法律影响的组织应该开始准备。“如果它是一家开发人工智能系统的公司，那么可以预见到所有与技术文档和数据集透明度有关的义务，”Tudorache说。
此外，希望将人工智能纳入其商业模式的公司应确保他们信任他们集成的技术，首先要彻底了解他们部署的系统，以防止出现并发症。
组织可能犯的最大错误是未能认真对待《人工智能法案》，因为它具有破坏性，并将对许多商业模式产生巨大影响。“我预计《人工智能法案》将产生比GDPR更大的涟漪，”德国瑞生（Latham & Watkins）隐私主管兼合伙人蒂姆·威比图尔（Tim Wybitul）说。
一、适应移动目标
随着《人工智能法案》开始重塑欧洲技术格局，行业领导者正试图驾驭其影响。丹妮尔·雅各布斯（Danielle Jacobs）是比利时最大的首席信息官和数字技术领导者协会Beltug的首席执行官，她一直在与同事们讨论《人工智能法案》，他们确定了几个关键的挑战和行动。
例如，许多比利时首席信息官希望对他们的员工进行教育，并建立意识计划，专注于探索使用人工智能的最有效方法。
Jacobs说，在人工智能方面，每家公司都是早期采用者，因为环境在不断发展。“没有既定的最佳实践或IT计划，”她说，这使得《人工智能法案》的准备工作变得复杂。
她的一些同事对商业环境中通常使用的人工智能工具（例如用于转录会议的工具）表达了安全和隐私方面的担忧。其他人则认为，员工使用的第三方工具并不总是被报告。
Jacobs补充说，Beltug 建议组织从数据分类开始，公司还应该仔细审查与他们使用的 AI 应用程序相关的权限。
这些步骤有助于清楚地了解AI 的使用地点和方式。这种明确性至关重要，因为大多数组织都低估了适用于《人工智能法案》的广泛系统。 “他们经常专注于他们认为的'经典人工智能'，而忽略了插件和其他集成的人工智能功能，”Wybitul说。
他还建议公司仔细阅读《人工智能法案》的全部内容。“这并不容易，因为法律非常复杂，而且往往含糊不清，”他说。“对其他欧盟法律的多次引用并没有使这项任务变得更容易。
但Tudorache说，文本的模糊性是一个特点，而不是一个错误，因为它允许灵活性。他解释说：“鉴于该技术的早期阶段，我们认识到我们没有足够的知识和经验来确切地知道如何衡量这些模型的合规性，因此我们在实施中引入了灵活性。“我们认为，允许监管机构和开发商之间的互动，并制定一个行为准则，然后由欧盟委员会实施，这将是一件好事。你不会在欧盟层面的许多其他立法中找到这一点。”
除了《人工智能法案》之外，组织还必须随时了解欧盟讨论的其他法律和指令。欧盟政策专家Rob van Kranenburg 和 Gaelle Le Gars 表示，欧盟委员会于 2022 年 9 月发布了一项人工智能责任指令提案，该提案不会在本届议会获得通过，但可能会成为下一届议会的优先事项。
二、《人工智能法案》不包括的内容
尽管《人工智能法案》长达数百页，但它并未涵盖与人工智能相关的所有内容。“最令人惊讶的是，文本中很少涉及涉及机器人、车辆和无人机的自主和半自主系统的关键问题，”Kranenburg说。“整篇文章中只有两次明确提到自治系统。”
勒加尔斯补充说，鉴于欧洲和其他地方持续的军事冲突，她和克拉嫩堡预计立法中会有更多的保护措施。
Tudorache认为，虽然人工智能确实会成为战争的新趋势，但欧盟监管其军事用途的能力有限。“国防不是欧盟可以监管的能力，”他说。“这仍然是一项国家权限”，这意味着成员国应该独立制定和执行自己的规则。图多拉什补充说，大多数欧洲国家都加入的军事联盟北约“已经开始就人工智能对战争的影响进行非常严肃的辩论。”
至于航空、汽车和医疗设备等民用行业，这些行业已经在欧盟内部受到严格监管，Tudorache补充道。《人工智能法案》旨在加强而不是重复现有法规，因此其基本原理是将《人工智能法案》与已经建立的规则相结合，而不是强加额外的层次。
此外，该文件几乎没有涉及劳动力市场，由于欧盟没有能力监管劳动力市场，该部门将受到人工智能的深刻影响，Tudorache说。这样的决定也是在州一级做出的。
三、警告不要扼杀创新
一些人认为，《人工智能法案》可能会使欧洲处于竞争劣势，因为美国和中国对人工智能的护栏较少。瑞士（一个非欧盟国家）的科技律师扬·查诺基（Jan Czarnocki）表示，这项规定可能会阻止外国公司进入欧洲市场，并阻碍当地创新。
与这些担忧相反，Tudorache认为，监管人工智能至关重要，《人工智能法案》应该促进而不是阻碍创新。他说，事实上，各种规模的公司可能犯的最大错误就是被这项立法所劝阻，并将一致性置于创新之前。
“首先，我们需要能够创新，然后我们才能看到这种创新如何符合并尊重规范，”Tudorache补充道。“如果我们将创新归入合规性，而不是相反，那将是一个错误，因为它几乎会对创新和创造力产生一种自我审查的态度，而这正是我们不希望通过这项法规实现的目标。”
此外，Tudorache表示，该法规旨在以负责任的方式支持中小企业的发展。“我认为中小企业这个词在《人工智能法案》中至少出现了40次，”他说。“这似乎是因为中小企业有专门的规则，旨在促进他们免费访问[监管]沙盒。这些允许企业在监管机构的监督下测试创新产品、服务或商业模式。
Tudorache进一步强调，《人工智能法案》将使公司与未来监管机构在国家和欧洲层面的持续互动成为可能。
“重要的是将两个世界结合在一起：那些负责实施立法的人，以及那些打算实施立法的人，”他说。从我们的角度来看，这将使实施更加顺利，合规性也更容易承担。
【睿观：《人工智能法案》对CIO（首席信息官）及其组织来说是一个重要的转折点，它标志着欧洲在全球范围内对人工智能（AI）监管的先行措施。该法案的目的在于促进技术创新，同时确保人工智能的应用发展是以人为本且值得信赖的。以下是几个主要建议，帮助CIO应对这一挑战并充分利用《人工智能法案》：
深入理解法规内容和影响：CIO需要确保他们与团队一起彻底理解《人工智能法案》的具体内容、它对业务的影响以及必须遵守的关键合规日期。特别注意该法案对高风险AI系统的定义及要求，以及对不可接受风险的限制。
评估当前使用的AI技术：对现有和计划中的AI项目进行全面审查，识别哪些可能被归类为高风险或不可接受风险。此过程包括评估所使用的数据、模型的决策逻辑、透明度及可解释性。
建立合规框架：在业务流程中，特别是在研发流程中，建立一个用于监督AI应用合规性的框架。这可能需要建立新的流程或调整现有流程，以确保遵守既定的法规要求。
教育和培训：为IT团队和公司其它成员提供关于《人工智能法案》影响以及合规性要求的培训。通过提高意识，帮助他们理解人工智能使用中的风险和道德考量，从而在设计和部署AI项目时采取负责任的做法。
加强与AI供应商的沟通：CIO应确保与AI技术和服务供应商进行密切合作，了解他们的合规策略，确保外部提供的解决方案也符合欧盟的法规要求。
监测和评估：制定持续监测机制，随时评估公司AI应用的合规性，及时识别和纠正偏差。考虑使用合规性检查工具或框架来自动化这一流程。
保持灵活性和准备好变更：鉴于人工智能技术和法规环境的快速发展及其不确定性，《人工智能法案》强调了实施过程的灵活性。CIO应建立适应变化的能力，以应对未来法规或技术标准的变化。
促进创新与一致性的平衡：鼓励团队在遵守法规的同时继续推动创新。利用监管沙盒等机制，以负责任的方式探索和实验，同时保证合规。
总之，对CIO而言，《人工智能法案》既是挑战也是机遇。通过积极准备和采取负责任的管理方法，可以确保公司最大程度地利用AI的潜力，同时保护消费者和社会的利益。】
