欧盟人工智能法案将上线！-中欧人工智能大赛官网

如今，人工智能无处不在，监管环境正在发生变化，世界上第一部全面的人工智能法律即将在欧盟落地。将于 2024 年 6 月上线！

欧盟人工智能法案将在几周内生效，为生命科学组织在欧盟利用和部署人工智能带来一些关键考虑因素。这是迄今为止我们所知道的一切。

什么是欧盟人工智能法案？

《欧盟人工智能法案》是欧盟于 2021 年 4 月首次提出的监管框架，旨在管理人工智能 (AI) 技术的使用。该法案旨在确保负责任且合乎道德地使用人工智能，同时促进创新并保护基本权利。

至关重要的是，该法案旨在作为一项“横向”法规，以与现有的行业法规相联系。而且，就像 GDPR 涉及管理欧盟公民数据的非欧盟公司一样，如果人工智能提供商和开发商的技术基于欧盟、部署在欧盟或输出欧盟使用的数据，那么《欧盟人工智能法案》将适用于欧盟以外的人工智能提供商和开发商。

与 GDPR 一样，欧盟人工智能法案也颇具影响力。违反即将履行的义务的公司将面临高达 3500 万欧元的罚款，即全球年收入的 7%（以较高者为准）。

欧盟人工智能法案将人工智能系统定义为能够自主生成类似于人类行为、认知过程或智能的输出的任何软件。它涵盖了广泛的人工智能应用，包括生命科学领域的应用。

为了了解欧盟人工智能法案对生命科学公司的影响，角宿深入研究了其关键条款和要求。

对生命科学公司的影响

由于《欧盟人工智能法案》采用基于风险的方法，评估人工智能影响欧盟公民健康、安全或基本权利的能力，因此该法案对生命科学公司产生重大影响也就不足为奇了。毕竟，人工智能的生命科学应用自然属于高风险领域。

事实上，该法案确定了两类所谓的“高风险”人工智能系统：

附件二

用作受监管产品的安全组件或作为产品本身的人工智能系统。医疗设备、机械和汽车属于这一类。

附件三

独立人工智能系统。

高风险人工智能系统的开发者和部署者需要哪些操作要素？

流程

需要建立健全的质量管理体系和风险管理体系，并以数据治理和有效的隐私和安全为基础。

产品

人工智能产品需要有足够的技术文档、日志和记录的支持。准确性和网络安全需要成为产品开发的核心。

此外，欧盟人工智能法案规定了透明度义务，这意味着公司应该为用户提供有关他们正在交互的人工智能系统的清晰易懂的信息。这对于 SaMD 制造商来说尤其具有挑战性，因为他们的人工智能算法和模型非常复杂，因此很难向非专家解释其功能。

制造商应对其人工智能系统进行全面的风险评估，确保输入和输出数据的隐私和安全，并采取必要措施防止人工智能结果中的歧视或偏见。

欧盟人工智能法案还强调了人工智能系统使用中人类监督和问责的重要性。生命科学公司必须确保其人工智能系统旨在补充人类决策，而不是完全取代人类决策。

发布

欧盟人工智能法案规定，与任何其他受监管产品一样，附件二和附件三人工智能系统必须接受第三方合格评定，以衡量其安全性、准确性和稳健性。

熟悉的欧洲注册框架、CE 标志以及上市后监控和警戒也将适用。

欧盟人工智能法案何时生效？

欧盟人工智能法案于 2024 年 3 月 13 日在欧洲议会获得通过。

然后，它将在官方公报上发布，并在 20 天后上线。

由于该法案目前正在等待欧盟理事会审议，我们预计发布日期将在 2024 年 6 月的某个时间。

不要惊慌——这并不意味着欧盟人工智能法案的所有要求都会立即生效。

相反，随后将进行一种软启动。

发布 6 个月后，某些人工智能系统将被禁止。

一年后，GPAI的义务以及AI治理的首批义务将与AI法案的处罚措施一起生效。

两年后（即 2026 年中期），欧盟人工智能法案的所有规则以及我们上面提到的那些独立的、风险最高的附件 III 人工智能系统的义务都将生效。

再过一年，即 2027 年 6 月左右，附件 II 系统的义务将生效。

因此，您有足够的时间来探索《欧盟人工智能法案》的要求，并在它们应用于您的组织之前做好准备。

建议采取稳定、主动的方法，以确保您的人工智能项目能够成熟和发展，而不会在未来面临重大返工和回溯的前景。

你现在应该做什么

欧盟 MDR 的一般安全和性能要求指出“最先进的技术”是医疗软件开发和制造中应遵循的关键要素。

人工智能的旋风意味着最先进的技术正在迅速变化 – 因此在 3 年的过渡时间内保持领先地位非常重要。

了解人工智能带来的潜在新的和前所未有的风险以及如何应对它们至关重要。

正如您将测试和验证系统的方式一样，包括识别和最小化偏见、最大化稳健性和准确性以及在整个开发过程中生成透明的支持文档。

需要阅读的一些关键 ISO 标准包括：

而且，也许最重要的是：

人工智能有望彻底改变生命科学开展关键工作的方式。现在进行研究和准备工作将确保您的组织准备好通过完全合规性以及适当的基于质量和风险的流程来获得回报。

您可以及时咨询角宿Cabebe，获得最新的合规支持。

返回搜狐，查看更多

责任编辑：