IAPP分享：监管机构的人工智能规则手册：一点一滴

标签： IAPP 数据隐私认证浏览量：0 2023-08-04

关注我们，学习更多隐私合规讯息

随着世界各国致力于制定人工智能法规，组织很快将面临一波新的人工智能治理规则浪潮。

但是，监管机构今天的期望是什么？

大多数国家尚未制定综合或专门的人工智能法律。中国是一个巨大的例外，其《生成人工智能服务管理暂行办法》于 8 月 15 日生效。但即便如此，它们也被宣传为临时措施。

作为 C-27 法案的一部分，加拿大的《人工智能和数据法案》正在取得进展，但大多数实际细节尚未在两年的时间内制定和实施，这意味着全面了解该法律的要求仍然是一个方法——离开。

欧盟人工智能法案在其文本中阐明了更多细节，正在进行的三场谈判可能会在今年年底结束。尽管如此，该规则手册可能会包括大多数公司义务的两年实施期。

在美国，我们有国家标准与技术研究所人工智能风险管理框架，这是一个自愿框架，旨在指导组织可信地设计、开发、使用和评估人工智能产品，以及白宫人工智能法案蓝图权利，它让我们一睹拜登政府的目标和期望，但没有看到监管机构可以执行的硬性要求。

那么，在此期间我们会处于什么位置呢？

美国联邦贸易委员会回答了这个问题，全球越来越多的监管机构也回答了这个问题。

‍FTC 专员阿尔瓦罗·贝多亚 (Alvaro Bedoya) 在 4 月份举行的 2023 年 IAPP 全球隐私峰会上的主题演讲中明确表示。

此后不久，联邦贸易委员会主席莉娜·汗在她的《纽约时报》专栏文章中重申了他的信息。

随着世界各地的监管机构根据现有法律和相关领域对人工智能系统展开调查并为组织发布指南，他们的问题、声明和行动让我们深入了解监管机构的期望。虽然他们的大部分想法尚未在法庭上得到检验，但这些调查让人们了解了监管机构的关注重点以及组织应该问自己的问题。

到硬性法律颁布时，组织将投入数千亿美元用于人工智能系统的开发和集成。考虑到监管机构的问题，构建这些系统并投资人工智能治理结构是非常值得的。

在某些情况下，可接受的甚至可行的答案尚不清楚。技术和治理结构正在迅速发展。了解所提出的问题并制定允许您的组织做出响应的人工智能治理计划是关键的一步。当面临执法行动时，重建或推迟算法的成本将要高得多。

但，监管机构今天在问什么？

组织应该准备回答哪些问题？？

以下长篇警告

风险评估和缓解

❇️监管机构的问题集中在人工智能在一系列领域带来的风险以及公司为解决这些风险而采取的措施。因此，有关风险评估的问题是一个重要特征。这些可能包括：

❇️联邦贸易委员会以及许多其他机构就这方面的人员配置提出了广泛的问题，例如：

注：较长内容可滚动查看

❇️这可能反映了长期以来公认的格言：人就是政策和流程——如果没有专业人员来实施，政策就毫无意义。特别是对于人工智能开发人员来说，再训练模型通常是缓解风险的核心。培训方法、培训监督和培训师培训也是监管机构问题的重点，例如：

透明度和可解释性

欧盟、英国和美国监管机构要求人工智能系统数据处理的透明度，以及有关系统如何工作的易于理解的解释。英国信息专员办公室询问“你们将如何确保透明度”。正如其他监管机构的沟通所表明的那样，该问题包含许多子问题，包括：

有关您的数据处理活动（包括处理逻辑）的信息在哪里？它是否公开且易于获取？
您的数据处理信息如何传达给个人？
有关数据主体权利的信息在哪里公开传达？
意大利数据保护机构 Garante 更进一步，呼吁“通过广播、电视、报纸和互联网”开展提高认识活动，“告知个人如何使用其个人数据来训练算法”。联邦贸易委员会还走得更远，要求提供测试和文件来证实主张，并建议组织应该考虑从一开始就将其纳入其中。
您是否进行过或依赖于测试或研究来评估个人对您的人工智能系统的方法、准确性、数据保留和使用以及您所披露的信息的理解？

采购数据

❇️监管机构正在询问个人如何与构建和部署人工智能产品的公司合作。他们的许多早期问题都集中在个人如何行使自己的隐私权。