《人工智能法案》被视为一项具有里程碑意义的立法，它旨在减轻在医疗、教育、边境监视和公共服务等领域使用人工智能所带来的风险，特别是在这些领域对基本权利构成最大威胁的情况下。该法案明确禁止那些被认定为“不可接受风险”的人工智能应用。
例如，法案规定“高风险”人工智能系统必须遵循严格的规则，包括实施风险缓解措施、使用高质量的数据集、提供更好的文档以及确保人类监督。大多数人工智能应用，如推荐系统和垃圾邮件过滤器，将被豁免于这些严格的规定。
《人工智能法案》是一项重要的协议，因为它为一个目前尚处于无序状态的影响力巨大的行业引入了必要的规则和执行机制。
以下是《麻省理工科技评论》的主要收获：
- 《人工智能法案》引入了重要的透明度和道德规则
科技公司常常宣称对人工智能伦理的承诺，但在具体措施上却往往缺乏实质性进展。行动往往比言辞更具说服力。在裁员潮中，负责人工智能伦理的团队通常是首当其冲的受害者。科技公司可以随时调整其人工智能伦理政策。例如，OpenAI最初作为一个“开放”的人工智能研究实验室，后来为了保护竞争优势，关闭了对其研究的公众访问。
《人工智能法案》将改变这一现状。该法案规定了具有法律约束力的规则，要求科技公司在用户与聊天机器人、生物识别系统或情感识别系统互动时进行通知。此外，法案还要求公司标记深度伪造和人工智能生成的内容，并以可检测的方式设计相关系统。这一要求超越了领先人工智能公司向白宫提出的仅开发水印等人工智能溯源工具的自愿承诺。
该法案还要求所有提供基本服务的组织，如保险和银行，进行影响评估，以了解使用人工智能系统将如何影响人们的基本权利。
- 人工智能公司仍有较大灵活性
当《人工智能法案》于2021年首次提出时，公众仍在讨论虚拟世界的相关问题。如今，在后聊天技术时代，立法者们意识到必须在监管中考虑到所谓的基础模型——这些强大的人工智能模型可以用于多种不同的目的。这引发了关于应对哪些模型进行监管的激烈讨论，以及这种监管是否会抑制创新的争论。
发表评论