人工智能监管的潮涌：加州深陷“深伪”与“大模型”的漩涡

元描述： 加州深陷“深伪”与“大模型”的漩涡，新法案管控AI生成内容，SB 1047引发争议，科技巨头与专家意见分歧，探讨AI监管的未来。

引言：

人工智能浪潮席卷全球，在带来无限可能的同時，也引发了人们对于其潜在风险的担忧。作为科技创新的先驱，加州正处于这场AI监管的中心地带，近期的一系列立法动作引人瞩目。从“深伪”内容的管控到对“大模型”的安全测试要求，加州正在努力平衡科技发展与社会责任之间的关系。然而，在政策制定过程中，科技巨头、专家学者和公众之间意见分歧，一场关于AI监管未来的辩论正在激烈上演。本文将深入探讨加州AI监管的现状与挑战，分析这些新法案的意义，并展望未来人工智能监管的趋势。

一、深陷“深伪”的泥潭：加州深伪内容监管法案

加州的AI监管之路，始于对“深伪”技术的担忧。近年来，随着“AI换脸”技术的不断发展，合成内容的逼真度不断提升，深度伪造技术被广泛应用于制造虚假新闻、传播政治谣言，甚至用于网络诈骗和个人隐私侵犯。

加州是美国人工智能的中心地带，拥有众多全球领先的AI企业，因此其深伪内容监管法案对美国乃至全球都具有重要的参考价值。加州州长Gavin Newsom近期签署的三项深伪法案，旨在严厉打击选举活动中使用AI制作和传播深度伪造内容的行为。

  • AB 2839法案：作为紧急法规立即生效，禁止恶意分发与选举相关的欺骗性深度伪造内容，旨在保护候选人的声誉，维护公众对选举结果的信心。这项法案将适用时间从选举前120天内延长至选举后60天内，进一步覆盖计票过程。

  • AB 2655法案：要求大型网络平台在选举前后对虚假内容进行识别、标记和删除。

  • AB 2355法案：规定使用AI生成或大幅更改选举广告时，应进行明确披露。

这些法案的出台，表明加州已经认识到深伪技术带来的风险，并试图通过立法手段进行有效监管。然而，深伪技术的快速发展也带来了新的挑战。

  • 技术识别困难： 深伪技术的识别技术仍然在不断发展中，现有的识别方法存在局限性，难以识别所有类型的深伪内容。

  • 监管范围模糊： 法案的适用范围和具体细则尚待完善，例如如何界定“恶意分发”、如何判断“欺骗性内容”等，都需要进一步明确。

  • 言论自由的冲突： 深伪技术的监管需要平衡言论自由和社会安全之间的关系，避免过度限制言论自由。

二、剑指“大模型”的未来：加州SB 1047法案的争议

除了针对“深伪”技术的监管，加州还将目光投向了另一个AI领域的“巨头”——“大模型”。加州州议会通过的SB 1047法案，要求对功能强大的前沿人工智能模型进行安全测试。

该法案要求开发者在构建大模型时，必须评估其是否有能力造成或实质上促成重大损害，包括制造生物武器或造成网络攻击。大模型厂商需要针对这些风险采取保护措施，如设置“终止开关”，确保在出现问题时能随时关闭。

SB 1047法案的出台，引发了科技界和学术界的激烈争议。支持者认为，该法案能够有效保证前沿人工智能系统的安全发展，使其不损害公众利益。

  • AI“教父”Geoffrey Hinton和Yoshua Bengio等科研人员认为，该法案能够有效保证前沿人工智能系统的安全发展，使其不损害公众利益。

  • 马斯克也在社交媒体上公开呼吁支持该法案。

然而，反对者则认为，该法案过度惩罚开发者，会扼杀创新，对开源社区、学术研究等造成严重损害。

  • 前美国众议院议长南希·佩洛西、“AI教母”李飞飞、Meta首席科学家Yann LeCun等知名人士和风投公司Andreessen Horowitz等大型机构都对此法案表示反对。

  • 谷歌、Meta、OpenAI等科技公司也对SB 1047法案表示反对，认为法案会减缓AI创新步伐，导致人才和企业流失。

三、AI监管的未来：平衡创新与安全

加州的AI监管法案，反映了全球范围内对于人工智能发展带来的风险和机遇的思考。在人工智能快速发展的时代，如何平衡创新与安全，已成为全球各国共同面临的挑战。

  • 联邦监管的必要性： OpenAI等科技公司认为，应由联邦政府而非各州来监管AI风险，这样才能为开发者提供清晰度和确定性，同时保障公共安全。

  • 国际合作的重要性： AI技术的发展和应用已经超越国界，需要各国加强合作，建立全球性的AI监管框架，共同应对AI带来的风险和挑战。

  • 技术伦理的引导： 除了法律法规的约束，还需要加强AI伦理的教育和研究，引导AI技术朝着安全、可控的方向发展。

四、常见问题解答

  1. 什么是“深伪”技术？

    “深伪”技术是指利用人工智能技术，合成逼真的图像、视频或音频，例如“AI换脸”、改变面部特征、生成全新人脸等。

  2. 为什么加州要针对“深伪”进行立法？

    “深伪”技术被广泛用于制造虚假新闻、传播政治谣言，甚至用于网络诈骗，因此加州政府采取立法手段进行监管，以维护社会秩序和公众利益。

  3. SB 1047法案的争议焦点是什么？

    SB 1047法案要求对大模型进行安全测试，但反对者认为该法案会扼杀创新，对开源社区、学术研究等造成严重损害。

  4. 如何平衡AI发展与安全？

    需要通过立法、技术、伦理等多方面的措施，来引导AI技术朝着安全、可控的方向发展，并建立全球性的AI监管框架。

  5. AI监管的未来趋势是什么？

    未来AI监管将更加注重技术伦理和社会责任，并更加注重国际合作，建立全球性的AI监管框架，共同应对AI带来的风险和挑战。

  6. 加州的AI监管法案对中国有什么启示？

    加州的AI监管法案为中国提供了宝贵的借鉴。中国在AI领域也面临着类似的挑战，需要加强对“深伪”技术、大模型等领域的监管，并建立健全的AI监管体系，引导AI技术健康发展。

结语：

加州的AI监管政策，展现了科技发展与社会责任之间微妙的平衡。在AI浪潮席卷全球的时代，如何制定有效的监管机制，引导AI技术朝着安全、可控的方向发展，是全球各国需要共同思考和探索的议题。未来，只有通过多方合作，才能确保人工智能技术能够真正造福人类社会，为人类带来更加美好的未来。