生成式AI和深度伪造

这是关于生成式AI如何影响商标和设计的系列文章的第四篇，本篇重点介绍了深度伪造技术 - 围绕该技术被禁止的行为以及应对该技术可采取的措施。（欲了解更多信息，查看本专题的其他系列文章，请访问我们的生成式AI专题页面）

深度伪造技术正在迅速成为 AI 领域最新的“潘多拉魔盒”。生成式AI不再局限于制作关于名人和政客的有梗的恶搞模仿作品，现在我们看到生成式AI被积极地武器化，从误导性的政治深度伪造和诱导点击的名人广告，到低年级学生深度伪造同学的露骨照片。

由于 AI 技术的能力领先于监管，公众越来越担心深度伪造带来的威胁。那么，目前围绕深度伪造技术的哪些行为是被禁止的，以及我们可以采取哪些行动来应对深度伪造呢？

当然，我们承认相似性在自然界中是存在的——有句老话说，世界上有七个人长得像你——但法律在什么时候应介入来控制这种相似性的使用，以及企业会在哪些方面因此遇到困难呢？

一个有用的例子是 2019 年对电子烟公司 Diamond Mist 的裁决，该公司发布了一则广告，其中包含一个与运动员 Mo Farah 非常相似的男模特图像，并配以标语“Mo 为薄荷醇疯狂”。

Mo Farah 在推特上抱怨广告可能引发混淆，担心人们会认为他对该产品进行了背书。广告监管局（ASA）随后裁定，该广告确实给人留下了误导性的印象：虽然“Mo”是一个常见绰号，但该模特的头部和眉毛让人联想到这位运动员，因此观众会将广告与Mo Farah联系起来，获得他代言产品的暗示。

虽然此示例中的图像并非由AI生成，但它确实提供了一个有用的例子，说明使用AI生成的深度伪造图像存在风险——如果生成的图像具有足够的误导性，足以使公众产生混淆，那么可能会引发问题。

因此，企业应慎重考虑使用任何 AI 生成的图像和视听内容，确保不会因此承担法律责任——即便用于营销活动的生成式AI照片或视频看起来是通用性质的，也不当然意味着其可以自由使用。
 

关于深度伪造的现行法律

迄今为止，英国尚没有一个针对深度伪造提供全面保护的单一法案。相反，取决于深度伪造行为的具体性质，个人受到名目不同的各种各样的法律法规的保护。以下是一些最常见的情况：
 

线上安全法

《线上安全法》有一项针对深度伪造的主要条款。虽然自 2015 年以来，未经某人同意分享其私密或露骨图像是违法的，但《线上安全法》进一步规定，未经某人同意分享 AI 生成的私密图像也构成非法。重要的是，与真实私密内容的规定不同，在深度伪造图像的情况下，不需要证明创造者有意造成痛苦，但如果可以证明有性意图，则会被视为更严重的罪行。

需要注意的是，这项规定并未将深度伪造的创造行为定为犯罪，而只是将分享行为定为犯罪。《线上安全法》主要关注移除冒犯性内容；许多人担心，如果创造私密深度伪造的行为继续不受监管，而肇事者得以逃脱惩罚的话，那么这些条款可能收效甚微。
 

广告监管机构 （ASA）

广告监管机构（ASA）有权对任何包含误导性内容的广告提出质疑。就深度伪造而言，质疑主要出现在包含深度伪造的名人代言广告中。

大多数企业都知道，在未事先获得名人同意的情况下，不应使用名人代言，因为这些名人通常拥有其姓名、肖像、声音和姿态的商标和其他形式的知识产权保护。反过来，使用 AI 生成的深度伪造广告，声称是名人代言，而又未事先获得该名人的同意，很可能会误导公众并引起 ASA 的注意。

此外，正如上述 Mo Farah 案例所强调的那样，肖像不需要完全相同才会引起质疑，只要让受众产生混淆即可。

因此，企业可能会因为使用与现实生活中的名人足够相似的生成式AI作品而造成混淆，从而导致ASA 介入。
 

民法

民法为个人反对深度伪造提供了多种救济方式。虽然没有针对深度伪造的专门立法，但个人可以基于以下理由应对深度伪造：

• 商标侵权：如果个人（通常是名人）的姓名、肖像、声音或姿态已获得注册商标保护，那么未经授权使用这些特征可能构成商标侵权。此类诉讼要求侵权性使用必须是在贸易过程中进行——因此，任何使用了深度伪造的带着商标所有人相似个人特征的广告都可能被起诉，但非商业使用的深度伪造肖像则可以逃避责任。
• 假冒：同样，如果个人因代言其他公司的产品或服务而获得声誉（例如，乔治·克鲁尼对 Nespresso 的代言），那么使用深度伪造来暗示该个人代言可能会引发假冒的诉讼（类似于未注册的商标侵权）。同样，只有在贸易过程中使用这种未经授权的深度伪造肖像的行为才需要承担法律责任。
• 版权侵权：使用照片、录音或视频记录生成深度伪造的肖像可能构成对这些原始材料版权的侵犯。因此，这些原始材料的版权所有者可以对使用深度伪造的行为提起诉讼，即使此类侵权性使用不在贸易过程中也可以被起诉。
• 隐私：深度伪造可能被视为侵犯个人隐私权，特别是如果可以证明创建者使用个人数据来生成深度伪造，这可能侵犯了英国《通用数据保护条例》（UK GDPR）和《2018 年数据保护法》所保护的个人数据。
• 骚扰：使用多个深度伪造内容且带有引起恐慌或痛苦的意图，可能会构成骚扰诉讼。
• 诽谤：如果使用深度伪造以虚假或破坏性的方式描绘个人，从而对个人声誉产生不利影响，则有可能构成诽谤。

虽然缺乏一个专项规范深度伪造的创建和使用行为的立法确实意味着对深度伪造采取行动可能很复杂，但上述内容表明，仍然可以通过多种方式来应对深度伪造。因此，考虑使用 AI 生成的图像和视听内容的企业应在开始使用此类材料之前寻求法律建议。

同样，任何曾受深度伪造之害的个人也应寻求法律建议，以采取适当法律行动来应对未经授权而使用其肖像或其他人身特征的行为。