生成AIとディープフェイク

AIの最新の「パンドラの箱」として、ディープフェイクのテクノロジーが急速に台頭しています。もはや著名人や政治家のミーム（ネタ的なキャラクタ）をパロディで制作する域を超えて、誤解を招くような政治的ディープフェイクや、著名人の画像によるクリック詐欺的な広告にとどまらず、児童のクラスメイトの露骨な表現を含むディープフェイク画像まで、生成AIの武器化が顕著になっている状況を目の当たりにしています。

AIテクノロジーの可能性に法的規制が追いつかないために、ディープフェイクがもたらす脅威に対する公衆の懸念も増大しています。その中で、ディープフェイクのテクノロジーに関してどのような行為が現在では禁止されており、ディープフェイクに対抗するためにどのような措置を講じることができるのでしょうか。

「世界には似た人が7人いる」という古い諺があるように、自然界に「似たもの」が存在しているのは当然ですが、法律はどのタイミングで、このように「似たもの」の利用の規制に踏み込むのでしょうか。更に、その結果としてビジネス活動がどのような問題に直面するのでしょうか。

そのわかりやすい例として、電子タバコ会社であるDiamond Mistに対する2019年の判決が挙げられます。この会社はスポーツ選手のモハメド・ファラー（モー・ファラー）に酷似した男性モデルの画像による広告を出し、そこに「モーはメンソールにハマってる（Mo’s mad for menthol）」というキャッチフレーズを添えたのです。

モー・ファラーはツイッターで、人々は自分がこの製品を推奨しているものと混同するおそれがあると訴えました。その後に英国広告基準局（ASA）は、この広告が実際に誤解を招くような印象を与えていたと判断しました。「モー」は普通のあだ名ですが、広告モデルの頭部と眉毛はこの運動選手を彷彿とさせるもので、視聴者はこの広告とモー・ファラーとを結びつけ、彼がこの製品を推奨しているものと暗示させるおそれがありました。

この事例における画像はAIが生成したものではありませんが、実際のところAIが生成したディープフェイク画像の使用による危険性を大いに物語っています。生成された画像が十分に誤解を招く内容であり、それによって公衆が混同する場合には、問題が発生するでしょう。

したがって企業は、すべてのAI生成画像及び音響映像コンテンツについて、その採用を慎重に検討し、自社の法的責任が問われないことを確認すべきです。宣伝用に生成AIの写真や動画を選んだ理由が「一見して普通のものと思われたから」だけでは、それが利用可能であることを必ずしも意味するわけではありません。

ディープフェイクに関する現在の法律

現時点で英国には、ディープフェイクに対抗する包括的な保護を規定する法制度がまったく存在していません。それに代えて、ディープフェイクの性質に応じてさまざまな法律及び規則を組み合わせることによって個人の権利を保護しています。ここでは、その中で最も一般的な法律について説明していきます。

オンライン安全法（Online Safety Act）

英国のオンライン安全法はディープフェイクに対抗する主要規定のひとつです。2015年以降、他人の親密な関係又は露骨な表現を含む画像を無断で共有することは違法とされていますが、オンライン安全法はこの規制を強化するものであり、AIが生成したこれらの親密関係の画像を無断で共有することも違法としています。現実世界におけるこのような親密関係のコンテンツに対する判断との決定的な違いとして、ディープフェイク画像の場合、創作者が他人に苦痛を与える意図を有していたことを証明する必要はありません。ただし性的な意図が証明された場合には、更に重大な犯罪とみなされます。

ここで重要な点として、この法律は露骨な画像のディープフェイクの創作（クリエイション）を犯罪として扱うのではなく、その共有（シェアリング）だけを犯罪として扱っていることに注意すべきです。またオンライン安全法は、主として違法コンテンツの削除に注目した規定です。したがって多くの人たちは、親密関係のディープフェイク画像の創作が依然として規制の対象外であり、その制作者たちは罰則を免れていることから、結果的にこの規定は効果がないのでは、と懸念しています。

広告基準局（Advertising Standards Agency：ASA）

ASAは誤解を招くような内容を含む広告を取り締まる権限を有しています。これはディープフェイクの場合、たとえばディープフェイクの著名人が推奨している画像など、誤解を招くような広告が該当します。

著名人は自身の氏名、肖像、音声、仕草などを保護するための商標及びその他の知的財産を所有していることが一般的なので、ビジネス関係者の多くは、その著名人から最初に許可を得ない限り、その著名人が推奨している画像を使用できないことを知っています。ここでAIが生成したディープフェイクの広告を使用して、著名人が推奨していると宣伝する一方で、その著名人から事前に承諾を得ていなかった場合には、公衆の誤解を招き、更にASAから目を付けられる可能性が十分にあります。

また上述したモー・ファラーの事例でも明らかなように、異議を唱えるためには肖像が本人と同一である必要はなく、視聴者を混同させるだけで十分です。

したがって、実在の著名人と十分に似ている生成AI出力画像を使用することによって混同を生じさせた場合、その企業はASAの規定違反に該当する危険性があります。

民法の規定

民法には、個人がディープフェイクの使用に対抗するためのいくつかの方法が規定されています。ディープフェイクを具体的に取り扱う法律規定は存在していませんが、次の手段によって個人の権利を守ることができます。

・   商標権侵害：個人（一般的には著名人）が自身の氏名、肖像、音声、仕草などを保護するために商標登録を取得した場合、これらの特徴の無断使用は商標権侵害となる可能性があります。これに基づき提訴する場合には、このような侵害行為が取引過程で行われていることが要件とされます。すなわち、商標権者のディープフェイク肖像を使用した広告であれば提訴可能ですが、ディープフェイク肖像の非商業的使用については法的責任が問われないことも考えられます。

・   詐称通用：ある個人が、他の企業の製品又はサービスを推奨しているという評判が確立している場合には（たとえば俳優のジョージ・クルーニーによる、ネスプレッソ・コーヒーの推奨）、その個人による推奨を示唆するようなディープフェイクの使用によって、（未登録商標の権利侵害に類似した）詐称通用に基づく法的請求が引き起こされる可能性があります。ここでも同様に、法的責任を追及するためには、ディープフェイク肖像の無断使用が取引過程で行われている必要があります。

・ 著作権侵害：ディープフェイク肖像の生成過程において、写真、音声記録、動画記録などを使用している場合には、それらのオリジナル素材に存在している著作権の侵害となるおそれがあります。したがって、これらのオリジナル素材の著作権者であれば、そのディープフェイクの使用が取引過程で行われていなかった場合であっても、その侵害使用に対して訴訟の提起が可能です。

・   プライバシー権侵害：特に、創作者が個人データを使用してディープフェイクを創作したことを証明可能である場合、これは英国の一般データ保護規則（GDPR）及び2018年データ保護法に基づき保護されていることから、このようなディープフェイクは個人のプライバシー権の侵害とみなされる可能性があります。

・   ハラスメント：不安又は苦痛を与えることを意図して複数のディープフェイクを使用した場合には、ハラスメント訴訟の根拠となり得ます。

・   名誉毀損：ディープフェイクの使用が、個人を虚偽的又は有害な方法で描写するものであり、その個人の評判に悪影響を与える場合には、名誉毀損訴訟の対象とされる可能性があります。

ディープフェイクの創作及び使用を管理する法制度がまったく存在していないとはいえ、ディープフェイクに対する訴訟が複雑になるわけではなく、ここまで述べてきたように、ディープフェイクに対抗するためのさまざまな方法が存在しています。したがってビジネス活動においてAIが生成した画像や音響映像コンテンツの使用を検討している場合には、その素材の使用を開始する前に、法的アドバイスを受けることをお勧めします。それと同様に、個人的にディープフェイクの対象とされている場合には、自身の肖像又はその他の属性の無断使用に対して何らかの法的措置を講じるのが適切であるのかについて、法的アドバイスを受けることをお勧めします。