ディープフェイクとジェンダー暴力

2017年、ジャーナリストのサマンサ・コールは、オープンソースの人工知能（AI）技術を利用して有名人の顔を使った自家製の同意のない性的画像やポルノを作成していた人物をRedditで発見した。この人物は自らを「ディープフェイク」と名乗っていた。

初期のディープフェイクは偽物で非現実的に見えるため、簡単に見分けることができました。しかし、このテクノロジーは非常に洗練されているため、コンピューターと人工知能について中途半端な知識があり、まともなコンピューターにアクセスできる人なら誰でも、まともなディープフェイクを簡単に作成、配布、販売できるようになりました。

ディープフェイカーがしなければならないことは、Instagram などの公開フィードでターゲットにしたい人物の写真を見つけて、非常にリアルな性的な画像やポルノを作成することだけです。

ダルハウジーのシューリッヒ法科大学院の助教授、スージー・ダン氏は、「性的自立の問題や偏見は、生まれてすぐに現実に存在する」と語る。 rabble.ca インタビュー中。

ダン氏は続けて、「今では、接触することなく、実際に非常に深刻な方法で人々に性的暴行を加えることができる人々が存在する可能性がある」と述べた。

新しい形のジェンダー暴力

性的なディープフェイクの作成自体が、性的自律性、つまり個人が干渉されることなく自分の身体とセクシュアリティについて決定する権利の侵害です。

実際の性的コンテンツであると主張しながらディープフェイクをオンラインに投稿することは、親密な画像を同意なく配布することに等しい。結果として生じる公衆被害は同じだからだ。

Sensity AI のレポート「ディープフェイクの現状 2019 年の状況、脅威、影響」によると、ディープフェイクの 96% が同意のない性的コンテンツの作成に使用されていることがわかりました。これらのディープフェイクのうち、99% は女性の画像でした。

これは新しい形のジェンダー暴力です。

「カナダだけでなく世界中で、性的ディープフェイクの害は認識されつつある。これらのディープフェイクがRedditサイトから出始めたとき、多くの人がPornhubやさまざまな場所に投稿した。すぐにPornhubを含むソーシャルメディア企業のほとんどは、その種のコンテンツは許可されていないというポリシーを作成し、我々はそれを我々の同意のないWebサイトが投稿する他の同意のない画像ルールと同じカテゴリーに置いた」とダン氏は述べた。

オーストラリア人のノエル・マーティンさんは、インターネットで彼女を見つけた何者かによって標的にされました。彼らは偽の Photoshop ポルノを作成し始め、最終的にはマーティンのディープフェイクを作成しました。

マーティン氏は、オーストラリアの非同意画像法に「改変画像」という用語を追加するなどの法改正を主張した。改変された画像を含めるということは、本物の肖像であろうとディープフェイクであろうと、本人の同意なしに性的画像を共有する者は誰でも法の対象となることを意味します。

カナダの刑法にはそのような規定はありません。したがって、性的な画像があなたの同意なしに投稿された場​​合、告発するには実際にあなたの裸体でなければなりません。

ブリティッシュ・コロンビア州、アルバータ州、サスカチュワン州、ノバスコシア州、ニューファンドランド・ラブラドール州の民事法には、損害賠償を求める訴訟の選択肢を提供する改ざんされた画像が含まれている。

この選択肢のない州や準州でも民事訴訟を起こすことはできるが、これはこの種のものとしては初めての、つまり前例となる訴訟を意味する斬新な法的議論となるだろう。

ジャーナリスト、ゲーマー、ライブビデオストリーミングサービスTwitchの利用者など、特定の女性グループがディープフェイクにされる可能性が高い。

ディープフェイクは被害者に現実的な影響を与える

「ディープフェイクがあなたの名前と関連付けられ、グーグル可能になると、人々はそれが偽物だとわかっていても、人々があなたをどのように認識するかに影響を与えます」とダン氏は説明した。

ディープフェイクは、特に労働法が弱く、そのようなコンテンツの受信者を保護しない場合に、重大な経済的影響を与える可能性があります。

その影響で女性が自己隔離されたり、精神的健康上の問題を抱えたりする可能性がある。女性はオンライン アウトレットから自分の画像を削除することができます。しかし、女性のキャリアのせいでオンラインでの活動や公の場での存在感が妨げられるケースが増えているため、こうしたイメージを取り除くという選択は、女性の収入やキャリアアップに影響を与える可能性があります。

「女性には実際に性的自主性の喪失が起きています。そして、私たちが性的自主性を失うと、人々はさまざまな反応を示すでしょう。それを単なる迷惑だと思う人もいるかもしれませんが、他の人にとっては壊滅的で人生を台無しにする可能性があります」とダン氏は語った。

しかしダン氏は、法律は進歩しており、ほとんどの法的対応は同意のないポルノの配布に対処していると述べた。

一部のポルノ サイトには、誰が投稿できるか、何を投稿できるかについてコンテンツ管理ルールが設けられています。ただし、Meta、Instagram、TikTok では、コンテンツのモデレーションに関する明確なルールはありますが、常に強制されているわけではありません。

「私がポルノについて話しているとき、私は視聴者向けに特別に作られたコンテンツについて話している。性的虐待コンテンツや画像ベースの虐待について話しているとき、これはポルノサイトに投稿されたコンテンツだが、それをポルノとして分類すべきではないと思う。これは虐待コンテンツだ」とダン氏は説明した。

画像ベースの性的虐待コンテンツをポルノ サイトにアップロードする場合、通常、年齢や同意の確認など、多くのチェック ボックスをオンにする必要があります。すべてのボックスにチェックを入れると、コンテンツが公開されます。

しかしダン氏は、ビデオを見てそれが合意に基づいたものかどうかを知ることは不可能だと指摘する。

これは依然として大きな課題の 1 つであり、ポルノ サイトの義務と、アップロードされる素材に関係者全員が同意していることを確認する方法について継続的に話し合う必要があります。

ダン氏によると、強力な倫理慣行がシステムに組み込まれていない限り、Web サイトは画像ベースの性的暴行コンテンツを簡単にアップロードできます。

法制度はテクノロジーとともに進化する必要がある

ダン氏はまた、促進される暴力が進化するにつれ、社会と法制度はテクノロジーによって促進される虐待を表現する言語を作り出す必要があるとも指摘する。分類し、それが及ぼす害を特定して対処するには、その前に名前を付ける必要があります。

現在、カナダの刑法には改変された画像は含まれていません。しかし、ダン氏は、それらを含めることで、何が犯罪で何が犯罪に違反しないかの境界線はどこにあるのかについての大きな議論が始まると言う。画像は非常にリアルである必要がありますか?この定義は、個人の性的な物語や漫画を含むように拡張されるべきでしょうか?

これらの複雑な問題は、ディープフェイクなどのテクノロジー主導のジェンダーに基づく暴力に焦点を当てた刑事制度と民事制度の両方の内部での成長を通じてのみ対処することができます。

この変更を有意義なものとするためには、ソーシャルメディア企業やポルノサイトに対する規制を強化し、性的な画像やポルノコンテンツを禁止するルールを確実に整備する必要がある。また、このコンテンツが時間内に削除されるように、このコンテンツが公開された状況に対処する方法に関するルールも必要です。

ダン氏は、インターネット上での合意に基づいた性的表現と性的虐待は区別する必要があると警告する。これは重要です。なぜなら、人々が性的虐待コンテンツを削除しようと努力しているとき、すべての性的コンテンツを削除したいと思う場合があるからです。

「性的表現のあるコンテンツは、私たちの社会において非常に重要な役割を果たしています。ですから、インターネット上で性的コンテンツが利用できる方法を改善することを考えるとき、赤ちゃんをお風呂のお湯と一緒に捨てないように注意しなければならないと思います。私たちは肉体の中でポジティブで健全な性的表現を望んでいますが、それは性的暴行とは違います。デジタル空間でもポジティブな表現ができるのと同じように。性的健康情報は大掃除に巻き込まれる可能性があります」とダン氏は語った。

トロントに本拠を置くバーブラ・シュライファー記念クリニックの弁護士でエグゼクティブディレクターのディーパ・マトゥー氏はこう語る。 rabble.ca「まだ訴訟が起こされていませんが、もし訴訟が起これば、それは困難になるでしょう。オンライン暴力は一般的に増加傾向にあり、AIが大きな役割を果たしているのは間違いありません。」

マトゥー氏は、オンラインの虐待的なコンテンツに対して、別の法的証拠基準が存在するべきではないと考えている。それが、この人に性的または精神的な嫌がらせをするという同じ意図を持って生成および作成された AI である場合。彼の評判を攻撃する。または脅迫した場合、それは犯罪であり、性的暴力とみなされるべきです。

「これは強制と統制のパターンの一部であり、より真剣に受け止められるべきである。なぜなら、この法律の意図は、テクノロジーを使用するという点で計画され、適用されたことを示しているからである。したがって、その観点から、この犯罪は他の犯罪よりもさらに真剣に受け止められるべきである」とマットー氏は述べた。

マトゥー氏は、誰かが意図的に画像を入手し、被害者に危害を加える目的で画像を性的な対象とした場合、いかなる言い訳も許されるべきではないと考えている。

マトゥー氏は、性暴力のトラウマが被害者に生涯影響を及ぼす可能性があることが科学的に証明されていると指摘する。

マトゥー氏は、刑務所制度が教育制度になることを望んでいます。なぜなら、誰かを狭い空間に閉じ込めて能力を制限するだけでは、彼らを変えるには十分ではないと彼は考えているからです。

「同意なしに何かが起こり、あなたの主体性が奪われたということだ。だから精神的ダメージはさらに深い。本当に必要なのは、こうした犯罪が起こらないよう社会を変えることだ」とマットー氏は語った。