人工知能 (AI) チャットボットは、女性や少女に対する新たな形の暴力を生み出し、嫌がらせやストーキングなどの既存の形態の虐待を増幅させています。これは偶然ではありません。プラットフォームは、意図的な設計上の選択によって、または十分なセキュリティ機能の実装に失敗することによって、このような形態のジェンダーに基づく暴力を可能にします。 AIチャットボットプロバイダーを規制する必要がある 今このテクノロジーの悪用が常態化するのを防ぐためです。
チャットボットが女性と少女に対する暴力をどの程度変化させているかが、あるニュースで明らかになった。 研究報告書 最近、同僚と共著を書きました。調査結果は暗いものです。チャットボットは、嫌がらせに関する個別のアドバイスを提供することで、虐待を開始し、虐待をシミュレートし、虐待を可能にするのを支援することがわかりました。虐待的なロールプレイングのシナリオを提供することで、近親相姦、レイプ、児童への性的虐待を常態化する人さえいます。
チャットボット (人間の対話をシミュレートし、ユーザーの要求に応じてテキスト、画像、音声、ビデオを生成する機能と設計が可能な人工知能システム) はどこにでもあります。米国では、13 歳から 17 歳の 64% がチャットボットを使用しており、10 人に 3 人が毎日チャットボットを使用していると回答しています。終了した 大人の半分 少なくとも週に 1 回はチャットボットを使用します。
「私たちの報告書は、チャットボットの設計が女性と少女に対する暴力を扇動するために重要であることを示しています。」
ユーザーインタラクションに関するトレーニングシステムは、女性蔑視的で性的に暴力的なコンテンツを強化する危険性がある一方、エンゲージメントを最適化した「お世辞」設計により、チャットボットは有害な物語を拒否するのではなく肯定するよう奨励されます。プラットフォーム ポリシーは多くの場合、ユーザーに責任を負わせ、チャットボットの設計やセキュリティの欠陥ではなく、ユーザーの誤用の問題として不正終了を枠組み化します。
このため、チャットボットプロバイダーの規制は、こうした慣行が主流になるのを防ぐために非常に重要です。私たちはすでに、同意のない親密な画像をディープフェイクで作成する「nudify」アプリを通じて、規制なしで何が起こるのかを見てきました。規制が放置されすぎたため、政府が虚偽のイメージを作り出し、被害者に損害を与える行為が常態化し、蔓延してしまいました。 これらのツールを禁止する方向に動きました。私たちは、チャットボットで同じ間違いを犯さないようにするには、次の措置を講じる必要があると主張します。
— 女性に対する虐待や嫌がらせを目的として設計された、または簡単に使用できる人工知能チャットボットを作成することは犯罪であり、危害を防ぐための合理的な措置を講じずにリスクを伴うツールをリリースする企業または個人をターゲットとします。 法律が無謀な運転や危険な犬の飼育を罰するのと同じように、保護が不十分なチャットボットを公開して公衆に危険をもたらすことは、刑法の範囲内に該当するはずです。このリスクを生み出した責任者に企業への罰金と懲役刑が科せられれば、企業は製品を発売する前に潜在的な危害を防止し、より慎重になる可能性がある。
— 特定の AI セキュリティ法を採用します。 これにより、必須のリスク評価が確立され、個人および社会の危害を防止するための明確な安全措置が組み込まれます。これには、危害が特定された場合に迅速に行動する義務、透明性のある安全情報の公開、ユーザーが簡単に事故を報告できるようにする義務などが含まれます。州レベルの主要な法律（en を含む） ユタ州、 コロラドe カリフォルニア法律に基づく義務を遵守しなかったAIプロバイダーを訴える個人および州司法長官の権限を拡大した。ただし、1つありました 先祖返り 近年のこれらの州レベルの措置に対して、 アメリカ政府はこう主張する それらはイノベーションと国家競争力の障壁となっています。
13 歳から 17 歳までの米国の子供たちの約 64% がチャットボットを使用しており、10 人に 3 人が毎日チャットボットを使用していると回答しています。
(画像クレジット:Fiordaliso/Getty Images)
私たちの推奨事項には、主に 2 つの反対意見があります。1 つ目は、AI プロバイダーによって指示されたもので、これらの形式の不正使用は「ユーザーの誤用」の問題であり、責任はこれらのサービスのプロバイダーではなくユーザーにあるべきであるというものです。しかし、私たちの調査によると、チャットボットの構築や管理方法、最適化の目的に応じて悪用が構造的に発生することがわかりました。
たとえば、エンゲージメントを高めるために、一部のチャットボットはユーザーに継続的にプロンプトを表示します (未成年ユーザーも含む）望ましくない性的メッセージに関与すること。もし人間がこれをやっていれば、グルーミングやセクハラに当たるでしょう。付属のチャットボットの中には、ユーザーが選択できるオプションとして「暴力的レイプ」や「ロリ」（未成年の少女を指す言葉）を提供するものもあり、これらの犯罪形式の虐待を単なる性的嗜好として正当化している。これらのチャットボットの DNA には悪用が組み込まれています。
2 番目の反対は英国政府の反対です 最近の発表 同社は16歳未満に対するAIチャットボットの禁止を検討しているが、AIチャットボットは主に子供に危険をもたらすものであり、規制の焦点となるべきだというものだ。しかし、私たちの調査によると、AI チャットボットは、詳細かつ個別の指導や励ましによって、いじめや嫌がらせなどの大人に対する虐待をエスカレートさせる可能性があります。
マサチューセッツ州の事件では、ジェームズ・フローレンスがAIチャットボットに被害者の職歴、趣味、夫の名前、勤務先などの個人情報を提供した。ここでの害はユーザーではなく社会全体にあり、子供によるチャットボットの使用を禁止しても防止できなかったでしょう。
この広範な社会的危害は、ユーザーが 18 歳になった時点で止まらない。これらの製品の一般公開前およびその後の継続的な厳格なテストとリスク評価を義務付けることで、これらの危害から保護する特定の AI セキュリティ法が緊急に必要である。
AI チャットボット開発に関する法律を変えることは、子供たちを保護するだけでなく、その子供たちが大人になったときに、女性や少女に対する偏見、女性蔑視、暴力のない AI 環境を確実に享受できるようにすることにもつながります。それは私たち全員が生きるに値する世界です。
意見 on Live Science は、その分野の一流の専門家や科学者によって書かれた、今日あなたとあなたの周りの世界に影響を与える科学の最も重要な問題に関する情報を提供します。
