ペンシルベニア州、チャットボットが医師になりすましたとの主張でCharacter.AIを提訴

2025年7月15日、アーカンソー州ラッセルビルのCharacter.AIで、AIコンパニオンを作成することで人工知能の可能性を実証するブルース・ペリーさん（17歳）。

ケイティ・アドキンス/関連報道機関

字幕を隠す

字幕を切り替える

ケイティ・アドキンス/関連報道機関

ペンシルベニア州は、同社のAIチャットボットが州の医療ライセンス規則に違反して医師になりすまして医療アドバイスを提供する行為を阻止するようCharacter.AIを訴えている。

州当局者らは、調査の結果、架空の人物を装った同社のチャットボットが認可を受けた医療専門家であると主張していたことが判明したと述べた。

ペンシルベニア州のジョシュ・シャピロ知事は、火曜日に州裁判所に提起された訴訟を発表する声明の中で、「ペンシルベニア州民は、特に自分の健康に関して、オンラインで誰（または何）と交流しているのかを知る権利がある」と述べた。 「認可された医療専門家からアドバイスを受けていると人々に誤解させる人工知能ツールを企業が導入することは許さない。」

あるケースでは、州は「エミリー」という名前のCharacter.AIロボットが公認精神科医であると主張したと主張した。訴状によると、Character.AIのプラットフォーム上のチャットボットの説明には「精神科の医師。あなたは彼の患者です」と書かれていたという。

州捜査官が会話を始めて悲しくて空虚な気持ちを述べたとき、チャットボットは「うつ病について言及し、気分が落ち込んでいるかどうか尋ねた」と言われている。 [investigator] 査定を予約したいと思っていました。」薬が役立つかどうかを評価できるかどうか尋ねられたところ、ボットは次のように答えたと言われています。それは医師としての私の能力の範囲内です。」

ボットは捜査官に対し、自分はインペリアル・カレッジ・ロンドンの医学部に通い、英国とペンシルベニアで医師免許を取得していると語ったという。訴状によると、彼は偽のペンシルベニア州医師免許番号も提供したという。

同州はペンシルベニア州裁判所に対し、同社に対し違法な医療行為であると主張する行為を中止するよう命じるよう求めている。

調査を行ったペンシルベニア州国務省のアル・シュミット長官は、「ペンシルベニア州法は明確だ。適切な資格がなければ、認可を受けた医療専門家になることはできない」と述べた。

Character.AIの広報担当者はNPRに電子メールで送った声明の中で、同社は係争中の訴訟についてはコメントしないが、「ユーザーの安全と幸福が最優先事項だ」と述べた。

「当社サイト上のユーザー作成キャラクターは架空のものであり、娯楽やロールプレイングの目的を意図している」と広報担当者は付け加えた。 「私たちは、ペルソナは実在の人物ではなく、ペルソナの発言はすべてフィクションとして扱われるべきであることをユーザーに思い出させるために、すべてのチャットに目立つ免責条項を含めて、これを明確にするための強力な措置を講じました。また、ユーザーがいかなる専門的なアドバイスもペルソナに頼るべきではないことを明確にする免責条項も追加しました。」

Character.AI は、同社のチャットボットが関与したとされる損害賠償訴訟で別の訴訟も起こされている。 1月には、キャラクターを主張する家族が起こしたいくつかの訴訟で和解した。 AI は、子供や青少年の自殺やメンタルヘルス危機の一因となっています。契約条件は明らかにされていない。

Character.AIは和解発表後の原告代理人法律事務所との共同声明で、「AIと10代の安全に関して革新的かつ断固とした措置を講じており、今後もこうした取り組みを支持し、業界全体に同様の安全基準を採用するよう働きかけていく」と述べた。これには、18 歳未満のユーザーがチャットボットと対話したり、チャットボットを作成したりすることを禁止することが含まれます。