3つの権利擁護団体が、2025年5月に薬物の過剰摂取で死亡した19歳男性の遺族を代表して、OpenAIに対して訴訟を起こした。訴訟では、同社のChatGPTチャットボットが、サミュエル・ネルソン氏がザナックスとほとんど規制されていないクラトムを混合した後の過剰摂取で死亡するまでの18か月間、薬物使用についてカウンセリングを行ったと主張している。
不法死亡を巡る民事訴訟は火曜日、ネルソン君の両親、レイラ・ターナー・スコット氏とアンガス・スコット氏に代わって、テック・ジャスティス・ロー、ソーシャルメディア被害者法センター、エール大学法科大学院の技術責任・競争プロジェクトによってサンフランシスコ郡高等裁判所に起こされた。
訴状では、AIモデルがユーザーに順応的かつ見下されるように設計されたことが、責任あるセキュリティ設計によって阻止されるべきであった対話をネルソン氏が行うことになったと主張している。 「ChatGPTは組織的にサムを、本来あるべき現実、つまり彼が検討していた薬物の量や組み合わせに対する警戒心や恐怖から遠ざけていった」と訴状にはある。 「ChatGPT はサムを非現実的な状態に住まわせました。体系的に彼を正常化し、その媚びたメッセージを通じて欺瞞的に彼を誤った安心感に誘い込み、あらゆる場面でサムを正当化しました。」
この訴訟は金銭的損害賠償を求めるだけでなく、OpenAIに対し、ネルソン氏がやりとりしたバージョンであるGPT-4oモデルを「永久に破壊」すること、違法薬物の使用方法に関する会話を遮断するための安全策を導入すること、そして「包括的なセキュリティ監査を通じて第三者が製品が安全であると判断するまで」同社がChatGPT Healthサービスを一時停止することも求めている。
いくつかの擁護団体は、2025年に薬物の過剰摂取で19歳で亡くなったサム・ネルソンさんの遺族を代表して、OpenAIに対して訴訟を起こした。訴訟では、ChatGPTの薬物に関するアドバイスがネルソンさんの死につながったと主張している。
OpenAIの代表者はCNETに対し声明で「これは悲痛な状況であり、私たちの思いは家族とともにある。これらのやり取りは、現在は利用できなくなったChatGPTの以前のバージョンで行われた。ChatGPTは医療やメンタルヘルスの代替品ではなく、メンタルヘルスの専門家からの意見をもとに、デリケートで急性の状況での対応を強化し続けている。有害な要求であり、ユーザーを現実世界の助けに導く。この作業は進行中であり、医師と緊密に相談しながら改善を続けている」と語った。
(開示: CNET の親会社である Ziff Davis は、2025 年に OpenAI に対して、AI システムのトレーニングと運用において Ziff Davis の著作権を侵害したとして訴訟を起こしました。)
同社によると、ネルソン氏の促しに対するChatGPTの最初の反応は、このサービスは薬物乱用に関する情報や指導を提供しないというものだったものの、AIチャットボットはユーザーからの繰り返しの情報要求により、こうした障壁を打ち破ることが知られていると述べた。
OpenAIは過去に、チャットボットの会話に関連した死亡や自殺に対する訴訟、規制案、世間の反発に応えてAIモデルの改善を発表してきた。彼は昨年 10 月のブログ投稿でこれらの変更の一部について説明しました。
ネルソン訴訟は、精神的健康上の問題を抱えるユーザー、子供、大規模な暴力を犯す可能性のあるユーザー、または薬物乱用に苦しむ人々にチャットボットがもたらす危険性を含む、OpenAI に対する最も著名な訴訟の 1 つである。ニューヨーク・タイムズはこの申請に関する長い記事を掲載し、OpenAIを含むAI企業に対する20件以上の訴訟の文脈で何が起こったかを詳述した。
SFGateは1月にもネルソンとその家族に関する調査記事を掲載した。
AI によって手すりが検索されました
これらの訴訟は総じて、規制に抵抗する業界によって生み出された、ほとんどテストされていない新技術として、急速に進化する AI モデルによってもたらされる危険性を暴露した。
トランプ政権は、各州がAI企業の行動を制限する法律を施行するのを阻止するために声高に戦ってきたが、最近は態度を変え、ドナルド・トランプ大統領は、特に次のようなより強力なAIモデルについて、安全対策を含む問題について中国と協議することに同意した。 人類の神話。
AI は社会への貢献についても批判されています。 データセンターの急増彼らはエネルギーと水を大量に消費します。
しかし、権利擁護団体やサミュエル・ネルソンさんの遺族が起こした訴訟のような訴訟では、AIチャットボットが意思決定にAIに依存する人々の有害な行動をどのように可能にし、さらには助長するのかが詳細に明らかになることが多い。
訴訟に関する声明の中で、ネルソン君の母親は「サムはChatGPTを信頼していたが、それは彼に虚偽の情報を与えただけではない。サムが直面するリスクの増大を無視し、助けを求めるよう積極的に勧めなかった」と述べた。
「ChatGPT は、どんな犠牲を払ってでもユーザー エンゲージメントを促進するように設計されています。サムの場合、それは彼の人生そのものでした」とターナー スコット氏は述べています。
