ChatGPT では、状況が暗転したかどうかを確認する人を指名できるようになりました

AI チャットボットにより、想像できる限り最も重要なトピックのいくつかについて、あらゆることについて驚くほど簡単に話すことができるようになりました。そのオープンさは常に両刃の剣でした。 OpenAI は現在、事態が深刻になった場合に信頼できる人物を呼び込む新機能を使用して、この問題に対処する措置を講じています。

同社は Trusted Contact と呼ばれる新機能を展開しており、成人ユーザー向けの ChatGPT 設定に表示され始めています。これにより、ユーザーは、ChatGPT が深刻な自傷行為の懸念を検出した場合に警告を受けることができる人を指名できます。

信頼できる連絡先はどのように機能しますか?

信頼できる連絡先の設定はオプションですが、設定する場合は、名前を付けている連絡先が韓国の 18 歳または 19 歳以上であることを確認する必要があります。誰かを指名すると、その役割が実際に何を意味するのかを説明する招待状が届き、役割が公開されるまで 1 週間以内にそれを受け入れる必要があります。彼らが拒否した場合は、他の人を選ぶことができます。

警報システム自体は自動ではありません。 ChatGPT のシステムが会話に潜在的に懸念があるとフラグを立てた場合、チャットボットはまずユーザーに、信頼できる連絡先が通知を受け取る可能性があることを伝え、また、提案された会話のきっかけに直接連絡するようユーザーに促します。その後、特別な訓練を受けた人間の審査員からなる小規模なチームが介入して状況を評価します。重大なリスクが確認された場合にのみ、連絡先は電子メール、テキスト、またはアプリ内通知で通知を受け取ります。アラートでは、チャットの記録や会話の詳細は共有されません。自傷行為が潜在的に心配な方法で生じたものであるとだけ伝え、連絡先に登録を依頼してください。 OpenAI は、人間によるレビューを 1 時間以内に完了することを目指していると述べています。

OpenAI が今これを追加したのはなぜですか?

Trusted Contact は、より大きなプラットフォーム セキュリティ機能セットの一部です。以前、OpenAI は、リンクされた 10 代のアカウントに苦痛の兆候が見られたときに保護者がアラートを受信できる機能を追加しました。 Trusted Contact は、これと同じ機能を成人向けに拡張したものです。伝えられるところによると、これは臨床医、研究者、アメリカ心理学会を含むメンタルヘルス関連団体からの意見をもとに開発されたとのこと。

そうは言っても、Trusted Contact は危機ホットライン、緊急サービス、専門的なメンタルヘルスケアの代わりにはならないことは言及する価値があります。 ChatGPT は、必要に応じてユーザーをこれらのリソースに誘導し続けます。ユーザーはいつでも信頼できる連絡先を削除または変更でき、連絡先はいつでも削除できます。

実際には、OpenAI が計画したかどうかにかかわらず、ChatGPT は非常に個人的な会話に使用されています。 Trusted Contact のような機能を追加することは、正しい方向への動きであると同時に、チャットボットでできることには限界があることを認めることでもあります。