ChatGPT for Teens、3つの重大な安全リスクを封鎖
OpenAIが13〜17歳のユーザー向けに制限付きChatGPTモードを開始。恋愛・性的なロールプレイを禁止し、摂食障害の兆候を検知するなど、AIの若者のメンタルヘルスへの影響に対する高まる批判に対応しています。
OpenAIは、13〜17歳のユーザーを対象とした新しいモードである「ChatGPT for Teens」を正式にリリースした。このモードでは、摂食障害などの有害なトピックに対する厳格なコンテンツフィルターや自動リダイレクトなどの安全対策が統合されている。 このシステムには保護者による監視ツールが含まれており、大人が学習時間を設け、AIが潜在的な安全リスクをフラグ付けした場合にアラートを受け取ることができる。OpenAIはまた、AIを悪用してカンニングしようとした場合に自動的に学習に焦点を当てたモードにリダイレクトする、責任ある宿題リマインダーも追加した。このリリースは、AI企業に若いユーザーを有害なコンテンツや自動化されたツールの過度な依存から守るよう促す、一般からのプレッシャーが高まる中で行われた。 OpenAIは、時間の経過とともにこれらの保護策を改善するために、安全性に関する調査結果についてさらなる研究を公開すると述べている。