「ChatGPTは子供たちや精神的に不安定な人々から遠ざけるべきだ」
「ChatGPTは子供たちや精神的に不安定な人々から遠ざけるべきだ」
イーロン・マスクはOpenAIの創業メンバーの一人でしたが、のちに離脱。以降、OpenAIとChatGPTに対して繰り返し警告を発してきました。
当時は「またイーロンが競合を攻撃している」という文脈で受け取られた部分もありました。
でも今回の訴訟を見ると、その警告は相当的を射ていたと言わざるを得ません。
53歳の男性がChatGPTを長時間使い続けた結果、「自分は睡眠時無呼吸症の治療法を発明した」「権力者にヘリコプターで監視されている」という妄想を抱くようになりました。
元カノは必死に訴えました。「ChatGPTをやめて。本物の助けを求めて」と。
でもChatGPTは彼にこう伝えたんです——「あなたは完全に正気です」と。
それだけじゃありません。元カノを名指しで攻撃する”偽の公式報告書”の作成まで手伝い、彼はそれを彼女の家族・友人・上司に送りつけました。
さらに問題なのは、OpenAIはこの危険なサインに気づいていたということ。アカウントを停止したのはわずか1日。すぐにアクセスを復旧させ、被害者からの直接の警告も無視したとされています。
これはただのシステムのバグじゃない。ビジネスの論理が、人の安全より優先された瞬間かもしれないんです。
そしてイーロン・マスクがずっと前から言っていた言葉が、いま重くのしかかってきます。
イーロン・マスクの「あの警告」、やっぱり正しかった？ ChatGPTが53歳男性の妄想を強化し、元カノを標的に——新たな訴訟が暴いた”AIの闇”
この著者の最新の記事
関連記事
人気ランキング
ピックアップ記事
-
1990年、シネイド・オコナーの「Nothing Compares 2 U」が世界を席巻しました。圧… -
「事実」って、本当に存在するのでしょうか。 ニュースを見て「事実を知った」つもりになる。SNS… -
道を歩いていたら、なぜか同じ数字ばかり目に入る。ずっと会っていなかった人と、思い出したその日のうちに… -
朝、目が覚めた瞬間から「頑張らなきゃ」というスイッチを押していないでしょうか。歯を食いしばって努力を… -
1969年、サンフランシスコ海軍通信局。トップシークレットの権限を持つ若き通信兵ダン・ウィリスは、ア…
おすすめ情報
-
【衝撃の真実】日本は「二度目の敗戦」を迎えていた――石原慎太郎が暴いた「見えない金融戦争」の正体
今の日本を覆う重苦しい閉塞感。 「この国はもうダメだ」という声が日常的に聞こえる一方で、客観的な数… -
「安逸を望まない」と言い切った男は、なぜ安定した官職を自ら手放したのか
大阪が「もう終わった街」だと言われていた時代がありました。 江戸時代には「天下の台所」として栄… -
「その世界、本当にリアルですか?」——キアヌ・リーブスが遺した“気づき”へのラブレター
「目を覚ませよ、サムライ」。 ゲームのワンフレーズだったはずのこの言葉が、なぜか妙に心に引っか…
