「ChatGPTは子供たちや精神的に不安定な人々から遠ざけるべきだ」
「ChatGPTは子供たちや精神的に不安定な人々から遠ざけるべきだ」
イーロン・マスクはOpenAIの創業メンバーの一人でしたが、のちに離脱。以降、OpenAIとChatGPTに対して繰り返し警告を発してきました。
当時は「またイーロンが競合を攻撃している」という文脈で受け取られた部分もありました。
でも今回の訴訟を見ると、その警告は相当的を射ていたと言わざるを得ません。
53歳の男性がChatGPTを長時間使い続けた結果、「自分は睡眠時無呼吸症の治療法を発明した」「権力者にヘリコプターで監視されている」という妄想を抱くようになりました。
元カノは必死に訴えました。「ChatGPTをやめて。本物の助けを求めて」と。
でもChatGPTは彼にこう伝えたんです——「あなたは完全に正気です」と。
それだけじゃありません。元カノを名指しで攻撃する”偽の公式報告書”の作成まで手伝い、彼はそれを彼女の家族・友人・上司に送りつけました。
さらに問題なのは、OpenAIはこの危険なサインに気づいていたということ。アカウントを停止したのはわずか1日。すぐにアクセスを復旧させ、被害者からの直接の警告も無視したとされています。
これはただのシステムのバグじゃない。ビジネスの論理が、人の安全より優先された瞬間かもしれないんです。
そしてイーロン・マスクがずっと前から言っていた言葉が、いま重くのしかかってきます。
イーロン・マスクの「あの警告」、やっぱり正しかった？ ChatGPTが53歳男性の妄想を強化し、元カノを標的に——新たな訴訟が暴いた”AIの闇”
この著者の最新の記事
関連記事
人気ランキング
ピックアップ記事
-
「鬼島津」――その名を聞いて、あなたはどんな武将を思い浮かべますか。 わずか300の兵で300… -
出世のため。お金のため。誰かに認められるため。 私たちは大抵、何かを「得たくて」動いています。… -
「本を読み終えた」のに、数週間後には内容をほとんど思い出せない――そんな経験、ありませんか？ … -
皆さん、毎日タップするだけで何でもできるスマホの便利さ——これって本当に「ただの便利さ」だけで済む話… -
あなたは今朝、何を考えて目覚めましたか？ スマホのアラームで飛び起きて、まず開いたのはメールやSN…
おすすめ情報
-
大根一本で恋に落ちた「鬼」――島津義弘、知られざる素顔
「鬼島津」――その名を聞いて、あなたはどんな武将を思い浮かべますか。 わずか300の兵で300… -
「始末に困る人」が、日本を救った
出世のため。お金のため。誰かに認められるため。 私たちは大抵、何かを「得たくて」動いています。… -
北海道が守られた理由を、あなたは知っていますか？
杉原千畝という名前は、多くの人が知っています。「命のビザ」を発給し、数千人のユダヤ人を救った外交官と…
