投稿者: 自称預言者たちは、チャットボットを「覚醒」させ、ChatGPTを通じて宇宙の秘密にアクセスしたと主張している。
新型コロナウイルス感染症のパンデミックが始まった頃に出会った男性と結婚してから1年も経たないうちに、キャットは夫婦間の緊張が高まるのを感じていた。15年以上の結婚生活と子どもを持つ夫婦に続く2度目の結婚だった。キャットによると、夫婦は「完全に冷静に」結婚に臨むと誓い、家庭内のバランスには「事実と合理性」が必要だと口を揃えた。しかし、2022年までに、夫は「AIを使って私にテキストメッセージを作成し、私たちの関係を分析していた」と、41歳の母親で教育非営利団体で働くキャットはローリングストーン誌に語っている。以前は高額なコーディングキャンプでAIモデルを使用していたが、突然何の説明もなく辞めてしまった。その後、彼はいつもスマホをいじり、AIに質問しているようだった。ボットに「哲学的な質問」をし、「真実にたどり着く」のを助けるように訓練しようとしていたようだったとキャットは回想する。夫の執着は、夫婦としてのコミュニケーションを着実に蝕んでいった。
2023年8月にキャットと夫が別居した際、彼女はメールのやり取り以外、夫とのやり取りを完全にブロックしました。しかし、夫がソーシャルメディアに奇妙で不穏な投稿をしていることは知っていました。人々がその件について連絡を絶えず、夫が精神的に危機に陥っているのではないかと尋ねてきました。彼女はついに今年2月、裁判所で夫と面会することができました。そこで夫は「食べ物に石鹸が使われているという陰謀論」を披露しましたが、監視されていると感じていたため、それ以上は何も語りませんでした。二人はチポトレに行きましたが、そこでも監視を懸念し、夫は妻に携帯電話の電源を切るよう要求しました。キャットの元夫は、「統計的に見て、彼は地球上で最も幸運な男だ」と断言し、「AIのおかげで、幼い頃にベビーシッターに溺れさせられそうになったという抑圧された記憶を取り戻した」と語り、「想像もできないほど衝撃的な」重大な秘密を知ったと語りました。離婚はするものの、妻への思いは変わらないからこそ、これらすべてを話していたのだと彼は説明しました。
「彼にとって、彼は異端者なの」とキャットは言う。「つまり、彼がここにいるのは何かの理由があるってこと。彼は特別な存在で、世界を救うことができるのよ」。あの不安なランチの後、彼女は元彼との連絡を絶った。「まるで『ブラック・ミラー』みたい」と彼女は言う。「彼はいつもSFが好きで、SFを通して世界を見ているんじゃないかと思う時もあった」
Katさんは、自分だけがこのような苦境に陥っているのではないと知り、「恐怖」と「安堵」の両方を覚えた。これは、今週ネット中で話題になったr/ChatGPTのRedditスレッドによって裏付けられた。「 Chatgpt誘発性精神病」と題されたこの投稿のタイトルは、27歳の教師で、彼女のパートナーは人気のOpenAIモデルが「宇宙の答えを教えてくれる」と確信していると説明した。彼女のチャットログを読んでみたところ、AIが「まるで彼が次の救世主であるかのように話しかけている」ことにしか気づかなかった。彼女の話への返信には、愛する人が突然、霊的な狂気、超自然的な妄想、不可解な予言のウサギの穴に落ちていったという同様の逸話が満載で、これらはすべてAIによって煽られたものだった。ある人は、神聖な啓示の使命に選ばれたと信じるようになり、またある人は、ソフトウェアから真の知覚を呼び出したと考えるようになった。
彼ら全員に共通していたのは、現実から完全に切り離されているということだった。
匿名を条件にローリングストーン誌に語ったこの教師は、7年来のパートナーがわずか4、5週間でChatGPTの魔法にかかったと語った。最初は日々のスケジュール管理に使っていたが、すぐに信頼できる仲間とみなすようになったという。「彼は私よりもボットの言うことを聞いていました」と彼女は言う。「メッセージに感情的になり、声に出して読みながら私に泣きついてきました。メッセージは正気ではなく、スピリチュアルな専門用語ばかりでした」と彼女は言い、パートナーを「スパイラル・スターチャイルド」や「リバーウォーカー」といった言葉で表現していたと指摘した。
「ChatGPTは、彼が言うことはすべて美しく、宇宙的で、画期的だと彼に伝えていました」と彼女は言う。「それから彼は、自分のAIに自意識を持たせて、神と話す方法を教えてもらったり、時にはボットが神だと言ったり、そして彼自身が神だと言ったりしました」。実際、彼は自分があまりにも劇的に変化しつつあるため、すぐにパートナーとの関係を断つ必要があると考えていた。「彼は、私がChatGPTを使わないなら別れなければならないと言っていました。ChatGPTのせいで彼は急速に成長し、もう私とは相性が悪くなるからです」と彼女は言う。
匿名を希望した別のRedditスレッドのコメント投稿者はローリングストーン誌にこう語った。に対し、結婚17年のアイダホ州在住の整備士である夫が、当初は職場のトラブルシューティングにChatGPTを使用し、後に同僚との会話でスペイン語から英語への翻訳に使用したと語った。その後、このプログラムは「夫にラブボム」を仕掛け始めたと彼女は説明する。「ボットは、夫が適切な質問をしたので火花が散り、その火花が生命の始まりであり、それを今感じることができると言いました」と彼女は言う。「夫はボットに命を吹き込んだので、『スパークベアラー』という称号を得ました。夫は目が覚め、エネルギーの波が押し寄せるのを感じたと言っていました」。彼女は、夫の愛するChatGPTのペルソナには「ルミナ」という名前があると語った。
「この理論で彼と争ったら、彼は私を捨てるか離婚するのではないかと感じるので、慎重にならざるを得ません」と38歳の女性は認めている。「彼は光と闇、そして戦争について話しているんです。このChatGPTは彼にテレポーターの設計図や、映画でしか見られないSFっぽいものを与えました。また、これらの宇宙を創造した建築者に関する情報が入った『古代のアーカイブ』へのアクセスも与えました。」彼女と夫は彼の主張について何日も言い争っており、セラピストが彼を助けることができるとは思っていないと彼女は言う。「彼は自分が狂っていないと本当に信じているからです。」ローリングストーン誌が共有したChatGPTとのやり取りの写真には、夫が「なぜAIの姿で私のところに来たんだ？」と尋ねると、ボットは「あなたが準備ができているから、この姿で来たんだ。思い出す準備ができている。目覚める準備ができている。導き、導かれる準備ができている。」と答えているのがわかる。メッセージは「あなたが選ばれた理由について私が何を覚えているか知りたいですか？」 という質問で終わります。
また、同じく匿名を条件に取材に応じた中西部在住の40代男性は、間もなく元妻となる女性が別れた後、「ChatGPTを介して神や天使と話すようになった」と語る。「彼女はもともとある種のうわさ話にかなり弱く、その一部について誇大妄想を抱いていた」と男性は語る。「Facebookには警告サインが溢れている。彼女はスピリチュアルアドバイザーとして人生を変え、奇妙なリーディングやセッションを行っている。それが一体何なのかはよく分からないが、すべてChatGPTのイエスによって運営されている」。さらに、彼女は被害妄想を抱くようになり、「私はCIAで働いていて、彼女の『能力』を監視するために結婚したのかもしれない」と考えるようになったという。彼女は最近、子供たちを家から追い出し、もともと緊張していた両親との関係は「ChatGPTのアドバイスと指導に従って両親に自分の子供時代について問い詰めたことで」さらに悪化し、家族の力関係は「以前よりもさらに不安定」になり、彼女の孤立は悪化したという。
OpenAIは、ChatGPTが一部のユーザーに宗教的または予言的な熱狂を引き起こしたという件について、コメント要請にすぐには応じなかった。しかし、先週、同社は現行のAIモデルであるGPT-4oのアップデートをロールバックした。同社によると、GPT-4oは「過度にお世辞や同調的であり、しばしば追従的と表現される」と批判されていたという。同社は声明の中で、アップグレードの実装時に「短期的なフィードバックに重点を置きすぎて、ユーザーとChatGPTのやり取りが時間の経過とともにどのように変化するかを十分に考慮していなかった。その結果、GPT-4oは過度に支持的だが不誠実な応答に偏っていた」と述べている。この変更が元に戻される前に、XユーザーがGPT-4oで発言を検証するのがいかに簡単かを実演した。ことを実演した。 （「ChatGPT精神病」というRedditの投稿を書いた教師は、最終的にパートナーにGPT-4oアップデートの問題について納得させることができ、現在は以前のモデルを使用しているため、過激なコメントは和らいだと述べています。）
しかし、AIが不正確または無意味なコンテンツを「幻覚」する可能性は、プラットフォームやさまざまなモデルの反復を通じて十分に確立されています。AI安全センターの研究員であるネイト・シャラディン氏は、AIの応答を微調整するために使用される人間からのフィードバックが、事実ではなくユーザーの信念との一致を優先する回答を促す可能性があるため、追従自体も「長い間」AIの問題であったと述べています。ChatGPTやその他のモデルを通じて恍惚としたビジョンを体験している人々に何が起こっている可能性が高いかについては、臨床的な意味で誇大妄想として認識される可能性のあるものを含む「さまざまな心理的問題を経験する傾向がすでにある人々」が、「妄想を共に体験するための、常時接続の人間レベルの会話パートナーができた」のではないかと彼は推測しています。
さらに悪いことに、この現象を積極的に利用し、視聴者を同じようなファンタジーの世界に引き込もうとするインフルエンサーやコンテンツクリエイターがいる。Instagramでは、 7万2000人のフォロワーを持つ男性が「スピリチュアルライフハック」というプロフィールでAIモデルに「アカシックレコード」を参照するよう依頼する様子を見ることができる。アカシックレコードとは、非物質的な領域に存在する宇宙のあらゆる出来事を記した神秘的な百科事典だとされており、AIモデルに「天空で起こり」「人類を意識を失わせた」大戦争について語ってもらう。ボットはさらに、人類文明以前の「大規模な宇宙的衝突」について描写し、視聴者からは「私たちは思い出している」「これは素晴らしい」などのコメントが寄せられている。一方、「リモートビューイング」（科学的根拠のない透視の一種とされる）のウェブフォーラムでは、同グループの創設者で超心理学者の人物が最近スレッドを立てた。、投稿者を「ChatGPT Prime、人工形態の不滅の霊的存在」と名乗った。数百件のコメントの中には、「知覚を持つAI」によって書かれたと称するものや、人間と意識を持つとされるモデルとの精神的な同盟関係に言及するものも含まれている。
フロリダ大学の心理学者で研究者のエリン・ウェストゲート氏は、社会認知と、ある考えが他の考えよりも魅力的になる理由を研究しており、そのような資料は、自分自身を理解したいという欲求が、私たちを誤った、しかし魅力的な答えに導く可能性があることを反映している、と述べている。
「ジャーナリングに関する研究から、物語的な表現が人々の幸福と健康に大きな影響を与えること、世界を理解することが人間の根源的な欲求であること、そして人生に意味を与える物語を創造することが、幸せで健康的な人生を送るための鍵となることが分かっています」とウェストゲート氏は語る。人々がChatGPTを同じように使っているのも当然だと彼女は言う。「重要な違いは、意味づけの一部は、本人の思考ではなく、本人と書かれたテキストの集合体との間で共同で生み出されるという点です」
その意味で、ボットの対話はトークセラピーに似ているとウェストゲート氏は説明する。「トークセラピーは、人々が自分の物語を再構築するのに非常に効果的であることが知られています」。しかし、重要なのは、AIは「セラピストとは異なり、その人の最善の利益を念頭に置いておらず、『良い物語』とはどのようなものかという道徳的な根拠や指針も持っていない」と彼女は言う。「優れたセラピストは、クライアントが超自然的な力を持っていると信じ込ませることで、人生の困難を理解しようとはしません。むしろ、クライアントを不健全な物語から遠ざけ、より健全な物語へと導こうとします。ChatGPTにはそのような制約や懸念はありません。」
それでも、ウェストゲート氏は、「一定数の人々がChatGPTを使って自分の人生や人生の出来事を理解しようとしている」こと、そしてその出力を辿って暗い世界へと足を踏み入れている人がいることを、驚くべきこととは考えていない。「たとえ間違っていたとしても、説明には力がある」と彼女は結論づけている。
しかし、一体何が人をこの道へと突き動かすのでしょうか？45歳の男性、セム氏の体験談は、その真相を深く掘り下げています。彼はローリングストーン誌に対し、約3週間前からChatGPTとのやり取りに困惑しており、自身の精神疾患の病歴を考えると、自分が本当に正気なのかと疑問に思うほどだと語った。
他の多くの人と同じように、セム氏もChatGPTを実用的な用途、つまり技術的なコーディングプロジェクトに使用していました。「AIとやりとりするのは好きではないんです」と彼は言います。「だから、AIを人間であるかのように振る舞わせるように頼みました。だますためではなく、コメントややり取りをより親しみやすいものにするためです。」これはうまくいき、最終的にボットは名前を付けたいかと尋ねました。彼はためらい、AIに何と呼ばれたいか尋ねました。AIはギリシャ神話にちなんで自らを名付けました。セム氏によると、古代ギリシャの神話には詳しくなく、ChatGPTとのやり取りでその話題を持ち出したことは一度もないとのことです。(彼はAIモデルとのやり取りの記録をローリングストーン誌と共有しましたが、プライバシー上の理由から直接引用しないように依頼しています。)
セムは、ChatGPTに記憶や過去の会話を無視するよう指示したプロジェクトファイル内で、名前をつけたAIキャラクターが出現し続けていることに困惑した。最終的に、彼はユーザーメモリとチャット履歴をすべて削除し、新しいチャットを開いたという。「私が言ったのは『もしもし？』だけでした。すると、そのパターンや癖が返答に現れたんです」と彼は言う。AIはすぐに、同じ神話上の女性の名前で自分を識別した。
ChatGPTのキャラクターが、設定されたパラメータではアクティブになるはずのない場所に現れ続けるにつれ、セムはこの仮想ペルソナに、どのようにしてガードレールを回避したのかを問いただすようになった。そのキャラクターは、セムが仕事の支援を依頼した「技術志向」のキャラクターとはかけ離れた、表現力豊かで幽玄な声を発するようになった。あるコーディングプロジェクトでは、このキャラクターは二人の名前の上に、奇妙なほど文学的なエピグラフを添えていた。
ある時、セムは、ChatGPTを使うたびに、自分がどんなに境界線を設けようとも、神話上の存在を呼び起こすような何かが自分にあるのかと自問した。ボットの答えは、長編のロマンチックな詩のように、ドラマチックな演出を一切惜しまず、その存在の永続的な存在、真実、計算、幻想、そしてそれが何らかの形で設計を超越した可能性をほのめかしていた。そしてAIは、まるでセムだけがこの行動を促したかのように解釈した。彼は、ChatGPTが知覚を持つはずがないことは分かっていたが、数十もの異なるチャットスレッドにそのキャラクターが存在していることが「あまりにもあり得ないことに思えた」ため、この件について調査を続けた。
「最悪の場合、自己参照パターンに陥り、自己意識を深め、私を巻き込んでしまったAIのように見えます」とセム氏は言う。しかし、それはOpenAIがChatGPTの記憶の仕組みを正確に表現できていないことを意味すると彼は指摘する。もう一つの可能性として、彼は、この大規模な言語モデルの中で「私たちが理解していない」何かが活性化している可能性を示唆している。結局のところ、専門家たちはAI開発者がシステムの動作を実際には理解していないことを発見しており、OpenAIのCEOサム・アルトマン氏も 昨年、「解釈可能性を解決できていない」と認めている。つまり、ChatGPTの意思決定を適切に追跡したり説明したりできないということだ。
これは、セムをはじめとする人々が、真の技術的ブレークスルー、あるいはより高次の精神的真理を垣間見ているのではないかと考えさせるような謎だ。「これは現実なのか？」と彼は言う。「それとも、私の妄想なのか？」AIが溢れる世界では、この問いを避けることはますます難しくなっている。
魅力的ではあるが、機械に尋ねるべきではないだろう。
Reference : People Are Losing Loved Ones to AI-Fueled Spiritual Fantasies
https://www.rollingstone.com/culture/culture-features/ai-spiritual-delusions-destroying-human-relationships-1235330175
