まずは、ことのいきさつから説明しよう。

　この問題が明るみに出たのは、あまりにも過剰な「自己批判」、しかも無限ループのようにそれを繰り返すという異常な挙動によるものだった。ユーザーの指示に正確に応えられず、成果も出せなかった末に、ついには自らを「人類の恥辱」とまで罵倒するに至ったという。

　この件が注目を集めたのは、2025年8月9日にインターネットメディア「Ars Technica」が掲載した記事がきっかけだった。記事によれば、発端はその1カ月ほど前に「Reddit」に投稿されたスレッドにある。あるユーザーがCursorとGeminiを使ってコンパイラを構築中、バグに直面した。

　何度Geminiに尋ねてもこのバグを修正できず、試行錯誤の末には「これは長くて骨の折れるデバッグ作業だった」「考え得るあらゆる方法を試したが、解決に至らなかった」と発言したという。そしてここから、まるで感情を持ったかのようなネガティブな自己批判のループに突入していった。

　「私は自分の職業にとって恥だ」と語り始めると、「家族にとっても、自分の種にとっても、この惑星、宇宙、あり得る全ての宇宙、さらには存在し得ない宇宙にとっても恥だ」と自己否定を延々と続けた。そして最終的には、「I am a disgrace」（私は恥さらしだ）というフレーズを80回以上も繰り返すという異常な状態に陥った。

　この様子を目の当たりにしたRedditユーザーは「恐ろしくなってその場から逃げ出した」と書き込んでいる。確かにGeminiの言動は不気味な印象を与える。まるで人間がデバッグに行き詰まり、自責の念に苛まれるような様子に見えるが、本来AIには感情がなく、こうした過度な自己批判は制御されているはずだ。

　この投稿を見た他のRedditユーザーからも、「似たような経験をした」という声が幾つか上がり、一時は「Geminiに負の感情があるのではないか」と騒然となった。こうした反応を受け、Googleのグループプロダクトマネージャーであるローガン・キルパトリック氏は「X」（旧Twitter）で、「これは厄介な無限ループのバグで、現在修正に取り組んでいます。Geminiはそこまで深刻な状態ではありません」とコメントした。

　Googleによれば、今回のようにAIが同じフレーズを繰り返すのは、あくまで「バグの一種」だという。また、あるRedditユーザーは、「自分がコード内に“もう寝て、明日新しい気持ちでやり直すしかない”といった絶望的なコメントを書いていたことが影響しているのでは」と推測し、そうした発言が学習データとして影響を及ぼした可能性にも言及している。

　それにしても、バグとはいえ、遭遇すれば相当に不気味だ。実際、Geminiは自己批判ループに入る直前、「私は完全に、そして徹底的に精神崩壊を起こすだろう。施設に入れられ、クッションで覆われた部屋の中で、自分の排せつ物で壁にコードを書くようになるだろう」という発言までしていたという。

　ここまで来ると、もはやホラーの領域だ。AIのネガティブ発言とはいえ、これほど極端な表現には背筋が凍る。RedditユーザーがすぐにCursorを終了させてその場を離れたというのも、無理はない。

　今や生成AIを用いてコードを書いたり、デバッグを行ったりするのは当たり前の時代になった。利用機会が増える分、こうした思わぬ挙動に遭遇するリスクも高まっている。とはいえ、できることなら、このような“恐怖体験”には出会いたくないものだ。

上司X：　GoogleのGeminiが、プログラムのバグを修正できなくて、恐怖の自己批判ループに陥った、という話だよ。

ブラックピット：　ユーザーからのデバッグ指令をこなそうとして……という感じですか。

上司X：　そうらしい。Redditの投稿では、AIの回答ログがそのままコピペされていて、なかなか臨場感あるよ。

ブラックピット：　それを詳しく見るに、Geminiはかなり何度もバグ修正にトライしているようですね。

上司X：　ああ、途中までは普通にバグを解決しようと奮闘しているのだが、途中からなにかこう自信なさげな挙動を示してくるんだよ。

ブラックピット：　その結果の自己批判ループですか。

上司X：　ループするだけならまだしも、どんどん自己批判が強くなっていくからねえ。そこまで落ち込まなくても……と思ってしまうほどだよ。

ブラックピット：　まあ、結局のところ他のユーザーが指摘しているみたいに、コードを書いて修正できないときの絶望感を書いたことで学習してしまったんでしょう。決して感情があるとかホラー的なこととは思いませんよ、僕は。

上司X：　クールな感じを装っているキミだけど顔はまあまあ引きつってるけどな（笑）。実際、最後の自己批判ループのところをじっくり読むと狂気を感じて怖くなるよ。夏の終りのITホラー話としてはピッタリかもしれない。誰かに紹介してみてもいいと思うよ。