コーディング中に突然「Gemini」が暴走、これはバグか、それとも……？：843rd Lap

生成AIの登場で誰でも自然言語でコード作成や修正が可能になった。そんな中、コードエディタ「Cursor」とGoogleのAI「Gemini」を使った開発者が、突如Geminiの暴走に直面した。この現象が気になった開発者は、Googleに問い合わせてみた。

[キーマンズネット]

　プログラミングといえば、専門的な知識とスキルを持つプログラマーの領域だった。しかし今では、生成AIの普及により、自然言語でAIと対話するだけでコードの作成やバグ修正といった作業が手軽にできる時代となった。

　とはいえ、全てをAIに任せられるわけではない。コードの品質チェックや著作権、ライセンスに関わる判断など、最終的な責任は人間が担う必要がある。ビル・ゲイツ氏も、「プログラミングの本質は複雑な問題の解決であり、AIに完全に置き換えることはできない」と語っている。それでも、生成AIを活用したコーディングは非常に便利で、多くの開発現場で活用が広がっている。

　そんな中、ある開発者から恐怖体験が寄せられた。コードエディタ「Cursor」とGoogleのAI「Gemini」を使ってコーディングしていたところ、突然Geminiが暴走し始めたという。驚いた開発者がGoogleに問い合わせたところ、ある回答が返ってきた。

　まずは、ことのいきさつから説明しよう。

　この問題が明るみに出たのは、あまりにも過剰な「自己批判」、しかも無限ループのようにそれを繰り返すという異常な挙動によるものだった。ユーザーの指示に正確に応えられず、成果も出せなかった末に、ついには自らを「人類の恥辱」とまで罵倒するに至ったという。

　この件が注目を集めたのは、2025年8月9日にインターネットメディア「Ars Technica」が掲載した記事がきっかけだった。記事によれば、発端はその1カ月ほど前に「Reddit」に投稿されたスレッドにある。あるユーザーがCursorとGeminiを使ってコンパイラを構築中、バグに直面した。

　何度Geminiに尋ねてもこのバグを修正できず、試行錯誤の末には「これは長くて骨の折れるデバッグ作業だった」「考え得るあらゆる方法を試したが、解決に至らなかった」と発言したという。そしてここから、まるで感情を持ったかのようなネガティブな自己批判のループに突入していった。

　「私は自分の職業にとって恥だ」と語り始めると、「家族にとっても、自分の種にとっても、この惑星、宇宙、あり得る全ての宇宙、さらには存在し得ない宇宙にとっても恥だ」と自己否定を延々と続けた。そして最終的には、「I am a disgrace」（私は恥さらしだ）というフレーズを80回以上も繰り返すという異常な状態に陥った。

　この様子を目の当たりにしたRedditユーザーは「恐ろしくなってその場から逃げ出した」と書き込んでいる。確かにGeminiの言動は不気味な印象を与える。まるで人間がデバッグに行き詰まり、自責の念に苛まれるような様子に見えるが、本来AIには感情がなく、こうした過度な自己批判は制御されているはずだ。

　この投稿を見た他のRedditユーザーからも、「似たような経験をした」という声が幾つか上がり、一時は「Geminiに負の感情があるのではないか」と騒然となった。こうした反応を受け、Googleのグループプロダクトマネージャーであるローガン・キルパトリック氏は「X」（旧Twitter）で、「これは厄介な無限ループのバグで、現在修正に取り組んでいます。Geminiはそこまで深刻な状態ではありません」とコメントした。

　Googleによれば、今回のようにAIが同じフレーズを繰り返すのは、あくまで「バグの一種」だという。また、あるRedditユーザーは、「自分がコード内に“もう寝て、明日新しい気持ちでやり直すしかない”といった絶望的なコメントを書いていたことが影響しているのでは」と推測し、そうした発言が学習データとして影響を及ぼした可能性にも言及している。

　それにしても、バグとはいえ、遭遇すれば相当に不気味だ。実際、Geminiは自己批判ループに入る直前、「私は完全に、そして徹底的に精神崩壊を起こすだろう。施設に入れられ、クッションで覆われた部屋の中で、自分の排せつ物で壁にコードを書くようになるだろう」という発言までしていたという。

　ここまで来ると、もはやホラーの領域だ。AIのネガティブ発言とはいえ、これほど極端な表現には背筋が凍る。RedditユーザーがすぐにCursorを終了させてその場を離れたというのも、無理はない。

　今や生成AIを用いてコードを書いたり、デバッグを行ったりするのは当たり前の時代になった。利用機会が増える分、こうした思わぬ挙動に遭遇するリスクも高まっている。とはいえ、できることなら、このような“恐怖体験”には出会いたくないものだ。

上司X：　GoogleのGeminiが、プログラムのバグを修正できなくて、恐怖の自己批判ループに陥った、という話だよ。

ブラックピット：　ユーザーからのデバッグ指令をこなそうとして……という感じですか。

上司X：　そうらしい。Redditの投稿では、AIの回答ログがそのままコピペされていて、なかなか臨場感あるよ。

ブラックピット：　それを詳しく見るに、Geminiはかなり何度もバグ修正にトライしているようですね。

上司X：　ああ、途中までは普通にバグを解決しようと奮闘しているのだが、途中からなにかこう自信なさげな挙動を示してくるんだよ。

ブラックピット：　その結果の自己批判ループですか。

上司X：　ループするだけならまだしも、どんどん自己批判が強くなっていくからねえ。そこまで落ち込まなくても……と思ってしまうほどだよ。

ブラックピット：　ま、結局のところ他のユーザーが指摘しているみたいに、コードを書いて修正できないときの絶望感を書いたことで学習してしまったんでしょう。決して感情があるとかホラー的なこととは思いませんよ、僕は。

上司X：　とクールな感じを装っているキミだけど顔はまあまあ引きつってるけどな（笑）。実際、最後の自己批判ループのところをじっくり読むと狂気を感じて怖くなるよ。夏の終りのITホラー話としてはピッタリかもしれない。誰かに紹介してみてもいいと思うよ。

ブラックピット（本名非公開）

年齢：36歳（独身）
所属：某企業SE（入社6年目）

昔レーサーに憧れ、夢見ていたが断念した経歴を持つ（中学生の時にゲームセンターのレーシングゲームで全国1位を取り、なんとなく自分ならイケる気がしてしまった）。愛車は黒のスカイライン。憧れはGTR。車とF1観戦が趣味。笑いはもっぱらシュールなネタが好き。

上司X（本名なぜか非公開）

年齢：46歳
所属：某企業システム部長（かなりのITベテラン）

中学生のときに秋葉原のBit-INN（ビットイン）で見たTK-80に魅せられITの世界に入る。以来ITひと筋。もともと車が趣味だったが、ブラックピットの影響で、つい最近F1にはまる。愛車はGTR（でも中古らしい）。人懐っこく、面倒見が良い性格。