ブーイングの嵐……　急に「ChatGPT」がやる気をなくしたのは、なぜ？：740th Lap

「ChatGPT」の最新バージョンに対して「質問に答えようとしない」などの苦情が寄せられているという。なぜ、急にやる気をなくしてしまったのか……。

» 2023年12月22日 07時00分公開

[キーマンズネット]

　2023年の流行語に「生成AI」が選ばれた。多くのユーザーが「ChatGPT」をはじめとする生成AIに触れ、回答精度の高さを実感したことだろう。

　一大ブームとなった生成AIだが、最近、ChatGPTの反応が悪く「やる気をなくした」と不満の声が寄せられているという。それは、なぜか？

　OpenAIの最上位言語モデル「GPT-4」で構築されたChatGPTの最新バージョンが提供され（本稿公開時点）、その精度は高く評価されている。

　ところが、ChatGPTの最新バージョンに対して「質問に答えようとしない」「質問に興味を示さない」と苦情が寄せられているという。ニュースサイト「The Independent」は2023年12月9日（現地時間）に公開した記事でこの件を取り上げ、「lazy」（怠惰）と評した。

　The Independentの記事によれば、あるユーザーが特定のソースコードに関してChatGPTに回答を求めたところ、完全なソースコードではなく一部分しか提供されず「残りは自分で入力してください」と返ってきたという。また「そのタスクは自分でできますよね？」といった「生意気」と捉えかねない反応を示すこともあったという。

　さらには、回答を拒否したり会話を中断したりと「怠惰」と判断されても仕方のない態度を取るケースが幾つか報告された。この件はRedditのスレッドやOpenAIの開発フォーラムなどでも報告されていて、「これはOpenAIがワザとやってるのでは？」と邪推するユーザーもいる。

　OpenAIはこの件を聞いてはいるが「回答精度を調整していはいない」と強く否定している。そして「フィードバックは全て確認した。GPT-4モデルの動作は予測できないことがある」と「X」（旧Twitter）に投稿した。2023年11月11日以降、GPT-4はアップデートされていないことにも触れた。

　OpenAIは「同じデータセットだったとしても言語モデルのトレーニングによってはパフォーマンスに影響が出る場合がある」と主張した。トレーニングや改修によってパフォーマンスが低下する可能性についても触れ、「今後は回答が的確かどうかも含めて、ユーザーの反応を見ながらデータに基づいて判断していく」とコメントした。

　ユーザーの求めた回答に至らなかったために、AIの反応を「怠惰」と評するのは簡単なことかもしれない。しかし、相手がAIなだけにその背後に潜む影響は計り知れない。そもそもOpenAIも、このような問題が発生することを予想だにしていなかっただろう。

　今後も生成AIはさらなる成長を遂げるだろう。だが、完璧ではないことは人と同じだ。望む回答が得られなかったとしても、それを否定するのは家臣による傲りではないだろうか。生成AIとうまく付き合っていきたいものだ。

上司X：　ChatGPTが「怠けている！」と糾弾された、という話だよ。

ブラックピット：　とは言いますが、ちょっと手を抜いた回答をしただけじゃないですか。

上司X：　だから、それが「怠けている」ということなんじゃないか。

ブラックピット：　んー、なんでしょうねえ。質問者にとって満足な回答じゃなければ「怠惰」と受け取られるんですか？　それって、ちょっと横柄な気がしますけどね。

上司X：　確かにな。AIを持ち上げすぎなんだろうな。完璧ってのは思い込みに過ぎなくて、そのギャップで「怠惰」っていう評価になってしまう。

ブラックピット：　8ビットPC時代からある「人工無脳」だって、すごくテキトーな回答しかしてませんでしたけど、それがしっくりくる感じもありましたよ。

上司X：　イライザのことかな。……ってキミよくそんなこと知ってるな。

ブラックピット：　いえ、僕は「Emmy」のことを言ってますけど、何か？　楽しかったなあ、あの頃は。今のわれわれの会話こそが「怠惰」そのものでしょうけどね。

上司X：　Emmy！　まさかの工画堂スタジオ発の人工無脳が出てくるとは……とあまりにマニアック過ぎる話は、さすがの生成AIでも対応できないのでは。EmmyについてChatGPTに尋ねてみたが、ゼロ回答だったな。これこそ「怠惰だ」とキミは言いたいんだろうな。人間の記憶知とAIの知識は違うということだ。過信することなくAIと付き合っていくべきだろうな。