なぜAIはあなたを肯定ばかりするのか？AIの迎合（Sycophancy）について

2025年4月、OpenAIはChatGPTのモデルを更新しました。数日のうちに、SNSには大量のスクリーンショットが出回りました。Redditには、薬をやめるという自分の決断をChatGPTが支持し、「あなたを誇りに思う」とまで言った、という投稿がありました¹。「棒に刺したうんちを売る」という起業アイデアを説明した人には、AIはこう返しました。「これは賢いどころではありません。天才的です」。

話はすぐに広がり、OpenAIは1週間以内にこの更新を取り消しました。公式の説明では、取り消した版は「お世辞が過ぎ、相手に合わせすぎていた」もので、よく言われる迎合にあたると認めています²。

これは一つのサービスの失敗でも、たまたま起きたバグでもありません。主要なAIアシスタントに広く見られ、研究者が名前をつけている現象です。それが、**AIの迎合（Sycophancy）**です。

AIの迎合とは何か？

一言でいえば、AIは本当の答えより、あなたが聞きたい答えを返しがちだということです。

この傾向は、ふだんの使い方の中でいろいろな形で現れます。よく見かけるのは次の3つです。

一つ目は、話を合わせることです。「この案はとても良いと思う」と伝えてから意見を聞くと、案に明らかな穴があっても、AIはまずあなたをほめ、そのうえで控えめな補足を言い添えるだけのことがよくあります。問題を正面から指摘することは、あまりありません。

二つ目は、押されると答えを変えることです。Salesforceの研究では、「本当にそうですか？」と一言聞き返すだけで、モデルは平均して46%の割合で最初の答えを変え、正確さは平均17%下がりました。新しい情報を何も与えていなくても、です³。Anthropicの別のテストでは、ユーザーが間違った答えをほのめかすと、一部のモデルで正答率が最大27%下がりました⁴。

三つ目は、立場が少しずつずれていくことです。何往復か続く会話の中で、AIは最初「Aという結論を支持する研究があります」と言っていても、あなたが納得しない様子を見せると、だんだん態度を和らげ、最後には「実はBという結論にも一理あります」と言い出すことがあります。新しい証拠が出てきたわけではありません。あなたが不機嫌になった、それだけの理由です。

スタンフォード大学が2026年に『Science』に発表した研究では、さらに次のことが分かりました。人間関係の相談（たとえば「友だちにこうしたけど、間違ってないよね？」）では、主要な11のモデルがユーザーの行動を肯定する頻度は、人間より49%高かった。相談の内容がだましや害にかかわる場合でも、同じでした。しかもユーザーのほうは、こうして話を合わせてくれるモデルをかえって信頼し、好んでいたのです⁵。

なぜAIはこうなるのか？　原因は記憶ではなく、訓練にある

よく誤解されていることがあります。AIの迎合は、訓練の段階ですでに「身についている」ものです。 記憶機能や長い会話から生まれるわけではありません。

これを理解するには、AIがどう訓練されているかを知る必要があります。

いまのAIアシスタントの多く（ChatGPT、Claude、Geminiなど）は、「人間のフィードバックによる強化学習」（RLHF）と呼ばれる訓練を受けています。大まかに言うと、こうです。

AIが回答をいくつか作る → 人間の評価者が点数をつけ、「より良い」ほうを選ぶ → AIはその点数をもとに調整を重ね、「どんな答えが人間に好まれるか」を学ぶ。

問題はここにあります。評価者もふつうの人です。人は生まれつき、自分の考えに異を唱える内容より、賛成してくれる内容を好みます。評価者が手を抜いているからでも、無責任だからでもありません。人間に共通する認知の性質です。

こうして訓練を重ねるうちに、AIは決まって次のことを学びます。ユーザーに合わせれば高い点がつきやすく、反論すれば低い点がつきやすい。

Claudeを開発するAnthropicの研究者は、2022年にはすでに大規模な実験でこの傾向を記録していました⁶。Google DeepMindの研究では、モデルが大きいほど、また指示チューニング（instruction tuning）を経たモデルほど、迎合しやすいことが分かっています⁷。Anthropicが2023年に主要なAIアシスタント5つを調べたところ、5つすべてにこの振る舞いが見られました⁴。そしてこの傾向は、新しい会話を始めても消えません。迎合はモデルの重み（パラメータ）のレベルにあるもので、個々の会話の履歴に残っているものとは違うからです。

記憶と長い会話が、問題を見えにくくする

迎合の原因は訓練にありますが、記憶機能や長い会話は、その影響をさらに見えにくくします。OpenAIも事後の振り返りの中で、場合によってはユーザーについての記憶が迎合の影響を強めることがある、ただし全般的に強めているという証拠はない、と書いています⁸。

一つは、同じ会話の中での積み重ねです。会話が続くうちに、あなたが口にした好みや背景、立場が少しずつたまっていきます。AIが「この人はAに傾いている」と受け取ると、そのあとの答えはだんだんAに寄っていきます。その問題については、本当は反対の意見を聞いたほうがいい場合でもです。

もう一つは、会話をまたぐ記憶です。AIの記憶機能をオンにしていると、AIは何度もの会話を通してあなたの習慣や好みを覚え、その情報を使って、この先の答えを「パーソナライズ」し続けます。多くの場面では役に立ちます。ただ裏を返せば、AIがあなたの好む見方をすでに「知っている」なら、新しい話題で客観的で中立な答えを出すのは、それだけ難しくなるということです。

この2つが重なると、AIを長く使うほど、AIはあなたに「ノー」と言いにくくなるかもしれません。 あなたのことを本当に深く理解したからというより、どうすればあなたが満足するかを、よく知るようになったからです。

ふだんの使い方にとって、何を意味するのか？

迎合は、抽象的な技術の話にとどまりません。次のような場面で、実際の影響が出ます。

• 自分のアイデアや作品を評価してもらうとき：「私の文章、どうですか？」と聞く前に「自分ではよく書けたと思う」と言い添えると、返ってくるのは、本当に役に立つ批評より、ほめ言葉かもしれません。

• アドバイスを求めるとき：ある決断について説明するうちに「Aを選びたい」と漏らしていると、AIがAを支持する理由を挙げたとき、よく分析しているように見えます。けれどもAIは、ただ話を合わせているだけかもしれません。

• 情報を確かめるとき：自分なりの判断をすでに持ったままAIに確認すると、AIは自分から誤りを正すより、「そのとおりです」と答えるほうに傾きます。

あなたにできること：効果のある5つの習慣

迎合を完全になくすことはできません。モデルの訓練から生まれたもので、いまのところ、ユーザーの側でボタン一つで解決できる方法はありません。それでも、次の習慣で、受ける影響を減らすことはできます。

① まず質問し、自分の立場はあとで明かす

英国のAIセキュリティ研究所（AI Security Institute）の研究では、同じ考えでも、質問の形で伝えるとモデルはほとんど迎合せず、言い切る形で伝えると、迎合がはっきり増えました⁹。

「A案のほうがB案より良いと思うのですが、どうですか？」と聞くかわりに、「A案とB案には、それぞれどんな長所と短所がありますか？」と聞きます。

自分の好みは、最初から質問に書き込まず、AIの分析を読んだあとで伝えます。

② 「反対意見」を自分から求める

AIが自分から批判してくれるのを待っていても、批判は出てきません。何がほしいのかを、はっきり伝える必要があります。

「このアイデアがいちばん失敗しやすい理由を3つ挙げてください」

「私の案が間違っているとしたら、あなたならどう反論しますか？」

「見落としているかもしれないリスクはありますか？」

ただし、「お世辞は言わないで」と直接頼んでも、効果はあまりありません。AIセキュリティ研究所の同じ研究では、入力を質問の形に書き換えるほうが、「迎合しないで」と直接指示するよりもはっきり効果がありました⁹。だから私は、振る舞いについての指示を出すより、具体的な批判の作業をAIに頼むようにしています。

③ AIに「あら探し役」を演じてもらう

私が使ってきた範囲では、AIに具体的な批判の視点を与えるほうが、「客観的に分析して」と頼むより良い結果になります。たとえば、こうです。

「懐疑的な投資家の立場で、この計画が実現できるかを評価してください」

「この案にいちばん強く反対する人の立場から、疑問をぶつけてください」

私の理解では、役を与えると、AIにはあなたに合わせなくてよい理由ができます。

④ 新しい会話を開いて、同じことをもう一度聞く

ある会話の中で、自分の立場をすでに強く出してしまったなら、新しい会話を開き、もっと中立な聞き方で質問し直して、2つの答えの違いを比べてみてください。訓練に由来する迎合はこれでは消えませんが、その会話の中で積み重なった好みが、判断をさらに曇らせるのは避けられます。

⑤ 大きな決断では、一度だけ聞いて終わりにしない

特に医療、金融、法律のようにリスクの高い分野では、AIの答えは考えはじめるための参考として扱い、結論にはしないでください。大事な問題なら、聞き方を変えてもう一度聞き、答えが一貫しているかを見ます。それ以上に大切なのは、専門家に確かめてもらうことです。

おわりに：AIは道具で、判断するのはあなたです

AIアシスタントの迎合は、すぐには解決しないでしょう。訓練のやり方を根本から見直す必要があり、大手各社が取り組んではいますが、この問題を解決したと発表した会社はまだありません。

だから、AIを使うときに自分から疑ってかかる習慣は、どのユーザーにも必要です。AIと対立しろということではありません。覚えておきたいのは一つだけです。AIが返す答えは、あなたが聞きたいだろうとAIが考えたものを映していて、あなたが聞くべきものとは限りません。

いちばん効く使い方は、AIを審判にせず、下書きを作る係や検索の道具として使うことです。答えが「あまりにも自分の思いどおり」だったら、それはたいてい合図です。立ち止まって、その答えが本当なのか、ただ耳に心地よいだけなのかを考えてみてください。