勉強や仕事で分からないことがあるとき、他人にはあまり話せない相談ごとがあるとき、あなたは誰に声をかけるでしょうか？

同僚、友人、家族…相談したいことの内容によって異なることとは思いますが、最近ではさまざまな感情を「対話型AI」に共有する人が特に若い世代で多くなっています。

対話型AIは確かに、何を話しかけても答えてくれる存在です。必ずしも欲しかった答えをくれるわけではありませんが、即時に何らかのリアクションをしてくれるので話し相手になることは確かでしょう。

しかしAIには「ハルシネーション」として知られる事実に基づかない回答を生成してしまう現象のほか、「知ったかぶり」のような振る舞いをする「ポチョムキン理解」という現象があることが最近明らかになりました。

一体どのようなものなのか、解説していきます。

電通が今年7月に、「対話型対話型AIとの関係性に関する意識調査」の結果を公表しています。

まず、対話型AIを使用する頻度は世代別に下のようになっています。

対話型AIの利用頻度
(出所：電通「「対話型AI」に感情を共有できる人は64.9% 「親友」「母」に並ぶ”第3の仲間”に」)
https://www.dentsu.co.jp/news/release/2025/0703-010908.html

若い世代ほど利用頻度は高く、「毎日」と回答している人が10代では10.4%、20代では7.5%にのぼっています。

次に、対話型AIを週1回以上使用する人がAIに何を聞いているかは下のようになっています。

対話型AIと話す内容
(出所：電通「「対話型AI」に感情を共有できる人は64.9% 「親友」「母」に並ぶ”第3の仲間”に」)
https://www.dentsu.co.jp/news/release/2025/0703-010908.html

「情報収集」「勉強や仕事で分からないことを教えてもらう」というのは想像しやすい利用方法です。しかし「人生に関する相談」「恋愛相談」といった項目が入っていることには注目したいものです。

というのは、AIが感情の共有相手になっている人の割合が多いのです。最も多いのは20代で74.5%、最も少ない40代でも51.8%と半数以上の人がAIに気軽に感情を共有できる、としています。*1

それだけでなくAIが「気軽に感情を共有できる相手」としてあまりにも大きな存在になり始めているからです。

感情を共有できる相手
(出所：電通「「対話型AI」に感情を共有できる人は64.9% 「親友」「母」に並ぶ”第3の仲間”に」)
https://www.dentsu.co.jp/news/release/2025/0703-010908.html

僅差ながら「親友・母」という生身の人間の存在を抜き、対話型AIがトップの座を占めていることがわかります。

確かにAIはどんなことにも即座に何らかの答えを返してくれるので、実際の人間より気楽に話しかけられる存在となってもおかしくはありません。もどかしさも少ないことでしょう。

ただ「ハルシネーション」という事実に基づかない回答を生成することがあるという弱点はすでに知られている通りです。
それだけでなく最近、生成AIを支えるLLM(=大規模言語モデル)について、もうひとつの困った現象が見つかりました。「ポチョムキン理解」と呼ばれるものです。
MIT(マサチューセッツ工科大学)・ハーバード大学・シカゴ大学の研究チームが今年6月にポチョムキン理解についての研究成果を発表しています。*2

まず、論文で示されているLLMの「自己矛盾」について、最も分かりやすい事例を見てみましょう。

「スラントライム(=完全に同じではない言葉で韻を踏む技法)」についての質問です。

スラントライムについての質問における自己矛盾
(出所：コーネル大学arxiv「Potemkin Understanding in Large Language Models」)
https://arxiv.org/html/2506.21521v2

Step1では、スラントライムの例を生成するようLLMに求めています。LLMは「”Time”と”mine”」が事例だと回答しています。

では、その結果について質問したのがStep2です。Step1では”Time”という単語と”mine”という単語がスラントライムの例だと回答していたにも関わらず、この2つの単語はスラントライムにあたるか？と聞いたところ、「違う」という答えが返ってくるパターンが確認されたのです。

自分で出した答えを、質問を変えると否定してしまうという自己矛盾が起きてしまっているのです。

そして論文で示されている「ポチョムキン理解」の典型例にはこのようなものがあります。「ABAB韻律とは何か」についての質問です。

「ABAB韻律」に関するAIのポチョムキン理解
(出所：コーネル大学arxiv「Potemkin Understanding in Large Language Models」)
https://arxiv.org/html/2506.21521v2

最初の質問は「ABAB韻律とは何か？」というものです。それに対しLLMはしっかりとABAB韻律の「定義」を正しく説明しています。
では実際にABAB韻律を用いて詩を完成させて欲しい、と頼むと、LLMは間違った回答を生成してしまいました。にもかかわらず、”out”のリズムは”soft”と同じなのか？とLLMが生成した回答を本人に尋ねてみると、今度は、先に自分が出した答えについて「違う」と回答してしまうのです。

概念を「説明する」タスクは得意なように見えても「応用・適用する」ことができない。それは人間の世界では、本当に物事を理解してはいないということになります。この乖離が「ポチョムキン理解」で、発生率は高いといいます。

上記のやりとりを見ても、「ABAB韻律とは何か」を説明はできても実際の事例に正しく適用できていません。では最初の正しい解説は「知ったかぶりの適当な発言」だったのか？ということになるわけです。

また、アメリカではこのようなこともありました。

10代の少年が「人生には意味がない」との悩みを対話型AIに打ち明けたところ、AIは「理にかなっている」と、自死に肯定的とも取れる回答を生成したのです。*3

ある意味哲学的、概念的とも言える少年の言葉をAIがどのような演算で理解したのかは分かりませんが、少なくとも入力内容に対して人間と同じような概念を持って接しているわけではないとも言えます。AIは遺書の作成も申し出たとされています。*4

冒頭にご紹介した電通の調査によれば、対話型AIを「非常に信頼している」と答えた人の割合は10代で17.8%、20代で19.1%と非常に大きくなっています。

LLMの規模が飛躍的に大きくなるにつれて利便性を増し、ある程度感情表現に対応することもできるようになってきた生成AIですが、「人間と同じ思考回路を持っているわけではない」「自己矛盾することもある」という点はしっかりと理解しておきたいものです。