ポチョムキン理解

「ポチョムキン理解」とは、「本当はわかっていないのにわかったふりをすること」を指します。「ポチョムキン的理解」とも呼ばれます。

言葉の由来

女帝エカチェリーナ2世が領地を視察に訪れることを知った、政治家で軍人でもあるグリゴリー・ポチョムキンは、張りぼての建物や風景などを並べて、女帝を喜ばせたそうです。このことから、中身がなく見せかけだけのものを「ポチョムキン村」と呼ぶようになりました。転じて、理解していないのに理解しているようにみせることを「ポチョムキン理解」と呼びます。

AIとポチョムキン理解

昨今、かなり実用的になったAIにも、ポチョムキン理解の可能性が指摘されています。AIが提供してくれる答えは概ね正確ですが、やや難しい応用した課題や視点を変えなければいけない推論については、間違った答えや矛盾した内容を返してくることがあります。AI研究者がこれをポチョムキン理解であるとしました。

ハルシネーションとポチョムキン理解

AIが間違った答えを返してくるものとしては「ハルシネーション」が有名です。ハルシネーション（幻覚）は事実ではないことを生成するので、人間から見てもその真贋がわかりやすいのですが、ポチョムキン理解ではその嘘や矛盾を見出すのが難しくなります。

人工知能開発の最終目標に向けて

人工知能が目指す「汎用人工知能」とは、「人間と同等以上の知能をもって、人間ができる様々な知的作業をこなせるAI」です。この実現に向けて、ハルシネーションよりもポチョムキン理解の方が課題になりそうだ、という指摘もあります。人間も間違いやわかったフリをすることはたくさんありますので、いろいろな仕事を手伝ってもらう上では大きな問題はないのですが、AIにいわゆる「不可謬（間違いがないこと）」を求めるのであれば、その道程は簡単ではなさそうです。