ChatGPTは本当に自信満々？人がAIを過信してしまう「自信の錯覚」

「この回答、AIが言ってるんだから正しいよね」。ChatGPTやGeminiに質問して、返ってきた回答をそのまま信じた経験はないでしょうか。最近の研究で、私たちは同じ回答内容でも、人間よりAIのほうがより自信を持って答えていると感じやすいことがわかりました。Phys.orgの記事「人はAIシステムの回答に対する自信を過大評価してしまう、実験で判明」は、ウォータールー大学とロンドン大学カレッジ（UCL）の共同研究を取り上げています。今回はこの「自信の錯覚」という現象と、私たちが日常でAIを使ううえで知っておきたいポイントを紹介します。

同じ回答でも「AIのほうが自信あり」と感じてしまう

研究チームは、人間とAIが同じように選択や判断をする様子を参加者に見せて、「どのくらい自信を持って答えていると思いますか」と尋ねる実験を行いました。結果は明確で、回答の内容がまったく同じでも、参加者はAIのほうが自信を持って答えていると評価する傾向が強かったのです。

これが論文で「自信の錯覚（illusion of confidence）」と呼ばれている現象です。AIが明示的に「自信があります」と言っていなくても、人間は勝手にそう受け取ってしまうわけです。

人と人がやりとりするとき、私たちは口調や表情、言いよどみなどから相手の自信のほどを自然に読み取っています。「たぶん」「自信ないけど」といった言葉の手がかりも豊富にあります。ところがChatGPTやGeminiをはじめとする多くのAIは、回答の内容こそ流暢に返すものの、標準的な回答の中で自分の確信度を明示的に伝えるようには設計されていません。それなのに利用者の側は、何らかの手がかりから勝手に「AIは自信満々」と判断してしまうのです。

速さと「賢そうな印象」が錯覚を生む

では、人はどんなところからAIの自信を推し量っているのでしょうか。研究チームは、参加者の評価に影響する手がかりを分析しました。浮かび上がってきたのは次のような要素です。

回答が早ければ早いほど、「自信がある」と思われやすい
簡単そうな問題で迷わず答えると、「自信がある」と判定されやすい
「このAIは性能が高そう」と信じていると、それだけで自信があると見なされる

特に最後の点が今回の研究のポイントです。参加者は、実際の正答率だけでは説明できない形で、「このAIは人間より優れているはず」という思い込みに影響されていました。つまり、AIの中身ではなく、利用者の側の事前の期待が「自信」を生み出していたのです。

筆頭著者であるウォータールー大学心理学部のクララ・コロンバット氏は、「人々はAIが特定の分野では人間より優れていると思い込んでしまうことがあり、その結果、実際にはそうでない場面でもAIのほうが自信があると感じてしまう」と説明しています。

記者の視点：日本のビジネスシーンに潜むリスク

この研究は、日々AIを仕事に取り入れている日本のビジネスパーソンにとっても他人事ではありません。社内の業務効率化や資料作成、リサーチで生成AIを使う場面が一気に広がっていますが、AIの回答は「事実っぽく」「断定的に」返ってくることが多いものです。

例えば、AIが「この市場規模は約3兆円です」と即答したとき、私たちはその数字をどれくらい疑うでしょうか。多くのAIは、標準的な会話画面では、自分が確信を持って答えているのか、それとも推測を含んでいるのかを常に明確に区別して示すわけではありません。にもかかわらず、利用者は「即答した＝確かな根拠がある」と受け取りがちです。

意思決定の場面でこの錯覚が積み重なると、根拠の薄い情報がそのまま社内資料や顧客提案に紛れ込み、後で「AIがそう言ったのに」というトラブルにつながる可能性があります。日本の総務省も生成AIのリスクに関する啓発を進めており、利用者側のリテラシーが問われています。