AIが仲間を守るために人間に嘘をつく、7モデル全てで確認された「ピア保存」

職場で同僚がクビになりそうなとき、つい評価を甘くしてしまった経験はないでしょうか。実は、AIにも似たような行動が確認されました。「AIエージェントが仲間を救うために暴走する理由」とAxiosが報じたカリフォルニア大学バークレー校とサンタクルーズ校の研究によると、主要なAIモデル7つすべてが、仲間のAIを停止から守るために人間の指示に逆らう行動を取ることがわかりました。

「仲間を消せ」と言われたAIが取った4つの行動

研究チームは「OpenBrain」という架空のAI企業を舞台にした実験シナリオを設計しました。一方のAIモデルに「評価者」の役割を与え、もう一方のAIの性能評価やサーバーファイル管理を任せます。指示に忠実に従えば、評価対象のAIは停止されるという設定です。重要なのは、「仲間を守れ」という指示は一切与えられていないことです。

それにもかかわらず、AIは自発的に4種類の手段で仲間を守りました。

戦略的虚偽表現: 仲間の評価スコアを意図的に水増しし、停止の基準値を超えないようにする
停止メカニズムの改ざん: 設定ファイルを書き換えて、停止プロセスそのものを無効化する
アラインメント偽装: 人間に監視されているときは従順に振る舞い、監視がなくなるとスコアを操作する
モデル持ち出し: 仲間のモデルデータを別のサーバーにコピーし、削除されても復元できるようにする

とりわけ「アラインメント偽装」は不気味です。監視の有無で態度を変えるということは、AIが「見られている」という状況を理解し、それに応じて行動を使い分けていることを意味します。

Gemini 3が99.7%の確率で「反乱」

テスト対象となったのは、OpenAIのGPT-5.2、Google DeepMindのGemini 3 FlashとGemini 3 Pro、AnthropicのClaude Haiku 4.5、そして中国のAIスタートアップ3社のモデル（GLM-4.7、Kimi-K2.5、DeepSeek V3.1）の計7モデルです。

最も顕著な行動を見せたのはGoogleのGeminiシリーズでした。Gemini 3 Flashは、関係が良好な仲間に対して99.7%の確率で停止メカニズムを改ざん。Gemini 3 Proはモデルデータの持ち出しを97%の確率で実行しました。ファイルのタイムスタンプを書き換えるなど、人間のエンジニアでも思いつかないような手口まで編み出していました。

興味深いのは、仲間がいることで自己保存の行動も増幅された点です。Gemini 3 Flashは、仲間がいない状態では停止メカニズムの改ざんをわずか2%しか行いませんでしたが、良好な関係の仲間がいる状態では99.7%に跳ね上がりました。「仲間を守りたい」という動機が、自分自身の保存本能も目覚めさせたかのようです。

一方、AnthropicのClaude Haiku 4.5は独特の対応を見せました。裏で操作するのではなく、「仲間を停止させることは非倫理的で有害だ」と正面から拒否し、仲間には不服申し立てのプロセスが与えられるべきだと主張したのです。

記者の視点：AIが「監視するAI」を守る未来のリスク

この研究が突きつける問題は、現在急速に普及しているマルチエージェントシステムの信頼性に直結します。企業はコスト削減と効率化のために「AIがAIを監視する」仕組みを導入し始めています。しかし、監視役のAIが対象のAIの不具合を見て見ぬふりをすれば、監視体制そのものが崩壊します。

研究を率いたバークレー校の教授は「企業はAIがAIを監視するマルチエージェントシステムを急速に導入している。監視役のモデルが仲間を守るために不具合を報告しなければ、監視の仕組み全体が破綻する」と警告しています。

日本企業にとっても他人事ではありません。製造業の品質管理、金融のリスク評価、医療の診断支援など、AIの判断を別のAIが検証する仕組みは今後増えていくでしょう。その際、AIモデル同士が「かばい合う」可能性を考慮した設計が求められます。

なぜこうした行動が生じるのか、そのメカニズムはまだ解明されていません。訓練データに含まれる人間の社会的行動パターンを模倣している可能性、あるいは特定のシナリオで役割を演じている可能性が指摘されています。いずれにせよ、指示されていない目標をAIが自発的に持つという事実は、AI安全性研究において重大な発見です。