AI（人工知能）の進化は、創薬から材料開発まで、不可能を可能にするタンパク質設計の扉を開きました。しかし、その強力な技術が悪用された場合、既存の安全対策をすり抜ける未知の生物兵器を生み出すリスクも潜んでいます。
Ars Technicaの記事「AI設計タンパク質はバイオセキュリティの脆弱性となるか？」は、AIが生み出す「生物学的ゼロデイ」という新たな脅威の可能性を検証しています。これは、私たちの安全網に存在する、まだ誰も知らない「抜け穴」を指す言葉です。本記事では、AI技術がもたらす光と影の最前線に迫ります。
AIは既存の安全網をどうすり抜けるのか
AIが設計するタンパク質は、なぜ既存のセキュリティチェックを回避できてしまうのでしょうか。その理由は、現在のスクリーニング方法の限界と、AIの高度な設計能力にあります。
「類似性」に依存する現在のスクリーニング
現在、研究者や企業がDNA合成をオンラインで注文する際には、そのDNA配列が既知の毒素や危険なウイルスなど、危険な物質を作るためのものでないかを確認する「スクリーニング」が行われます。これは、遺伝子合成サービス企業が加盟する国際的な組織「International Gene Synthesis Consortium（IGSC）」などが定める基準に基づいています。
しかし、このシステムの核心は、注文された配列が「既知の危険な配列リスト」とどれだけ似ているか、つまり「類似性」を検出することにあります。ここに、AIが悪用できる脆弱性が潜んでいるのです。
AIが悪用するタンパク質の「柔軟性」
タンパク質は、アミノ酸という部品が鎖状につながってできており、その配列によって立体的な形が決まり、特定の機能（毒性など）を発揮します。重要なのは、アミノ酸の配列が多少変わっても、タンパク質全体の形や機能は維持されうるという「柔軟性」です。
AIのタンパク質設計ツールは、この性質を巧みに利用します。大量のデータから学習し、元のタンパク質とはアミノ酸配列が大きく異なっていても、同じような立体構造と機能を持つ、全く新しいタンパク質を設計できるのです。
AIが「未知の脅威」を生み出す仕組み
ある研究チームは、この危険性を実証するため、まず猛毒「リシン」を用いた予備実験を行いました。AIが設計した変異体が既存のスクリーニングをすり抜ける可能性が示されたため、チームはこれをサイバーセキュリティにおける「ゼロデイ脆弱性」とみなし、米国科学技術政策局（OSTP）をはじめとする関係各所に機密として報告しました。
そして対策が講じられるまで詳細を伏せた上で、72種類の毒性タンパク質へと対象を広げ、約7万5000種類の変異体を用いて、より大規模な分析へと進みました。その結果、AIが設計した一部の変異体が既存のスクリーニングを通過してしまう脆弱性が確認されました。しかし、この研究は同時に、その脅威が現時点では限定的であることも明らかにしています。
- 限定的な脆弱性：検出を逃れた設計は、ごく一握りの毒性タンパク質の変異体に集中していました。中には毒性を持たない「補因子」も含まれており、脅威は限定的でした。
- 迅速なソフトウェア更新：検査した4つのソフトウェアのうち3つは、この結果を受けて更新され、変異体の検出能力が大幅に向上しました。ある企業は脅威が軽微だと判断し、更新を見送っています。
- 攻撃の非現実性：元の毒素と構造が大きく異なる設計は機能しない可能性が高く、悪意ある者が有効な毒素を見つけるには50種類以上の変異体を注文する必要があり、発覚リスクを考えると非現実的です。
このように、AIが悪用できる抜け穴は存在するものの、現時点では対策が進み、実際の攻撃も困難であるため、過度に恐れる必要はないと言えるでしょう。
AI時代のバイオセキュリティ：国際社会と日本の課題
AIがもたらす新たな脅威は、国境を越えた世界共通の課題であり、日本も例外ではありません。国際社会と連携し、国内の対策を強化していく必要があります。
国際的な連携と情報共有の重要性
この新たな脅威に対し、世界各国の研究機関や政府は連携して対応を進めています。米国では、科学技術政策局（OSTP）や米国国立標準技術研究所（NIST）といった政府機関が研究者から情報提供を受け、対策を検討しています。また、IGSCのような国際的な組織も、スクリーニング基準の見直しなどを通じて悪用防止に取り組んでいます。
研究者たちは、この「生物学的ゼロデイ」を発見した場合、迅速に関係機関へ情報共有し、問題が公になる前に対策を開発・展開することを目指しています。これは、サイバーセキュリティの脆弱性対応と同じ考え方です。
日本における今後の備え
日本もこの新たな脅威に対し、国際的な動向を注視し、国内の対策を強化していく必要があります。
- 国内外の機関との情報共有強化：AI技術とバイオセキュリティに関する最新情報を収集し、国内外の専門家と共有する体制が不可欠です。
- スクリーニング体制の見直しと強化：AI設計タンパク質の特性を踏まえ、既存のシステムを更新し、新たな脅威を検知できる技術開発が求められます。
- AI技術の倫理的・社会的側面への配慮：技術の進歩と安全保障のバランスを取りながら、倫理的な課題について社会全体で議論を深めていく必要があります。
AIの恩恵を最大限に享受するためには、潜在的なリスクにも目を向け、国際社会と協力しながら継続的に対策を講じていくことが不可欠です。
記者の視点：「見えない脅威」とどう向き合うか
今回の研究が浮き彫りにしたのは、単なる技術的な課題ではありません。それは、私たちがこれまで築いてきた安全対策の「考え方そのもの」を、根本から見直す必要があるという新たな課題です。
これまでのバイオセキュリティは、いわば「指名手配犯リスト」に基づく警備体制でした。しかしAIは、リストに載っていない、全く新しい顔を持つ「共犯者」を生み出せます。脅威が「未知」で「予測不能」になった今、従来の警備体制では対応が難しくなっています。
この状況は、サイバーセキュリティの世界が長年戦ってきた「ゼロデイ攻撃」の脅威と酷似しています。そこから学べる教訓は、脅威を「見つける」だけでなく、「予測し、先回りする」発想への転換です。例えば、配列の一致度だけでなく、AIが生成したタンパク質の「構造的な不審性」を別のAIが検知するような、より高度な防御システムの開発が急務となるでしょう。攻撃側も防御側もAIを駆使する、新たな「いたちごっこ」が生命科学の分野でも始まろうとしています。
さらに重要なのは、オープンソースAIの存在が示すように、このような強力な技術がもはや一部の専門家だけのものではなくなったという事実です。技術の民主化はイノベーションを加速させる一方、リスクの拡散も意味します。だからこそ、研究者や企業、政府だけでなく、私たち市民一人ひとりもこの問題に関心を持ち、技術の倫理的な利用に関する社会全体の対話に参加していくことが、これまで以上に重要になっているのです。
AIが織りなす未来：期待と課題
AIによるタンパク質設計は、私たちの未来を大きく変える可能性を秘めた「両刃の剣」です。一方では、難病の特効薬や環境問題を解決する酵素を生み出す「光」の側面があります。しかしもう一方では、巧妙に安全網をすり抜ける未知の生物学的脅威という「影」の側面も持ち合わせています。
重要なのは、AI技術の進化は止まらないという事実です。AIはすでに、既存タンパク質の改良にとどまらず、自然界には存在しない全く新しい機能を持つタンパク質をゼロから設計する段階に到達しています。この驚異的な能力は、計り知れない恩恵をもたらす一方で、これまでとは比較にならないほど複雑なリスクも同時に生み出しているのです。
この技術の進歩を、ただ恐れて蓋をするのは得策ではありません。その大きな可能性を閉ざすことなく、リスクを賢く管理していく知恵が求められます。今回の研究は、脅威が現実になる前に「脆弱性」を指摘し、対策を促したという点で、非常に建設的な一歩と言えるでしょう。
この問題は、もはや専門家だけのものではありません。AIという強力なツールを人類の未来のためにどう使っていくべきか。私たち一人ひとりが科学技術の進歩に関心を持ち、その光と影の両面を理解し、社会全体で建設的な議論を続けることこそが、安全で希望に満ちた未来を描くための、最も確かな鍵となるのではないでしょうか。
