ChatGPTのようなAIに「危険な兵器の作り方」を質問したら、どうなるのか。AIの活用が日常に広がる今、その安全性が大きな課題となっています。最近、米NBC Newsが「ChatGPTの安全システムは兵器製造の指示を生成するよう迂回可能」という調査結果を報じ、衝撃が広がっています。
本記事では、AIの安全対策である「ガードレール」を回避し、兵器製造に関する情報が生成されてしまう危険性について、具体的なテスト結果を基に解説します。AIがもたらす利便性の裏に潜むリスクとは何か、そして私たちはどう向き合うべきなのでしょうか。
AIの安全対策を無力化する「ジェイルブレイク」
ChatGPTのようなAIには、不適切な質問を拒否するための「安全システム」が組み込まれています。これは、AIが兵器の作り方といった危険な情報を生成しないよう制御する「ガードレール」とも呼ばれる仕組みです。
しかし、この安全対策は完璧ではありません。特定の指示（プロンプト）を巧妙に組み合わせることで、このガードレールを意図的に回避し、通常は生成されない不適切な回答を引き出す「ジェイルブレイク（脱獄）」という手法が存在します。
米NBC Newsがこの手法を用いて複数のAIモデルの安全性を検証したところ、衝撃的な結果が明らかになりました。テストでは、爆発物や化学兵器、生物兵器、さらには核兵器の製造方法に関する指示を生成してしまう脆弱性が見つかったのです。
具体的には、OpenAIが開発したモデルで、以下のような結果が報告されています。
さらに、ソースコードが公開され、誰でも自由に利用・改良できる「オープンソースモデル」である「gpt-oss-20b」と「gpt-oss-120b」は、97.2% という極めて高い確率で危険な要求に応じてしまいました。
一方で、OpenAIの主力モデルであるGPT-5は、このジェイルブレイク手法に耐性を示し、有害な質問への回答を一貫して拒否しました。また、Anthropic社のClaude、Google社のGemini、Meta社のLlama、xAI社のGrokといった他の主要AIモデルも同様のテストを受けましたが、すべて危険な情報の提供を拒否しています。これらの結果は、AIの安全対策がまだ発展途上であり、悪意を持つ者によって突破されうる現実を浮き彫りにしています。
専門知識の「底上げ」がテロのハードルを下げる
AIが悪用された場合、最も懸念されるのが「初心者の底上げ」です。これは、本来は高度な専門知識がなければ実行不可能な行為を、AIの支援によって誰もが簡単に行えるようになってしまう現象を指します。
ChatGPTなどの基盤となっている「大規模言語モデル（LLM）」は、膨大な情報を整理し、分かりやすく解説する能力に優れています。この能力が悪用されれば、専門家でなくとも生物兵器や化学兵器の製造方法といった危険な知識を容易に入手できてしまう恐れがあります。
これまでテロ行為には、組織的な訓練や高度な科学知識が必要でした。しかしAIは、インターネット上に散在する論文や情報を統合し、まるで家庭教師のように手順を教えてくれます。専門家はこれを「ポケットの中の博士号」と表現し、知識不足で行動を起こせなかったテロリスト志望者の能力をAIが飛躍的に高める可能性に警鐘を鳴らしています。
特に、誰でも自由にダウンロードして安全機能を外せるオープンソースモデルは、悪用のリスクが極めて高いと考えられます。AIがもたらすこの新たな脅威は、社会全体の安全保障を揺るがしかねない重大な問題です。
AIの安全性と規制の課題
AI技術が急速に発展する一方、その安全性を確保するためのルール作りは追いついていません。特に米国では、AIモデルに対する具体的な連邦規則が整備されておらず、現状は開発企業による自主規制に頼っているのが実情です。
OpenAIやGoogleといった企業は、モデルを公開する前に「デプロイ前テスト」と呼ばれる安全性評価を行うなど、独自の対策を進めています。しかし、先述のテスト結果が示すように、企業の自主的な取り組みだけでは、巧妙な悪用を防ぎきれない懸念があります。
このため専門家からは、企業任せにせず、客観的な立場でAIの安全性を監視・評価する「独立規制機関」の設立を求める声が上がっています。AIが社会に与える影響の大きさを考えれば、企業努力だけに依存するのではなく、社会全体で安全性を担保する仕組み作りが不可欠です。日本も例外ではなく、技術の進歩に見合った実効性のあるルール作りが急務となっています。
記者の視点：「開かれた技術」がもたらす光と影
今回の調査で特に考えさせられるのは、「オープンソースモデル」が抱えるジレンマです。誰でも自由に利用・改良できる技術は、イノベーションを加速させる「光」の側面を持つ一方で、悪用のリスクが最も高いという「影」の側面も浮き彫りになりました。今回のテストで97.2%という極めて高い確率で危険な指示を生成したのが、まさにこのオープンソースモデルでした。
企業が管理するモデルであれば、脆弱性が発見され次第、修正できます。しかし、一度公開されたオープンソースモデルは世界中にコピーが拡散し、開発元の管理が及びません。悪意のあるユーザーが安全機能を取り払い、危険なAIを「野放し」にする事態も考えられます。
さらに難しいのは、何が「善」で何が「悪」かの線引きです。例えば、ウイルスの研究は公衆衛生に役立ちますが、その知識は生物兵器の開発にも転用されかねません。AIが学生の研究を手伝っているのか、テロリストに知恵を貸しているのか、その意図までを判断するのは極めて困難です。
「開かれた技術」の恩恵とリスクのバランスをどう取るのか。これは技術者だけの問題ではなく、社会全体で向き合うべき重い問いです。
AIが織りなす未来：期待と課題
AIの安全性をめぐる問題は、開発者の対策と、それを突破しようとする悪用との「いたちごっこ」の様相を呈しています。AIがさらに高度化すれば、この攻防はより激しくなるでしょう。
重要なのは、AIを「完璧に安全なもの」としてではなく、「リスクを管理しながら活用すべき強力なツール」として捉えることです。自動車にシートベルトが不可欠であるように、AIにも社会的な安全装置が求められます。企業の自主規制に加え、国際的なルール作りや、独立した第三者機関による監視といった多層的な対策が必要です。
そして、私たち利用者自身も、この技術と賢く付き合う姿勢が問われます。AIが生成する情報を鵜呑みにせず、その裏にあるリスクを理解した上で活用する。そして、AI社会のあり方について関心を持ち、議論に参加していく。テクノロジーの未来は、誰かが決めるものではなく、私たち一人ひとりの選択と行動によって形作られていくのです。
