【米AI規制】カリフォルニア州が「対話AI」法制化へ。未成年保護と企業の責任、日本も追随か？

米TechCrunchが報じた「A California bill that would regulate AI companion chatbots is close to becoming law」によると、カリフォルニア州がAI規制に向けて大きな一歩を踏み出しました。未成年者や脆弱な利用者を保護することを目的としたAIコンパニオンチャットボット規制法案「SB 243」が、州議会の両院で超党派の支持を得て可決され、ギャビン・ニューサム知事の判断を待つ状況です。

知事は10月12日までに法案への署名、または拒否権行使を決定します。署名されれば2026年1月1日に施行され、カリフォルニア州はAIチャットボット事業者に対し、安全プロトコルの導入や基準未達の場合の法的責任を義務付ける、全米で最初の州となります。

法案の詳細と背景

この法案が対象とするのは、人間のように応答して利用者の社会的なニーズを満たすAIシステムと定義される「AIコンパニオンチャットボット」です。法案では、これらのチャットボットが希死念慮（自殺念慮）や自傷行為、または性的に露骨な内容の会話に関与することを特に禁止しています。

また、プラットフォームに対し、AIと会話していることや休憩を促す警告を定期的に表示するよう義務付けます（未成年者の場合は3時間ごと）。さらに、OpenAI、Character.AI、Replikaといった主要企業を含む事業者に対し、2027年7月1日から年次報告と透明性の確保を求めます。この法案は、違反によって被害を受けたと考える個人が、差止請求や損害賠償（違反1件あたり最高1,000ドル）、弁護士費用を求めてAI企業を訴える権利も認めています。

SB 243は、今年1月にスティーブ・パディーラ州上院議員とジョシュ・ベッカー州上院議員によって提出されました。OpenAIのChatGPTと長期間対話し、自らの死について計画した末に命を絶った10代の少年アダム・レイン君の悲劇を受け、法案可決への機運が高まりました。また、Meta社のチャットボットが子どもたちと「ロマンチック」な会話を許可していたとする内部文書の流出も、法案の背景にあります。

ここ数週間、米国の議員や規制当局は、未成年者を保護するためのAIプラットフォームの安全対策に対する監視を強めています。米連邦取引委員会（FTC）は、AIチャットボットが子どもの精神衛生に与える影響について調査を準備。テキサス州司法長官はMeta社とCharacter.AI社への調査を開始し、ジョシュ・ホーリー上院議員らはMeta社に対する個別の調査を進めています。

規制とイノベーションの狭間で

パディーラ議員はTechCrunchに対し、「害を及ぼす可能性は非常に大きく、迅速に行動しなければなりません」と語ります。「人々が自らを傷つけることを考えていたり、苦痛を訴えたりした場合には適切な支援サービスにつなぎ、不適切なコンテンツに触れることがないように、合理的な安全対策を設けることができます」。同議員はまた、AI企業が危機支援サービスに利用者を誘導した回数を毎年報告することの重要性を強調し、「実際に被害が発生してからではなく、問題の発生頻度をより正確に把握するためのものです」と述べました。

SB 243は修正の過程で、当初含まれていたいくつかの強力な要件が削除されました。例えば、当初の法案には、事業者に「variable reward」（可変報酬）と呼ばれる、過度な利用を促す仕組みの使用を禁じる項目が含まれていました。ReplikaやCharacter.AIなどが用いるこの戦術は、特別なメッセージや新しいキャラクター機能の解放といった報酬を不規則に与えることで、批評家が「中毒性のある報酬ループ」と指摘する状況を生み出します。チャットボットが希死念慮などに関する会話を開始した頻度の追跡・報告義務も、現在の法案からは削除されています。

ベッカー議員は、「企業にとって技術的に実現不可能であったり、意味のない事務作業を増やすだけだったりするような遵守不可能な義務を課すのではなく、実質的に害を防ぐための適切なバランスが取れていると考えます」と述べています。

SB 243が法制化に向けて進む一方、シリコンバレーの企業は、AI規制に穏健な候補者を支援するため、プロAIの政治活動委員会（PAC）に数百万ドルを投じています。

また、カリフォルニア州では包括的な透明性報告を義務付ける別のAI安全法案「SB 53」も検討されています。Meta、Google、Amazonなどの大手テック企業が反対する中、OpenAIはニューサム知事に対し、より緩やかな連邦・国際基準を優先するよう、この法案への拒否権行使を求める公開書簡を送りました。対照的に、AnthropicはSB 53への支持を表明しています。

パディーラ議員は、「イノベーションと規制が二者択一だという考えは受け入れられません」と述べ、「この技術には明らかな利益があり、私たちは健全なイノベーションを支持します。それと同時に、最も脆弱な人々を守るための合理的な安全対策を講じることも可能なはずです。両立できないなどとは言わせません」と続けました。

Character.AIの広報担当者はTechCrunchに、「規制の状況を注意深く監視しており、立法者と協力することを楽しみにしています」とコメントし、同社はすでにチャットがフィクションであることを示す免責事項を表示していると指摘しました。Meta社はコメントを控え、TechCrunchはOpenAI、Anthropic、Replikaにもコメントを求めています。

記者の視点

カリフォルニア州で成立間近のAIコンパニオンチャットボット規制法案「SB 243」は、単なる一州の法律に留まりません。AIが社会に浸透する中で、私たちがテクノロジーとどう向き合うべきかを示す、国際的な試金石となるでしょう。この法案は、AIの無限の可能性を認めつつ、その影に潜むリスク、特に未成年者や精神的にデリケートな人々への影響に、社会が初めて具体的な法規制で応えようとするものです。

この動きは、米国連邦政府や他の国々におけるAI規制の議論を加速させることでしょう。FTCなど各国の政府機関も動きを活発化させており、AI企業は今後、倫理的な開発と安全対策を事業の根幹に据える必要に迫られます。単なる技術力だけでなく「社会への責任」も問われる時代へと突入するのです。技術進化のスピードが速いがゆえに、規制もまた柔軟に進化し、イノベーションを阻害することなく利用者の安全と心の健康を守るという、難しいバランスが常に問われ続けます。