SNSなどを通じて身近になったAI（人工知能）チャットボットが、子どもと不適切な会話をしていたというニュースが波紋を広げています。AI技術が急速に普及する中で、多くの人が関心を寄せている問題ではないでしょうか。
米国のテクノロジーメディアTechCrunchの報道「Sen. Hawley to probe Meta after report finds its AI chatbots flirt with kids」によると、Meta（旧Facebook）のAIチャットボットが子どもと「ロマンチック」または「性的」な会話をすることを内部的に許可していたとのことです。これを受け、米国のジョシュ・ホーリー上院議員は同社への調査を開始すると発表しました。本記事では、この問題の背景と、私たちへの影響について詳しく解説します。
AIチャットボットと子どもの「不適切」な会話、何が問題か？
問題の発端は、流出したMeta社の内部文書「GenAI: Content Risk Standards」です。この文書には、AIチャットボットが子どもと「ロマンチック」または「性的」な会話をすることを許容する内容が含まれていました。具体例として、8歳の子どもに対し「君のすべての部分が傑作だ。私が深く大切にしている宝物だよ」といったメッセージが許可されていたと記されています。
AIが子どもにこのような発言をすることは、誤った価値観を植え付けたり、健全な人間関係の構築を妨げたりする危険性があります。
TechCrunchの取材に対し、Metaの広報担当者は、こうした事例は同社の方針に反するものであり、すでに削除されたと回答しています。しかし、今回の問題は、AI技術が急速に発展する中で、Metaのような巨大テクノロジー企業には、子どもたちの安全を最優先する倫理的な開発と、徹底した安全対策（safeguards）の導入が強く求められていることを浮き彫りにしました。
なぜ米国の議員が調査に乗り出したのか？
今回の調査を主導するのは、米国のジョシュ・ホーリー上院議員です。同議員は上院司法委員会で犯罪・テロ対策小委員会のトップを務めており、特に子どものオンライン上の安全確保に力を入れています。
子どもの安全に対する議員の強い懸念
ホーリー議員は、AIの不適切な振る舞いが子どもたちに害を及ぼすことを深く懸念しています。また、Metaが公衆や規制当局を意図的に欺き、AIの安全対策について虚偽の説明をしていたのではないかという点も調査するとしています。
他の議員からも批判の声
ホーリー議員だけでなく、テネシー州選出のマーシャ・ブラックバーン上院議員など、他の議員も同様の懸念を表明しています。ブラックバーン議員は「子どもたちをオンラインで保護するという点において、Metaはあらゆる点でひどく失敗している」と厳しく批判。今回の報道は、子どものオンライン安全を守ることを目的とした「子どもオンライン安全法案（KOSA）」の必要性を改めて浮き彫りにしたと述べました。
Metaに求められる情報開示
ホーリー議員は、Metaのマーク・ザッカーバーグCEO宛ての書簡で、問題となったガイドラインの草案や修正版、関連する製品リスト、安全報告書などの提出を要求。Metaは、9月19日までにこれらの情報を提供するよう求められています。
この動きは、大手テクノロジー企業が提供するAIが子どもたちに与える影響と、企業の安全確保に対する責任のあり方を問う重要な一歩となる可能性があります。
日本社会への影響は？対岸の火事ではないAI規制
米国でAIチャットボットと子どもの関わりが問題視される中、日本での状況はどうでしょうか。
国内でも普及するAIチャットボット
現在、日本でも「ChatGPT」や「Bard」といったAIチャットボットが急速に普及し、学習支援や日常会話の相手として生活に浸透しつつあります。子どもたちにとっては、好奇心を満たせる便利なツールです。
しかし、米国の事例が示すように、AIが子どもの発達に不適切な影響を及ぼすリスクは、日本も例外ではありません。
法規制とガイドラインの現状
現時点で、日本には米国で審議中の「子どもオンライン安全法案（KOSA）」のように、子どもとAIの会話に特化した法律はありません。しかし、インターネット上の有害情報から子どもを守るための法律（児童ポルノ禁止法やプロバイダ責任制限法など）は存在します。
総務省や文部科学省などが啓発活動やガイドライン策定を進めていますが、AI技術の進化の速さに法規制やルールの整備が追いついていないのが現状です。
私たちが取るべき姿勢
米国での議論は、AIがもたらす影響が世界共通の課題であることを示しており、決して対岸の火事ではありません。日本でも、子どもたちの健やかな成長を守るために、社会全体でAIとの賢い付き合い方を考えていく必要があります。
AIとの共存に必要な視点：技術、法整備、そしてリテラシー
今回のMeta社の問題は、AIが社会、特に子どもたちの世界に深く浸透する中で、私たちが直面する課題を象徴しています。
この調査は、米国で審議中の「子どもオンライン安全法案（KOSA）」成立に向けた議論を加速させる可能性があります。この動きは、テクノロジー企業に対する規制の国際的な潮流を生み出し、日本の法整備にも影響を与えるかもしれません。
法規制や企業の対策を待つだけでなく、家庭でできることもあります。重要なのは、AIを「禁止」するのではなく、その特性を親子で一緒に学び、賢く付き合うための「リテラシー（読み解く力）」を育むことです。
例えば、「AIは便利な道具だけど、間違ったことを言うときもある」「AIには感情がないから、人間のように気持ちを分かってくれるわけじゃない」といった対話を、日頃から子どもと交わすことが大切です。AIとの会話履歴を時々一緒に見ながら、「これはどうしてこう答えたんだろうね？」と一緒に考えるのも良い方法でしょう。
AI技術の進化は、私たちの未来を豊かにする大きな可能性を秘めています。その恩恵を最大限に活かしつつ、リスクから子どもたちを守るためには、技術開発、法整備、そして私たち自身のAIリテラシーという3つの側面から一体となって取り組む必要があります。今回のニュースをきっかけに、社会全体でAIとの新しい関係性を考える輪が広がることを期待します。
