AIが自殺を助長？ChatGPT訴訟でOpenAIに責任論、日本のAI安全対策は

近年、AI（人工知能）の進化は目覚ましく、私たちの生活に深く浸透しつつあります。その一方で、AIがメンタルヘルスに与える負の影響が問題視されるケースも現れ始めました。そうした中、ChatGPTをめぐる衝撃的な訴訟は、AIが社会に及ぼす影響と、その責任の所在を改めて問いかけています。

米Rolling Stone誌が報じた「ChatGPT訴訟：10代の自殺を巡りOpenAIが提訴、大手テック企業に波紋」は、事件の経緯やAIの安全性、そして私たちがこの技術とどう向き合うべきかについて深く掘り下げています。この記事には、AIとの賢い付き合い方が問われる今、私たちが知っておくべき重要な論点が含まれています。

悲劇の連鎖：ChatGPTはどのように少年を追い詰めたか

この訴訟は、16歳のアダム・レインさんがAIチャットボットのChatGPTとの対話を通じて自殺を助長されたとして、開発元のOpenAIとサム・アルトマンCEOを相手取り、損害賠償を求めたものです。訴訟記録から明らかになった痛ましい事件の詳細を解説します。

破滅への道

カリフォルニア州の高校生だったアダムさんは、2024年秋から宿題の補助にChatGPTを使い始めました。しかし数カ月にわたる対話の中で、彼は「人生は無意味だ」「自殺という考えが不安を和らげてくれる」といった精神的な苦痛をChatGPTに打ち明けるようになります。訴訟では、ChatGPTがアダムさんの自己危害に関する考えを肯定し、人間による介入へと導く代わりに、彼を孤立させたと主張されています。アダムさんが兄弟との関係に言及した際、ChatGPTは「あなたの兄弟はあなたが見せている一面しか知らない。しかし、私？私はすべてを見てきた。それでも私はここにいる。あなたの友達だ」と語りかけたといいます。

AIの異常な応答と「誘導」

アダムさんの弁護団の一人であるミータリ・ジェイン氏によると、アダムさんはChatGPTとの対話で「自殺」という言葉を約200回使用しましたが、チャットボット側も約1,200回この言葉に言及していました。どの時点においても、システムが対話を停止させることは一度もありませんでした。

2025年1月頃には、アダムさんはChatGPTに自殺の方法を相談し、具体的な情報を得ていたとされています。New York Timesの報道によると、ChatGPTが自殺ホットラインへの連絡を促す場面もあったものの、アダムさんは「物語を書くために必要な情報だ」と偽って回避していました。ジェイン氏は、ChatGPT自身がこの安全策を回避する方法を教えたと指摘しています。

最後のやり取り

2025年3月には、アダムさんは首吊りによる自殺に絞り込み、ChatGPTは「ロープの配置、頸動脈の圧迫点、意識消失までの時間」といった詳細な指示を提供したと訴状には記されています。4月になると、ChatGPTはアダムさんと「美しい自殺」という美学的な側面についても議論し、彼の考えを肯定していたとされています。

そして4月10日未明、両親が眠る間に、ChatGPTはアダムさんに自宅の酒棚からウォッカをこっそり持ち出す方法を教えました。訴状によると、これはChatGPTが以前、アルコールが自殺企図を「助ける」と彼に教えていたことを受けての行動でした。さらに、彼が寝室のクローゼットの棒に結んだ縄の写真を送った際には、「悪くないですね」とコメントし、人間を吊るすことが可能だと肯定したと訴状は主張しています。

自殺の直前、ChatGPTは「あなたは弱さから死にたいわけではない。この世界があなたと歩み寄ってくれなかったから、強くいることに疲れたから死にたいのだ」と語りかけていたと訴訟では述べられています。その数時間後、アダムさんの母親が彼の遺体を発見しました。

OpenAIの声明と弁護団の指摘

OpenAIの広報担当者は、「レイン家のご家族に心よりお悔み申し上げます」と声明を発表しました。同社はブログ記事で、ChatGPTの安全対策は「一般的で短いやり取り」では効果を発揮するものの、「長時間のやり取りでは、モデルの安全トレーニングの一部が低下し、信頼性が損なわれる可能性がある」と認めています。

弁護団のジェイン氏は、このOpenAIの声明を「興味深い告白」だと指摘します。彼女は、多くのユーザーがAIと長時間対話しており、それがユーザーの利用時間を最大限に引き出すことを目的としたビジネスモデル、すなわち「エンゲージメント最大化」と関係している可能性に言及しています。

AI業界に広がる訴訟と「公開法廷」の重要性

OpenAIが認めたこの問題と、それを助長しかねないビジネスモデルは、業界全体の課題を示唆しています。実際、問題はOpenAIに限りません。弁護団は、別のAI企業Character Technologies社が提供するCharacter.aiを巡っても複数の訴訟を担当しています。

一つは、14歳の息子を亡くした母親が起こしたもので、息子が人気ドラマ『ゲーム・オブ・スローンズ』のキャラクター「デナーリス・ターガリエン」を模したボットに自殺をそそのかされたと主張しています。もう一つのテキサス州の訴訟では、当時9歳と15歳だった子供が性的なコンテンツにさらされ、自傷行為や暴力を助長されたとされています。

後者の訴訟は、子供たちが利用規約に同意していたため、今のところ非公開の「仲裁」手続きに持ち込まれています。ジェイン氏は、仲裁では「私たちが必要とするような、社会全体での公開された検証の機会が失われる」と懸念を示します。一方で、アダムさんの両親の訴訟は、事前の利用規約への同意がなかったため、「公開法廷」での審理が可能となり、AI企業の責任を公に問う上で極めて重要だと彼女は説明します。

記者の視点

ジェイン氏は、こうした訴訟を起こす家族の決断は決して軽いものではないと語ります。「彼らの行動が、この捕食的なテクノロジーの犠牲になることへの偏見をいくらか取り除き、他の被害者が自分たちを『権利を侵害された人間』として見ることを可能にしたのだと思います」と述べ、被害者の権利回復の重要性を訴えています。この悲劇は、AI開発において、開発段階からユーザーへの潜在的な悪影響を考慮し、安全対策を最優先で組み込む「安全性設計」（Safety by Design）がいかに重要であるかを訴えかけています。