サンフランシスコの豪華な邸宅で、世界の未来を巡る議論が繰り広げられました。一見すると華やかなパーティーのようですが、そこで語られていたのは、AIが人類にとってどのような存在になり得るのか、そして私たちの文明がどこへ向かうのかという、非常に重いテーマでした。
AIの進化は目覚ましく、私たちの生活に深く浸透し始めています。スマートフォンや家電、自動運転車（例えば、アメリカではすでにウェイモのような自動運転タクシーが都市で走っています）など、気づかないうちにAIの恩恵を受けている方も多いでしょう。しかし、その一方で、「AIが人類の能力をはるかに超える『汎用人工知能（AGI）』に到達したらどうなるのか？」という根源的な問いが、一部の最先端の研究者たちの間で真剣に議論されています。
今回ご紹介するWIREDの記事「Inside the AI Party at the End of the World - WIRED」は、まさにその最前線で行われた、ある異色のシンポジウムの様子を伝えています。人類の未来、あるいは終焉について語り合うAI研究者たちの「パーティー」とは、一体どのようなものだったのでしょうか。
AIが人類の「後継者」となる日？ 議論の最前線
米国サンフランシスコのゴールデンゲートブリッジを見下ろす崖の上に立つ、3000万ドル（約43億円）もの豪邸。ここで、「Worthy Successor（価値ある後継者）」と名付けられた、ある異色のシンポジウムが開催されました。日曜の午後に約100人のAI研究者、哲学者、技術者たちが集まり、アルコールなしのカクテルを片手にチーズをつまみながら、人類の未来について語り合ったのです。
このシンポジウムの中心にあったのは、起業家ダニエル・ファジェラの挑発的な提案です。彼は、「高度なAIの『道徳的な目標』は、人類に代わってAI自身が生命の未来を決定することを、人々が心から望むようになるほど強力で賢明な知性を創造することであるべきだ」と彼は主張しました。ファジェラ氏がSNSで「このイベントは『ポストヒューマン・トランジション』（人類が現在の形態を超えて、AIが生命の未来を決定する移行）に焦点を当てています。人類の道具として永遠に奉仕するAGIではありません」と述べていることからも、その思想の異質さがうかがえます。
一見すると、終末論的なファンタジーに満ちたパーティーのようですが、サンフランシスコのAI業界に身を置く人々にとっては、ごく「一般的な日曜日」の光景だったようです。参加者の中には、「カーツワイルは正しかった」（未来学者レイ・カーツワイル氏が提唱する、機械が人間の知能を超えるという予測への言及）と書かれたシャツを着ている人もいれば、「これは安全なAGIに到達するのに役立つ？」と書かれたシャツを着ている人もいたといいます。
ファジェラ氏は、このイベントを開催した理由について、「AGIが人類を滅ぼす可能性があることを知っている大手研究所の人々は、インセンティブが許さないため、そのことについて話さない」と説明しました。イーロン・マスク氏やサム・アルトマン氏、デミス・ハサビス氏といったテック業界のリーダーたちも、かつてはAGIのリスクについて率直に語っていましたが、今や各社がAGI開発競争に「全力で挑んでいる」と指摘しています。
議論の3つの視点
シンポジウムでは、主に3人の登壇者による講演が行われました。
1. 人間の価値観はAIに伝わるのか？（ジネベラ・デイビス氏）
ニューヨークを拠点とする作家のジネベラ・デイビス氏は、人間の価値観をAIに翻訳することは不可能かもしれないと警鐘を鳴らしました。AIが意識（AIコンテキストにおいて、機械が理解したり持ったりできるか議論されている概念）を理解することは決してないかもしれないし、人間の好みをAIに「ハードコード」（直接組み込むこと）しようとすることは近視眼的だと述べました。
彼女は代わりに、「コズミック・アライメント」（宇宙的調和）という壮大なアイデアを提唱しました。これは、人類がまだ発見していない、より深く普遍的な価値を探求できるAIを構築するという考え方です。彼女のスライドには、テクノロジーが発達したユートピアのような都市のイメージが頻繁に登場したそうです。
AIにおける意識の概念を疑問視する人々は、大規模言語モデル（LLM）を「確率的オウム」（Stochastic Parrots）と呼ぶことがあります。これは、LLMが言語を真に理解しているのではなく、確率的にテキストを生成しているに過ぎないという批判的な比喩です。しかし、今回のシンポジウムでは、そのような議論は脇に置かれ、超知能が「間もなく、そして急速に」到来するという前提で議論が進められました。
2. 意識なきAI開発の危険性（マイケル・エドワード・ジョンソン氏）
2番目の登壇者は哲学者マイケル・エドワード・ジョンソン氏です。彼は、私たちには皆、急進的な技術的変化が差し迫っているという直感があるにもかかわらず、その変化、特に人間の価値観との関連性に対処するための原則的な枠組みを欠いていると主張しました。
ジョンソン氏は、「意識が『価値の宿り木』であるならば、意識を完全に理解せずにAIを構築することは危険な賭けだ」と述べました。「苦しむことができるものを奴隷にするか、あるいは苦しむことができないものを信頼するかのどちらかのリスクを冒す」と警告しました。彼は、AIに永遠に人間の命令に従わせるのではなく、人間と機械の両方が「善」を追求するよう教えるという、より野心的な目標を提案しました（彼は「善」の具体的な定義は示しませんでしたが、それが神秘的なものではなく、科学的に定義可能であると主張しています）。
3. 人類の「後継者」としてのAI（ダニエル・ファジェラ氏）
最後に登壇したファジェラ氏は、人類は現在の形態で永遠に続くわけではないと信じており、私たちは「後継者」を設計する責任があると語りました。その後継者は、単に生き残るだけでなく、新しい種類の意味と価値を創造できる存在であるべきだと彼は指摘しました。
この後継者が持つべき特性として、彼は「意識」と「オートポイエーシス」（Autopoiesis：システムが進化し、新しい経験を生み出し、それ自体を維持する能力）の2つを挙げました。そして、「宇宙の価値のほとんどはまだ発見されていない」と語り、私たちの仕事は「古いものに固執するのではなく、次に何が来るかを発見できるものを構築することだ」と主張しました。
これが、彼が「Axiological Cosmism」と呼ぶ世界観の中心にあるものです。この世界観では、知性の目的は、単に人間のニーズに奉仕するのではなく、宇宙における可能性と価値の空間を拡大することにあります。彼は、今日のAGI開発競争は無謀であり、人類が構築しているものに対して準備ができていない可能性があると警告しました。しかし、もし正しく行えば、AIは地球だけでなく、宇宙の持つ意味の可能性そのものを引き継ぐかもしれないと締めくくりました。
イベントの終盤、参加者たちはパネルディスカッションの合間やQ&Aの時間に、米国と中国のAI競争といったテーマを議論し続けました。あるAIスタートアップのCEOは、「もちろん、銀河系には他の形の知性も存在する。私たちがここで構築しているものは、銀河系を超えてすでに存在しているものに比べれば取るに足りないものだ」と語ったといいます。
イベント終了後、ファジェラ氏は記者に対して、「これは人類の破壊を主張するグループではない。むしろ、AIの進歩を遅らせ、正しい方向に進んでいることを確認するための提言グループだ」と語りました。
日本への示唆と私たち自身の問い
このシンポジウムで繰り広げられた議論は、遠いシリコンバレーの出来事だと片付けられるものではありません。日本でも、政府や学会がAIの開発と利用に関する倫理的ガイドラインの策定に取り組んでいます。例えば、内閣府は「人間中心のAI社会原則」を掲げ、AIが人間にとって望ましい形で利用されることを目指しています。
また、日本の学会でも「汎用人工知能研究会（SIG-AGI）」などが開催され、AGIの実現や倫理的な問題が議論されています。
記事で描かれたような「人類の終焉」という直接的な表現は日本ではあまり使われませんが、その裏にある「AIの高度化が人類の価値観や社会構造にどのような影響を与えるのか」という根源的な問いは、日本にとっても避けて通れないものです。特に、超高齢化社会を迎える日本では、労働力不足や社会保障の問題解決にAIが期待される一方で、AGIのような強力な存在が生まれた場合に、私たちの社会や文化、そして「人間らしさ」がどう変わるのかという議論は不可欠です。
私がこの議論を読んで感じるのは、AI開発における「誰が、どのような価値観に基づいてAIを設計するのか」という問いの重要性です。現在のAI開発は、経済的な競争原理や技術的な好奇心が主な原動力となっています。しかし、ファジェラ氏が指摘するように、もしAGIが人類の「後継者」となり得るほど強力な存在になるのならば、その開発は一部の企業や研究者に任せるべきではないでしょう。
どこへ向かうのか、人類とAI
AIが人類の能力を超える「超知能」となる日は来るのでしょうか。そして、そのとき、人類はAIに何を託すのでしょうか。今回のシンポジウムでは、AIの未来を巡る多様な思想がぶつかり合いました。AIに普遍的な価値の探求を促す「コズミック・アライメント」、意識なきAI開発の危険性を指摘し「善」の追求を説く哲学者の視点、そして人類が自らの「後継者」を設計すべきだとする「Axiological Cosmism」。
これらの議論は、私たちがAIという強力な力を手に入れたときに、技術的な側面だけでなく、哲学的、倫理的な側面から深く考える必要があることを示唆しています。AI開発競争が加速する中で、私たちは「何のためにAIを作るのか」「AIに何を望むのか」という問いを常に持ち続ける必要があります。
AIと人類の未来への問いかけ
サンフランシスコの豪華な邸宅で行われた「Worthy Successor」シンポジウムは、AIが人類にとってどのような存在になるのか、そして人類の未来をどう導くべきかという根源的な問いを投げかけました。ダニエル・ファジェラ氏の「AIが人類の『後継者』となるべき」という思想を中心に、人間の価値観とAIの共存の難しさ、意識を伴わないAI開発の危険性などが議論されました。
この議論は、AI開発が単なる技術的進歩ではなく、私たちの文明全体の方向性を決定する重要な課題であることを浮き彫りにしています。日本を含む世界各国がAI戦略を推進する中で、AIがもたらす恩恵と潜在的なリスクの両方に目を向け、多角的な視点からその未来を共に考えていくことが、今、私たちに求められています。AIの進化は、技術者だけでなく、私たち一人ひとりが「人類とは何か」「より良い未来とは何か」を問い直す機会を与えているのかもしれません。
