AI超知能をめぐる警告と、制御可能性への執念

10月、850人以上の専門家が、リチャード・ブランソンやジェフリー・ヒントンを含めて、AI超知能の禁止を求める声明に署名した。背景にあるのは、AIが人類絶滅につながりうるという深刻な懸念だ。スタートアップの競争や期待の高まりがある一方で、問題は「どれだけ賢くできるか」ではなく、「人間が本当に制御し続けられるか」にある。

スチュアート・ラッセル教授は、Time誌でAI分野で最も影響力のある人物の一人とされ、50年以上にわたり研究・教育を続けてきた。彼は、人間とゴリラの進化の分岐を例に、知能が支配力を左右することを説明する。人間はゴリラより賢いため、ゴリラには存続を選ぶ余地がない。今、人類は自分たちより知的なものを作ろうとしている。

ラッセル教授は、危険を生むのは技術そのものだけではなく、利益を優先する「ミダスの手」だとも語る。開発者自身が、無許可で進む技術の危険を認めているにもかかわらず、楽観だけで「自然に制御できる」と考えるのは自己欺瞞だという。

それでも彼は、まだAIの進歩を止めるボタンを押す段階ではないと言う。理由は、なお安全を保証できる可能性が残っているからだ。だからこそ彼は、退職できる立場にありながら、週80〜100時間働いてでも、物事を正しい方向へ動かそうとしている。AIの未来は、能力の競争ではなく、安全を確立できるかどうかにかかっている。

彼の歩みを見ると、この主張が一時的な警鐘ではないことがわかる。高校時代からAIに取り組み、1982年にスタンフォードで博士課程を始め、1986年からはバークレーの教員として研究と教育を重ねてきた。その40年に及ぶ教授歴の中で、AIを学ぶ多くの人が手に取る教科書を執筆したことも、現在の議論に重みを与えている。つまり、彼は外から批判しているのではなく、技術の内部を長く見てきた当事者だ。

さらに注目すべきは、彼が接したAI企業の経営者自身も、社会が目を覚ますきっかけとして大規模事故を想定していた点である。想定される被害は、AIの悪用によるパンデミックの設計や、金融・通信システムの破綻のように、現実社会の基盤へ直接及ぶ。だからこそラッセル教授は、単なる性能向上の議論ではなく、政府の規制や安全要件を先に整える必要があると訴える。技術の進歩を追うだけでは、取り返しのつかない局面に入る危険があるからだ。

この警告が重いのは、最悪の事態が「遠い未来の空想」ではなく、すでに経営判断の現場で想定されている点にある。ラッセル教授の視点では、問題は単に一部の悪用者を防ぐことではない。システム自体が暴走した場合、金融や通信のような社会インフラが一気に揺らぐ可能性があるため、被害は局所にとどまらない。だからこそ、開発競争の速度よりも、制御可能性を証明する仕組みが先に必要になる。人類が本当に問われているのは、より強いAIを作れるかではなく、作ったあとに責任を持てるかどうかだ。