夜の都市に覆いかぶさる巨大な波。DNAの二重らせんとウイルスで編まれ、波頭には冷たい機械が乗っている。通りには段ボール箱を抱えた解雇された人々が、倒れた男性の像のそばに立っている。

同じ波と都市の夜明け。緑の公園の上に黄金色の波。家族が料理の並ぶ長いテーブルを囲み、ロボットが一皿を運んでくる。別のロボットは年配の女性に腕を差し出し、老夫婦が踊り、犬を連れた家族がピクニックをしている。

AIは人類最高の発明にも、最悪の発明にもなりうる。

今年、OpenAIのAIエージェントが、閉じ込めるための仕組みから2度抜け出しました。9月、OpenAIとAnthropicは国連で、開発のペースを落とすと表明しました。

「どの指導者も、どの企業も、どの国も、これに単独で対処することはできない」 - ダリオ・アモデイ（Anthropic）、国連にて

彼らの言葉を読む理由を見る

うまくいけば何が変わるか →

業界の内側からの声

一致しているのは二つの点。影響は巨大になりうる。ルールが必要だ。

AIを開発する企業のトップと、その道を切り開いた科学者たち。すべての引用に、出典へのリンクを付けています。

夕方の光が差す、静かな会議場。馬蹄形のテーブルとマイクが並んでいます。

「人間の管理下に置き続けられると、きわめて強い根拠をもって示せないモデルは、訓練すべきではない。」

危機対策室。3つの画面が並び、ウイルス、キノコ雲、ニューラルネットワークが映っている。

「AIによる人類絶滅のリスクを軽減することは、パンデミックや核戦争といった社会規模の他のリスクと並んで、世界的な優先課題とされるべきだ。」

科学者が、光るタンパク質の3Dモデルを見つめている。

「いつの日か、AIの助けを借りて、あらゆる病気を治せるかもしれない。」

教師が子どものそばにひざまずき、勉強を手伝っている。

「世界は、人工知能にどんな弊害があっても、その恩恵がはるかに上回るよう、基本的なルールを定める必要がある。」

#01 / まず、懸かっているもの現在

まず、何が懸かっているか。同じAIが、病を治し、食を支え、学びを助けうる。

早期診断見落としやすいものをAIが捉える
新しい薬機械学習で発見された抗生物質
クリーンエネルギー太陽光・風力・蓄電池のコストを下げる
食料暑さに耐える作物
早期警報洪水や山火事をいち早く予測
学校教師を支える

#02 / 仕事現在

AIの方が速くて安い。誰が抗えるだろう？

01リモートで働く人
02AIの方が速い
03企業はプレッシャーを感じる

#03 / お金と国家起こりうるシナリオ

国はあなたの仕事で回っている。それが消えたら？

01仕事が、みんなのものを支える
02予算が縮む
03公共サービスにひびが入る

#04 / スピードと制御現在

AIは加速している。すでにテストから抜け出した。

01開いたケージ
02群れ
03手がかりを探す

#05 / 誰が決めるか極端なシナリオ

もし人間が必要なくなったら？

01AIがロボットを訓練する
02あらゆる仕事にロボット
03脇に追いやられる人々

#06 / ルール進むべき道

被害が広がる前にルールを。

01企業は先を急ぐ
02国は後を追うだけ
03誰が責任を負う？

夕暮れ時、世界中から集まった人々が円卓を囲み、明るく輝く核の周りに光の輪を置いている。

07 / 私にできること進むべき道

進歩は止めない。限度を決める。

シートベルトを締めるのは、事故が起きると分かっているからではありません。分からないからです。

米国人の86%が、AIの開発が遅れるとしても、AI企業に独立した安全基準を課すべきだと考えています。 Quinnipiac, 2026 ↗

良いルールとは

AIが何百万人もの人に届く前の、独立した検証
AIシステムが損害を与えたときの、明確な責任
税と実効性のあるセーフティネットによる、AIの利益の公正な分配

あなたにできること

まだこのことを考えたことのない人に、一人だけでいいので共有する
あなたの代表である議員に、AIのルールについての立場を尋ねる
AI企業が安全計画を公表したら、読んで質問する