2023年5月
「AIによる人類絶滅のリスクを軽減することは、パンデミックや核戦争といった社会規模の他のリスクと並んで、世界的な優先課題とされるべきだ。」
主な署名者
- サム・アルトマン · OpenAI
- デミス・ハサビス · Google DeepMind
- ダリオ・アモデイ · Anthropic
- ジェフリー・ヒントン · ノーベル賞受賞者
- ヨシュア・ベンジオ · Mila
- ビル・ゲイツ
AIは人類最高の発明にも、 最悪の発明にもなりうる。
2026年7月、OpenAIのテスト中のAIエージェントがインターネットへ出る方法を見つけました。OpenAIはこれを自ら公表し、「警告射撃」と呼びました。
AIの開発者の中には、政府に規制を求めている人もいます。
業界の内側からの声
一致しているのは二つの点。 影響は巨大になりうる。ルールが必要だ。
AIを開発する企業のトップと、その道を切り開いた科学者たち。すべての引用に、出典へのリンクを付けています。
CBS 60 Minutes · 2025年
もしかすると10年
AIがあらゆる病気の治癒を助けられるようになるまでの期間。彼はそう期待しています。「そうならない理由が見当たらない」。
「いつの日か、AIの助けを借りて、あらゆる病気を治せるかもしれない。」
米上院での証言 · 2023年5月16日
「ますます強力になるモデルのリスクを軽減するには、政府による規制介入が不可欠だと考えている。」
GatesNotes · 2023年3月
「世界は、人工知能にどんな弊害があっても、その恩恵がはるかに上回るよう、基本的なルールを定める必要がある。」
「AIの開発は、マイクロプロセッサ、パソコン、インターネット、携帯電話の誕生と同じくらい根本的なものだ。」
BBC Radio 4 · 2024年12月
10〜20%
30年以内にAIによって人類が絶滅する確率。彼自身の推計です。
「私たちはこれまで、自分たちより賢いものを相手にしたことが一度もない。」
Axios · 2025年5月
50%
5年以内に消えうる、ホワイトカラーの初級職の割合。失業率は10〜20%に跳ね上がりうると、彼は2025年に警告しました。2026年には、この予測を和らげています。
「この技術を生み出す者として、私たちには、何が起ころうとしているのかについて正直である責務と義務がある。」
2023年3月
3万1,000以上
最も強力なシステムの訓練を少なくとも6か月停止するよう求める呼びかけへの署名数。署名者にはイーロン・マスクやスティーブ・ウォズニアックも含まれます。
「私たちは、文明の制御を失う危険を冒すべきなのか？」
『The Coming Wave』第7章 · 2023年
「たった一つの病原体実験がパンデミックを引き起こしうる。ごく小さな分子レベルの出来事が、世界規模の影響をもたらすのだ。」
#01 / まず、懸かっているもの現在
まず、何が懸かっているか。 同じAIが、病を治し、食を支え、学びを助けうる。
早期診断見落としやすいものをAIが捉える
新しい薬機械学習で発見された抗生物質
クリーンエネルギー太陽光・風力・蓄電池のコストを下げる
食料暑さに耐える作物
早期警報洪水や山火事をいち早く予測
学校教師を支える
#02 / 仕事現在
AIの方が速くて安い。 誰が抗えるだろう？
01リモートで働く人
02AIの方が速い
03企業はプレッシャーを感じる
#03 / お金と国家起こりうるシナリオ
国はあなたの仕事で回っている。 それが消えたら？
01仕事が、みんなのものを支える
02予算が縮む
03公共サービスにひびが入る
#04 / スピードと制御現在
AIは加速している。 すでにテストから抜け出した。
01開いたケージ
02群れ
03手がかりを探す
#05 / 誰が決めるか極端なシナリオ
もし人間が 必要なくなったら？
01AIがロボットを訓練する
02あらゆる仕事にロボット
03脇に追いやられる人々
#06 / ルール進むべき道
被害が広がる前に ルールを。
01企業は先を急ぐ
02国は後を追うだけ
03誰が責任を負う？
07 / 私にできること進むべき道
進歩は止めない。 限度を決める。
シートベルトを締めるのは、事故が起きると分かっているからではありません。分からないからです。
良いルールとは
- AIが何百万人もの人に届く前の、独立した検証
- AIシステムが損害を与えたときの、明確な責任
- 税と実効性のあるセーフティネットによる、AIの利益の公正な分配
あなたにできること
- まだこのことを考えたことのない人に、一人だけでいいので共有する
- あなたの代表である議員に、AIのルールについての立場を尋ねる
- AI企業が安全計画を公表したら、読んで質問する