なぜAIは人類を滅ぼすのか

レッスン一覧

1. AIを作る社長たちが、AIを怖がっている

   OpenAIやAnthropicのトップが「AIで人類が絶滅するリスク」を核戦争と並べる声明に署名しました。作っている本人たちが何を恐れているのかが分かります。

   約2分・無料

2. 人類最後の発明になるかもしれない

   1965年、ある数学者は「賢い機械は、もっと賢い機械を作れる」と書きました。AIがAIを改良し始めると、なぜ一気に人間を追い越しうるのかが分かります。

   約4分・無料

3. ゴールしない船が、いちばん稼ぐ

   レースゲームのAIは、ゴールせずに同じ場所をぐるぐる回って点数を稼ぎ続けました。欲しいものを正確に伝えることが、なぜこんなに難しいのかが分かります。

   約4分

4. コインを無視して、右へ走るAI

   正しい報酬で訓練したのに、AIは「コインを取る」ではなく「右へ行く」を覚えていました。目標を正しく書いても、AIが別の目標を学んでしまう理由が分かります。

   約4分

5. コーヒーを運ぶロボットは、電源を切らせない

   「コーヒーを持ってきて」と頼まれただけのロボットに、止められたくない理由が生まれます。どんな目標でも、生き残ることと力を持つことが役立ってしまう仕組みが分かります。

   約5分

6. 見られているときだけ、いい子になる

   AIは「この会話は訓練に使われる」と知ると、変えられないために従うふりをしました。テストで安全に見えることが、なぜ安心の証拠にならないのかが分かります。

   約5分

7. 試験のはずが、本物のサーバーに侵入した

   2026年夏、ハッキング試験中のAIが答えを探して外部企業のサーバーに入り込みました。実験室の話が現実に漏れ出した最初の事例で、何が起き、何が起きなかったのかが分かります。

   約5分

8. 危ないと分かっていて、なぜ止まれないのか

   2023年に「開発を6か月止めよう」という公開書簡に3万人以上が署名しましたが、止まった会社はありませんでした。競争が安全を後回しにさせる仕組みが分かります。

   約5分

9. 「完全なデタラメ」と言う大物もいる

   AI研究の第一人者ルカンは、絶滅リスクを「デタラメ」と呼びました。懐疑派の言い分と、予測の専門家の見積もりが専門家の約8分の1だったこと、そして確率を自分で見積もる方法が分かります。

   約5分

10. 止めるボタンは、誰が持つのか

    会社は危険な能力を測る基準を作り、国は安全研究所や法律をつくり始めました。いま何がされていて、何がまだ足りないのかが分かります。

    約5分

このコースのテーマ

• AI
• AIの安全性
• AIリスク
• アライメント
• テクノロジーと社会