「完全なデタラメ」と言う大物もいる

「なぜAIは人類を滅ぼすのか」のレッスン 9 / 10・約5分

AI研究の第一人者ルカンは、絶滅リスクを「デタラメ」と呼びました。懐疑派の言い分と、予測の専門家の見積もりが専門家の約8分の1だったこと、そして確率を自分で見積もる方法が分かります。

このレッスンで学ぶこと

AIによる絶滅の確率は、なぜこれほど割れるのか

このレッスンの本編はHacozyプレミアムで学べます。無料ではじめる

用語

6つの前提（Carlsmith's six premises）: 研究者カールスミスが、「力を求めるAIが人類を滅ぼすか」を6段階に分けたもの。6つすべてが成り立つときだけ破局になるので、全体の確率は6つの掛け算になる。 - 強力で、計画的に動くAIが作れるようになる - それを作る強い動機がある - 目標のずれたAIのほうが、ずれていないAIより作りやすい - 使われたAIの一部が、大きな規模で力を求める - それが広がり、人類が力を失う - それが取り返しのつかない破局になる
普通の技術（AI as Normal Technology）: AIを未知の生命体ではなく、電気やネットのように社会を変える技術の1つと捉える考え方。
スーパーフォーキャスター（Superforecaster）: 予測の大会で好成績を重ねてきた、将来の出来事を確率で見積もるのが得意な人たち。