止めるボタンは、誰が持つのか

「なぜAIは人類を滅ぼすのか」のレッスン 10 / 10・約5分

会社は危険な能力を測る基準を作り、国は安全研究所や法律をつくり始めました。いま何がされていて、何がまだ足りないのかが分かります。

このレッスンで学ぶこと

AIを止める仕組みは、いまどこまでできているか

このレッスンの本編はHacozyプレミアムで学べます。無料ではじめる

用語

普通の技術（AI as Normal Technology）: AIを未知の生命体ではなく、電気やインターネットのように社会を変革する技術と捉える考え方。
能力の閾値（Capability threshold）: 「AIがこの力に届いたら、この対策を強める」と企業が事前に決めておくライン。
解釈可能性（Interpretability）: AI内部の計算を調べて、何を表しどう回答を導いているのかを解明する研究。
AIセーフティ・インスティテュート（Japan AI Safety Institute (J-AISI)）: AIの安全性を評価する基準や手法を作る日本の公的機関。2024年にIPA内に設置。