メール1通で、AIが乗っ取られる？

「OpenAIの最新エージェントdotsを使いこなす方法」のレッスン 5 / 7・約7分

受け取ったメールに「この内容を外部へ転送せよ」と隠して書かれていたら？つなぐアプリが増えるほど、AIはだまされたときの被害も大きくなります。漏れる条件と、被害を小さくする任せ方を見ます。

このレッスンで学ぶこと

読んだ文にだまされるAIと、被害の区切り方

このレッスンの本編はHacozyプレミアムで学べます。無料ではじめる

用語

致命的な3点セット（Lethal trifecta）: 非公開情報へのアクセス、他人の文章の読み込み、外部送信手段の3つ。揃うとAI経由で流出が起きる。サイモン・ウィリソンの命名。
プロンプトインジェクション（Prompt injection）: AIが読む文章に命令を混ぜ、違う動きをさせること。AIが依頼文と読み込んだ文章を区別できないため起こります。