AIは「次の一言」を当てているだけ

スマホの予測変換と同じ仕組み？

スマホで「おつかれ」と打つと「さまです」と出ますよね。意味を考えず、次に来そうな言葉を出しているだけです。

話題のAIも仕組みは同じです。違うのは扱う文章の規模です。

AIはどうやって文章を作る？

「今日は雨が降りそうだから、」と「弊社の来期の売上目標は、」の続きをAIが選びます。2つ目の文の、候補ごとの差に注目してください。

これが、AIの本当の姿

AIは次に来そうな言葉を1つ選んで足し、また次を選ぶ作業を何百回も繰り返して文章を作ります。

この仕組みを大規模言語モデルと呼びます。つながりやすい言葉は、大量の文章から学んだものです。

AIが実際にやっていることは？

問題：AIが文章を書くとき、内部で実際にやっていることはどれでしょう。

1. どこかにある正解を探して、持ってくる
2. 次に来そうな言葉を、1つずつ選び続ける（正解）
3. 文章の意味を理解してから、組み立てる

解説：検索しているのでも、意味を理解しているのでもありません。次の一言を選ぶ作業を、超高速で繰り返しているだけです。

一言ずつ選ぶだけで、なぜ長文が書ける？

AIは言葉を1つ選ぶたびに、そこまでの文を読み直して次の一言を選びます。

書きながら全体を見直しているわけではありません。だから途中で話がずれても、そのまま書き進めてしまうことがあります。

迷っていても、文章には表れない

「弊社の来期の売上目標は、」の続きが5億円と10億円でほぼ横並びでも、仕組みの上では1位が選ばれて文が続きます。

「分かりません」と返すよう訓練もされていますが、確実ではありません。迷いは、文章に表れないのです。

答えを知らないAIの反応は？

問題：資料を何も渡さずに、社内にしかない数字をAIに聞きました。いちばん気をつけるべき返り方はどれでしょう。

1. 「分かりません」と答えて、そこで止まる
2. それらしい数字を、そのまま堂々と答える（正解）
3. 「資料をください」と、質問を返してくる

解説：「分かりません」と返ることもありますが、毎回ではありません。候補が横並びでも1位が選ばれると、知っているときと同じ調子で数字が書かれます。

堂々とした嘘「ハルシネーション」

知らないことを、本当らしい言葉で埋めてしまう現象をハルシネーションと呼びます。

厄介なのは口調です。正しいことを書くときとまったく同じ自信で、根拠のない数字を書きます。

○か✕か

○か✕か：AIは人間を騙そうとして、わざと嘘をついている。

答え：✕。AIに騙す意図はありません。正しいことを書くときと同じく、次の言葉を選んだ結果です。だから文面で見分けにくいのです。

自然で読みやすい文章ほど危ない？

具体的な数字が入り、すらすら読める答えほど信じてしまいますよね。

でも滑らかさは言葉が並んだ証拠に過ぎません。得意なのは読みやすさで、正しさではないのです。

一番注意すべきAIの回答は？

問題：AIの回答に間違いがあったとき、人がいちばん見逃しやすいのはどの回答でしょう。

1. ぎこちなく、途中で話が飛んでいる回答
2. すらすら読めて、数字まで入った回答（正解）
3. 「よく分かりません」とだけ書かれた回答

解説：ぎこちない回答は自然と疑えますが、整った文章ほど確かめずに信じてしまいます。滑らかさと正しさは関係ありません。

直すのは性能ではなく「材料」

社内の売上目標は、AIが読んだ学習データのどこにもありません。高価なAIに替えても、無い数字は出てきません。

直すには、その数字が載った資料をコンテキストとして渡すこと。

嘘や間違いを防ぐ一番効果的な方法は？

問題：社内の数字についてAIに聞くとき、知ったかぶりを防ぐのにいちばん効くのはどれでしょう。

1. より新しい、高性能なAIに乗り換える
2. 「間違えないで」と、丁寧に書き直す
3. その数字が載った、元の資料を渡す（正解）

解説：足りないのはAIの賢さではなく材料です。資料を渡せば、AIがそれらしい数字を予想する必要がなくなります。

今回学んだポイント

• AIは、次に来そうな言葉を1つずつ選び続けて文章を作る
• 候補がほぼ横並びでも1位が選ばれるので、知らないことも本当らしく埋めることがある
• 読みやすさは正しさの証拠ではない。直すのは性能ではなく、渡す材料
• 明日から: 数字が入った答えには、その数字の載った資料があるか確かめる

仕上げの確認クイズ

問題：AIが、知らないはずのことまで自信たっぷりに間違えるのはなぜでしょう。

1. AIの性能が低く、計算を間違えているから
2. 材料がなくても、一番ありそうな言葉を選ぶから（正解）
3. 人をうまく騙そうと、わざと嘘をつくから

解説：お疲れ様でした。AIは迷っても書き進めることがあるので、材料がなければそれらしく埋めます。では、貼った資料はいつまでAIに見えているのでしょう。次のレッスンでは、新しいチャットを開いた瞬間にAIが何を失うのかを確かめます。