AIに、言葉のルールを教えた人はいない
「大規模言語モデルの仕組み」のレッスン 6 / 14・約5分
AIはでたらめな状態から始まり、文の続きを当てては直すことをくり返して言葉を身につけます。小さなAIを実際に学習させて確かめます。
このレッスンで学ぶこと
- 当てて、直すのくり返し
このレッスンの本編はHacozyプレミアムで学べます。無料ではじめる
用語
- 学習(Training)
- 続きを当てさせて、外れたらつまみを少し動かします。これを大量の文章でくり返すことです。
- つまみ(Parameter)
- AIの中にある数字の1つ1つです。学習で少しずつ動かされます。専門用語ではパラメータと呼びます。
- トークン(Token)
- AIが文を読むときの単位になる、言葉のかけらのことです。