AIに、言葉のルールを教えた人はいない

「大規模言語モデルの仕組み」のレッスン 6 / 14・約5分

AIはでたらめな状態から始まり、文の続きを当てては直すことをくり返して言葉を身につけます。小さなAIを実際に学習させて確かめます。

このレッスンで学ぶこと

  • 当てて、直すのくり返し

このレッスンの本編はHacozyプレミアムで学べます。無料ではじめる

用語

学習(Training)
続きを当てさせて、外れたらつまみを少し動かします。これを大量の文章でくり返すことです。
つまみ(Parameter)
AIの中にある数字の1つ1つです。学習で少しずつ動かされます。専門用語ではパラメータと呼びます。
トークン(Token)
AIが文を読むときの単位になる、言葉のかけらのことです。