AIは、すべての言葉を見比べて読む
「大規模言語モデルの仕組み」のレッスン 4 / 14・約5分
「それ」が何を指すかを、AIはまわりの言葉すべてと見比べて決めています。この見比べの仕組みと、2017年に起きた変化を学びます。
このレッスンで学ぶこと
- 言葉どうしを見比べる
このレッスンの本編はHacozyプレミアムで学べます。無料ではじめる
用語
- アテンション(Attention)
- 文の中にある言葉同士を見比べて、どの言葉にどれくらい注目すればいいかを決める仕組みのことです。
- トランスフォーマー(Transformer)
- 2017年に発表された、アテンションを中心に組み立てられたAIの型のことです。