言葉の意味は、隣の言葉が決める
「数学が苦手でもわかる、ベクトルの仕組み」のレッスン 5 / 8・約7分
AIは辞書を読まずに言葉の意味を覚えました。手がかりは「どの言葉と一緒に出てくるか」だけ。1957年の言語学の一言から、2013年のword2vecまでをつなぎます。
このレッスンで学ぶこと
- 言葉の意味を、隣に出てくる言葉から数字にする
このレッスンの本編はHacozyプレミアムで学べます。無料ではじめる
用語
- word2vec（word2vec）
- 2013年にGoogleのミコロフらが発表した、言葉を数百個の数字の列に変換する方法。文の中の穴埋め問題を大量に解かせて、数字を調整していきます。
- 分布仮説（Distributional hypothesis）
- 周りの言葉が似ている単語は意味も似るという考え。ハリスとファースに始まります。
- 埋め込み（Embedding）
- 意味が近い言葉ほど近くに並ぶ数字の列。AIは言葉をこの形で扱います。
- ワンホット表現（One-hot encoding）
- 言葉ごとに専用の席を1つ決め、そこだけ1でほかは0にする表現方法。区別はできますが、どの言葉同士も同じ距離になってしまいます。