ELMo
双方向の LSTM を使い、同じ単語でも文脈によって違うベクトルで表せるようにした、2018年ごろの言語モデルとして最も適切なものを1つ選べ。
- A
word2vec
- B
TF-IDF
- C
CLIP
- D
ELMo
正解と解説を見る
正解：D
ELMo は、双方向 LSTM で文脈に応じた単語のベクトルを作る言語モデル。
| モデル | 構造・特徴 |
|---|---|
| ELMo | 双方向LSTMで、文脈に応じた単語表現を作る |
| BERT | Transformerのエンコーダ。穴埋め（マスク言語モデル）で事前学習。文の理解に強い |
- A
誤り。同じ単語は文脈に関係なく同じベクトルで表す。
- B
誤り。単語の出現頻度と珍しさで重みを付ける手法。
- C
誤り。画像とテキストを対応させるモデル。
- D
正しい。「銀行の口座」と「川の岸」のように、文脈で意味の変わる単語を区別できる。のちの BERT につながった。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会（JDLA）・一般社団法人生成AI活用普及協会（GUGA）の公式サービスではありません。