割引率
強化学習で、将来の報酬を今の価値に換算するときに掛ける割引率(γ、0以上1以下)についての説明として、最も適切なものを1つ選べ。
- A
γ を1に近づけるほど、目先の報酬だけを重視するようになる。
- B
γ を0に近づけるほど目先の報酬を重視し、1に近づけるほど遠い将来の報酬も重視する。
- C
γ は学習率と同じものである。
- D
γ は報酬の合計を必ず0にするための値である。
正解と解説を見る
正解:B
割引率 γ が0に近いほど目先の報酬を、1に近いほど将来の報酬を重視する。
| 時刻 t | 報酬 | 割引 γ^t | 割り引いた報酬 |
|---|---|---|---|
| 0 | 1 | 0.9^0 | 1.0 |
| 1 | 1 | 0.9^1 | 0.9 |
| 2 | 1 | 0.9^2 | 0.81 |
| 合計 | 2.71 |
- A
誤り。1に近いほど、遠い将来の報酬も重視する。
- B
正しい。課題に合わせて、どのくらい先の報酬まで考えるかを調整する。
- C
誤り。学習率は更新の大きさを決める値で、割引率とは別のもの。
- D
誤り。将来の報酬を割り引くための値。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。