スポットライト
MultiHead Attention
言語モデルなど数多くのタスクにおいてSOTAを達成しているトランスフォーマーの設計に欠かせないマルチヘッドアテンションレイヤーが追加されました!
これは近年様々なコンピュータビジョンタスクにおいても利用されています。
DQN (Deep Q-Network)
DQNは広く用いられる深層強化学習(RL) アルゴリズムの1つです。今回のアップデートに合わせて強化学習のExampleが加わりました!使い方など詳細はこの記事にまとめられていますので、ぜひご覧ください!
その他の変更
レイヤー関数の新規追加・改善
フォーマットコンバーターの機能改善
NNabla Examplesの新規追加
バグ修正・ドキュメントの追加・修正
Note
現在、CUDA 10.1においてサポートされているAsynchronous sortが原因となるセグメンテーション違反が起きることがわかっています。これは次のリリースで修正される予定です。