CNTK v.2.1 リリース ノート
これは、Microsoft Cognitive Toolkit V.2.1 の変更点と新機能の概要です。
このリリースのハイライト
- cuDNN 6.0 統合
- ユニバーサル Windows プラットフォーム (UWP) のサポート
- CNTK Keras バックエンドの機能強化
- パフォーマンスの向上
- 新しいマニュアル、チュートリアル、例
- バグ修正
重大な変更
このリリースには、次の 破壊的変更が含まれています。
- Caffe の実装に合わせて ROI プールを更新しました。 署名には、次の更新プログラムがあります。
- パラメーター
pooling_type
とspatial_scale
追加されたパラメーター、および - パラメーター
rois
の座標が元のイメージ サイズに対して絶対になります
- パラメーター
- C++ API。
NDShape::Unknown
ヘッダーから静的変数を削除するように変更NDShape::Unknown()
されました。
新機能と更新された機能
- CNTK の強化学習フレームワークのプレビュー。 詳細については、こちらを参照してください。 これは最初のプレビューであり、今後多くの変更が行われる可能性があることに注意してください
- より柔軟な Python ベースのユーザー デシリアライザー。 詳細については、 マニュアル を参照してください
- Caffe から CNTK モデル コンバーター。 コンバーター ReadMe を参照してください。 コンバーターの使用方法を示す例は、 CNTK Codebase で入手できます。
- 複数の軸の縮小:
- 指定した軸全体の入力テンソルの要素の平均を計算します
- 指定した軸または指定した軸のリスト全体の入力テンソルの要素の平均を計算します
- CNTK 評価ライブラリでの ユニバーサル Windows プラットフォーム (UWP) のサポート (下記のセクションを参照)
- CNTK Keras バックエンドの新機能と改善された機能 (以下のセクションを参照)
NVIDIA cuDNN 6.0 統合
Windows および Linux 上の CNTK バージョン 2.1 の GPU エディションは、 NVIDIA CUDA ディープ ニューラル ネットワーク ライブラリ (cuDNN) v.6.0 に付属しています。 これにより、ResNet 50 などのネットワークで CNTK のパフォーマンスが約 10% 向上します。
ソースから CNTK をビルドする場合は、NVIDIA cuDNN 6.0 もインストールする必要があります。これは、 Windows と Linux での CNTK ビルドとテストの既定であるためです。
CNTK 評価ライブラリ。 ユニバーサル Windows プラットフォーム (UWP) のサポート
このリリースでは、ユニバーサル Windows プラットフォーム (UWP) のサポートについて説明します。 新しい CNTK NuGet パッケージ CNTK、UWP CPU-Only ビルド をダウンロードできます。 詳細については、ユニバーサル Windows プラットフォームのモデル評価の説明を参照してください。 CNTK UWP 評価ライブラリをビルドするには、 こちらの説明を参照してください。
Keras の CNTK バックエンド
バージョン 2.1 では、 Keras の CNTK バックエンドに次の機能強化が導入されています。
- ステートフルな繰り返しネットワークのサポート
- マスク付きリカレント層のサポート
- バッチ正規化レイヤーの問題の修正
パフォーマンスの向上
- ResNet 50 のパフォーマンス向上 (トレーニング中に memcpy と memset を減らす)。 単一マシンのトレーニング速度が約 8% 向上することを期待
- インデックス キャッシュによる CNTK リーダーの機能強化
- 最近の論文で提案されているように、大規模なミニバッチ サイズで ResNet 50 とインセプション V3 をトレーニングする CNTK 機能を正常にテストしました。 これにより、音声だけでなく、画像タスクでもミニバッチ スケーリングの CNTK 機能が確認されます
新しいマニュアル、チュートリアル、例、コース
マニュアル
- 宣言型 API と命令型 API を使用してモデルをトレーニングする方法
- ユーザー ミニバッチ ソースを作成する方法
- データをフィードする方法
- CNTK プログラムのデバッグ
- 学習器の使用方法
- カスタム デシリアライザーを記述する方法
チュートリアルと例
- コネクションストテンポラル分類 (CTC) 条件を使用した音響モデルのトレーニング
- ケラスと強化学習を用いた羽ばたき鳥
- R-CNN オブジェクト検出の高速化
- モデル評価に Azure WebAPI で CNTK V2 API を使用する
- CVPR 2017 - 2017 年 7 月 26 日、Emad Barsoum、Sayan Pathak、Cha Zhang によるチュートリアル、Microsoft Cognitive Toolkitを使用したスケーラブルなディープ ラーニング。 プレゼンテーション
バグ修正
バージョン 2.1 には、次のバグに対する修正プログラムが用意されています。
- 並列評価でのコンカレンシーの問題
- の断続的な参照エラー
next_minibatch
- のチェックポイント処理
bptt
CNTK NuGet パッケージ
このリリースでは、新しいパッケージ CNTK、UWP CPU-Only ビルド など、NuGet パッケージ (バージョン 2.1.0) の新しいセットが提供されています (上記の UWP のサポートに関するセクションを参照)。
謝辞
私たちは、彼らの貢献のために次のコミュニティメンバーに感謝します:
- @arturl
- @boeddeker
- @chivee
- @dadebarr
- @DGideas
- @frankibem
- @GeoffChurch
- @imriss
- @juice500ml
- @lakshayg
- @makrei
- @michhar
- @mikhailバーグ
- @souptc
- @taehoonlee
- @vermorel
- @vmazalov
- @wsywl
- @yuxiaoguo
これらのリリース ノートで見過ごした可能性のあるコミュニティへの投稿についてお詫び申し上げます。