appleのNural Engineは推論用のユニットだったような。
学習用の演算とは特性がちがって、学習は大量のバッチ処理が必要なので処理特性はGPUの方が合ってますね。