エヌビディア（NVIDIA）は、米国カリフォルニア州で開催した「GPUテクノロジーカンファレンス」おいて、「TensorRT」推論ソフトウェアの最新版の「TensorRT 4」と、このソフトのGoogle（グーグル）のオープンソースAI（人工知能）ソフト、「TensorFlow」への統合を発表した。
TensorRT 4 は、ハイパースケール データセンター、組み込みおよび自動車用の GPU プラットフォームにおいてトレーニングされたニューラルネットワークを迅速に最適化、検証、展開するために利用可能。このソフトウェアは、コンピュータービジョン、ニューラル機械翻訳、自動音声認識、音声合成、レコメンデーションシステムなど、一般的なアプリケーションに対し、CPUと比較して最大190倍高速なディープラーニング推論を可能にするという。
また、TensorRTは「NVIDIA DRIVE」搭載の自動運転車や「NVIDIA Jetson」埋め込みプラットフォームにも適用可能。あらゆるフレームワーク上のディープニューラルネットワークは、データセンター内の NVIDIA DGXシステムでトレーニングされた後、ロボットから自動運転車に至るまで、すべてのタイプのデバイスに適用され、末端でリアルタイムの推論を実行できる。
エヌビディアは、超高速の推論は組み込みプラットフォームや自動車プラットフォームでのオブジェクトの検出やパスプランニングなどの機能に不可欠、としている。
