エヌビディア（NVIDIA）は9月25日、自動運転車などの性能の大幅な向上とコスト削減を可能にする新開発の推論ソフトウェア、「TensorRT 3 AI」を発表した。
TensorRT 3 をエヌビディアのGPU（画像処理半導体）と組み合わせることで、画像認識や音声認識、自然言語処理、画像検索、個人に合わせたレコメンデーションなど、AI（人工知能）対応サービスのすべてのフレームワークで、超高速の効率的な推論を実行できるようになる。
同社によると、TensorRT と エヌビディアの「Tesla」GPU アクセラレータは、CPU（中央演算処理装置）よりも最大40倍の高速化を、CPUベースのソリューションの10分の1のコストで実現するという。
また、TensorRT 3 は、AIアプリケーションの運用展開を可能にするハイパフォーマンスの最適化コンパイラおよびランタイムエンジン。ハイパースケールデータセンター、組み込みまたは車載用GPUプラットフォームに対する推論用にトレーニングされたニューラルネットワークの最適化、検証、展開を迅速に行うことができる。
すでに、エヌビディアの推論プラットフォームは、1200以上の企業が採用。これらの企業には、グーグル、Facebook、マイクロソフト、Amazonなどが含まれている。
