Nvidiaがデータセンター向けの最速カードであるtesla t4を発表

Nvidiaは、データセンターでの機械学習と推論のための新しいGPUを発表しました。 新しいテスラT4カードは、チューリングアーキテクチャに基づいており、事実上すべての主要なクラウドコンピューティングプロバイダーをカバーする現在のテスラP4モデルの後継モデルです。

Nvidia Tesla T4はデータセンターに革命を起こしたいと考えています

Nvidiaは、Tesla T4はP4よりも大幅に高速であると主張しています。 たとえば、言語の推論では、T4はCPUを使用するよりも34倍速く、P4よりも3.5倍以上高速です 。 Tesla P4の最大スループットは、4ビット整数演算では260 TOPS、浮動小数点演算では65 TOPSです。 T4は、 標準プロファイルの75ワットPCI-eカード上にあります。

NvidiaのTuringアーキテクチャの詳細に関する記事を読むことをお勧めします

最も重要なのは、 NvidiaがこれらのチップをAI推論専用に設計したことです。これにより、Tesla T4は推論を行うための効率的なGPUになり、Turingの新しいTensor Coreになります。 Jensen Huangはすでに新しいTensor Coreについて、およびゲーム、レンダリング、AI操作のために何ができるかについて話しました。 合計で、このチップは320 Tensorコアチューリングと2, 560 CUDAコアを備えています。

新しいチップに加えて、 Nvidiaはディープラーニングモデルを最適化するためにTensorRTソフトウェアのアップデートも展開しています 。 この新しいバージョンには、既存のKubernetesインフラストラクチャにシームレスに接続するデータセンター推論のための完全にコンテナ化されたマイクロサービスであるTensorRT Inference Serverも含まれています。

Turingは、最も革新的なゲームのグラフィック仕上げを改善するために初めてリアルタイムでレイトレーシングを使用できるゲーム市場においても、最も革新的なNvidiaアーキテクチャの1つです 。

Techpowerupフォント