英达画像 DSX MaxLPS テクノロジー、AI 工場每兆瓦jeton吞吐量最高好時間40%
IT之家 9 月 17 日最合,科技设计 Wccftech 昨日(9 月 16 日)発行博文,超计称在 AI 公司峰下ダウンロード,英伟达电影电影 AI 工場向け DSX MaxLPS 消費電力調整システム,每兆瓦jeton吞吐量最高好時間40%。
IT之家注:各兆瓦トークン吞吐量は、データセンターが1MWの電力を消費したときに、AIシステムが1秒あたり何個のトークンを生成または処理できるかを意味します。この指標は消費電力を考慮しているため、電力が限られている状況下で AI データセンターの出力電力を削減するのにより適しています。
英国の DSX MaxLPS テクノロジーは、Emerald AI によって Conductor プラットフォームに統合され、電気ネットワーク条件での使用を目的としており、データセンター性の代中心性の中心線エネルギーから Conductor まで

プラットフォーム内の AI ドライバー DSX Flex は、ネットワークのステータスに基づいてデータセンターの電力需要を動的に調整できます。プラットフォームはネットワークのステータスに関する 200 個の信号を受信しました。関連する操作にはユーザーの介入は必要ありません。
Lambda は GPU 云服务商であり、顧客数は 10,000 軒を超えています。テスト クラスターには 5 つのマシンフレームとノードが含まれています。
NVIDIA はまた、Vera Rubin と Groq 3 LPX マシンは同じ消費電力範囲内にあり、最大 GPU 量を 40% 増やすことができると発表しました。新しい送電線がない状態では、トークンのスループットは 35% 増加します。 100,000 3.8 のコンテキストでは、テキストによってワークロードが増加する可能性があり、Groq 3 LPX はユーザーあたり 1 秒あたり 2,529 トークンの出力に達する可能性があります。

多くの人工知能企業がすでに Vera CPU の初期テストに参加しており、関連する結果は、1.9 吇升倏倏果月礻 73% という最高のパフォーマンス向上、クエリ タスクの吞吐量 3.3 倍の向上を示しています。
Perplexity は SPACE 安全沙箱動作耐久時間を 1.9 倍、DeepInfra は排気効果処理速度を 2 倍に短縮しました。
Redpanda のテストによると、Vera CPU は他の CPU と比較して遅延が 5.5 倍減少し、吞吐量は 73% 増加しました。 Starburst テストのパフォーマンスは 3 倍、Kinetica テストのパフォーマンスは 2.7 倍向上しました。
