Subscribe半導体NVIDIAがAIチップ競技会を制圧するも挑戦者が続々台頭AIチップのベンチマーク大会で、NVIDIAは再び大半のカテゴリを制圧したように見える。GoogleやGraphcoreのような挑戦者は限定された用途や基準で存在感を示した。出典:NVIDIAAIチップのベンチマーク大会で、NVIDIAは再び大半のカテゴリを制圧したように見える。GoogleやGraphcoreのような挑戦者は限定された用途や基準で存在感を示した。MLCommonsが水曜日に発表した最新のMLPerf学習結果(v2.0)は、昨年12月にリリースされたv1.1とほぼ同様の結果となっている。応募社数は、12月の14社から21社に増加。全体として、今回の結果は、前回の約1.8倍の性能向上となったとされる。ベンチマークによっては、3.5年で8倍の性能向上という高い数値も出ている。Labs、Lenovo、Nettrix、NVIDIA、Samsung、Supermicroなどが再参加。21社の参加企業は、GoogleからGraphcore、Habana、NVIDIAのいずれかの4種類のアクセラレータを使用している。Commonsのこの図は、8個のプロセッサ/アクセラレータを持つシステムのピーク性能と、いくつかの主要モデルにおけるその性能を示している。これを俗に言う「ムーアの法則」のIEが2年ごとに2倍になることと比較している。CommonsNVIDIAは今回もMLPerfの8つのベンチマークすべてに提出した唯一のベンダーとなった。すべてのベンチマークにわたってAIトレーニングのパフォーマンスと最も多くのサブミッションをリードした。Narasimhanは声明で述べている。AIプラットフォームを使用して結果を提出したパートナーは、全体の4分の3以上の合計16社に上った。NVIDIAは、典型的なAIワークフローを処理するシステムの能力を証明するために、すべてのベンチマークを実行することの価値を強調した。Narasimhanはメディア向けブリーフィングで、Googleは大別すると4種類のベンチマークで提出し、GraphcoreとHabanaはともに2種類のベンチマークだけで提出したことを強調した。MLモデルのトレーニングにとって重要な指標のひとつが総所有コスト(TCO)であり、すべてのベンチマークに対応できることはTCOに対するパフォーマンスを引き上げることにほかならない。NVIDIAは「チップあたりの性能」というものさしで自社の提出物が8つのカテゴリ中6つのカテゴリで優位だったと主張した(図表参照)。A100を使用したシステムの提出は今回で4回目となったが、これで最後になる可能性がある。NVIDIAは、チップあたりの性能を計算するために、すべての提出物を提出者間で最も一般的なスケールに正規化した、と主張している。GPUを今回のラウンドに急いで投入しないことを選択した。Coreが採用される可能性が高いと思われる。これに対し、Googleは、5つのベンチマークで最速の学習時間を記録したと主張し、学習時間の速さという基準を主張している。Kasivajhulaは連名のブログで「私たちの2.0サブミッションは、すべてTensorFlow上で実行され、5つのベンチマークすべてにおいてトップクラスの性能を示した」と主張している。「ハードウェアは別として、このベンチマーク結果は、TPUソフトウェアスタックを改善するための我々の取り組みによって、少なからず実現されたものだ」とKumarらは記述している。トレーニング時間の加速によって4つのカテゴリでNVIDIAを上回りトップだったと主張するGogole。出典:Google特にNVIDIAとGoogleのベンチマークでは、1つのベンチマークに対して数千のアクセラレータが使用されている。そのため、Googleの提出物の中には、トレーニング時間が本当に短いものがあるのがわかる。他の参加者は規模が小さかったので、かなり長い時間になっている。このような大規模化したマシンは大規模化が著しいNLPモデルのような用途において実用性がある。NVIDIAとGoogleの依拠した基準が異なることからわかるように、MLPerfベンチマークを使った性能の判断は、まだ厄介なところがある。明らかに、システムサイズとアクセラレータの数の違いは、学習時間の大きな要因となっている。多くの場合、ソフトウェアも同様だ。Graphcoreは、その性能向上と、ソフトウェアエコシステム(スタックの下位では必ずしも少し異なるが)が成熟しており、典型的なAIアプリケーションを動作させることができるという事実をアピールした。640GBよりも31%速いtime-to-trainを達成した。(IPU)を開発する英国のセミコンダクター企業。GrpahcoreはAIチップを設計する新興企業の中でも最も速い勢いで資金調達を行っている。2020年6月時点の企業価値は約19.5億ドル。LabsはGaudi2は大幅な性能向上を果たしたと誇っている。Tensorプロセッサのコアが10から24に増え、搭載メモリ容量も32GBから96GBへと3倍に、搭載SRAMも24MBから48MBへと倍増した。MedinaはMLPerfに関するブログで、「当社の第1世代のGaudiと比較して、Gaudi2はResNet-50のトレーニングスループットで3倍、BERTで4.7倍のスピードアップを達成した」と主張している。Habanaは、ResNet-50という小さなMLモデルでかなりの差をつけて勝っているが、BERTという小さな自然言語処理モデルでは、非常に小さな差で勝っている。出典:HabanaHabanaは、ResNet-50という小さなMLモデルでかなりの差をつけて勝っているが、BERTという小さな自然言語処理モデルでは、非常に小さな差で勝っている。Habanaにはもっと大きなモデル、もっと多くの種類のモデルを期待したいところだ。実現に向けて」と題した記者説明会を開催し、自治体向けにゼロトラストセキュリティ導入を支援するプログラムを発表した。Premiumなどを導入し、災害時の情報共有の効率化などに成功したようだ。Runを活用し顧客生涯価値(LTV)向上を目指したデータ分析基盤を内製化した事例を紹介。AIによる会話分析、リテールメディア活用などの取り組みを進めている。'24」で、大規模言語モデル「Gemini」を活用したAIエージェントの取り組みを多数発表した。Geminiは、コーディング支援、データ分析、アプリケーション開発など、様々な分野で活用され、業務効率化や新たな価値創出に貢献することが期待されている。Graph」を発表した。この新製品は、ナレッジグラフベースの検索拡張生成(RAG)を実現させ、生成AIを巡る競争に新たな文脈を加えそうだ。Ghostアクシオン|次世代経済メディアアクシオンニュースレター:世界のテクノロジートレンドの高品質な分析Subscribe。