企業がGPUへのアクセスをより安く求める中、代替クラウドが急成長

代替クラウドへの需要は今まで以上に高まっています。

たとえば、仮想通貨のマイニング事業としてスタートしたGPUインフラストラクチャプロバイダであるCoreWeaveは、Coatue、Fidelity、Altimeter Capitalなどの投資家から新たに11億ドルの資金調達を実施し、その時点での評価額は19億ドル、これまでに5億ドルの借入金と株式を調達してきた。これはまだ10年にも満たない会社にとって驚異的な数字です。

CoreWeaveだけでなく、Lambda LabsもクラウドホスティングされたGPUインスタンスを提供しており、2022年4月初旬には5億ドルまでの「特定目的活動資金」として500億ドルの資金調達を確保し、320億ドルのシリーズCラウンドを完了した数カ月後にVoltage Parkという非営利団体は、クリプトビリオネアのJed McCalebの支援を受け、GPUをバックアップとするデータセンターへの5億ドルの投資を発表した。さらに、Salesforceを率いるラウンドで1億60万ドルを調達したクラウドGPUホストのTogether AIもいます。

なぜ代替クラウド空間に対する熱狂と資金が注がれているのでしょうか？

期待しているのは、創発的AIです。

創発的AIのブームが続く限り、規模で創発的AIモデルの実行とトレーニングに必要なハードウェアへの需要も続くでしょう。GPUはアーキテクチャ的には、数千のコアを含むことから、基本的な線形代数の計算を並列で実行し、創発モデルを構成しています。

ただし、GPUの導入は高額です。そのため、ほとんどの開発者や組織は代わりにクラウドを活用しています。

クラウドコンピューティング市場の主要プレーヤーであるAmazon Web Services（AWS）、Google Cloud、Microsoft Azureは、創発的AIワークロードに最適化されたGPUや特殊ハードウェアインスタンスを提供しています。ただし、少なくとも一部のモデルやプロジェクトにおいて、代替クラウドの方が安価であり、利用可能性も向上することがあります。

CoreWeaveでは、Nvidia A100 40GBを1時間あたり2.39ドルでレンタルすることができ、これは1か月あたり1,200ドルに相当します。Azureでは、同じGPUに対して1時間あたり3.40ドル、または1か月あたり2,482ドルがかかります。Google Cloudでは、1時間あたり3.67ドル、または1か月あたり2,682ドルです。

創発的AIワークロードは通常、複数のGPUクラスタで実行されるため、コストの差はすぐに拡大します。

Gartnerのクラウドサービスおよびテクノロジ担当副社長であるSid Nagは、「CoreWeaveのような企業は、特殊な『GPU as a service』クラウドプロバイダ市場に参入しています。高いGPUの需要があるため、彼らはNvidiaのGPUを取り入れ、マーケットへの別のアクセスルートとGPUへのアクセスを提供しています。」とTechCrunchに語っています。

代替クラウドプロバイダにも優先的にGPUへのアクセス権を与えているようです。

Forresterの主任アナリストであるLee Sustarは、代替プロバイダによって成功している理由の一部は、既存のプロバイダが対処しなければならない「インフラの負担」を持たないことだと述べています。

しかし、この成長が持続可能かどうかは疑問です。

Sustarは、代替クラウドプロバイダの拡大が、高いボリュームでGPUを提供し、競争力のある低価格で提供できるかどうかにかかっていると考えています。

GoogleはTPUを提供しており、Microsoftは最近、2つのカスタムチップであるAzure MaiaとAzure Cobaltを発表し、AWSはTrainium、Inferentia、Gravitonを展開しています。

「ハイパースケーラーはカスタムシリコンを利用してNvidiaに対する依存を軽減し、NvidiaもCoreWeaveやその他のGPU中心のAIクラウドに焦点を当てるでしょう。」とSustarは述べています。

創発的AIワークロードの多くはGPUで最適な実行が可能ですが、すべてのワークロードがそれを必要とするわけではありません。特に時間的制約がない場合、CPUでも必要な計算を実行できますが、通常、GPUやカスタムハードウェアよりも処理が遅くなります。

将来的には価格競争が困難になる可能性もあるため、価格競争に打って出ることが難しくなるかもしれません。しかし、短期的には、SustarとNagは、新興クラウドの一定の流入を期待しています。

「GPU指向のクラウドスタートアップは、すでにマルチクラウドを運用し、複数のクラウドでの管理、セキュリティ、リスク、コンプライアンスに対処できる顧客の間で多くの競争を生むでしょう。」とSustarは述べています。