Etchedは、1種類のモデルのみを実行するAIチップを構築しています
生成AIが様々な産業に触れるにつれ、モデルを実行するためのチップを製造する企業は莫大な利益を得ています。特にAIチップ市場の70%から95%を占めるNvidiaは巨大な影響力を持っています。MetaからMicrosoftまでのクラウドプロバイダーは、生成AIで遅れを取らないように、NvidiaのGPUに何十億ドルも投資しています。
生成AIベンダーは、理解できる理由から、現状に満足していません。彼らの成功の大部分は、支配的なチップメーカーの気まぐれに左右されています。そこで、チャンスを逃さずVC企業も加わり、AIチップの主要企業に挑戦する有望な新興企業を探しています。
Etchedは、テーブルに座るべく、数多くの代替チップ会社の一員ですが、最も興味深い企業でもあります。2年前に設立されたEtchedは、ハーバード大学中退者であるギャビン・ウベルティ(元OctoMLおよび元Xnor.ai)とクリス・チューによって設立され、ロバート・ワッカンと元CypressセミコンダクターCTOのマーク・ロスが加わりました。彼らは、1つだけのことができるチップを作成することを目指しました:AIモデルを実行すること。
これは珍しいことではありません。多くのスタートアップやテックジャイアントは、AIモデルのみを実行するチップ、または推論チップとしても知られるチップを開発しています。MetaにはMTIA、AmazonにはGravitonやInferentiaがあります。しかし、Etchedのチップは、1つのタイプのモデルであるtransformersのみを実行する点でユニークです。
2017年にGoogleの研究チームによって提案されたtransformerは、圧倒的に支配的な生成AIモデルアーキテクチャーとなりました。
Transformersは、OpenAIの動画生成モデルSoraの基盤です。また、AnthropicのClaudeやGoogleのGeminiなどのテキスト生成モデル、そして最新バージョンのStable Diffusionなどのアートジェネレーターにも力を発揮しています。
EtchedのCEOであるウベルティは、TechCrunchにインタビューで次のように述べています。「2022年、私たちはtransformersが世界を席巻するという賭けをしました。専用の汎用GPUよりも優れたパフォーマンスを発揮する専用チップが必然的に現れるポイントに達しました。そして、技術の意思決定者たちはこのことを認識しています。」
EtchedのチップであるSohuは、特定のアプリケーションに合わせて調整されたASIC(特定用途集積回路)であり、transformersを実行することを目的としています。TSMCの4nmプロセスを使用して製造されたSohuは、Uberti氏によると、GPUや他の汎用AIチップよりもはるかに優れた推論パフォーマンスを提供し、かつエネルギーをより少なく消費します。
Uberti氏は次のように述べています。「テキスト、画像、および動画transformersの実行時には、Sohuは次世代のBlackwell GB200 GPUすら一桁速く、安価です。1つのSohuサーバーは160台のH100 GPUを置き換える...Sohuは、専用チップが必要なビジネスリーダーにとって、より手頃で効率的、かつ環境に優しい選択肢になります。」
Sohuがこれらすべてをどのように実現しているか?いくつかの方法がありますが、もっとも明確で直感的な方法は、スムーズな推論ハードウェアとソフトウェアパイプラインです。Sohuはtransformers以外のモデルを実行しないため、Etchedチームは、transformersに関係のないハードウェアコンポーネントを排除し、非transformersを展開および実行するために従来使用されていたソフトウェアオーバーヘッドを削減することができました。
Etchedは、生成AIインフラ競争の転換点でシーンに登場しています。コストの懸念を超えて、現在のモデルを大規模に実行するために必要なGPUや他のハードウェアコンポーネントは、非常にエネルギーを消費します。
ゴールドマン・サックスが予測するところによると、2030年までにAIはデータセンターの電力需要を160%増加させ、温室効果ガス排出量の大幅な増加に寄与する見込みです。一方、カリフォルニア大学リバーサイドの研究者らは、グローバルなAIの利用が2027年までにデータセンターが新鮮な水を1.1兆から1.7兆ガロン吸い上げる可能性があり、地元の資源に影響を与えると推定しています。 (多くのデータセンターはサーバーを冷却するために水を利用しています。)
ウベルティ氏は楽観的に、または大胆に、業界の消費問題の解決策としてSohuを提案しています。
「要するに、将来のお客様はSohuに切り替えないわけにはいかないでしょう。企業は、構築しようとしているAI製品にとって、速度とコストが生存基盤であるため、Etchedに賭ける覚悟があります」とウベルティ氏は述べています。
しかし、Etchedが数か月以内にSohuを大量市場に展開する目標を達成すると仮定した場合、他社が後に続いている中で成功することは可能でしょうか?
現在は直接的な競合他社がいないものの、AIチップスタートアップのPerceiveは最近、transformersに対するハードウェアアクセラレーションを備えたプロセッサーをプレビューしました。また、Groqは、自社のASIC向けにtransformers固有の最適化に多額の投資を行っています。
競争は別として、もしtransformersがいつか人気を失った場合はどうなるのでしょうか?その場合、Etchedは明らかなことを行うでしょう:新しいチップの設計。これはかなりの緊急措置ですが、Sohuを完成させるのにどれだけ時間がかかったかを考えれば理解できます。
これらの懸念は、投資家がEtchedに莫大な資金を注入するのを阻止していません。
今日、Etchedは、Primary Venture PartnersとPositive Sum Venturesが共同リードする1億2000万ドルのシリーズA資金調達ラウンドを締めくくったことを発表しました。Etchedが総額1億2536万ドルを調達し、このラウンドには、ギャビン・ウベルティ、クリス・チュー、ワッカン氏がシール・フェローシップを受けているのを含む重量級のエンジェルバッカーたちが参加しました。GitHubのCEOトーマス・ドームケ、Cruise(およびBot Company)の共同創業者カイル・ヴォート、Quoraの共同創業者チャーリー・チーヴァーなどが含まれます。
これらの投資家たちは、Etchedがサーバーの販売事業を成功裏に展開する可能性が合理的だと信じていると考えられます。そして多分、そうかもしれません。ウベルティ氏によると、今のところ何百万ドルものハードウェアが予約されている未公開の顧客がいるとのこと。Sohu Developer Cloudの今後のローンチによって、オンラインのインタラクティブなプレイグラウンドを介して顧客がSohuをプレビューできるようになるはずであり、これが追加のセールスを推進するでしょうとウベルティ氏は提案しています。
しかし、現時点では、Etchedとその35人のチームを創設した会社の共同設立者が想定している未来に、足りることができるかどうかはまだ明確ではありません。AIチップセグメントは、最高の時でも容赦ないものです - AIチップスタートアップの顕著な失敗例、MythicやGraphcoreの他にも、2023年のAIチップベンチャーへの資金流入の急落を見てください。
ただし、ウベルティ氏の販売提案は力強いものです。「ビデオ生成、音声to音声モダリティ、ロボティクスなど、将来のAIユースケースへは、Sohuのような高速チップなしには不可能になります。インフラがスケーリング可能かどうかで、AI技術の将来全体が形作られるでしょう。」