あなたのAIインフラは恐らく大損している(そしてあなたはそれさえ知らない)

ほとんどのチームは、手遅れになるまで、DIYインフラにどれだけ費やしているか気づいていない。実際の数字、実際の話、そして最も急速に成長しているチームがすでに自前で構築するのをやめた理由。

あなたのAIインフラは恐らく大損している(そしてあなたはそれさえ知らない)

ちょっと本音を。

私は先週、カスタムテナントプロビジョニングの構築に4ヶ月を費やした創業者と電話で話していた。

彼の顧客はその4ヶ月の間に何を得たか知っているか?

彼は "3週間かかると思っていた "と言った。

誰も語らない金の穴

ほとんどの人は実際に座って計算することはないと思うからだ。

シニア・エンジニアの平均給与:年俸15万ドルとする。

テナント・プロビジョニングをゼロから構築する:最短で8~12週間(寛大に考えて)。

エンジニア2人が10週間働くと、給料だけで14万4000ドル**になる。

この数字はバージョン1を動かすためのものだ。

毎週、10時間から20時間、明かりを点け続ける。午前2時に期限切れになるSSL証明書、枯渇するコンテナ、満杯になるボリューム、誰かが設定を変えたために壊れるDNS。

メンテナンスの人件費だけで、年間37,000ドルから75,000ドルかかる。

一方、ShipCrewのコストはエンジニアの月給よりも低い。

DIYに数学は通用しない。

インフラ整備をやめて出荷を始めたらどうなるか

自前でインフラを構築するのをやめたチームが、収益を上げている。

東建

Savioは437のアクティブなサブスクリプションで19,613ドルのMRRを達成した。彼はコンテナ・オーケストレーションを手作業でロールバックすることによって、この記録を達成したわけではない。彼は、プラットフォームが退屈なことを処理する間、毎週機能を出荷することでそこに到達した。

東建

Marc Louは6日間でMRR$0から$4,779になりました。95のアクティブなサブスクリプション。6日間。他のチームがまだプロビジョニングスクリプトをデバッグしている間に、彼はすでに収益を集めていた。

これらは仮定の話ではなく、製品を差別化できないインフラにエンジニアリングの時間を費やすのはやめようというシンプルな決断を下した実際の人々の実際のダッシュボードである。

「コントロールが必要だ

よく耳にする言葉だ。"インフラを完全に管理する必要がある"

でも...君はどう思う?

彼らはkubernetesを必要としていない。彼らは機能を出荷し、取引を成立させる必要がある。

顧客が実際に気にしているのは、AIが動くかどうか、スピードが速いかどうか、データが安全かどうかだ。

競合他社がnginxの設定をデバッグしている間に、彼らは毎週機能を出荷している。

何度も何度も目にしたもの

ここ数カ月で40~50チームと話をしたが、パターンはいつも同じだ:

  1. チームがマルチテナントAI製品の構築を決定
  2. チームは共有ランタイムでスタートする(迅速かつ簡単)
  3. 最初の企業プロスペクトが隔離について尋ねる
  4. チームはパニックに陥り、カスタムプロビジョニングの構築を開始する。
  5. 3ヶ月で消える
  6. チームはようやく動くようになったが、壊れやすい
  7. チームは、出荷の代わりにメンテナンスに時間を費やす。

時計仕掛けのように毎回ね。

ステップ4~7をスキップするチームとは、他のチームがまだデブオペと格闘している間に、エンタープライズ案件を成立させるチームのことだ。

午前3時に壊れるもの

DIYのプロビジョニングがうまくいかないのを見たことがある:

  • 土曜の夜にssl証明書の期限が切れた。200のテナントがダウンしました。設定したエンジニアが休暇中だったため、修正に6時間かかりました。
  • あるテナントがボリュームを100%にした。
  • マイグレーション後、dnsプロパゲーションに問題が発生。
  • コンテナのメモリリーク。誰も気づかないうちに数週間パフォーマンスが低下。
  • 誤ったAPIキーが誤ったテナントに注入された。

そのひとつひとつが、実際のチームによる実際のストーリーであり、プラットフォームがそれを処理してくれるときには起こらないようなことなのだ。

複合問題

直接的なコストだけではない。

インフラーに使う月は使わない月だ:

  • 企業との取引を成立させる機能
  • 解約を減らすオンボーディングの改善
  • 新市場を開拓する統合
  • 顧客が対価を支払う実際のAI製品

インフ ラをアウトソーシングしたチームとそうでないチームの差は、毎月のように広がっている。

今から6ヶ月後、ShipCrewを使用しているチームは20の機能を出荷している。DIYを行っているチームは8を出荷し、まだプロビジョニングシステムにパッチを当てている。

それは小さな違いではなく、まったく異なる軌道だ。

"次の四半期にすればいい"

次の四半期は来ない。遅れる理由は常にある。

そして、4分の1遅れるごとに、また4分の1が遅れる:

  • インフラに費やしたエンジニアリング時間
  • 分離を実証できないために失われた企業取引
  • 顧客の信頼を損なう事件
  • 作られない機能

ShipCrewに乗り換えたチームは、自分たちがそうしたいからそうしているのではありません。数字を見て、DIYのアプローチが自分たちの成長を殺していると気づいたからそうしているのです。

万人向けとは言っていない

インフラが製品であるなら、自分で作ればいい。プラットフォームのコストが構築コストよりも純粋に高い規模なら、自分で作ればいい。

しかし、AI製品を出荷しようとしている2~10人のエンジニアのチームであれば、テナント・プロビジョニングに数カ月を費やすことは、おそらく時間の使い方として最悪のことだろう。

ビジュアル・ビルダーは最初のテナントを設定するのに15分ほどかかる。

最悪の場合、15分を失うことになる。

東建