avatar

Modal、AIサンドボックスを100万個、1分未満で起動できるように基盤を直した

ボトルネックを避けて、大量のエージェントを素早く扱えるよう作り直した

avatar@modal
1 day ago

TL;DR:

  • Modalの更新で毎秒何万個ものサンドボックスを作れるようになった
  • 中央のスケジューラや遅いデータベースを外して、起動を速くした
  • 主にAIエージェントやRL、急な負荷増に対応するワークロード向け

ヘッドライン

ModalはAIエージェント向けサンドボックスを100万個規模でも1分未満で起動できると主張している。

要約

Modalはサンドボックス基盤を作り直し、同時に数百万単位を扱いつつ毎秒数万個を新規作成できる設計にした。狙うワークロードは主にこれらだ。

  • 強化学習の大量ロールアウト
  • 常駐やバックグラウンドで動くAIエージェント
  • エージェント利用が短時間に急増するバースト負荷

従来のボトルネックになりやすい中央集権的なスケジューラや低速な共有データベースをサンドボックス作成の経路から外し、代わりに以下の構成へ移した。

| 設計要素 | 変更後の方向性 | 狙い | |---|---|---| | スケジューリング | 水平方向にスケールするスケジューリングサーバー | 作成リクエストの集中を避ける | | 状態管理 | 多くの状態をワーカー側に保持 | グローバルな同期待ちを減らす | | メタデータ処理 | 非同期処理を活用 | 起動パスのレイテンシを抑える |

分析

このアップデートが重要なのは、大量のAIエージェントを同時に走らせる事業者にとってサンドボックスの起動速度と分離性能が実行基盤の競争力に直結するからだ。コーディングエージェント、ブラウザ操作エージェント、RLロールアウト、自動化タスクはどれも短命で隔離された実行環境を高速に必要とする。

ModalはKubernetes的な構成はこのレベルの生成・破棄の頻度と高並行性を前提に作られていないと見ている。今回の設計ではワーカーに多くの裁量を持たせ、メタデータ処理を非同期化することで一部の一貫性を速度とスケールのために差し出している。

実運用でもこの性能が維持できるなら、オンデマンドで大規模なサンドボックスを立ち上げたいエージェント企業にとってModalは有力な実行基盤候補になる。

インパクト評価

  • 開発者ツールおよびAIインフラ領域では重要度が高い
  • エージェントプラットフォームとその裏側にある実行バックエンドの高度化という業界トレンドに直結する

Verdict: このテーマはまだ早い側にいる。最も有利なのは短時間に大量の隔離実行環境を必要とするエージェント企業のbuilderとAIインフラ事業者で、短期トレーダーや一般的な長期ホルダーにとっては直接の優位性は薄い。