Modal, AI 샌드박스 100만 개를 1분 안에 돌릴 수 있게 인프라를 다시 짰다
Modal이 대규모 에이전트 요청을 기다림 없이 처리하려고 샌드박스 구조를 다시 설계했다
TL;DR:
- Modal 업데이트로 초당 수만 개 샌드박스를 만들 수 있게 됐다
- 중앙 스케줄러와 느린 DB를 빼서 병목을 없앴다
- 주요 대상은 AI 에이전트, RL, 갑작스러운 워크로드다
핵심 내용
Modal은 이제 AI 에이전트용 샌드박스 100만 개를 1분 안에 띄울 수 있다고 밝혔다.
구조적 변화
이번 개편은 단순한 성능 개선이 아니라, 샌드박스를 동시에 수백만 개 규모로 운영하고 초당 수만 개씩 생성할 수 있는 실행 계층을 만드는 데 초점을 맞췄다.
주요 적용 대상은 강화학습 작업, 백그라운드 에이전트, 에이전트 트래픽이 갑자기 몰리는 버스트성 수요다.
Modal은 생성 경로에서 병목이 되기 쉬운 요소를 제거했다.
| 기존 병목 | 개편 방향 | | --- | --- | | 중앙 집중식 조율 | 수평 확장 가능한 스케줄링 서버 | | 느린 공유 데이터베이스 | 워커에 상태를 최대한 로컬 보관 | | 전역 일관성 중심 처리 | 메타데이터를 비동기적으로 처리 |
분석
이 변화가 중요한 이유는 AI 에이전트 워크로드 성격 때문이다. 코딩 에이전트, 브라우저 에이전트, RL 롤아웃, 자동화 태스크는 모두 빠르게 생성되고 격리되는 실행 환경을 필요로 한다.
Modal의 판단은 명확하다. Kubernetes식 구성은 높은 churn과 대규모 동시성을 전제로 설계된 시스템이 아니다. 중앙 조율과 공유 상태를 줄이면 생성 속도는 크게 개선될 수 있다. 대신 일부 일관성을 속도와 확장성에 양보하는 구조가 된다.
따라서 이번 개편의 핵심 트레이드오프는 전역 일관성보다 생성 속도와 동시 실행 능력을 우선한 것이다. 실제 운영 환경에서도 이 성능이 유지된다면, Modal은 대규모 에이전트 샌드박스를 온디맨드로 띄워야 하는 기업에 더 강한 선택지가 될 수 있다.
영향 평가
개발자 도구와 AI 인프라 영역에서 의미 있는 변화다. 에이전트 플랫폼과 실행 백엔드의 기술적 진화 흐름과 직접적으로 맞닿아 있다.
Verdict: 이 내러티브에 가장 이른 쪽은 대규모 AI 에이전트 실행 환경을 직접 구축하는 빌더이며, 실제 우위도 빌더에게 있다. 트레이더, 장기 보유자, 펀드에는 현재 단계에서 직접적인 포지셔닝 우위가 없다.