PerplexityのSPACE、本番環境でサンドボックス生成遅延を大幅短縮
SPACEのおかげでサンドボックス生成が速くなって、本番でも問題なく回ってるみたいだ。
4 days ago
TL;DR:
- 本番トラフィックそのままに、サンドボックス生成の中央値が185msから60msまで縮んだ。
- P90レイテンシは447msから89msに改善した。
- 先週だけでComputerプロダクトが数百万件の生成と数千万件の再接続を処理した実績がある。
- 低遅延で安全なサンドボックスは、エージェント系システムの強みになりやすい。
要点
PerplexityはAIエージェント向けのセキュアサンドボックス基盤SPACEで、生成レイテンシを本番環境でかなり削減した。
サマリー
SPACEを入れた後、同じトラフィックでのサンドボックス生成時間はこう変わった。
| 指標 | 改善前 | 改善後 | |---|---:|---:| | 中央値 | 185ms | 60ms | | P90 | 447ms | 89ms |
Computerプロダクトでは先週だけで数百万件の生成と数千万件の再接続をさばいている。ベンチマークじゃなく実際の数字だ。
分析
エージェントがブラウジングやコード実行をするとき、サンドボックスはセキュリティの壁でありながら応答速度にも直結する。今回の数字が示すのは、モデル性能だけでなく推論・ツール・セキュリティをまとめて速くする基盤が大事になってきたということだ。
特に気になるのはこれら。
- 低レイテンシ生成はエージェントの体感速度にそのまま効く
- 数千万件規模の再接続は、単発じゃなくセッションをまたいで使われていることを示唆する
- セッションの持続性はエンタープライズ向けで差がつきやすい
インパクト評価
重要度: Medium
カテゴリ: Technical Insight, Developer Tools, Industry Trend
Verdict: 今のところエージェント基盤を作ってる側が一番動きやすい。短期で儲けようとする人には直接関係薄いけど、長期でインフラ競争を見るファンドは追いかける価値ありそう。