구글 TPU를 추론 전용으로 따로 빼는 전략
구글은 학습과 추론을 나눠 MediaTek을 밀어주고 Broadcom을 견제하는 중이다.
TL;DR:
- 추론 전용 칩이 범용 칩보다 비용에서 훨씬 유리하다.
- MediaTek이 클라우드 칩 매출로 AI 공급사 반열에 오르고 있다.
- 추론 물량이 싼 공급사로 옮겨가면서 Broadcom의 힘이 약해진다.
- AI 에이전트는 FLOPS보다 메모리 배치와 디코딩이 핵심이다.
Google이 TPU v9 로드맵에 추론 전용 버전을 넣은 건, AI 칩을 용도별로 나누는 쪽으로 방향을 튼다는 의미다. Triggerfish 프로그램으로 MediaTek을 그냥 보조가 아니라 핵심 공급사로 올려놨다. 클라우드 회사들이 Nvidia 가속기 하나만으로는 비용과 성능을 동시에 잡기 어렵다고 판단하고, 학습용과 추론용을 따로 만드는 움직임이 뚜렷해지고 있다.
추론 TPU 때문에 Broadcom 영향력이 줄고 MediaTek 입지가 커진다. MediaTek은 2028년쯤 25% 점유율까지 바라보는 상황이다. Google은 Broadcom Sunfish는 학습용, MediaTek Zebrafish는 추론용으로 역할을 나눴고, Marvell과 Intel까지 합쳐 네 곳과 일하는 체제로 바뀌었다.
에이전트와 강화학습 워크로드는 메모리 효율이 진짜 병목이다. 단순 FLOPS 경쟁에서 벗어나고 있다. 학습 칩은 여전히 비싸고 유연해야 하지만, 추론 칩은 비용 압박이 훨씬 세다. MediaTek이 가진 SerDes 기술과 TSMC와의 관계가 여기서 힘을 발휘한다.
Google이 MediaTek에 추가로 주는 물량 100만~200만 개는 Humufish 물량 위에 얹히는 구조라, 추론 수요가 학습 수요를 빼앗는 건 아니다. 30% 가격 프리미엄과 시뮬레이션 다이는 실제로 에이전트 워크로드의 병목을 해결하기 위한 투자다. 성능이나 비용 개선이 없으면 Google이 비싼 값을 줄 이유가 없다.