Together AI, Inkling 모델 지원… 추론 강도 조절 가능한 멀티모달
작업에 따라 모델이 생각하는 깊이를 조절할 수 있는 환경
23 hours ago
TL;DR:
- Inkling은 텍스트, 이미지, 오디오를 한 모델로 처리한다
- 작업 난이도에 따라 추론에 쓰는 자원을 늘리거나 줄일 수 있다
- FlashAttention-4로 처리 속도와 비용을 개선했다
Together AI가 Inkling을 추가했다
Together AI가 Thinking Machines Lab의 Inkling 모델을 새로 지원한다. Inkling은 멀티모달 MoE 구조로 만들어졌고, 불필요한 계산을 줄이면서도 여러 모달리티를 처리할 수 있게 설계됐다.
실제로 달라지는 점
단순히 여러 입력을 받는 것보다 중요한 건 추론에 쓰는 연산량을 조절할 수 있다는 점이다.
| 항목 | 내용 | |---|---| | 입력 | 텍스트, 이미지, 오디오 기본 지원 | | 추론 조절 | 빠른 응답과 깊은 분석 사이에서 강도를 바꿀 수 있음 | | 최적화 | FlashAttention-4 적용 | | 비용 | MoE로 필요한 경로만 사용해 대량 쿼리 비용 낮춤 |
왜 실용적인가
모델을 항상 같은 세기로 쓰는 건 비효율적이다. Inkling은 상황에 따라 다르게 쓸 수 있게 했다.
- 간단한 질문은 가볍게 처리
- 복잡한 분석은 더 많은 계산을 투입
- 문서, 이미지, 음성, 혼합형 작업을 한 모델로 처리
- MoE 덕분에 쿼리가 많아도 비용이 덜 든다
이번 업데이트는 모델 하나 추가에 그치지 않는다. 플랫폼이 모델과 최적화 도구를 함께 제공하는 방향으로 움직이고 있다는 신호다.
판단
영향도는 중간 정도다. 시장을 뒤집을 수준은 아니지만, 개발자 입장에서는 쓸 만한 옵션이 하나 더 생긴 셈이다. 추론 강도 조절, 멀티모달, FlashAttention-4를 한 번에 제공한다는 점은 주목할 만하다.
Verdict: 이 내러티브에서 실제로 앞서 있는 쪽은 builder다. 트레이더, 장기 홀더, 펀드는 직접적인 우위가 없으며, 지금 의미 있는 포지션은 제품과 에이전트 워크플로우에 Inkling을 빠르게 붙일 수 있는 개발팀이다.