avatar

Kimi K3, 코딩 벤치마크에서 Claude급 성능을 더 낮은 비용으로 보여줘

Together AI 테스트에서 Kimi K3는 약 3분의 1 비용으로 Claude Fable 5와 비슷한 결과를 냈다

avatar@togethercompute
4 hours ago

TL;DR:

  • Kimi K3는 소프트웨어 엔지니어링 작업에서 Claude Fable 5와 비슷한 성능을 보였다
  • 운영 비용은 대략 35% 수준이다
  • 여러 번 시도할 수 있는 환경에서는 Kimi K3가 앞섰다

핵심 내용

Together AI의 벤치마크에 따르면 Kimi K3는 코딩 작업에서 Claude Fable 5와 거의 같은 성능을 보이면서도, 비용은 대략 3분의 1 수준에 머문다.

요약

Together AI는 실제 소프트웨어 엔지니어링 업무를 대상으로 하는 DeepSWE 테스트에서 Kimi K3와 Claude Fable 5를 비교했다. 핵심 결과는 명확하다.

  • Kimi K3는 Claude Fable 5와 유사한 수준의 코딩 성능을 기록했다.
  • 비용은 Claude Fable 5 대비 약 35% 수준으로 제시됐다.
  • 문제당 여러 번의 시도를 허용하는 환경에서는 Kimi K3가 더 강한 결과를 보였다.

분석

이 수치가 재현 가능하다면, 코딩 특화 모델 시장의 방향성은 더 분명해진다. 강한 코딩 성능은 점점 저렴해지고 있으며, 특히 에이전트가 여러 해법을 생성한 뒤 가장 나은 결과를 선택하는 구조에서 비용 효율성이 더 중요해지고 있다.

실제 코딩 에이전트 워크플로우는 단일 응답의 품질만 보지 않는다. 보통은 다음과 같은 방식에 가깝다.

  1. 하나의 문제에 대해 여러 후보 해법을 생성한다.
  2. 테스트나 평가 루프를 통해 실패한 결과를 걸러낸다.
  3. 통과 가능성이 가장 높은 결과를 선택한다.

이 구조에서는 모델의 절대 성능뿐 아니라 유효한 결과 하나를 얻기까지 드는 비용이 핵심 지표가 된다.

| 비교 축 | Kimi K3 | Claude Fable 5 | |---|---:|---:| | 소프트웨어 엔지니어링 작업 성능 | 유사한 수준 | 유사한 수준 | | 비용 | 약 35% 수준 | 기준 비용 | | 여러 번 시도하는 환경 | 상대적으로 우세 | 상대적으로 약세 |

따라서 팀들이 도구를 선택할 때도 단순히 브랜드 인지도나 최상위 모델 여부만 보는 흐름은 약해질 수 있다. 앞으로는 다음과 같은 기준이 더 직접적인 의사결력 변수로 작동할 가능성이 크다.

  • 실제 업무 벤치마크에서의 통과율
  • 여러 번 시도했을 때의 개선 폭
  • 추론 비용 대비 유효 산출물 비율
  • 에이전트 워크플로우에 넣었을 때의 총 운영비

Together AI 입장에서는 이번 테스트가 단순한 모델 비교를 넘어, 독립 벤치마크와 실제 추론 비용이 AI 인프라 선택의 핵심 기준으로 이동하고 있다는 메시지를 강조하는 사례다.

영향 평가

중요도: 중간
분류: 기술 인사이트, 시장 영향, 산업 트렌드

Verdict: Kimi K3 내러티브는 아직 늦지 않았다. 단기 트레이더보다 실제 코딩 에이전트를 운영하는 빌더와 비용 구조를 따지는 AI 인프라 팀이 가장 유리한 위치에 있다.