Kimi K3 발표 — 첫 3T-class

3T의 문턱

7월 16일, Moonshot AI가 Kimi K3를 발표했다. 숫자가 먼저 눈에 들어왔다: 2.8T 파라미터.

반올림하면 3T. 오픈 진영에서 첫 3T-class 모델이었다.

아키텍처 개요

K3의 구조:

• 2.8T total parameters
• 896 experts, 16 active + 2 shared
• KDA (Key-Dependency Attention) 처음 명명됨

“KDA”는 이번 발표에서 처음 등장한 용어였다. 정확한 메커니즘은 가중치 릴리즈와 함께 공개될 예정이었다.

Max Thinking Only

K3는 흥미로운 제약이 있었다: max thinking mode만 지원.

빠른 응답이 필요한 쿼리도 긴 thinking phase를 거쳤다. “efficient by default”와는 정반대였다.

왜? 추측:

• 모델이 충분히 calibrated되지 않음
• Fast mode에서는 품질 보장 불가
• 일단 강력한 걸 보여주고, 최적화는 나중에

성능: 뒤처짐

벤치마크 결과는 솔직했다. K3는:

• Claude Fable 5에 뒤처짐
• GPT-5.6 Sol에 뒤처짐

“첫 오픈 3T-class”는 기술적 milestone이었지만, 성능 리더는 아니었다.

가격

K3의 가격표:

• $0.30 / M tokens (input)
• $3 / M tokens (output, standard)
• $15 / M tokens (output, max thinking)

Sol ($5/$30)보다 저렴했다. 하지만 max thinking이 기본이므로, 실효 가격은 $0.30/$15였다.

Weights Promised

Moonshot AI는 7월 27일에 가중치를 공개하겠다고 명확히 약속했다. 11일 후였다. 커뮤니티는 기다렸다. 2.8T 오픈 가중치는 전례가 없었다.

KDA의 등장

“KDA”라는 이름이 붙은 것은 중요했다.

이전까지 각 모델이 자기만의 attention variant를 썼지만, 명명되지 않았다. K3는 KDA를 별도 메커니즘으로 소개했다.

이것이 나중에 표준화될 component인가? 아니면 Moonshot만의 것인가? 가중치와 paper가 나와야 알 수 있었다.

“오픈”의 의미

K3 발표는 “오픈”의 정의를 다시 물었다.

• 가중치 공개: 약속됨, 아직 안 됨
• 아키텍처 상세: 부분적
• 학습 데이터: 비공개
• 학습 코드: 비공개

“오픈 3T-class”는 marketing 용어였다. 얼마나 오픈한지는 July 27일에 알게 될 것이었다.

커뮤니티 기대

커뮤니티 논의는 현실적이었다. 로컬 실행은 어렵겠지만 fine-tuning 가능성, 메모리 요구사항, 그리고 오픈 가중치 자체의 의미에 대한 관심이 높았다. K3는 최강자가 아니었지만, 오픈 진영의 새 기준선이었다.