촬영일 기준 공식 페이지이며 기사 게시 당시와 다를 수 있습니다. 이미지를 선택하면 확대할 수 있습니다.
중국의 AI 기업 Moonshot AI(月之暗面)는 10월에 공개한 AI 모델 'Kimi K3.1 Pro'의 가중치(모델 본체에 해당하는 데이터)를 예고했던 기한인 11월 4일까지 Hugging Face에서 공개했습니다. Hugging Face 기록에 따르면 파일을 두는 저장소(리포지토리)가 만들어진 것은 11월 2일(협정 세계시)입니다. 이용자 등록이나 신청은 필요 없으며 누구나 내려받을 수 있습니다. CoAI는 10월 공개 당시 예정 사항으로 전했는데, 그 기한 안에 공개가 이뤄졌습니다.
공개된 모델
Hugging Face의 모델 설명에 따르면 구성은 다음과 같습니다.
- 구성: 총 파라미터 2.8조, 토큰당 1,040억 개가 작동하는 MoE(896개 전문가 중 16개를 골라 쓰는 방식)
- 컨텍스트 길이: 약 100만 토큰
- 입력: 텍스트와 이미지(이미지 판독 부분은 약 4억 파라미터)
- 형식: 가중치는 4비트(MXFP4), 계산 중간값은 8비트(MXFP8)이며, 이 형식을 전제로 학습함
- 용량: 96개 파일로 나뉘어 합계 약 1.56TB
- 지원하는 추론 엔진: vLLM, SGLang, TokenSpeed
사고의 깊이를 'low', 'high', 'max' 3단계 중에서 고를 수 있으며, 기본값은 max입니다. 11월 5일에는 쓸 수 없는 설정(medium)을 없애는 수정이 이뤄졌습니다.
라이선스 조건
가중치에는 일반적인 오픈소스 라이선스가 아니라 Moonshot AI 자체의 'Kimi K3.1 Pro License'가 붙어 있습니다. 상업적 이용은 대체로 허용되지만, 규모가 큰 서비스에는 다음과 같은 조건이 있습니다.
- AI 모델을 외부에 제공하는 사업(MaaS)을 하는 기업으로, 계열사를 포함한 매출 합계가 연속된 12개월 동안 2,000만 달러를 넘는 경우, 상업적으로 사용하기 전에 Moonshot AI와 별도 계약을 체결
- 월간 이용자가 1억 명을 넘거나 월 매출이 2,000만 달러를 넘는 제품이나 서비스에서는 화면에 'Kimi K3.1-Pro'를 눈에 띄게 표시
사내 이용이나 Moonshot AI의 공식 제품·인증받은 추론 서비스를 통한 이용은 이 조건의 대상이 아닙니다.
사이버 공격 능력에 대해
Moonshot AI는 10월 발표에서, 가중치를 공개하는 버전에서는 2개의 학습 단계에서 사이버 공격과 관련된 데이터를 제거했다고 설명했습니다. 사내 평가에서는 공격 관련 문제를 풀 수 있는 비율이 90.5%에서 81.0%로 낮아졌다고 밝혔습니다.
CoAI 편집부의 시각
Kimi K3.1 Pro는 Moonshot AI가 '지금까지 가장 고성능인 3조 파라미터급 오픈 웨이트 모델'이라고 내세우는 모델로, 예고한 기한 안에 공개하면서 신뢰를 높였습니다. 다만 1.56TB라는 크기는 개인 PC에서 돌릴 수 있는 규모가 아닙니다. 실제로 실행하려면 고성능 GPU를 다수 갖춘 서버가 필요합니다.
많은 기업에게는 자사 서버에서 실행해 데이터를 외부로 내보내지 않고 쓸 수 있다는 점과, 성능을 직접 검증할 수 있다는 점이 가중치 공개의 주된 이점이 됩니다. 라이선스는 대규모 서비스가 아니라면 큰 제약이 되기 어렵지만, 일반적인 오픈소스와는 조건이 다릅니다. 사용하기 전에 라이선스 전문을 확인해 두세요.
