중국 AI 기업, 멀티모달 에이전트형 AI 모델 'Kimi K3.1 Pro' 공개
1. 이게 뭔가요?
Kimi K3.1 Pro는 중국의 AI 기업인 문샷 AI가 만든 대규모 인공지능 모델입니다. 이 모델은 글뿐만 아니라 이미지도 함께 이해할 수 있는 멀티모달 기능을 갖췄습니다. 또한 단순한 대화를 넘어 코딩이나 3차원 콘텐츠 제작, 금융 조사 같은 복잡한 일을 스스로 처리하는 '에이전트형' 모델입니다. 문샷 AI는 이 모델이 자사가 만든 3조 개 매개변수(모델을 구성하는 수치) 규모 중 가장 성능이 좋은 모델이라고 밝혔습니다. 이 모델은 누구나 다운로드해서 쓸 수 있는 '오픈 웨이트' 모델입니다.
2. 왜 화제인가요?
이 모델이 주목받는 이유는 단순히 글을 만들어내는 것을 넘어 실제 작업을 수행하는 에이전트 기능에 중점을 두었기 때문입니다. 특히 한 번에 100만 개의 토큰(컴퓨터가 이해하는 텍스트의 단위)을 기억하는 긴 문맥 처리 능력을 갖췄습니다. 또한 모델의 핵심 구성 요소들을 공개해서 기업이나 개발자가 자신의 시스템에 설치하거나 특정 목적에 맞게 추가 학습시킬 수 있도록 접근성을 높인 점이 중요합니다.
3. 핵심 내용
모델 구조는 '전문가 혼합 구조(MoE)'를 사용합니다. 전체 매개변수는 2조 8천억 개지만, 실제 작업 시에는 그중 1,040억 개만 선택적으로 사용해 효율을 높입니다. 이 모델은 93개의 층(레이어)을 가지고 있으며, 16만 개의 어휘 집합을 사용하고 문맥 길이는 104만 8,576개 토큰까지 처리 가능합니다. 이미지를 이해하는 부분은 4억 100만 개의 매개변수로 구성되어 있으며, 훈련 단계부터 저장 공간과 계산량을 줄이는 '양자화' 기술을 적용했습니다. 기존 Kimi K3 모델과 비교했을 때, 긴 문맥을 더 효율적으로 처리하기 위해 집중 처리 방식을 '희소 방식'으로 바꿨습니다. 성능 평가는 특정 조건에서 진행했는데, 코딩 능력 테스트인 터미널벤치 4.0에서 65.7점을 기록했고, 웹 탐색 시험인 브라우즈컴프에서는 92.1점을 기록했습니다. 사이버 보안 시험인 익스플로잇벤치에서는 74.7점을 기록했습니다.
4. 나에게 어떤 영향이 있나요?
일반 사용자는 이 모델에 보고서나 그래프 같은 이미지를 보여주며 분석을 요청하고, 그 결과를 바탕으로 전략을 세우는 방식으로 활용할 수 있습니다. 개발자나 기업은 이 공개된 모델을 자신의 서버에 설치하거나 특정 업무에 맞게 추가 학습시켜 쓸 수 있습니다. 다만, 사용하려면 API를 이용하거나 vLLM, SGLang, TokenSpeed 같은 실행 소프트웨어를 갖춰야 합니다. 대화를 이어갈 때는 모델이 이전에 했던 생각 과정과 도구 호출 기록 전체를 다시 입력해 줘야 합니다. 답변의 사고 깊이는 'low', 'high', 'max'로 조절 가능하며 기본값은 'max'입니다. 지난달 다운로드 수는 11,658회였습니다.