노트북에서도 돌아가는 새 AI 모델 인클링 2 미니 공개

인클링 2 미니는 일반 노트북에서도 실행할 수 있을 만큼 작으면서 성능이 좋은 인공지능 모델입니다. 인공지능 모델의 크기는 보통 매개변수 개수로 말합니다. 매개변수는 모델이 학습으로 쌓은 지식의 양을 나타내는 숫자입니다. 인클링 2 미니는 전체 매개변수가 264억 개인데, 한 번에 실제로 쓰는 매개변수는 34억 개입니다. 또 같은 계산을 여러 번 반복하는 구조를 써서 토큰 하나를 처리할 때 54억 개 분량의 가중치가 활성화됩니다. 토큰은 모델이 글을 처리하는 최소 단위입니다. 필요한 부분만 골라 쓰는 이 방식을 전문가 혼합이라고 합니다. 여기에 루프 트랜스포머라는 구조도 씁니다. 24개 층을 6개씩 네 묶음으로 나누고 가운데 두 묶음은 토큰마다 세 번씩 반복 실행합니다. 매개변수를 늘리지 않고도 계산을 더 많이 하게 해 추론 능력을 높이려는 설계입니다. 전체 메모리 사용량은 약 20GB라서 32GB 이상의 램을 가진 맥북이나 데스크톱에서 돌릴 수 있습니다. 누구나 내려받아 쓸 수 있는 공개 가중치로 공개됐고, 팅커 플랫폼에서 추론과 맞춤 설정을 할 수 있습니다.

인클링 2 미니는 전체 매개변수가 1000억 개 미만인 공개 모델 가운데 딥SWE v1.1에서 48.2%, 발스 인덱스 v2.2에서 46.5%를 기록해 가장 높은 점수를 냈습니다. 루프 구조 덕분에 비슷한 성능의 다른 모델보다 빠르게 실행됩니다. 이 모델을 공개한 이유 가운데 하나는 연구자들이 루프 트랜스포머를 연구할 수 있게 하려는 것입니다. 특히 인공지능이 문제를 푸는 과정을 살펴보는 모니터빌리티 연구에 쓸모가 있습니다. 보통 트랜스포머는 토큰이 층을 한 번만 지나가기 때문에 모델이 생각을 글로 적어야 그 과정을 읽고 감시할 수 있습니다. 반면 루프 트랜스포머는 같은 층을 여러 번 반복하므로 답을 내놓기 전에 내부에서 계산을 더 많이 합니다. 그러면 모델이 생각을 글로 적지 않고도 추론을 더 할 수 있어 감시가 어려워질 수 있다는 우려가 나옵니다. 기사는 루프가 늘어나도 사고 과정의 가독성과 통제 가능성이 크게 나빠지지 않았다는 예비 분석 결과를 제시합니다. 또 대부분의 가중치를 4비트 정밀도로 훈련하고 배포해 메모리를 아끼며, 훈련에 쓴 정밀도 그대로 배포하기 때문에 양자화 변환에서 생기는 손실이 없습니다.

인클링 2 미니는 인공지능이 스스로 코드를 짜고 고치는 에이전틱 코딩에서 강합니다. 딥SWE v1.1 48.2%, SWE-bench Pro v2 77.9%, SWE-bench Verified 79.2%로 비슷한 규모의 다른 공개 모델보다 높은 점수를 냈습니다. 커널 최적화 시험인 PMPP-Hard에서는 훨씬 큰 인클링 2 스몰의 점수에 가까웠습니다. 반면 지식 암기력은 주로 전체 매개변수 수에 좌우됩니다. 사실성 시험인 AA-Omniscience에서 인클링 2 미니는 비슷한 크기의 다른 모델들과 비슷한 점수를 받았습니다. 루프 횟수를 조절한 연구에서는 긴 문맥을 파악하는 시험은 반복이 많을수록 성능이 좋아졌지만, 단순 지식 암기 시험은 반복을 늘려도 나아지지 않았습니다. 대신 외부 검색과 도구 활용으로 지식 부족을 메웁니다. BrowseComp 79.0%, DeepSearchQA 85.3%, MCP Atlas 82.7%로 비슷한 크기의 공개 모델보다 앞섰습니다. 스탠퍼드 대학의 줄당 지능 실험에서 인클링 2 미니는 엔비디아 DGX Spark에서 0.703점을 기록해 Qwen3.6-35B-A3B의 0.430, Gemma-4-26B-A4B의 0.159, Qwen3.5-27B의 0.036보다 크게 앞섰습니다. 연구원들은 비행기 안에서 48GB 램의 맥북 프로로 인터넷 없이 이 모델을 돌려 몇 분 만에 조작 가능한 비행 시뮬레이터를 만들었습니다. 또 인터넷에 연결되지 않은 맥북 한 대에서 주민 20명이 사는 마을 시뮬레이션을 돌렸습니다. 한계도 있습니다. 여러 차례 대화하는 시험인 MultiChallenge에서 50.0%, 복잡한 조건을 다루는 ComplexConstraints v1.1에서 33.4%를 기록해 두 시험 모두 Qwen3.8-27B에 뒤졌습니다. 추론을 많이 요구하는 CritPt v2와 HLE-Diamond에서도 더 큰 모델들보다 낮은 성적을 냈습니다. 모니터빌리티 실험에서는 루프가 늘어나도 사고 과정이 읽을 수 있는 형태로 유지됐고, 에이전트 사보타주 시험에서 성능이 더 나빠지는 경향도 보이지 않았습니다. 다만 사고 과정을 제어하는 능력은 인클링 2 미니와 변형 모델 모두 낮았습니다. 750~1,250토큰 길이의 사고 과정에서 지시를 따른 비율이 0.1% 이하였습니다.

일반 사용자가 당장 체감할 변화는 크지 않습니다. 인클링 2 미니는 연구와 개발을 위한 도구로 공개됐고, 일상적인 챗봇이나 앱에 바로 적용되는 것은 아닙니다. 다만 32GB 이상의 램을 가진 맥북이나 데스크톱이 있다면 직접 내려받아 인터넷 없이 실행해 볼 수 있습니다. 개발자에게는 더 직접적인 의미가 있습니다. 공개 가중치로 공개돼 팅커 플랫폼에서 추론과 미세 조정을 할 수 있고, 올라마, SGLang, vLLM 등 여러 도구에서 실행할 수 있어 자신의 애플리케이션에 통합하기 쉽습니다. 다만 여러 차례 대화하거나 복잡한 지시를 따르는 일에서는 상대적으로 약하므로 모든 용도에 최적인 것은 아닙니다. 에이전틱 코딩이나 검색 도구 사용처럼 특정 작업에 강점을 보입니다. 모니터빌리티 연구는 인공지능 안전성과 직결되므로 장기적으로 더 안전한 인공지능을 개발하는 데 기여할 수 있습니다. 다만 이는 연구 단계의 가능성이며, 당장 일상생활에 큰 변화를 주는 것은 아닙니다.