스트랜드 디시더 2B: 작고 공개된 의사결정 모델 소개
1. 이게 뭔가요?
스트랜드 디시더 2B는 긴 문장을 직접 만드는 대신 여러 보기 중에서 정답을 빠르게 고르거나 점수를 매기는 데 특화된 소형 오픈소스 결정 모델입니다. 여기서 모델은 특정 작업을 수행하도록 학습된 인공지능 프로그램을 뜻하며 오픈소스는 소스 코드와 학습 데이터 등이 공개되어 누구나 자유롭게 가져다 쓸 수 있음을 의미합니다. 또한 2B는 설정 값인 매개변수가 약 20억 개라는 뜻으로 보통의 거대 언어 모델보다 훨씬 작고 가벼워서 개인용 컴퓨터에서도 원활하게 실행할 수 있습니다.
2. 왜 화제인가요?
최근 인공지능 업계에서는 자유롭게 글을 짓는 거대 언어 모델뿐만 아니라 빠르고 정확하게 판단만 내리는 결정 모델 부류가 큰 관심을 받고 있습니다. 스트랜드 디시더 2B는 이 흐름에 발맞추어 개발자들이 로컬 환경에서 가볍고 빠르게 실험하고 혁신을 시도할 수 있도록 공개된 첫 번째 결과물입니다. 복잡한 인공지능 작업 안에서 도구를 올바르게 선택했는지 검증하거나 비용을 줄이는 방식을 실험할 수 있다는 점에서 중요합니다.
3. 핵심 내용
스트랜드 디시더 2B는 미리 학습된 거대 언어 모델의 기본 몸체에서 글을 생성하는 머리를 떼어내고 그 자리에 점수를 매기는 머리를 붙여 구조를 바꿨습니다. 이 모델은 깃허브에 오픈소스로 공개되었고 세부 가중치와 학습 데이터도 함께 공개되었습니다. 성능 평가에서 이 모델은 공개 시험 세트의 정확도와 신뢰도 측정 결과 비슷한 크기의 모델 33개 중 3등을 차지했고 20억 개를 아주 조금 넘는 모델들을 제외하면 30개 모델 중 1등을 기록했습니다. 속도 측면에서는 널리 쓰이는 그래픽 카드에서 실행할 때 중간값 기준으로 약 115밀리초 만에 결정을 내릴 수 있으며 맥북에서도 작은 작업 기준으로 약 153밀리초 만에 처리합니다. 작업의 크기가 클수록 처리 시간도 비례해서 늘어납니다. 개발팀은 이 모델을 통해 인공지능 비서가 사용자의 말을 오해하여 임의로 날씨 정보를 검색하려 할 때 질문의 맥락을 읽고 추가 확인이 필요한지 예 아니오로 답하여 엉뚱한 실수를 막는 안전장치 예시를 선보였습니다.
4. 나에게 어떤 영향이 있나요?
일반 독자나 개발자가 이 모델을 활용하면 자신의 컴퓨터에서 직접 인공지능 의사결정 실험을 진행할 수 있습니다. 예를 들어 인공지능 비서가 사용자의 말을 오해하여 임의로 날씨 정보를 검색하려 할 때 이 결정 모델이 질문의 맥락을 먼저 검토하여 추가 확인이 필요한지 판단하는 안전장치 역할을 수행할 수 있습니다. 다만 이 모델은 글을 직접 작성하거나 대화를 나누는 용도로는 쓸 수 없으며 개발자가 직접 환경을 설정해야 효과를 볼 수 있습니다. 따라서 일반적인 사용자에게 즉각적인 체감 효과는 크지 않으며 개발 과정에서 속도를 높이고 오류를 줄이는 연구 목적으로 주로 쓰입니다.