소형 의사결정 인공지능 모형 시리즈 '케브'
1. 이게 뭔가요?
케브는 긴 글이나 고객 센터 문의를 읽고 예/아니오 판별, 객관식 선택, 점수 매기기 등 여러 질문에 한꺼번에 답하는 소형 인공지능 모형 시리즈이다. 일반적인 대화형 인공지능처럼 줄글로 길게 말하는 대신 확률 값과 신뢰도를 포함한 정밀한 판단 결과를 통계 수치와 함께 돌려주며, 개발자가 직접 내려받아 사용할 수 있도록 공개되어 있다.
2. 왜 화제인가요?
기존 대화형 인공지능은 무겁고 복잡하며 하나의 문장에 여러 질문을 던지면 답변끼리 간섭이 일어나 업무 자동화에 쓰기 어려웠다. 케브는 각 질문을 서로 독립적으로 처리하고 정답뿐만 아니라 확률 분포와 신뢰도를 함께 제공하여 기업 시스템에 안정적으로 연동할 수 있다는 점에서 차이가 있다.
3. 핵심 내용
케브는 알리바바의 큐웬 3.5 모델을 기반으로 삼은 0.8B, 4B, 9B 크기의 소형 의사결정 모형 모음이다. 프로그램 간 소통을 돕는 응용 프로그램 인터페이스 기능이 시스템 원 규격과 호환되어 파이썬 도구를 통해 사용자의 지역 서버와 바로 연결되며, 일반 컴퓨터와 맥 환경에서 구동된다. 입력된 긴 글은 여러 질문이 공유하지만 각 질문은 서로의 내용을 직접 읽지 못하도록 독립적으로 처리되며, 예/아니오, 객관식, 점수 매기기 형태의 질문을 하나의 요청 안에서 동시에 처리할 수 있다. 학습에는 공개 데이터셋과 생성된 정책 예제가 결합된 데이터 모음이 사용되었으며, 사용자는 자신의 데이터로 짧게 추가 학습을 진행하여 맞춤형 모형을 만들 수 있다. 다만 새로운 자료에 대해 과도한 확신을 가지는 경향이 있어 틀린 답에 높은 확률을 부여할 수 있으며, 날짜 계산이나 복잡한 지식 추론 같은 특정 작업에서는 기본 모형의 한계로 인해 성능이 떨어진다.
4. 나에게 어떤 영향이 있나요?
일반 독자는 앞으로 기업이 운영하는 고객 센터의 자동 분류 시스템이나 문의 처리 속도가 더 빠르고 정확해지는 변화를 경험하게 된다. 개발자나 기업 실무자는 파이썬 환경과 지원 도구를 통해 소형 모형을 직접 내려받아 사내 서버에서 안전하게 의사결정 자동화 도구를 구축하고 외부 클라우드 비용을 아낄 수 있다.