지브스: 추론 기능을 더해 성능을 높인 오픈소스 의사결정 인공지능 모델
1. 이게 뭔가요?
이번에 공개된 지브스는 인공지능이 복잡한 의사결정을 내리기 전에 스스로 깊게 생각하는 과정을 거치도록 훈련된 분류 결정 모델입니다. 이 모델은 90억 개의 매개변수를 가진 큐원3.5-9B를 기본 뼈대로 삼고, 효율적인 추가 학습 기법과 특정 선택지 점수를 매기는 기술을 적용했습니다. 또한 답변 생성 속도를 높이기 위해 별도의 보조 기술인 초안 생성기를 함께 사용하여 전체적인 처리 과정을 효율적으로 다듬었습니다.
2. 왜 화제인가요?
기존의 결정 모델들은 결정을 내릴 때 확률을 잘 계산하지만 정확도가 다소 떨어진다는 한계가 있었습니다. 그래서 실제 서비스 환경에서는 정확한 판단을 내리기 위해 별도의 추론 모델을 예비로 함께 사용하는 경우가 많았습니다. 이번에 나온 지브스는 모델 자체가 결정을 내리기 전에 생각하는 과정을 거치도록 학습하여, 기존 모델보다 더 정확한 결정을 내릴 수 있음을 실험을 통해 보여줍니다.
3. 핵심 내용
지브스는 기본 인공지능 모델을 바탕으로 다양한 공개 데이터 세트와 인공으로 만든 정책 데이터를 활용해 훈련되었습니다. 이후 강화학습 단계를 거쳐 과도한 최적화를 막기 위해 적절한 단계에서 학습을 멈추었습니다. 성능 평가 결과, 한 번도 학습에 사용되지 않은 새로운 테스트 데이터 전체에서 기존 모델들보다 더 뛰어난 성능을 보였습니다. 의사결정 모델의 성능을 평가하는 시험 모음의 공개 등급에서도 뛰어난 성적을 거두었습니다. 다만 일반적인 지식과 상식을 묻는 평가에서는 기존 모델보다 다소 낮은 점수를 기록하기도 했습니다. 처리 속도 측면에서, 고성능 인공지능 연산 장치를 기준으로 생각하는 과정을 거치지 않을 때는 요청당 약 0.3초가 걸리며, 전체 생각 기능을 켤 경우 중간값 기준으로 3.3초, 상위 90퍼센트 기준으로는 17.1초가 걸립니다. 초안 생성기를 함께 사용하면 처리 속도를 약 1.6배에서 1.76배까지 높일 수 있습니다. 사용자는 제공되는 개발 도구를 통해 별도의 복잡한 인증 키 없이 정해진 주소로 요청을 보낼 수 있습니다.
4. 나에게 어떤 영향이 있나요?
일반 독자가 당장 일상생활에서 이 기술을 직접 체감하거나 복잡한 설정을 바꿀 일은 거의 없습니다. 다만 기업이나 개발자가 고객센터 문의 분류나 자동 응대 시스템 같은 의사결정 자동화 도구를 구축할 때 이 기술을 활용하면 더 정확한 판단 결과를 얻을 수 있습니다. 처리 속도가 느려질 수 있는 상황에서는 최대 생각 횟수를 제한하거나 특정 신뢰도 기준에 따라 생각을 건너뛰도록 설정하여 속도와 정확도 사이의 균형을 맞출 수 있습니다. 이 기술의 도입 효과는 사용하는 시스템의 환경과 설정 조건에 따라 달라지며, 무조건적인 성능 향상을 보장하지는 않습니다.