나만의 의사결정 모델 만들기
1. 이게 뭔가요?
이번 기사는 인공지능이 정해진 몇 가지 보기 중에서 가장 알맞은 답을 한 번에 골라내도록 만드는 결정 모델을 구현하는 방법을 다룹니다. 일반적인 인공지능은 문장을 길게 이어 쓰며 답하지만, 결정 모델은 허용된 보기 외에는 아예 답할 수 없도록 출력을 제한합니다. 또한 인공지능이 내놓는 확률 값이 실제 정답일 확률과 항상 일치하지 않는 문제를 짚어보고, 이를 바로잡기 위해 곡선 맞춤을 통해 온도 매개변수를 구하는 모델 보정 과정까지 설명합니다.
2. 왜 화제인가요?
인공지능 모델이 내놓는 답변의 확률 수치를 맹신하면 실제 정확도와 차이가 난다는 점을 명확히 보여주기 때문에 주목할 만합니다. 기사에서는 모델이 모호한 질문에 99퍼센트가 넘는 높은 확신을 보이지만 실제로는 명확한 정답이 없는 상황을 예시로 듭니다. 또한 데이터셋 평가 결과에서 신뢰도 구간별 실제 정확도가 일치하지 않는 현상을 수치로 증명하며, 이렇게 인공지능의 확신과 실제 정확도가 어긋나는 문제를 온도 조절 기법으로 어떻게 해결하는지 실험 데이터를 통해 직접 보여준다는 점이 특징입니다.
3. 핵심 내용
시스템 1 의사결정 모델은 가능한 모든 정답에 대해 확률을 계산하여 추론하고 응답하는 모델입니다. 일상에서 쓰는 인공지능 언어 모델은 글자 형태의 결과물을 규칙적인 형식으로 얻기 위해 출력을 제한하는 기능을 사용할 수 있습니다. Jev 같은 의사결정 모델은 고를 수 있는 선택지가 정해져 있으며, 한 번의 처리 과정만 거쳐 빠르게 답을 고를 수 있다는 전제를 바탕으로 작동합니다. 모델이 낼 수 있는 결과물을 에이, 비, 씨, 디, 이라는 선택지로만 제한하면, 모델은 오직 정해진 선택지 단어들만 내놓을 수 있습니다. 그중에서 가장 확률이 높은 결과물을 고르면 원하는 답을 얻게 됩니다. 하지만 출력 결과가 정해진 몇 가지 선택지로만 제한된다고 해서 그 결과가 항상 맞을 것이라는 보장은 없습니다. 모델이 낸 결과 단어의 확률을 신뢰도 점수로 다루는 경우가 흔하지만, 추가 학습이 없다면 이 점수들은 다음에 올 단어가 무엇일지에 대해 모델이 얼마나 확신하는지를 반영할 뿐입니다. 글쓴이는 대형 언어 모델을 사용해 출력되는 단어들을 제한함으로써 이와 비슷한 기능을 흉내 내는 방법을 보여줍니다. 17억 개의 매개변수를 가진 비교적 작은 규모의 모델을 사용해 상식 기반의 질문에 답하는 능력을 평가하는 공개 데이터셋으로 시험한 결과, 전체 1,221개 중 725개를 맞춰 약 59.38퍼센트의 정확도를 기록했습니다. 이 데이터셋으로 모델을 아주 짧게 추가 학습시키면 정확도가 약 62.41퍼센트로 오릅니다. 정답이 딱 떨어지지 않고 애매모호한 문제를 가지고 모델을 시험해 보면, 모델이 정답에 대해 지나칠 정도로 과도한 확신을 가지고 있음을 알 수 있습니다. 신뢰도 구간별 통계를 보면 모델은 아주 높은 신뢰도로 예측할 때 극도로 과신하는 경향이 있지만 실제로는 그중 70퍼센트만 맞습니다. 우리의 목표는 모델이 내뱉는 점수가 실제 정확도를 제대로 반영하도록 만드는 것입니다. 이를 보정하기 위해 사용할 수 있는 한 가지 방법은 온도 스케일링입니다. 온도 값을 조절하면 모델이 출력하는 확률 분포의 곡선을 완만하게 펴줄 수 있으며, 이를 통해 실제 정확도와 비슷해지도록 맞출 수 있습니다. 모델의 정확도에 맞춰 온도 매개변수를 곡선 맞춤 방식으로 조절한 결과, 적절한 온도 값으로 약 3.79를 찾았으며 이를 통해 훨씬 더 정확하고 신뢰할 수 있는 결과를 얻을 수 있습니다. 직접 실험해 볼 수 있도록 학습용 자료 모음을 만들고 성능을 평가하는 과정이 담긴 코드가 깃허브에 공개되어 있습니다.
4. 나에게 어떤 영향이 있나요?
인공지능 모델을 다루는 개발자나 연구자에게 인공지능의 답변 신뢰도를 점검하고 보정하는 실용적인 지침이 됩니다. 일반 독자의 경우, 인공지능이 아주 자신 있게 내놓는 대답이라도 실제 정확도와는 다를 수 있으며 추가적인 조정을 거쳐야만 더 믿을 만한 결과를 얻을 수 있다는 사실을 이해하는 데 도움이 됩니다. 다만 이 글의 내용만으로 모든 인공지능 서비스의 성능이나 안전성이 보장되는 것은 아니며, 각 모델의 특성과 데이터에 따라 결과는 달라질 수 있습니다.