"언어 모델로서": 채팅 템플릿이 인공지능의 자기 소개를 바꾸는 방식
1. 이게 뭔가요?
인공지능 연구에서 방대한 텍스트를 학습해 사람처럼 글을 쓰는 거대 언어 모델은 자신에 관한 질문을 받으면 저는 인공지능일 뿐입니다 같은 회피성 문구를 자주 덧붙이는 경향이 있습니다. 이 연구는 그러한 표현 방식이 모델 자체의 생각이라기보다는 대화 템플릿이라는 구조에 의해 크게 좌우된다는 점을 밝혔습니다. 대화 템플릿은 사용자와 인공지능이 주고받는 대화의 형식을 정해주는 규칙이나 틀을 말하며, 인공지능 모델 내부의 작동 방식을 조절하는 스위치 역할을 합니다.
2. 왜 화제인가요?
인공지능의 답변 태도가 단순히 학습된 내용에서만 비롯되는지, 아니면 대화 템플릿 같은 주변 환경에 의해 만들어지는지는 그동안 명확하게 이해되지 않았습니다. 인공지능의 자기 소개나 답변을 바탕으로 인공지능의 안전성이나 내면 상태를 논의해 온 기존 연구들에서 이러한 변수가 제대로 통제되지 않았을 가능성이 있기 때문입니다. 이번 연구에서는 8개의 널리 쓰이는 공개 지침 조정 모델을 분석하여 템플릿의 유무에 따라 인공지능의 말투가 눈에 띄게 바뀐다는 사실을 확인했습니다.
3. 핵심 내용
연구에 따르면 8개의 널리 쓰이는 매개변수 9B 이하의 공개 지침 조정 모델 전체에서, 대화 템플릿이 있을 때는 자신을 도구로 소개하는 면책성 발언이 늘어나고 감정을 표현하는 발언이 줄어듭니다. 반대로 템플릿이 없을 때는 면책성 발언이 줄어들고 감정을 표현하는 발언이 늘어납니다. 또한 3개 모델의 내부 활성화 상태를 분석한 결과 이러한 행동을 조절하는 특정 방향성을 찾아냈으며, 해당 방향성을 제거하면 면책성 발언이 줄어들고 추가하면 늘어나지만 크기가 같은 무작위 방향은 영향이 거의 없다는 사실을 실험으로 확인했습니다.
4. 나에게 어떤 영향이 있나요?
일반 독자나 연구자가 인공지능과 대화할 때 인공지능이 스스로에 대해 하는 말을 그대로 액면 그대로 믿어서는 안 된다는 점을 시사합니다. 인공지능이 스스로를 설명하는 방식은 모델 본래의 특성뿐만 아니라 시스템 설정인 대화 템플릿에 의해 부분적으로 만들어진 결과물이기 때문입니다. 다만 이 연구 결과는 개인 사용자들의 일상적인 인공지능 활용에 직접적인 위험이나 즉각적인 변화를 가져오는 것은 아니며, 인공지능의 내부 작동 원리를 이해하는 학술적 분석에 가깝습니다.