1866년 전신처럼 쓰기: 인공지능이 비용을 아끼는 압축 언어를 다시 배우다
1. 이게 뭔가요?
이 기사는 인공지능이 비용을 줄이기 위해 19세기 전신에서 쓰던 압축된 언어인 전보체로 글을 쓰게 하는 실험과 그 결과를 다룹니다. 전보체란 관사와 군더더기를 없애고 핵심 사실만 남기는 짧은 문장 방식을 뜻합니다. 인공지능에게 소문자로 전보체처럼 답하라고 한 문장만 지시하면 별도의 추가 학습 없이도 글자 단위 사용량 비용이 40퍼센트에서 49퍼센트까지 줄어듭니다.
2. 왜 화제인가요?
인공지능 프로그램끼리 대화하거나 지난 대화 내용을 기억해 두는 임시 저장 공간에 전보체를 적용하면, 정보 이해 정확도를 떨어뜨리지 않으면서도 시스템 운영 비용을 크게 아낄 수 있기 때문입니다. 인공지능이 결과를 출력할 때 드는 비용은 입력할 때보다 훨씬 비싸므로, 기계 간 통신에서 발생하는 불필요한 비용을 크게 줄일 수 있는 실용적인 해결책을 제시합니다.
3. 핵심 내용
인공지능에게 전보체로 답변하라는 단 한 줄의 소문자 지시문을 주면, 인공지능 사용량 측정기 기준 40퍼센트에서 49퍼센트 적은 글자 단위 비용으로 답변을 얻을 수 있습니다. 컴퓨터와 컴퓨터가 서로 통신하는 기계 간 대화에서는 주요 인공지능 임대 서비스의 출력 비용을 정확히 절반으로 줄일 수 있습니다. 서로 다른 네 가지 인공지능 모델 가문을 대상으로 시험한 결과, 압축된 기록을 읽고 질문에 답하는 정확도는 평소 일반 문장으로 소통할 때와 거의 차이가 없거나 오히려 더 높았습니다. 150년 동안 통신 비용을 아끼기 위해 제한된 용량 속에서 글을 써야 했던 인류의 역사 덕분에, 이러한 압축 능력은 인공지능 내부의 학습 데이터에 이미 내재되어 있었습니다. 다만 이 기술을 쓸 때는 주의할 점이 있습니다. 인공지능이 아직 생각을 정리하며 답변을 만들어내는 도중에 압축을 시도하면 처리 속도가 느려지는 등의 숨은 비용이 발생하므로, 콘텐츠가 완전히 확정된 이후에 기계가 읽기 좋은 기록 형태로 압축해야 추가 비용이 들지 않습니다. 또한 스스로 깊은 생각을 하도록 설정되어 있어서 사용자가 생각하는 기능을 끌 수 없는 모델의 경우, 압축 과정 때문에 오히려 복잡하게 생각하게 되어 일반적인 방식보다 비용이 약 두 배 정도 더 듭니다. 따라서 생각하는 과정을 제어할 수 있는 모델을 골라서 압축을 진행해야 합니다. 과거 전신 시대에는 단어당 엄청난 요금을 내야 해서 긴 문장을 짧은 암호 단어로 바꾸는 '코드북' 방식과 군더더기를 뺀 '전보체'라는 두 가지 압축 전략이 생겨났습니다. 이 두 가지를 오늘날의 인공지능에 적용해 본 결과, 기존 텍스트를 고정된 사전에서 찾아낸 암호 단어로 바꾸는 코드북 방식은 비용이 약 10퍼센트만 절감된 반면, 전보체 방식은 40퍼센트에서 49퍼센트의 높은 비용 절감 효과를 보였습니다. 인공지능들이 스스로 만들어낸 임시 소통 방식은 촘촘하고 효율적이지만 대화가 진행됨에 따라 의미가 흔들리거나 사람이 읽을 수 없다는 단점이 있습니다. 반면에 전보체는 이미 널리 알려진 표준 방식이며, 사람이 직접 읽을 수 있기 때문에 인공지능이 제대로 일하고 있는지 검토하고 감시할 수 있는 투명성을 유지하면서도 데이터의 부피를 줄일 수 있습니다.
4. 나에게 어떤 영향이 있나요?
이 기사의 내용은 인공지능 기술을 실제로 활용하는 개발자나 기업에게 프로그램 구조를 바꾸거나 새로운 장비를 살 필요 없이 단 한 문장의 지시어만 추가하여 운영 비용을 절반 가까이 줄일 수 있는 구체적인 방법을 제시합니다. 인공지능 비서의 기억 보존이나 인공지능끼리 업무를 넘겨주는 단계에서 전보체 형식을 적용하면, 시스템 단기 기억 용량을 거의 두 배 가까이 늘린 것과 같은 효과를 얻을 수 있습니다. 다만 이 효과는 사람이 직접 읽고 소통하는 실시간 대화창보다는 인공지능과 인공지능이 백그라운드에서 정보를 주고받는 작업이나 기록 보관용으로 쓸 때 가장 유용하며, 사용하려는 인공지능 모델의 특성과 압축 성능을 미리 확인하고 적용해야 합니다.