AI가 기억을 정리하는 방법: 메모리와 꿈의 역할

AI가 대화 세션이 끝난 후에도 경험을 잊지 않고 다음 대화에 활용하도록 돕는 기술을 '에이전트 메모리'라고 합니다. 이는 인간의 뇌가 잠을 자면서 경험을 정리해 장기 지식으로 만드는 과정과 비슷합니다. AI는 단순히 대화 기록만 남기는 것이 아니라, AI가 직접 작성한 메모, 체계적인 지식 정리본(위키 같은 형태), 그리고 매번 대화 시작 시 주입되는 배경 정보라는 여러 층으로 기억을 관리합니다.

AI가 복잡하고 긴 작업을 꾸준히 수행하려면 이전 대화 내용을 잊지 않고 활용하는 것이 성능에 결정적입니다. 이 기술은 AI가 스스로 중요한 정보를 골라 기록하고, 잘못된 기억을 고치며, 지식을 체계적으로 정리하는 구체적인 방법을 제시하기 때문에 AI가 단순한 질문 답변을 넘어 스스로 학습하고 문제를 해결하는 능력을 갖추게 됩니다.

기억은 대화 기록에서 시작해 AI가 작성한 메모, 위키 형태의 지식, 그리고 매 세션에 주입되는 배경 정보 순으로 계층을 이룹니다. '드리밍'은 이 계층 사이를 오가며 기억을 고치고 정리하는 활동입니다. AI는 이 기억을 바탕으로 미래에 필요한 것을 예측합니다. 예를 들어, 검증된 사실을 기록해 두면 다음 대화에서 AI가 다시 확인할 필요 없이 그 사실을 믿고 사용할 수 있습니다. 실제 성능 테스트 결과, 기억을 활용한 AI 모델들은 기억을 사용하지 않은 기본 상태보다 성능이 크게 향상되었습니다. 또한, AI는 게임을 할 때 무엇을 기억할지 스스로 판단하는 능력을 보여야 합니다. 너무 많은 세부 사항을 기록하면 오히려 최신 정보가 아니어서 비효율적입니다. 드리밍은 잘못된 기억을 바로잡는 역할도 합니다. AI가 게임 중 잘못된 정보를 기록했을 때, 드리밍을 통해 대화 기록과 비교해 오류를 수정하면 AI는 올바른 방향으로 진행할 수 있습니다. 또한 드리밍은 지식 표현을 만드는데, 소프트웨어 회사 내부 문서 약 35만 개를 바탕으로 128회 세션 동안 지식 정리본을 만들었더니 기준 충족률이 13%에서 48%로 높아졌습니다.

일반 사용자는 AI와의 대화가 훨씬 일관성 있게 이어지는 변화를 체감할 수 있습니다. 한 번 선호나 프로젝트 배경을 설명해 두면, 새로운 대화에서도 AI가 이를 잊지 않고 작업을 이어갑니다. 개발자나 연구자 입장에서는 AI가 단순히 질문에 답하는 것을 넘어, 스스로 실수를 검토하고 방대한 자료에서 필요한 지식을 찾아 정리하는 기반을 마련합니다. 다만, 언제 기억을 만들지, 어떻게 최신 상태를 유지하며 신뢰도를 높일지, 그리고 기억을 정리하는 과정에서 발생하는 계산 비용을 어떻게 관리할지는 앞으로 해결해야 할 과제로 남아 있습니다.