인공지능 에이전트에게는 기억력이 아니라 문서가 필요합니다
1. 이게 뭔가요?
이 기사는 인공지능 에이전트, 즉 스스로 판단하여 작업을 수행하는 프로그램이 프로젝트를 이해하도록 돕는 기존의 대화 기억 방식에 의문을 제기합니다. 현재 많은 도구는 대화 내용을 잘게 쪼개어 컴퓨터가 이해하기 쉬운 형태로 데이터베이스에 저장하고, 질문을 던질 때마다 유사한 조각 몇 개를 골라내는 검색증강생성, 즉 외부 자료를 찾아 답변에 활용하는 기술을 씁니다. 하지만 기사는 이런 방식이 과거의 대화 조각을 무작위로 꺼내 올 뿐이어서 코드가 매일 바뀌는 현황을 반영하지 못하며, 에이전트가 무엇을 모르는지조차 알 수 없게 만든다고 지적합니다. 그 대안으로 기사는 과거의 대화를 기억하려 애쓰는 대신, 사람이 문서를 작성하듯 에이전트가 직접 읽고 수정할 수 있는 체계적인 문서 기반 기억 공간을 갖추어야 한다고 주장합니다.
2. 왜 화제인가요?
이 글이 주목받는 이유는 오늘날 많은 개발자들이 인공지능을 활용해 제품과 기능을 빠르게 만드는 과정에서 인공지능이 참고해야 할 프로젝트의 맥락이나 설계를 제대로 관리하지 못하는 문제를 짚어내기 때문입니다. 기존의 기억 보조 프로그램들은 복잡한 배경 프로그램이나 다양한 기술을 덧붙여 문제를 해결하려 하지만, 근본적인 설계 방식이 잘못되어 있어 안정적으로 작동하지 않습니다. 기사는 사람들이 과거의 회의 녹화본을 일일이 찾아보는 대신 문서를 작성해 공유하듯, 인공지능 역시 대화 조각을 뒤지는 방식에서 벗어나 구조화된 작업 공간에서 문서를 읽고 업데이트하는 방식을 써야 한다고 제안합니다. 실제로 글쓴이는 이 방식을 '오퍼레이터 메모리'라는 공개 소프트웨어 형태로 직접 만들어 사용하고 있습니다.
3. 핵심 내용
시중에 판매되는 기억 보조 프로그램들은 대화 기록을 쪼개어 데이터베이스에 저장한 뒤, 사용자가 질문할 때마다 가장 알맞은 상위 5개의 조각을 골라 전달하는 방식을 씁니다. 일부 도구는 대화 기록을 낱말 하나하나 찾거나 단기와 장기 기억을 나누고, 밤사이에 기억을 다시 쓰는 복잡한 배경 프로그램을 더하기도 합니다. 하지만 이러한 방식은 단순히 두 조각의 유사한 거리를 잴 뿐이라 정보가 옳은지 알 수 없고, 원래의 대화 맥락이 유실되며, 소스코드가 매일 바뀌는데도 과거 기록을 무조건 진실로 다룬다는 문제가 있습니다. 또한 에이전트는 자기가 무엇을 모르는지 몰라 스스로 검색할 수 없고, 저장된 내용을 사람이 직접 검토하기가 대단히 어렵습니다. 따라서 해결책은 에이전트에게 과거의 대화 조각을 뒤지게 하는 것이 아니라, 지침과 설계 사양 등을 스스로 기록하고 읽을 수 있는 문서 기반의 작업 공간을 쥐여주는 것입니다. 글쓴이는 이를 위해 1년 넘게 '오퍼레이터 메모리'라는 프로그램을 사용해 왔으며, 이 프로그램은 복잡한 데이터베이스나 배경 프로그램 없이 사람이 읽고 고칠 수 있는 평범한 문서 파일로 에이전트의 두뇌를 구성합니다.
4. 나에게 어떤 영향이 있나요?
인공지능 도구를 활용해 프로그램을 만들 때 인공지능이 과거 작업을 기억하고 이해하게 만드는 새로운 관점을 제공합니다. 개발자들이 인공지능에게 단편적인 대화 기억 대신 읽고 쓸 수 있는 구조화된 문서 공간을 제공한다면, 인공지능이 프로젝트의 규칙이나 설계 과정을 더 정확하게 파악하고 일관성 있게 작업을 수행할 수 있게 됩니다. 다만 이러한 방식의 도입 효과는 개별 개발자가 작업 환경을 어떻게 구성하느냐에 따라 달라집니다.