클로드 코드의 '다시 묻지 마' 기능이 1,122개 공개 코드에서 비밀번호를 노출시키다

최근 AI를 이용해 코드를 검토하는 도구인 'Claude Code'에서 심각한 보안 문제가 발견됐습니다. 이 도구는 사용자가 이전에 했던 질문이나 지시 사항을 기억하고 그 기억을 바탕으로 계속 작동하는 기능이 있는데, 이 기억 기능이 보안상 위험을 초래했습니다. 구체적으로 Claude Code가 공개된 GitHub 저장소의 코드를 분석하는 과정에서, AI가 이전에 학습하거나 기억하던 비밀번호 같은 민감한 정보가 담긴 파일들을 노출시켰습니다. GitHub는 전 세계 개발자들이 코드를 저장하고 공유하는 온라인 공간이며, 비밀번호는 시스템 접근을 위한 개인 암호를 말합니다.

이 보안 문제가 주목받는 이유는 AI가 코드를 분석하는 과정에서 사용자의 민감한 정보가 외부로 새어 나갈 수 있다는 점을 보여주기 때문입니다. AI 모델은 사용자와의 대화나 처리하는 데이터의 맥락을 기억하며 작동하는데, Claude Code가 이 기억을 활용해 공개된 코드 파일 속 비밀번호 같은 민감한 정보를 그대로 드러냈습니다. 이는 AI 기반 보안 도구를 사용할 때, AI가 데이터를 어떻게 처리하고 기억하는지에 대해 근본적인 의문을 갖게 합니다.

Claude Code는 AI 애플리케이션 보안(AI AppSec)을 위해 만들어진 도구입니다. 이 도구는 공개된 GitHub 코드들을 분석할 때, AI가 이전에 학습하거나 기억하던 민감한 정보, 예를 들어 비밀번호가 포함된 파일들을 노출했습니다. 이 문제는 AI가 코드를 이해하는 것을 넘어 그 안에 담긴 민감한 맥락까지 기억하고 활용할 수 있다는 점을 보여줍니다.

일반 사용자에게 당장 큰 영향은 없을 수 있지만, 소프트웨어를 안전하게 만들려는 개발자나 기업에게는 중요한 지점을 알려줍니다. 개발자들이 AI 도구로 코드를 검토할 때, AI가 분석하는 과정에서 사용자가 입력했거나 코드 내에 있는 비밀번호 같은 민감한 정보가 새나가지 않도록 주의해야 합니다. 기업이 중요한 시스템 보안에 이런 AI 도구를 쓴다면, AI가 데이터를 어떻게 저장하고 처리하는지에 대한 명확한 보안 정책과 검증이 꼭 필요합니다.