AI가 40년간 쌓인 소프트웨어 문제를 해결하도록 압박하다

PHP는 1994년에 만들어진 웹사이트 제작에 쓰이는 프로그래밍 언어입니다. 이 언어로 만든 많은 웹사이트들이 PHP2Shell이라는 보안 취약점으로 위험에 처했습니다. 이 취약점은 해커가 웹사이트의 중요한 정보를 훔치거나 서버에 나쁜 코드를 심을 수 있게 만드는 심각한 보안 구멍입니다. 이 문제는 메모리(컴퓨터가 데이터를 임시로 저장하는 공간)가 데이터 양을 담기엔 부족할 때 생기는 일반적인 오류에서 비롯되었습니다. 원래 이런 오류는 프로그램이 멈추는 정도의 사소한 문제로 여겨졌지만, PHP2Shell 사례에서는 이 작은 오류를 이용해 서버 전체를 장악할 수 있는 치명적인 보안 문제로 발전했습니다. 보안 연구원들이 이 문제를 발견해 PHP 재단에 알렸고, 나쁜 공격자가 이용하기 전에 보안 수정 작업인 패치가 배포되어 사고는 막았습니다. 이 취약점은 1994년에 만들어진 PHP라는 언어의 근본적인 문제에서 비롯된 것이며, 2024년에 PHP 재단에 보고되었습니다. 이 취약점을 이용해 서버에 원하는 코드를 실행하려면, 서버에서 돌아가는 특정 프로그램의 메모리 특정 지점으로 이동해 어떤 비트를 어떤 순서로 덮어쓸지 정확히 계산해야 합니다. 이 과정은 매우 복잡한 논리를 필요로 하는데, AI가 이 복잡한 논리를 처리하는 데 큰 도움을 주었습니다. 보안 회사가 AI 도구의 도움을 받아 이 메모리 오류를 이용해 서버에 원하는 코드를 실행하는 방법을 찾아냈습니다. 이로 인해 사소한 버그가 심각한 보안 취약점으로 바뀐 것입니다. 개발자들은 이 취약점을 막기 위해 보안 수정을 적용하는 패치를 만들어야 하는데, 수정된 코드가 기존에 잘 되던 다른 기능들을 망가뜨리지 않도록 모든 부분을 꼼꼼히 확인해야 하는 어려움이 있습니다. AI는 이러한 방어 작업인 패치 개발과 검증 과정에서도 도움을 줄 수 있을 것으로 기대됩니다. 또한, Anthropic은 10월 22일에 새로운 도구를 발표했는데, 이 도구는 대규모 언어 모델(LLM)이 패치를 만들고, 또 다른 LLM이 그 패치가 맞는지 증명하는 과정을 자동화합니다. 다만, LLM이 잘못된 내용을 만들어낼 수 있는 '환각' 현상 때문에 증명 자체는 사람이 확인해야 합니다. 이처럼 전문적인 AI 모델과 형식 검증 도구의 조합이 취약점을 발견하는 것만큼 패치 과정을 자동화할 수 있을지 기대됩니다.

PHP2Shell 같은 취약점은 NASA, 위키피디아, 백악관, 그리고 워드프레스나 드루팔 같은 인기 있는 웹사이트를 구동하는 PHP 언어의 근본적인 문제에서 생겼습니다. 이 취약점은 40년 넘게 사람이 만든 오래된 소프트웨어 전반에 나타나는 문제 중 하나입니다. 보안 전문가들은 이 PHP2Shell 사례가 AI 시대에 우리가 마주할 기술적 빚, 즉 과거에 해결되지 않고 남겨진 기술적 문제들이 갑자기 드러나는 경고 신호라고 지적합니다. 토모의 AI 보안 연구 책임자인 Matt Suiche는 지난 40년간 사람이 만든 모든 구형 소프트웨어가 노출되고 있으며, 이제 기술적 빚을 갚을 때라고 말합니다. 콜롬비아 대학교의 수만 자나 교수는 과거에는 단순한 프로그램 충돌로 무시되던 수많은 버그 보고들이 쌓여왔는데, AI가 이처럼 매우 구체적이고 복잡한 논리를 처리하는 데 뛰어난 능력을 보여주면서 이 문제를 해결할 시기가 왔다고 주장합니다. AI는 복잡한 코드를 분석하고 취약점을 찾아내는 능력이 크게 발전했기 때문에, 과거에 남겨진 수많은 기술적 빚을 해결해야 할 필요성이 커졌습니다.

지난 10월 말, 여러 심각한 사이버 보안 문제가 드러났습니다. 그중 가장 큰 것은 PHP2Shell이라는 취약점인데, 이 취약점 때문에 NASA, 위키피디아, 백악관 사이트를 포함해 워드프레스나 드루팔 같은 프로그램을 쓰는 수많은 웹사이트들이 위험에 처했습니다. 이 취약점은 해커가 민감한 데이터를 읽거나 서버에서 나쁜 코드를 실행할 수 있게 만들었습니다. 다행히 사이버 보안 연구원들이 이 취약점을 발견해 PHP 재단에 보고했고, 공격자가 이용하기 전에 보안 패치가 배포되어 피해는 막았습니다. 하지만 PHP2Shell은 앞으로 AI 시대에 어떤 일이 생길지 알려주는 경고 신호가 될 수 있습니다. 사이버 보안 스타트업인 톨모(Tolmo)의 AI 보안 연구 책임자인 맷 수이치(Matt Suiche)는 지난 40년간 사람이 만든 모든 구형 소프트웨어가 노출되고 있으며, 이제 기술적 빚을 갚을 때라고 말했습니다. PHP는 1994년에 만들어진 프로그래밍 언어로, PHP2Shell 취약점의 근본 원인이 된 버그는 2024년부터 PHP 재단에 보고되었습니다. 이 버그는 '메모리 부족 오류'라는 흔한 문제를 일으키는데, 이는 특정 데이터를 처리하는 데 할당된 컴퓨터의 기억 공간(메모리)이 데이터 양을 담기엔 너무 작을 때 생깁니다. 보통 이런 오류는 프로그램이 멈추는 현상을 일으키지만, 본질적으로 위험하지 않아 오랫동안 해결되지 않고 방치되었습니다. 콜롬비아 대학교의 수만 자나(Suman Jana) 교수는 대부분의 사람이 이런 단순한 오류를 심각하게 여기지 않는다고 말했습니다. 자나 교수는 이 문제를 해결하려면 매우 구체적인 논리를 세워야 하는데, AI가 그 일을 아주 잘 해냈다고 평가했습니다. 올해 초, OpenAI의 후원을 받는 사이버 보안 회사인 칼리프(Calif)는 AI 도구의 도움을 받아 2주 만에 메모리 부족 오류를 이용해 서버에서 원하는 코드를 실행할 수 있는 방법을 찾아냈습니다. 이로 인해 해커는 악성 소프트웨어를 설치하거나 중요한 데이터를 훔칠 수 있게 되었고, 칼리프 팀은 PHP 재단에 즉시 패치를 시작하라고 알렸습니다. 자나는 이 버그를 실제로 이용하려면 서버의 메모리 내 특정 지점으로 이동해 시스템 제어권을 얻기 위해 어떤 데이터 조각들을 어떤 순서로 덮어씌워야 하는지 정확히 계산해야 한다고 설명했습니다. 그는 이 과정이 로켓 과학처럼 복잡한 것은 아니지만, 매우 구체적인 논리를 세우는 과정이 고통스러웠고 AI가 그 부분을 잘 처리했다고 덧붙였습니다. 칼리프 연구원들뿐 아니라 취약점을 확인하고 확장한 OpenAI와 사이버 보안 회사인 위즈(Wiz)도 보안과 PHP 언어에 대해 깊이 알고 있었습니다. 자나는 AI가 모든 것을 스스로 할 수 있다고 주장할 수는 없지만, AI가 크게 발전하면서 최고 수준의 전문가 0.1%는 훨씬 많은 일을 처리하고, 그 바로 아래 수준의 전문가들도 모든 세부 사항을 깊이 몰라도 이 정도 성과를 낼 수 있게 되었다고 설명했습니다. PHP2Shell이 PHP 재단에 공개된 후, 네 명의 엔지니어 팀은 두 달 동안 최대한 빨리 문제를 해결하기 위해 보안 패치를 개발했습니다. 자나는 버그를 찾는 것과 버그를 수정하는 것에는 근본적인 차이가 있다고 말합니다. 버그를 수정할 때는 공격의 모든 경로를 막았는지 확인해야 하고, 기존에 잘 되던 기능이 망가지지 않았는지 동시에 점검해야 하기 때문입니다. 이러한 어려움 때문에 수익 모델이 명확하지 않음에도 널리 쓰이는 PHP 같은 오픈 소스 소프트웨어를 유지하는 쪽은 큰 부담을 느껴왔습니다. 하지만 AI 도구들이 이 문제를 그 어느 때보다 시급하게 만들고 있습니다. 앞으로 이런 문제에 대비하는 한 방법은 방어자들에게 더 많은 돈과 최첨단 사이버 보안 AI 모델 접근 권한을 주는 것입니다. 자나는 최첨단 연구소들이 보유한 컴퓨팅 자원 일부를 이 버그 조사를 위해 기부하는 것이 훌륭하며, 이런 노력이 더 많이 이루어져야 한다고 제언했습니다. 자나는 패치 작업 자동화를 위한 '형식 검증' 도구들이 빠르게 발전하고 있다고 낙관적으로 봅니다. 예를 들어, Anthropic에서 새로운 버전을 발표했는데, 이 패치 과정은 LLM이 만들고, 또 다른 LLM이 그 패치가 맞다는 증명(proof)을 만들어냅니다. 다만 LLM이 스스로 증명의 정확성을 검사하지 못하기 때문에, 이 증명을 검토하는 '검증 확인자'는 사람이 해야 합니다. LLM이 사실이 아닌 내용을 그럴듯하게 지어내는 '환각' 현상 때문입니다. 따라서 이 검증 확인자는 반드시 형식적이고 엄격한 기준을 갖춘 도구여야 합니다. 앞으로 전문화된 AI 모델과 형식 검증 도구가 합쳐지면, 취약점을 발견하는 것만큼 패치를 자동화할 수 있을 것이라는 희망을 가집니다. 하지만 존스 홉킨스 대학교 정보보안 연구소의 매튜 그린 교수는 회의적입니다. 그는 정말 심각한 일이 벌어지기 전까지는 아무도 이 문제를 해결하려 하지 않을 것이라고 말합니다. PHP2Shell 같은 문제는 심각한 수준이 아니었기 때문에, 일반 대중이 크게 분노할 만한 사건이 생겨야 비로소 사람들이 이 문제에 자금과 관심을 쏟기 시작할 것이라고 예측합니다. 그 시점은 아마 2027년 초가 될 수 있습니다. 그린 교수는 사용자들에게 소프트웨어를 즉시 업데이트하라고 당부합니다. 휴대폰에 보안 업데이트 알림이 뜨면 다음 주까지 미루지 말고 바로 설치하라는 조언입니다. 확실한 것은 PHP2Shell이 시작일 뿐이라는 점입니다. 자나는 이것이 마지막 취약점은 아닐 것이며, 누가 발견하느냐의 문제라고 단언합니다. 바라건대 이번처럼 보안 전문가인 화이트햇 해커들이 먼저 발견해 주기를 바란다고 덧붙였습니다.

일반 사용자는 자신이 쓰는 웹사이트나 온라인 서비스가 안전한지 가장 중요합니다. 웹사이트에 보안 취약점이 있으면 해커가 개인 정보나 민감한 데이터를 훔쳐 갈 위험이 있는데, PHP2Shell 같은 취약점은 이런 위험을 높이는 예시입니다. 따라서 사용자는 스마트폰이나 컴퓨터 프로그램에 보안 업데이트가 있을 때 미루지 않고 즉시 설치해야 합니다. 개발자나 기업 입장에서는 이 문제를 해결하기 위해 엄청난 노력과 비용이 필요합니다. 현재는 AI의 도움으로 취약점을 찾고 패치를 만들고 있지만, 모든 문제를 해결하려면 더 많은 자원과 최첨단 AI 기술 투입이 필요합니다. 당장 모든 서비스가 완벽하게 안전해지지는 않을 것이며, 기술적 빚을 해결해 나가는 과정이 필요합니다. 존스 홉킨스 대학교의 매튜 그린 교수는 실제 심각한 일이 터지기 전까지는 아무도 이 문제를 해결하려 하지 않을 것이라며, 사용자들이 보안 업데이트를 미루지 말고 즉시 적용할 것을 권고합니다. 또한, PHP2Shell은 시작일 뿐이며, 앞으로도 계속 새로운 취약점이 발견될 것이라고 전문가들은 예측합니다.