AI가 설계하고 검증한 새로운 중앙처리장치(CPU) 구조 '프로스트바이트' 공개
1. 이게 뭔가요?
이 글은 인공지능(AI)이 인간의 도움 없이 중앙처리장치(CPU)의 설계부터 검증, 최종 칩 설계 데이터까지 모든 과정을 스스로 진행해 만든 새로운 CPU 구조인 '프로스트바이트(Frostbite)'를 소개합니다. 프로스트바이트는 '상호작용 네트워크(interaction nets)'라는 독특한 계산 방식을 핵심 원리로 사용합니다. 상호작용 네트워크란 프로그램을 작은 작업 단위(노드)들의 연결망으로 표현하는 방식인데, 각 작업이 서로 방해받지 않고 독립적으로 처리되도록 설계했습니다. AI는 이 구조를 바탕으로 회로 설계 언어부터 최종 칩 설계 데이터까지 전 과정을 스스로 해냈습니다.
2. 왜 화제인가요?
기존 CPU는 성능 향상이 정체되면서 여러 코어를 묶는 방식으로 발전해 왔습니다. 하지만 이 방식은 모든 코어가 하나의 메모리를 공유한다는 가정을 유지해야 해서 복잡한 메모리 관리 장치와 데이터 일관성을 지키는 장치가 필요했고, 이 때문에 전력 소모와 칩 크기 사용량이 늘고 확장성이 떨어지는 한계가 있었습니다. 프로스트바이트는 이러한 기존의 근본적인 문제를 해결하려 시도한 것으로, AI가 인간이 생각하지 못한 새로운 하드웨어 설계 개념을 찾아 기존에 검증된 최신 CPU 코어와 비교했을 때 전력 대비 성능을 크게 높였다는 점에서 중요합니다.
3. 핵심 내용
프로스트바이트는 상호작용 네트워크의 세 가지 특징, 즉 모든 단계가 국소적이고, 의존 관계가 명확하며, 모든 데이터 값이 단 하나의 주인만 있다는 점을 활용합니다. 일반적인 프로그램은 코드 조각들이 공유된 상태로 얽혀 있어 CPU가 실행 중에 어떤 명령이 서로 영향을 주는지 추적해야 하지만, 상호작용 네트워크는 프로그램을 노드들의 그래프로 보고 연결된 노드 쌍을 재작성하는 방식으로 계산합니다. 각 재작성은 그래프의 아주 작은 부분만 건드리고, 각 노드가 하나의 주요 통신 포트만 가지므로 작업 간 충돌이 없어 어떤 순서로 처리해도 결과가 같고 병렬 처리가 자연스럽게 이루어집니다. 또한 모든 값이 한 번만 사용되므로 하드웨어가 보호해야 할 공유 상태가 없어 데이터를 사용하는 곳 근처의 작은 지역 메모리에 둘 수 있게 되어 대규모 캐시 시스템이 차지하던 면적과 전력을 줄였습니다. AI는 25가지 작업 부하를 다섯 그룹으로 나누고, 설계 탐색에 쓸 세트와 최종 평가용 세트로 분리했습니다. AI는 연구 논문과 기존 성능 측정 기준을 분석해 파이썬 모델로 여러 설계 아이디어를 비교했고, 첫 회로 설계가 완성된 후에는 추정치가 실제 구현 가능 범위와 크게 달랐기 때문에 초기 보고서를 삭제했습니다. 다음으로 AI는 칩의 전체 소프트웨어 모델을 만들기 위해 자체 사양 언어인 ASL을 개발하고, 이 언어로 '아크모델(Arcmodel)'이라는 시스템 모델을 작성했습니다. 아크모델은 실제 회로 시뮬레이션보다 약 200배 빠르면서 성능과 자원 사용량 추정 오차를 1~5% 이내로 유지합니다. ASL은 기계가 검토 가능한 형식적 명세이기 때문에 AI가 만든 결과물을 회로 설계 언어(RTL), 검증 환경, C 언어, 수학적 증명 언어인 린(Lean) 등과 대조해 논리적으로 검증할 수 있으며, 이 공통 언어는 대규모 AI 에이전트들이 협업할 때 발생하는 오류를 줄이는 기준점 역할을 했습니다. 아크모델은 초기에는 물리적 특성을 고려하지 않아 전력·성능 추정치가 실제 RTL과 최악의 경우 250%까지 차이가 났습니다. 이에 AI 시스템은 RTL의 전력 소모가 큰 부분을 찾아내고, 이를 명세의 주요 카운터(메모리 읽기/쓰기, 연산 횟수, 데이터 전송량 등)와 연결하는 파이썬 함수를 반복적으로 작성했습니다. 이 과정을 통해 아크모델과 RTL의 오차를 5% 이내로 맞췄고, 이후 탐색을 계속하면서 평균 오차는 약 1.5%까지 줄였습니다. 아크모델 칩 시뮬레이션은 RTL 시뮬레이션보다 660배 빨랐기 때문에 AI는 아주 세밀한 클록 게이팅(필요 없을 때 전력을 차단하는 기술) 방법을 찾아내고 소프트웨어 실행 방식을 몇 시간 만에 조정하는 등 여러 계층에 걸친 최적화를 수행했습니다. 아크모델과 RTL이 일치하자, 원래 사용하던 파이썬 모델과 설계 보고서는 삭제되었고 ASL 계약서가 칩의 유일한 설계 기준으로 확정되었습니다. 이후 AI 에이전트 무리가 병렬로 아키텍처 수정안을 제안하면, 각 안을 계약서와 대조하고 아크모델에 반영한 뒤 RTL로 구현해 전력 소모를 측정해 유지할지 버릴지 결정했습니다. 네 차례의 탐색과 최종 검증을 거치며 총 58가지 아이디어를 제시했고 그중 37가지를 채택했습니다. 프로스트바이트용 프로그램은 러스트와 유사한 문법을 가진 Vine 2 언어로 작성되며, 이는 '아이비(Ivy)'라는 중간 표현으로 컴파일되어 칩 내부의 상호작용 망 구조를 기록합니다. 프로스트바이트의 실행 방식은 일반적인 계산 그래프가 구조 자체로 병렬성을 나타내고 시간에 따라 순차적으로 처리되는 것과 달리, 상태와 공간적 배치를 통해 병렬 처리를 실시간으로 찾아내 공간적으로 순차 처리합니다. 생성된 명령어 집합(ISA)에는 넓은 데이터 묶음 처리, 하드웨어 기반 반복 횟수 계산기, 데이터 스트림 처리 같은 예측 가능한 기능 외에도, 병렬로 실행 중인 다른 부분에서 값을 가져오거나 확인하거나 복사하는 동적인 기능이 포함되어 칩 내부의 각 처리 단위(타일)가 공간을 가로질러 활발하게 통신합니다. 병렬 처리가 공간 전체에 퍼져 있어 중앙 집중식 작업 관리자가 없는데, 각 타일은 세 가지 규칙을 따릅니다. 첫째, 자신의 입력 포트에 들어온 작업을 먼저 처리합니다. 둘째, 입력 포트가 비어 있으면 주변 타일 중 여유가 있는 곳의 작업을 가져옵니다. 셋째, 그런 타일이 없으면 비활성화되어 전력을 아낍니다. 이 '작업 훔치기' 동작은 사람이 직접 지정한 것이 아니라 특정 오류 상황이나 성능 향상을 위한 점진적 개선 과정에서 자연스럽게 도출되었습니다. 최종적으로 7나노 공정으로 합성된 프로스트바이트는 합성 시 800MHz, 최종 칩 설계 데이터에서 500MHz 타이밍을 달성했습니다. 타일 2x2 배열인 '프로스트바이트 쿼드' 하나에 메모리 장치인 L3 노드 4개를 짝지었을 때 크기는 0.792mm²입니다. 비교 대상인 최신 다중 명령어 처리 CPU의 단일 코어(TCPU)는 같은 공정에서 0.895mm²입니다. 비슷한 면적의 프로스트바이트 쿼드와 TCPU 단일 코어를 비교한 결과, 모든 작업을 통틀어 면적당 성능은 평균 8.77배 향상되었고, 25가지 작업 전체에서 전력당 성능은 기하 평균 4.59배를 기록했습니다. 에너지 사용 비율을 보면, TCPU가 클록 분배를 제외하고 에너지의 57%를 메모리 사용에 썼다면, 프로스트바이트 쿼드는 메모리 사용을 38%로 줄이고 명령어 가져오기/해독/실행 비율을 6%로 낮췄습니다. 대신 칩 내부 통신망과 스케줄러에 26%를 사용했는데, 이는 작업을 나누고 타일 사이에서 데이터를 주고받는 비용입니다. 주목할 점은 칩을 4x4 배열로 확장해도 전력 분배가 비교적 일정하다는 것입니다. 일반적인 다중 코어 CPU는 코어 수를 늘릴 때 데이터 일관성을 유지하는 복잡한 장치와 큰 캐시를 추가해야 하지만, 상호작용 네트워크를 실행할 때는 데이터 위치에 대한 규칙이 항상 적용되어 코어 수가 늘어도 시스템 복잡성이 증가하지 않습니다.
4. 나에게 어떤 영향이 있나요?
이 기술이 상용화되면 스마트폰이나 데이터 센터 서버 같은 전자기기가 훨씬 적은 전력으로 더 많은 일을 처리할 수 있게 됩니다. 일반 사용자는 기기 성능이 좋아지고 전력 효율이 높아지는 것을 체감할 수 있습니다. 개발자 입장에서는 프로그램 실행 방식 자체가 근본적으로 바뀌기 때문에, 기존 소프트웨어를 그대로 쓰기보다는 상호작용 네트워크 방식에 맞춰 코드를 다시 작성해야 할 가능성이 있습니다. 현재 이 기술은 연구 단계이며, 실제 제품에 적용하려면 더 많은 검증과 발전이 필요합니다. 연구진은 상호작용 네트워크라는 개념이 35년 넘게 있었지만 그 가치가 충분히 알려지지 않았고, AI가 이러한 새로운 구조를 탐구하는 경제적 부담을 근본적으로 바꾸었다고 보고 있습니다. 향후 연구 계획으로는 누구나 FPGA에서 프로스트바이트 프로그램을 실행해 볼 수 있는 소프트웨어 환경을 제공하고, 하드웨어 자원 관리 및 가상화를 처리할 초기 운영체제를 만드는 등의 계획이 있습니다.