AI가 신경망 가중치를 직접 읽고 고쳐 수학 성능을 높이다

이 글은 최전선 대형 언어 모델인 GPT-6 Astra가 신경망의 가중치를 자연어 지시만으로 직접 읽고 쓰는 초기 실험 결과를 다룹니다. 신경망은 여러 층으로 된 계산 구조이고, 각 층에는 훈련 결과가 숫자로 저장되는데 이 숫자를 가중치라고 부릅니다. 사람이 이 숫자만 보고 어떤 일을 하도록 훈련된 신경망인지 알아내기는 사실상 불가능합니다. 그런데 Astra가 가중치 숫자만 보고 게임 종류나 훈련 언어를 맞히고, 가중치를 고쳐 망가진 신경망을 살리거나 새 신경망을 처음부터 작성했습니다. 연구진은 이 방식을 가중치 공간 프로그래밍이라고 부릅니다.

지금까지 가중치는 최적화 알고리즘이나 가중치를 쓰도록 따로 훈련된 신경망, 또는 정해진 프로그램을 변환하는 방식으로 만들어졌습니다. 사람이 직접 읽고 고치는 일은 거의 불가능하다고 여겼습니다. 이 연구는 범용 LLM이 별도 훈련 없이 자연어 지시만으로 가중치를 다룰 수 있다는 초기 결과를 보여줍니다. 다만 문맥 길이 제한과 실험 환경의 비효율성 때문에 아직 모든 규모에서 잘 작동하지는 않습니다.

Astra는 도구 없이 17,253개의 가중치만 읽고 브레이크아웃 게임용 신경망임을 99% 확신으로 맞혔습니다. 확산 모델이 원·삼각형·사각형 중 무엇을 그리는지도 가중치만으로 알아냈고, 실제 모델은 채워진 도형을 그리는데도 윤곽선으로 그렸습니다. 이는 모델을 실행해 본 것이 아니라 가중치의 구조를 읽었다는 뜻입니다. 입력층과 출력층을 떼고 중간층만 준 작은 언어 모델 세 개에서도 파이썬·로마자 일본어·영어를 모두 맞혔고, 이전 글자를 복사하는 기능을 하는 주의 집중 층의 위치까지 정확히 짚었습니다.

가중치 수정 실험에서는 경사로를 오르지 못하던 자동차 신경망의 가중치 3.5%를 한 번에 고쳐 1,024번의 시뮬레이션 전부 성공시켰습니다(이전 성공률 0%). MinAtar 게임 세 가지용 신경망을 처음부터 직접 작성해, 1억 단계 훈련을 거친 PPO 신경망을 모두 이겼습니다. 5억 단계 PPO와 비교하면 브레이크아웃에서 20배 높은 점수를 냈고, 씨퀘스트에서는 60% 수준, 애스터릭스에서는 비슷한 수준에 도달했습니다. 9×9 바둑 신경망도 148만 개 가중치를 직접 작성했는데, 순방향 계산 없이도 작은 PPO 신경망들을 상대로 절반 이상 이겼습니다.

가장 눈에 띄는 결과는 Qwen3.5-0.8B의 수학 성능 개선입니다. 이 모델은 답을 반복하다 끝나는 문제가 있어, 처음 96개 연습 문제 중 85개가 32,768토큰 한도에 걸렸습니다. Astra는 15층과 19층의 다층 퍼셉트론이 만든 특정 방향이 원인임을 찾아내고, 전체 8억 개 가중치 중 131,072개(0.016%)만 고쳤습니다. 순방향 계산 50회를 거치자 MATH-500 점수는 7.9%에서 48.1%로, GSM8K는 13.8%에서 67.1%로 올랐습니다. 반복 문제는 수학에만 국한되지 않아 지시 따르기 능력을 재는 IFEval도 21.0%에서 62.3%로 3배 가까이 향상됐고, 토큰 한도에 걸린 답변 비율은 93%에서 33%로 줄었습니다.

반면 반복 문제가 거의 없는 Gemma 3 270M에서는 성능을 끌어올리지 못했습니다. 이 모델은 답변의 8.5%만 토큰 한도에 걸립니다. 실패 원인을 보니 잘못된 계산이나 틀린 대수 단계 같은 평범한 추론 오류였고, 꺼 버릴 만한 단일 원인이 없었습니다. 가중치 수정은 가려져 있던 능력을 드러내는 장애물을 없앨 수는 있어도, 모델에 없는 능력을 새로 더할 수는 없다는 뜻입니다. 아첨하는 모델을 가려내는 실험에서도 Astra는 가중치만으로는 구별하지 못했고, 어텐션 패턴을 보여 준 뒤에야 세 쌍 모두에서 아첨 모델을 골라냈습니다.

일반 사용자에게 당장 직접 영향은 거의 없습니다. 이 기술은 연구 단계이고, 공개된 것은 실험 결과와 로그, 수정된 Qwen3.5-0.8B 모델입니다. 앞으로 발전하면 모델을 실행하거나 평가하지 않고 가중치만으로 숨은 문제나 백도어를 찾아낼 수 있고, 대량의 데이터와 컴퓨팅 자원 없이 자연어 지시만으로 모델의 특정 능력을 더하거나 없앨 수 있으며, 훈련 비용을 크게 줄일 가능성이 있습니다. 다만 현재 결과는 초기 단계이고 문맥 길이 제한과 도구 사용의 효율성 문제가 남아 있습니다. 가중치 수정이 항상 능력을 더하는 것은 아니라는 점도 확인됐습니다. 실제 서비스 적용까지는 시간이 걸릴 것이고, 당장은 연구 동향을 지켜보는 수준이 적절합니다.