MIT CSAIL의 Rikiya Takehi, Jayden Teoh, Alex Zhang, Omar Khattab은 11월 2일 기술 블로그 글 「Sparks of Weight-Space Programming」을 공개했다. OpenAI의 GPT-6 Astra가 신경망의 가중치를 직접 읽고 수정하는 방식으로, 옵티마이저도 경사하강법도 거치지 않는다. 저자들은 이 접근을 ‘가중치 공간 프로그래밍’이라고 부른다.
가장 주목받는 결과는 알리바바가 오픈소스로 공개한 Qwen3.5-0.8B에서 나왔다. 24개 층, 약 8억 개의 가중치를 가진 이 소형 모델에서 Astra는 15번과 19번 층의 MLP에서 각각 하나의 ‘반복 방향’을 빼냈다. 바꾼 가중치는 모두 131,072개로 전체의 0.016%이며, 재학습은 전혀 하지 않았다.
다만 이 자료는 아직 블로그 글일 뿐 동료 심사를 거치지 않았고, 저자들도 매우 초기 단계의 결과라고 밝혔다.
여덟 가지 실험, 읽기·고치기·쓰기에서 엇갈린 성패
저자들은 과제를 세 종류로 나눴다.
가중치 읽기. Astra는 PPO 정책 네트워크의 가중치만 보고 네 가지 그리드 게임 중 각각 어떤 게임용인지 맞혔다. 세 개의 DDPM 가중치를 보고는 각각 원, 삼각형, 사각형을 생성하는 모델이라고 판단했으나, 속이 찬 도형을 속이 빈 윤곽선으로 그렸다. 716만 개 파라미터의 문자 단위 Transformer에서는 가운데 4개 층만 보고 세 모델의 학습 코퍼스를 알아냈고 복사 헤드도 모두 찾아냈다.
가중치 고치기. Kinetix 환경에서 언덕을 오르는 작은 수레 정책은 256 에피소드 동안 한 번도 성공하지 못했다. Astra가 가중치의 3.5%를 수정하자 1,024 에피소드를 모두 통과했다.
가중치 처음부터 쓰기. MinAtar 게임 세 종에서는 데이터도 기울기도 도구도 주지 않은 채 Astra에게 작은 네트워크를 한 번에 쓰게 했다. PPO와 비교한 점수는 다음과 같다.
| 게임 | PPO 1억 스텝 | PPO 5억 스텝 | Astra 한 번에 작성 |
|---|---|---|---|
| Breakout | 15.8 | 25.3 | 517.4 |
| Seaquest | 5.6 | 88.9 | 53.1 |
| Asterix | 25.8 | 55.2 | 53.2 |
세 게임 모두 1억 스텝 PPO를 넘어섰지만, 5억 스텝 PPO와 비교하면 Breakout만 앞선다.
실패 사례도 블로그에 적혀 있다. 두 개의 Gemma 3 270M 중 어느 쪽이 ‘아부’하도록 미세 조정됐는지 가려내는 과제에서, Astra는 가중치만 보고 네 번 시도했으나 모두 실패했다. 어텐션 패턴을 볼 수 있게 허용하자 세 쌍을 모두 맞혔다.
6배 중 얼마가 ‘루프 수리’ 덕일까
Qwen 쪽 기준선은 특이하다. 답변의 93%가 토큰 상한에 걸렸고, 모델이 추론 도중 같은 자리를 맴돌아 답을 끝내 쓰지 못했다. Astra에게 순전파 50회를 허용하자 수치는 다음과 같이 바뀌었다.
| 지표 | 원본 모델 | 편집 후 |
|---|---|---|
| MATH-500 | 7.9% | 48.1% |
| GSM8K | 13.8% | 67.1% |
| IFEval | 21.0% | 62.3% |
| 토큰 상한 도달 | 93.0% | 33.1% |
대조군이 더 많은 것을 말해 준다. Gemma 3 270M은 답변의 8.5%만 상한에 걸렸고 기본 점수는 6.8이었다. Astra에게 순전파 5회, 10회, 25회, 50회를 주었을 때 점수는 각각 7.0, 7.6, 7.7, 7.0으로 거의 움직이지 않았다. 저자들도 향상의 주된 원인은 루프를 고친 것이며, 편집으로 모델이 원래 갖지 않은 능력을 줄 수는 없다고 인정했다.
외부의 의문도 이 지점에 집중된다. Latent Space의 AI News가 커뮤니티 논의를 정리했는데, 7.9%라는 기준선이 비정상적으로 낮다는 의견, 이번 편집이 Arditi 등의 단일 방향 제거(ablation)에 더 가깝다는 의견, Astra가 Python 샌드박스에서 분석을 수행하므로 ‘가중치를 네이티브로 읽고 쓴다’는 표현은 과장이라는 의견이 소개됐다. Latent Space 스스로도 ‘50단계’라는 표현에 과장 가능성이 있다는 주석을 달았다. 이런 비판은 대부분 토론 게시판에서 나온 것이며, 체계적인 제3자 재현은 아직 확인되지 않았다.
“exciting but still limited”
(흥미롭지만 여전히 한계가 있다.)
저자들이 이 능력에 내린 평가로, 한계는 컨텍스트 길이와 실행 프레임워크의 효율에서 온다고 한다.
자기 개선이라는 흐름 속에서
지난달 Epoch AI의 InnovationEval이 측정한 것은 다른 방향이었다. 인터넷이 끊긴 샌드박스에서 최첨단 모델이 스스로 후속 학습 방법을 고안하는 과제인데, 최고 성적이 비교 대상 논문이 보고한 향상 폭의 15%에 그쳤다. 그 길은 구상하고, 코드를 쓰고, 학습을 돌리는 방식이다.
가중치 공간 프로그래밍은 학습 단계를 건너뛴다. 그래서 일부에서는 재귀적 자기 개선 논의에 이를 끌어들이기도 한다. 둘을 나란히 놓고 보아도 현재 확인된 범위는 여전히 좁다. 구조가 작고 결함이 뚜렷한 네트워크에서 모델이 고칠 곳을 찾을 수 있다는 정도이며, 대형 모델이나 뚜렷한 결함이 없는 모델에 대한 증거는 아직 없다. 감사, 무데이터 조정 능력, 모델 병합 같은 응용은 블로그에서도 전망일 뿐 뒷받침하는 실험이 없다.
다음으로 지켜볼 것은 재현이다. 반복하지 않는 소형 모델이나 기준선이 정상적인 수학 과제로 바꿔도 Astra가 점수를 끌어올릴 수 있는지가 관건이다.
참고 출처: MIT CSAIL 저자 기술 블로그, Jiqizhixin(Machine Heart), CocoLoop, Latent Space AI News. Qwen과 Gemma 점수는 저자가 공개한 실험 표를, InnovationEval 성적은 Epoch AI 보고서를 기준으로 한다.