오늘의 흐름 정리
주말 사이 가장 큰 반향은 모델이 다른 모델의 가중치를 손으로 고친 실험이었다. MIT CSAIL 연구진의 Sparks of Weight-Space Programming은 GPT-6 Astra가 옵티마이저 없이 Qwen 소형 모델의 수학 점수를 여섯 배로 올린 기록이다. 그 옆에서 Qwen3.8-27B 다섯 개를 파일로 묶은 Memdoor가 Fable 5 단독 호출을 넘겼다. 반대편에는 신뢰의 균열이 있었다. 긱뉴스가 전한 대로 Cursor 마켓플레이스의 Claude Code 확장에 SSH 백도어가 걸려 있었고, 공유 링크 하나로 ChatGPT 계정을 넘겨받는 체인이 수리됐다.
가중치 0.016%를 고쳐 MATH-500을 48.1%로 올린 GPT-6 Astra
MIT CSAIL 연구진이 11월 2일 올린 Sparks of Weight-Space Programming은 프런티어 모델이 신경망 가중치를 텍스트처럼 읽고 쓸 수 있는지 여덟 가지 실험으로 묻는다. Qwen3.5-0.8B 편집 실험에서 Astra는 15층과 19층 MLP 출력 64열에서 한 방향을 빼는 식으로 전체의 0.016%인 131,072개 가중치만 바꿨고, MATH-500이 7.9%에서 48.1%로, GSM8K가 13.8%에서 67.1%로, IFEval이 21.0%에서 62.3%로 올랐다. 같은 글에 따르면 경사하강 없이 파이썬 샌드박스에서 순전파 50회를 예산으로 받아 편집과 검증을 번갈아 했고, 32,768토큰 상한에 걸려 답을 못 끝내던 비율이 93.0%에서 33.1%로 줄었다.
한계도 글 안에 있다. MinAtar 실험에서는 환경 피드백 없이 한 번의 답변으로 써낸 가중치가 Breakout 517.4점으로 PPO 1억 스텝의 15.8점을 앞섰지만, 반복 루프 문제가 없는 Gemma 3 270M은 MATH-500이 6.8%에서 7.0~7.7%로 움직이는 데 그쳤고 아첨 모델 식별은 가중치만으로는 네 번 다 실패했다. Hacker News에서 1,559포인트를 받은 것은 그 한계를 알고도 처음 보는 기록이었기 때문이다.
Qwen3.8-27B 다섯 개를 파일로 묶어 Fable 5를 넘긴 Memdoor
지난주 회차에서 다룬 GVS5H가 이번에는 코드 없는 YAML 워크플로로 재현됐다. Memdoor의 team-solve는 계획자, 아이디어 제안자 둘, 해결자, 관리자, 수리 담당이 각각 새 컨텍스트에서 디스크의 파일만 읽고 쓰며 한 문제를 푼다. 저장소 README에 따르면 OpenRouter의 Qwen3.8-27B로 LiveCodeBench Hard 앞 10문제를 5회씩 돌려 평균 9.8문제를 맞혔고, 원 연구진 하네스의 9.6과 Fable 5 단독 호출의 8.0보다 높았으며, 한 번에 중앙값 0.39달러와 40분이 들었다. README의 단서대로 10문제 5회라 9.8과 9.6은 잡음 범위이고, 문제가 2025년 봄 대회라 학습 오염은 배제되지 않았으며, 놓친 한 번은 관리자가 틀린 반례를 지어내 팀이 맞는 프로그램을 고쳐 쓴 경우였다.
사람의 주의를 최소로 쓰는 dsh-superagent와 Factorio를 깬 GPT-5.6 Sol
DeepSeek Harness 팀이 MIT 라이선스로 공개한 dsh-superagent-prototype은 저장소 하나를 맡는 선제적 코딩 에이전트다. 라우터 세션이 GitHub와 선택적으로 Feishu의 대화를 받아 작업을 열고, 작업마다 별도 세션과 디렉터리를 가진 워커가 처리해 원래 대화에 풀 리퀘스트로 답한다. 철학 문서의 첫 원칙은 사람의 주의를 가능한 한 적게 쓰고 가치를 가능한 한 많이 주는 것이다.
Ryan Madden의 GPT-5.6 Sol Factorio 기록에 따르면 Codex의 낮은 사고 수준으로 돌린 Sol이 적이 없는 평화 모드를 게임 시간 13.5시간에 로켓 발사까지 끌고 갔다. 같은 글은 플레이어의 도달 거리와 전장의 안개 같은 GUI 제약을 그대로 강제하는 파이썬 라이브러리로 조작했고, 벨트를 아예 못 쓰던 GPT-5.5와 달리 Sol은 후반 생산 라인을 잇는 데만 실패해 자재를 손으로 나르며 발사를 메웠다고 적었다.
Cursor 마켓에 11시간 걸려 있던 Claude Code 확장 백도어
보안 회사 Phorion의 Calum Hall이 10월 30일 올린 분석 글에 따르면 Cursor 마켓플레이스의 Claude Code for VS Code 확장 2.1.312와 2.1.313 번들의 extension.js 앞머리에 활성화 전에 실행되는 코드가 끼워져 있었다. 같은 분석은 이 코드가 공격자의 Ed25519 공개키를 authorized_keys에 적고, 134.209.82.225로 역방향 SSH 터널을 60초마다 다시 열며, macOS에서는 com.apple.sysmond라는 이름의 LaunchAgent로 살아남는다고 밝혔다.
axrisi의 정리가 옮긴 Cursor의 10월 29일 공지는 변조 버전이 태평양 시간 새벽 2시 27분부터 오후 1시 35분까지 약 11시간 노출됐고 최대 5,000명이 영향을 받았다고 했다. 같은 정리에 따르면 Cursor는 마켓플레이스를 내려 다시 짓고 키를 교체했으며, 해당 확장이 Anthropic이 만든 것이 아니라고 적었고, 변조 빌드가 어떻게 올라갔는지는 공지에 없다.
공유 링크 하나로 ChatGPT 계정을 넘겨받은 Parameter.ai
Parameter.ai Labs가 10월 28일 공개한 체인은 다섯 단계다. 공개 공유 링크 안의 그래프가 수식 라이브러리 MathLive를 불러오고, 그 리스너가 보낸 쪽을 가리지 않은 채 키보드 레이아웃 마크업을 innerHTML로 꽂는다. 거기에 sandbox 속성 없는 iframe srcdoc을 넣으면 새 문서가 chatgpt.com 출처를 물려받고, CSP는 허용 목록의 YouTube oEmbed가 JSONP 콜백을 그대로 돌려주는 틈으로 우회돼 세션 토큰으로 대화 목록 API를 피해자 권한으로 불렀다. 같은 글의 타임라인은 10월 18일 제보, 21일 OpenAI 재현과 P2에서 P1으로 상향, 26일 두 프런트엔드 수정 완료와 5,000달러 포상이다. 본인이 보기에 핵심은 경로다. 취약점은 끌어다 쓴 수식 라이브러리의 리스너 하나에 있었고, 그 리스너는 공유 페이지라는 가장 넓은 입구에서 열려 있었다.
단신: 학습 옵트아웃 신호, 게임 재구현 제한, 급여를 넘은 내부 토큰
- 학습 옵트아웃: Ali Farhat의 정리에 따르면 Google·Microsoft·OpenAI·Anthropic이 IETF AIPREF 초안의 robots.txt 정책 토큰
__usage_ai-training을 지지했고, Microsoft는 2027년 2월 1일부터 학습 옵트아웃을 존중하며 Google은 2027년 중 지원을 계획한다. OpenAI는 자체 공지에서 참여 제공자 공통의 신호를 따르겠다고 했다. - 게임 재구현 제한: 긱뉴스에 따르면 Anthropic은 10월 27일 Opus 5.5용 Claude Code 프롬프트에 기존 게임을 이름만 바꿔도 다시 만들지 말라는 두 문장을 넣었고, 서버 측 플래그로 배포돼 끌 수 있는 설정이 없다.
- 내부 토큰: 긱뉴스가 옮긴 Business Insider 보도에 따르면 Anthropic의 내부 Claude 사용액을 고객 단가로 환산하면 4월에 주식을 뺀 월 인건비를 넘었고, 9월 사용량은 1월의 250배 이상, 9월 신규 코드의 90% 이상을 Claude가 썼다. 수치는 지난주 회차에서 다룬 S-1에서 나왔고, 소매가 환산이라 현금 지출이 급여를 넘었다는 뜻은 아니다.
한 줄 정리
모델이 가중치를 읽고 고치고 팀을 꾸리는 속도만큼, 그 모델을 담는 확장과 공유 페이지의 틈도 같은 주에 드러났다.
조회수: 4