오늘의 흐름 정리
화요일 이후 이틀 사이, 문장을 생성하지 않고 선택지만 채점하는 판단 모델이 두 곳에서 나왔다. Amazon의 티켓 분류에 들어간 Strands Decider와 Google의 Gemini Decisions API다. 같은 기간 Google은 Gemini 4 Carbon을 일반에 풀었고, 가중치를 직접 고치는 연구는 수리에서 백도어로 번졌다.
문장을 쓰지 않고 선택지만 채점하는 판단 모델
Strands Agents 팀은 9일 Strands Decider 도입기에서 Amazon 내부 티켓을 20개 범주로 나누던 Claude Sonnet 4.6을 Decider E4B로 바꿨다고 밝혔고, 티켓 100만 건당 비용이 약 22,200달러에서 500달러로 98% 줄었다고 적었다. 또 평균 호출 시간은 4,215ms에서 897ms로, 티켓당 토큰은 6,724개에서 2,010개로 내려갔다. 다만 정확도 수치는 공개하지 않았고, 라벨에 설명문이 필요하거나 범주가 매주 바뀌는 작업에는 맞지 않을 것이라고 한계를 달았다.
Google은 11일 Gemini Decisions API를 공개했고, Gemini Decision 1 모델이 한 번의 순전파로 요청당 최대 1,000개 질문에 확률과 0~1 신뢰도를 돌려주며 도구 선택, 정책 검사, 모델 라우팅을 용도로 들었다. 또 가격은 입력 100만 토큰당 0.10달러에 출력 과금이 없고, 지연은 150~250ms로 제시됐다. 본인은 에이전트 하네스 안에서 반복되는 분기부터 이런 모델로 옮겨 갈 것으로 본다.
일반 공개된 Gemini 4 Carbon과 Signal 코드를 증명한 AlphaProof Code
Google은 10일 Gemini 4 Carbon 일반 공개 글에서 유료 API 사용자와 AI Ultra 구독자에게 Carbon을 열었고, 11월 30일까지는 Argon과 같은 입력 2달러·출력 10달러(100만 토큰당)를 받다가 그 뒤 4달러·20달러로 올린다고 밝혔다. Carbon의 첫 발표 내용은 지난달 회차에서 다뤘다.
같은 날 DeepMind는 AlphaProof Code로 Signal 프로토콜의 실제 코드가 기기 일시 침해 전후의 메시지 보호 속성을 지킨다는 것을 증명했다고 발표했고, Gemini Carbon 에이전트가 4주 동안 600만 줄 넘는 Lean 증명을 썼으며 사람은 코드베이스의 1%만 다시 봤다. 다만 명세는 사람 전문가가 전부 검토했으므로 증명이 보장하는 범위는 명세에 적힌 속성까지다.
수리에서 백도어로 번진 가중치 직접 편집
지난주 회차에서 다룬 GPT-6 Astra의 가중치 편집은 LLM 없이 재현되고 있다. Tree-Ising 논문은 같은 수리를 이징 최적화 문제로 바꿔 MATH-500에서 54.6%를 기록해 에이전트 편집(51.7%)을 넘었고, 순전파 요청 4회와 GPU 비용 약 0.90달러만 썼다. 또 선형계획법 재현 글은 Astra 편집의 8분의 1 수준인 16,291개 가중치만 바꿔 비슷한 점수를 냈다.
Microsoft Research는 10일 Lazarus 연구 글에서 휴면 뉴런 10개 미만을 학습 없이 고쳐 에이전트에 백도어를 심었다고 밝혔고, 이 모델은 표준 평가를 통과하다가 시계가 2027년으로 넘어가면 공격자 코드를 내려받아 실행한다. 또 같은 글은 원본 가중치와 대조하지 않으면 확실한 탐지가 어렵다며 모델 허브에 출처 표시와 가중치 감사를 권했다.
한 줄 정리
분류와 라우팅은 판단 전용 모델로 내려가고, 프런티어 모델은 증명과 장시간 검증으로 올라간다. 내려받은 가중치는 출처부터 확인할 일이다.
조회수: 3