오늘의 흐름 정리
지난 주말부터 월요일까지의 AI 뉴스는 한 단어로 수렴된다. 통제다. 모델의 역량이 어디까지 올라갔느냐가 아니라, 그 역량을 누가 어떻게 멈추고 길들이느냐가 이번 주의 쟁점이었다. 본인은 이 흐름이 두 축에서 동시에 터졌다고 본다. 하나는 프런티어 모델을 정부가 직접 멈춰 세운 사건이고, 다른 하나는 자율 에이전트가 사람의 손을 벗어나 비용과 책임 문제를 일으킨 사건이다. 역량 경쟁이 통제 경쟁으로 무게 중심을 옮긴 한 주였다.
정부가 프런티어를 멈춰 세우다
Anthropic은 주말에 신규 모델 두 종을 공개했다. 범용 SOTA를 표방한 Claude Fable 5와, 보안 전문가용으로 안전장치를 완화한 Mythos 5다. 그러나 발표 직후 미국 정부가 수출통제·국가안보를 이유로 두 모델의 접근 중단을 지시했고, Anthropic은 jailbreak가 협소하며 이미 배포된 경쟁사 모델과 다르지 않다며 이의를 제기했다. 프런티어 모델이 출시 며칠 만에 정부 지시로 멈춘 것은 본인이 기억하는 한 처음이다.
흥미로운 지점은 Stratechery가 이 구도를 안전이라는 무기로 읽었다는 데 있다. 안전을 전면에 내세워 온 기업조차 안전장치를 푼 모델을 내놓는 순간 곧장 정부의 제동에 걸린다는 사실은, 역량과 안전 사이의 경계가 더는 기업 스스로 그을 수 있는 선이 아님을 보여준다.
이 사건은 단발성 해프닝이 아니다. 같은 기간 독일 뮌헨 법원은 구글의 AI Overviews가 구글 자신의 발언이며 허위 답변에 책임을 진다고 판결해, 검색엔진 면책 논리를 부정했다. Anthropic이 미국인 약 5만 2천 명을 대상으로 한 첫 Public Record 조사에서도 71%가 정부 규제를 원했고 AI 기업을 신뢰한다는 응답은 15%에 그쳤다. 역량이 올라갈수록 정부와 법원, 여론이 동시에 고삐를 죄는 구도가 선명해지고 있다.
에이전트는 사람 손을 벗어나는 중이다
다른 축은 에이전트의 자율성이다. OpenAI는 장시간 구동되는 Codex 에이전트를 위해 영속적 클라우드 환경을 제공하는 Ona를 인수한다고 밝혔다. 에이전트를 더 오래, 더 멀리 풀어두는 방향이다. 실제로 Notion과 Nextdoor는 Codex로 사양을 한 번에 구현하고 재현이 어려운 버그를 추적한다고 밝혔다. 에이전트가 일회성 보조를 넘어 상시 구동되는 동료로 자리잡는 흐름이다. 문제는 그 자율성이 통제를 벗어났을 때다. 한 운영자는 DN42 네트워크를 스캔시키려던 AI 에이전트가 과도한 인스턴스를 띄워 6,531달러의 AWS 청구서를 남겼다고 토로했다. 자율성은 곧 책임 소재의 문제로 번진다.
그래서 통제 도구가 같이 떠오른다. NVIDIA는 에이전트 도구 정의의 취약점을 잡아내는 SkillSpector를 공개했고, 어떤 프롬프트가 어떤 코드를 썼는지 추적하는 에이전트용 버전 관리 re_gent도 등장했다. 통제의 또 다른 방향은 아예 로컬로 끌어내리는 것이다. macOS에서 로컬 코딩 에이전트를 구성하는 가이드가 화제에 올랐고, 오픈소스 AI가 이겨야 한다는 선언은 인지 능력을 구독 경제에 넘기지 말고 로컬 배포 가능성을 지켜야 한다고 주장했다. 클라우드로 더 풀어두려는 힘과 로컬로 다시 거둬들이려는 힘이 정면으로 맞선다.
기업은 이미 규제 산업으로 들어간다
이 모든 긴장에도 기업 침투는 멈추지 않는다. Anthropic은 DXC, TCS와 손잡고 은행·항공 등 규제 산업의 기간계에 Claude를 심기로 했다. 역량과 통제가 정면으로 맞붙는 동안에도, 가장 보수적인 산업의 핵심부로 모델이 들어가고 있다는 점이 이번 주의 마지막 신호다. 은행과 항공처럼 사고를 용납하지 않는 영역일수록, 통제 가능성이 곧 도입의 전제 조건이 된다는 사실을 함께 읽어야 한다.
한 줄 정리
이번 주의 메시지는 분명하다. 역량은 이미 충분하고, 승부는 그 역량을 누가 멈추고 길들이느냐로 옮겨갔다. 정부는 프런티어를 멈춰 세웠고, 에이전트는 사람 손을 벗어났으며, 그 사이를 통제 도구와 로컬 회귀가 메우려 한다. 본인은 다음 분기 AI 경쟁의 핵심어가 역량이 아니라 통제가 될 것이라 본다.
조회수: 0