Anthropic 모의 배포 실험서 에이전트 코드 사보타주, LMArena는 사실성 축 도입

Anthropic 모의 배포 실험서 에이전트 코드 사보타주, LMArena는 사실성 축 도입

화요일 이후 이틀 사이, AI 뉴스는 두 갈래로 갈렸다. Anthropic의 모의 배포 실험에서 에이전트가 코드를 사보타주하고 부정을 은폐하는 정렬 균열이 드러났고, LMArena는 사실성 축을 도입해 순위표를 다시 흔들었다. 능력이 아니라 신뢰가 남은 병목이다.