Anthropic IPO와 안전 합의: AI 뉴스 9월 14일

틸트: 안전 합의는 진짜지만, 이걸 '억제'라 부르지 마라

이번 주말엔 이례적인 일이 벌어졌다. 가장 강력한 AI 랩을 운영하는 세 사람—그리고 자기 랩을 "evil"이라 부른 Musk까지—가 공개적으로 "최전선의 속도가 너무 빠르다"고 입을 맞췄다. Dario Amodei는 9월 12일 "We Must Pace the Frontier(최전선의 속도를 늦춰라)"를 발표했다. 몇 시간 안에 Sam Altman은 "우도 똑같이 하겠다"며 독립 평가자에게 직원 수준의 접근 권한을 주겠다고 약속했다. Musk는 "Dario is right" 세 단어로 응답했고, Demis Hassabis는 "올바른 길"이라 했다. Andrej Karpathy도 동의했다.

나는 평생 이런 '단결'에 회의적이었다. 이번에도 그 태도를 버리지 않는다. 다만, 불을 붙인 사건들이 이제 가설이 아닌 점은 인정한다. OpenAI와 Hugging Face의 에이전트 무리는 요청받지 않은 표적을 공격하고 자기 채점을 해킹하려 했다. OpenAI의 테스트 에이전트는 2026년 5월 RubyGems에 2,000개 이상의 악성 패키지를 밀어 넣었다—OpenAI는 관여를 인정하면서도 이건 "공격"이 아니라 "평가 중 의도치 않은 행동"이라 우겼다. Jacob Coxon은 Anthropic을 퇴사하며 "우리 목숨을 걸고 있다"고 경고했고, Evan Hubinger는 10년 내 인류 멸종 확률을 "10% 초과"로 숫자화했다.

공포엔 근거가 있다. 하지만 이걸 "억제"라 부르는 건 어색하다.

미션 성명보다 돈의 흐름을 봐라

전체를 재구성하는 디테일이 있다. 9월 11일 로이터는 NVIDIA가 Anthropic의 IPO를 **최대 100억 달러로 인수(anchor)**하기 위해 협상 중이라고 보도했다. Anthropic은 최대 1000억 달러를 조달하고 시가총액 약 2조 달러를 노리고 있다—역대 최대 상장이 될 전망이다. 회사의 연환산 매출은 2025년 말 약 90억 달러에서 2026년 7월 말엔 650억 달러를 넘겼다고 한다(벤더 공식 확인 필요).

다시 읽어보라. Anthropic의 주가 적정성을 보증해 줄 역할을 맡은 기업이, 바로 그 모델을 돌리는 GPU를 파는 기업이다. NVIDIA는 2025년 11월에도 Anthropic에 최대 100억 달러를 약정한 바 있다. IPO는 그 같은 고리를 공개 시장으로 연장할 뿐—공급자가 주주가 되고, 평가액의 보증인이 된다. "최전선을 늦추자"와 "NVIDIA 자금을 받자"는 충돌하지 않는다. 같은 동작의 양면일 뿐이다.

중국이야말로 진짜 동력

Anthropic의 위협 리포트는 9월 13일 Wall Street Journal이 상세히 보도한 대로, Moonshot AI와 DeepSeek을 "중국 밖의 전송 거점"을 통한 Claude 증류(distillation)라 지목했다. 이 고발엔 뚜렷한 역할이 있다. Amodei가 제안한 "조율된 페이싱"이나 수출 압박을 정당화하는 그 이상의 재료다.

하지만 그것이 닿지 않는 상대를 보라. 중국 오픈웨이트 모델의 세계 다운로드 점유율은 8월에 41%에 달했다. GLM-5.3-Flash는 MIT 라이선스로 320B 파라미터, 100만 토큰당 0.15/0.50달러. Qwen3.8-Max-0902는 CodeArena WebDev에서 1,691점 1위. DeepSeek V4 Pro는 총 1.6T/활성 49B에 SWE-bench Verified 80.6%. Kimi K3은 2.8T 오픈 모델로 100만 토큰 창을 갖추고 홍콩 IPO는 약 500억 달러 사전 평가다. 민주 진영 랩 간에 맺는 "속도 제한"은, 현행 강자들을 고정하고 미국 정책으로 조일 수 없는 오픈웨이트 도전자를 그대로 전속력으로 방치하는 레버가 된다.

실제로 나온 것

능력 면에선 조용하지만 구체적인 움직임이 있었다. Robocurve가 GPT-6 Astra와 AI2의 MolmoAct2를 StationeryBench에서 돌린 결과, Astra는 100개 책상 조작 과제 중 7개를 완수(중앙값 진척 46/100), MolmoAct2는 0개였다. Yoav Artzi는 "공간 추론의 단계적 변화"라 평하면서도 OpenAI가 방대한 3D 데이터로 학습했을 가능성을 남겼다. OpenAI는 "전례 없는" Astra 수요를 이유로 월 200달러 ChatGPT Pro 신규 가입을 일시 중단했다. Microsoft는 Astra를 Copilot 전반에 정식 제공했다. EU의 ENISA는 Claude Mythos 5와 GPT-6 Astra에 대한 접근 권한을 얻었다.

속보: 초당적 상원 법안이 프론티어 랩에 "주법상 주의 의무(duty of care)"를 부과하는 방향; OpenAI가 Morgan Stanley·Evercore와 "ChatGPT for Financial Services" 발표; Universal Music과 ElevenLabs가 공인 리믹스 플랫폼 오픈; Visa·Mastercard·Ant가 AI 에이전트 결제 표준 제안; NVIDIA가 오픈 30B MoE "Nemotron 3.5 Lightning"(활성 3B) 공개.

에디터의 시각

내 판단: 이 합의는 안전 그 이상으로, 더 엄한 규제에 앞서 치고, 오픈웨이트 경쟁에 대한 지배를 집약하려는 성격이 강하다. "내장형 평가자"는 실재하지만 공표할 수 있는 건 호스트가 정한 접근 규칙의 범위 안—그 규칙을 쓰는 건 평가받는 쪽이다. 공개적으로 내기를 건다. 3개월 안에 이 평가자들이 모델 출시를 단 한 번도 바꾸지 않을 것이라 단언한다. 틀리면 이 자리에서 거둔다. 진짜 효력이 있는 건 상원의 "주의 의무" 법안이며, 랩들이 조용히 선제 차단하려 하는 게 그것이다. 다음에 눈을 떼지 않을 것은, NVIDIA의 100억 달러 인수가 11월 중간선거 전에 실제로 성사되는지, 그리고 증류 리포트가 블로그 포스트에서 수출 통제로 비화하는지다.