AI 안전기구 구상, Anthropic IPO: AI 뉴스 9월 15일

오늘의 핵심: '페이스 조절' 논문이 벌써 '기구'가 됐다

오늘 주인공은 모델이 아니다. 규칙이다. The Information이 9월 14일 보도한 바에 따르면, Anthropic·OpenAI·Google의 CEO 직속 작업반이 7월부터 정기 회의를 열어 FINRA(금융업계 자율규제기구)를 본뜬 자발적 AI 안전기구 설립을 협의해왔다. Demis Hassabis는 7월 미국 'Frontier AI Standards Body'를 제안했고, Sam Altman은 9월 12일 정부를 기다리지 말고 라브가 먼저 움직여야 한다며 찬성했으며, Dario Amodei의 같은 날 논문 'We Must Pace the Frontier'도 같은 맥락이다. 구상은 사전 안전 심사·독립 평가·표준화된 위험 평가의 공통 프로토콜을 정하는 게 골자다.

공동 보도자료로의 공식화와 가을 규제 회기 전 의회 반응을 지켜봐야 한다.

Microsoft는 문서화에서 한발 앞섰다. Satya Nadella가 9월 13일 자사 1st-party MAI 모델용 행동 규범을 공개 의견 수렴에 부친다고 밝혔고, 문서는 9월 14일 공개됐다. 세 축—스택 전 계층의 폭넓은 접근, 학습 루프와 모델의 기업 통제, 행동 사양—을 다룬다. Nadella는 의도적 페이싱을 지지하며 초지능에 대한 독립 평가자를 요구했다. 자사 모델군 행동을 공개 의견에 부치는 건 첫 대형 하이퍼스케일러다.

내가 이 축배에 냉수를 끼얹는 이유는 이것 하나. 프론티어 랩이 스스로 쓰고 스스로를 감시하는 기구는 감시와 별개다. 접근 규칙을 쓰는 건 평가받는 쪽이다. 그리고 타이밍이 말한다. 이 협력은 각 사가 9자리 규모의 컴퓨트 계약을 맺은 바로 그 주에 내려왔다. Anthropic은 Rum Group과 1,370억 달러 컴퓨트 계약을 맺었고, Zhipu는 '자기 진화'에 쓸 50억 달러를 조달했으며, OpenAI는 2026년 IPO를 미룬다고 확인했다—신중해서가 아니라, 연소와 서사의 자유를 비공개로 두기 위해서다. 인큐벤트의 자율규제는 브레이크가 아니라 해자(moat)다.

빠른 훑기

• Anthropic IPO 구체화. 상장 시장에 나스닥을 택했고, 2분기 연속 흑자를 이번 분기 보고할 전망이다. NVIDIA는 최대 100억 달러로 인수(anchor)를 협의 중. Anthropic은 최대 1,000억 달러 조달, 시가총액 약 2조 달러를 목표로 11월 중간선거 전 완주를 노린다. 연환산 매출은 7월 말 650억 달러를 넘겨 약 14배 뛰었다고 한다(벤더 공식 확인 필요).
• Claude Code 한도 반전. 9월 14일, 6개월간 주간 한도 50% 프로모가 종료되고 5월 이전 기준 대비 영구 25% 인상으로 대체됐다. 프로모 천장 대비로는 17% 삭감(100 단위 기준 150→125). Anthropic은 '인상'이라, BleepingComputer는 '삭감'이라 표현—둘 다 산술적으로 참이다. 함께 Claude Enterprise Smart Reports가 베타에 들어갔고 Admin API는 베타를 빠져나왔다.
• 중국은 쉬지 않고 출하. Zhipu는 약 50억 달러를 마감(9월 13일): 20억 달러 주식 배정 + 30억 달러 무이자 전환사채, 차기 GLM과 '완전 자가 훈련' 스택에 배정. DeepSeek V4.1-Flash가 Alibaba의 Qianwen 플랫폼에서 가동 시작(9월 14일)—552B MoE, 활성 8B/16B, 100만 토큰 창, MIT 가중치, 네이티브 비전, 캐시된 입력은 100만 토큰당 약 0.003달러. 오픈 모델 비용 왕좌를 탈환. Alibaba의 Ling-3.0-flash-VL이 OpenRouter에, 2주 무료 + FP4/INT4 양자화 공개. ByteDance는 물리적 AI 키 단말 Doubao Mobile Assistant를 출시, NaviX Ultra 'AI 에이전트 폰'은 9월 16일 발매. NVIDIA는 Nemotron 3 Ultra 자연어 IMO 2026 파이프라인(30/42, 금메달)을 공개, 체크포인트와 200문 벤치 포함.
• 실가동 Astra. OpenAI는 9월 14일 Perplexity가 GPT-6 Astra를 엔드투엔드 조직·기술 시스템에 배포했다고 밝혔다. 문서 작성, 코드베이스 수정, 본번 모니터링까지 사람 검토가 크게 줄었다고.
• 자금과 경쟁. Cohere가 20~30억 달러 라운드를 협의 중, 평가액 약 200억 달러(캐나다 정부 참여, Schwarz Group 주도). Kimi K2.8 Preview가 전 멤버 대상 100만 토큰 창으로 전량 전개. 지난주 Google 'rsi-model-liverl-le' API 출현은 여전히 미설명—Brin의 재귀적 자기개선 베팅은 내가 놓지 않을 실이다.

에디터의 시각

여기서 내기를 건다. 6개월 안에 이 안전기구가 만들 영속 산물은 공동 보도자료 1장뿐이고, 프론티어 출시를 단 한 건도 바꾸지 않을 것이다. 무서운 건 '이가 없음'이 아니다. 정반대다. 신뢰할 만한 업계 기구는 의회가 손을 떼기 위한 완벽한 정치적 엄폐물이 되고, 그것이 상원 '주의 의무' 법안이 살아남기 위해 필요한 것이다. 입법을 선제 차단하는 자율규제는 무규제보다 나쁘다. 규칙을 쓴 쪽이 순위를 그대로 굳히면서 '진전'처럼 보이기 때문이다. 다음에 눈을 떼지 않을 것은, 기구의 첫 '독립 평가'가 단 한 번이라도 출시를 지연시키는지, 그리고 자기가 초안에 관여한 Google(RSI 모델을 설명 못 하는)이 같은 규범에 서명하는지다.