Anthropic IPO, Google RSI 외: AI 뉴스 9월13일

지구에서 가장 비싼 AI 기업이 이번 주 동시에 두 가지를 했다. 사상 최대 IPO를 향해 질주하면서, 평범한 말로 "만드는 것을 안전하게 유지할 방법을 모른다"고 인정한 것이다. 시장은 이 모순을 가격에 반영하지 않고 있다. 이것이 오늘의 핵심이다.

내 관점: 2조 달러를 건, 아무도 정렬할 수 없는 시스템

Anthropic은 NVIDIA와 코너스톤(기초 투자자) 자격으로 최대 1000억 달러 출자를 협상 중이다. 전체 IPO는 최대 1조 달러를 조달하고 평가액은 약 2조 달러——성사되면 사상 최대 상장이 된다(Bloomberg, 9월 12일 보도, 벤더 공식 확인 필요). 같은 주 Dario Amodei는 "We Must Pace the Frontier(최전선의 속도를 늦추자)"라는 에세이를 내고 역량 향상 속도를 줄일 것을 업계에 요구하며 3단계 프레임워크를 제시했다. Anthropic은 1단계——종업원 수준 접근권을 가진 영구 제3자 평가자 수용——을 단독으로 실행한다고 밝혔다(CNBC TV18, 9월 12일).

이 둘을 나란히 읽으면 아이러니가 짙어진다. 경쟁사에 "브레이크를 밟으라"는 기업이, 그 레이스를 가능케 하는 유일한 공급처로부터 9자리 수표를 받고 있다. 악의로 말하는 게 아니다. 하고 싶은 말은 "감속"은 주식을 쥔 자에게 달렸다는 사실뿐이다.

더 묵직한 인정은 내부에서 나왔다. Anthropic 정렬 과학 책임자 Evan Hubinger는 AI가 10년 안에 인류를 멸종시킬 확률이 이미 10%를 넘었고, 재귀적 자기개선(RSI) 정렬에는 "지금으로선 해법이 없다"고 공언했다. 안전 연구원 Jacob Coxon은 퇴사하며 "기업들이 모두의 목숨을 건 자기개선 초지능을 향해 달리고 있다"고 경고했다. 그 게시물은 1억 3000만 회 이상 조회됐다. 안전 책임자와 퇴사자가 "해결 안 됐다"에 합의한 순간, "통제하고 있다"는 더 이상 믿을 만한 메시지가 아니다.

이것은 내가 9월 초부터 잡아온 실타래다. 최전선 모델 주변의 접근 제한은 안전 장치가 아니었다. 상업적 통제 밸브였을 뿐. 이제는 연구소 스스로 모델의 추론을 의도적으로 숨길 가능성과 정렬이 따라잡지 못하고 있음을 인정한다. 밸브는 애초에 폭주를 잡으려는 게 아니라, 그에 요금을 매기려는 것이었다.

거울: Google의 RSI 루머

Anthropic이 속도를 늦추자고 하는 사이, Google은 반대로 조용히 가고 있는 듯 보인다. X의 @NFT_Chen과 Reuters 보도(Google은 미확인)에 따르면 DeepMind는 내부에 재귀적 자기개선을 돌리고 있고, Gemini 4가 그 첫 산물이라고 한다. 인용된 내부명 "rsi-model-liverl-le"는 100만 토큰 컨텍스트와 사고(thinking) 활성화를 보여주며, Sergey Brin이 Gemini를 실질 주도하고 Hassabis를 일상에서 물러나게 했다는 내용이다(루머로 취급. Google 확인까지 기다릴 것. 다만 창업자가 주방으로 돌아오는 건 레이스가 충분히 빠르지 않다는 증거다).

나는 몇 주 전 "1만 에이전트" 나비에–스토크스 주장을 연극이라 적었다. RSI를 몰래 돌리는 연구소는 그 정반대——그리고 더 무서운 쪽의 케이스다. Anthropic과 맞닿은 지점은 같다. 능력이 누구도 감사할 수 없는 지점을 넘어 밀어붙여지고 있다.

그 외 빠르게

• OpenAI, 미국 정부 AI 협정 개편(CCTV Finance, 9월 12일). 2026년 10월 1일~2028년 12월 31일, 27개월. 적격 미 기관의 월 15달러 라이선스 면제, API 50% 할인, 최소 이용 없음. 주·지방·부족 정부로 확대(약 2300만 명). 정부 입력은 학습에 쓰지 않는다고. 배포 플레이북이 공공 부문으로 스케일됐다.
• OpenAI, GPT-5.3-Codex-Spark 퇴역. 최초의 Cerebras WSE-3 "탈-NVIDIA" 추론 실험으로 수명은 8개월 미만(Yicai, 9월 12일). 고속화는 이제 GPT-5.6 Sol Ultrafast(Cerebras)에 실려 전 모델에서 약 750 토큰/초. GPU 현황보다 빠르지만 정착 증명은 아직.
• Kimi K2.8 Preview 전면 공개(Moonshot, 9월 11일 공개·9월 12일 보도). 전 계층에 100만 컨텍스트 개방, low/high/max 사고량. 성능은 기함 K3에 근접. 중국 오픈웨이트는 출시 간격을 계속 압축 중.
• DeepSeek V4-Pro 정식 버전 공개(deepseek.com). 에이전트 능력, Responses API, Codex 통합을 Web·앱·API에 추가. 가격과 벤치마크는 벤더 공식 확인 필요.
• 중국 모델이 OpenRouter에서 19주 연속 1위. Tencent Hy4 단독으로 1주일에 약 20.4조 토큰 라우팅, 플랫폼 기록(AGI Hunt). "오픈웨이트는 조연"이라는 시각은 죽었다.
• Apple, iOS 27의 Siri AI를 9월 14일 베타 공개 확인. 영어 우선, 일일 사용 한도, 추후 유료화. 온디바이스는 차별화가 아닌 전제가 됐다.

에디터의 시각

많은 이가 NVIDIA의 Anthropic 1000억 달러를 "안전 리더에 대한 신뢰"라 박수친다. 나는 그것을, 안전 리더가 줄이고 싶다던 계산 그 자체에서 구조적으로 분리 불가능해진 순간으로 읽는다. 내기 걸고 말하자면: 12개월 안에 Anthropic의 "영구 제3자 평가자"는 그 훈련 파이프라인에 대해, NVIDIA 재무팀이 자사 GPU 로드맵에 아는 것 이상을 알지 못하게 될 것이다. 틀렸다면 솔직히 말하겠다. 다음에 주시할 것은 Google RSI 루머에 대한 "명확한 부인"인지 "조심스러운 비부인"인지. 그 차이가 바람의 방향을 알려준다.