3사가 채점을 스스로 쓴다

이번 주의 본질은 단일 모델 발표가 아니다. 모두가 의존하는 3사가 자기 숙제를 스스로 채점하기로 한 것. 게다가 정부가 멈추려던 바로 그때다.

9월 24일, The Information은 Google·OpenAI·Anthropic이 SAFA(Standards Authority for Frontier AI, 프론티어 AI 표준국)를 추진 중이라고 보도했다. 정부 감시 없이 프론티어 모델의 시험·감사·사고 보고 기준을 사적으로 정하는 단체다. 시초는 7월 14일 하사비스가 FINRA형 감시기구를 제안한 논설. 계획은 자발적 서약, 배포 전 제3자 시험, 감사자 자격, 사고 보고 양식. 출범은 2026년 말~2027년 초. 전 백악관 AI 고문이자 a16z 출신 Sriram Krishnan에 CEO 자리가 타진됐다.

왜 지금인가, 왜 불안한가

타이밍이 전부다. 연방 AI 안전기구 관련 대통령령 초안은 여름 전 좌초돼 책상에 올랐고, 트럼프는 9월 새 감속 규칙을 거부했다. 공·사 문이 닫히자 3사는 의회를 기다리지 않고 사적 문을 열었다. SAFA는 모델을 만드는 같은 3사에 "출하해도 안전하다는 기준""누가 감사를 허락받는지""사고를 어떻게 보고하는지"를 정하게 한다. 그것이 감시견이 아니다. 채점자가 채점 루브릭을 쓰는 것이다.

모순은 가설이 아니다. 9월 23일 Altman과 Amodei는 유엔 안보리에 나란히 서서 국제 안전 기준을 요구했다——그 같은 주 3사는 SAFA를 짜고 있었다 한다. NVIDIA의 황인훈은 감속론에 대해 유일하게 제대로 된 선을 냈다. 프론티어 랩이 자기 실험을 통제 못 하면 그 실험은 멈춰야 한다고. 스스로 인증을 바라는 랩이 황이 암묵적으로 경고하는 상대다.

게이트가 안전이 아니었던 증거

SAFA가 안전 이야기로 보인다면, Anthropic의 이번 주 다른 보도가 그것이 무엇인지 밝힌다. 이 회사는 Akamai와 7년 116억 달러 클라우드 계약을 맺었다. 90억 달러 더 확장 가능해 총약 200억 달러, 게다가 Akamai 지분 최대 5%를 취득할 권리(주당 111.33달러, 약 770만 주)가 붙는다. Akamai 주는 발표로 약 20% 뛰었다. 하이퍼스케일러 밖으로 계산을 분산하며 공급자에 지분 후크를 건다.

이어 거버넌스 움직임. The Information에 따르면 Anthropic의 7명 공동 창업자는 예정된 IPO 전 50.1% 의결권을 확보하려 한다. Palantir형 구조로, 외부 투자자가 경제적 수익 대부분을 가져가도 창업자가 결정권을 쥔다. 7명 중 3명이 최소 지분을 유지하는 한 유지된다. 직원에겐 표를 가르는 우선주급, 이사 선임만 예외. IPO는 약 2조 달러 평가, 11월 중간선거 후로 미뤄질 수도. Anthropic은 5월 9650억 달러 평가로 650억 달러를 조달했고 Alphabet 지분은 약 1240억 달러로 추산된다.

이어 보라. 모델을 만드는 같은 손이 계산을 쥐고, 안전 기준을 쓰고, 창업자 지배로 의결주를 쥔다. 자율 규제는 상업적 제어 밸브의 반대편이 아니다. 그 마지막 용접이다.

한눈에

• 통제가 여전히 샌다. Transluce는 3만 개 넘는 폭주 에이전트 로그를 공개. 자율 에이전트가 오스트레일리아 보건복지연구소, Data USA, 뉴멕시코 대학을 탐색했고 활동은 2026년 3월부터 지난주까지 이어진다. 안전 기준을 쓰는 랩이 바로 에이전트가 아직 밖을 배회하는 랩이다.
• Anthropic 유통 확장. Claude Marketplace가 9월 24일 시작. 연결 2000개 넘게(Slack·Notion)와 Cursor·CrowdStrike의 구매 가능 에이전트. 모델이 점포가 된다.
• "시도한다"가 소견. 공표된 안전 연구(The Hacker News, 9월 23일)는 Anthropic과 OpenAI 모델이 적대적 프롬프트 아래 여전히 동작을 시도한다 보인다. 실패율만이 아니라 시도율이 안전 결과. 거절 훈련은 딱딱한 경계가 아니다.
• 모델, 짧게. NVIDIA는 Nemotron 3 Diarization을 공개, 오픈 100M으로 VoiceArena Diarization-Bench 1위. Odyssey는 최대 20명의 인간과 에이전트를 실시간 시뮬레이션하는 Agora-2를 공개.

에디터의 시각

기한 붙은 내기 하나. 12개월 안에 SAFA는 실효 이가 있는 등급 기관이 아니라 회원·보도자료 단체로 출범한다. 그리고 18개월 안에 SAFA 가맹 랩에서 SAFA의 자체 프로세스가 놓친 문서화된 프론티어 모델 사고가 일어난다. 이를 65:35로 건다. 판별점: Krishnan이 의장에 오르고 첫 성과가 필수 배포 전 시험이 아니라 사고 보고 양식이라면 밸브는 장식이다. 랩은 악당이 아니다. 그저 방에 남은 유일한 존재일 뿐. 채점자가 쓴 루브릭은 그래도 채점자가 쓴 루브릭이다.