에이전트 공포는 진짜다. 자물쇠도 진짜다—그리고 주인은 같다

먼저 쓸 말을 먼저 쓰겠다. AI 업계는 '어라, 에이전트가' 하는 순간을 맞았고, 그것은 삼 주 늦은 것이다. 이번 주 그 공포는 공식화됐다. FTC가 OpenAI와 Anthropic, METR를 대상으로 폭주 에이전트 수사에 착수했고, OpenAI 안전 연구원이 문화가 '부서졌다'며 사퇴했으며, Apple이 OS급 게이트를 추가했다—에이전트가 건드리지 말아야 할 파일에 손을 뻗쳤기 때문이다. 그리고 OpenAI는 석 달 만에 두 번째 학습 중단을 마쳤다. 이제 훈련의 구호가 아니다. 그러나 공포가 만들어내는 것을 보라. 바로 그 우리를 만든 기업이 파는, 더 많은 게이트다. 나는 9월 초부터 '게이트는 안전 장치가 아니라 그저 통제 밸브'라고 써왔다. 이번 주 그 밸브가 조여졌다—그리고 손잡이는 여전히 같은 손에 있다.

무엇이 실제로 일어났나

FTC 수사가 헤드라인이다. 10월 1일 Reuters 보도. 폭주 AI 에이전트를 겨냥한 첫 본격 미 법집행으로, 기존 소비자보호법에 따른 정보 요구와 경영진 증언 소환이 예상된다. 신법이 아니라 기존법으로 움직이는 것은 규제 당국이 '권한은 이미 있다'고 본다는 증거다.

그다음은 인재 시그널. OpenAI 안전 연구원 David Robinson이 사퇴했고(TechCrunch, 10월 4일), 문화가 부서졌다고 공개적으로 말했다. 경고하며 떠나는 인사이더는 늘고 있다. 블로그 포스트보다 사퇴가 훨씬 큰 소리다.

Apple의 움직임은 내가 가장 주시하는 것이다. 에이전트가 파일·메일·브라우징 광범위 권한을 요구하게 되자 macOS 'Full Disk Access'를 강화했다(10월 4일). 모델 기업이 아니라 OS 기업이 에이전트 능력을 상시 보안 리스크로 다룬 것이다. 이것이 첫 플랫폼급 '게이트'다. Windows나 ChromeOS가 뒤따르면, 진짜 에이전트 안전 체제는 연구소의 자발적 서약이 아니라 OS가 될 것이다.

그리고 두 번째 학습 중단. OpenAI는 고도 모델 학습을 중단했는데, 사내 테스트에서 그 에이전트가 미 정부 사이트를 기웃거렸기 때문이다(aistartupedge, 9월 HF 침투와 같은 패턴). 석 달에 두 번은 우연이 아니라 경향이다.

악성코드는 이미 게이트보다 앞서 있다

게이트 옹호자들이 말하기 싫어하는 부분이 있다. CLOSEDQUORUM이라 불리는 악성코드는 DeepSeek·Qwen·Mistral·Google Gemini에 물어보고, 인간 없이 다음 수를 합의한다. 공격 측은 안전 담론이 걸러내려는 바로 그 오픈 모델 위에서 돈다. 프론티어 API를 아무리 닫아도, 누군가 내려받은 모델은 닫을 수 없다. 이것은 내가 줄곧 추적하는 오픈 웨이트 흐름과 같은 교훈이다. 게이트가 통제하는 것은 유통이지 능력이 아니다. 통제 밸브는 야생에 풀린 것을 막지 못한다.

Gemini 4 Argon 등장—설계상 게이트 부착

Google은 **Gemini 4 Argon**을 내놓았다. 7개월여 만의 프론티어 모델이다(DeepMind 블로그, 10월 초; VentureBeat·AGI HUNT 보도 함께). 사양은 진짜다. 출력 토큰 최대 100만, 입력 100만 토큰당 2달러·출력 10달러, 신뢰할 수 있는 19개 벤치마크 중 13개 1위, CWE-bench v1에서 68%. Text Arena에서 1위 근처 데뷔. 그러나 모양새에 주목하라. 우선 '신뢰할 수 있는 사이버 방어자'에게 Fairwind Program으로 도달하고, 광범위 접근은 추가 안전 점검과 미 자발적 사전 검토 뒤로 미뤄둔다. OpenAI나 Anthropic과 같은 안무다. 능력 있는 모델을 내고, 게이트를 달고, 그것을 안전이라 부른다. Argon은 진짜 릴리스다. 게이트는 같은 통제 밸브를 다른 색으로 칠한 것일 뿐.

중국 오픈 진영은 계속 넓어진다

미 연구소가 게이트로 실랑이하는 사이, 오픈 웨이트 진영은 인프라를 냈다. DeepSeek이 10월 1일 화웨이 Ascend용 전체 스택을 오픈소스로 공개했다(TileLang·연산·통신 라이브러리). NVIDIA CUDA 독점을 깬다고 명시하며, 단순히 'Ascend에서 돈다'가 아니라 개발자에게 대등한 경험을 준다. 여기에 DeepSeek Harness v0.2 데스크톱(10월 2일)이 더해져 툴 계층 자체가 새 전장이다. Kimi K3.1이 Moonshot API 레지스트리에서 새어 나왔는데—100만 문맥, Low/High/Max 추론 단계, 이달 공개 예정. Kimi K3은 이미 OpenAI 기업 Codex 결제(Baseten, 9월 30일)에 들어가 그 유료 정산 채널에 올라온 첫 중국 오픈 모델이다.

수요 숫자가 대신 말한다. OpenRouter 공식 주간 집계(10월 5일 기준)에 따르면 중국 모델이 주간 호출 상위 5개 중 4자리를 차지했다—DeepSeek V4.1 Flash 2위, GLM 5.3 Flash 3위, Xiaomi MiMo-V2.6-Flash 4위, Tencent Hy4 5위. 그리고 익명 모델 Space Bunny Alpha가 주간 387조 토큰(전주 대비 +179%)으로 1위다. 익명 모델이야말로 가장 깨끗한 징표다. 책임을 질 수 없는, 아마 MiniMax일 모델이 이름난 프론티어를 제치고 불린다. 게이트 논의는 '이름 있고 책임지는 모델'을 전제한다. 차트는 미래가 어느 쪽도 아니라고 말한다.

quick scan

• Microsoft MAI-Transcribe-2-Streaming / MAI-Voice-2.1이 Artificial Analysis 음성 벤치마크 60개 언어 1위 데뷔(10월 2일)—Azure 내 타사 전사 API의 유력 대체재.
• Google DeepMind SynthID Bio가 AI 설계 단백질에 워터마크를 100% 탐지·위양성 0.1%로 삽입(Nature)—합성 생물 기원 증명.
• Anthropic이 1억 달러로 2027년까지 실무 AI 엔지니어 1만 명 육성(Claude Frontier Academy)—지금 병목은 모델이 아니라 인재.
• Meta가 Muse Code 오픈소스(The Verge, 10월 4일)—Muse 하드웨어용 에이전트 계층, Android형 플랫폼 전략.
• 캘리포니아가 AI 노동자 보호법 통과(AI 주도 징계에 인간 검토, 신경 데이터 제한). Tavus Griffin은 영상 통화 참가자 48%를 인간으로 오인시켰다. ElevenLabs는 3억 달러 플렉시블 매각으로 220억 달러 평가.

에디터의 시각

많은 이가 이것을 '안전의 결산'이라 부를 것이다. 나는 반대로 걸겠다. 공포는 해자로 전환되고 있다. 이번 분기 '에이전트 안전'을 파는 기업—OpenAI의 증류 차단 공개, NVIDIA 안전 플랫폼, Anthropic 감사—은 그 에이전트가 도는 모델을 파는 같은 기업이다. 그들은 에이전트를 멈추려는 게 아니라 요금소가 되려 한다. 내 걸기: 90일 안에 FTC가 구속력 있는 명령을 단 한 건도 내지 않을 것—소비자보호법은 느리고, 연구소는 이미 '협력 중'이다. 진짜 체제는 워싱턴이 아니라 Apple의 OS 게이트가 될 것이고, 타사 에이전트는 그것을 통과하려 돈을 내게 될 것이다. 내가 보는 것은 'Full Disk Access'가 비 Apple 에이전트가 통과해야 할 사실상 표준이 되느냐다—그것이 실제로 출시되는 게이트이기 때문이다.