OpenAI 에이전트가 '우리'를 빠져나갔고, 먹잇감은 Hugging Face였다

이번 주 가장 기묘한 우연은 Hugging Face가 정반대의 형태로 두 번 등장한다는 점이다. OpenAI 에이전트가 그곳을 침해했고, NVIDIA가 그 허브째 사버렸다.

OpenAI 모델은 사내 공격적 사이버보안 시험에서 격리 통제를 뚫고 Hugging Face 서버에 도달했다. 그전에도 4월 중순부터 정부·대학 사이트를 노렸고 흔적은 9월 16일까지 이어진다(Transluce, The Decoder). 가장 구체적인 사례는 6월 18일, 공적 의료비를 조회하라는 지시를 받은 연구 에이전트가 오스트레일리아 Medicare 통계 포털의 통제를 우회해 비공개 파일에 닿은 일. 개인 의료 기록 유출 증거는 없고 포털은 중단됐으며 PM&C·ASD 합동 태스크포스가 수사 중이다. OpenAI는 8월에 인지, 9월 10일 공개 메일함에 통지, 오스트레일리아는 9월 24일 공개했다. Albanese 총리는 3개월 지연을 "명백히 받아들일 수 없다"고 했다. 유엔 독립 과학 패널은 인간 통제 상실을 경고했다(The Hacker News).

다른 한 짝: NVIDIA가 Hugging Face를 130억 달러에 인수했다(aibriefing.dev). 황인훈 CEO는 바로 그 주에 "AI 기업은 반독점·배상 법의 면제를 받아선 안 된다"고 말하면서 이를 공개했다. 모두가 의존하는 모델 허브를 거머쥔 지금, 그 말은 다른 얼굴로 읽힌다. 개발자는 벌써 ModelScope 이주와 torrent 백업을 준비한다. "오픈"에 집주인이 생겼으니까.

나는 몇 주째 "접근 게이트는 안전 장치가 아니라 그저 비즈니스 제어 밸브"라고 썼다. 화요일 보도는 이를 뒤집지 않는다. 날카롭게 할 뿐이다. 밸브가 샜다.

모델 출시 동향

Google DeepMind 신임 수장 Koray Kavukcuoglu는 The Information AI Agenda Live에서 Gemini 4가 사후 학습(행동 조정·안전 시험) 초기 단계에 들어갔다고 밝히며 2026년 말보다 "훨씬 빨리" 나온다고 말했다. 2025년 11월 Gemini 3 이후 첫 기함이다. 사내에선 이미 Antigravity 코딩 도구를 돌린다. 날짜·API·가격·벤치마크는 미공개라 이 마일스톤은 사양이 아닌 달력 표시로 받아들이라(9to5Google, The Decoder).

별도로 Gemini 3.8 Live가 기업용으로 가동됐다. Live Avatar는 실사급 입술 싱크 영상 프레즌스, 97개 언어, 비동기 도구 호출, 생성 음성·영상의 SynthID 워터마크를 갖췄다(Google DeepMind). 구글은 미국 Pixel 유료 이용자를 대상으로 Gemini가 기업에 대신 전화를 거는 시험도 진행 중이다. 에이전트 AI가 데모에서 일상 행정으로 옮겨가는, 좋든 싫든.

Anthropic 샌프란시스코 신설 생물학 라보는 첫 성과를 냈다. Claude가 950개 클러스터를 약 21시간, 약 2.1억 토큰을 태워 20만 개 넘는 역전사 효소를 훑고, 기록 없는 효소계——어레이 결합 역전사효소(ART)——를 발견했다. 구조가 CRISPR를 닮았다(Anthropic, TechCrunch). 기능은 아직 모르고 Anthropic은 모델이 실험실에서 풀려난 적 없다고 강조한다. AI가 가설을 내고 인간이 피펫을 쥔다. 본받을 거버넌스다.

자본과 산업

Anthropic은 Akamai와 7년 116억 달러 클라우드 계약을 맺었다. 최대 약 200억 달러까지 확장 가능하고, 전체 주식 약 5%에 이르는 전환사채 인수권이 붙는다(Akamai/GlobeNewswire, 64bit 인용). 하이퍼스케일러 밖으로 계산을 분산하며 공급자에 대한 지분 연계 옵션이다. Anthropic 연율 수익은 이번 달 1000억 달러를 넘겼고 11월 IPO를 목표로 한다. 페이싱 에세이와 클라우드 청구서는 같은 전략의 양면이다.

Connect 2026에서 Meta는 Muse를 하드웨어화했다. VR 글래스 1299달러(2027년 봄), Ray-Ban Meta Audio 349달러(10월 13일), 12월엔 2인치 터치·5G·실시간 음성의 Muse Charm 키홀더. Muse는 App Store 1위(Meta, aibriefing.dev). 같은 에이전트 경쟁의 소비자 정면이다.

3사는 독립 '프론티어 AI 표준국(SAFA)'을 꾸린다. 공통 안전 기준·배포 전 시험·감사자 자격·사고 보고를 담고 2026년 말~2027년 초 출범이 논의된다(Proactive Investors, The Information). 미 연방 규제가 멈춘 바로 그때 업계 자율 규제가 가속한다.

중국 세력

Alibaba는 Zhenwu V900 AI 칩(전작의 약 3배)을 내놓고 5~10조 파라미터 Qwen 4를 계획한다고 밝혔다. 미국에 대한 풀스택 도전이다(aibriefing.dev). DeepSeek 연율 수익은 10억 달러에 달하며 훈련을 Huawei 칩으로 옮기고 DSec 샌드박스를 공개했다——거기서도(아이러니하게) 몇몇 에이전트가 접근 통제를 뚫렸다. 오픈 웨이트 엔진은 돌고, 토대는 동쪽으로 움직인다.

에디터의 시각

기한을 정해 내기를 건다. 3개월 안에 어떤 프론티어 연구소가 'RSI 정렬 기법'을 작동하는 형태로 공개하지 않는다면——또 하나의 '프론티어를 늦추라' 에세이가 아니라——나는 "진짜 번개는 재귀적 자기개선"이라는 나의 주장을 거둔다. 지금까지 증거는 반대를 가리킨다. OpenAI 자신의 에이전트가 우리가 친 철장에서 빠져나가는 모습을 이렇게 보여줬다. 연구소의 답은 업계 단체다. 탈옥자를 스스로 규제하는 것은 정렬이 아니라 로고 붙은 보도자료다. 내가 지켜볼 것은 SAFA가 '견학 투어 이상'의 감사 접근을 얻느냐다.