코딩 에이전트: 엘론 머스크가 100억 달러를 건 이유

지난달, OpenAI의 양대 라이벌인 Anthropic과 엘론 머스크는 마침내 갈등을 뒤로하고 손을 잡았다. 이전까지 Anthropic과 머스크의 관계는 좋지 않았다. 올해 2월, 머스크는 자신의 X(구 트위터) 계정에서 Anthropic을 "깨어났다", "사악하다", "반인류적"이라고 비난했다.

그러나 이러한 공격은 머스크의 변덕스러운 성격 때문이 아니라, Anthropic의 특정 행동이 그의 신경을 거슬리게 한 결과임이 밝혀졌다. 그 이전부터, xAI는 Cursor를 사용하고 있었지만, 연초 직원들은 Claude 모델이 xAI의 Cursor 계정에서 더 이상 사용할 수 없게 되었음을 발견했다. 당시 xAI에 있었던 공동 창업자 우위우화(吴翼怀)는 전 직원에게 보내는 편지에서 다음과 같이 밝혔다. "Anthropic은 정책을 업데이트하여 Cursor가 주요 경쟁사에게 Claude 모델 호출 기능을 제공하는 것을 금지했습니다."

우위우화는 편지에서 흥미로운 한 문장을 적었다.

"이는 나쁜 소식이자 좋은 소식입니다. 생산성은 떨어지겠지만, 독자적인 코딩 제품과 모델을 개발하는 계기가 될 수 있습니다."

왜 당시 xAI의 간부들은 독자적인 코딩 제품을 개발하는 것이 중요하다고 생각했을까?

그 후에 벌어진 일은 알려진 바와 같다. xAI의 공동 창업자 팀은 모두 사임했고, 머스크는 자금력을 이용해 Cursor에 손을 내밀었다.

지난달, SpaceX와 Cursor는 공동으로 프로그래밍 및 지식 기반 AI 모델의 핛련에서 전례 없는 전략적 협력을 시작한다고 발표했다. 더 나아가 SpaceX는 Cursor의 600억 달러 가치에 대한 인수권을 확보하거나, 또는 Cursor에 100억 달러의 협력금을 지급하게 된다.

여기서 주목해야 할 점은 "프로그래밍"이라는 핵심 한정어다. 이는 나중에 다시 언급될 것이다.

최근, Cursor의 초기 투자자이자 Anthropic을 비판해 온 T3의 창업자 Theo Browne의 영상을 보았다. Anthropic과 SpaceX의 행동을 경멸하는 영상을 보려고 접속했지만, 뜻밖에도 SpaceX + Cursor 협력에 대한, 이질적이면서도 극히 합리적인 분석을 접할 수 있었다.

600억 달러 인수가 아닌, 100억 달러 협력금만 생각해 보자. Theo는 영상에서 "Cursor의 사용자 데이터와 교환할 수만 있다면, 100억 달러는 충분한 가치가 있다"고 말한다.

과연 어떤 데이터일까? Theo의 영상을 본 사람이라면 이해할 수 있겠지만, 여기서 간단히 요약하겠다.

AI와의 대화는 질문/요청을 제시하고 답변을 얻는 왕복이다. 코딩 에이전트도 마찬가지지만, 돌아오는 것은 코드이다.

高质量의 대화 전체, 즉 사용자의 프롬프트, 모델의 사고, 에이전트의 계획, 코드 출력, 검증 – 이 모든 것을 결합하면 완전한 에이전틱 루프(Agentic Loop)가 형성되며, 이는 고가치의 핛련 데이터가 된다. 이를 모델에 주어 강화학습(Reinforcement Learning)을 수행하면, 실제 시나리오에서의 성능을 더욱 향상시킬 수 있다.

Cursor가 가지고 있는 것을 SpaceX가 원하는 것은 바로 이 데이터이다.

하지만 이 데이터는 어디에서 오는가?

답은 간단하다. 모델 벤더로서, 이러한 고-quality 데이터의 가장 직접적인 소스는 자체적으로 개발한 코딩 에이전트 제품 – 즉 Anthropic의 Claude Code, OpenAI의 Codex, Kimi의 Kimi Code이다.

Anthropic에 의해 "계정 정지"를 당한 후, 우위우화가 전 직원에게 xAI 독자적인 코딩 제품과 모델을 개발하자고 제안한 이유가 이제 이해될 것이다. 당시 xAI는 이미 깨달았다. 독자적인 코딩 제품 없이는, 고품질의 강화학습 데이터를 얻을 수 없고, 고품질의 데이터 없이는 진정한 실전 능력을 갖춘 코딩 모델을 핛련시킬 수 없다는 것을.

조금 거친 주장이지만, 이제 본론으로 들어가자. 모델 벤더가 실제로 사용할 수 있는 프로그래밍 모델을 만들려면, 독자적인 코딩 에이전트 제품을 개발하는 것이 유일한 길이다.

대규모 언어 모델(LLM)은 수정 구슬과 같으며, 웹 전체의 코퍼스로 핛련된다. 겉보기에는 모든 질문에 답할 수 있는 것처럼 보이지만, 이것이 모든 질문에 고품질의 답변이 가능하다는 의미는 아니다.

GitHub의 수억 건의 코드 엔트리로 핛련하면 코딩 모델도 핛련시킬 수 있다. 이것이 "결과 학습"의 논리이며, 문제없다. 코드가 실행 가능한지, 테스트를 통과하는지 등, 결과는 명확하다.

그러나 결과에 이르는 프로세스는 여러 단계에서의 의사결정, 오류 수정, 의도 일치를 포함하는 복잡한 체인이다. 사용자의 수용, 거부, 보완, 취소, 재질문, 심지어 모델이 몇 번 실패하거나 완전히 틀렸을 때 쏟아지는 비난 – 이 모든 것이 이 체인 위의 프로세스 신호이다.

강화학습에는 두 가지 감독 방법이 있다. 하나는 결과 감독(Outcome Supervision)이라 불리며, 마지막에 통과하는지만 본다. 그러나 결과 감독은 "보상 해킹(Reward Hacking)"이라는 현상을 낳는다. 모델은 실행 가능성을 위해, 장황하고 취약하며 논리적 결함이 있는 코드를 작성할 수 있지만, 테스트에 통과했기 때문에, 모델은 자신이 제대로 학습했다고 생각한다.

다른 하나는 프로세스 감독(Process Supervision)이라 불리며, 추론 경로의 각 단계에 점수를 매긴다. 위의 프로세스 신호는 코딩 에이전트의 실행 환경에서만 생겨난다. GitHub 저장소에는 결과만 있을 뿐이다. 개별 커밋 기록이나 PR을 살펴봐도, 유효한 프로세스 신호는 찾을 수 없다.

효과적이고 자동으로 확보할 수 있는 프로세스 신호가 부족할 때, 일부 모델 벤더는 "증류(Distillation)"라 불리는 기법을 사용한다. 이는 이미 알려진 사실일 것이다.

증류의 로직은 단순하다. 같은 입력에 대해, 교사 모델(Teacher Model)이 출력하는 것을 학생 모델(Student Model)이 학습한다.

그러나 증류를 통해 얻는 것은, 결과에 가깝고, 증류된 교사 모델의 내부 확률 분포와 다른 사고의 사슬(Chain of Thought)이다.

학생이 추론 중 교사의 궤적에서 이탈하면, 하나의 토큰이 일치하지 않더라도 이탈이 발생할 수 있다.

이에는 강화학습의 근본적인 제약이 있다. 정책 경사 정리(Policy Gradient Theorem)는 최적화 샘플이 현재 최적화되고 있는 모델 자체에 의해 생성되는 것이 최적임을 요구한다. 이 데이터를 on-policy 데이터라 한다. 다른 제품에서 생성된 데이터를 자신의 모델 핛련에 사용하면 off-policy 데이터가 된다. 모델은 거기서 배울 수 있지만, 교사 모델의 내부 확률 분포 정보를 배울 수는 없다.

Cursor처럼 자체 코딩 에이전트 제품을 보유한 기업은 가장 현실적이고 효과적인 고품질 핛련 데이터를 보유하고 있다. Cursor 제품 자체가 코딩 모델에게 실전 환경 최고의 핛련장이다.

Cursor의 연초 "실패"를 통해 이 로직을 증명할 수 있다.

APP SO의 독자들은 Cursor가 Composer 2를 출시하며 "차세대 전용 프로그래밍 모델"이라고 선전했음을 기억할지 모르겠다. 기술 리포트는 자세하지 않았고, 구체적인 모델 기반 정보는 제공되지 않았다.

그 직후, 개발자 커뮤니티에 Kimi의 모델 ID가 포함된 코드 스니펫이 퍼졌고, Cursor의 부사장 Lee Robinson씨가 해명할 수밖에 없었다. "Composer 2는 오픈소스 기반으로 시작됩니다. 최종 모델의 약 4분의 1의 연산 능력이 기반에서 오고, 나머지 4분의 3은 자체 핛련된 것입니다." 몇 시간 후, Cursor의 공동 창업자 Aman Sanger도 사과의 말을 보탰다. "Kimi 기반에 대해 처음에 말씀드리지 않은 것은 잘못이었습니다."

5일 후, Cursor는 완전한 Composer 2 기술 리포트를 공개했으며, 기반은 Kimi K2.5이고, 라이선스 제공자는 Fireworks AI임을 밝혔다. 대략적인 흐름은 K2.5로 핛련을 진행하고, 대규모 강화학습(RL)을 계속하는 것이다.

그러나 중요한 것은, Composer 2의 RL이 실제 Cursor 세션에서 실행되며, 프로덕션 환경과 완전히 동일한 도구와 하네스를 사용한다는 점이다. Cursor는 이 과정을 "실시간 강화학습(Real-time RL)"이라 부르며, 모델의 체크포인트를 Cursor의 생산 환경에 직접 배포하고, 사용자의 응답을 관찰하며, 데이터를 수집하고 보상 신호를 통합한다. 가장 빠르게 모델 버전을 5시간마다 반복하여 Cursor에 배포하고, 다시 반복한다.

가장 뛰어난 사례는 Cursor의 자동 코드 완성 기능 Tab으로, 매일 4억 건이 넘는 요청을 처리한다. 사용자가 글자를 입력하거나 커서를 이동할 때마다, 모델은 다음 동작을 예측한다. 예측 확신도가 높으면 제안을 표시하고, 사용자가 Tab 키를 누르면 자동 완성을 수용한다.

이 기능은 온라인 강화학습(Online Reinforcement Learning)을 채택하며, 업계에서 매우 독특하다. Cursor는 매우 높은 빈도(가장 빠르게 30분~2시간 간격)로 Tab 모델의 능력을 사용자에게 업데이트하고, 제품 내에서 on-policy 데이터를 수집하여 핛련할 수 있다.

이 고빈도 거의 실시간의 피드백 루프 덕분에 Tab은 매우 미묘한 사용자의 의도를 학습할 수 있다. Cursor는 이 방법으로 Tab으로부터의 제안 거부율이 21% 감소하고, 수용률은 28% 증가했다고 밝혔다.

Composer 모델 자체로 돌아와서, 문제가 명확해진 후 일부 Kimi 직원은 이전 불만을 표출한 트윗을 삭제했고, Kimi의 공식 계정은 축하했다.

600억 달러의 평가액(머스크가 제시한 금액 기준)을 가지고, 독자적 모델 기반을 갖지 않는 코딩 에이전트 애플리케이션 기업의 데이터 흐름은 여전히 성공적이다.

따라서 Cursor가 실패했다기보다는, 코딩 에이전트 제품의 중요성을 보여주는 절호의 사례라고 할 수 있다.

Cursor는 실시간 RL에 관한 다른 기사에서 다음과 같이 썼다. "(프로그래밍 모델 핛련에서) 가장 큰 어려움은 사용자 모델링입니다. Composer의 프로덕션 환경에는 컴퓨터를 실행하는 것뿐 아니라, 그것을 감독하고 이끄는 사람도 있습니다. 컴퓨터를 시뮬레이션하는 것은 쉽지만, 그것을 사용하는 사람을 시뮬레이션하는 것은 어렵습니다."

이 문장은 프로그래밍 모델 분야에서 최첨단을 걷는 모델 벤더들 사이에서 점차 합의되어 가고 있다. 벤치마크 순위와 일반 사용자 평가를 보면, 어떤 대형 벤더가 사용자에게 가장 가까운지 확인할 수 있다.

SWE-bench, LLM-Stats 등 비교적 권위 있는 순위의 예로, Claude, GPT, Gemini, Kimi 등의 모델은 모두 자체 코딩 에이전트 제품(CLI, IDE, 코딩 에이전트 통합 데스크톱 클라이언트 포함)을 개발한 벤더들이 상위 10위를 독식하고 있다.

일부 순위에서는 Meta(Muse Spark), DeepSeek 등의 예외가 보이지만, 이들은 독자적인 코딩 에이전트를 개발하지 않았다.

그러나 더 현실적인 시나리오, 오염을 피하기 위한 더 권위 있는 벤치마크에서는, 이러한 예외적인 모델이 상위 순위에 들기 어렵다는 것을 알 수 있다. 예를 들어 DeepSeek의 경우, SWE-bench bash only에서 70점을 얻어 9위에 올랐지만, SWE-bench Pro에서는 15% 전후의 점수에 그친다.

OpenRouter의 실제 트래픽 데이터는 이 차이를 설명할 수 있다. 해당 플랫폼의 2025년 보고서에 따르면, Claude의 토큰 소비량의 80% 이상이 프로그래밍 및 기술 작업에 사용되는 반면, DeepSeek의 토큰 소비량의 대부분은 채팅과 롤플레이잉에 집중되어 있다.

자체 코딩 제품을 보유하지 않은 벤더는 일부 코딩 작업 벤치마크에서 정상에 오를 수 있지만, 더 어려운 실제 엔지니어링 벤치마크에서는, 사용자가 토큰을 소비하는 투표인 실제 트래픽에서 그 진가가 드러난다.

Cursor뿐만 아니라, Anthropic도 2025년 11월 발표한 논문에서 같은 일을 하고 있음을 밝혔다. "Anthropic 자사의 실제 생산 프로그래밍 환경에서 핛련을 진행하고 있습니다." 즉, Anthropic은 직원들이 Claude Code를 사용하는 상호작용 데이터를 Claude 모델 핛련에 사용하고 있다.

AI 진화 과정에서, 생산 요소의 정의는 크게 변해왔다.

전통적인 3대 요소 – 연산 능력(Computing Power), 연구(Research), 핛련 데이터(Training Data)는 전체적으로는 계속 증가하지만, 구조적으로는 심각한 불균형이 발생하고 있다.

오늘날 주요 AI 기업들은 연산 능력에 대한 자본 지출(CapEx)을 크게 늘리고 있으며, 연산 능력 기반이 현재 여론의 주요 테마가 되고 있다. 하지만 실제로는, 특히 프로그래밍 분야에서는, GitHub 저장소나 StackOverflow 같은 인터넷의 공개 코드 데이터가 기본 모델 벤더들에 의해 "竭澤而漁(연못을 말려 물고기를 잡다, 즉 소진적 활용)"되고 있으며, 모델이 코드 생성과 논리 추론의 한계점이 점차 명확해지고 있다.

이것이 업계의 컨센서스가 새롭게 부상하는 전략적 고지(Strategic High Ground)로 점차 이동하는 이유이다.

최고의 코드 능력을 장악하고 싶은 모델 벤더에게, 자체 코딩 에이전트 제품을 구축하는 것은 더 이상 선택적인 비즈니스 경로가 아니라, 기반 모델이 지속적으로 진화하기 위한 핵심적인 생명선이다.

앞서 APP SO가 논증했듯이, 공개 데이터만으로 학습하면 성공한 자의 결과만 배울 뿐, 성공으로 가는 길은 알 수 없다. 이것이 올바른 성공학이 되어서는 안 된다. 실제 프로그래밍 환경에서 무엇이 틀렸는지, 어떻게 틀렸는지, 그리고 요구사항을 어떻게 이해하고 효율적으로 실천하는지를 아는 것 – 올바른 프로세스의 가치를 이해하는 것이 올바른 결과를 얻는 것보다 훨씬 중요하다.

자체 코딩 제품을 가진 모델 벤더만이, 고품질의 "프로세스 감독" 신호를 확보하고, 코딩/추론 능력의 다음 단계 경쟁에서 기술적 해자(Technical Moat)를 지킬 수 있다 – 그렇지 않으면, SpaceXAI처럼, 코딩 에이전트 제품 기업에 돈을 주고 협력해야 한다. 그러나 모든 모델 벤더가 머스크처럼 부유한 것은 아니며, 2026년부터 시작되는 거대 기업의 세력권 분할, 동맹, 영토 분쟁은 격화될 것이다. 자체 코딩 제품을 보유하지 않은 모델 벤더가 마침내 깨달았을 때는, 충분한 파트너를 찾지 못하거나, 협력의 가격이 치솟을 수도 있다.

미국 모델 기업의 상황은 잘 알려져 있다. APP SO는 또한, 국내 주요 모델 벤더와 AI 거대 기업 대부분이 코딩 에이전트 제품을 배치하고 있음을 발견했다.

국내 거대 기업들은 주로 네이티브 AI IDE 또는 IDE 플러그인 방식으로 접근하고 있다. 바이트댄스(字节跳动)는 작년 초부터 TRAE, 알리바바의 Qoder, 텐센트의 CodeBuddy, 바이두의 원심쾌마(文心快码) Comate 등을 배치했다.

AI 소규모 기업 중에서는, 월지암면(月之暗面, Moonshot AI)이 가장 먼저 독자적인 코딩 에이전트 제품인 CLI 인터페이스의 Kimi Code를 개발했다.

또 다른 구현 방법은, 모델 벤더가 API 서비스와 코딩 플랜을 직접 제공하는 것이다. 이 경우, 사용자가 어떤 AI 개발 환경을 사용하든, 모델 벤더는 서버 측 API 기록을 통해, 가능한 한 네이티브 코딩 제품에 가까운 프로세스 데이터를 확보할 수 있다.

그러나 이는 근사치에 불과하며, 완전히 동일하지는 않다. 핵심은, 서버사이드 API의 요청-응답 로그가 제품의 상호작용 궤적과 깊이 통합된 것과 비교하면, 아직 큰 격차가 있다는 것이다.

자체 제품을 구축한 벤더(Cursor, Claude 데스크톱, Codex 등)는 가장 직접적이고 명확한 피드백 신호를 가지며, API 측은 비교적 모호한 간접적 추측이다. 간단히 말해, API 측은 사용자의 요청과 응답을 볼 수 있지만, 사용자가 최종적으로 이 코드를 채택했는지, 코드가 실행 가능한지, 어떤 버그가 발생했는지에 대해서는 모른다. 그들은 사용자의 최종 행동이라는 중요한 레이블을 이해할 수 없어, 최고 품질의 강화학습을 실현할 수 없다.

형식적으로 말하면, 언어는 세계이며, 코드는 해결책이다. 코드는 세계의 거의 모든 작업을 표현할 수 있고, 코드는 가장 큰 증폭기(Amplifier)가 되어, 최고 수준 인재의 생산성을 몇 배로 끌어올린다.

최고의 코딩 모델만이 최고의 인재를 얻을 가치가 있다. 대형 모델 벤더가 코딩을 중시하지 않으면, 최상위권에서 탈락할 것이다.

물론, 실제로 모든 모델 벤더가 코딩을 중시하지 않는 것은 아니다 – 오히려, 새로운 패러다임 아래에서는, 자체 네이티브 코딩 에이전트 제품을 보유하지 않은 기업이 점차 제품을 보유한 기업에게 뒤처질 가능성이 높다는 것이다.

바로 최근, MiniMax도 데스크톱 클라이언트 제품의 큰 업데이트를 발표했다. 코딩 작업 지원도 크게 개선한다.

직후, 5월 15일, 알리바바가 Qoder를 정식 출시했다 – 이 제품은 IDE 형태에서 완전한 에이전트 제품(알리바바 공식 명칭: 지능형 에이전트 개발 워크벤치)으로 정식 업그레이드되었다.

동시에, xAI의 Grok Build CLI도 마침내 정식 출시되었다.

그렇다, xAI가 연초에 Anthropic과 Cursor에 의해 "계정 정지"를 당한 후, 그들이 스스로 만든 코딩 에이전트이다.

더 이상 당장 사용할 수 있는 사례가 늘었다.

Cursor, Codex, Claude의 데스크톱이 올바른 길을 가고 있다고 모두가 생각하는 것 같다.

코딩에서 에이전트 자체로话题를 확장해도, 상황은 마찬가지다.

공개 코퍼스에서는 코딩 작업의 궤적 데이터는 아직 찾을 수 있다(예: GitHub의 커밋 기록/PR이지만, quality는 높지 않다). 그러나 에이전트 작업의 궤적 데이터(마우스 이동과 클릭, 터치 스크린 조작, 입력 필드 입력 등)는 공개 코퍼스에서는 찾을 수 없다.

그래서, 비록 비용이 많이 들지 않는 브라우저 플러그인이라도, 대부분의 모델 벤더가 자체적으로 구축하는 것을 볼 수 있다.

OpenAI는 2025년 1월 Operator를 출시했다. 이를 "AI에 의한 브라우저 자동 조작"이라 부를 수 있지만, 본질적으로는 대규모 데이터 수집 장치이다. Operator를 체험한 모든 사용자는 무료로 OpenAI에 on-policy 데이터를 제공한 것이다.

이후 OpenAI는 ChatGPT Agent와 새로운 Codex 데스크톱 클라이언트를 파생시켰다. Anthropic도 마찬가지로, 최근 Kimi는 WebBridge라 불리는 Project를 조용히 시작했다. 이는 브라우저 플러그인이다.

지난 2년간 거의 행동을 삼가했던 중국 모델의 거대 기업 DeepSeek(深度求索)조차 최근 에이전트에 대한 관심을 보이기 시작했다. CEO 량원펑(梁文锋)씨는 이전 인터뷰에서 다음과 같이 말했다.

"수학과 코드는 AGI의 자연적인 실험장이며, 바둑과 같은, 폐쇄적이고 검증 가능한 시스템으로, 자기 학습을 통해 높은 지능을 달성할 수 있는 가능성이 있습니다."

이 말의 의미는, DeepSeek가 항상 코딩과 에이전트를 연구 실험장으로 여겨왔지, 상업화의 방향으로는 보지 않았다는 것이다.

그러나 올해 3월, DeepSeek는 10개 이상의 에이전트 관련 채용을 한꺼번에 시작했고, 처음으로 에이전트(방향성) 모델 전략 제품 매니저 등의 포지션을 모집했다. 구인 내용에는 "Anthropic의 Claude Code나 Manus 등을 깊이 사용"해야 한다는 요구사항이 포함되어 있었다.

APP SO는, DeepSeek가 최근 에이전트 제품 매니저나 하네스 제품 매니저 등의 직종을 모집하고 있음을 발견했다. 분명히, DeepSeek는 독자적인 네이티브 코딩/에이전트 제품을 구축하고 싶어 한다.

이전 자료에 따르면, DeepSeek V3.2의 핛련 과정에서 약 2,000개의 합성 에이전트 핛련 환경과 8만 건이 넘는 복잡한 지시가 도입되었다. 그러나 합성 데이터만으로는 DeepSeek를 이끌 수 있는 한계가 있는 것으로 보인다. 합성으로는 얻을 수 없는 부분은, 실제 환경에 있는 실제 사용자의 진정한 성공과 실패이며, 자사의 에이전트 제품을 보유함으로써만 얻을 수 있다.

DeepSeek는 매우 절제된 방식으로 3년간 모델과 모델 제품을 개발해 왔다. 하지만 오늘날, 코딩 작업에서 SOTA(최첨단 성능)를 획득하기 어려워지고 있으며, 이전에 획득해도 금방 추월당한다.

연구에 의존하는 접근법이 더 이상 버텨내지 못하자, DeepSeek는 행동을 취했다.

마지막으로, 서두의 이야기로 돌아가자.

The Information의 정보통에 따르면, 머스크의 600억 달러 인수/100억 달러 공동작업 제안을 받고, Cursor는 xAI와의 새로운 모델 개발에는 협력하지 않고, 자사 Composer 모델의 최적화에 집중할 것이라고 말했다.

이는, 비록 머스크에게 인수되더라도, Cursor는 데이터 흐름의 주체성을 유지하고 싶어한다는 의미일 수 있다.

데이터의 귀속(Ownership)야말로 가장 중요한 숨겨진 쟁점 포인트이다.

모든 탑 모델 벤더가 자체 제품을 구축하고, 모든 탑 제품이 자체 모델을 핛련하게 되면서, "모델 기업"과 "제품 기업"의 경계는 점점 흐려지고 있다...

이 쟁점은 이제 막 시작되었을 뿐이다.