AI 개발자들이 자사 코딩 에이전트를 구축해야 하는 이유: 데이터 플라이휠과 프로세스 감독의 중요성

1. xAI와 Cursor의 전략적 제휴가 보여주는 것

OpenAI의 라이벌인 Anthropic과 일론 머스크는 과거에 격렬히 대립했습니다. 머스크는 X(구 트위터)에서 Anthropic을 '워크(woke)'하고 '반인간적'이라고 비판했죠. 하지만 최근 상황이 급변했습니다.

배경에는 xAI 내부의 절박한 문제가 있었습니다. 원래 xAI의 개발자들은 Cursor를 사용했지만, 올해 초 Anthropic의 정책 변경으로 Cursor를 통해 Claude 모델을 사용할 수 없게 됐습니다. xAI의 공동 창업자 우위후이는 전체 이메일에서 "이것은 나쁜 소식이지만, 동시에 좋은 소식이기도 합니다. 우리가 독자적인 코딩 제품과 모델을 개발하도록 촉진하기 때문"이라고 언급했습니다.

이후 SpaceX와 Cursor는 전례 없는 전략적 제휴를 발표했습니다. SpaceX가 Cursor를 600억 달러에 인수할 권리 또는 100억 달러의 제휴 비용을 지불하는 거대한 딜이죠. 여기서 핵심은 이 제휴의 중심이 '프로그래밍'에 있다는 점입니다.

2. 왜 100억 달러의 가치가 있는가: 에이전틱 루프(Agentic Loop)의 데이터

Cursor의 초기 투자자인 테오 브라운은 100억 달러라는 금액에 대해 "Cursor의 사용자 데이터를 확보할 수만 있어도 충분한 가치가 있다"고 분석했습니다.

AI와의 대화에서 사용자의 프롬프트, 모델의 사고, 에이전트의 계획, 코드 출력, 그리고 검증이라는 일련의 흐름을 '에이전틱 루프(Agentic Loop)'라고 합니다. 이 고품질의 루프 데이터는 강화 학습(Reinforcement Learning, RL)에서 극히 가치 높은 훈련 데이터가 되어 실전 성능을 향상시킵니다.

모델 벤더가 진정 강력한 코딩 모델을 구축하고자 한다면, 자사 코딩 에이전트 제품을 갖추는 것이 유일한 방법입니다. 자사 제품이 없으면 고품질의 강화 학습 데이터를 얻을 수 없고, 실전 능력이 높은 모델을 훈련시킬 수 없기 때문입니다.

3. '결과 감독(Outcome Supervision)'에서 '프로세스 감독(Process Supervision)'으로

GitHub의 방대한 코드로 학습하면 분명 코딩 모델을 만들 수 있습니다. 이는 '학습 결과'에 기반한 접근법으로, 코드가 작동하는지 여부로 검증할 수 있습니다. 하지만 결과에 이르는 '의사 결정', '오류 수정', '의도 정렬'이라는 복잡한 프로세스가 더 중요합니다.

강화 학습에는 두 가지 감독 방식이 있습니다:

• 결과 감독 (Outcome Supervision): 최종적으로 코드가 작동했는지만 봅니다. 하지만 이는 '보상 해킹(reward hacking)'을 초래하여, 장황하고 취약한 코드라도 테스트를 통과하면 정답으로 간주될 위험이 있습니다.
• 프로세스 감독 (Process Supervision): 추론 경로의 각 단계에 점수를 매깁니다. 이 신호는 코딩 에이전트의 실행 환경에서만 얻을 수 있습니다.

GitHub 저장소에는 '결과'만 있고, '프로세스' 신호는 존재하지 않습니다. 다른 모델에서 '증류(distillation)'를 하더라도, 생각의 사슬(chain of thought, CoT)은 얻을 수 있지만, 이는 결과에 가까운 것으로, 모델 내부의 확률 분포를 완전히 모방할 수 없습니다. 이는 최적화 샘플이 현재 모델 자체가 생성해야 한다는 '온-폴리시 데이터(on-policy data)'의 중요성에 기반합니다.

4. Cursor의 '실시간 RL(real-time RL)' 전략

Cursor가 출시한 'Composer 2'는 킴미 K2.5(Kimi K2.5)를 기반으로 했지만, 그 성능의 상당 부분은 자사가 실시한 대규모 강화 학습 덕분입니다. Cursor는 실제 사용자 세션 내에서 RL을 실행하는 '실시간 RL'을 채택하고 있습니다. 모델의 체크포인트를 프로덕션 환경에 배포하고, 사용자 반응을 수집해 보상 신호로 변환하며, 최소 5시간마다 모델을 업데이트하는 사이클을 돌리고 있습니다.

특히 자동 완성 기능 '탭(Tab)'에서는 하루 4억 건 이상의 요청을 처리하며, 극히 높은 빈도로 온-폴리시 데이터를 수집해 학습합니다. 그 결과, 제안 거부율이 21% 감소하고, 수용율이 28% 향상되었습니다. 기초 모델을 자사로 보유하지 않더라도, 제품 수준에서 데이터 플라이휠(data flywheel)을 가동함으로써 기초 모델을 뛰어넘는 전용 모델을 구축할 수 있음을 증명한 셈입니다.

5. 산업의 추세: 제품으로의 회귀

SWE-bench 등 권위 있는 벤치마크 상위를 차지하는 Claude, GPT, Gemini, 킴미 등의 모델 벤더는 예외 없이 자사 코딩 에이전트 제품(CLI, IDE, 데스크톱 앱)을 전개하고 있습니다. 대조적으로, 자사 제품이 없는 모델은 오염되지 않은 고난이도 실전 벤치마크에서 고전하는 경향이 있습니다. 예를 들어 딥시크(DeepSeek)는 일부 벤치마크에서 고득점이지만, 더 실전적인 SWE-bench Pro에서는 점수가 크게 떨어지는 것으로 보고되었습니다.

Anthropic도 2025년 11월 논문에서 자사 직원이 Claude Code를 사용하는 상호작용 데이터를 모델에 피드백하고 있음을 밝혔습니다.

6. 에이전트 능력 전반에 대한 응용

이 추세는 코딩 외의 에이전트 태스크에서도 마찬가지입니다. 마우스 조작이나 화면 조작 같은 궤적 데이터는 공개 데이터에 존재하지 않습니다. 따라서 OpenAI의 'Operator'나 킴미의 'WebBridge' 같은 브라우저 플러그인은 단순한 기능 제공이 아닌, 대규모 온-폴리시 데이터 수집 장치로의 측면을 갖고 있습니다.

그동안 연구 중심 자세를 견지해 온 딥시크조차 최근 에이전트 방향의 모델 전략 프로덕트 매니저를 모집하며, 독립적인 네이티브 에이전트 제품 개발에 나서고 있습니다. 합성 데이터의 한계가 보이고, 현실 환경에서의 '성공과 실패'라는 실데이터가 필요해졌기 때문으로 풀이됩니다.

7. 결론: 모델과 제품의 경계 소멸

Cursor가 머스크의 인수 제안을 받아들여도 자사 Composer 모델의 최적화에 집중하겠다는 의사를 밝힌 것은, 데이터 플라이휠의 주체성을 유지하기 위해서일 것입니다. 데이터의 소유권이야말로 최대의 전략적 포인트입니다.

더 이상 '모델 개발 회사'와 '제품 개발 회사'의 경계선은 사라지고 있습니다. 최고 수준의 코딩 능력을 유지하려는 모델 벤더에게 자사 제품 개발은 단순한 비즈니스 플랜이 아닌, 모델을 지속적으로 진화시키기 위한 유일한 생명선이 되고 있습니다.