칭화대 팀, AI 에이전트 OS 'PilotDeck' 오픈소스 공개... 토큰 비용 최대 70% 절감


칭화대 THUNLP 연구실, 면벽지능(面壁智能), OpenBMB, AI9stars가 공동 개발한 AI 에이전트용 운영체제 'PilotDeck'이 오픈소스로 공개되었다. 독립적인 워크스페이스(WorkSpace) 구축, 시각화 및 편집 가능한 메모리 관리, 그리고 대폭적인 토큰 비용 절감을 실현하여 개인의 생산성을 극대화하는 AI 에이전트 군단 구축을 가능하게 한다.


서로 다른 태스크를 동시에 처리하는 멀티 워크스페이스
PilotDeck을 활용해 게임 개발과 데이터 시각화라는 전혀 다른 두 가지 워크스페이스를 동시에 실행해 보았다.
첫 번째 워크스페이스에서는 "매입, 가격 설정, 대기열 시스템을 갖추고, 고객이 가격과 평판을 바탕으로 구매를 결정하는 타피오카 가게 경영 시뮬레이션 게임을 만들어 달라"는 프롬프트를 입력했다. PilotDeck은 게임 디자인의 핵심 사이클을 분해하고, 5종의 제품 라인, 매입·가격 설정·고객·재무 등의 시스템을 설계했다. 기술 구현 측면에서도 카드 스타일의 UI 레이아웃, 핵심 JavaScript 모듈, 구현 단계를 미리 구축했다.

그 결과, 온라인에서 바로 플레이 가능한 타피오카 가게 경영 게임이 생성되었다.
두 번째 워크스페이스에서는 "전 세계 AI 기업의 투자 유치 데이터를 활용해 애니메이션 효과가 있고, 호버 시 상세 정보를 보여주는 인터랙티브 데이터 시각화 대시보드를 만들어 달라"는 태스크를 실행했다. PilotDeck은 투자 유치 금액 TOP 10, 지역별(북미/유럽/아시아) 비율, 섹터별(범용 AI/기업용 AI/생성형 AI) 분포 등 4개의 차트를 통해 데이터를 명확하게 시각화했다.

또한 "프로그래머 성격 진단 테스트(10문항)" 제작도 동시에 진행했다. GitHub 다크 테마와 JetBrains Mono 폰트를 적용한 테크 느낌의 디자인으로, 아키텍트나 철학자 등 6가지 인격 유형을 정의한 애플리케이션이 생성되었다.

이러한 태스크들은 모두 독립적인 워크스페이스에서 실행되어 서로 간섭하지 않고 병렬로 처리되었다.

폴더 격리를 넘어선 '생존 환경'으로서의 워크스페이스
PilotDeck은 단순한 파일 격리가 아니라, AI 에이전트에게 완전한 '생존 환경'을 구축한다.

타피오카 가게 프로젝트의 메모리에는 게임 로직과 UI 스타일이 저장되고, 데이터 대시보드 프로젝트에는 차트 종류와 배색안이 저장된다. 두 프로젝트의 기억이 섞이는 일은 없다.

많은 도구들이 "폴더 + 규칙" 방식의 격리를 수행하지만, PilotDeck의 워크스페이스는 다음과 같은 3계층 구조를 갖는다.
- 전용 파일 시스템: 프로젝트에 속하는 파일과 AI가 생성한 파일의 경계를 명확히 한다.
- 전용 메모리: 프로젝트의 정의와 진행 상황을 기록하는 'Project Memory'와 사용자의 선호도를 기록하는 'Collaboration Feedback'을 유지하며, 모두 시각화·편집이 가능하다.
- 전용 스킬: 스킬 스토어에서 워크스페이스로 직접 스킬을 설치할 수 있다(예: 게임 개발용 에셋 검색 도구, PDF 분석 도구 등).

인텔리전트 라우팅으로 토큰 비용 최대 75% 절감
에이전트 도구의 운영 비용을 절감하기 위해, PilotDeck은 독자적인 인텔리전트 라우팅(Intelligent Routing) 기능을 구현하고 있다.
기존 라우팅 방식의 대부분은 요청(request) 단위에서 모델을 전환하기 때문에 KV 캐시가 끊기고 추론 효율이 저하되는 문제가 있었다. PilotDeck은 라우팅을 '서브 에이전트(Sub-Agent)' 단위에서 수행한다. 복잡한 태스크를 분할한 후, 하나의 서브 에이전트를 특정 모델에 할당하여 완결함으로써 컨텍스트 캐시를 연속적으로 유지하고 성능 저하 없이 비용을 절감한다.
또한 라우팅 전략은 자연어 프롬프트로 정의할 수 있으며, "코드 관련은 Claude Opus, 텍스트 처리는 저렴한 모델"과 같은 유연한 지정이 가능하다.
실제 테스트에서는 프로그래머 성격 진단 앱 제작 시, 라우팅 미적용 시 10.97달러가 소요된 반면 라우팅 적용 시 1.42달러로 억제되어 약 75%(9.55달러)의 비용 절감을 달성했다.

다른 시나리오에서도 높은 절감 효과가 확인되었다:
- SNS 콘텐츠 생성: 12.58달러(미적용) → 2.83달러(적용), 약 70% 절감.
- 복잡한 태스크(금융 분석·코드 문서 등): 단일 Sonnet 4.6(18.36달러 / 점수 69.1) 대비 Sonnet 4.6과 MiniMax-M2.7 조합(3.15달러 / 점수 70.6)으로, 비용을 1/6로 줄이면서도 정확도를 향상시켰다.
아울러 로컬 모델을 서브 에이전트로 연결할 수 있어 기밀 데이터를 기기 밖으로 내보내지 않고 처리할 수 있다. 필요에 따라 단말 모델을 자동 배포하여 음성 생성 등 특정 태스크를 처리하게 할 수도 있다.

화이트박스화된 메모리 관리와 'Dream' 메커니즘
PilotDeck의 메모리 패널에서는 각 기억에 타임스탬프, 소스 경로, 타입이 부여되어 AI가 무엇을 언제 기억했는지 명확히 파악할 수 있다.

기억에 오류가 있으면 직접 수정할 수 있고, 불필요한 기억은 삭제 가능하다. 이를 통해 대화를 리셋하거나 선호도를 재학습시킬 필요가 없어진다.
또한 'Dream'이라는 메커니즘을 탑재하고 있다. AI가 유휴 시간에 백그라운드에서 기억을 자동으로 회고하고 정리한다. 만약 정리 결과에 문제가 있으면 버튼 하나로 정리 이전 상태로 롤백할 수 있다.

GitHub: https://github.com/OpenBMB/PilotDeck 공식 사이트: https://pilotdeck.openbmb.cn/

로딩 중...