OpenBMB오픈소스

MiniCPM5-1B

Name: MiniCPM5-1B
Author: OpenBMB

이 모델 비교

OpenBMB 개발의 경량 고성능 모델. 1B 파라미터로 효율적인 추론을 실현합니다.

공유:X Hatena LINE

파라미터

10.8

컨텍스트

128K

라이선스

Apache 2.0

출시일

2026-05-01

일본어 처리 능력

🌐Multilingual

General multilingual model. Basic Japanese processing is possible, but inferior to specialized models.

API 가격

이 모델의 API 가격 정보는 현재 공개되지 않았습니다

강점

약점

활용 사례

심층 분석

파라미터

1.08B

Dense LlamaForCausalLM 아키텍처

Artificial Analysis 지능 지수

동급 오픈 가중치 모델 중 #2

컨텍스트 윈도우

131,072 토큰

128K 네이티브

라이선스

Apache 2.0

완전 오픈소스

가격(자체 호스팅)

$0.00

로컬 무료 실행

AIME 2025 (Thinking)

40.42

LFM2.5-1.2B 31.88 대비

강점

・1B급 모델 중 도구 사용, 코드, 추론 과제에서 최고 수준(SOTA) 성능
・동일 체크포인트로 Think/No-Think 하이브리드 추론 지원으로 배포 유연성 확보
・능가하는 추론 모델 대비 최대 31배 적은 출력 토큰으로 우수한 효율성

약점

・4B 이상 대형 모델 대비 일반 상식 지식과 지시 수행력이 제한적
・복잡한 과학 추론(예: GPQA Diamond)에서 성능이 뒤처짐
・고성능 하드웨어에서 대형 최적화 모델보다 생성 속도가 느림

경쟁사 비교

Model	Arena	SWE	GPQA	Price
Qwen3-0.6B/think	N/A	N/A	N/A	무료 (Apache 2.0)
LFM2.5-1.2B-Thinking	N/A	N/A	34.85	무료
Qwen3.5-0.8B/think	N/A	N/A	N/A	무료

개요

MiniCPM5-1B는 OpenBMB가 2026년 5월 Apache 2.0 라이선스로 공개한 10.8억 파라미터 dense 언어 모델이다. 1B급 오픈 가중치 범주에서 최고 수준(SOTA) 모델로 포지셔닝되며, 주된 강점은 에이전트 도구 사용, 코드 생성, 경쟁적 수학이다. 핵심 혁신은 크기보다는 사후 학습 방식에 있다. SFT, RL, On-Policy Distillation(OPD)의 3단계 파이프라인을 통해 수학·코드·QA용 전문 교사 모델을 학습시킨 뒤 하나의 모델로 증류하여, SFT-only 기준 대비 평균 +16점 향상과 과도하게 긴 비효율 응답을 크게 줄였다. 모델은 효율성과 온디바이스 배포를 위해 설계되었다. 표준 LlamaForCausalLM 아키텍처를 사용해 주요 추론 엔진(vLLM, SGLang, llama.cpp, Ollama 등)과 호환된다. 주요 특징은 하이브리드 추론 능력으로, `` 템플릿과 enable_thinking 파라미터로 토글되어 하나의 체크포인트가 빠른 대화형 비서와 신중한 추론기 모두로 동작한다. 128K 컨텍스트와 Q4 양자화 시 1GB 미만 크기로, 로컬 비서·코딩 에이전트·도구 사용 워크플로·자원 제약이 있는 엣지 환경에 명시적으로 맞춰져 있다. 벤치마크에서 AIME 수학과 τ2-Bench 에이전트 과제 등에서 Qwen3-0.6B, LFM2.5-1.2B 등을 크게 앞선다.

벤치마크 및 성능

MiniCPM5-1B는 2B 미만 오픈 모델 중 특정 추론·에이전트 벤치마크에서 급별 최고 성능을 보인다. OpenBMB가 LFM2.5-1.2B-Thinking, Qwen3-0.6B/think 등 강력한 기준 모델과 비교한 평가에 따르면 그 크기 범주에서 SOTA이다. **주요 벤치마크 비교 (Thinking 모드):** | 벤치마크 | MiniCPM5-1B | LFM2.5-1.2B | Qwen3-0.6B | Qwen3.5-0.8B | | :--- | :---: | :---: | :---: | :---: | | **AIME 2025** | **40.42** | 31.88 | 16.25 | 1.04 | | **AIME 2026** | **40.42** | 31.67 | 12.29 | 0.21 | | **MATH-500** | **91.60** | 89.00 | 72.60 | 30.40 | | **τ2-Bench Telecom** | **79.53** | 19.60 | 21.10 | 47.70 | | **IFEval** | 80.41 | **84.84** | 59.89 | 59.89 | | **BBH** | **71.89** | 57.32 | 47.86 | 54.58 | | **LiveCodeBench-v6** | **33.52** | 21.33 | 16.00 | 5.33 | *출처: OpenBMB MiniCPM GitHub README* Artificial Analysis 지능 지수(v4.1)에서 약 12점을 기록, 동급 오픈 가중치 모델 중 #2. BenchLM 잠정 리더보드에서 전체 34점(수학 37.0/100, 지식 39.8/100이 강점, 지시 수행 31.9/100이 약점)이다. RL+OPD 학습으로 인해 최대 토큰 예산에 도달하는 응답이 29%p 감소하여 프로덕션에서 토큰 효율이 매우 높다.

상세 비교

**대형 서브-2B/4B 모델(Qwen 3.5 4B, Phi-4 Mini, Gemma 3 4B) 대비:** MiniCPM5-1B는 절대적 범용 능력을 희생해 극단적 효율성과 크기를 얻는다. 4B급 모델이 폭넓은 지식과 지시 수행에서 앞서지만, 배포 공간(라즈베리 파이에서 구동), 지연시간, 토큰당 비용이 주된 제약일 때 더 나은 선택이다. 출력 토큰을 훨씬 적게 사용해 프로덕션에서 큰 비용·속도 이점이다. **유사 1B 추론 모델(LFM2.5-1.2B, Qwen3-0.6B) 대비:** 복잡 추론(AIME), 수학(MATH-500), 특히 에이전트 도구 사용(τ2-Bench)에서 이들을 크게 앞선다. 종종 훨씬 적은 출력 토큰을 생성하면서 이를 달성한다. 주된 트레이드오프는 일부 모델 대비 순수 과학 추론(GPQA)과 지시 수행이 약간 낮다는 점이다. **핵심 차별점:** * **크기·배포:** Q4 기준 약 0.7~1GB로 대형 모델이 올 수 없는 엣지 기기에서 구동 가능. * **학습 방식:** SFT→RL→OPD 파이프라인은 추론 효율을 실증적으로 개선하는 신규 접근. * **하이브리드 추론:** 내장 enable_thinking 토글로 하나의 모델로 유연한 배포. * **도구 호출:** SGLang을 지원하는 네이티브 XML 스타일 도구 호출로 에이전트 워크플로에 적합. * **가격:** 자체 호스팅 시 API 비용 없는 무료(Apache 2.0)로 최저 비용 옵션.

커뮤니티 평가

개발자·연구 커뮤니티는 독특한 학습 방식과 극단적 효율성에 큰 관심을 보였다. GitHub의 OpenBMB/MiniCPM 저장소는 약 1만 별을 모았다. Reddit(r/LocalLLaMA), Hacker News 등에서 1B 모델치고 인상적인 AIME, τ2-Bench 수치가 주목받았다. 개발자들은 라즈베리 파이 4/5, Jetson 등 엣지 하드웨어와 경량 RAG 사이드카, 로컬 코딩 비서로의 배포를 적극 탐색 중이다. RL+OPD 버전과 함께 공개된 SFT-only 체크포인트(MiniCPM5-1B-SFT)는 학습 기법 연구에 귀중한 자원으로 평가받는다. 'Desktop Pet' 데모는 로컬 LLM 역량의 창의적 전시로 여겨진다. 주된 도입 패턴은 지능보다 지연시간·비용·신뢰성이 부차적인 저자원 고처리량 시나리오이다.

활용 사례

1. **RAG(검색 증강 생성) 사이드카:** MiniCPM5-1B는 검색된 문서를 요약하고 그 컨텍스트만으로 질문에 답하는 로컬 모델로 이상적이다. 컨텍스트가 부족할 때 답변을 유보하는 신뢰성은 대형 모델의 자신감 있는 환각보다 가치 있다. 예: 애플리케이션과 함께 구동되며 클라우드 API로 데이터를 보내지 않는 비공개 문서 Q&A 봇. 2. **고처리량·저지연 에이전트 및 도구 호출기:** 모델의 역할이 사용자 의도 파악, 도구 선택, API 호출 포맷팅(스마트홈 비서, 자동화된 데이터 파이프라인, 고객 서비스 봇)일 때 속도·크기·네이티브 도구 호출 지원이 더 크고 느린 모델보다 우수하다. 예: 각각 로컬 에이전트로 명령을 처리하는 수천 대의 저전력 IoT 기기. 3. **자원 제약 엣지 배포:** 라즈베리 파이, 폰, 폐쇄망 산업 제어기 등에서 대화형으로 구동 가능한 드문 모델 중 하나. 예: 인터넷 없이 개발자 노트북에서 로컬 오프라인 번역·코드 조각 생성 도구. 4. **보일러플레이트·자동완성용 온디바이스 코딩 비서:** 복잡한 소프트웨어 아키텍처엔 적합하지 않지만, 일반 코드 패턴의 빠른 로컬 자동완성·보일러플레이트 생성기로 기본 작업의 클라우드 의존성을 줄인다. 예: 저RAM 머신의 경량 코드 에디터 통합.