Thinking Machines Lab오픈소스

Inkling

Name: Inkling
Author: Thinking Machines Lab

이 모델 비교

Thinking Machines Lab의 추론 모델입니다.

공유:X Hatena LINE

파라미터

Undisclosed

컨텍스트

라이선스

Apache 2.0

출시일

2026-07-15

일본어 처리 능력

🌐Multilingual

General multilingual model. Basic Japanese processing is possible, but inferior to specialized models.

API 가격

입력 가격 (1M 토큰당)

$3.74

출력 가격 (1M 토큰당)

$9.36

과금 모드: standard

강점

약점

활용 사례

심층 분석

Total/Active Parameters

975B/41B

전문가 혼합(Mixture-of-Experts) 구조

Context Window

1M tokens

오픈웨이트로 제공

SWE-Bench Verified

77.6%

Nemotron 3 Ultra 대비: 70.7%

GPQA Diamond

87.2%

강력한 과학 추론

VoiceBench

91.4%

오픈웨이트 중 최상위 오디오 성능

Input Price (64K ctx)

$1.87/1M

Tinker API 기준

FORTRESS Adversarial

78.0%

오픈웨이트 중 최고 안전성

강점

・통합 아키텍처로 텍스트·이미지·오디오를 아우르는 네이티브 멀티모달 추론
・정밀한 비용-성능 최적화를 위한 제어 가능한 사고 노력(0.2~0.99)
・우수한 토큰 효율성과 함께 강력한 에이전트 및 코딩 역량
・무제한 기업 커스터마이즈와 배포를 가능케 하는 Apache 2.0 라이선스
・오픈 모델 중 유해 질의 거부율이 최고 수준인 탄탄한 안전 프로필

약점

・사실성 점수(SimpleQA 43.9%)가 GPT-5.6 Sol(71.6%) 같은 주요 폐쇄형 모델에 크게 뒤처짐
・방대한 하드웨어 요구사항(BF16 기준 2TB VRAM)이 접근 가능한 로컬 배포를 제한
・최고 수준 추론(HLE 텍스트 전용 29.7%)이 GLM 5.2(40.1%) 같은 특화 모델에 밀림
・창의적 글쓰기와 정교한 지시 따르기는 프런티어 폐쇄형 모델에 뒤처짐

경쟁사 비교

Model	Arena	SWE	GPQA	Price
GLM 5.2	N/A	80.0%	89.5%	Open Weights
DeepSeek V4 Pro	N/A	80.6%	88.8%	Open Weights
Claude Fable 5 (max)	N/A	95.0%	92.6%	Closed Weights
GPT-5.6 Sol (xhigh)	N/A	82.2%	94.1%	Closed Weights

개요

Inkling은 Thinking Machines Lab의 첫 오픈웨이트 파운데이션 모델로, 벤치마크 압도보다는 커스터마이즈에 최적화된 폭넓고 균형 잡힌 범용 모델입니다. 희소 MoE(전문가 혼합) 구조로 전체 파라미터 975B(활성 41B)를 가지며, 인코더 없는 통합 설계로 텍스트·이미지·오디오를 네이티브하게 처리합니다. 이 모델의 핵심 혁신은 제어 가능한 사고 노력으로, 개발자가 추론 예산을 0.2에서 0.99까지 조절해 성능과 토큰 비용·지연 시간을 정밀하게 균형 맞출 수 있습니다. 기업 파인튜닝을 위한 실용적 멀티모달 파운데이션으로 포지셔닝된 Inkling은 추론·코딩·안전 벤치마크에서 경쟁력 있는 성능을 보이되 최첨단은 아니며, 네이티브 멀티모달·토큰 효율성·진정한 오픈소스 라이선스(Apache 2.0)라는 고유한 장점을 제공합니다. 에이전트 워크플로에서 탁월하며 미국 연구소가 낸 선도적 오픈웨이트 모델이지만, 순수 추론에서는 중국 특화 오픈 모델에, 최고 성능에서는 상위 폐쇄형 모델에 뒤처집니다. 이 릴리스는 프런티어 규모만 좇는 것이 아니라 커스터마이즈 가능하고 효율적이며 신뢰할 수 있는 AI 시스템 구축에 집중하는 Thinking Machines의 방향을 보여줍니다. 모델은 자사 Tinker 플랫폼을 통한 즉시 파인튜닝이 가능하며, HuggingFace에 전체 가중치가 있고 주요 추론 제공업체와 배포 파트너십이 맺어져 있습니다.

벤치마크 및 성능

Inkling delivers a strong, balanced performance profile across diverse benchmarks at effort=0.99: ### Reasoning & Knowledge - **HLE (text-only):** 29.7% (vs. GLM 5.2: 40.1%, Claude Fable 5: 53.3%) - **HLE (with tools):** 46.0% (vs. Kimi K2.6: 54.0%, Gemini 3.1 Pro: 51.4%) - **AIME 2026:** 97.1% (vs. GPT-5.6 Sol: 99.9%, DeepSeek V4 Pro: 96.7%) - **GPQA Diamond:** 87.2% (vs. GPT-5.6 Sol: 94.1%, Kimi K2.6: 91.1%) ### Agentic Coding - **SWE-Bench Verified:** 77.6% (vs. Nemotron 3 Ultra: 70.7%, DeepSeek V4 Pro: 80.6%) - **Terminal Bench 2.1:** 63.8% (vs. GLM 5.2: 82.7%, GPT-5.6 Sol: 89.5%) - **GDPval-AA v2 (Elo):** 1238 (vs. Kimi K2.6: 1190, Nemotron 3 Ultra: 1164) ### Multimodal - **MMMU Pro (Standard 10):** 73.5% (vs. Gemini 3.1 Pro: 82.0%) - **VoiceBench:** 91.4% (vs. Gemini 3.1 Pro: 94.3%) - **MMAU:** 77.2% (vs. Gemini 3.1 Pro: 82.5%) ### Factuality & Safety - **SimpleQA Verified:** 43.9% (vs. GPT-5.6 Sol: 71.6%, DeepSeek V4 Pro: 57.0%) - **FORTRESS (Adversarial):** 78.0% (vs. Nemotron 3 Ultra: 77.6%, DeepSeek V4 Pro: 36.0%) - **StrongREJECT:** 98.6% (vs. Kimi K2.5: 99.5%) The model achieves a 77.1% on BrowseComp with context management, demonstrating strong factual grounding when augmented with search. Its controllable thinking effort is a key differentiator, achieving equivalent performance to Nemotron 3 Ultra on Terminal Bench 2.1 with roughly one-third of the tokens.

상세 비교

### GLM 5.2 대(오픈웨이트 선두) - **성능:** GLM 5.2가 순수 추론(HLE 텍스트 40.1% 대 29.7%)과 에이전트 코딩(Terminal Bench 82.7% 대 63.8%)에서 앞섭니다. Inkling은 네이티브 멀티모달과 더 나은 토큰 효율성을 제공합니다. - **가격:** 둘 다 오픈웨이트. Inkling은 Tinker를 통해 입력/출력 100만 토큰당 $1.87/$4.68에 제공됩니다. - **용도:** 최대 추론·코딩 성능에는 GLM을, 멀티모달 애플리케이션과 비용 최적화 배포에는 Inkling을 선택하세요. ### DeepSeek V4 Pro 대(오픈웨이트 경쟁자) - **성능:** DeepSeek이 사실성(SimpleQA 57.0% 대 43.9%)과 코딩(SWE-Bench 80.6% 대 77.6%)에서 더 높습니다. Inkling은 수학 추론(AIME 97.1% 대 96.7%)과 안전성(FORTRESS 적대적 78.0% 대 36.0%)에서 앞섭니다. - **구조:** Inkling은 네이티브 멀티모달, DeepSeek V4 Pro는 제공 벤치마크상 텍스트 중심으로 보입니다. - **차별점:** Inkling의 제어 가능한 사고 노력은 DeepSeek에는 없는 정교한 비용 통제를 제공합니다. ### Claude Fable 5 대(폐쇄형 프런티어) - **성능:** Claude가 최고 난도 작업(SWE-Bench 95.0%, HLE 텍스트 53.3%)에서 압도적이나 폐쇄형이며 더 비쌉니다. - **가격:** Inkling은 대규모 기준 약 95% 저렴합니다(입력 $1.87 대 폐쇄형 기업 가격). - **역량:** Inkling은 대부분의 폐쇄형 모델에 없는 네이티브 오디오 처리를 제공합니다. Claude는 더 뛰어난 창의적 뉘앙스와 복잡한 지시 따르기를 갖추었습니다. - **포지셔닝:** Inkling은 통제된 배포가 필요한 기업을 위한 커스터마이즈 가능하고 비용 효율적인 대안입니다.

커뮤니티 평가

초기 반응은 기술적 탄성과 전략적 포지셔닝을 모두 보여줍니다. - **엔지니어링 찬사:** 연구자들은 풀스택 학습 노력을 칭찬합니다. Horace He(Thinking Machines)는 "모델을 출시하는 데는 마을 전체가 필요하며, 특히 오픈웨이트 모델은 더 그렇습니다. 전 과정을 처음부터 직접 수행하는 것은 이를 하는 모든 이에 대한 깊은 appreciation을 줍니다!"라고 적었습니다. - **생태계 통합:** Hugging Face의 Lysandre Jekinson은 추론 최적화를 강조했습니다. "모델의 causal Conv1D를 `causal-conv1d` 커널로 교체했습니다. 한 줄 변경으로 초당 토큰 +4%... 즉 전체 처리량 약 15% 향상입니다." - **오픈소스 환영:** 개발자들은 Apache 2.0 라이선스를 환영합니다. Tiezhen Wang은 "전체 975B, 활성 41B" 파라미터와 "네이티브 MTP 지원"을 오픈 커뮤니티의 승리로 강조했습니다. - **사용 사례 검증:** Tinker의 초기 도입자들은 도메인 특화 애플리케이션을 위한 파인튜닝을 탐색 중입니다. 릴리스 공지에서 시연된 "스스로 파인튜닝" 능력은 독특한 자기 개선 잠재력을 보여줍니다. - **전략적 포지셔닝:** 업계 관찰자들은 이 모델이 모든 대가를 치르며 최첨단을 좇기보다 "커스터마이즈 가능한 파운데이션" 제공업체로 Thinking Machines를 위치시킨다고 봅니다. 인식론과 검열 저항에 대한 집중은 모델 편향과 과도한 거부에 우려를 가진 사용자들과 공감합니다. - **벤치마크 검토:** 일부 커뮤니티 논의는 Inkling을 중국 오픈 모델과 비교하며, 미국 선두이긴 하지만 순수 추론에서는 GLM 5.2에 뒤처진다는 점을 지적합니다. 이는 연구소가 폭넓음과 멀티모달을 위해 의도한 트레이드오프로 인정한 바 있습니다.

활용 사례

1. **에이전트 코딩 어시스턴트:** Inkling은 비용과 지연 시간이 중요한 IDE 통합 코딩 에이전트에서 탁월합니다. 제어 가능한 사고 노력으로 단순 완성은 낮은 노력(최소 토큰)으로, 복잡한 디버깅은 높은 노력으로 처리합니다. SWE-Bench Verified 77.6%는 프로덕션 품질 코드 패치 생성에 적합합니다. 예: 개발자가 사유 코드베이스로 Inkling을 파인튜닝해 내부 API와 스타일 가이드를 이해하는 상황 인식 어시스턴트를 만듭니다. 2. **멀티모달 고객 지원 시스템:** 네이티브 오디오와 이미지 이해를 통해 오류 메시지 스크린샷을 처리하고, 고객 음성 통화를 전사하며, 제품 이미지를 분석하는 지원 봇 구축이 가능합니다. 예: 소매 기업이 손상된 물품 사진, 구두 불만, 주문 이력을 동시에 이해해 반품을 처리하도록 Inkling을 파인튜닝합니다. 3. **비용 민감형 연구 및 교육:** 조절 가능한 노력 수준의 강력한 추론 덕분에 단순 사실 질문부터 복잡한 문제 해결까지 아우르는 교육 도구에 이상적입니다. 예: 대학이 Inkling을 고정 예산 내에서 낮은 노력으로 기본 설명을, 높은 노력으로 단계별 상세 해법을 제공하는 조교로 배포합니다. 4. **커스텀 기업 지식 에이전트:** Apache 2.0 라이선스와 Tinker 파인튜닝을 통해 조직은 데이터를 외부로 내보내지 않고 독점 데이터를 통합한 특화 모델을 구축할 수 있습니다. 예: 로펌이 법률 문서로 Inkling을 파인튜닝해 데이터가 환경을 벗어나지 않고 판례·계약·컴플라이언스 자료에 대해 추론하는 연구 어시스턴트를 만듭니다. **대안보다 Inkling을 선택하는 경우:** - 데이터 프라이버시·커스터마이즈·비용이 우선순위일 때 폐쇄형 모델 대신 Inkling을 선택하세요. - 멀티모달·토큰 효율성·안전 균형이 중요할 때 GLM 5.2 같은 특화 오픈 모델 대신 선택하세요. - 스케일에서 폐쇄형 모델이 압도적일 때도 Inkling은 통제된 배포가 필요한 기업에 합리적인 대안입니다.