OpenAI, 자체 설계 AI 추론 칩 'Jalapeño' 발표 — Broadcom과 공동 개발로 추론 인프라 판도 바꾼다
2026년 6월 24일, OpenAI와 Broadcom(나스닥: AVGO)은 OpenAI 최초의 자체 설계 AI 추론 가속기 **'Jalapeño(할라피뇨)'**를 공식 발표했다. LLM 추론에 특화 설계된 이 '인텔리전스 프로세서(지능형 프로세서)'는 AI 업계 인프라 스택에 지각변동을 예고한다.
Jalapeño란 무엇인가
Jalapeño는 OpenAI가 ChatGPT, Codex, API, 그리고 향후 에이전트 제품에서 매일 가동 중인 시스템의 운영 노하우를 바탕으로 처음부터 설계한 LLM 추론 전용 칩이다. 기존 범용 AI 가속기를 그대로 쓴 것이 아니라, 현재와 미래의 LLM 추론 요구에 맞춰 최적화된 제품이다.
주요 사양
| 항목 | 상세 |
|---|---|
| 칩명 | Jalapeño(할라피뇨) |
| 개발 파트너 | OpenAI + Broadcom + Celestica |
| 설계→양산 테이프아웃 | 9개월 (업계 최단 수준) |
| 주요 용도 | LLM 추론 (ChatGPT, Codex, API) |
| 테스트 워크로드 | GPT-5.3-Codex-Spark |
| 최초 배포 | 2026년 말 예정 |
| 규모 | 기가와트급 데이터센터 |
| 네트워크 | Broadcom Tomahawk 이더넷 |
설계 철학
OpenAI 하드웨어 부문의 Richard Ho는 "Jalapeño는 프론티어 AI 모델에 가장 중요한 커널, 메모리 이동, 네트워크, 서빙 패턴을 중심으로 최적화됐다"고 설명했다.
칩의 핵심 설계 철학은 세 가지다:
- 추론 특화: 범용 가속기가 아닌, LLM 추론의 메모리 병목과 지연 시간(latency)에 집중 최적화
- 풀스택 통합: OpenAI의 모델 노하우를 하드웨어에 직접 반영
- 다세대 로드맵: 이번이 첫걸음이며, 2029년까지 10GW 규모 확장을 계획
왜 중요한가
1. AI 추론 비용의 근본적 혁신
업계 추산에 따르면 1GW 데이터센터의 구축 비용은 약 500억 달러이며, 이 중 약 350억 달러가 칩에 투입된다(Nvidia 현행 가격 기준). OpenAI가 자체 칩을 확보하면 추론 비용을 대폭 절감할 가능성이 생긴다.
Sam Altman은 "거대한 컴퓨팅 인프라를 전 세계에 제공할 수 있다. 큰 효율성 향상으로 이어져 더 좋은 성능, 더 빠른 모델, 더 저렴한 모델 — 모두 실현 가능하다"고 말했다.
2. 하드웨어 주권 확보
"우리 칩을 만들면 운명을 직접 통제할 수 있다" — Altman의 이 말은 Nvidia 의존 탈피를 상징한다. OpenAI는 현재 약 2GW의 컴퓨팅 용량으로 운영 중이며, Nvidia·AMD·Broadcom과 합산 약 33GW의 컴퓨팅 계약을 이미 발표한 바 있다.
3. 자체 모델로 칩 설계 가속
Brockman은 "OpenAI의 모델을 활용해 칩 설계를 가속하고 효율성을 개선했다. 대규모 면적(area) 절감을 달성했다"고 밝혔다. 인간이 이미 최적화한 부품에 연산 역량을 집중 투입함으로써 모델 고유의 최적화가 가능해졌다는 설명이다.
Broadcom과의 협력 관계
이번 발표는 2025년 10월에 공개된 10GW 공동 개발 계획의 첫 구체적 결실이다.
- Broadcom: 실리콘 구현, 네트워크(Tomahawk), 연결 기술 제공
- Celestica: 보드, 랙, 시스템 통합 담당
- OpenAI: 칩 설계 및 아키텍처 주도
Hock Tan(Broadcom CEO)은 "이것은 다세대에 걸친 로드맵의 시작에 불과하다. 2026년 말부터 Microsoft 및 기타 파트너와의 기가와트급 데이터센터에 배포를 시작할 것"이라고 밝혔다.
업계에 미치는 영향
Nvidia에 대한 영향
Jalapeño 발표는 Nvidia의 AI 가속기 시장에 대한 정면 도전이다. OpenAI는 Nvidia와 10GW 규모 계약(최대 1,000억 달러 투자)을 맺고 있지만, 자체 칩이 성공하면 향후 Nvidia 의존도를 줄일 수 있다.
커스텀 칩 경쟁 격화
Google(TPU), Amazon(Trainium/Inferentia), Meta(MTIA)에 이어 OpenAI도 커스텀 AI 칩 경쟁에 가세했다. AI 업계에서 '자체 칩 보유'가 핵심 차별화 요소로 부상하고 있다.
추론 비용 구조 변화
Jalapeño가 "현재 SOTA 대비 월등히 뛰어난 성능 대비 전력 효율(성능/와트)"을 실현한다면, LLM API 가격 구조에 근본적 변화를 가져올 수 있다. 특히 ChatGPT 같은 대규모 서비스에서는 추론 비용 절감이 곧 수익성 향상으로 직결된다.
정리
Jalapeño는 단순한 AI 칩 발표가 아니다. OpenAI가 '모델 회사'에서 '풀스택 AI 플랫폼'으로 전환하기 위한 핵심 이정표다. 9개월이라는 경이적인 개발 속도, 자체 모델을 활용한 칩 설계, 10GW 규모 배포 계획 — 이 모든 것이 AI 업계의 인프라 경쟁이 새로운 국면에 접어들었음을 보여준다.
2026년 말 최초 배포 이후 Jalapeño가 LLM 추론의 비용과 성능에 어떤 변화를 가져올지 주목해야 한다.
로딩 중...