초고속 AI 가드레일 'GLiGuard' 등장: 3억 파라미터로 거대 모델에 필적하는 성능 구현

LLM의 안전성을 보장하는 '가드레일'의 과제

LLM(대규모 언어 모델)을 사용자 대상 애플리케이션에 도입할 때, 유해한 출력을 방지하고 악용을 차단하기 위한 '가드레일(Safety Moderation)'은 필수적입니다. 특히, 웹 브라우징이나 코드 실행이 가능한 AI 에이전트의 확산으로 그 중요성은 더욱 커지고 있습니다.

그러나 기존의 최첨단 가드레일 모델 대부분은 수십억 파라미터를 가진 '디코더 전용(decoder-only)' 트랜스포머 아키텍처에 기반했습니다. 이들은 텍스트 생성을 통해 안전성을 판별하기 때문에, 본질적으로 분류 문제여야 할 태스크에 대해 토큰을 하나씩 생성하는 비효율적 프로세스를 강요받았습니다. 그 결과, 운영 비용이 높고 실시간성이 요구되는 환경에서는 지연 시간(latency)이 큰 과제가 되었습니다.

GLiGuard: 인코더 기반 전환으로 16배 고속화 실현

이러한 과제를 해결하기 위해 등장한 것이 Pioneer AI(Fastino Labs)가 공개한 GLiGuard입니다. GLiGuard는 단 3억(300M) 파라미터의 소형 인코더 기반 모델로, 안전성 판별을 '텍스트 생성'이 아닌 '텍스트 분류'로 재정의하고 있습니다.

가장 큰 특징은 단일 포워드 패스(single forward pass)로 4가지 안전 태스크를 동시에 평가할 수 있다는 점입니다. 디코더 모델처럼 순차적으로 판별을 생성할 필요가 없어, 평가 항목이 증가해도 지연 시간에 영향을 미치지 않습니다.

GLiGuard가 동시에 처리하는 4가지 태스크

1. 안전성 분류(Safety classification): 텍스트가 '안전'한지 '불안전'한지 판별(사용자 프롬프트와 모델 응답 모두에 적용).
2. 탈옥 전략 탐지(Jailbreak strategy detection): 프롬프트 인젝션 또는 롤플레잉 등 11가지 회피 전략 탐지.
3. 유해 카테고리 탐지(Harm category detection): 폭력, 성적 콘텐츠, 혐오 발언, PII(개인 식별 정보) 유출 등 14개 카테고리 판별.
4. 거부 탐지(Refusal detection): 모델이 올바르게 요청을 거부했는지, 또는 부적절하게 거부(과도한 거부)했는지 판별.

놀라운 벤치마크 결과와 비용 효율

GLiGuard는 크기는 작지만 성능은 거대 모델에 필적하거나 능가합니다. 9개 안전 벤치마크를 사용한 평가에서, GLiGuard는 자신보다 23배에서 90배나 큰 모델과 동등 이상의 정확도를 기록했습니다.

구체적인 정확도(Macro-averaged F1 스코어)

• 프롬프트 분류: 평균 F1 스코어 87.7 기록. 최고 스코어를 기록한 PolyGuard-Qwen(89.4)과의 차이는 불과 1.7포인트.
• 응답 분류: 평균 F1 스코어 82.7 기록, Qwen3Guard-8B(84.1)에 이어 두 번째 높은 스코어 달성.
• 비교 대상: LlamaGuard4(12B), ShieldGemma(27B), NemoGuard(8B) 등 거대 모델을 상회하는 성능.

또한, NVIDIA A100 GPU를 사용한 측정에서 기존 디코더 기반 모델과 비교해 최대 16배 고속 작동을 실현했습니다.

결론: 오픈소스 제공과 향후 전망

GLiGuard는 GLiNER2-base-v1을 기반으로, 87,000건의 인간 어노테이션 데이터(WildGuardTrain)와 GPT-4.1의 합성 데이터를 결합해 학습되었습니다. 모델 가중치는 Apache 2.0 라이선스 아래 Hugging Face Hub에서 공개되어 누구나 사용 가능합니다.

'거대한 모델이 아니면 안전성을 보장할 수 없다'는 상식을 뒤집은 GLiGuard는 저지연 및 저비용 AI 안전 계층 구축에 있어 매우 강력한 선택지가 될 것입니다.