Gemma 4 업데이트, 오픈 AI 모델에 3배 속도 부스트 제공

2026년 5월 7일부터 Google은 Gemma 4 오픈 모델에 Multi-Token Prediction drafters를 배포했습니다. 이번 업데이트는 여러 미래 토큰을 병렬로 예측하는 speculative decoding을 도입하여 소비자 하드웨어에서 생성 시간을 최대 3배까지 단축합니다. 출력 품질은 엣지 배포에 최적화된 네 가지 모델 크기 전반에서 본질적으로 변함없이 유지됩니다. 개발자들은 Google의 공식 채널에서 업데이트된 가중치를 바로 다운로드할 수 있습니다. 이 조치는 로컬 사용자가 불만을 토로했던 정확한 문제점, 즉 멀티모달 모델을 오프라인으로 실행할 때 느린 반복 작업을 타깃으로 합니다.

실질적인 이점은 프로토타이핑에서 즉시 드러납니다. 각 프롬프트 변형을 기다리는 대신 이제 decent GPU에서 초 단위로 이미지와 비디오 개선을 순환할 수 있습니다. 클라우드 비용이 줄어들고 더 적은 실행이 기계를 떠날 필요가 없어집니다. 실험도 덜 신중해집니다 — 이상한 구성을 시도하고 거부한 뒤 프롬프트를 조정하며 반복하세요. 솔직히 수십 번의 테스트 생성을 직접 실행해 본 후 그 차이가 원시 숫자보다 더 크게 느껴집니다. 이전에 신중하고 거의 의식적인 과정이었던 것을 스케치에 더 가까운 것으로 바꿔줍니다.

이전 Gemma 3 제품군과 비교하여 새로운 MTP 버전은 동일한 품질 점수에서 일관되게 2.5~3배의 처리량 향상을 보여줍니다. 비슷한 크기의 Llama 및 Mistral 체크포인트와 비교했을 때 초기 커뮤니티 테스트에서 Gemma 4는 초당 토큰 수에서 앞서며 표준 멀티모달 벤치마크에서 동등하거나 능가합니다. 그 우위는 고급 클러스터보다는 중간급 하드웨어에서 가장 두드러지며 이는 대부분의 독립 크리에이터가 운영하는 곳입니다. 솔직히 말씀드리자면 이건 실험실 전용 숫자가 아닙니다. 제 완전히 비과학적인 표본 하나는 일상적인 사용에서 주장된 향상이 유지된다는 것을 시사합니다.

이러한 속도 개선은 전체 생성 생태계 전반에 걸쳐 복합적으로 작용합니다. 로컬 추론이 병목 현상이 되지 않으면 더 많은 사람들이 이전에 비싼 클라우드 크레딧이나 긴 대기열을 필요로 했던 실험을 실행할 수 있습니다. 그 민주화 효과가 실제로 분야를 앞으로 나아가게 하는 것입니다. Gemma 4를 일상적인 프로토타이핑에 매력적으로 만드는 동일한 효율성 향상은 전문화된 파인튠과 실시간 애플리케이션의 장벽도 낮춥니다. 요컨대 오픈소스 측면이 눈에 띄게 더 경쟁력 있게 되었으며 이 기반 위에 구축하는 모든 사람이 혜택을 받습니다.