Обновление Gemma 4 Обеспечивает 3-кратный Прирост Скорости для Открытых Моделей AI

С 7 мая 2026 года Google внедрил Multi-Token Prediction drafters для открытых моделей Gemma 4. Обновление добавляет speculative decoding, позволяющий системе предсказывать сразу несколько будущих токенов параллельно и сокращать время генерации до трёх раз на потребительском оборудовании. Качество вывода остаётся практически неизменным во всех четырёх размерах моделей, оптимизированных для edge-развёртывания. Разработчики могут скачать обновлённые веса напрямую из официальных каналов Google. Это решение напрямую решает главную проблему локальных пользователей — медленную итерацию при запуске мультимодальных моделей в оффлайн-режиме.

Практическая выгода проявляется сразу при прототипировании. Вместо ожидания минут на каждую вариацию промпта креаторы теперь могут проходить циклы доработки изображений и видео за секунды на хорошей GPU. Счета за облако снижаются, потому что меньше запусков нужно отправлять на удалённые сервера. Эксперименты становятся смелее — можно пробовать необычные композиции, отклонять их, менять промпт и повторять. Честно говоря, после нескольких десятков тестовых генераций разница ощущается сильнее, чем показывают цифры. Процесс, который раньше был почти ритуальным, теперь больше похож на обычное рисование.

По сравнению с семейством Gemma 3 новые версии с MTP демонстрируют стабильный прирост пропускной способности в 2,5–3 раза при одинаковых показателях качества. В сравнении с Llama и Mistral аналогичного размера ранние тесты сообщества ставят Gemma 4 впереди по токенам в секунду, при этом она не уступает или превосходит конкурентов на стандартных мультимодальных бенчмарках. Преимущество особенно заметно на среднем железе, а не на топовых кластерах — именно там работают большинство независимых креаторов. Буду откровенен: это не лабораторные цифры. Мой небольшой, но реальный опыт подтверждает заявленный прирост в повседневном использовании.

Улучшения скорости такого масштаба влияют на всю экосистему генеративного ИИ. Когда локальный инференс перестаёт быть узким местом, больше людей могут проводить эксперименты, которые раньше требовали дорогих облачных кредитов или длинных очередей. Именно этот эффект демократизации реально двигает отрасль вперёд. Те же преимущества эффективности, которые делают Gemma 4 удобной для повседневного прототипирования, снижают порог входа для специализированных файн-тюнов и приложений реального времени. Короче говоря, open-source направление стало заметно конкурентоспособнее, и все, кто строит на этих моделях, выигрывают.