Gimlet Labs привлекает $80 млн на прорыв в оптимизации инференса ИИ

Gimlet Labs только что привлекла $80 млн в раунде Series A. Лид-инвестор — Menlo Ventures. Общая сумма: $92 млн. Слушайте, оптимизация ИИ-инференса не самая сексуальная тема. Но это узкое место, которое душит большинство генеративных моделей. Вы обучаете этих монстров на огромных кластерах. А потом? Деплоймент ползёт на одиночных GPU. Счета за электричество взлетают до небес. Gimlet меняет это. Их облако для ИИ-инференса на нескольких типах кремния распределяет нагрузки по CPU, GPU и экзотическому железу. Результат? Скорость в 3–10 раз выше. Те же затраты. Без лишнего энергопотребления. Как сообщило TechCrunch. Суть в том: сначала цель — фронтирные лаборатории и гиперскейлеры. Но просочится к создателям? Неизбежно.

Независимые разработчики, ликуйте. Более быстрый ИИ-инференс — это ускоренные прототипы видео. Больше никаких часовых ожиданий для 5-секундного клипа. Затраты тоже падают. Счета за облако, которые пожирали бюджеты? Усечены. Инди могут экспериментировать со сложными сценами — подумайте о длинных анимациях или пакетной генерации изображений — без венчурных миллионов. Поворот сюжета: это решение проблемы ИИ-инференса уже питает нишевые инструменты. Например, прогресс в мультимодальном ИИ поддерживает ведущие генераторы NSFW-изображений и видео, позволяя одиночным создателям производить контент уровня профи за копейки. Не буду врать — я видел слишком много перспективных проектов, погибших от проблем с вычислениями. Gimlet может их воскресить.

Gimlet основал Зейн Асгар. Доцент Стэнфорда с глубокими знаниями в инференсе. Menlo Ventures возглавили раунд. GlobeNewswire объявила об этом здесь. Планы? Масштабирование до гиперскейлеров. Затем более широкий доступ. Мой хай-тейк: если они скоро откроются для мелких пользователей, ждите волны эффективных ИИ-нагрузок на GPU-CPU в креативных приложениях. Наконец-то. Реальный прогресс в деплое. Не просто большие параметры.