Почему ИИ-вычисления продаются прямоугольниками, а используются иначе: история взлёта Modal

Генеральный директор Modal Erik Bernhardsson рассказал, как его компания превратилась в одного из самых быстрорастущих провайдеров ИИ-инфраструктуры. Всего за пару лет стартап вырос более чем в 50 раз, пересек отметку в $1 миллиард годовой выручки, поднял $750 миллионов в раунде Series D при оценке в $16B и запустил почти три миллиарда песочниц. Главный секрет — отказ от классических контрактов на GPU и ставка на эластичные вычисления для агентов.

История Modal началась задолго до бума генеративного ИИ. Erik Bernhardsson до этого семь лет проработал в Spotify, где с нуля построил систему музыкальных рекомендаций, запустил функции вроде Discover Weekly и Related Artists. Именно там он столкнулся с болью работы с инфраструктурой для машинного обучения. Позже он пять лет был CTO в Better.com и вырос с командой с нескольких человек до 300-400 инженеров, а в 2021 году во время паузы в карьере начал экспериментировать с идеями оркестрации кода в облаке.

Изначально Modal не был связан с ChatGPT и LLM-бумом, который стартовал в конце 2022 года. Erik развивал open-source фреймворк Luigi для оркестрации workflow еще со времен Spotify и в 2021 году вернулся к этой теме. Он быстро понял, что настоящая проблема не в оркестрации, а в самом исполнении кода в облаке. Так родилась идея по-настоящему serverless-платформы, где разработчику не нужно думать о кластерах, прогнозах нагрузки и простое мощностей.

Почему контракты на GPU не работают

Ключевая идея интервью — так называемые прямоугольные контракты. Обычно клиент покупает фиксированное число GPU на фиксированный срок: если нарисовать график, получится прямоугольник. Но реальный спрос выглядит иначе: он растет, падает, дает резкие пики в течение дня. Если купить мощности под пик, приходится платить за простой, а если сэкономить — можно не справиться с нагрузкой в важный момент.

Modal делает ставку на так называемую трансформацию длительности. Компания агрегирует спрос тысяч клиентов вроде Suno, Runway и Cognition, заранее обеспечивает базовые мощности, а каждому клиенту выдает ровно столько, сколько нужно в конкретный момент. Чем ровнее суммарный спрос, тем эффективнее работает общий пул. Такой подход дополняет идею SF Compute и Evan Conrad, который делает мощности торгуемыми, тогда как Erik делает их удобными для использования маленькими эластичными порциями.

При этом у модели есть финансовый риск. Если провайдер зафиксирует мощности по сегодняшним ценам, а цены на GPU завтра упадут, он останется с дорогим запасом. Erik признает, что не ждет скорого обвала цен на NVIDIA и другие чипы, но считает, что этот сценарий обязательно нужно закладывать в стратегию закупок, баланс аренды и владения инфраструктурой и долгосрочное планирование.

Песочницы, которые чуть не закрыли

Отдельная часть истории — продукт sandboxes, который сегодня приносит Modal около трети выручки. Песочницы появились, когда Erik и сооснователь Akshat Bubna увидели, что языковые модели умеют генерировать код, а значит, кому-то нужно место для его безопасного запуска. Сначала adoption был настолько скромным, что команду всерьез обсуждала закрытие продукта.

Все изменили coding-агенты, фоновые агенты и обучение с подкреплением. Агент может создать окружение, запустить код, проверить результат и повторить попытку десятки раз. В таком цикле скорость старта и восстановления окружения становится частью пользовательского опыта. Именно поэтому Modal инвестировал в буфер доступных GPU, кастомную файловую систему, checkpointing процессов и снапшоты памяти GPU, чтобы новая реплика модели поднималась за секунды.

Для бизнеса это означает смену парадигмы от developer experience к agent experience. Если раньше инфраструктура оптимизировалась под человека-разработчика, то теперь она оптимизируется под автономные программы, которые работают тысячами параллельно. В Modal рассказывают о масштабировании до миллиона одновременных песочниц и о том, как forward-deployed инженеры помогают клиентам переносить inference, fine-tuning и batch-задачи в production без управления кластерами.

Показательно и то, как устроена сама компания. В Modal необязательные code review, минимум менеджеров по продукту и сильная инженерная культура, унаследованная от Spotify и Better.com. Erik активно пишет о рынках инфраструктуры и делится экспериментами в соцсетях, например про эфемерные песочницы. Такой стиль позволяет быстро тестировать гипотезы и не бояться закрывать то, что не взлетает, чтобы потом найти точку роста, как это случилось с песочницами.

История Modal хорошо показывает, куда движется вся индустрия: ценность создают не сами гигаватты мощностей, а умение нарезать их на быстрые, дешевые и безопасные кусочки под задачи агентов. Компаниям уже не нужно выкупать прямоугольники GPU впрок, можно платить за фактическое использование и масштабироваться под пики. И если вы думаете, как перенести этот подход в свои процессы, посмотрите, как работают ИИ-агенты под ваш бизнес — именно эластичная инфраструктура делает автоматизацию доступной без собственной GPU-фермы.