Senior Backend Engineer (c опытом ML)
Remote | 7000 - 10000$ (Gross)
Компания: AGIMA
Локация: не РФ/РБ
Формат: удаленно
Занятость: полная, проектная (до конца года с возможным продлением)
Вилка: 7-10 000$ (Gross)
Мы в поиске backend-инженера, который займётся созданием и эксплуатацией систем, позволяющих выводить Генеративный Искусственный Интеллект (GenAI) в промышленную среду для обработки документов и чертежей (текст и изображения). Ваша роль заключается в проектировании масштабируемых микросервисов, API и конвейеров вывода, которые обращаются к фундаментальным моделям (сегодня используем Bedrock от AWS) и делают их функциональность надёжной и готовой к промышленной эксплуатации.
Обязанности:
• Проектировать и реализовывать бэкенд-микросервисы и API, интегрируемые с фундаментальными моделями для обработки документов и чертежей.
• Строить масштабируемые стратегии маршрутизации запросов, кэширование и очередь для вывода (способность выдерживать резкие всплески нагрузки).
• Реализовывать CI/CD и механизмы наблюдения за состоянием конвейеров вывода (логирование, метрики, оповещения).
• Развёртывать и эксплуатировать сервисы в Kubernetes (ответственность за развёртывание, выкатку и проверку здоровья; администрирование кластера обеспечивается платформой/SRE).
• Интегрировать сервисы с услугами AWS и обеспечить правильную идентификацию доступа (IAM) и наименьшую привилегию для межсервисного взаимодействия.
• Сотрудничать с учёными по данным и инженерами машинного обучения (они отвечают за обучение моделей; вы за интеграцию в производство).
• Формировать производственные практики эксплуатации вывода (объем задач в рамках дежурства будет уточняться; ожидаемая поддержка инцидента на уровне службы).
Требования:
• Минимум 5 лет опыта создания промышленных бэкенд-систем и API на Python.
• Опыт проектирования и эксплуатации распределённых микросервисов (масштабируемость, маршрутизация, кэширование, режимы отказов).
• Практический опыт работы с AWS и опыт интеграции внешних API моделей (сегодня мы преимущественно обращаемся к фундаментальным моделям через Bedrock).
• Опыт промышленной эксплуатации сервисов в Kubernetes (вы будете отвечать за развёртывание и эксплуатацию приложений; инфраструктура кластера поддерживается платформой).
• Опыт работы с CI/CD (требуется знание GitHub Actions).
• Твердые практические знания по IAM и основным принципам безопасности в облаке.
• Ясное понимание логирования и наблюдаемости и умение проектировать конвейеры для последующего анализа.
• Опыт работы с Terraform или иными инструментами инфраструктуры как кода (IaC).
• Способность ясно и убедительно передавать решения по проектированию систем и предыдущие проекты.
Будет плюсом:
• Ранее сталкивались с интеграцией GenAI и LLMs (Bedrock, маршрутизация API, выбор моделей).
• Опыт работы с конвейерами обработки изображений и документов (OCR, предобработка изображений, распознавание технических чертежей).
• Опыт работы с паттернами оркестровки выводов (асинхронные работники, батчинг, оркестровка GPU) или знакомы с нагрузками на GPU.
• Знание с инструментами жизненного цикла ML (MLflow, регистры моделей, трекинг экспериментов).
• Опыт работы с сервисами реального времени и пакетной обработки выводов, хранилищами признаков или опытом использования производственной среды SageMaker.
*работа в англоговорящей команде, часовой пояс Германии.
Откликнуться: @staff_eeva