, вакансия LLM Platform Engineer (ASC AI Fabrique)

Регион: Самарская область

Дополнительная информация по адресу: Самарская область, г Самара

ASC AI Fabrique — это мета-генеративная фабрика цифровых сотрудников (ИИ-агентов), построенная на парадигме Agentic Swarm Coding . Система способна автономно проектировать, кодировать, тестировать и разворачивать ИИ-агентов по текстовому бизнес-описанию. Обязанности развертывание и оптимизация LLM моделей на multi-GPU установках с tensor/pipeline/data parallelism организация MLOps-процессов и системная оценка качества моделей обеспечение production latency 2s и uptime 95% для инфраструктуры inference профилирование и оптимизация использования VRAM (CUDA OOM prevention) мониторинг GPU-производительности. Требования Python (asyncio, multiprocessing, typing) Advanced уровня Bash/Shell scripting Advanced уровня для автоматизации развертывания практический опыт с vLLM, TensorRT-LLM, TGI для serving моделей опыт работы с квантизацией (AWQ, GPTQ, GGUF) для снижения требований к VRAM знание оптимизаций Flash Attention и Paged Attention навыки работы с PyTorch, JAX, ONNX для универсального развертывания опыт отладки GPU memory и понимание CUDA (Intermediate C++/CUDA) Будет плюсом: опыт развертывания моделей на multi-GPU практика профилирования VRAM usage в production-средах опыт работы с моделями 480B+ параметров на кластерах GPU знание специфических GPU scheduling инструментов (Volcano, Kueue). Условия комфортный офис, формат работы - гибрид уникальная система обучения Сбера для профессионального и карьерного развития, семинары, тренинги, конференции программа адаптации и помощь руководителя на старте ДМС, страхование от несчастных случаев, социальные гарантии гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров вознаграждение за рекомендацию друзей в команду Сбера корпоративная пенсионная программа корпоративные мероприятия.

Специальность: LLM Platform Engineer (ASC AI Fabrique)

Профобласть: Информационные технологии, телекоммуникации, связь

Режим работы: Полная занятость

Характер работы: Полный рабочий день

Источник информации: Вакансия интернет ресурса

Образование: Не указано

Дата: 2025-12-30