Просмотр вакансии

Привет. Я Виктор, основатель IntellectDialog (7 лет, 500+ клиентов, резидент Сколково). Собираю senior-команду под грантовый НИОКР: система для стоматологических клиник, которая сама решает, кому, когда и в каком канале написать пациенту, сама записывает в МИС и объясняет каждое своё решение. Внутри — байесовские профили, скоринги, решающие правила с доказанными теоремами и генерация, где каждая цифра обязана иметь источник.

Важно: только senior с продовым опытом ровно в том, что написано ниже. Смежный опыт не считается, доучивать некогда — сроки грантовые. В сопроводительном обязательно: научные публикации/доклады, если есть (для гранта это влияет на выбор), сколько часов в день готовы уделять, и подтверждение, что ставка 1500 /час вам подходит. Отклик без этих пунктов и без обязательных пунктов из конца вакансии не рассматриваю

MLOps-инженер: инференс, реестр моделей, гейты качества

Вы будете отвечать за то, чтобы весь ИИ-контур жил в проде предсказуемо: модели разворачиваются воспроизводимо, каждая версия учтена, ни один релиз не проходит мимо гейтов качества, а GPU не простаивают и не горят.

Что конкретно: — инференс-контур: vLLM (+ xgrammar для structured output) на арендованных GPU в РФ-облаке — развёртывание, квантизация, батчинг, бюджет латентности TTFT 400 мс p95; — реестр моделей MLflow: версии скорингов, LLM, конфигураций валидатора — у нас каждая запись в журнале решений обязана ссылаться на точную версию модели, это требование аудита, не прихоть; — CI/CD с гейтами: eval-прогоны (golden, red-team, регрессия), property-тесты и лицензионный манифест как блокирующие проверки; канареечные релизы моделей и мгновенный откат; — мониторинг: латентности поступенно (классификатор retrieval генерация валидатор), FAIL валидатора по типам, дрейф распределений входящих обращений, загрузка GPU — Grafana/Prometheus + Langfuse; — окружения prod/stage/dev, пиннинг версий весов, воспроизводимость экспериментов ML-команды.

Кого ищу: инженера, который держал LLM или ML-модели в проде под нагрузкой и отвечал за них головой — не «задеплоил разок через docker compose», а строил конвейер, где смена модели без прохождения гейтов невозможна физически.

Кому не писать: если ваш опыт — DevOps без ML-специфики (Kubernetes есть, а что такое драка за KV-cache — нет) или, наоборот, DS, который «немного деплоил свои модели». Нужен именно стык: и инфраструктура, и понимание, чем инференс LLM отличается от веб-сервиса.

Стек: Python, vLLM, MLflow, Docker/Kubernetes, Grafana/Prometheus, Langfuse; PostgreSQL. Ядро платформы — Node.js/React/Postgres, но ваша зона — ИИ-контур.

В отклике обязательно, иначе не отвечу:

1. Кейс: ML/LLM-контур, который вы держали в проде — масштаб (rps/токены/GPU), за какие SLO отвечали, что ломалось и как чинили. И отдельно: мог ли он работать без вас — документация, дежурства, передача.
2. По списку — «работал в проде» / «знаю поверхностно» / «не работал». Честно, на созвоне копну в любой пункт: — vLLM или SGLang/TGI: разворачивали и тюнили сами (какие модели, какие GPU) или пользовались готовым; — квантизация (AWQ/GPTQ/FP8) — что применяли и зачем; — structured output на сервинге: xgrammar/Outlines/guided_json — включали ли в проде; — MLflow или аналог (W&B, ClearML): реестр моделей с продовым промоушеном версий, не просто трекинг экспериментов; — CI/CD с качественными гейтами: чем блокировали релиз (тесты, eval, лицензии); — канарейки и откаты моделей: как устроено было у вас; — Kubernetes + GPU: шедулинг, лимиты, мониторинг утилизации; — Langfuse/OpenTelemetry: трассировка LLM-конвейеров.
3. Отдельным абзацем: какую часть ML-инфраструктуры вы спроектировали и подняли с нуля (конвейер, сервинг, гейты), а где пришли в готовое и развивали.
4. GitHub, доклады.
5. Научные достижения, если есть — списком.
6. Доступность: сколько часов в день готовы уделять, с какой даты — и подтверждение, что ставка 1500 /час по факту отработанного вам ок. Без этого подтверждения созвон не назначаю, чтобы не тратить время обеих сторон.

Условия: удалёнка, от 4 часов в день, 1500 /час по факту, самозанятость/ИП/ГПХ, 12–18 месяцев. Для ключевых участников по итогам успешной реализации — опцион на долю в компании (условия индивидуально, после первых месяцев работы). Это НИОКР с публикациями и РИД — 50+ клиник-клиентов ждут пилотов, результат уйдёт в прод. Если есть научные публикации, доклады, участие в НИОКР — приложите список, для гранта это важно и влияет на выбор.