Просмотр вакансии

Обеспечь безопасность AIагентов в Сбере

Мы строим систему управления операционными рисками экосистемы Сбера на основе агентного ИИ. Если тебе тесно в роли просто сильного разработчика, а хочется вести за собой команду единомышленников, реализуя проекты уровня Enterprise — тебе к нам. Мы ищем человека, который сочетает в себе экспертизу в машинном обучении, инженерии и безопасности. Ты будешь не просто строить защитные механизмы, а определять архитектуру безопасного ИИ, влияя на надёжность и устойчивость крупнейшего банка страны.

Чем предстоит заниматься:

• создавать гардрейлы: Разрабатывать системы защиты для AIагентов на базе GigaPlatform и других opensource LLM — защита от промптинъекций, фильтрация токсичности, контроль галлюцинаций (Intrinsic/Extrinsic/Fine-tuned Detectors), валидация выходов
• тьюнить LLM: Адаптировать и дообучать наши LLM (Prompt Tuning, LoRA, SFT, GRPO), чтобы они были устойчивы к вредоносным воздействиям и давали безопасные ответы
• лидировать: Вести команду из 4 сильных DS. Не просто распределять задачи, а участвовать в их росте, делиться опытом и формировать инженерную культуру.
• внедрять: Участвовать в выводе гардрейлов в продакшн
• работать на мощном железе: 8–16 A100 80 GB
• технологический стек: vLLM, ollama, llama.cpp, LangChain, Guardrails AI / NeMo Guardrails, Transformers, PyTorch Lightning, MLflow.

Что мы ценим и что даст тебе преимущество:

• опыт в DS / MLE от 2 лет, желательно с фокусом на безопасность ИИ или защиту LLM.
• математическая база: высшее техническое образование с глубоким пониманием алгоритмов и структур данных.
• экспертиза в ML/DL: опыт обучения нейросетей (от классических RNN до трансформеров).
• понимание уязвимостей LLM: промптинъекции, джейлбрейки, data poisoning, галлюцинации — и способов защиты от них.
• опыт построения гардрейлов (rulebased, MLbased, гибридных) и/или участия в red teaming LLM.
• писать хороший код: соблюдать Clean Architecture, SOLID, поддерживать Git Flow.
• будет крутым плюсом: опыт в соревнованиях (Kaggle Expert+), участие в opensource проектах по AI Safety, наличие публикаций или докладов по теме.

Почему это «та самая» вакансия?

У нас есть для тебя сложные задачи на стыке безопасности, больших данных и агентного ИИ. Ты получишь свободу в выборе технических решений для защиты AIсистем, поддержку амбициозных идей и возможность видеть реальный эффект от своей работы в масштабах экосистемы Сбера.

Условия

• комфортный современный офис рядом с м. Кутузовская
• гибридный / удаленный формат работы
• ежегодный пересмотр зарплаты и годовая премия
• корпоративный спортзал и зоны отдыха
• более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
• расширенный ДМС, льготное страхование для семьи
• гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ
• бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров
• вознаграждение за рекомендацию друзей в команду Сбера.