Ozon Tech. 5 дней назад

Старший инженер по информационной безопасности [Группа безопасности приложений]

  • Удалённо
  • Опыт от 3 лет
PythonAIKubernetesLinuxLLMGoMLRAGSDLCCode ReviewSAST/DASTThreat ModelingDASTSCAOWASP Top 10OWASPCWE Top 25

Описание

Обязанности

  • Проводить аудиты безопасности ML/LLM-систем: инференс-сервисы, RAG-пайплайны, агенты с доступом к инструментам, MCP-серверы, ML-платформа и её артефакты (модели, датасеты, фичестор).
  • Ломать системы на базе ИИ: прямой и косвенный prompt injection, джейлбрейки, эксфильтрация системных промптов и данных, злоупотребление tool calling, выход агента за границы разрешённого, отравление данных и моделей, атаки на цепочку поставки (веса, pickle, кастомные операторы, сторонние модели).
  • Развивать DAST под AI-эндпоинты: харнесс и сканер для LLM-интерфейсов, автоматизированные наборы атак, регрессионное тестирование моделей и защитных механизмов, встраивание проверок в CI/CD.
  • Проверять эффективность защитных механизмов (гарды входа и выхода, фильтры, лимиты, изоляция инструментов и данных) и формировать обоснованные требования к ним.
  • Формировать стандарты безопасной разработки AI-сервисов: модели угроз, чек-листы ревью, требования к правам агентов, работе с секретами и изоляции окружений.
  • Разрабатывать автоматизацию и инструментарий на Python или Go, интегрировать его с существующими системами (ASOC, Jira, CI/CD, SIEM).
  • Участвовать (около 20% времени) в проектах команды по безопасности приложений.
  • Работать в тесном контакте с командами ML-платформы, разработки и инфраструктурной безопасности.

Требования

  • Знание основных уязвимостей веб-приложений и API (OWASP Top 10) на уровне, достаточном, чтобы находить и объяснять их.
  • Понимание ML в целом: как модели обучаются, валидируются и попадают в прод, из чего состоит ML-пайплайн (данные, обучение, хранение и сериализация весов, реестр моделей, инференс).
  • Практическое понимание LLM: инференс, RAG, агентные архитектуры, tool calling, опыт работы с API моделей и промпт-инжинирингом.
  • Представление о специфических рисках AI-систем: prompt injection, отравление данных, атаки на цепочку поставки моделей.
  • Базовое понимание ОС, сетей, контейнеров и Kubernetes.
  • Самостоятельность и готовность работать в области без устоявшихся методологий и создавать их.

Условия

  • Можно работать удаленно.
  • Зарплата: Обсуждается на собеседовании.

Процесс отбора

  • Откликнуться.