Лоция 8 дней назад
DevOps/MLOps
- Санкт-Петербург
- Удалённо
- Опыт от 3 лет
- Полная занятость
AIKubernetesDockerCI/CDLLMDevSecOpsMLPrometheusMLOpsHelmAzure DevOpsMinIONFS
Описание
Обязанности
- Готовить окружения для инференса и тестирования, управлять версиями моделей и хранить их в NFS/MinIO
- Развёртывать сервисы в Kubernetes и Docker Compose, работать с большими моделями и GPU
- Развивать CI/CD в Azure DevOps, собирать образы и артефакты, дорабатывать Helm charts
- Сопровождать кластеры, сертификаты TLS/SSL и секреты, собирать логи и метрики, оптимизировать использование CPU/GPU/RAM
- развёртыванием ML-моделей и AI-сервисов, локальных моделей (LLM, ML-модели) в различных средах
- управлением версиями моделей и их хранением (NFS/MinIO)
- подготовкой окружений для инференса и тестирования моделей
- развёртыванием сервисов AI-агентов, чат-ботов и ML-сервисов в Kubernetes и docker compose
- работой с большими моделями и GPU в kubernetes и docker
- CI/CD для ML-сервисов и инфраструктуры
- сборкой Docker-образов, npm пакетов, артефактов
- написанием и рефакторингом пайплайнов в Azure DevOps
- участием в разработке Dockerfile для ML-сервисов, консультациями
- сборкой базовых образов
- работой с docker-compose, рантаймами: containerd, Docker, podman
- контролем отсутствия секретов в docker слоях
- эксплуатацией и сопровождением Kubernetes-кластеров
- разработкой и рефакторингом Helm charts
- работой с TLS/SSL сертификатами и их ротацией, в т.ч. через nginx
- сбором логов контейнеров
- интеграцией логов с Elastic/Logstash,к с VictoriaMetrics/Prometheus
- управлением секретами Kubernetes и HC Vault
- интеграцией ML pipeline с CI/CD
- подготовкой инфраструктуры для обучения моделей
- диагностикой проблем запуска моделей и сервисов
- отладкой Kubernetes workload
- оптимизацией использования ресурсов (CPU/GPU/RAM)
- подготовкой технической документации
Требования
- Опыт DevOps/MLOps, Kubernetes, Docker/docker-compose и CI/CD
- опыт работы DevOps/MLOps инженером
- опыт работы с Kubernetes
- опыт контейнеризации (Docker, docker-compose)
- опыт работы с CI/CD
Будет плюсом
Условия
- Можно удалённо
- Санкт-Петербург