Senior DevOps Engineer
Miltech Company
- Рівень:
- senior
- Джерело:
- djinni.co
Що робити
- Керування серверами та інфрою на них через автоматизацію (ansible, tf, etc).
- Розгортання та підтримка open-source LLM через сучасні фреймворки (vLLM, Ollama).
- Налаштування драйверів NVIDIA, CUDA-оточення та моніторинг навантаження відеопам’яті.
- Побудова процесів розгортання моделей та додатків (CI/CD).
- Налаштування моніторинг платформи для відстеження стану GPU, специфічних метрик LLM, стану додатків, баз даних та серверів.
Що очікуємо
- Глибокі знання linux. Знання ОС на рівні ядра, драйверів, мережевих протоколів та файлової системи.
- Docker та K8s. Впевнене володіння контейнеризацією
- Серйозне ставлення до автоматизації. Досвід з Ansible, Terraform або подібними інструментами. Досвід написання складних python скриптів.
- Cloud. Досвід роботи з GCP або іншими клауд провайдерами.
- Моніторинг. Досвід розгортання моніторинг платформи grafana/loki/alloy/prometheus/ELK/etc.
Що пропонуємо
- Досвід роботи з NVIDIA Container Toolkit.
- Розуміння архітектури CUDA-ядер (хоча б теоретичне).
- Досвід з GPU-toolkit для Docker.
Схожі вакансії
З блогу Trackr
Усі статті →
Знайдено через trackr.help/jobs · Канал: @trackrhelp · Бот для персональних сповіщень: @trackrhelpBot