Для однієї з найбільших фінансових установ України з мільйонами клієнтів шукаємо AI Security Engineer до нового R&D Hub. Роль на стику Application Security, AI Safety та Data Protection — із фокусом на захист LLM, AI-агентів і RAG-рішень.
Що очікується буде виконуватись даною роллю:
AI Safety & Guardrails: Участь у розробці, налаштуванні та валідації технічних захисних бар’єрів (Guardrails) для контролю поведінки моделей, фільтрації вихідного контенту та системного скорочення галюцинацій ШІ.
Prompt Injection Defense: Побудова, інтеграція та моніторинг інструментів захисту в реальному часі (Real-time Defense) від маніпуляцій з інструкціями моделей, атак типу Prompt Injection та Jailbreak.
Автоматизоване PII Masking: Розробка суворих архітектурних вимог, пайплайнів та інструментів автоматичного маскування, токенізації чи анонімізації персональних даних (PII) клієнтів банку перед їх передачею в контекст LLM.
Організація та проведення регулярного атакуючого тестування ШІ-агентів, мультиагентних систем та RAG-архітектур на стійкість до специфічних AI-кібератак (отруєння даних, зсув логіки тощо).
AI Governance & Compliance: Створення та реалізація автоматизованих пайплайнів перевірки розробок на сувору відповідність актам та регулюванням AI (Наприклад: EU AI Act, майбутньому AI Act України та внутрішнім стандартам інформаційної безпеки Банку.)
Рев’ю коду ШІ-додатків, контроль безпеки контейнерів/подів у Kubernetes та налаштування безпечної взаємодії хмарних AI-компонентів із Core-системами банку.
Основні вимоги:
Досвід від 3 років у сфері кібербезпеки на позиціях Application Security / Product Security / DevSecOps або Cloud Security Engineer.
Знання ШІ-загроз, а саме глибоке розуміння специфіки безпеки великих мовних моделей, практичне знання фреймворків OWASP Top 10 for LLM та MITRE ATLAS або інших.
Досвід роботи з Guardrails/Funnels, практичні навички роботи з інструментами контролю контексту та безпеки ШІ
Експертиза в Data Protection та розуміння методів деперсоналізації, токенізації та динамічного маскування конфіденційних даних (PII).
Досвід інтеграції засобів безпеки в CI/CD пайплайни, знання вразливостей платформ контейнеризації (Docker, Kubernetes).
Розуміння AI-регуляцій та вимог EU AI Act (особливо в розрізі High-Risk систем, прозорості моделей та Explainable AI).
Англійська мова: Не нижче B1.
