← Усі вакансії
Джерело:
djinni.co
Відгукнутись на вакансію →

Що очікуємо

  • Глибоке знання Python та продакшн-досвід з FastAPI (async, проєктування API під навантаження)
  • Досвід з LangChain / LangGraph (chains, agents, tools, memory, retrievers)
  • Інтеграція LLM API (OpenAI / Anthropic / Mistral / Gemini) з ретраями, rate limiting і fallback
  • Побудова евалів якості LLM (offline/online, LLM-as-a-judge, golden datasets, regression-тести)
  • Валідація виводу: structured output, Pydantic-схеми, function calling, guardrails

Що пропонуємо

  • Деплой та self-hosting LLM через vLLM (continuous batching, квантизація, OpenAI-compatible endpoint)
  • Локальні LLM (LLaMA, Mistral, Ollama)
  • MCP (Model Context Protocol) або подібні агентні протоколи
  • Vector DB на проді (FAISS, Qdrant, Weaviate, Pinecone)
  • Fine-tuning / LoRA / PEFT

Схожі вакансії

З блогу Trackr

Усі статті →

Знайдено через trackr.help/jobs · Канал: @trackrhelp · Бот для персональних сповіщень: @trackrhelpBot