AI Engineer (LLM-агенты, RAG) at Documentolog — NeverHard
AI Engineer (LLM-агенты, RAG) at Documentolog in Астана. Skills: Data Masking, FastAPI, LLM Agents, LLM Deployment, Observability. Apply on NeverHard.
Company
Documentolog
Location
Астана
Type
full_time
Required skills:
Data Masking
FastAPI
LLM Agents
LLM Deployment
Observability
OpenAI API
PostgreSQL
Prompt Engineering
Python
RAG
Documentolog - казахстанская продуктовая ИТ-компания, разработчик платформы электронного документооборота Documentolog и мультиагентной AI-платформы d8n.ai. Мы строим «цифровых сотрудников» — LLM-агентов, которые работают с документами, корпоративной базой знаний и бизнес-процессами у корпоративных и государственных заказчиков. Агенты живут в проде и решают задачи реальных пользователей каждый день. Часть заказчиков работает в закрытых контурах - поэтому LLM-инфраструктура у нас собственная, self-hosted. Чем предстоит заниматься - Проектировать и разрабатывать LLM-агентов («цифровых сотрудников»): архитектура агента, инструменты (function calling), навыки, оркестрация; - Развивать RAG-поиск по корпоративной базе знаний: чанкирование, эмбеддинги, гибридный поиск, реранкинг, оценка качества выдачи; - Интегрировать LLM через OpenAI-совместимые API, работать с self-hosted моделями; - Заниматься промпт-инжинирингом на русском (продукт мультиязычный — ru/kk), защитой от prompt injection, маскированием персональных данных - Строить оценку качества (evals, LLM-as-Judge) и наблюдаемость: качество ответов, стоимость, мониторинг галлюцинаций; - Писать асинхронный Python-бэкенд: FastAPI, PostgreSQL, стриминг ответов; - Доводить фичи до продакшена и сопровождать их у крупных заказчиков; - Следить за трендами агентной экосистемы и LLM: новые инструменты и паттерны (MCP и агентные протоколы, LLM Wiki и агентные базы знаний, скиллы и память агентов), релизы моделей и фреймворков (Anthropic, OpenAI, Google), техники RAG и evals — и приносить лучшее в платформу, делясь знаниями с командой. Что мы ждем - 2+ года коммерческой разработки на Python (asyncio, FastAPI, Pydantic, SQLAlchemy, pytest); - 1+ год работы с LLM-системами в продакшене: function calling / агенты, RAG, промпт-инжиниринг; - Опыт с любым агентным фреймворком (LangGraph, LangChain, Google ADK, CrewAI и т.п.); - AI-first подход к работе: продвинутое владение агентными инструментами разработки (Claude Code, Codex или аналоги) — у нас они часть ежедневного процесса, а не эксперимент; - PostgreSQL, Docker, Linux, Git; - Свободный русский (промпты и документация - на русском); английский - уверенное чтение технической документации; - Умение и желание отвечать за фичу целиком - от идеи и дизайна до продакшена и сопровождения. Будет плюсом - Казахский язык - сильный плюс; - MCP (Model Context Protocol); - Векторный и гибридный поиск на практике (Qdrant, pgvector, Solr, Elasticsearch); - Evals и наблюдаемость LLM (Langfuse, RAGAS и т.п.); - vLLM / GPU-serving, fine-tuning (LoRA); - Классический ML (scikit-learn), умение читать PHP-код. Мы предлагаем - Работу с собственной self-hosted LLM-инфраструктурой: с моделями работаете напрямую, а не только через чужие API; - Агентов в реальном продакшене: ваши решения ежедневно используют живые корпоративные пользователи; - AI-first культуру разработки: Claude Code и агентные инструменты — часть ежедневного процесса; - Влияние на архитектуру: AI-платформа молодая, архитектурные решения ещё принимаются - и принимаются внутри команды; Система мотивации - Беспроцентные займы: финансовая поддержка сотрудников, проработавших в компании более 1 года; - Фантомные акции компании: сотрудники с опытом работы более 1 года получают возможность получать процент от чистой прибыли компании. Количество фантомных акций увеличивается с каждым годом работы в знак признательности за преданность и лояльность сотрудника.