ML engineer at My Startups — NeverHard

MyStartups – дочерняя IT-компания Astana Motors, специализирующаяся на создании технологичных решений для оптимизации бизнес-процессов в разных сферах. Требования: 2–3 года разработки ML/AI-решений, из них не менее 1 года — с LLM/RAG-системами в production. Опыт работы в командах с распределением задач (не соло-разработка). Портфолио реализованных проектов с измеримым результатом (метрики, нагрузка, количество пользователей). Понимание промпт-инжиниринга: few-shot, structured output, работа с системными промптами. Production-уровень Python (async/await, тестирование, чистая архитектура проекта). Уверенный уровень SQL и PostgreSQL. Английский язык не ниже B2 (для работы с документацией и моделями). Уверенное владение Docker, Docker Compose (опыт написания production Dockerfile). Опыт работы с CI/CD (GitHub Actions, GitLab CI). Опыт с системами кэширования (Redis) и объектными хранилищами (MinIO/S3). Понимание работы с GPU-инфраструктурой: multi-GPU setups, tensor parallelism, распределение ресурсов. Будет большим плюсом: MLOps и Инфраструктура: Kubernetes, виртуализация (Proxmox или аналоги) для локальных ML-серверов. ML/DS: Понимание RLHF/DPO, классический ML (scikit-learn, NLP-задачи), базовый статистический анализ. Специфика: Опыт работы с казахоязычными или мультиязычными NLP-задачами. Оптимизация: Опыт вывода моделей на ограниченном железе (Apple Silicon, single-GPU) с оптимизацией throughput. Обязанности: Самостоятельное проектирование архитектуры и вывод ML-сервисов в промышленную эксплуатацию (от идеи до продакшена). Построение RAG-систем полного цикла: от парсинга и чанкинга документов до выдачи ответа с источниками. Развёртывание и инференс open-source LLM (Qwen, Llama и т.п.), настройка параметров инференса (batching, quantization, KV-cache). Проектирование схем, индексация и тюнинг поиска в векторных БД (pgvector, Milvus/Qdrant/Weaviate). Оценка качества генерации: контроль галлюцинаций (hallucination control), ручной и автоматизированный аудит, расчет метрик (faithfulness, relevance). Настройка стратегий ретрива (hybrid search, reranking, semantic chunking) и работы с embedding-моделями. Внедрение NL2SQL, структурированной генерации (JSON, function calling, tool use) и мультиагентных систем (оркестрация, MCP-серверы). Опционально: Fine-tuning/LoRA открытых моделей под доменные задачи, внедрение guardrails и модерации контента. Инфраструктура и бэкенд: Разработка API-сервисов на FastAPI (Pydantic-схемы, async-эндпоинты) и построение дашбордов. Оптимизация SQL-запросов в PostgreSQL. Самостоятельная настройка CI/CD пайплайнов деплоя. Настройка мониторинга сервисов (Prometheus/Grafana: алерты и дашборды) и версионирования моделей/данных (MLflow, DVC). Координация задач в команде, техническое лидирование небольшой группы разработчиков. Декомпозиция задач и оценка сроков. Погружение в новые доменные области (юридические, HR, промышленные регламенты) для построения специфичных RAG-систем. Опционально: Подготовка технической документации и памяток для внутренних команд. Условия: Оформление по ТК РК с первого рабочего дня, полностью белая заработная плата. Конкурентный уровень дохода (обсуждается по итогам собеседования). Современный офис в Мега Центр (Розыбакиева) с гибридным графиком. ДМС для сотрудника и членов семьи после успешного прохождения испытательного срока. Оплата профильного обучения, сертификаций, участия в профессиональных конференциях и митапах. Предоставление современного рабочего оборудования (MacBook). Гибкое начало рабочего дня, отсутствие жесткого микроменеджмента и бюрократии. Сложные технические вызовы, современный стек технологий и реальная возможность влиять на архитектурные решения. Дружная команда профессионалов, регулярные внутренние технические митапы и knowledge sharing.