AI - Инженер Senior at BI Group — NeverHard

Обязанности: Выстроить управление использованием ИИ в холдинге: политика применения AI-инструментов сотрудниками, правила работы с корпоративными данными в промптах, борьба с теневым использованием внешних сервисов; Вести реестр AI-систем компании: какие модели и агенты работают, к каким данным имеют доступ, кто владелец, какие риски и какие меры приняты; Проверять безопасность AI-продуктов до и после запуска: доступы агентов к базам и системам, защита от инъекций промптов, контроль утечки конфиденциальных и персональных данных через модели; Оценивать риски моделей вместе с командами разработки: качество и происхождение обучающих данных, права на данные, персональные данные в выборках, честность заявленных метрик; Проводить аудит внешних AI-вендоров и сервисов: куда уходят данные, где хранятся, какие гарантии даёт поставщик; Разбирать инциденты, связанные с ИИ: утечки через промпты, некорректные ответы агентов в бизнес-процессах, несанкционированные подключения; Обучать сотрудников безопасной работе с AI-инструментами: короткие памятки, разборы кейсов, входное обучение для новых команд; Следить за регуляторикой и стандартами в области ИИ и переводить их в практические требования для команд. Требования: Опыт от 2 лет в информационной безопасности или в разработке и эксплуатации AI-решений. Достаточно сильной базы в одном из двух направлений и живого интереса ко второму: узких готовых специалистов на рынке почти нет, доучим на практике; Понимание специфических рисков больших языковых моделей: инъекции промптов, утечка данных через промпты и контекст, отравление данных, галлюцинации в бизнес-процессах. Знакомство с OWASP Top 10 для LLM-приложений будет сильным плюсом; Базовые знания классической ИБ: управление доступами, защита конфиденциальных данных, работа с инцидентами, основы сетевой безопасности; Понимание жизненного цикла ML-модели и того, где в нём возникают риски: данные для обучения, доступ модели к источникам, вывод в продакшен, мониторинг; Уверенный пользователь SQL и Python на уровне чтения кода и написания простых проверок; глубокая разработка не требуется; Знание требований к работе с персональными данными (закон РК о персональных данных) или готовность быстро в них разобраться; Умение писать понятные документы: политики, регламенты, памятки для сотрудников без ИБ-жаргона; Самостоятельность и здравый смысл: область новая, готовых шаблонов мало, придётся формировать практику первым; Будет плюсом: опыт аудита ИТ-систем или вендоров, сертификаты в ИБ, опыт внедрения политик использования AI в компании, знакомство с фреймворками AI-рисков (NIST AI RMF, ISO 42001). Условия: Официальное трудоустройство по ТК РК; График работы: 5/2, 8:00–17:30; Работа в офисе (БЦ Agar, Астана) — комфортное рабочее место; Социальный пакет: оплачиваемый отпуск, больничные, ДМС после испытательного срока; Работа в команде IT-поддержки; Обучение за счёт компании: курсы, конференции, профильная литература; Работа с разными системами и бизнес-процессами; Доступ к базе знаний и внутреннему обучению.