Структура рынка
Исследование охватило более 200 крупных российских компаний из шести отраслей: ИТ, финансы, торговля, телекоммуникации, строительство и фармацевтика. Его провели совместно «К2 Кибербезопасность» — российский интегратор в сфере кибербезопасности — и «Лаборатория Касперского», один из крупнейших глобальных вендоров защитного ПО.
Больше половины участников (59%) не ограничиваются одним типом ИИ-сервисов и используют сразу несколько в параллельном режиме: российские публичные платформы, зарубежные решения, собственные разработки или продукты под заказ. Участники называли три основные причины: разные сервисы показывают разную эффективность на разных задачах; под каждый внутренний процесс подбирается отдельный инструмент; немаловажны индивидуальные предпочтения конкретных пользователей.
В разрезе по типу провайдера: 75% компаний работают с отечественными публичными сервисами, 60% — с зарубежными. Доминирование российских решений авторы исследования объясняют регуляторным давлением: бизнес стремится соответствовать требованиям законодательства в части обработки данных и придерживается политики импортозамещения.
Собственная ИИ-разработка
Ключевой индикатор зрелости рынка — 38% крупных корпораций уже сформировали собственные команды для разработки ИИ-решений под внутренние процессы. По оценке авторов исследования, это свидетельствует о том, что искусственный интеллект всё отчётливее воспринимается как стратегический актив, который компании предпочитают развивать самостоятельно, а не отдавать на аутсорсинг или покупать в виде готовых продуктов.
Однако именно здесь возникает ключевой разрыв. 75% процессов внутренней ИИ-разработки полностью или частично не соответствуют стандарту MLSecOps (Machine Learning Security Operations) — специализированному подходу к управлению безопасностью на всём жизненном цикле ML-систем, от сбора и разметки данных до эксплуатации обученной модели в продакшне.
«Примечательно, что 38% корпораций уже имеют собственные команды по разработке ИИ-решений для внутренних процессов. Это свидетельствует о том, что искусственный интеллект воспринимается как стратегический актив, который предпочитают развивать самостоятельно. При этом в 75% случаев эти процессы полностью или частично не соответствуют стандарту управления безопасностью — MLSecOps. Рынок MLSecOps находится на этапе становления, и компании пока не понимают, как защищать собственные ИИ-разработки самостоятельно», — сказал Александр Лысенко, ведущий эксперт по безопасности разработки и ИИ в «К2 Кибербезопасность».
Разрыв в безопасности
Данные в разрезе зрелости процессов выглядят ещё тревожнее. Управляемые процессы по защите собственных ИИ-разработок есть только у 18% компаний. Зрелая практика MLSecOps — интегрированная, задокументированная, с выстроенными ролями и регулярными аудитами — зафиксирована лишь у 7%.
Параллельно исследование выявило структурную проблему распределения ответственности: в 60% случаев безопасность ИИ-разработок обеспечивается исключительно силами самих разработчиков, без привлечения выделенного отдела информационной безопасности. Такая практика существенно повышает вероятность инцидентов — от утечки обучающих данных до компрометации модели в производственной инфраструктуре.
«Чем быстрее искусственный интеллект превращается в рабочую инфраструктуру, тем выше потребность в том, чтобы его безопасность перестала быть набором разрозненных инициатив. Доля компаний с управляемыми процессами по защите собственной ИИ-разработки пока составляет всего 18%, а зрелая практика MLSecOps есть только у 7%. В большинстве случаев (60%) безопасность обеспечивается исключительно силами разработчиков, без привлечения ИБ-отдела, что значительно повышает риски возникновения инцидентов», — сказал Владислав Тушканов, руководитель группы исследования технологий машинного обучения в «Лаборатории Касперского».
Рекомендации экспертов
Авторы исследования формулируют практический ответ как синергию трёх сторон: бизнеса, службы информационной безопасности и команды разработки. Конкретные меры включают интеграцию требований безопасности непосредственно в дорожные карты продуктов, разработку политик безопасности с учётом обратной связи от бизнес-подразделений, а также регулярный аудит процессов на соответствие MLSecOps.
С управленческой точки зрения исследование фиксирует системный разрыв: темпы внедрения ИИ уже опережают зрелость процессов, необходимых для контроля связанных с ним рисков. Пока 7% — единственный сегмент, работающий в соответствии со стандартами, большинство компаний накапливают технический и операционный долг в сфере ML-безопасности.
