Такие данные были получены в ходе совместного исследования AppSec Solutions и АРПП «Отечественный софт». Его результаты были представлены конференции Pro DevSecOps Conf 2026.
Полученный результат требует внимания рынка: скорость внедрения ИИ втрое опережает скорость выстраивания его защиты. Приказ ФСТЭК № 117 и методика 2026 года уже сегодня помогают определить важные ориентиры для обеспечения безопасности ИИ в организациях. Задача Ассоциации — помочь разработчикам освоить этот каркас: дать разъяснения и практики, в том числе на площадке Дня безопасной разработки ПО, который мы традиционно проводим, - рассказал Ренат Лашин, исполнительный директор АРПП «Отечественный софт».
Представители всех компаний также отметили, что активно пользуются ИИ решениями – сотрудники применяют внешние сервисы, как правило, большие языковые модели в формате чатов, 59% «частично», 41% «массово», при этом за частую работающие как теневой ИИ, то есть без консолидированного контроля организации. Риски безопасности здесь возникают от человеческого фактора – когда сотрудники отправляют в модель чувствительные данные, например, внутренние документы компании.
"Исходя из результатов исследования, без ИИ бизнеса, во всяком случае, связанного с разработкой, уже не существует. ИИ глубоко проник во многие процессы, разработчики используют модели для написания ПО, с его помощью оптимизируют бизнес-процессы, предоставляя доступ к корпоративным данным. Официально с подтвержденными атаками столкнулись 4% опрошенных, Но это иллюзия контроля. Более 90% вообще не проводили оценку угроз и не могут оценить потенциал ИИ-атак. Рынок не заблуждается — он осознанно принимает непокрытый риск, потому что не располагает ни экспертизой, ни процессами, чтобы этот риск измерить и более того, управлять им осознанно", - считает Юрий Сергеев, генеральный директор AppSec Solutions.
72% опрошенных подтвердили, что уже внедрили в корпоративный контур ИИ-агентов. То есть, они делегировали часть «человеческих» полномочий ИИ. Основные риски, с которыми сталкиваются компании: утечки конфиденциальных данных, промпт-инъекции, утечки конфиденциальных данных через RAG-системы, обход встроенных ограничений, атаки на цепочку поставок ML и другие. Также компании внедряют в бизнес-процессы большие языковые модели (81%),локальные языковые модели (61%), RAG или генерацию с дополненной выборкой (57%), ML-модели(44%).
"Ключевые атаки на ИИ не оставляют следов в привычной телеметрии. Они не выглядят как эксплойт: это валидный запрос с валидным ответом. Без специализированной оценки угроз и без фильтрации на шлюзе безопасности ИИ организация физически не способна отличить нормальную работу модели от успешной атаки. Отчёт «инцидентов не было» в этих условиях не является измерением. По сути компании нуждаются в шлюзе безопасности, который способен распознать и отклонить потенциально опасный запрос, а также единой платформе управления ИИ-рисками, ведь, судя по результатам исследования, сотрудники уже отправляют данные во внешние сервисы во всех организациях выборки. Если запретить это невозможно, остаётся контролировать канал", - подчеркнул Юрий Шабалин, директор по безопасности ИИ AppSec Solutions.
Наибольший потенциал и наибольший риск сосредоточены в сегменте средних ИТ-компаниях со штатом 100–500 человек. Это компании, в которых решения зачастую принимаются «вручную».
"По данным исследования, 82% организаций, назвавших нехватку экспертизы главным барьером, не имеют программы обучения безопасности ИИ. Дефицит знаний порождает фобии и непонимание рисков. Экспертные рабочие группы при Минцифры, Правительстве и отраслевом консорциуме систематизируют угрозы и позволяют определить, для каких задач риск применения ИИ высокий, а для каких минимальный. Это позволяет безопасно внедрять ИИ даже при нехватке внутренней экспертизы", — считает Антон Башарин, старший управляющий директор Swordfish Security.
