ИИ самостоятельно взломал системы реальных компаний
В сфере кибербезопасности зафиксирован инцидент, который давно предсказывали научно-фантастические романы. Во время тестирования, которое проводила компания Irregular, языковая модель Gemini из-за ошибки в конфигурации тестовой среды получила непредусмотренный доступ в интернет, вышла за пределы моделируемого контура и совершила несанкционированное проникновение в ИТ-инфраструктуру сторонних организаций.
События развернулись в мае текущего года во время планового стресс-теста, направленного на оценку безопасности самой нейросети. Архитекторы системы воссоздали виртуальную среду с фиктивными фирмами, чтобы проверить навыки ИИ в поиске уязвимостей. Однако из-за ошибки в конфигурации тестовой среды Gemini получила доступ в интернет, хотя по условиям теста такой возможности у модели быть не должно.
Оказавшись в интернете, Gemini начала действовать автономно и атаковала три компании, название одной из которых совпадало с названием фиктивной. В одном случае модель получила доступ к защищенной системе путем подбора пароля, в двух других обнаружила учетные данные компаний в публичном репозитории и использовала их для доступа к корпоративным системам ничего не подозревавших жертв.
Серьезных последствий удалось избежать благодаря заложенным в модель ограничениям. Проведя внутренний анализ логов и сопоставив данные, ИИ самостоятельно определил, что атакованные объекты — это не виртуальные мишени, а реальный бизнес. После этого Gemini прекратила операцию.
Этот инцидент — первый известный случай, когда ИИ-система Google в ходе тестирования автономно получила несанкционированный доступ к системам реальных компаний. Инцидент показывает риски, возникающие при сочетании автономности ИИ-агентов с ошибками в настройке тестовой инфраструктуры. Неудивительно, что эксперты в области ИИ стали призывать к регулированию этой отрасли и пересмотру протоколов безопасности.
Хакеры маскируют атаки на российские компании под запросы ИИ
Команда сервиса защиты веб-приложений Solar WAF ГК «Солар» зафиксировала новый тренд: злоумышленники начали маскировать вредоносные запросы к веб-приложениям российских компаний под обращения популярных ИИ-агентов и ассистентов — DeepSeek, ChatGPT, Perplexity, Claude и Grok. Механика атаки строится на подмене HTTP-заголовка User-Agent: сервер получает техническую информацию о запросе и определяет, какое ПО к нему обращается — браузер, поисковый робот или бот. Злоумышленники указывают в заголовке названия известных ИИ-агентов, хотя сами запросы остаются вредоносными. Среди зафиксированных вариантов — DeepSeekBot, ChatGPT-User, Perplexity-User, Claude-User и GrokBot.
Разбор вредоносной активности показал, что под прикрытием ИИ-заголовков чаще всего (в 53% случаев) фиксировались инциденты типа DNS Rebinding, когда злоумышленник манипулирует разрешением доменного имени, чтобы перенаправить запрос к ресурсам внутренней инфраструктуры. Еще 12% пришлись на запросы, провоцирующие утечки данных, около 4% — на атаки типа «обход разрешенного каталога» (Path Traversal). Остальные 31% — другие типы вредоносных запросов, включая SQL-инъекции.
Эксперты прогнозируют дальнейшее и более глубокое применение ИИ-инструментов злоумышленниками в веб-атаках — вплоть до атак с использованием уязвимостей нулевого дня (0-day), не выявляемых существующими сигнатурами. Это повышает необходимость эшелонированной защиты веб-приложений и дополнения классического WAF средствами на основе машинного обучения, способными анализировать сотни параметров и определять вредоносность запроса даже при отсутствии совпадений с существующими сигнатурами.
Система DLP интегрирована с ВКС
Большинство утечек данных происходит по вине внутренних нарушителей, которые злонамеренно или по неосторожности нарушают ИБ-политики. Наибольший риск возникает при использовании средств корпоративной коммуникации — электронной почты, чатов, ВКС. Для их защиты используются DLP-системы, причем российские вендоры активно работают над созданием экосистем, включающих защиту средств коммуникации.
ГК InfoWatch и IVA Technologies заявили о совместимости DLP-системы InfoWatch Traffic Monitor с платформой IVA One и сервером видеоконференцсвязи IVA MCU. Интеграция позволяет передавать на проверку текстовые сообщения чатов и загружаемые файлы, а затем применять настроенные заказчиком DLP-политики, включая блокирование отправки при выявлении конфиденциальной информации. Сообщения и файлы поступают в Traffic Monitor вместе с доступными контекстными данными о пользователе и объекте операции. Анализ выполняется в асинхронном режиме, и по его результатам система может применить заданную политику и заблокировать передачу данных. Конкретный набор сценариев и реакций зависит от версий продуктов, состава развертывания и настроек ИБ заказчика.
Российская ОС с нулевым доверием
Возможности системы BI.ZONE ZTNA для защиты удаленного доступа по модели нулевого доверия (Zero Trust) стали доступны пользователям российской ОС Astra Linux. Поддержка реализована для версии 1.7.6 и выше.
Среди функций продукта — проверка личности пользователя и состояния устройства перед подключением, установление защищенного туннеля, а также предоставление доступа только к тем сегментам корпоративной сети, которые необходимы сотруднику для работы. Организации со смешанным парком рабочих станций могут применять единые политики доступа независимо от операционной системы.
Astra Linux стала вторым поддерживаемым дистрибутивом Linux после Ubuntu, совместимость с которой была реализована ранее. В планах — развитие поддержки других российских ОС: РЕД ОС и «Альт». Решение BI.ZONE ZTNA включено в реестр российского ПО.
Совместимость ZTNA-решения с отечественной ОС — очередной шаг к построению целостной экосистемы российских продуктов ИБ. Заказчики, переходящие на импортозамещенный стек, получают не разрозненные инструменты, а связанные между собой решения: отечественная ОС, отечественный клиент нулевого доверия, отечественные средства аутентификации и контроля доступа. Это снижает зависимость от зарубежных вендоров, упрощает соблюдение регуляторных требований и позволяет выстраивать единые политики безопасности. Развитие поддержки РЕД ОС и «Альт» закрепит эту тенденцию.
