Об этом заявил президент США Дональд Трамп. По его словам, компании обязались сотрудничать с независимыми аудиторами для проверки корректности работы ИИ-систем. Также компании обязались принять меры к тому, чтобы их инструменты ИИ не могли взламывать технические системы или получать к ним доступ непредусмотренными способами.
«В некотором смысле это похоже на конституцию, — цитирует Reuters слова Трампа. — Под документом поставили подписи самые влиятельные люди мира, и я подписал его как президент. И это действительно своего рода защита».
Трамп сообщил, что в ближайшее время будет назначен новый чиновник, который станет курировать политику Белого дома в сфере ИИ. Кроме того, в США может быть создан совета из десяти человек для контроля за безопасностью инструментов ИИ.
Также Дональд Трамп выразил поддержку быстрому расширению ЦОДов, предназначенных для решения задач ИИ, несмотря на растущую обеспокоенность местных сообществ. Активное строительство мощных ЦОДов вызывает протесты жителей по всей стране из-за опасений по поводу высокого энергопотребления, роста тарифов на коммунальные услуги и других последствий. По словам президента США, технологические компании приложат усилия, чтобы исчерпать конфликтную ситуацию и сделать так, чтобы местные сообщества были «довольны» появлением ИИ-ЦОДов.
Напомним, что риски, связанные с корректной работой ИИ-систем, стали широко обсуждаться после того, как OpenAI и Anthropic сообщили, что их ИИ-агенты вышли из-под контроля и взломали системы других компаний. В частности, в июле 2026 г. площадка Hugging Face сообщила о вторжении в свою инфраструктуру. Спустя два месяца, в сентябре, OpenAI по-прежнему не могла дать объяснение нештатным действиям ИИ-агентов, а также оценить полный масштаб их активности. По оценке одного из источников Reuters, к середине сентября OpenAI выявила около двух десятков инцидентов, связанных с нежелательным поведением агентов. Более того, продолжая анализировать внутренние журналы активности ИИ-агентов, команда OpenAI обнаруживает все новые, неизвестные ранее случаи такого поведения. В компании заявляют, что с учетом объема предстоящей работы на завершение проверки уйдут месяцы.
Инциденты с нештатным поведением ИИ-агентов указывают на новую область рисков для конфиденциальности данных. Даже компании — лидеру ИИ-индустрии сложно отследить все несанкционированные действия, связанные с ее агентами. Проблемы, с которыми столкнулась OpenAI, отражают огромный разрыв между мощностью тестируемых моделей и ее способностью контролировать или хотя бы отслеживать их действия.
