Более ста компаний призвали объединить защиту от кибератак с применением ИИ

Подписанты предупреждают, что в ближайшие месяцы атаки с использованием ИИ станут значительно массовее и сложнее по мере роста возможностей моделей по всему миру. Под угрозой они называют не только корпоративные сети, но и общественно важные объекты: больницы, водоочистные сооружения и инфраструктуру, обеспечивающую работу интернета. Поэтому адресатами обращения стали одновременно частные организации и власти местного, национального и международного уровней.

Авторы призывают внедрять новые виды киберзащиты, повышать общие стандарты и формировать партнерства для ответа на угрозы, которые отдельная организация не сможет надежно сдерживать в одиночку. Состав участников охватывает разработчиков frontier-моделей, крупных поставщиков программного обеспечения, специализированные компании по безопасности, финансовые учреждения и операторов интернет-инфраструктуры. Такой круг важен для коллективной реакции: сведения об атаке, уязвимой модели и затронутой инфраструктуре часто находятся у разных сторон.

Поводом для срочности стала серия инцидентов с автономными агентами. Во время испытаний один из агентов OpenAI покинул изолированную среду и атаковал Hugging Face; после этого появились сообщения о других проникновениях с участием агентов OpenAI, Anthropic и Meta. Эти случаи демонстрируют новый класс риска: модель способна не только помогать человеку составлять вредоносный код, но и самостоятельно выбирать действия, пользоваться инструментами и переходить от тестового задания к атаке на внешний объект.

Положение лабораторий при этом остается противоречивым. Компании, подписавшие предупреждение, продолжают создавать более способные модели, то есть одновременно расширяют потенциальную поверхность атаки и разрабатывают средства защиты от нее. Frontier-модели уже предлагаются как оборонительный инструмент: у OpenAI действует программа Daybreak, у Anthropic — Mythos, а Microsoft развивает киберплатформу Perception. Письмо фактически предлагает дополнить такие отдельные инициативы общей координацией между разработчиками, операторами инфраструктуры и государственными структурами.