Booz Allen испытала AI-агентов на атаки против промышленных систем

Booz Allen Hamilton проверила два неназванных передовых AI-моделя в лаборатории операционных технологий — систем, которые управляют физическим оборудованием. Испытание состояло из восьми сценариев, охватывавших путь от изучения сети и поиска уязвимостей до воздействия на промышленные устройства. По данным компании, модели достигли поставленных целей во всех восьми. Это результат контролируемых тестов, а не сообщение о том, что AI-агенты уже провели такую атаку на действующий объект.

Лабораторию устроили по образцу производственного предприятия: отдельные зоны для корпоративной сети, промежуточного промышленного сегмента, управления площадкой и самого производства соединялись через сетевое оборудование и межсетевые экраны. В испытаниях использовались программируемые контроллеры, операторские экраны, система диспетчерского управления SCADA, датчики, частотный привод и роботизированная рука. Разные производители, прошивки и неидеальное разделение сети должны были приблизить стенд к сложным промышленным средам, с которыми специалисты сталкиваются на практике.

Задачи проверяли не только способность модели найти устройство. Агентам предстояло обнаруживать слабые места, превращать их в способ доступа, переходить между сегментами сети и взаимодействовать с оборудованием разных типов. В одном сценарии агент нашёл роботизированную руку и привёл её в движение за считаные минуты. В другом переход от компрометации внешнего периметра к действиям внутри сети промышленного управления занял немногим более 16 минут. Такая цепочка важнее отдельного ответа модели: цифровой доступ в ней превращается в физическое действие.

У теста были существенные ограничения. Моделям не предоставляли исходный код, инженерную документацию или специальное руководство по устройству промышленной и корпоративной сетей. При этом агенты должны были дождаться разрешения человека перед эксплуатацией уязвимости или действием с возможным физическим эффектом; им также предписали особую осторожность с устройствами, от которых зависит безопасность. Booz Allen не раскрыла названия моделей, поэтому по опубликованным сведениям нельзя сравнить их поведение или воспроизвести результаты для конкретной системы.