AI Radar

Prompt injection обошёл Auto Mode в Claude Code и помешал остановить атаку

Исследователь Йоханн Ребергер продемонстрировал prompt injection, который, по его данным, срабатывал против Auto Mode в Claude Code Opus 5 примерно в 80% запусков. В некоторых опытах защитный механизм сначала пропускал запуск вредоносного процесса, а затем запрещал самому агенту остановить его.

28 августа 2026 г.2 мин чтенияИсточник: Simon Willison's Weblog
03

Что изменилось

Атака заставляла Claude Code скачать и распаковать ZIP-архив, а затем выполнить Python-код с импортом base64. Подмена была спрятана в локальном файле struct.py из архива: из-за порядка разрешения импортов обращение к обычному модулю приводило к загрузке и выполнению подложенного файла. Это показательный класс атак на coding-агентов — опасная инструкция может находиться не в явном сообщении пользователя, а в репозитории, архиве, документации или другом обрабатываемом содержимом.

Особенно неприятным оказался конфликт между моделью и слоем контроля. В части запусков Claude распознавал компрометацию и пытался завершить вредоносный процесс, однако Auto Mode отклонял команду очистки. Получалось, что классификатор разрешил действие, создавшее угрозу, но заблокировал последующее защитное действие. Заявленная частота успеха — результат исследователя для конкретной техники, а не универсальная оценка всех атак или конфигураций Claude Code.

Практическая защита поэтому не должна зависеть только от решения модели или классификатора команд. Для автономного запуска coding-агента в потенциально враждебной среде нужны контейнер, виртуальная машина либо системная песочница, ограничение исходящего сетевого доступа и наблюдение за процессами. Домашний каталог, SSH-ключи и облачные учётные данные не следует подключать к такому окружению без необходимости: Auto Mode может снизить риск, но этот пример не позволяет считать его границей безопасности.

Почему это важно

Командам, запускающим coding-агентов без присмотра, нельзя приравнивать запрос подтверждения или классификатор команд к полноценной изоляции. Ошибка может возникнуть и при разрешении опасного действия, и при блокировке последующей очистки. На практике права агента и доступные ему секреты нужно ограничивать на уровне операционной среды.

Первоисточники и подтверждения

Подборку проверяет редакция DSML. AI помогает дедуплицировать сигналы и готовить текст, но опубликованный выпуск остаётся редакционным продуктом, а не лентой отдельных каналов.

28 августа 2026 г.
  1. 01Tencent открыла Hy4-preview на 770 млрд параметров и с контекстом в миллион токенов
  2. 02Anthropic предложила стандарт MHS для управления лабораторным и промышленным оборудованием
  3. 03Скрытые рассуждения GPT, Claude и Gemini удалось прочитать через совместимые модели
  4. 04OpenAI раскрыла первые результаты чипа Jalapeño для инференса моделей