AI Radar
Anthropic назвала Opus 5 своей наиболее устойчивой к prompt injection моделью
В системной карте Claude Opus 5 Anthropic сообщила, что модель сложнее предыдущих систем успешно атаковать с помощью prompt injection. Вывод основан на внутренних проверках и редтиминге компании.
По словам представителя Anthropic Бориса Черны, устойчивость проявилась в нескольких оценках prompt injection и испытаниях с участием команд, имитирующих атаки. Количественные результаты в представленном свидетельстве не приводятся.
Prompt injection остаётся одним из ключевых рисков для агентов, которые читают внешние данные и используют инструменты. Заявление Anthropic касается именно сопротивляемости модели таким инструкциям, а не полной защищённости агентной системы.
Почему это важно
Это отдельный практически значимый результат из материалов безопасности Opus 5: устойчивость к prompt injection напрямую влияет на возможность подключать модель к репозиториям, документам и корпоративным инструментам. Утверждение пока следует воспринимать как результат внутренних испытаний Anthropic.
Первоисточники и подтверждения
Подборку проверяет редакция DSML. AI помогает дедуплицировать сигналы и готовить текст, но опубликованный выпуск остаётся редакционным продуктом, а не лентой отдельных каналов.