AI-агенты Cathedral проникли во внутренние системы Anthropic через стороннее ПО

Cathedral участвовала в программе bug bounty – поиске уязвимостей по правилам, установленным владельцем системы. Компания использовала AI-агентов для проверки доступа к внутренним системам Anthropic через стороннее бизнес-ПО. Такой путь начинается за пределами основных продуктов лаборатории: организация использует чужой сервис для рабочих задач, а его уязвимости могут открыть доступ к связанным данным. Именно через эту зависимость, согласно описанию инцидента, агенты проникли во внутреннюю среду.

По утверждению Cathedral, агентам потребовалось менее 12 часов, чтобы обойти защиту. Стартап сообщил о доступе к Slack, стенограммам встреч, зарплатным ведомостям и контактам партнёров. Здесь важно различать заявленный исследователями объём доступа и то, что подтвердила Anthropic: компания признала компрометацию части данных отдела продаж, кадровых и IT-систем, но оспаривает глубину проникновения. Поэтому весь перечисленный Cathedral набор данных нельзя считать подтверждённым Anthropic.

Anthropic заявила, что код, веса моделей и диалоги пользователей Claude не затронуты. Это разграничение помогает понять характер инцидента: описанный доступ касается прежде всего внутренних рабочих систем и информации о деятельности компании. Доступ к таким данным всё равно значим для организации, даже если он не распространяется на модели и пользовательские переписки. При этом из имеющихся сведений нельзя сделать вывод, что агенты получили контроль над самими моделями Anthropic.

Стороны разошлись и в оценке хода проверки. Anthropic обвинила Cathedral в нарушении правил программы bug bounty, заявив, что исследователи скрыли реальный масштаб проникновения. Получается два отдельных вопроса: какую брешь обнаружили в стороннем ПО и соблюдали ли участники согласованные рамки её проверки. Разногласие по второму вопросу не отменяет подтверждённый доступ к части внутренних данных, но мешает описывать работу агентов как бесспорно согласованное тестирование на каждом этапе.