Anthropic опубликовала прототип проверки происхождения ответов AI-модели

FlashProve опирается на опубликованный «отпечаток» модели: разработчик заранее фиксирует криптографическое представление её весов. Затем система должна позволять сверить с ним доказательство для конкретного ответа. Сами веса при этом раскрывать не требуется. Это существенная часть замысла, поскольку коммерческие лаборатории обычно не публикуют параметры закрытых моделей. Пользователь получает способ проверить происхождение ответа, а разработчик сохраняет закрытыми числовые параметры, определяющие поведение модели.

Проверка нацелена на ситуацию, когда имя модели в интерфейсе само по себе ничего не гарантирует. Провайдер мог бы незаметно направить запрос более дешёвой модели для сокращения расходов или использовать другую модель при оценке результатов. Тот же вопрос возникает у сторонних сервисов: если разработчик утверждает, что код проверила определённая модель для поиска уязвимостей, пользователю нужен способ удостовериться в этом утверждении. Криптографическое доказательство должно связывать конкретный ответ с заранее зафиксированной моделью.

Anthropic опубликовала техническую спецификацию FlashProve и рабочий код отдельных компонентов под открытой лицензией; прототип использует zkSNARK, механизм проверки вычислений без раскрытия исходных данных. В опубликованном описании прототипа приведён пример для Llama 4 Maverick: создание доказательств со скоростью 110 токенов в секунду на одном H100 и размером доказательства 19 МБ. Это характеристики приведённого примера, а не обещание такой же скорости для каждой модели или конфигурации. Саму проверку система задумана выполнять и на локальном устройстве.

Работа над FlashProve продолжается: Anthropic описывает опубликованные материалы как промежуточный результат и пока не планирует внедрение системы у себя или в других лабораториях. Поэтому для обычного пользователя возможность проверить ответы своей модели ещё не появилась. Кроме того, доказательство происхождения отвечает на узкий вопрос – какая модель произвела ответ. Оно само по себе не устанавливает, верен ли ответ и достаточно ли хорошо модель выполнила задачу. Сейчас открытый код даёт другим исследователям возможность изучать и дорабатывать способ проверки.