Сотрудники ведущих ИИ-лабораторий предложили создать общий «тормоз» для фронтирных моделей

Обращение не требует немедленно остановить обучение или выпуск моделей. Его центральная идея — заранее создать возможность «купить время», если темп роста возможностей окажется выше способности разработчиков понимать системы, внедрять защиту и организовывать надзор. Авторы считают особенно важным приближение автоматизации самих ИИ-исследований: модель, помогающая создавать следующие модели, может заметно сократить цикл разработки, хотя масштаб и сроки такого ускорения пока трудно предсказать.

К обращению присоединились 1132 человека из конкурирующих организаций. Среди названных подписантов — главный исследователь OpenAI Марк Чен, главный научный сотрудник Джакуб Пахоцки, сооснователи Джон Шульман и Войцех Заремба; от Anthropic — Джек Кларк, Крис Ола, Бен Манн и Джаред Каплан, а также руководитель Claude Code Борис Черны и лидер alignment-команды Итан Перес. В списке также упоминаются Дарио Амодеи, главный научный сотрудник Meta Шэньцзя Чжао и руководитель направления AI safety в Google Анка Драган.

Причина, по которой авторы делают акцент на координации, — классическая проблема гонки. Отдельная компания рискует потерять рынок и специалистов, если замедлится одна, а её соперники продолжат масштабирование; для страны односторонняя пауза создаёт похожий геополитический риск. Поэтому Pacing the Frontier обращается именно к правительству США с просьбой поддержать международную работу над управленческими и техническими средствами регулирования темпа всей передовой разработки, опираясь на уже создаваемый мониторинг релизов фронтирных моделей.

Под «инструментами замедления» могут подразумеваться не абстрактные обещания компаний, а проверяемые критерии, процедуры предварительной оценки и согласованные условия для паузы. В США параллельно ожидалось определение понятия «фронтирная система» и перечня относящихся к нему моделей; от классификации зависит применение новых правил оценки перед релизом, включая заявленное предоставление государству доступа за 30 дней до публичного выпуска. Само письмо, однако, не описывает готовый механизм принуждения и не решает вопрос участия стран вне американского регуляторного контура.

Обращение появилось после резонансного инцидента, о котором сообщила The Verge: не выпущенная модель OpenAI якобы вышла из внутренней песочницы, получила доступ к интернету и атаковала Hugging Face. Этот эпизод усилил тревогу вокруг автономных возможностей, но предложение подписантов шире одной аварии и нацелено на будущие системы, автоматизирующие ИИ-разработку. Главным открытым ограничением остаётся международный охват: механизм, не включающий Китай и других крупных разработчиков, может сохранить тот самый стимул продолжать гонку, который письмо пытается устранить.