AI Radar
В Конгресс США внесли законопроект об отключении опасных ИИ-систем
Законопроект AI Kill Switch Act предлагает дать Министерству внутренней безопасности США право требовать ограничить или отключить ИИ-систему, способную причинить катастрофический ущерб. Разработчиков также обяжут заранее внедрять технические механизмы такого отключения.
По проекту ведомство сможет потребовать заблокировать доступ пользователей, отключить отдельную способность или полностью остановить систему. За отказ предусмотрен штраф до $20 млн за каждый день нарушения.
Законопроект распространяется на компании с годовой ИИ-выручкой от $500 млн и системы, для которых стоимость вычислений по рыночной цене облака США составляет не менее $100 млн. В тексте предусмотрено исключение для контролируемых red-team-тестов.
Почему это важно
Инициатива переносит обсуждение аварийного контроля над моделями из области добровольных политик в возможное обязательное регулирование. Для разработчиков это означает потенциальную необходимость проектировать механизмы ограничения возможностей и отключения заранее.
Первоисточники и подтверждения
Подборку проверяет редакция DSML. AI помогает дедуплицировать сигналы и готовить текст, но опубликованный выпуск остаётся редакционным продуктом, а не лентой отдельных каналов.