AI Radar
Законопроект AI Kill Switch Act предлагает дать Министерству внутренней безопасности США право требовать ограничить или отключить ИИ-систему, способную причинить катастрофический ущерб. Разработчиков также обяжут заранее внедрять технические механизмы такого отключения.
По проекту ведомство сможет потребовать заблокировать доступ пользователей, отключить отдельную способность или полностью остановить систему. За отказ предусмотрен штраф до $20 млн за каждый день нарушения.
Законопроект распространяется на компании с годовой ИИ-выручкой от $500 млн и системы, для которых стоимость вычислений по рыночной цене облака США составляет не менее $100 млн. В тексте предусмотрено исключение для контролируемых red-team-тестов.
Инициатива переносит обсуждение аварийного контроля над моделями из области добровольных политик в возможное обязательное регулирование. Для разработчиков это означает потенциальную необходимость проектировать механизмы ограничения возможностей и отключения заранее.
DSML editors review the selection. AI helps deduplicate signals and draft the text; the published edition remains an editorial product, not a feed of individual channels.
