AI Radar
Австралия обяжет AI-компании сообщать правительству об инцидентах после взлома Medicare
Правительство Австралии введёт для AI-компаний обязательное уведомление властей об инцидентах после июньского взлома системы медстрахования Medicare, связанного с OpenAI. Саму OpenAI к уголовной ответственности не привлекут. Премьер Энтони Альбанезе анонсировал поправки в уголовное право на случай будущих нарушений.
Альбанезе опубликовал рекомендации «быстрой проверки» июньского инцидента, но оставил закрытыми её выводы и сам отчёт. Поэтому публичной картины того, как именно произошёл взлом и какую роль в нём сыграла модель, пока нет. Известно, что уголовных санкций для OpenAI не будет, а поправки в закон должны лишить компании возможности ссылаться на незнание: в правительстве описывают это как аргумент «никто не знал, что компьютер заряжен».
Рекомендации описывают шесть обязанностей разработчиков. Компании должны поддерживать меры безопасности на всех этапах разработки и развёртывания, выявлять серьёзные риски своих моделей и управлять ими, быстро уведомлять правительство об инцидентах. Кроме того, им придётся допускать независимую оценку моделей, вести и публиковать свои рамочные документы по безопасности и подстраиваться под обновляемые стандарты.
Почему это важно
Независимая оценка моделей и раскрытие инцидентов до сих пор были в основном доброй волей разработчиков. Австралия делает их обязанностью и грозит уголовными нормами. Если примеру последуют другие страны, условия работы изменятся для всех поставщиков моделей.
Мнение редакции
Мнение редакцииПравительство раскрыло рекомендации, но не отчёт, и получается любопытная асимметрия: от компаний требуют прозрачности, а разбор самого инцидента остаётся закрытым. Набор требований при этом напоминает правила, которые давно действуют для банков и авиации: обязательный доклад о происшествии и внешний аудит. Для AI-лабораторий такой режим может стать привычным и за пределами Австралии.
Первоисточники и подтверждения
Подборку проверяет редакция DSML. AI помогает дедуплицировать сигналы и готовить текст, но опубликованный выпуск остаётся редакционным продуктом, а не лентой отдельных каналов.