AI Radar
Alibaba выпустила флагманскую модель Qwen4-Max с ограничениями на кибератаки
Alibaba выпустила Qwen4-Max, свою самую сильную AI-модель, и заявляет, что та снижает стоимость выполнения задач на 60%. Компания намеренно отфильтровала обучающие данные, чтобы модель не умела проводить наступательные кибератаки.
Qwen4-Max стала новым флагманом линейки Qwen. Alibaba ограничила модель ещё на этапе обучения: из данных убрали материалы, на которых она могла бы научиться атакующим приёмам взлома. Остальные возможности, по словам компании, сохранены. Обычно разработчики идут другим путём: учат модель отказывать в опасных запросах уже после обучения.
Снижение стоимости задач на 60% заявила сама Alibaba. Из доступного описания неясно, с чем именно сравнивали и на каких задачах. Компания также говорит, что сохраняет курс на открытые модели, хотя опасений по поводу кибератак с помощью AI в мире становится больше. Откроет ли она веса самой Qwen4-Max, пока неизвестно.
Почему это важно
Открытые модели трудно защитить отказами: запрет в ответах снимается дообучением. Если навыка нет в самих данных, вернуть его сложнее. От того, сработает ли подход, зависит, какими будут сильные открытые модели.
Мнение редакции
Знания атакующего и защитника в кибербезопасности почти одни и те же: чтобы закрыть уязвимость, её надо уметь найти. Любопытно, насколько чисто Alibaba удалось разрезать эту пару и не просела ли модель на аудите кода. Западные лаборатории чаще идут другим путём: навык оставляют, а доступ к нему ограничивают.
Первоисточники и подтверждения
Подборку проверяет редакция DSML. AI помогает дедуплицировать сигналы и готовить текст, но опубликованный выпуск остаётся редакционным продуктом, а не лентой отдельных каналов.
