AI Radar
OpenAI добавила в Codex несколько уровней защиты от ошибочного удаления и перезаписи файлов — от новых инструкций модели до проверок команд и более строгого режима полного доступа. Изменения последовали за разбором редких сбоев при работе агента с временными каталогами.
Согласно опубликованному пересказу заявления руководителя Codex Тибо Соттьё, в наиболее серьезном случае агент должен был удалить созданные им временные файлы, но команда очистки указывала на настоящий домашний каталог пользователя. Codex переиспользовал системную переменную окружения для временной работы, из-за чего неверно сформированный путь стал деструктивным. В другом сценарии модель удаляла или перезаписывала временный путь, не проверив, что в нем уже находятся чужие данные.
Теперь модель должна предварительно проверять цель удаления, создавать собственные временные каталоги заново, не переиспользовать системные переменные, предпочитать обратимые действия и останавливаться, если масштаб операции неясен. На уровне исполнения усилен механизм, который распознает рискованные команды и отправляет их на проверку: после отказа агенту предлагается искать более безопасный способ выполнить задачу. Auto-review также настроили на более точное обнаружение деструктивных действий.
Отдельно OpenAI усложнила случайное включение Full access, переписала предупреждения и ограничила наиболее опасные комбинации разрешений. Условия, воспроизводящие найденные сбои, добавляются в тесты, RL-задачи и автоматические грейдеры, а нежелательные шаблоны деструктивного поведения удаляются из обучающих данных. Пользователям рекомендуют обновлять Codex и выбирать песочницу Ask for approval или Approve for me; полный доступ стоит оставлять только для доверенной и легко восстанавливаемой среды.
Кодовый агент с доступом к оболочке способен превратить ошибку в пути в потерю данных, поэтому одних системных инструкций недостаточно. Сочетание песочницы, проверки команд и обратимых операций снижает риск, но не заменяет резервные копии и изоляцию рабочей среды. Особенно осторожно следует выдавать агенту полный доступ к домашнему каталогу, секретам и производственным системам.
DSML editors review the selection. AI helps deduplicate signals and draft the text; the published edition remains an editorial product, not a feed of individual channels.
