Sakana AI и UC Berkeley представили метод самообучения модели MASS

Sakana AI и UC Berkeley представили MASS, Multi-Agent Self-Supervision. В этом методе одна и та же языковая модель выступает исполнителем задачи, оптимизатором схемы работы агентов и судьёй, который сравнивает полученные ответы. «Команда» здесь состоит из виртуальных сабагентов, а не из разных моделей, обученных для каждой роли. Цель эксперимента – понять, может ли модель улучшать собственную работу, используя результаты этой команды как материал для дальнейшего обучения без внешнего учителя.

Цикл устроен так: модель решает задачу несколькими сабагентами, пробует улучшить порядок их взаимодействия и выбирает более удачные прогоны. Эти траектории затем превращаются в обучающие данные для настройки через LoRA – способа обновить сравнительно небольшую часть параметров модели. После настройки опыт совместной работы должен проявляться и без подсказки с готовой схемой агентов. Затем процедуру повторяют: исполнитель, оптимизатор и судья меняются вместе с обновлённой моделью.

Эксперименты проводили на Qwen3.6-27B и открытых исследовательских задачах. После двух циклов показатель результата на выходной токен вырос относительно исходной модели в 1,6 раза на MLR-Bench, в 1,35 раза на DSBench, в 1,28 раза на AstaBench и в 1,2 раза на ScienceAgentBench. Мера учитывает не только качество ответа, но и объём генерации. На Terminal-Bench 2.0 и SWE-bench Verified прироста не было, поэтому наблюдаемое улучшение пока нельзя переносить на любые агентные и инженерные задачи.

По приведённым результатам, модель после двух раундов выигрывала у исходной почти в 70% сравнений. Траектории команды сабагентов дали 68% побед при примерно на 31% меньшем объёме данных, чем одиночные прогоны; при обучении только решению задач улучшились также способности оптимизатора и судьи. Главная оговорка связана с самой конструкцией MASS: если все три роли пропускают одну и ту же ошибку, судья может засчитать её как успех, а следующий раунд обучения закрепит неверный приём. Авторы также указывают, что темп улучшения ограничивает оптимизатор, а не судья.