JetBrains представила открытую модель Mellum2.1 для кодинг-агентов

8 октября JetBrains представила открытую языковую модель Mellum2.1. Она стала развитием Mellum2, выпущенной в июне, и распространяется по лицензии Apache 2.0. Новинка предназначена прежде всего для использования в кодинг-агентах, субагентах и автономных системах, но также может работать как универсальный ассистент.

В основе Mellum2.1 лежит архитектура mixture-of-experts с 12 млрд параметров. При обработке конкретного запроса активируются 2,5 млрд параметров. JetBrains сохранила структуру нейросети из предыдущей версии, поэтому основные изменения пришлись на этап постобучения.

Обучение с подкреплением и отбор задач

Ключевым элементом подготовки модели стало обучение с подкреплением. Для него инженеры JetBrains разработали собственную инфраструктуру, способную одновременно запускать тысячи окружений и миллионы изолированных сред.

В обучающий набор добавили задачи по математике, спортивному программированию, естественным наукам, работе с внешними инструментами и программной инженерии. Открытые и внутренние датасеты проходили дополнительную фильтрацию: специалисты удаляли непроверяемые ответы, неработающие тесты, а также задания с чрезмерно низкой или невыполнимой сложностью.

Работа с кодом и автономными задачами

Mellum2.1 умеет ориентироваться в кодовой базе репозитория, самостоятельно изменять файлы и запускать тесты для проверки результата. При решении инженерных задач модель может определить причину падения автотестов, предложить исправление и проверить, устранило ли оно проблему.

Помимо программирования, модель отвечает на повседневные вопросы и пошагово разбирает сложные математические и логические задачи. Ее можно запускать локально или разворачивать на собственных серверах, что позволяет разработчикам сохранять контроль над исходным кодом и конфиденциальными данными.

Результаты тестирования и скорость

JetBrains сравнила Mellum2.1 с предыдущей Mellum2 и открытыми моделями сопоставимого класса — Qwen3.5-9B и Gemma 4 E4B. Самый заметный прогресс относительно предшественницы зафиксировали в задачах агентного программирования. Кроме того, модель улучшила результаты в математике, вызове функций и ответах на общие вопросы.

Сохранение прежней архитектуры позволило не менять базовую скорость работы. При этом механизм предсказания нескольких токенов, или multi-token prediction, повысил производительность: при обработке одиночных запросов она выросла примерно в 1,6 раза. При высокой параллельной нагрузке Mellum2.1 обрабатывает почти вдвое больше токенов, чем Qwen3.5-9B.

Модель уже опубликована в репозитории Hugging Face. JetBrains также готовит версии в формате GGUF для запуска через llama.cpp, Ollama и LM Studio. Кроме того, компания разрабатывает отдельный модуль предсказания токенов для спекулятивного декодирования в среде vLLM.