Яндекс опубликовал в открытом доступе Alice AI Foundation LLM, новую большую языковую модель, обученную компанией с нуля. Она доступна на Hugging Face под лицензией Apache 2.0, поэтому разработчики могут использовать её в исследовательских и коммерческих проектах.
Alice AI Foundation LLM стала экспериментальной моделью, на которой Яндекс тестирует архитектурные решения для будущей единой рассуждающей модели. В дальнейшем она должна стать основой агентных возможностей Алисы AI, позволяющих выполнять действия по поручению пользователя.
Модель построена на архитектуре Mixture of Experts и содержит 80 млрд параметров. При обработке запроса одновременно задействуется около 3 млрд параметров, что снижает требования к вычислительным ресурсам.
По внутренним тестам Яндекса, модель показывает высокие результаты в программировании, математике и задачах на рассуждение. На олимпиадных заданиях по математике её результаты сопоставимы с Qwen3.5-35B-A3B-Base, а в тестах на генерацию кода она превосходит NVIDIA Nemotron-3-Super-120B-Base.
Компания также заявляет, что Alice AI Foundation LLM обходит некоторые более крупные открытые модели в задачах на фактические знания. В частности, речь идёт о DeepSeek-V4-Flash-Base с 284 млрд параметров.
Для оценки качества ответов на русском языке Яндекс разработал два собственных бенчмарка: WikiWebFacts и HardMultiQA. Первый проверяет знание фактов, дат, событий и персоналий, второй включает более сложные вопросы из разных областей, включая медицину, право, IT и искусство.
Оба набора тестов компания также опубликовала в открытом доступе вместе с эталонными ответами и методикой оценки.
При обучении модели Яндекс оптимизировал обмен данными между видеокартами и процесс отбора обучающих материалов. По данным компании, это позволило примерно вдвое ускорить отдельные этапы оптимизации и значительно сократить вычислительные затраты на подготовку данных.
Модель, техническая документация и бенчмарки уже опубликованы на Hugging Face.
