Компания Яндекс выложила в открытый доступ нейросеть YaLM 100B. Она способна создавать и обрабатывать тексты на русском и английском языках. В пресс-службе Яндекса отмечают, что это самая большая GPT-подобная модель, которая есть в свободном доступе.
Нейросеть содержит рекордные 100 млрд параметров. Такой массив данных позволяет ей решать большинство задачей, связанных с обработкой языка. Например, она способна придумывать идеи для рекламы, создавать описания товаров и видео. Также с её помощью можно генерировать ответы, стихи, поздравления и многое другое.
Нейросети YaLM используется более чем в 20 проектах Яндекса, в их числе поисковая машина и голосовом ассистент Алиса.
Обучение моделей происходило на суперкомпьютерах Яндекса, которые признаны самыми мощными в Восточной Европе. Сейчас она доступна по открытой лицензии Apache 2.0 и на GitHub.
