Nvidia представила генеративную нейросеть под названием Chat with RTX, способную работать локально на компьютерах с операционной системой Windows. Отличительной чертой Chat with RTX является независимость от интернета. Пользователям доступны две языковые модели: Mistral и Llama 2.
Одной из важных возможностей нейросети является возможность сканирования локальных файлов, таких как *.txt, *.pdf, *.doc, *.docx и *.xml, для поиска ответов. Более того, Chat with RTX может извлекать информацию из видео и плейлистов на YouTube.
Благодаря локальной работе и отсутствию обращений к облачным серверам, все данные пользователя остаются на его компьютере. Для запуска нейросети необходима видеокарта серии RTX 30 или 40 с 8 ГБ видеопамяти, 16 ГБ оперативной памяти и достаточный объем дискового пространства. Размер установочного файла составляет 35 гигабайт.
Скачать можно по ссылке.