Корпорация Nvidia представила собственный аналог чат-бота ChatGPT. Его отличительной чертой является то, что он способен работать локально на компьютере с Windows. Доступ к интернету при этом не потребуется.
Принцип работы прост: человек спрашивает, ИИ отвечает или создает какой-то контент по запросу. При этом в программе можно выбрать одну из двух больших языковых моделей – Mistral или Llama 2. Помимо этого, нейросеть Chat with RTX способна обрабатывать видео с YouTube.
Журналисты The Verge уже успели протестировать сервис и отметили, что Chat with RTX неплохо справляется с задачами анализа. Это в первую очередь может быть полезно как журналистам, так и всем, кто работает с большими объемами информации. Но пока это больше ранняя демо-версия, чем законченное решение.
Как пользоваться
Для запуска чат-бота нужна видеокарта GeForce RTX 30-й или 40-й серии, минимум 16 ГБ оперативной памяти и внушительный объем дискового пространства. Например, один лишь установочный файл весит 35 ГБ, при том, что это лишь "техническая демонстрация.
Если все условия соблюдены, скачать нейросеть можно бесплатно на сайте компании.
