15.02.2024 | Chat with RTX от Nvidia: локальный ИИ теперь реальность |
Nvidia анонсировала приложение Chat with RTX, открывающее новые возможности для работы с языковыми моделями локально. Теперь пользователи, имеющие определенное техническое оснащение, могут взаимодействовать с искусственным интеллектом на своих компьютерах. Приложение Chat with RTX, совместимое с Windows 11, позволяет запускать большие языковые модели на устройстве пользователя. Для его использования требуется наличие видеокарты RTX 30 или 40 серии и минимум 16 ГБ оперативной памяти. Chat with RTX дает возможность работать с известными языковыми моделями, такими как Llama и Mistral, как показано в видео от Nvidia. Пользователи могут также интегрировать собственные документы или заметки в процесс, чтобы программа учитывала эти данные при формировании ответов. Особенностью приложения является функция анализа содержания YouTube-видео: пользователи могут предоставить ссылку на видео и задавать вопросы о его содержании или получить краткое содержание. В случае работы с локальными файлами, приложение укажет источник данных, использованный для генерации ответа, что обеспечивает дополнительную проверку полученной информации. Nvidia подчеркивает, что вся обработка данных происходит на устройстве пользователя и не передается на внешние сервера. Для работы приложения необходима не только соответствующая видеокарта и оперативная память, но и 8 ГБ видеопамяти. |
Проверить безопасность сайта