Nvidia представила Chat with RTX – унікальний чат-бот, який може вирішувати безліч задач та працює без інтернету
Nvidia, компанія-лідер у виробництві графічних процесорів, представила новий інструмент Chat with RTX, який є одним з найбільш багатообіцяних чат-ботів зі штучним інтелектом. Він працює без підключення до інтернету, що є його основною особливістю.
Chat with RTX може проводити аналіз відео з YouTube. Просто вкажіть URL-адресу, і він зможе знайти певні згадки у транскриптах або підсумувати весь відеоматеріал у текстовому вигляді.
Це потребує лічених секунд, однак поки що програма не є ідеальною, адже під час пошуку відомостей у транскрипціях відео виявлені невірності, або ж чат-бот використовував для пошуку зміст іншого ролика.
Chat with RTX також виявився корисним для обробки файлів різних форматів, включаючи TXT, PDF, DOC та DOCX. Він майже миттєво витягає необхідну інформацію без затримок, які зазвичай спостерігаються під час використання хмарних чат-ботів, як-от ChatGPT або Copilot.
Чат-бот Nvidia заснований на двох мовних моделях – Mistral та Llama 2. Цей інструмент працює безпосередньо на вашому комп’ютері, тому нема потреби підключатися до інтернету. Головна умова – мати операційну систему Windows, графічний процесор RTX серій 30 або 40 з відеопам’яттю не менше 8 ГБ.
Що стосується встановлення програми, це триває близько 30 хвилин і вимагає значних ресурсів вашого ПК. Вона важить майже 40 ГБ, а її екземпляр Python використовує близько 3 ГБ із 64 ГБ оперативної пам’яті. Після запуску ви отримуєте доступ до чату через браузер, а у фоновому режимі працює командний рядок.
Chat with RTX наразі є демоверсією для розробників і має свої обмеження та недоліки. Чат-бот є безплатним і доступним для завантаження на офіційному вебсайті Nvidia.
