Nvidia запустила чат-бота, який працює без інтернету

Компанія Nvidia, відома своїми графічними процесорами, випустила новий інструмент під назвою Chat with RTX, який є перспективним чат-ботом на базі штучного інтелекту

Фото: motionarray.com

Після тестування програми, видання The Verge оцінило її як не зовсім довершену, але все ж таки корисну.

Що вміє чат-бот

Chat with RTX може обробляти відео на YouTube. Необхідно для цього ввести URL-адресу, і він зможе знайти певні згадки у транскриптах або підсумувати все відео у тексті.

За кілька секунд, вже були виявлені несправності під час пошуку відомостей у транскрипціях відео, або ж чат-бот використовував для пошуку зміст іншого ролика.

Chat with RTX також виявився корисним для обробки файлів різних форматів, включаючи TXT, PDF, DOC та DOCX. Стверджується, що системі Copilot від Microsoft складно обробляти файли, але чат-бот від Nvidia без проблем витягнув всю необхідну інформацію. Відповіді також були майже миттєві, без затримок, які зазвичай спостерігаються під час використання хмарних чат-ботів, як-от ChatGPT або Copilot.

Цей чат-бот також допоміг тестувальникам створити релевантний набір даних у Microsoft, який швидко узагальнив всю стратегію компанії.

Читайте також: Microsoft інвестує в медіастартап та дасть йому свій ШІ-бот: деталі угоди

Технічні характеристики

Chat with RTX заснований на двох мовних моделях – Mistral та Llama 2. Цей інструмент працює безпосередньо на вашому комп’ютері, тому немає потреби підключатися до інтернету. Головна умова – мати операційну систему Windows, графічний процесор RTX серій 30 або 40 з відеопам’яттю не менше 8 ГБ.

Що стосується встановлення програми, це триває близько 30 хвилин і вимагає значних ресурсів вашого ПК. Вона важить майже 40 ГБ, а його екземпляр Python використовує близько 3 ГБ із 64 ГБ оперативної пам’яті. Після запуску ви отримуєте доступ до Chat with RTX через браузер, а у фоновому режимі працює командний рядок.

Важливо зазначити, що Chat with RTX наразі є демоверсією для розробників і має свої обмеження та недоліки.

Завантажити Chat with RTX можна безкоштовно з офіційного сайту Nvidia.

Читайте також: Польське місто запроваджує власний стейблкоїн

Ознайомтеся з іншими важливими матеріалами:

ШІ створює документи для обходу перевірок криптобірж

Скільки енергії споживатиме ШІ в найближчі роки — Morgan Stanley

Перспективи й регулювання ШІ в Україні: репортаж з IT Meets Tech