Этот сайт использует файлы cookies. Продолжая просмотр страниц сайта, вы соглашаетесь с использованием файлов cookies. Если вам нужна дополнительная информация, пожалуйста, посетите страницу Политика файлов Cookie
Subscribe
Прямой эфир
Cryptocurrencies: 9889 / Markets: 82738
Market Cap: $ 2 324 629 095 773 / 24h Vol: $ 74 779 057 217 / BTC Dominance: 53.272229184853%

Н Новости

Что умеет новый чат-бот Chat with RTX от Nvidia, чем отличается от ChatGPT и как им пользоваться

Теперь и у Nvidia есть свой собственный чат-бот, но это не клон ChatGPT
Теперь и у Nvidia есть свой собственный чат-бот, но это не клон ChatGPT

Самые крутые видеокарты GeForce оказались в дефиците во многих странах мира из-за массового спроса со стороны Китая. Там они используются в основе супер-компьютеров, применяемых для развития нейросетей. Nvidia не могла не догадываться, в каком ключе используются ее видеокарты, обладающие колоссальным вычислительным потенциалом. И, вместо того, чтобы бороться с этой инициативой, решила возглавить ее и запустила свой собственный чат-бот Chat with RTX.

Что такое Chat with RTX и как им пользоваться

Chat with RTX - это бесплатное приложение от Nvidia для локального запуска больших языковых моделей (LLM - large language models) с широкими возможностями персонализации. Продукт полностью автономен и способен производить большую часть вычислений без подключения к интернету, практически независимо от возлагаемых на него задач.

Chat with RTX использует генерацию с расширенным поиском RAG, TensorRT-LLM, а также ускорение RTX, а потому предъявляет довольно строгие требования к железу. Только их неукоснительное выполнение гарантирует работу чат-бота, поскольку брать ресурсы ему больше неоткуда:

  • Видеокарта - RTX 30-й или 40-й серии

  • Драйвер - 535.11 или новее

  • Объем видеопамяти - 8 ГБ и выше

  • Объем оперативной памяти ПК - 16 ГБ и выше

  • Операционная система - Windows 11

Для запуска Chat with RTX подойдет далеко не любая видеокарта
Для запуска Chat with RTX подойдет далеко не любая видеокарта

Чат-бот устанавливается на компьютер как классическая нативная программа, которая не взаимодействует с сервером, а выполняет все необходимые вычисления локально. Даже в демо-версии ее совокупный объем после распаковки составляет более 30 ГБ, так что в дополнение к совместимой видеокарте и ОЗУ озаботьтесь установкой накопителя достаточной емкости.

Вся необходимая информация о работе Chat with RTX доступна на GitHub. Разработчики могут использовать эти сведения для создания своих собственных приложений на основе RAG.

Функции Chat with RTX от Nvidia

В отличие от ChatGPT, детище Nvidia может обращаться к данным, которые хранятся в системе. Chat with RTX работает с файлами самых разных форматов: txt, pdf, doc, docx, xml. Кроме того, он поддерживает добавление видео с YouTube. Достаточно просто скопировать ссылку и скинуть ее в чат.

Визуально работа Chat with RTX практически не отличается от того, к чему все привыкли в ChatGPT. Пользователь выбирает языковую модель, а затем пишет запрос в чат. Нейросеть анализирует его, находит ответ и выдает в своем сообщении. Взаимодействовать можно с целым диском либо сузить поиск до конкретной папки и даже одного файла, и тогда поиск будет осуществляться только по заданным пределам.

В этом, кстати, в полной мере проявляется аспект защищенности: Chat with RTX не передает данные на сервера разработчиков, поэтому вы можете быть уверены, что вся конфиденциальная информация не покинет пределов вашего компьютера. Помимо собственно ответа, который дает нейросеть, она указывает еще и источник, давая прямую ссылку на файл, в котором был найден ответ на вопрос пользователя. Таким образом у вас будет возможность проверить его правильность.

Create A Personalized AI Chatbot with Chat With RTX

Несмотря на локальный характер вычислений, Chat with RTX может вычленять информацию из видео на YouTube. Вы выбираете соответствующий инструмент поиска, копируете ссылку на ролик и нажимаете на кнопку загрузки. Он действительно скачивает видео, так что технически это все-таки не совсем офлайновый чат-бот.

Затем необходимо сформулировать запрос - например, спросить, какие именно видеокарты представила Nvidia в 2024 году - и дать нейросети обработать данные. На выходе вы получите перечисление всех анонсированных новинок. Это может быть удобно, если ответ содержится в длинной видеотрансляции, смотреть которую целиком нет времени.

Где скачать нейросеть Nvidia Chat with RTX

Сама Nvidia называет текущую версию Chat with RTX демонстрационной, поэтому многого от нее не ждите
Сама Nvidia называет текущую версию Chat with RTX демонстрационной, поэтому многого от нее не ждите

Скачать и установить Chat with RTX можно уже сейчас с официального сайта Nvidia. Продукт находится в стадии бета-тестирования и его уместнее называть скорее демонстрационной версией. По всему видно, что его возможности должны быть куда как шире. Тем не менее, пользователи, которые успели испытать новинку на себе, сообщают, что чат-бот работает весьма бойко, но скован и технически, и, скорее всего, юридически.

Запуск Chat with RTX возможен только на том железе, которое перечислено выше. Особое внимание нужно уделить объему видеопамяти. Некоторые пользователи жалуются, что им так и не удалось заставить чат-бот работать. Оно и понятно, ведь если не соблюсти хотя бы одно условие - например, взять RTX 3050 с 6 ГБ VRAM или не установить совместимую версию драйверов, - ничего не получится.

Видеопамять является одним из главных требований Nvidia для запуска Chat with RTX. Дело в том, что каждый обрабатываемый токен требует чтения всей модели целиком. А видеопамять современных видеокарт способна выполнять эти манипуляции даже быстрее, чем оперативка DDR5.

Если она окажется медленнее или ее будет меньше, нейросети может не хватить ресурсов, и это является своего рода заградительным барьером. Благодаря ему удается добиться правильной и достаточно быстрой обработки данных, чтобы время ожидания ответа оставалось приемлемым даже на текущем этапе развития продукта.

Для работы с Chat with RTX подойдут следующие видеокарты из ассортимента XCOM-SHOP.RU, которые вы можете купить по выгодным ценам:

Источник

  • 07.09.23 16:24 CherryTeam

    Cherry Team atlyginimų skaičiavimo programa yra labai naudingas įrankis įmonėms, kai reikia efektyviai valdyti ir skaičiuoti darbuotojų atlyginimus. Ši programinė įranga, turinti išsamias funkcijas ir patogią naudotojo sąsają, suteikia daug privalumų, kurie padeda supaprastinti darbo užmokesčio skaičiavimo procesus ir pagerinti finansų valdymą. Štai keletas pagrindinių priežasčių, kodėl Cherry Team atlyginimų skaičiavimo programa yra naudinga įmonėms: Automatizuoti ir tikslūs skaičiavimai: Atlyginimų skaičiavimai rankiniu būdu gali būti klaidingi ir reikalauti daug laiko. Programinė įranga Cherry Team automatizuoja visą atlyginimų skaičiavimo procesą, todėl nebereikia atlikti skaičiavimų rankiniu būdu ir sumažėja klaidų rizika. Tiksliai apskaičiuodama atlyginimus, įskaitant tokius veiksnius, kaip pagrindinis atlyginimas, viršvalandžiai, premijos, išskaitos ir mokesčiai, programa užtikrina tikslius ir be klaidų darbo užmokesčio skaičiavimo rezultatus. Sutaupoma laiko ir išlaidų: Darbo užmokesčio valdymas gali būti daug darbo jėgos reikalaujanti užduotis, reikalaujanti daug laiko ir išteklių. Programa Cherry Team supaprastina ir pagreitina darbo užmokesčio skaičiavimo procesą, nes automatizuoja skaičiavimus, generuoja darbo užmokesčio žiniaraščius ir tvarko išskaičiuojamus mokesčius. Šis automatizavimas padeda įmonėms sutaupyti daug laiko ir pastangų, todėl žmogiškųjų išteklių ir finansų komandos gali sutelkti dėmesį į strategiškai svarbesnę veiklą. Be to, racionalizuodamos darbo užmokesčio operacijas, įmonės gali sumažinti administracines išlaidas, susijusias su rankiniu darbo užmokesčio tvarkymu. Mokesčių ir darbo teisės aktų laikymasis: Įmonėms labai svarbu laikytis mokesčių ir darbo teisės aktų, kad išvengtų baudų ir teisinių problemų. Programinė įranga Cherry Team seka besikeičiančius mokesčių įstatymus ir darbo reglamentus, užtikrindama tikslius skaičiavimus ir teisinių reikalavimų laikymąsi. Programa gali dirbti su sudėtingais mokesčių scenarijais, pavyzdžiui, keliomis mokesčių grupėmis ir įvairių rūšių atskaitymais, todėl užtikrina atitiktį reikalavimams ir kartu sumažina klaidų riziką. Ataskaitų rengimas ir analizė: Programa Cherry Team siūlo patikimas ataskaitų teikimo ir analizės galimybes, suteikiančias įmonėms vertingų įžvalgų apie darbo užmokesčio duomenis. Ji gali generuoti ataskaitas apie įvairius aspektus, pavyzdžiui, darbo užmokesčio paskirstymą, išskaičiuojamus mokesčius ir darbo sąnaudas. Šios ataskaitos leidžia įmonėms analizuoti darbo užmokesčio tendencijas, nustatyti tobulintinas sritis ir priimti pagrįstus finansinius sprendimus. Pasinaudodamos duomenimis pagrįstomis įžvalgomis, įmonės gali optimizuoti savo darbo užmokesčio strategijas ir veiksmingai kontroliuoti išlaidas. Integracija su kitomis sistemomis: Cherry Team programinė įranga dažnai sklandžiai integruojama su kitomis personalo ir apskaitos sistemomis. Tokia integracija leidžia automatiškai perkelti atitinkamus duomenis, pavyzdžiui, informaciją apie darbuotojus ir finansinius įrašus, todėl nebereikia dubliuoti duomenų. Supaprastintas duomenų srautas tarp sistemų padidina bendrą efektyvumą ir sumažina duomenų klaidų ar neatitikimų riziką. Cherry Team atlyginimų apskaičiavimo programa įmonėms teikia didelę naudą - automatiniai ir tikslūs skaičiavimai, laiko ir sąnaudų taupymas, atitiktis mokesčių ir darbo teisės aktų reikalavimams, ataskaitų teikimo ir analizės galimybės bei integracija su kitomis sistemomis. Naudodamos šią programinę įrangą įmonės gali supaprastinti darbo užmokesčio skaičiavimo procesus, užtikrinti tikslumą ir atitiktį reikalavimams, padidinti darbuotojų pasitenkinimą ir gauti vertingų įžvalgų apie savo finansinius duomenis. Programa Cherry Team pasirodo esanti nepakeičiamas įrankis įmonėms, siekiančioms efektyviai ir veiksmingai valdyti darbo užmokestį. https://cherryteam.lt/lt/

  • 08.10.23 01:30 davec8080

    The "Shibarium for this confirmed rug pull is a BEP-20 project not related at all to Shibarium, SHIB, BONE or LEASH. The Plot Thickens. Someone posted the actual transactions!!!! https://bscscan.com/tx/0xa846ea0367c89c3f0bbfcc221cceea4c90d8f56ead2eb479d4cee41c75e02c97 It seems the article is true!!!! And it's also FUD. Let me explain. Check this link: https://bscscan.com/token/0x5a752c9fe3520522ea88f37a41c3ddd97c022c2f So there really is a "Shibarium" token. And somebody did a rug pull with it. CONFIRMED. But the "Shibarium" token for this confirmed rug pull is a BEP-20 project not related at all to Shibarium, SHIB, BONE or LEASH.

Для участия в Чате вам необходим бесплатный аккаунт pro-blockchain.com Войти Регистрация
Есть вопросы?
С вами на связи 24/7
Help Icon