Ciekawe narzędzie AI od Nvidia. Chat with RTX będzie dostępny dla użytkowników kart graficznych RTX 30 i 40

Chatbot działający bez konieczności połączenia z Internetem? Brzmi ciekawie i takie narzędzie jest dostępne dla wszystkich użytkowników kart graficznych od Nvidia, będących w posiadaniu przynajmniej RTX serii 30 lub 40 oraz RTX Ampere albo Ada Generation. Chat With RTX to sztuczna inteligencja, działająca lokalnie na komputerze. Oprócz wymagań, w postaci wskazanych przez producenta kart graficznych, aby móc skorzystać z AI, trzeba być w posiadaniu PC z systemem Windows 10 lub 11, natomiast GPU musi działać z przynajmniej 8 GB VRAM. Należy też pamiętać, że sztuczna inteligencja obecnie działa w wersji beta.

Chat With RTX wykorzystuje technologie TensorRT-LLM, czyli model językowy, działający lokalnie z poziomu urządzenia, bez konieczności połączenia z Internetem. Dodatkowo w tym rozwiązaniu jest wykorzystywana technologia RAG (Retrieval Augamanted Generation).

Co oferuje nam AI od Nvidia?

Dzięki temu, że Chat With RTX działa lokalnie, a nie w chmurze, sztuczna inteligencja jest szkolona w zakresie naszych zachowań, co skutkuje lepszymi odpowiedziami AI. Ciekawą funkcjonalnością jest to, że użytkownik może przesłać zapytanie, zawierające link do filmu na YouTube i zadać chatbotowi pytanie, dotyczące treści nagrania. Ta opcja działa nie tylko z adresami URL, ale też z filmami przesłanymi z komputera. Dodatkowo, program wspiera obsługę plików o rozszerzeniach .txt, .pdf, .doc/.docx oraz .xml. Producent twierdzi, że odpowiedzi są generowane szybko, ze względu na brak połączenia z chmurą, a wszystkie dane zostają na urządzeniu użytkownika.

Firmy co raz częściej implementują w swoich rozwiązaniach sztuczną inteligencję. Chat With RTX to kolejne narzędzie wykorzystujące AI – zobaczymy, jak chatbot poradzi sobie w przyszłości.

Czytaj więcej:Znany leaker Nvidii zdradza, który RTX 5000 trafi najwcześniej na rynek