V obdobju, ko tehnološka podjetja tekmujejo v razvoju naprednih klepetalnih robotov z umetno inteligenco, NVIDIA, znana predvsem po svojih zmogljivih grafičnih čipih, predstavlja lasten preboj: “Chat with RTX”. Ta inovacija omogoča uporabnikom, da na svojem računalniku brez potrebe po internetni povezavi upravljajo klepetalnega robota, ki ga poganja umetna inteligenca.
“Chat with RTX” ni zgolj še ena aplikacija za klepet. Gre za tehnično demonstracijo, ki uporabnikom omogoča, da ustvarijo svoj prilagojeni GPT LLM (veliki jezikovni model), ki je integriran z osebnimi dokumenti, zapiski, videoposnetki in drugimi podatki. Zasnovan na tehnologiji RAG (augmented retrieval generation), podprt s TensorRT-LLM modelom in pospešen z RTX tehnologijo, ta sistem zagotavlja hitro in zanesljivo lokalno izvajanje na Windows računalnikih, opremljenih z RTX grafičnimi procesorji serije 30 ali 40, ki imajo vsaj 8 GB VRAM.
Pomembna značilnost projekta NVIDIA je njegova sposobnost obdelave različnih formatov datotek, vključno s pdf, doc in xml, ter možnost iskanja po vsebini YouTube videoposnetkov. Uporabniki lahko preprosto vnesjo URL naslova seznama predvajanja, in aplikacija bo samodejno naložila prepise videoposnetkov, omogočajoč poizvedbe o vsebini neposredno preko klepetalnega robota.
Trenutno “Chat with RTX” še ni na voljo širši javnosti, saj je aplikacija v fazi uvajanja. Vendar pa lahko zainteresirani uporabniki obiščejo uradno spletno stran NVIDIA in se prijavijo za obvestila po elektronski pošti, da bodo obveščeni, ko bo aplikacija dostopna za prosti prenos. Ta poteza od NVIDIA ne le utrjuje njeno vlogo kot pionirja na področju grafičnih procesorjev, ampak tudi kot inovatorja v hitro razvijajočem se svetu umetne inteligence.