Umělou inteligenci si už můžete stáhnout přímo do počítače, Nvidia ukázala Chat with RTX
Otravuje vás pomalé ChatGPT a stále vytížené servery? Osobního asistenta v podobě umělé inteligence si můžete stáhnout přímo do PC. Má to samozřejmě pár háčků.
Model umělé inteligence běžící na lokálním stroji není úplně novým řešením. Zřejmě poprvé se ale do této kategorie AI pouští větší firma s celkem dostupným řešením, které si může snadno zapnout i méně technicky zdatný uživatel. Jde konkrétně o Nvidii, která staví na svém ekosystému RTX a jádrech Tensor v posledních řadách grafik.
Program Chat with RTX běží kompletně lokálně a demo si už nyní můžete stáhnout ze stránek Nvidie. Ještě, než se do stahování pustíte, si pozorně přečtěte hardwarové nároky. Program má totiž 35 GB i po rar kompresi. Takovou porci dat mnozí jistě nechtějí stahovat zbytečně.
Nvidia zmiňuje, že musíte mít grafickou kartu ze série RTX 30 nebo RTX 40. Zmínka o RTX 20 úplně chybí. Zároveň vaše grafika musí disponovat aspoň 8 GB VRAM. Například RTX 3050 s 6 GB tak nebude kompatibilní.
Chat with RTX dokáže pracovat s lokálními soubory i daným odkazem, pokud ho vyplníte. Jinak program běží kompletně offline, alespoň podle Nvidie.