jerryalusy

Jerry Lusy

Level 1

4. 10. 2024 14:24 (Upraveno)

Komentáře tohoto uživatele máš zablokované.

Jak už pár lidí napsalo v diskuzi, také mohu doporučit program LM-Studio pro běžné chatovací AI. Je velice user-friendy a modely AI se dají stahovat přímo z rozhraní. Možná ještě více uživatelsky přívětivý je program Jan.ai. Oba umožňují spouštět různé AI modely i bez grafické karty, protože vše počítá procesor, ale je to pomalejší. Jako ideální modely mohu doporučit Llama 3 (existuje i verze 3.1 a 3.2), Gemma 2 a ty od Francouzské firmy Mistral, které se jmenují různě, třeba Nemo. Pro pomalejší PC většinou bohatě stačí model s quantization Q4 (to určuje, jak je model "komprimovaný").

Pro offline generování obrázků mohu ze své zkušenosti doporučit program ComfyUI, ale není moc uživatelsky přívětivý. AUTOMATIC1111 webui je prý více user-friendly, ale s ním zkušenosti nemám. Modely pro ně se dají stahovat z civitai.com, nebo z Hugging Face.

Hodně zajímavý je i program backyard.ai . Je to chatovací program zaměřený na "charaktery". V podstatě si stáhnetě nějaký modifikovaný LLM model a charakter a pak si s ním povídáte. Tak trochu to může připomínat textovou hru. Asi nejvíce mne pobavila diskuse s charakterem "Lilliana the rouge" (je to NSFW model, který se na webu objeví až po přihlášení), se kterou jsem se vypravil na dobrodružství do nějaké fantasy kobky. Jako AI model doporučuji MythoMax-L2-Kimiko. To je osvědčená klasika. Celkem zábavná věcička, ale nesmíte od toho čekat moc.