@maslovycroissant
No když jsem se nedávno ptal claude na porovnání claude code a codex. Tak mi napsal něco o tom, že claude code je něco jako švýcarský nůž a codex, je něco jako skalpel. A to si myslím, že je to opravdu realita. Kdo to fakt seriózně používá, tak jede oboje. Codex i claude code. Já jsem si oblíbil pracovně claude.code jako kódovací nástroj a codex používám jako code review toho co vypadne z claude code. Na vyloženě sofistikovaný algoritmický věci používám přímo codex. Ten výsledek je prostě při zadání toho a samého v codexu na první dobrou lepší.
@PanBoh
@PanBoh 48 GB VRAM od AMD Radeon pro W7900 za 65K bez daně vs 48GB VRAM od NVIDIE HP NVIDIA RTX 6000 Ada 48GB 4DP GFX za 220K bez DPH. Takze si za jednu NVIDII se 48 můžu pořídit 144 GB VRAM od AMD a na tom se už něco dát rozeběhnout.
Ještě před třemi lety to vypadalo, že výkon na lokálních PC bude ustupovat cloudu. Nástup generativní AI a exploze dat ale křivku otočily. Podle Synergy Research Group narostly globální výdaje na hardware a software datových center v roce 2024 o 34 % na rekordních 282 miliard USD, přičemž investice podniků (mimo veřejný cloud) poskočily o 21 % — firmy tedy znovu staví vlastní výpočetní farmy a doplňují je výkonnými pracovními stanicemi zapojenými do interních gridů.
Kancelářskou agendu dnes sice zvládne téměř jakýkoli notebook, ale jakmile jde o simulace, strojové učení nebo 3D vizualizace, bez lokální „svalové hmoty“ se firmy neobejdou. To potvrzuje i IDC: po propadu o 8,8 % v roce 2023 má segment pracovních stanic letos vyrůst o 5,2 % a v roce 2025 zrychlit na +7,9 %, protože podniky obnovují flotily a připravují se na Windows 11 a AI‑akcelerované workflow.
Náklady na cloud navíc rychle narůstají. CIOs velkých podniků už reportují účty za AI služby přes 1 milion USD měsíčně, a 47 % z nich proto začalo vyvíjet a provozovat generativní AI in‑house. Spolu s tím roste hlad po specializovaném hardwaru: trh datacenterových GPU měl v roce 2024 hodnotu 16,9 mld. USD a prognóza počítá s CAGR 27 % až do 2034, přičemž 59 % obratu už dnes připadá na on‑premises instalace.
Celková infrastruktura pro AI se tak stala samostatnou kapitolou IT rozpočtů. IDC odhaduje, že podniky nalily do AI hardware a softwaru v roce 2024 47,4 mld. USD (meziroční skok +97 %) a do roku 2028 se tato částka může přehoupnout přes 200 mld. USD. Bezpečnost hraje klíčovou roli: 55 % organizací přiznává, že některé AI případy použití stoply kvůli obavám z úniku dat, a lokální výpočet tak dostává přednost i před „levnějším“ cloudem.
Stručně řečeno: éra menšího, lokálnímu výkonu určitě nekončí — naopak se k němu firmy vracejí kvůli nákladům, ochraně know‑how a rostoucím nárokům AI. Pokud chtějí výrobci PC a serverů růst, právě tahle vlna distribuovaných firemních „mini‑datacenter“ je jejich největší příležitost.
@Smazaný uživatel
@Kryptofasista OpenAI trénuje na datech nás všech na neuronce kterou někdo vyzkoumal na Něměcký státní univerzitě. Komoušský myšlení je, že si vemu věci od ostatníchj, prohlásím to za private a budu jim prodávat to co jsem jim šlohl. To dělaj komouši.
AI reasoning lze efektivně trénovat hlavně strojově za využití dalších modelů. To znamená, že i „čínské týmy“ musely vyvíjet tuto techniku ve srovnání se západními modely.
Souhlasím, že s obecným modelem se zatím těžko dělá byznys. Obor je pořád v plenkách a pokrok bude překotný. Trump je (podle mého názoru) naivní, jestli si spolu s Altmanem myslí, že Spojené státy budou modely chránit jako soukromé vlastnictví. Je to nesmysl.
V obecné podobě by se totiž AI mělo provozovat jako společný statek, do kterého všichni přispívají datově i technologicky, a globálně z něj čerpají užitek. Neříkám, že to neplatí pro vysoce specializované oblasti, například v průmyslu nebo bankovnictví, ale i tam je obtížné řešení zcela ochránit.
Podle mého by AI mělo zkrátka fungovat jako veřejný statek.
Uvidíme jak bude pan Rybka protestovat až Trump začne deportovat ty milióny ilegálů , kterých děti už jsou plnohonotní občané USA. Chudák veverka, ale co ty děti?
Super článek. Ventilátory jsou věda. Jedna věc je dobře chladit komponenty. A druhá věc je vypudit teplo ze skříně. Hrál jsem si s tím, dlouho ale nemá to prakticky řešení. Variabilita toho, co zrovna peče a co se fláká, je obrovská. V mém případě responsibilita chlazení je ok. Mám 2 GPU, které se chladí ok, ale samozřejmě jejich back plates vyzařují teplo. Při GPGPU nebo i hraní CPU není tolik zatěžováno, tzn. jeho radiátor se tolik netočí a kumuluje se v krabici teplo. Jediný, co dávalo smysl, jsou agresivnější nastavení větráků, co přivádějí vzduch do skříně a pak odvádí napojené na hodnoty desky. Ale stejně to není úplně ideál. Ticho při mírné zátěži je asi nejpodstatnější. Pak člověk musí experimentovat a mít profily i třeba jako na roční období. Mám dvě. Jedno pro teplejší okolní vzduch a jedno pro chladný okolní vzduch. Ale prostě jednou za čas se v tom vždycky pohrabu a jdu na to i teď, protože mě k tomu motivoval tento článek :-)
Pěkný článek. Ještě stojí za doplnění, že další věc na hraní s LLM na lokále je LM Studio, který je asi nejlepší. Běží to na AMD i NVIDIE, lze vyhledávat a sosat modely přímo v něm a různě s tím experimentovat, a to včetně API a použití v aplikacích. LM Studio Web
@mibfox
# @mibfox Seagate mi v životě nevodešel žádný. Každej dokončil svůj cyklus. U Westernu mi krom Raptora a Velociraptora oděšlo u mechaňáků úplně všechno a nic nedokončilo, životní cyklus což mám u mechanických disků mentálně nastavený na 4 roky.
AMD se 48 GB VRAM pořídíte za 80K bez DPH,, Nvidia to má dost předražený. Za pár let bude několik TB RAM a Stovky GB VRAM běžnou realitou v domácím PC. Dnes můžete doma s dostatnkem RAM provozovat prakticky každej LLM. Čím víc VRAM tak je to rychlejší. Mít možnost provozovat lokálně je úplně jinej level .
Letíme na horký kouli Vesmírem a a naše životnost je dána mírou pravděpodobnosti, kterou ovlivňujeme jen v minimálním okruhu aspektů. AI by tu pravděpodobnost mohla ohnout trochu v náš prospěch a ten okruh rozšířit. Daň za to bude, že se budem fakt hodně měřit :-)
@Smazaný uživatel
@TomMaly Většina efektu v rasterizaci je Fake, proto to je rychle a vypadá to +- ok. Díky tomu hrajem relativně pěkný hry už dlouhou dobu. RT je sice super featura, ale samo o sobě neřeší nic, a strašně to žere.
@SoongVilda
@SoongVilda Když započítáš inflaci. Pořádný PC stojí stéle stejně, respektive je levnější. A to ještě nehodnotím jakej člověk má reálnej výkon. Na hraní a na práci stále bez konkurence. Jako na nějaký šolíchání je to asi jedno. Ale jak člověk potřebuje trochu výkonu a paměti , tak by se v Cloudu nedoplatil. Měsíc se v Azure provozoval PoC na něco kde byla potřeba na výpočet grafika a za měsíc se utratilo jako za komp s pořádnou grafárnou a CPU.
