Zpět na článek

Diskuze: Taalas implementoval AI modely přímo do křemíku - výkon je brutální

Nejsi přihlášený(á)

Pro psaní a hodnocení komentářů se prosím přihlas ke svému účtu nebo si jej vytvoř.

Rychlé přihlášení přes:

Reklama

Pjetro de

Level 40

21. 2. 2026 11:18 (Upraveno)

Komentáře tohoto uživatele máš zablokované.

V tomto vesmire vladnu NEPRIAME umernosti.

Tak ako su GPU energeticky 20-nasobne efektivnejsie (ale iba v specifickych ulohach) ako CPU, tak mozme zasnut nad specializovanymi obvodmi s 20x vacsou energetickou efektivitou ako GPU (a teda 400x vacsou ako CPU), napr. specializovane ASIC cipy na dolovanie BTC alebo odbody (casto sucastou vacsich cipov) na kryptovanie ci multimedialne (en)kodovanie ci ako v tomto propade pre siecialny AI model - a to vsetko so neuveritelne niztkou spotrebou a uzasnym vykonom. Cim ma nieco vyssiu energeticku efektivitu, tym je to menej vseobecne pouzitelne. Je to nepriama umera. Ten cip na konkretny AI model ma brulany vykon v danej oblasti, ale okrem toho nevie ANI HOVNO. Ziadny OS na nom nenabootuje.

No a takych nepriamych umernosti je celé hafo:

A) zoberme si rychlost zaznamoveho media (latencie ci kontinualka) a jeho kapacitu:

1) registre CPU, latencia 1-2 CPU cykly (zlomok ns), rychlost jednotky TB/s, alebo aj viac, kapacita radovo 100 B ci 1 kB

2) L1 cache CPU, dnesne CPU maju taky rychly cache system, ze pred 20 rokmi by sme z toho odpadli, latencia 2-3-4 cykly (zlomok ns), kontinualne rychlost citanie/zapis radovo vysokeeee stovky GB/s (najnovsie L1 cache maju kontinualky az 1 TB/s !!!) a kapacita zopar 10 ci zopar 100 kB

3a) L2 cache CPU, latencia 10-12-14 cyklov CPU (cca 10 ns), kontinualny pristup stale aj stovky GB/s, latencia desiatky cyklov CPU (cca 30-50), kapacity radovo MB

3b) L3 cache CPU, latencia desiatky cyklov CPU (stovky ns), kontinualny pristup stale okolo 100 GB/s (ale uz sa v pomalosti blizi k rychosti RAM), latencia desiatky cyklov CPU (cca 30-50), kapacity radovo desiatky ci nes uz aj stovky MB

4) RAM, latencia tisice CPU cyklov (radovo cca 50-100 ns), kontinulany pristup 1 - 100 GB/s od suchej single channel 266 MHz DDR2 po tripple/quad channel DDR5 7200 MHz, kapacita radovodesiatky GB

5) SSD, latencia statisice CPU cyklov (radovo cca 0,01-0,1 mikrosek), kontinualny pristup radovo 1 az 10 GB/s (30 MB prve SSD az 550 MB/s posledne bezne SSD), kapacita radovo niekolko 100 GB ci nizke jednotky TB (pre beznych ludi)

6) HDD, latencia miliony/desiatky milionov cyklov CPU (radovo 10 milisek), kontinualny pristup radovo 100 MB/s (od 20 MB/s pri suchom 60-80 GB modeli spred 10. rokov po 150-170 MB/s dnesnych diskov V PRIEMERE), kapacity radovo jednotky TB ci nuzsie desiatky TB

7) zalohovacia paska, latencia miliadry/desiatky miliard cyklov CPU (az niekolko desiatok sekund! sa musi pretacat), kontinualny pristup radovo 100 MB/s, kapacity radovo TB, ci az desiatky TB

Krasna nepriama umernost: cim vacsia kapacita, tym nizsie rychlosti (pristupove doby aj kontinualne) a naopak.

B) mnozstvo informacia a ich trvacnost:

Vztah nie je samozrejme uplne presny (napr. linearny ci logaritmicky), avsak korelacny koeficient je prilis velky aby sme ho ignorovali. Cim viac informacii na mediu, tym ma mensiu zivotnost, plati to od napisov v kameni z cias stareho egypta spred 3 tisicroci pred Kristom (mnozstvo informacii radovo 1 kB, trvacnost radovo 10000 rokov) az po heliove ci sindlove ci HAMR HDD. Do minulosti by sme dokonca mohli ist az po zaznam cisel do vestickej vrublovky (kost vlka spred 35 tisic rokov, kde su zaznacene prirodzene cisla do 20 ako zarezy). Vsetka cest niektorym diamantovym super-hyper trvacnym DVD, ktore sa snazia vytrcat od regresnej priamky.

Opat krasna nepriama umernost: cim vacsia kapacita tym mensia trvacnost a naopak. Data na tom 32 TB disku (volne pohodeneho v prirode) iste nevydrzia 35 tisic rokov, ani 5 tisic, ani tisic, ani sto ...

C) mnozstvo informacii a orientacia/vyhladavanie novych/filtrovanie informacii:

Ich sucinom moze vzniknut nieco ako "efektivita spracovavania a narabania s informaciami" a sucin tychto velicin je cca radovo konstantny (opat vsak len fuzzy priblizne), t.j. ked sa jedna velicina zvacsi (napr. mnozstvo informacii), druha sa zmensi (schopnost orientacie/vyhladavania/filtrovania novych informacii) no a opacne. Nech zije Google, ktory chvalabohu "kazi" toto pravidlo a vytrca mimo regresnej priamky.

D) ze by sme zabrdli do kvantovej mechaniky, podla ktorej urcit zaroven presnu polohu a presnu hybnost subatomarnych castic je nemozne? Akoze nam to vyzera princip neurcitosti zapisany rovnickou: (detla_d)(delta_p) > 2pih .. t.j. nepresnost v urceni polohy KRAT nepresnost v urceni hybnosti je vzdy vacsia ako konstanca 2pi*h (kde h je planckova konstanta) ... zasa sucin dvoch vecilin: nepresnost v urceni polohy a nepresnost v urceni hybnosti. Chvala panu bohu (ci inej nadprirodzenej entite), ze planckova konstanta je tak mala, inak by boli kvantovo-mechenicke prejavy na poriadku dna aj v makroskopickych meritkach.

E) k clanku: sucin univerzalnosti stroja a jeho spotreby (resp. ak chceme tak aj efektivity v opacnom zmysle) je opat fuzzy konstantny. Cim viac univerzalny stroj/suciastka, tym mensia efektivita a vyssia spotreba. CPU moze mat sice spotrebu 200 W (ak ide naplno), ale zato je sakramentsky univerzalny, ze by sa Turing v hrobe obracal. GPU moze mat sice efektivitu 50x vacsiu, ale zato nie vsade, iba pri grafickych operaciach, resp. customizovanych GPGPU vypoctoch, ktore sa nam krkolomne podarilo optimalizovat rozchodit, ale Total Commander ci OS si na GPU nespustim. Moze existovat super-hyper hardverovo specializovany cip s este 100x lepsou efektivitou oproti VGA, ale taky cip vie robit len jednu jedinu konktretnu ulohu/vypocet ci triedu uloh (napr. akcelerovat multimedia konkretnymi kodekmi ci akcelerovat patricne kryptograficke algoritmy ci dnes AI model) a okrem toho bez prepacenia ani h**no (lebo ani OS na nom nenabootoje)