Serverová GPU za $200 v domácím PC: Kutil ho předělal na PCIe

Pokud nechcete utrácet desítky tisíc za ty nejnovější GPU s logem RTX, můžete se zkusit poohlédnout v serverovém "odpadu". Přesně to udělal jeden z hardwarových nadšenců, který si na internetovém bazaru pořídil vyřazený starší serverový akcelerátor Nvidia Tesla V100 za směšných 200 dolarů (cca 4100 Kč). Zásadní háček ovšem spočíval v tom, že tyto robustní karty nevyužívají klasický PCIe slot pro běžné základní desky, ale připojují se přes specifický průmyslový konektor SMX, který doma zkrátka nemáte kam zapojit.

Pro pravého kutila to ale nebyla nepřekonatelná překážka, nýbrž inženýrská výzva. Aby kartu oživil v běžném stolním počítači, navrhl a nechal si vyrobit unikátní vlastní PCB, která funguje jako inteligentní adaptér pro převod SMX rozhraní na standardní PCIe. U elektroniky to ale neskončilo. Serverové akcelerátory totiž postrádají vlastní ventilátory, jelikož spoléhají na extrémní průvan ve velkých rackových skříních. Na řadu tak musel přijít 3D tisk, pomocí kterého nadšenec vymodeloval a vyrobil na míru padnoucí chladicí tunel pro uchycení klasických PC ventilátorů.

Výsledek tohoto "Frankensteina" je naprosto fascinující. Zmodifikovaná karta nyní v domácích podmínkách s naprostým přehledem a lokálně pohání obrovské jazykové modely (LLMs). V oblasti AI inference (tedy samotného běhu a odvozování umělé inteligence) navíc tento modifikovaný serverový křemík nabízí mnohem lepší efektivitu a celkový poměr ceny a výkonu než drtivá většina dnešních mid-range herních grafik v obchodech. Jde o dokonalou ukázku toho, jak dokáže hardwarová komunita přechytračit trh a vdechnout nový, nesmírně užitečný život komponentám, které by obří korporace jinak bez milosti odepsaly.