Startup TinyCorp připojil k Mac Mini externí GPU pro výpočty AI
Společnost TinyCorp úspěšně propojila Apple Mac Mini s externími grafickými kartami AMD a Nvidia. Řešení je určeno výhradně pro výpočetní úlohy spojené s umělou inteligencí.
Odměníme každého! Vyplňte komunitní průzkum a získejte luxusní ceny
Kdo jste, na čem a co hrajete, jaký obsah konzumujete a jaký vztah máte k AI? Věnujte nám pár minut a jako dárek za vyplnění získáte slevu na nákup a šanci získat také další luxusní ceny.
Startup TinyCorp demonstroval možnost připojení běžných grafických karet, jako je Nvidia GeForce RTX 5060, k počítači Apple Mac Mini. Cílem tohoto experimentu je zvýšení lokálního výpočetního výkonu pro provozování velkých jazykových modelů (LLM) přímo na zařízení. Propojení bylo realizováno pomocí adaptéru ADT-Link, který převádí rozhraní Thunderbolt 4 na sběrnici PCIe kompatibilní s grafickými kartami.
Během testování bylo dosaženo přenosové rychlosti 40 Gb/s (5 GB/s obousměrně). Tato propustnost je podle vyjádření zástupců společnosti dostatečná pro inferenci umělé inteligence, avšak nedostačuje pro náročné grafické aplikace. Pro překonání softwarových bariér a omezení operačního systému macOS vytvořili vývojáři z TinyCorp vlastní ovladače pro uživatelský prostor v jazyce Python, které zajišťují komunikaci s kartami AMD a Nvidia.
Implementace je v současné fázi striktně omezena na výpočetní zátěž. Grafická karta není využívána k vykreslování obrazu, ale systém k ní přistupuje jako k hrubému výpočetnímu zařízení přes paměťově mapované rozhraní PCIe. Podpora aktuálně zahrnuje moderní spotřebitelské modely.
Společnost plánuje ve druhém čtvrtletí vydat vlastní dedikovanou desku pro externí grafické karty (eGPU). Tento hardware by měl obsahovat integrované řízení napájení pro úsporu energie v době nečinnosti GPU a mechanismus pro tvrdý reset v případě nestability či zamrznutí karty.
