Intel a SambaNova představují novou AI platformu
Společnosti Intel a Sambanova spojily síly při vývoji heterogenní architektury pro odvozování umělé inteligence. Kombinuje čipy Xeon 6, akcelerátory SN50 a další čipy.
Společnosti Intel a SambaNova oznámily spolupráci na nové heterogenní architektuře pro odvozování (inference) umělé inteligence, která je již připravena pro nasazení v produkčním prostředí. Tato inovativní platforma je navržena tak, aby různé části zátěže zpracovávaly specializované čipy, čímž chce vytvořit silnou konkurenci pro stávající řešení na trhu, včetně těch od společnosti Nvidia.
Architektura rozděluje proces odvozování do několika fází. Zpracování rozsáhlých vstupních dat (tzv. prefill) mají na starosti grafické procesory nebo dedikované AI akcelerátory. Pro fázi dekódování a generování tokenů jsou nasazeny specializované datové jednotky (RDU) SN50 od společnosti SambaNova. Celkovou koordinaci systému, kompilaci a chod specifických nástrojů pak zajišťují procesory Intel Xeon 6.
Podle interních dat společnosti SambaNova dosahují procesory Xeon 6 ve srovnání se serverovými procesory založenými na architektuře Arm až o 50 % rychlejší LLVM kompilace. Ve srovnání s konkurenčními x86 procesory, jako jsou čipy AMD EPYC, pak nabízejí až o 70 % vyšší výkon při práci s vektorovými databázemi. Cílem je výrazně zkrátit vývojové cykly pro tvorbu AI aplikací.
Zásadní výhodou tohoto společného řešení je jeho zpětná kompatibilita. Servery využívající jednotky SN50 a procesory Xeon lze bez složitých úprav nasadit do běžných podnikových datových center dimenzovaných na výkon 30 kW, což představuje většinu současných podnikového prostředí. Platforma bude dostupná ve druhé polovině roku 2026.
