Jak budovat farmy s umělou inteligencí nebo strojovým učením – aniž byste museli vyloupit banku

Klastr je místo, kde se věci mohou buď opravdu prodražit, nebo omezit výkon AI – nebo obojí. Pojďme si projít typické používané hardwarové komponenty a určit, kde můžete optimalizovat pro nejlepší poměr výkonu a nákladů.

Servery AI

Tahouni serverové farmy s umělou inteligencí. A je jich potřeba hodně. Servery mají obvykle výkonné procesory a bývají vybaveny grafickými procesory nebo specializovanými akcelerátory, jako jsou TPU (Tensor Processing Unit), které jsou speciálně navrženy pro paralelní výpočty. Ty se používají pro zvýšení výpočetního výkonu v situacích, kdy nelze použít rychlejší počítač a jsou charakteristické právě v oblasti strojového a hlubokého učení. V této oblasti proto není přípustný žádný kompromis. Hrubý výpočetní výkon serverů rozhodne o tom, zda váš cluster AI vznikne, nebo zničí.

Úložné systémy s umělou inteligencí

Aplikace AI často vyžadují přístup k velkým datovým sadám. Řešení úložišť v serverové farmě mohou zahrnovat disky SSD pro rychlý přístup, pevné disky pro větší, méně často používaná data a úložiště připojená k síti (NAS) nebo sítě SAN (Storage Area Networks) pro řešení sdílených úložišť. U těchto systémů existuje mnoho variant pro jakýkoli rozpočet.

Síťové hardwarové přepínače AI

Pro zvládnutí výkonových požadavků serverové farmy jsou zásadní přepínače s velkou šířkou pásma a nízkou. Mohou se totiž stát úzkým hrdlem veškerého přenosu dat v nastavení AI. Protože není možné dělat kompromisy v propustnosti nebo nízké latenci, řešením může být nová řada síťových přepínačů M4350 od společnosti NETGEAR.

Tyto přepínače běží na nejmodernějším vysoce výkonném jádru s nízkou latencí, jednoduše se spravují a jsou nákladově dostupné.

Směrovače (routery) spravují přenosy dat mezi serverovou farmou a internetem nebo jinými sítěmi. Totéž platí i zde; mohou být úzkým hrdlem provozu do/z internetu. Cenově výhodnou volbou je profesionální router NETGEAR PR60X s výkonem multi-gig/10gig WAN/LAN.

Síťové karty (NIC), s propustností až 10GbE /100GbE, jsou nezbytné pro rychlou serverovou komunikaci. Musí být optimalizovány pro přepínače, které si vyberete.

Pokud potřebujete poradit, technický tým společnosti NETGEAR vám může pomoci navrhnout optimální nastavení sítě.

Software pro správu sítě je často opomíjen, ale je zásadní pro správu konfigurací sítě, sledování výkonu sítě, odstraňování problémů a zajištění bezpečnosti sítě. Společnost NETGEAR nabízí bezplatnou řídicí jednotku nazvanou NETGEAR Engage pro správu a monitorování malého nebo velkého počtu plně řízených přepínačů NETGEAR.

Příklady AI & ML farem

Přepínače NETGEAR se používají ve špičkových aplikacích AI/ML. Dva příklady:

• Klastr AI/ML pro analýzu tisíců souběžných kamerových záznamů samořiditelných automobilů od třetí strany zabývající se analýzou dat.

• Klastr AI/ML pro shromažďování, skenování, analýzu a kombinování záznamů z kamer dronů pro armádu členského státu NATO.

Získali jste díky tomuto článku základní představu o hlavních aspektech při navrhování nastavení AI/ML? Pomůžeme vámoptimalizovat výkon a náklady. Kontaktujte nás s návrhem architektury svého klastru a společně zdarma návrh prodiskutujeme. S využitím našich řešení vám navíc zaručíme správnou funkci sítě.

Přečtěte si více o naší řadě přepínačů M4350, které jsou vhodné pro nasazení AI a ML.