Čip pro neuronové sítě snižuje spotřebu energie

Výzkumníci z institutu MIT vyvinuli speciální čip, který zvyšuje rychlost výpočtů neuronové sítě, přičemž snižuje spotřebu energie až o 95 %. Výzkumníci z institutu MIT vyvinuli speciální čip, který zvyšuje rychlost výpočtů neuronové sítě, přičemž snižuje spotřebu energie až o 95 %. Chelsea Turnerová, MIT

Výzkumníci z institutu MIT vyvinuli čip určený ke snížení spotřeby energie neuronové sítě až o 95 %. To umožní jeho nasazení i v zařízeních napájených bateriemi.

Většina nedávných vylepšení v oblasti systémů umělé inteligence, jako jsou programy pro rozpoznávání řeči nebo obličejů, za svůj vznik vděčí neuronovým sítím – hustě propojeným sítím jednoduchých informačních procesorů, které se učí provádět úkony analýzou obrovských souborů učebních dat.

Výzkumníci z institutu MIT vyvinuli speciální čip, který zvyšuje rychlost výpočtů neuronové sítě oproti svým předchůdcům troj- až sedminásobně, přičemž snižuje spotřebu energie o 94 až 95 %. To by v praxi umožnilo provozování neuronových sítí lokálně na chytrých telefonech, nebo dokonce jejich zabudování do domácích spotřebičů.

Efektivita učení

„Obecný model procesoru využívá paměť v určité části čipu a procesor v jiné části, přičemž při provádění výpočtů přesouvá data mezi nimi tam a zpět,“ uvedl Avishek Biswas, doktorand MIT v oboru elektrotechniky a počítačové vědy, který vedl vývoj nového čipu. „Vzhledem k tomu, že tyto algoritmy strojového učení potřebují tolik výpočtů, představuje toto přesouvání dat tam a zpět dominantní část spotřeby energie. Ovšem výpočty, které tyto algoritmy provádějí, mohou být zjednodušeny na jednu specifickou operaci označovanou jako skalární součin. Zkoumali jsme, zda můžeme tuto funkčnost skalárního součinu implementovat do paměti, aby se nemusela tato data přenášet tam a zpět.“

Biswas a vedoucí jeho práce Anantha Chandrakasan, děkan School of Engineering MIT a držitel profesury Vannevara Bushe v oblasti elektrotechniky a počítačových věd, popisují nový čip v dokumentu, který Biswas prezentoval na konferenci International Solid State Circuits letos v únoru.

Zpět k analogu

Neuronové sítě jsou obvykle uspořádány do vrstev. Jeden procesní uzel v jedné vrstvě sítě obecně obdrží data z několika uzlů v nižší vrstvě a předá data do několika uzlů ve vyšší vrstvě. Každé spojení mezi uzly má svou vlastní „váhu“, která označuje, jak významnou roli bude výstup z jednoho uzlu hrát při výpočtu prováděném dalším uzlem. Učení sítě je záležitostí nastavení těchto vah.

Uzel, který obdrží data z více uzlů v nižší vrstvě, vynásobí každý vstup váhou odpovídajícího spojení a sečte výsledky. Tato operace – sečtení násobků – je definicí skalárního součinu. Jestliže skalární součin přesahuje určitou mezní hodnotu, uzel jej přenese do uzlů v následující vrstvě přes připojení s jejich vlastními váhami.

Frekvence výbojů neuronů a elektrochemické signály, které překračují synapse, odpovídají hodnotám dat a jejich váhám. Nový čip výzkumníků MIT zvyšuje efektivitu věrnější replikací funkce mozku.

V čipu jsou vstupní hodnoty uzlu konvertovány na elektrická napětí a pak násobeny příslušnými váhami. Pouze kombinovaná napětí jsou konvertována zpět do digitální podoby a uložena pro další zpracování.

Čip proto dokáže počítat skalární součiny pro mnoho uzlů v jednom kroku namísto přecházení mezi procesorem a pamětí pro každý výpočet.

Larry Hardesty je pracovník zpravodajské kanceláře MIT News Office, Massachusetts Institute of Technology; upravil Chris Vavra, redaktor časopisu Control Engineering, CFE Media, Tato e-mailová adresa je chráněna před spamboty. Pro její zobrazení musíte mít povolen Javascript..

Control Engineering Česko

Control Engineering Česko je přední časopis o průmyslové automatizaci. Je vydáván v licenci amerického Control Engineering, které poskytuje novinky z této oblasti více než 60 let.

www.controlengcesko.com