Orchestrace dat v akcelerátorech hlubokého učení

Recenze čtenářů

Aktuálně nejsou k dispozici žádné recenze čtenářů. Hodnocení je založeno na 3 hlasů.

Původní název:

Data Orchestration in Deep Learning Accelerators

Obsah knihy:

Tato syntetická přednáška se zaměřuje na techniky pro efektivní orchestraci dat v rámci akcelerátorů DNN. Konec Moorova zákona spolu s rostoucím rozvojem hlubokého učení a dalších aplikací umělé inteligence vedl ke vzniku vlastních akcelerátorů hlubokých neuronových sítí (DNN) pro energeticky efektivní odvozování na okrajových zařízeních. Moderní DNN mají miliony hyperparametrů a zahrnují miliardy výpočtů; to vyžaduje rozsáhlý přesun dat z paměti do motorů pro zpracování na čipu.

Je dobře známo, že náklady na přesun dat dnes převyšují náklady na vlastní výpočet; akcelerátory DNN proto vyžadují pečlivou orchestraci dat mezi výpočetními, síťovými a paměťovými prvky na čipu, aby se minimalizoval počet přístupů k externí paměti DRAM. Kniha se zabývá datovými toky DNN, opakovaným použitím dat, hierarchiemi vyrovnávacích pamětí, sítěmi na čipu a automatizovaným průzkumem návrhového prostoru.

V závěru se zabývá výzvami v oblasti orchestrace dat u komprimovaných a řídkých DNN a budoucími trendy. Cílovou skupinou jsou studenti, inženýři a výzkumní pracovníci, kteří se zajímají o návrh vysoce výkonných a nízkoenergetických akcelerátorů pro odvozování DNN.