SW support for NPU accelerators for Linux-type operating systems

Abstract

Tento dokument zahrnuje informace o NPU čipu, kterým je vybavena deska NXP i.MX 8MP EVK, jak se používá, jaké k němu existují přistupové cesty, v čem se liší či co mají společného. Provedeme několik základních benchmarků abychom zjistili jaký je skutečný přínos chipu pro některé běžné ůkony. Nakonec shrneme co je potřeba aby PikeOS podporoval, pro oficiální podporu tohoto NPU čipu a probereme, co portování těchto knihoven může zahrnovat.This document covers information about the NPU chip included in the NXP i.MX 8MP EVK, how it is used, what the different frontends to it have in common or differ in. We then perform some rudimentary benchmarks in order to determine the practical benefit of utilising the NPU for a common workload, before ending on a description of the components required for PikeOS to claim NPU support, and what porting them could entail