Mi az a TensorFlow Lite és milyen egy mély tanulási keretrendszer?

Találkozhatott a TensorFlow Lite-vel, miközben végigment az Edge AI fejlesztői táblákon vagy az AI gyorsítási projektjein.

A TensorFlow Lite egy olyan szoftvercsomag, amely lehetővé teszi az ML helyi képzését a hardveren. Ez az eszközön történő feldolgozás és számítás lehetővé teszi a fejlesztők számára, hogy modelleiket célzott hardveren futtassák. A hardver tartalmaz fejlesztőpaneleket, hardver modulokat, beágyazott és IoT eszközöket.

A TensorFlow Lite keretrendszer áttekintése

A TensorFlow népszerű kifejezés a mély tanulásban, mivel sok ML fejlesztő használja ezt a keretrendszert különböző felhasználási esetekre. Ez biztosítja a megvalósítás egyszerűségét gépi tanulási modellek és következtetések az AI alkalmazásokhoz.

De a TensorFlow Lite egy mély tanulási keretrendszer a helyi következtetésekhez, különösen az alacsony számítási hardverhez. Lehetővé teszi az eszközön történő gépi tanulást, segítve a fejlesztőket abban, hogy modelljeiket kompatibilis hardvereken és IoT eszközökön futtassák.

A fejlesztőnek a használati esettől függően ki kell választania egy megfelelő modellt. A keretrendszer lehetőséget ad a meglévő modell újraképzésére egy egyéni adatkészleten is. Mivel a TensorFlow protokoll puffermodellje nagy méretű és fejlett számítási teljesítményt igényel, ezáltal lehetővé teszi a TensorFlow modell átalakítását TensorFlow Lite modellvé.

A paraméterek optimalizálásának és kvantálásának testreszabása lehetővé teszi a modell méretének és késésének csökkentését.

A TensorFlow Lite késleltetési és méretbeli előnyein kívül a keret biztosítja az adatok biztonságát, mivel a képzés helyben történik az eszközön. Ezenkívül nincs szükség internetkapcsolatra. Így az alkalmazások telepítése nem korlátozódik a csatlakozást lehetővé tevő konkrét területekre.

Ezek a tényezők végül csökkentik az eszköz energiafogyasztási terhelését azáltal, hogy kiküszöbölik a csatlakozási tényezőt és növelik a mély tanulási következtetések hatékonyságát.

A TensorFlow Lite keretrendszer modelljei platformokon átívelő formátumban léteznek, FlatBuffers néven. Ez egy sorosítási könyvtár, amely hierarchikus adatokat tárol egy sima bináris pufferben, így a közvetlen hozzáférés kibontás nélkül lehetséges. Megfigyelheti a TensorFlow Lite modellek „.tflite” kiterjesztését is. Ez az ábrázolási technika lehetővé teszi a számítások optimalizálását és csökkenti a memóriaigényt. Ezért sokkal jobb, mint a TensorFlow modellek

TinyML a TensorFlow Lite Micro-on

Mivel a TensorFlow Lite kompatibilis az Edge AI alkalmazások különböző platformjaival, szükség volt a könyvtár további konvergenciájára. Ezért a szervezet a TensorFlow Lite egy részhalmaz-könyvtárával állt elő, amely TensorFlow Lite Micro néven ismert. A TensorFlow Lite Micro kifejezetten gépi tanulási modelleket futtat mikrovezérlőkön lokálisan, néhány kilobájtos minimális memóriaigénnyel.

Az eljárás fő futási ideje integrálódik az Arm Cortex M3 16 KB-jával, és különféle modelleken működhet. A keretrendszer nem igényel további operációs rendszer-támogatást vagy más magas szintű nyelvi könyvtárakat függőségként a következtetés futtatásához az eszközön.

A TensorFlow Lite Micro fejlesztése C ++ 11-re gyökerezik, amelynek 32 bites architektúrára van szüksége a kompatibilitás érdekében. Az architektúrákról bővebben szólva a könyvtár remekül működik az Arm Cortex-M sorozat architektúráján alapuló robusztus processzorokkal olyan tervezési architektúrák, mint az ESP32.

Munkafolyamat a TensorFlow Lite Micro Use tokokhoz

Az ideghálózat képzési folyamata nagy számítási hardvert igényel. Így az általánosra képzett TensorFlow modell. Képzésre azonban csak akkor van szükség, ha egy egyedi adatkészlet illeszkedik egy mély tanulási modellhez, míg a keretrendszeren előre kiképzett modellek szintén használhatók az alkalmazásokhoz.

Feltételezve, hogy az alkalmazás-specifikus adatkészlettel egyedi felhasználási eset áll fenn, a felhasználó az általános TensorFlow keretrendszeren edzi a modellt, nagy feldolgozási kapacitással és architektúrával. A képzés befejezése után a modell értékelése tesztelési technikákkal igazolja a modell pontosságát és megbízhatóságát. A folyamatot a TensorFlow modell hardverrel kompatibilis TensorFlow Lite modellre konvertálása .tflite formátumban követi.

A .tflite formátum egy sima pufferfájl, amely közös a TensorFlow Lite keretrendszerben és kompatibilis hardverben. A modell tovább felhasználható a modellre kapott valós idejű adatok következtetési képzéseire. A következtetési tréning optimalizálta a modelleket a robusztus felhasználási esetekhez. Ezért a következtetési tréning lehetősége döntő fontosságú az élen AI alkalmazások.

A mikrovezérlő firmware nagy része nem támogatja a natív fájlrendszert a TensorFlow Lite modell lapos puffer formátumának közvetlen beágyazásához. Ezért a .tflite fájl átalakítása tömbstruktúra formátumra szükséges, amely kompatibilis a mikrovezérlőkkel.

A program beépítése a C tömbbe, majd a normál fordítás egyszerű technika az ilyen átalakításhoz. Az így kapott formátum forrásfájlként működik, és a mikrovezérlőkkel kompatibilis karaktertömbből áll.

A TensorFlow Lite Micro-t támogató eszközök

A TensorFlow Lite alkalmas nagy teljesítményű eszközökhöz, de a processzor nagyobb terhelésének hátránya. Noha a TensorFlow Lite Micro kicsi méretű fájlokkal rendelkezik, amelyek hajlamosak az alulteljesítésre, optimalizálja a illeszkedik a memóriába, jelentősen javíthatja a kimenetet az alacsony fogyasztású és az alacsony feldolgozást biztosító hardvereknél, például mikrovezérlők.

Az alábbiakban felsoroljuk a TensorFlow Lite Micro-t támogató hivatalos TensorFlow dokumentáció fejlesztői tábláinak listáját:

• Arduino Nano 33 BLE Sense
• SparkFun Edge
• STM32F746 Discovery készlet
• Adafruit EdgeBadge
• Adafruit TensorFlow Lite for Microcontrollers Kit
• Adafruit Circuit Playground Bluefruit
• Espressif ESP32-DevKitC
• Eszpresszák az ESP-EYE-t
• Wio terminál: ATSAMD51
• Himax WE-I Plus EVB Endpoint AI Fejlesztési Testület

A TensorFlow Lite Micro Arduino könyvtárként is elérhető a mikrovezérlők kibővített támogatásához. Projekteket is készíthet az Mbed-hez hasonló hardverfejlesztési környezetekhez.

A TensorFlow Lite sokat kínál

A TensorFlow Lite mély tanulási keretrendszer számos éles AI alkalmazás számára nyit lehetőséget. Mivel a keretrendszer nyílt forráskódú az AI-rajongók számára, a közösségi támogatás még népszerűbbé teszi a gépi tanulás használati eseteiben. A TensorFlow Lite teljes platformja javítja a környezetet a beágyazott és IoT eszközök éles alkalmazásainak növekedéséhez

Ezenkívül számos olyan példa létezik a kezdők számára, akik segítséget nyújtanak nekik a keretrendszer gyakorlati használatának eseteiben. Néhány ilyen példa magában foglalja a személyek észlelését, a fejlesztőtábla képérzékelője és az összes fejlesztőtábla szabványos hello world programjának adatai alapján. A példák olyan alkalmazásokat is tartalmaznak, mint a gesztusok észlelése és a beszédfelismerés speciális fejlesztői táblákhoz is.

További információ a TensorFlow Lite és TensorFlow Lite Micro, ellátogathat a szervezet hivatalos dokumentációs oldalára. A keretrendszer jobb megértése érdekében sok koncepcionális és oktató szakasz található.

Kezdje el a képfelismerést a TensorFlow és a Raspberry Pi használatával

Szeretne megismerkedni a képfelismeréssel? A Tensorflow-nak és a Raspberry Pi-nek köszönhetően azonnal elkezdheti.

Olvassa el a következőt

A szerzőről