Unai Elordi Hidalgo: "OPTIMIZING DEEP NEURAL NETWORK DEPLOYMENT FOR INTELLIGENT SECURITY VIDEO ANALYTICS" .

Zuzendariak_Directores:  Luis Unzueta Irurtia / Ignacio Arganda Carreras

2023_09_08, 11:00 Sala Ada Lovelace aretoa

Abstract:

"Adimen Artifizialean (Artificial Intelligence, AI, ingelesez) oinarritutako segurtasunerako-bideo-analisi adimendunak ((Intelligent security video analytics, ISVA, ingelesez) bideo-zaintza tradizionalaren mugei irtenbidea eman diezaiokete. Bideo analisi sistema tradizional hauek orain arte eraginkortasun gutxiko begi bistako monitorizazio hutsa egiten dute eta arazoak dituzte segurtasun mehatxuen aurrean behar bezala erreakzionatzeko. 

Sare neuronal sakonak (Deep Neural Networks, DNNs, ingelesez) oso eraginkorrak direla frogatu da bideoaren analisiaren munduan, baina egungo sistema adimendunetako azpiegituretan ezartzea benetan zaila izan daiteke, batez ere, gaitasun konputazional handia eskatzen dutelako DNNak. Sare sakon hauek beraien artean interkonektatuta dauden neuronen grafo konplexuak dira, parametro eta eragiketa aritmetiko ugari dituztenak, eta horrek prozesamendu geldo bat ekarri dezake. Horretaz gain, DNNetan oinarritutako ikusmen aplikazioek datuen pre eta post prozesamendua gehitu behar diote DNN inferentziari eta beraz, honek prozesamendu guztiaren denbora gehitzen du. DNNak optimizatzeko teknika ugari proposatu diren arren, muturretik-muturrerainoko optimizazio estrategia berriak behar dira DNNetan oinarritutako sistema adimendun konplexuagoak garatzen diren heinean.

DNN konputazio-muga horiei aurre egiteko, AI azeleragailu berriak (Googleren TPUa, Intelen VPUa, etab., orokorrean "xPU" dei diezaiokeguna, baita CPU, GPU eta FPGA arkitekturak ere) sortzen ari dira, energetikoki eraginkorrak izateko eta DNN inferentzia-errendimendu hobeagoak emateko diseinatuta baitaude. Hala ere, gailu hauek modu eraginkorrean ezartzeak  analisi sakona behar du. Era berean, baliteke gailu horien kostua ez justifikatua egotea eraginkortasunez erabiltzen ez badira.

ISVA sistemak konputazio-plataforma heterogeneo, deszentralizatu eta banatuetan txertatu daitezke, hala nola, hodei (cloud) edo laino (fog) inguruneetan eta  ertzeko gailuetan (edge) edo Gauzen Interneteko (Internet of Things, IoT, ingelesez) testuinguruan. Plataforma hauek inplementazio-estrategia optimoaren azterketa zabala behar dute haien aniztasuna dela eta, hainbat gailu, aplikazio-arkitektura eta exekuzio-denborak kontuan hartu behar baitira. Zoritxarrez, birtualizatutako exekuzio inguru eta gailu hauek ez daude DNN inferentziarako diseinatuta eta AI azeleragailuentzako integrazio falta da dago konputazio-plataforma anitz hauek sustatzeko.

Tesi honek DNNetan oinarritutako ikusmen aplikazioen hedapena hobetu nahi du sistema adimendunen azpiegituretan, optimizazio-tekniketan eta DNNak ikusmen artifizialerako (Computer Vision, CV, ingelesez) pertsonalizatutako hedapen-estrategien azken aurrerapenen bidez. Ikerketak ISVAren adimen artifizialeko algoritmoen eraginkortasuna hobetzea du helburu, sistema adimendunen azpiegituretan integrazio ahalbidetuz eta IoT sistema adimentsuagoetarako bidea irekiz.

Sistema adimendunen azpiegituretan DNNetan oinarritutako ikusmen aplikazioen hedapena hobetzeko helburuak lortzeko, ikerketa honek, DNNen gaitasuna hobetzeko estrategia desberdinak proposatzen ditu ISVAko ingurune ezberdinetan. Ingurune horien artean daude (1) zerbitzaririk gabeko hodei-inguruneak eskala handiko eta oso aldakorreko konputazio-lan kargak egiteko (serverless), (2) IoT plataforma heterogeneoak eta (3) konputazio baliabide mugatuak eta lan-karga mugatuak jaso ditzaketen konputazio inguruneak."

Lehenengo estrategiak DNN inferentziaren errendimenduaren ebaluazio integrala eskaintzen du zerbitzaririk gabeko hodei-inguruneetan eta DNN anitzeko estrategiak bideo-zaintzaren testuinguruan. Bigarren estrategiak DNN anitzetan oinarritutako aurpegi-ezagutza algoritmoen esparruan aritzen da IoT ingurune heterogeneoetan. Azkenik, hirugarren estrategiak DNN anitzeko bideo analisis pipelineak optimizatzen ditu du hegazkinen kabinaren segurtasuna bermatzeko.

Tesi honen emaitzak agerian  uzten ditu  DNNn oinarritutako soluzio optimizatuak beharrezkoak direla ISVArako eta ezagutzan oinarritutako prozedurei etekina atera diezaiekeela erabilera kasu bakoitzean."