Hailo-8 mesterséges­intelligencia-gyorsító

A belépő szintű „Edge AI” alkalmazásokhoz

Az Edge AI lehetővé teszi az eszközök számára az adatok helyi feldolgozását és az azonnali reagálást az olyan alkalmazásokban, mint például az autonóm járművek és a robotika. Az Edge AI megalapozottsága a valós idejű döntéshozatalban hatékony, gyors és személyre szabott megközelítést biztosít az adott feladathoz.

Az élvonalbeli mesterséges intelligenciával (AI) foglalkozó vállalatok számára a kihívást az jelenti, hogy olyan skálázható és megfizethető mesterséges intelligenciát fejlesszenek ki, amely könnyen alkalmazható az alkalmazások széles körében. Ennek érdekében a Hailo, izraeli AI-chipes startup nemrégiben kibővítette kínálatát a Hailo-8 AI-gyorsítókkal. A Hailo-8 peremhálózati AI-gyorsítók a vállalat szerint a belépő szintű alkalmazásoktól, például a videó­elemzéstől, a megfigyeléstől és az alapvető robotvezérléstől kezdve egészen a nagy teljesítményű, több folyamatot és több feladatot felölelő alkalmazásokig bármilyen AI-alkalmazáshoz alkalmasak, és akár 13-208 TOPS (Tera Operations per Second – Tera művelet másodpercenként) feldolgozási teljesítményt is lehetővé tesznek.
Az EE Times Europe-nak adott interjújában Orr Danon, a Hailo vezérigazgatója elmondta, hogy a Hailo-8 gyorsítók újszerű adatáramlási architektúrája az elsődleges tényező, amely lehetővé teszi a termékcsalád ígért költség- és energiahatékonysági előnyeit. „A szekvenciális feldolgozás helyett a számításokat a szilícium különböző részeire osztjuk szét, így gyakorlatilag a neurális hálózat különböző részei egyszerre futnak” – mondta. – „Ez az elosztott megközelítés mind az idő-, mind a térbeli tartományt kihasználja, ami nagyfokú párhuzamosságot és rövid nyomvonalhosszúságot eredményez. Ennek köszönhetően nagy teljesítményt érünk el alacsony energiafogyasztás mellett.”
A Hailo koncepciója lehetővé teszi, hogy a neurális hálózat különböző részeit – amely a peremhálózati mesterséges intelligencia alapvető összetevője – a szilíciumon egymáshoz közelebb dolgozzák fel. „Az adatoknak nem kell nagy távolságokat megtenniük. Ez csökkenti a késleltetést és minimalizálja az energiafogyasztást, így rendkívül energiatakarékos” – mondta Danon.

1. ábra A Hailo-8 chip a belépő szintű peremhálózati AI alkalmazásokhoz (Forrás: Hailo)

„Ez a kialakítás lehetővé teszi számunkra, hogy a szilícium minden egyes egységnyi területéből többet nyerjünk ki, ami vonzó költségszámokat eredményez” – tette hozzá Danon. –„Bár ezt az architektúrát nem grafikus feldolgozásra szántuk, az egyre inkább dominánsnak számító, mesterséges intelligenciát tartalmazó munkaterhelésekhez igen hatékony. Az energia- és költséghatékonyságunk a párhuzamosságnak és az optimalizálásnak köszönhetően a számainkban is megmutatkozik. Az adatáramlási architektúra alapvető fontosságú ebben a megközelítésben.”
A vállalat kibővítette a Hailo-8 termékcsaládját, a már meglévő chip- és különféle modulváltozatokon (M.2 / M Key, B+M Key, A+E Key és mPCIe) felül megalkotta a nagy teljesítményű Century PCIe kártyákat is, amelyek a számítógép alaplapjába illeszthetők, és 52-208 TOPS feldolgozási képességük által rendkívüli videófeldolgozási képességgel rendelkeznek.

2. ábra Hailo-8 termékkínálat

Kamerák mindenütt

A mai, technológia által vezérelt világban a kamerák mindennapi életünk szerves részévé váltak, és hozzászoktunk, hogy folyamatosan videókat rögzítünk, és folyamatosan rögzítenek minket. Az IP-kamerák gyors elterjedése a lakóházakban, a kereskedelmi és közterületeken, valamint az ipari szektorban példátlan növekedést eredményez a piacon, amely az ABI Research becslése szerint 2027-re eléri a 200 millió kamerát 35 milliárd dolláros bevétellel. A piac legjelentősebb növekedési hajtóereje a biztonság és a védelem javításának lehetősége a videófelügyelet révén. Az otthoni biztonság fokozásától a közbiztonság felügyeletéig és a forgalomirányítás optimalizálásáig az intelligens kamerák számtalan előnyt és végtelen lehetőséget nyújtanak egy intelligensebb, biztonságosabb világ számára.

Az AI már nem csak felhő

A kameratelepítések elterjedésével együtt jár a videófolyamok megfigyelésének és a belőlük származó felismerések generálásának automatizálása és javítása, valamint a videók streamingjének és tárolásának hatékonyabbá és költséghatékonyabbá tétele. Itt jön a képbe a mesterséges intelligencia (AI). Mivel a hagyományos felhőalapú AI modellek gyakran szenvednek késleltetési problémáktól, nem teszik lehetővé a valós idejű betekintést és riasztást, emellett adatvédelmi aggályokat, valamint hálózati függőséget is felvetnek, ezért az intelligens kamerák piacával együtt egyre nagyobb szükség van az AI szélső pontokon történő megvalósítására. Az Edge AI valós idejű videóelemzést, betekintést és riasztást garantál, ami magasabb szintű biztonságot tesz lehetővé. Ezen túlmenően az AI a peremeken lehetővé teszi a videóból csak a metaadatok és a meglátások streamelését, így csökkentve a felhőben történő átvitel, számítás és tárolás költségeit, és kiküszöböli a hálózati függőséget.

Még több AI

A legtöbb ilyen IP-kamera azonban korlátozott számítási kapacitással rendelkezik. Az intelligens kamerák következő generációját a nagy számítási teljesítmény és az AI feldolgozási kapacitás beépítése különbözteti meg, amely nemcsak az összetett és fejlett videóelemzési feladatok feldolgozását teszi lehetővé, hanem az AI alkalmazását is a videó javítására, hogy kiváló minőségű videóképet nyújtson.
Mivel e funkciók mindegyike – a videóminőség javítása és a fejlett videóelemzés lehetővé tétele – saját AI-kapacitást igényel, a mai intelligens kameráknak megfelelő mennyiségű AI-teljesítménnyel kell rendelkezniük az igények kielégítéséhez.

AI-alapú videójavítás

A mesterséges intelligencia segítségével javítható a képminőség, és még a rossz minőségű videóból is tiszta és éles képet lehet készíteni. A mesterséges intelligencia számos képjavítási feladatot képes kezelni, például a zajcsökkentést gyenge fényviszonyok mellett, a nagy dinamikatartományt (HDR), sőt a klasszikus 3A (automatikus expozíció, automatikus fehéregyensúly, automatikus fókusz) egyes aspektusait is. Az AI képes korrigálni a képtorzítást, stabilizálni a képet és kompenzálni a mozgást, valamint lehetővé teszi a digitális zoomolást. Az extrém gyenge fényviszonyok például látótávolság-csökkenést, rossz képminőséget és gyenge színmegörökítést okozhatnak. A zaj szintén csökkenti a kép részleteinek megkülönböztethetőségét, ami a tömörítés során megnövekedett adatméretet eredményez, ezzel azonban a videóadatok felhőben történő továbbításának és tárolásának alacsony hatékonyságához vezet. Amint a 3. ábrán látható, a mesterséges intelligencia kihasználható a zaj eltávolítására, miközben megőrzi a fontos képi részleteket és textúrákat, ami a jel-zaj arány (SNR) és a strukturális hasonlósági index (SSIM) mérése alapján jobb képminőséget eredményez. Például egy gyenge fényviszonyok mellett, körülbelül 5 Lux fényerővel készült 4K felbontású kép zajmentesítéséhez képkockánként körülbelül 100 GOPS-ra (Group of Pictures – a videókódolásban és tömörítésben használt technológia) lenne szükség, ami 30 FPS sebességű, valós idejű videó streaming esetén 3 TOPS-nak felel meg.

3. ábra Sub 1 Lux AI-alapú zajmentesítés a Hailo-15 segítségével (előtte – balra, utána – jobbra)

AI-alapú videóelemzés

A nagyobb felbontású videófolyamok elterjedésével egyre nagyobb adatmennyiség feldolgozására, összetettebb és szemcsésebb objektumok észlelésére és azonosítására, valamint több feladat és összetettebb adatfolyamatok végrehajtására van szükség.
Ha egy kamera elegendő AI-kapacitással rendelkezik, akkor az AI-alapú videójavításon felül fejlett videóelemzést is támogathat. Ezek közé tartozhat több AI-feladat és -modell futtatása összetett adatfolyamatokkal ugyanazon a videófolyamon, kisebb és távolabbi objektumok nagyobb pontossággal és kevesebb téves riasztással történő azonosítása, vagy gyorsabb észlelés nagy felbontás mellett. Például egy közúti megfigyelő kamera futtathat egy olyan összetett adatfolyam-feldolgozást, mint az automatikus rendszámtábla-felismerés (ALPR, 4. ábra), amely az úton lévő összes autó azonosításához tárgyfelismerést igényel, amit a rendszámtábla észlelése, azonosítása követ, végül pedig a rendszámtábla-felismerés az egyes karakterek meghatározásához.

4. ábra Több videóelemzés és összetettebb adatfolyam kameránként

Megfelelő mennyiségű számítási teljesítmény mellett ugyanaz a kamera további feladatokat és adatfolyamokat is kezelhet (5. ábra), például a SAM – Segment Anything Model futtatásával, hogy egyértelműen azonosítani lehessen a videóban lévő objektumokat, nagyobb felbontásban és kevesebb hamis/hibás észleléssel. Ezután osztályozást végezhet a rendellenes, illegális vagy veszélyes viselkedés azonosítására, mint például a vonalátlépés, a sebességtúllépés, a veszélyes előzés, a rossz irányban való vezetés, az autók közötti távolság be nem tartása, a tiltott területen való vezetés stb. Ilyen rendellenes viselkedés felismerésekor a szabálysértő jármű rendszámtáblája lekérdezhető, hogy riasztást lehessen küldeni a bűnüldöző szervek számára.

 5. ábra Több feladat nagyobb pontossággal

Mennyivel több?

Ahhoz, hogy nagy képminőségű, nagy pontosságú analíziseket lehessen végezni, az intelligens kameráknak elegendő mesterséges­intelligencia-teljesítményre van szükségük ahhoz, hogy párhuzamosan futtassák a videójavítási és az analitikai feladatokat. A videójavítási és elemzési feladatok összekapcsolásának képessége mind a vizuális eredmény, mind az elemzési eredmények szempontjából előnyös. Ha a 6. ábrán látható példát nézzük, a pontos rendszám és személyazonosítás érdekében a kamera látásprocesszorának szemantikai tudatosságot kell alkalmaznia, hogy a képkocka elemeinek szemantikai jelentősége alapján szelektíven futtasson zajmentesítő technikákat, és a videófeldolgozást az érdeklődési terület (Region of Interest, RoI) alapján különbözőképpen végezze el. A zajcsökkentést a fontos képi részletek és textúrák megőrzése mellett kell alkalmazni a nagyobb SNR és SSIM érdekében, valamint a zajcsökkentés és a tárgyfelismerés feldolgozásának egyszerre kell történnie a gyorsabb bemenet és a nagyobb FPS érdekében, különösen a nagy felbontású videók esetében.

6. ábra A legjobb eredmények elérése érdekében a videók feljavítása és a videóelemzési feladatok párhuzamos futtatása

Az olyan alapvető látásfeladatokhoz, mint a zajmentesítés, egy 2 megapixeles kamera körülbelül 0,5 TOPS-ot igényel, az olyan alapvető videóelemzési adatfolyamokhoz pedig, mint a tárgyak felismerése vagy az emberek számának meghatározása, további 1 TOPS-ra van szükség. A fejlett videójavítási funkciók, például a HDR vagy az x4-es felskálázású digitális zoom hozzáadásához további 1 TOPS-ra van szükség, és a fejlett analitikai többlépcsős, pl. 3-5 lépcsős adatfolyamokhoz, az LPR vagy az arcfelismerés esetében további 2 TOPS-ra, összesen 4,5 TOPS-ra. Egy 8 MP-es érzékelővel rendelkező kamera vagy egy 2 × 4 MP-es kamera esetében 4-szer annyi TOPS-ra lenne szükség.
Az AI integrálása az intelligens kamerákba rengeteg lehetőséget nyit a vizuális intelligencia számára. A videóminőség átalakításától a fejlett analitika működtetéséig az AI a peremhálózatokon forradalmasítja az olyan iparágakat, mint a biztonságtechnika, az ipari automatizálás, a kiskereskedelem és még sok más. Mivel paradigmaváltásnak lehetünk tanúi a vizuális információk rögzítésének, feldolgozásának és értelmezésének módjában, az intelligens kamerák AI-forradalmának átvétele kétségtelenül további ágazatokat fog átalakítani, javítva a biztonságot, a hatékonyságot és az általános felhasználói élményt.

Hailo-8™ indulókészlet (https://ebv.com/hailo)

A Hailo-8™ AI-gyorsítómodul a meglévő AI-képes intelligens videóanalitika (IVA)-alkalmazások továbbfejlesztésére, valamint képességeinek köszönhetően intelligens videóanalitikai megoldások fejlesztésére és prototípusok készítésére használható:

• Adatközpont-osztályú teljesítményt szolgáltat a peremeszközök számára a legtöbb rendszerformátumhoz, azonnal használható passzív termikus megoldásokkal
• A Hailo-8™ 26 TOPS számítási teljesítményével az osz­tályon belüli legjobb valós idejű teljesítményt nyújtja
• Iparágvezető energiahatékonyság jellemzően 5 W-os energiafogyasztással
• A létező megoldásokhoz képest a legmagasabb költséghatékonyság (TOPS/$)
• Robusztus szoftveres eszköztár támogatja a legkorszerűbb mélytanulási modelleket és az újszerű alkalmazások széles körét
• Gyors piacra kerülést tesz lehetővé az M.2 szabványos formátumú modulok használatával
• Magas fokú felhasználói adatvédelem az összes mélytanulási modell helyi feldolgozásával és a rögzített videó csak egy részének a felhőbe történő átvitelével

Alkalmazási lehetőségek:

• Intelligens városok, intelligens közlekedési rendszerek (ITS), biztonság, megfigyelés, intelligens kiskereskedelem, intelligens épületek stb.
• Edge-kiszolgálók, ipari PC-k és átjárók
• Ipari és kereskedelmi robotok
• Járműbe épített számítógépek és ADAS/AV érzékelés

A Hailo-8™ fejlesztőkészlet a következőket tartalmazza:

• Hailo-8™ M.2 modul
• Hőkezelő készlet (hőelvezető fémkockák, hőszigetelő párnák, hőszigetelő ragasztószalag)
• Csavarhúzó és csavarok

7. ábra A Hailo-8™ indulókészlet

Jellemzői:

• M.2 modul Hailo-8™ AI-gyorsítóprocesszorral
  • Választható formafaktorok: M.2 M Key, B+M Key, A+E Key
  • Beilleszthető egy meglévő, M.2 aljzattal rendelkező peremhálózati eszközbe, hogy valós időben végezzen mélytanulási következtetéseket
• Példátlan teljesítmény, amely lehetővé teszi:
  • A fejlett analitikai algoritmusok nagy felbontású és nagy képkockasebességű videókon is futtathatók, ami a következőket eredményezi:
    • Nagy pontosság és a kis objektumok felismerésének képessége
    • Gyorsan mozgó objektumok felismerése
    • Jelentősen csökken a téves riasztások száma
    • Átfogó metaadatok generálása
  • A videó feldolgozása és riasztások generálása valós időben, lehetővé téve az azonnali cselekvést
  • Egyidejűleg több fejlett AI-alkalmazás és több videófolyam feldolgozása
  • Hatékonyabb felhőalapú adatkezelés (továbbítás, tárolás), és szolgáltatáshasználat az AI-elemzéshez
• Nagy energiahatékonyság
  • Ventilátor nélküli, 3,3 W fogyasztás a ReSent-50 futtatásakor 224×224 @ 915FPS bemeneti felbontással
  • Átfogó szoftvercsomag, amely alkalmas különböző számítógépes látási feladatokra, például objektumérzékelésre, objektumosztályozásra, szemantikus szegmentálásra, utóbecslésre, arcérzékelésre, példányszegmentálásra, mélységbecslésre és arcjelzőre

Az EBV Elektronik – mint vezető félvezető-forgalmazó Európában – széles gyártói portfóliójából a legújabb alkatrészek és félvezető-megoldások teljes és folyamatos ellátását garantálja. Vegye fel a kapcsolatot az EBV technológiai és piaci szakértőivel, hogy az alkalmazásaihoz az optimális megoldást választhassa!

Több mint disztribúció – EBV Elektronik!

Farkas Szabolcs
EBV Elektronik Kft.
1117 Budapest, Budafoki út 91–93.
E-mail: Ez az e-mail-cím a szpemrobotok elleni védelem alatt áll. Megtekintéséhez engedélyeznie kell a JavaScript használatát.
www.ebv.com