Edge AI: Wat is het en hoe werkt het?

Edge AI, wat is het? Hoe werkt het? Wat zijn de voordelen? Dit was het onderwerp tijdens een van onze OnLogic Live-sessies en in deze blogpost gaan we hier verder op in. We bekijken wat AI (artificial intelligence) aan de edge betekent. We bekijken enkele toepassingen van edge AI en bespreken een aantal concepten die je hopelijk helpen meer inzicht te krijgen in de voordelen van edge AI. 

Wat is edge AI?

Edge AI is het gebruik van kunstmatige intelligentie aan de edge van een netwerk, in de buurt van waar de gegevens worden geproduceerd, om real-time bruikbare inzichten te bieden. AI-berekeningen kunnen natuurlijk ook worden uitgevoerd in een gecentraliseerde cloud of in externe datacenters. Als je AI-mogelijkheden echter aan de edge van het netwerk implementeert, kunnen beslissingen en acties sneller worden genomen op basis van de informatie die is verzameld door sensoren op locatie.

Fictief voorbeeld van edge AI

Een van mijn favoriete voorbeelden van AI aan de edge komt eigenlijk uit een van mijn favoriete videogames: de originele Mass Effect Trilogy van Bioware. Een korte samenvatting van de trilogie: Jij bent Commander Shephard, een menselijke Spectre die de hele melkweg probeert te redden van kwaadaardige buitenaardse wezens, die de ‘Reapers’ worden genoemd. In de tweede game maken we kennis met EDI (Enhanced Defense Intelligence), de volledig zelfbewuste AI op het schip van Shephard, de ‘Normandy’. 

Hoe is deze AI aan de edge?

Dit fictieve schip, de Normandy, reist van systeem naar systeem. Voor de uitvoering van alle computertaken van EDI kan het dus niet vertrouwen op het internet dat verbonden is met een cloudomgeving. Als je helemaal van de aarde naar Omega reist, dat op ongeveer 2,43 astronomische eenheden (of 365 miljoen kilometer) afstand ligt, kun je immers niet verwachten dat een cloudnetwerk al je AI-computergebruik faciliteert, toch? 

AI on-premises betekent AI aan de edge

Om deze uitdaging op te lossen, heeft de Normandy een speciale AI Core aan boord. En daar heb je het: AI aan de edge. 

De gegevensopslag en -verwerking van de toepassing (de EDI) vindt plaats op het apparaat dat alle gegevens en informatie oppikt die door de algoritmen van de AI moeten worden verwerkt. Alle sensoren van het schip sturen de gegevens rechtstreeks naar de AI-kern aan boord. Er is geen internetverbinding nodig om de computertaken uit te voeren. Alle AI-code wordt immers op de AI-kern zelf opgeslagen, bijgewerkt en geoptimaliseerd. 

Echte voorbeelden van edge AI

Dit voorbeeld van een verdedigingstoepassing (EDI) op een ruimteschip (Normandy) in Mass Effect is natuurlijk science fiction. De realiteit is echter niet heel anders.

Een goed voorbeeld van edge AI zijn autonome voertuigen. Bekijk de klantcase van Bear Flag Robotics en lees over hun autonome tractoren. Deze oplossing gebruikt informatie uit een groot aantal inputs, waaronder 3D-camera’s, LiDAR– en positiesensoren, om te achterhalen waar ze moeten draaien om een oneffen bodem te voorkomen, hoe ze apparatuur moeten afstellen en wanneer ze moeten remmen om obstakels te vermijden. 

Dit zijn allemaal beslissingen die snel moeten worden genomen. Er is geen tijd om de gegevens naar de cloud te sturen, te verwerken en vervolgens instructies naar de tractor terug te sturen. Doordat de gegevens worden ingelezen en verwerkt door een computer die op de tractor is bevestigd in plaats van in de cloud, wordt deze vertraging, latentie genoemd, geëlimineerd. 

Om nog maar te zwijgen van het feit dat de toegang tot een internetverbinding best een uitdaging kan zijn op een landbouwterrein. Met AI aan de edge kan het computergebruik gewoon doorgaan, ongeacht waar die gegevens zich bevinden. 

Voordelen van het gebruik van kunstmatige intelligentie aan de edge

Misschien herinner jij je onze blog over de voordelen van Edge Computing, waarin de voordelen van een toepassing in de industriële automatisering werden beoordeeld. De voordelen zijn vergelijkbaar voor een AI-toepassing, waaronder:

• Lagere latentie
• Hogere snelheid
• De mogelijkheid om sneller meer gegevens te verkrijgen
• Minder bandbreedtegebruik
• Verbeterde gegevensverwerking en -analyse

Hardwarevereisten voor edge AI

Nu je de voordelen van edge AI kent, vraag je je misschien af welke hardware je nodig hebt om dit tot een succes te maken? Daar is geen eenvoudig antwoord op te geven. Verschillende toepassingen hebben verschillende hardwarevereisten. Er zijn allerlei zaken waarmee je rekening moet houden. 

Industriële I/O

Een edge-computer moet misschien verbinding maken met veel IoT-apparaten. Maak een overzicht van alle aangesloten apparaten om er zeker van te zijn dat je de oplossing configureert met de juiste industriële I/O, inclusief ruimte voor uitbreiding. De OnLogic HX500 heeft bijvoorbeeld 8 USB-poorten, twee LAN’s en een optionele COM-poort voor oudere verbindingen. 

Locatie van je edge AI-toepassing – de omgeving

Een van de belangrijkste aandachtspunten is de locatie van de toepassing. Er zijn veel externe factoren die invloed kunnen hebben op een computer. Misschien heb je een toepassing die voortdurend onderhevig is aan stof, vuil en andere deeltjes die een traditionele computer kunnen beschadigen. In dat geval is een industriële fanless computer een must.

Denk aan de omgeving waarin de autonome tractor van Bear Flag moet functioneren. Een op een tractor gemonteerde computer wordt niet alleen blootgesteld aan vuil, maar heeft ook voortdurend te maken met impactkrachten en trillingen. Een traditionele computer zou in deze omgeving waarschijnlijk niet kunnen functioneren en de kans op gegevensverlies is dan reëel. De AI biedt dan niet de mogelijkheid om de juiste beslissing te nemen. In deze situatie is een rugged computer misschien de beste keuze. 

Hoe om te gaan met de hoeveelheid gegevens

Een andere overweging is de hoeveelheid opslag op je computer. Gegevens vormen de belangrijkste voedingsbron voor AI. Door alle sensoren en gegevensstromen waarop de edge computer is aangesloten, kunnen gegevens zich snel opstapelen. Hoe zit het met situaties waarin je edge computer is losgekoppeld van een netwerk en geen gegevens kan doorgeven aan een fog- of cloudlaag? Dit kan het geval zijn voor een mobiele AI-toepassing. Er zijn twee opties: opslag en draadloze connectiviteit. 

Opslag

Je kunt veel fysieke opslag op je computer toevoegen die fungeert als buffer of cache en met de cloud of je gegevensunits wordt gesynchroniseerd zodra je weer verbinding hebt met een netwerk. Opslagoplossingen op basis van NVMe en PCIE 4.0 zorgen ervoor dat je nog steeds beschikt over een meer dan behoorlijke hoeveelheid opslag in je industriële/rugged computer, terwijl je toch profiteert van het compacte formaat. 

Connectiviteitsmogelijkheden

Je kunt draadloze connectiviteitsmogelijkheden aan een computeroplossing toevoegen, zodat je altijd een verbinding met de cloud kunt onderhouden om gegevens op te slaan en op te halen. Een computer met 4G-connectiviteit is afhankelijk van een sim-kaart die je gegevensconnectiviteit biedt om te communiceren met verschillende platforms of servers. Je kunt echter ook kiezen voor beide opties: zorg in elke situatie voor connectiviteit op je computer, maar configureer ook genoeg opslagruimte om als buffer te fungeren in situaties waarin je geen connectiviteit hebt.

Visuele verwerking

Wat als een AI-toepassing visuele verwerking vereist? Stel, je hebt een toepassing die een camera heeft om de omgeving te scannen en visuele input te verwerken op basis van afbeeldingen of video’s. Om ervoor te zorgen dat je AI-toepassing zo soepel mogelijk werkt, moet je rekening houden met de grafische verwerkingsmogelijkheden van je edge AI-computer. In veel gevallen beschikken de nieuwste processors over voldoende rekenkracht voor de grafische verwerking die je toepassing nodig heeft, zoals het geval is met onze Karbon 800-serie. In sommige gevallen heeft een computer zwaardere visuele verwerkingskracht nodig. In dat geval moet je denken aan een industriële computer met een speciale grafische verwerkingseenheid.

Ben je klaar voor AI aan de edge?

Of je nu een ingenieur bent die de beste manier bekijkt om AI te implementeren, of een menselijke superheld die door de melkweg vliegt met een ruimteschip van een miljard dollar met supergeavanceerde AI aan boord om alle belangrijke beslissingen te nemen, het valt niet te ontkennen dat AI aan de edge in de huidige technologische wereld bijna onmisbaar is. Nu technologie steeds flexibeler wordt en toepassingen steeds meer real-time gegevens vereisen, zal AI aan de edge een van ’s werelds meest essentiële concepten worden om kunstmatige intelligentie succesvol te maken. 

Ben je klaar om je edge AI-reis te beginnen? We adviseren je graag over de hardwarevereisten voor je AI-toepassing. Download onze checklist voor het kiezen van een industriële computer of neem contact op met een van onze oplossingsspecialisten om de perfecte computer voor je volgende AI-project te kiezen.