In deze I/O-Hub video beantwoordt productmanager Tasha Dickinson de vraag: “wat zijn edge servers?”, en gaat ze in detail in op hoe edge servers de grootste hedendaagse hardwareuitdagingen oplossenEen transcript van de video lees je hieronder.

Edge servers verwijzen naar computers die zich aan de ‘edge’ van een bepaald netwerk bevinden. Met andere woorden, ze bevinden zich fysiek dicht bij de systemen of applicaties die de gegevens creëren die op de server worden opgeslagen of daardoor gebruikt worden. Klik hier om onze lijn van edge servers te verkennen.

Wie heeft edge servers gecreëerd?

Christopher: (00:06)

Welkom bij deze I/O hub, waar we praten over de nieuwste trends, hardware en technologieën in de branche rondom industriële en embedded computers. Ik ben Chris en vandaag sluit ik aan bij Tasha Dickinson, Product Manager hier bij OnLogic (voorheen Logic Supply).

Vandaag gaan we het hebben over edge servers. Maar voordat we hierop ingaan, zou je een snelle geschiedenis kunnen schetsen over hoe deze servers tot stand zijn gekomen?

Tasha: (00:28)

Natuurlijk! Servers bestaan al geruime tijd. De oprichter van de servers, Tim Berners-Lee, werkte in 1989 voor CERN in Zwitserland. Hij had eigenlijk een probleem. Tim moest gegevens krijgen van zijn wetenschappers die over de hele wereld en alle CERN-laboratoria zaten. En hij wilde er zeker van zijn dat hij er altijd bij kon, waar hij ook was.

Als voorbeeld, elke computer had verschillende talen. Soms moest je meerdere verschillende talen kennen om gegevens van deze verschillende computers te halen. Hierdoor kon hij één opslagplaats hebben die al deze gegevens verzamelde. Het resultaat hiervan stelde hem in staat om het naar al zijn wetenschappers te sturen. En dat is dus waar servers echt zijn begonnen in dit idee van content caching.

Tim startte langzaamaan deze gehele servergeschiedenis die we tot op de dag van vandaag hebben. Hij werd zelfs naar voren gebracht tijdens de Olympische Spelen en werd erkend door de koningin en zelfs geridderd.

Hij tweette destijds: ‘Dit is voor iedereen’. En ik hou echt van het idee dat iemand die hiermee is begonnen de geschiedenis rondom servers echt heeft verrijkt. En ik denk dat we dit hier hedendaags doen met OnLogic (voorheen Logic Supply) met enkele van onze edge servers.

Wat zijn edge servers?

Christopher: (01:50)

Dus Tasha, vertel ons. We weten dat servers bekend staan als computers die als centrale informatiebron dienen om hulpmiddelen te geven en resources over het netwerk te verdelen. Maar wat zijn edge servers?

Tasha: (02:03)

Wanneer mensen het woord server horen, denken de meesten aan een koude kamer achter in een gebouw of ondergronds in cementbunkers. Maar dat is het model van 10 jaar geleden. Dat was vóór de proliferatie van de cloud en de snelle groei van internet.

En dus zullen edge servers echt een soort volgende stap zijn die we vervolgens nodig hebben. Weet je, ik had het over Tim en hoe hij een probleem had en wat hij aan het doen was. Mensen hebben echt interesse in kunstmatige intelligentie, machine vision en deep learning. Hierdoor zien we dat veel van de analyses en dingen die moeten gebeuren, nu verder weg van de datacenters plaatsvinden.

Daarnaast is het belangrijk om na te denken over de problemen waarmee onze softwareleveranciers worden geconfronteerd of de uitvinders die zien wat er gebeurt in de gebieden. Een edge server kan veel van de berekeningen die nodig zijn direct aan de edge uitvoeren. Precies waar deze zaken in ons dagelijks leven gebeuren.

Dus in NEMA-kabinetten, op maat gemaakte kasten in het midden van de woestijn, magazijn of op een bureau. Of midden in een lasstudio. Al deze zaken zijn problemen die mensen hebben en die we proberen op te lossen met edge servers.

Waarom zou je edge servers gebruiken?

Christopher(03:28)

Laten we er een paar bespreken. Je hebt het over hetgeen wat traditioneel in deze grote serverruimtes zat en wilt het dichter bij de actie brengen. Wat zijn de voordelen? Waarom doen mensen dat?

Tasha: (03:45)

Ja precies. Wat is de logica? Er zijn een aantal verschillende problemen die we van onze klanten hebben gehoord. Wat we hebben gezien terwijl veel van deze technologieën zich ontwikkelden, is dat de besluitvorming omvangrijk is. Zeker bij kunstmatige intelligentie.

Als je ergens op wilt reageren? Stel dat je een robotarm bij een productielijn hebt en het moet snel kunnen reageren, omdat het om veiligheidsredenen te dicht bij een persoon staat. Of een lijn moet stoppen, omdat deze iets heeft geïdentificeerd met een vision-capabiliteit.

Die beslissing moet snel gemaakt kunnen worden. Het systeem heeft niet de tijd om gegevens naar een groot analysecentrum te sturen om die beslissing te nemen. Het moet onmiddellijk stoppen, omdat robots niets voelen.

Gebruik van edge servers om kosten van de cloud te compenseren

Christopher: (04:34)

Er zijn er 2 toch? Dat is de kern van de situatie.

Tasha: (04:38)

Precies. Het is belangrijk om die besluitvorming naast die robot of op locatie te hebben. Er is behoefte aan die berekening. Maar clouddiensten en big data zijn exponentieel gegroeid.

Er zijn meer nodes en dataverzamelaars die gegevens naar de cloud pushen dan ooit tevoren. Mensen beseffen dat het duur is om ongefilterde data naar de cloud te sturen.

Christopher: (05:18)

Dus dan is er dat managementvraagstuk over de kosten van het verzenden van data…

Tasha: (05:23)

Wel, dat en het zijn de kosten van het verzenden ervan. Het gebruik van cloudgegevens is gebaseerd op de hoeveelheid data die je gebruikt. Of de hoeveelheid data die je opslaat. Je wilt alleen opslaan wat je echt nodig hebt en alleen wat je gebruikt. Dus het maken van de computationele beslissingen voordat deze worden verzonden, bespaart je geld, zowel op overdrachtskosten als op cloudkosten.

Christopher: (05:46)

Je zegt dat dit het grootste gedeelte bij de bron al wordt filtert. Dus wat wordt verzonden, is kleiner en efficiënter. Het is een kostenefficiënte manier om met je data om te gaan.

Tasha: (05:58)

Het is absoluut een efficiënte manier om het zo te doen. Bovendien zal het niet helpen om extra data te bewaren. Je wilt namelijk snel weten wat je nodig hebt. We kunnen mensen daarbij helpen met het gebruik van deze edge servers.

Veel mensen realiseren zich dat ze deze rekenkracht aan de zijlijn nodig hebben. Bijvoorbeeld, naast een robot. Maar je kan niet zomaar een rack neerzetten bij de robot en het daar laten. Je hebt een server nodig die daar speciaal voor gebouwd is. Edge servers stoppen deze mate van rekenkracht in een kleine,compacte en betrouwbare form factor die de robot kan besturen.

Verplaatsing van het datacenter naar de edge

Christopher: (06:52)

Ja toch? Want we hadden het over wat in een gigantisch datacenter zit en hoe dit zo compact gemaakt kan worden om het in een doos te stoppen, of natuurlijk de behuizing van een robot.

Tasha: (07:02)

Inderdaad. Een NEMA-kabinet, een klein NEMA-kabinet om precies te zijn. Wat we hier proberen te doen is dus om deze hoeveelheid rekenkracht te hebben in een klein formaat en er verbinding mee te kunnen maken. Weet je, dat het andere grote ding de connectiviteit is, want zodra al deze informatie gegenereerd en gesorteerd is en erop gereageerd wordt moet je het nog kunnen verbinden met de cloud of een soort intranet dat de data rond kan sturen.

Meestal zijn datacenters goed verbonden, maar ze hebben ook gigantische opslagcentra aan zich vast zitten. Dus om deze hybride te hebben, met voldoende opslag op locatie, en zelfs met de mogelijkheid om hot-swappable rechten te gebruiken en je data te versturen en vandaan te halen bij de cloud zijn Wi-Fi, 4G of snel internet een extra belangrijk iets.

Het zijn dit soort problemen die we veel tegenkomen en dat is echt wat we hebben geprobeerd op te lossen bij het creëren van een edge server. Hoge connectiviteit, hoge rekenkracht, wat opslagcapaciteit of tenminste flexibele opslagmogelijkheden voor deze behoeften. En echt precies voldoen aan de behoeften die nodig zijn voor het juiste niveau van verwerkingskracht.

Hoe ziet een edge server eruit?

Christopher: (08:10)

We hebben deze visualisatie van een datacenter gecreëerd. Maar hoe ziet een typische edge server eruit?

Tasha: (08:24)

Er is niet zozeer één soort. Een edge server past bij de locatie waar je hem nodig hebt. We hebben gefocust op meerdere platforms. Dit om hoge rekenkracht in een kleine behuizing of rack te hebben en het op één platform te programmeren. Hier gaan we al wat meer over de form factor nadenken. Van ventilator-gekoelde apparaten tot fanless, tot aan rackmount servers.

Misschien heb je een rackmount met meerdere CPU’s, opslag en connectiviteit nodig. Denken aan deze gehele opstelling aan mogelijkheden van wat onze klanten echt nodig hebben om hun problemen op te lossen, is erg belangrijk bij het maken van een edge server.

Christopher: (09:26)

Hoe vertaalt zich dat op de echte systemen zelf?

Tasha: (09:30)

Edge servers zoals we ze hier hebben ontwikkeld, hebben een breed scala aan form factors om aan de behoeften van verschillende omgevingen te voldoen. We hebben dus systemen zoals Karbon 700, met Xeon-verwerking en werking tot 70 graden Celsius.

Het is iets verbazingwekkends; een systeem met een Xeon-processor en heel veel connectiviteit. Dit is belangrijk, want als je eenmaal die beslissingen hebt genomen, moet je die informatie nog steeds naar een verwerkingscloud sturen. Het hebben van een dergelijk systeem in je eigen portfolio is een belangrijk onderdeel ervan, vooral omdat je jouw oplossing inzet om jouw problemen op te lossen. Dus er is, er is ook deze …

Welke kenmerken heeft een edge server?

Christopher: (10:34)

Dus iets zoals deze Karbon 700… Wat maakt dit een edge server? Wat kunnen we hiermee doen?

Tasha: (10:46)

Het idee van een edge server is rekenkracht. Het is de connectiviteit en het zijn waar het moet zijn. Deze kan overweg met een Xeon E 32176-processor die veel rekenkracht mogelijk maakt. Maar het kan ook uitbreidingen aan. Je hebt standaard PoE en ModBays geven je een zeer snelle uitbreiding.

Je kunt hier Wi-Fi en draadloze 4G kiezen. Deze connectiviteit aan de edge maakt de besluitvorming mogelijk. Verbonden zijn met het netwerk of de cloud is daar een belangrijk onderdeel van.

Christopher: (11:23)

Dus wat ik hier dan zie is de uiterste kant van een edge server. We hebben hier ook wat ander speelgoed. Wat is dit?

Tasha: (11:40)

Dit kleine maar machtige systeem is de MC850. Het is een geweldig apparaat, want vanwege de grootte krijg je een schaalbare Xeon-processor. Je kunt tot 28 cores en 48 PCIe-lanes gebruiken voor zwaar computergebruik, vooral voor AI. Dit is echt gebouwd voor AI. Je hebt de mogelijkheid om uit te breiden en een GPU toe te voegen. Het heeft een enorme kracht voor zo’n klein iets. Deze kan op een bureau, NEMA-kabinet of waar je maar wilt.

We hebben alles, van virtual reality tot parking-garages tot analytics, tot video-analyses, intelligente NVR’s en andere soorten toepassingen. Dingen die veel visuele verwerking vereisen. Dit toont wat een edge server is. En dat is rekenkracht plus de connectiviteit in een klein kastje waarmee het overal naartoe kan.

Vroege iteraties van edge server technologie en ontwerp

Christopher: (13:07)

En dit is interessant, omdat dit lijkt op het soort kleine broertje van de MC850. Kun je ons hier wat meer over vertellen en wat er in dit ontwerp is gestopt?

Tasha: (13:23)

Ja. De reden waarom ik dit dus naar voren bracht, was omdat dit een project was dat we met Intel hebben gedaan. Het is echt het begin van ons verhaal op het gebied van edge computing. We hebben dit gemaakt met Intel en het idee dat dataverwerking steeds meer naar de edge gaat.

Het was de eerste iteratie een paar jaar geleden en het heeft ons echt op weg geholpen bij deze reis over waar de verwerking plaatsvindt. En Intel bracht ons dit en zei: ‘Hé, luister, we hebben veel klanten die erover praten dat er meer nodig is dan serververwerking helemaal in een achterkamer. Ze hebben verwerking aan de edge nodig. ‘

En zo is het ontstaan. Ik heb ooit een verhaal gehoord over een man die in een vergadering zat met een heleboel mensen en probeerde zowel cloud computing uit te leggen als het feit dat er cloud is en al deze data hierin rondgaat. Het is overal, maar het begint steeds meer verspreid te raken. Het begint zich verder te verspreiden en de man zei: ‘Oh, dus, het is niet zozeer een wolk maar meer als mist.’ En zo kwamen we terecht bij een mist-box (fog box).

Van ‘fog-box’ tot edge servers

Christopher: (14:27)

Dus dat is eigenlijk de titel hiervan, het mist-referentieontwerp. Dus wat hebben we geleerd met dat project? Ik denk dat het was voor video-analyse, beeld- en objectherkenning. Wat hebben we daar geleerd? Waarom doen we dit?

Tasha: (14:49)

Om te beginnen kwam het voort uit een idee van de behoeften en de problemen die er zijn en die we proberen op te lossen. Dus bij dit idee van verwerking aan de edge hadden we klanten die naar ons toe kwamen om ons om oplossingen te vragen, of eigenlijk, in dit geval, totdat ze naar Intel kwamen en Intel naar ons kwam om met hen aan een soortgelijk project te werken.

Maar we leerden bij de uitrol dat we niet alleen moesten nadenken over verwerkingskracht, maar ook over connectiviteit en schaalbaarheid. Dus je weet, een project als dit, het was een goed begin, maar het kon ook niet opschalen op een manier die veel mensen nodig hadden. Veel mensen begrijpen dat we de verwerking aan de edge moeten hebben.

Het moet werken met de nodes die je al hebt geïmplementeerd. En het moet ook een beetje groeien in je hele organisatie. Vanaf dat moment zijn we begonnen met het uitbreiden van het portfolio in termen van toegang tot 1U-, 2U- en 4U-servers om echt te schalen naar iemands operatie om van begin tot eind te kunnen begrijpen hoe deze data-flow een soort van leeft.

Voorbeelden van edge server toepassingen

Christopher: (15:49)

Dus toen we met Intel werkten en dit referentieontwerp ontwikkelden, leerden we dat het creëren van computernetwerken het vermogen van rekenkracht en connectiviteit dichter bij de plaats brengt waar het gebeurt. Dit is waar we voordelen zien in termen van snelheid en reactietijd. Kan je ons enkele voorbeelden geven van hoe edge servers er in actie uit zouden kunnen zien?

Tasha: (16:16)

Dus op dit moment hebben we de MC850 in een verpakkings- en scheidingsfabriek. Hij staat in een NEMA-kast, omdat hij klein genoeg is om hier in te passen. Het systeem neemt beslissingen over de robotarm die vision-analyse uitvoert. Het is in staat om die beslissingen daar op de locatie in realtime te nemen.

Onze 1U-servers gaan een op maat gemaakte kast in, midden in een woestijn. Het beschermt de locatie en voert ter plaatse beveiliging en analyse uit.

Er zijn veel andere handige applicaties die het hebben over besluitvorming waarbij een datacenter geen logische oplossing is. Maar er zijn ook voorbeelden in beveiliging waarbij ook datacenters deel uitmaken van de oplossing.

Die schaalbaarheid stelt innovators in staat om real-time besluitvorming, analyse en verwerking ter plaatse en op afstand af te handelen via verschillende implementatiemethoden.

Christopher: (17:54)

Het is dus bijna een uitbreiding van edge-verwerking. Maar in plaats van lichtgewicht, kleinere systemen te gebruiken, gebruik je daarvoor krachtigere systemen die daar beter toe in staat zijn.

Tasha: (18:12)

Ja. Met edge servers brengen we die kracht helemaal tot aan de edge. Mensen hebben het nodig. De problemen die ze tegenkomen bij verwerking en analyse aan de edge, hebben we echter kunnen oplossen met edge servers.

Gebruik van edge servers om problemen op te lossen

Christopher: (18:31)

Met andere woorden, hoe slimmer de branche wordt, hoe krachtiger de computers moeten zijn om dat daadwerkelijk te doen en de zaken intuïtiever te maken.

Tasha: (18:40)

Jazeker. Ik bedoel, denk je na over waar de industrie nu echt heen gaat op het gebied van video-analyse? Op dit moment gaan mensen erop uit en nemen beslissingen, toch? zoals, met de video-analyse op het gebied van beveiliging. Dus als je erover nadenkt of je jezelf in een evenement of iets dergelijks bevindt, kunt je daar veel analyses uitvoeren om problematische mensen of problematische gebeurtenissen daar te detecteren.

We werken bijvoorbeeld momenteel samen met een solution-provider en bieden onze oplossing aan de edge voor video-analyse ter voorkoming van misdaad, diefstal en andere gebeurtenissen. Dat is nog maar een eerste blik naar wat er in de toekomst gaat gebeuren. Het is ook duidelijk dat we weten dat zelfrijdende auto’s analytics op een hele grote manier naar de edge brengen.

Veel van de oplossingen die we hebben, vooral rond de Karbon 700, brengen dat soort edge computing echt naar de edge. Het rijdt in een auto, helemaal tot aan verzendhavens, en we bevinden ons in vrijwel alle soorten magazijnen en locaties, waar je ook heen gaat.

Ik hoorde laatst dat we helpen bij het uitvoeren van een aantal analyses en het verzenden van gegevens voor de Tour de France en in dergelijke gevallen is het leuk om te horen dat onze computers echt een verschil maken aan de edge.

Hoe werken software en edge servers samen?

Christopher: (20:08)

Terwijl je op ons edge server platform aan het ontwikkelen bent geweest, wat maakte jou enthousiast over die ervaring en in welke richting gaat de industrie nu we echt uitdagende problemen proberen te verhelpen?

Tasha: (20:28)

Een van de gave dingen die ik als productmanager doe, is luisteren naar wat er om me heen gebeurt in de markt, de industrie en zelfs onze leveranciers over wat opwindend is en wat er gaat gebeuren. Zo blijven we op de hoogte van trends in de branche en nemen we een leidende rol op dit gebied.

Dus toen we hadden gedefinieerd wat een edge-server is, was het spannend om naar al die verschillende dingen te kunnen luisteren. We gaan naar beurzen en onze partners zijn zo enthousiast om te kunnen zeggen dat ze echt een probleem hadden met het doen van analyses aan de edge en daar nu een oplossing voor hebben.

Edge server oplossingen voor innovators

Christopher: (21:13)

En je hebt het over softwarepartners toch?

Tasha: (21:15)

Ja. Mensen die puur metaal nodig hebben om hun programma uit te voeren. Hierdoor lijken veel van onze hardwareklanten op onze softwarepartners. Ze lossen problemen op. Misschien komt het door software en kunnen we dat met onze hardware realiseren. Wij zijn het laatste stukje dat jouw ideeën en gedachten bij elkaar brengt.

Dit gebeurt, omdat we geharde industriële platen en systemen kunnen ontwerpen. Bovendien werken we voortdurend samen met onze leveranciers om een lange levenscyclus te garanderen om die oplossing te hebben waar mensen van dromen.

En ten slotte, om ervoor te zorgen dat je jezelf geen zorgen hoeft te maken of het gaat werken, omdat je weet dat het zal werken. We weten dat onze hardware het mogelijk zal maken op dat platform. Dus een van de andere dingen die ik echt leuk vind aan mijn werk, is dat ik ook kan kijken waar de industrie naartoe gaat en wat er daarna komt.

We hebben nu veel gepraat over rekenkracht en heb hier dit  schaalbare Xeon Cascade Lake-systeem van Intel. En we zijn erin geslaagd dit in de MC850 te stoppen, maar ik denk dat er zoveel andere platforms zijn waar onze klanten gebruik van maken en enthousiast over worden. Dus naast Xeon en Intel in het algemeen, kunnen we het nu nog even over AMD hebben.

AMD edge servers

Tasha: (22:46)

AMD biedt ons hele andere mogelijkheden tot oplossingen. Binnenkort zullen we meer en meer gaan praten over AMD, wat ze naar deze markt brengen, waarom mensen AMD zouden moeten gebruiken en waarom mensen Intel zouden moeten gebruiken.

Weet je, een van de dingen die ik denk dat we hier echt goed doen bij OnLogic (voorheen Logic Supply) is het vinden van de juiste oplossingen voor de problemen die onze klanten vragen of juist niet vragen. Het is dus belangrijk om een portfolio te hebben, terwijl we groeien om aan al die verschillende behoeften te kunnen voldoen.

AMD gaat ook deel uitmaken van die oplossing. We werken daarnaast samen met softwarepartners zoals Gorilla en Ignition. Hierdoor worden ze onderdeel van onze oplossing voor ThinManager. Al deze dingen maken deel uit van de oplossing voor de problemen die onze klanten zien.

Andere technologieën om te bekijken binnen edge servers

Daar krijgen we meer van te zien, vooral in de edge-serverlijn. In staat zijn om meer uitbreidingsopties te kunnen doen. Onze klanten komen daardoor met verschillende connectiviteitsbehoeften naar ons toe.

We beginnen met draadloze 5G. Maar we hebben de verzoeken om glasvezel al gezien, omdat we glasvezel in sommige van deze kleinere apparaten kunnen integreren als onderdeel van de connectiviteit. Het is een soort oude hoed, maar een die we kunnen verpakken in nieuwe pasvormen. Dit is een nieuwe kans voor ons en voor de markt in het algemeen. Dus daar zijn we enthousiast over.

Conclusie

Christopher: (24:00)

Juist, omdat het geen one size fits all-oplossing is. Er zijn verschillende manieren om deze problemen op te lossen. En verder, waar je het over had, is het kunnen toepassen van deze verschillende technologieën, connectiviteit, verwerking en form factors; naar producten die specifieke problemen oplossen.

Tasha: (24:25)

Ja, en daar zijn we allemaal enthousiast over. En daar aan werken en dat dan hier kunnen brengen en een beetje met jou kunnen praten over een aantal van deze gave nieuwe dingen.

Christopher: (24:45)

Bedankt, Tasha, dat je langs kon komen en poëtisch bent geworden over edge servers. Dit beëindigt ons eerste gesprek over edge servers. Bekijk volgende keer weer met ons de I/O hub, waar we het hebben over edge servers en hun betrouwbaarheid, duurzaamheid en waardoor ze elke omgeving aankunnen.