3D-camera's met neurale netwerken

05/06/2019

Door Ad Spijkers

Een Duits onderzoeksconsortium heeft in het project Ennos is een compact camerasysteem ontwikkeld, dat verkregen data analyseert en verwerkt op een geïntegreerde processor met diepe neurale netwerken.


     

Ennos staat voor 'Eingebettete Neuronale Netze für Optische Sensoren zur flexiblen und vernetzen Produktion'. De gebruikte methoden van machine learning zijn bedoeld om een efficiëntere interpretatie van cameragegevens mogelijk te maken. Ze hebben een groot potentieel om machines in de toekomst beter aanpasbaar te maken. Het neurale netwerk wordt geëvalueerd op een FPGA-chip en dient als 'kunstmatig brein' voor de besluitvorming voor vooraf gedefinieerde vragen.

Embedded processoren

De FPGA's die worden gebruikt voor de embedded oplossing van Ennos bieden voordelen ten opzichte van klassieke processoren qua flexibiliteit, stroomverbruik en energieverbruik. Door de beperkte capaciteit van de chips moeten de programmeerbare architecturen echter kleiner en compacter zijn.

De uitdaging is om de complexe structuur en omvang van moderne neurale netwerken geschikt te maken voor een compacte processorarchitectuur. Onderzoekers van het Deutsches Forschungszentrum für Künstliche Intelligenz (DFKI) ontwikkelen algoritmes en methoden die het aantal neuronen in de neurale netwerken verminderen en de netwerken efficiënter maken. Dit doen ze bijvoorbeeld door overbodige neuronen of hun verbindingen te verwijderen.

Een andere innovatieve stap van het project lijkt de integratie van ultra-compact 3D-camera's van PMDTechnologies, leverancier van op CMOS gebaseerde camera's. Diens 3D Time of Flight beeldsensortechnologie wordt al gebruikt in smartphones, AR-brillen, auto's en industriële robots. De optische sensoren zijn met name geschikt voor het flexibel en snel verzamelen van informatie over complexe omstandigheden en omgevingen.

Toepassingsscenario's

Het nieuwe intelligente cameraplatform wordt gebruikt in drie verschillende toepassingsscenario's voor de netwerkpartners:

Diagnose op afstand met automatische anonimisering van personen. Bij het gebruik van camera's en software voor video-gebaseerde diagnose op afstand moet worden gewaarborgd dat geen persoonlijke gegevens worden verzameld of opgeslagen. Robert Bosch en DFKI ontwikkelen een applicatie die mensen herkent en automatisch uit de videostream verwijdert. Aangezien alleen geanonimiseerde videogegevens het Ennos-systeem verlaten, worden alle zorgen omtrent gegevensbescherming van een diagnose op afstand geëlimineerd. Zie foto boven (foto: Robert Bosch).

Semantische 3D-scènesegmentatie voor robotica. DFKI en Bosch werken ook samen aan de geautomatiseerde herkenning van objecten in industriële omgevingen. Het opzetten van robotgestuurde manipulatietaken is tijdrovend en duur. Om dit proces te vereenvoudigen, kan het Ennos-systeem eenvoudige concepten zoals 'pallet', 'component' of 'tafel' detecteren. Het aanbieden van semantische informatie maakt een meer intuïtieve en daarom snellere, mogelijk semantische programmering van werkprocessen mogelijk.

KSB Ennos 780

Assistentiesysteem voor grote apparaten (zie foto; foto:  KSB). Partners KSB en lOXP werken aan automatische detectie van de componenten bij pompen, afsluiters, leidingen, sensoren, displays, warmtewisselaars en reactoren. De detectie moet zijn gebaseerd op een opgeslagen bibliotheek. Om dit te doen, zal de intelligente Ennos-camera worden aangesloten op de bestaande augmented reality oplossing van IOXP. Dit maakt procesdocumentatie van industriële bewerkingen mogelijk in de vorm van stapsgewijze instructies en omvat verwerkingsmodules voor object- en actieherkenning.

Behalve genoemde partijen is ook IFM Electronic partner in het Ennos-project.