Le déploiement des modèles d’inférence au plus près des données (2/4)

Découvrez notre coeur de métier et les grands enjeux de l’intelligence artificielle appliquée à l’acoustique !

Dans une logique de vulgarisation, nous partageons dans une série d’articles les thématiques qui font le quotidien de nos data scientists. Pour ce deuxième article, nous revenons sur les avantages et difficultés de l’inférence centralisée et de l’inférence en périphérie.
Inférence centralisée 

L‘inférence centralisée est structurée de manière à recevoir les données d’une flotte de capteurs sur un serveur, et ce en temps réel ou à la demande suite à la détection d’un événement.

Une fois les données récoltées, le serveur, sur lequel a été déployé le modèle, réalise une inférence sur base de ces données. Suite à cela, les résultats de l’inférence permettent de déterminer une action à effectuer. Cette action peut être par exemple lever une alerte, si on détecte par exemple un certain type d’événement, ou opérer une modification du fonctionnement du capteur.

Dans le cas d’une inférence centralisée, une série de transferts de données s’opère entre les capteurs et le serveur, puis entre le serveur et les capteurs. Ceci va induire une latence dont la durée est trop longue pour le cas d’usage.

Par exemple dans le cas d’une voiture autonome, une latence dans la détection d’un piéton est inacceptable.

Inférence en périphérie

L’inférence périphérique effectue le traitement des données directement sur le capteur. Le problème de latence due aux différents transferts de données ne se pose plus.

Avantages et difficultés

Le tableau ci-après expose les avantages et difficultés de l’inférence en périphérie :

  • Une faible latence comparée à l’inférence centralisée, mais il faut disposer de suffisamment d’espace mémoire et de puissance de calcul au sein du capteur pour pouvoir exécuter correctement le modèle,
  • Il est possible de faire fonctionner le système sans connectivité, mais cela enlève la possibilité de mettre à jour les modèles à distance, ce qui peut s’avérer contraignant en termes de maintenance,
  • Le stockage est alors local, ce qui est bénéfique d’un point de vue sécurisation des données, mais cet espace de stockage est restreint.