L’IA et l’évolution des systèmes de surveillance

Jun 21, 2023

Dans cette interview de Help Net Security, Gerwin van der Lugt, CTO chez Oddity, discute de l'avenir de la surveillance et de l'influence de l'IA. Il étudie également comment les organisations peuvent empêcher leurs systèmes de perpétuer des préjugés ou de violer les droits individuels.

Oddity est une entreprise relativement jeune et nous avons été en mesure de prendre en compte dès le début des pratiques logicielles respectueuses de la vie privée et éthiques. Nous pratiquons les principes de « Privacy by Design ». Par exemple, notre logiciel ne stocke pas du tout les données vidéo dans ses paramètres par défaut, puisque les systèmes de gestion vidéo existants disposent déjà de cette fonctionnalité.

De plus, nous n'utilisons pas les données des clients à des fins de formation. Dans la plupart des cas, nos installations ne sont pas connectées à Internet et nous avons besoin d'un accès physique pour la maintenance et le dépannage. Nous pensons que malgré ces inconvénients, cela en vaut toujours la peine. Surtout lorsqu’il s’agit de zones sensibles comme les centres de détention, où les personnes surveillées ont peu de contrôle sur leur vie privée. En fin de compte, notre logiciel est destiné à aider et à protéger les personnes, et notre objectif est de le faire avec le moins d'impact possible sur la vie privée.

Les déploiements réussis de caméras de surveillance nécessitent une interaction délicate entre les caméras de sécurité, les capteurs et autres matériels, le système de gestion vidéo et le réseau lui-même. Le plus grand défi consiste à créer une infrastructure réseau capable de prendre en charge les besoins toujours croissants en bande passante des caméras modernes.

Les installations de surveillance ont tendance à croître avec le temps et, à mesure que le nombre de caméras augmente, la limite de bande passante du réseau est atteinte. Le remplacement d'une caméra défectueuse est un travail de maintenance facile puisqu'il ne concerne qu'une seule caméra. Remplacer l'infrastructure réseau pour doubler ou tripler la quantité de bande passante est beaucoup plus difficile et nécessite de vérifier et de remplacer le matériel réseau tout au long de l'installation.

Nous voyons souvent des intégrateurs tenter de contourner ce problème en diminuant les paramètres de fréquence d'images ou de débit binaire des caméras afin de réduire la quantité de bande passante dont elles ont besoin. Bien que cela semble être une solution réalisable au premier abord, pour la surveillance basée sur l’IA, cela peut causer des problèmes. Les modèles d’apprentissage automatique sont sensibles aux différences visuelles mineures que l’œil humain peut difficilement détecter. Surtout si l'algorithme a été entraîné sur une entrée de haute qualité, il pourrait avoir des difficultés avec des flux vidéo de mauvaise qualité.

En tant que tel, lors de la création d’une infrastructure de réseau de surveillance à partir de zéro, il est judicieux de planifier à l’avance et de la construire en laissant suffisamment de place à la capacité de bande passante pour croître. Cela permettra de réduire les coûts à long terme et garantira que l'installation est prête pour l'avenir alimenté par l'IA !

En termes de matériel physique, conformément à ma recommandation ci-dessus, réserver suffisamment de bande passante est un facteur crucial.

Plus important encore, l’avenir de la surveillance réside dans l’IA, et les organisations devraient concevoir leur système de surveillance en tenant compte de l’IA. Alors qu'un centre de surveillance par caméra classique peut encore avoir des personnes regardant des murs d'écrans matriciels avec des flux vidéo, elles pourraient bientôt être averties de manière proactive lorsqu'un incident se produit. Avec le même effectif, ils seront bien plus efficaces.

La première étape consiste à déterminer les types d’incidents qui vous intéressent le plus. Des solutions d’IA existent pour de nombreux types d’incidents. Il est important d’envisager l’IA dès le départ et d’impliquer les fournisseurs d’IA dès que possible. En 2023, l’IA n’est pas encore prête à remplacer complètement l’humain. Les organisations feraient bien de mettre en place un déploiement hybride avec des humains impliqués, tout en continuant à surveiller et à combler les lacunes.

Les modèles d'IA sont influencés par les ensembles de données utilisés pour les entraîner. Il est impératif que les fournisseurs d’IA ajustent et équilibrent soigneusement leurs ensembles de données pour éviter toute distorsion. L'équilibrage des ensembles de données est un processus manuel qui nécessite de s'assurer que les humains visibles dans les ensembles de données sont une bonne représentation de la réalité et n'ont pas de préjugés en faveur de certains traits humains. Dans notre cas, nous faisons appel à divers groupes d'acteurs, du monde entier, pour jouer de la violence pour nos ensembles de données de formation afin de garantir leur équilibre. De plus, tester régulièrement de tels biais peut être très utile.