La sûreté-sécurité bâtit son écosystème de ruptures technologiques

[Paru le 06/06/2018 dans Les InfoProtection.fr] Objets connectés, Big Data et intelligence artificielle, véhicules connectés et robots… le monde de la sûreté et de la sécurité vit ses révolutions technologiques à l’instar des autres domaines d’activité. Sous la houlette du CICS, la filière se structure afin de ne pas tomber dans les impasses.

L’écrivain et artiste britannique James Bridle a piégé l’IA d’une voiture autonome en peignant une ligne continue autour d’elle.
© D.R.

Les milliards de photos déposées par les utilisateurs de Facebook rendent chaque jour plus performants les algorithmes de Deep Learning élaborés par les équipes du français Yann LeCun. A tel point qu’ils reconnaissent une personne même de dos ! On s’en doute, ce type de rupture technologique fait rêver bien des acteurs de la vidéoprotection. « Aujourd’hui, les réseaux de neurones, technologie de base du Machine Learning et du Deep Learning [deux technologies de l’Intelligence artificielle, NDLR], ont aujourd’hui de 200 à 300 couches de traitement. Résultat, Facebook reconnaît ainsi un visage à 97,25 %. Le réseau social de Mark Zuckerberg sait même détecter si la personne est en dépression nerveuse, expliquait Vincent Lecerf, expert en intelligence artificielle (IA) et fondateur de la société Metagenia, lors de l’atelier « Ruptures technologiques dans la sûreté » organisé mardi 5 juin par l’Association nationale de la vidéoprotection (AN2V). Il est donc capital d’avoir les données qui permettent de nourrir et entraîner le modèle. En sécurité, c’est ce qui permet d’apprendre ce que est normal de ce qui ressort de l’anormalité. » Et, ensuite, de prendre des décisions.

L’IA entre mythe et réalité

Cependant, l’IA ne fait pas tout : « Elle n’a pas d’humour, ne sait pas penser à l’envers ni contourner les difficultés », reprend Vincent Lecerf. Par exemple, l’écrivain et artiste britannique James Bridle n’a eu besoin que de peindre un cercle blanc tout autour d’une voiture autonome pour la bloquer sur place, n’ayant pas le droit de franchir une ligne continue ! Par ailleurs, l’IA peut établir des corrélations absurdes. Comme affirmer que l’hôpital est l’endroit le plus dangereux du monde. Ou que, plus le budget de la National Space Agency (Nasa) augmente, plus nombreux sont les suicides. Il n’empêche ! Avec les progrès de l’électronique et du logiciel, les ruptures technologiques s’opèrent dans tous les secteurs d’activité économique. Et le secteur de la sûreté-sécurité espère bien en tirer parti.

Douze domaines de rupture

Telle est l’objectif de Jacques Roujansky, délégué général du Conseil des industries de la confiance et de la sécurité (CICS) : « Nous sommes en train d’établir notre seconde feuille de route pour l’horizon 2025 dans le but de développer une douzaine de domaines technologiques. » Il en ressort une sérié de ruptures majeures en sécurité et sûreté. A savoir les plates-formes de véhicules connectés, de drones et autres robots mobiles, la détection de produits dangereux, l’observation locale, l’identification et l’authentification, les interfaces entre les mondes réel et virtuel, le Blockchain, l’Internet des objet (IopT) et la 5 G, le Big Data et l’IA, l’ubérisation et la post-ubérisation ainsi que les plates-formes ouvertes de sécurité.

Tenir compte de l’acceptation sociétale

Dans ce contexte, la question est « comment avoir les données et comment se protéger des données fausses données, élaborées pour biaiser les systèmes de Machine Learning ? », soulève Jacques Roujansky qui a voulu positionner ces ruptures dans le cadre d’écosystèmes et de scénarios (technologique, Low Cost, Shield, Club) par rapport à la Sécurité nationale, aux enjeux de l’État, la création de valeur pour les entreprises et l’acceptation sociétale des nouvelles technologies. Après l’analyse effectuée par le groupe d’études du CICS, cinq ruptures arrivent en tête : le Big Data, l’IoT, l’observation locale ainsi que le trio identification, authentification et l’analyses. « Cependant, le groupe d’études indique que ces cinq ruptures sont également les moins bien acceptées par la société », remarque Jacques Roujansky. Une chose est sûre : d’ici 2025, il faudra soit mieux communiquer envers les concitoyens soit inventer de nouvelles voies d’innovation plus respectueuses de l’éthique et des libertés.

Éviter les fausses bonnes idées

« Il faut associer les citoyens à la réflexion », estime Stéphane Schmoll, délégué au développement de Safecluster qui met en garde contre les fausses ruptures. A commencer par les évolutions très lentes et progressives qui, à l’instar de l’intelligence artificielle inventée par Alan Turing en 1942, sont présentées comme de vraies ruptures. De même pour les ruptures « inventées par des ingénieurs qui n’ont jamais vu un utilisateur ». Pis : les fausses bonnes idées comme l’application smartphone Reporty de la société Israélienne Carbyne, qui instaure l’appel vidéo directement à la police. Mis en test par Christian Estrosy à Nice, ce système de dénonciation généralisé, au départ destiné à responsabiliser les citoyens pour lutter contre la délinquance, a dû être retiré suite à son interdiction par la Commission nationale informatique et libertés (Cnil). A l’inverse, Stéphane Schmoll pointe en tant que vraies ruptures les rétines neuronales pour analyser les scènes à bord des caméras, les caméras mobiles géolocalisées (drones, voitures, motos, piétons…), ainsi que la fusion des données provenant de capteurs multiples dont les capteurs de son d’une société comme Sensivic.

Erick Haehnsen