L’émergence dans nos sociétés de technologies telle que l’intelligence artificielle demande une attention toute particulière notamment d’un point de vue éthique. Depuis 2020, un comité éthique élu, parmi les membres de nos équipes ainsi qu’un panel d’intervenants extérieurs, se réunit régulièrement afin de définir et appliquer l’ensemble des principes éthiques qui délimitent les contours du développement de notre produit. L’enjeu éthique est fondamental à la conception d’une intelligence artificielle dite “pour le bien” (IA for good). C’est pourquoi, nous attachons une importance essentielle à une utilisation éthique de notre produit CORE en prévenant au mieux les dérives d'usage et en invitant nos clients à suivre les principes adoptés dans notre charte : bienfaisance, non-malfaisance, autonomie, justice, explicabilité et transparence.

Le produit de XXII, CORE, est un outil d’aide à la décision ou d’aide à la performance. Nous utilisons la vision par ordinateur pour compléter l'œil humain, en aucun cas pour le remplacer. Notre logiciel n’entraîne aucune procédure automatisée à la suite d’une analyse, il facilite simplement l’accès et la compréhension des informations déjà présentes sur les flux vidéos majoritairement grâce à des statistiques anonymisées, ainsi, l’usage de notre produit reste toujours encadré par l’intervention humaine et respecte les valeurs portées par la CNIL : La nécessité réside dans l’utilité du dispositif au regard de l’objectif poursuivi qui doit être clairement identifié. La proportionnalité réside dans la présence déjà existante de la vidéoprotection ou vidéosurveillance. Notre produit n’impacte en aucun cas les personnes concernées d’une autre manière que celle prévue par ces dispositifs. La minimisation des données s’opère notamment à travers l’absence de stockage des données personnelles par XXII, notre logiciel ne stocke, à date, aucun flux vidéo et fonctionne en temps réel. La non-identification, nos algorithmes considèrent une personne comme étant un objet/une silhouette, s’affranchissant ainsi de toute donnée à caractère personnel, c’est donc la position dans l’espace de cette silhouette qui est analysée. Enfin, l’analyse est réalisée sur un ensemble de personnes et non arbitrairement. Il n’y a donc pas d’identification ou d’analyse ciblée d’un individu.

La vision par ordinateur traite des images ou flux vidéos contenant des données à caractère personnel par incidence, XXII veille donc dès la conception de son produit CORE à respecter les législations Européenne et Française dans le traitement des données à caractère personnel et les équipes de XXII accompagnent leurs clients dans les démarches pour la protection de la vie privée. Qui dit nouvelle technologie et perceptions d’objets dit nouveaux enjeux juridiques, éthiques et politiques. Les caméras étant déployées dans des espaces publics et privés, des questions sur les libertés individuelles et droits fondamentaux des personnes se posent. Dès lors qu’il y a une présence humaine ou une présence d’objet permettant une association indirecte à une personne, les captations d’images (photos ou vidéos) et leurs traitements sont régies par le RGPD. Chez XXII, nous n’analysons pas de données à caractère personnel : nous distinguons des silhouettes que nous apparentons à une catégorie d’objet (humain, chien, voiture, vélo…) sans jamais utiliser de données biométriques. Au-delà de la catégorisation d’objets, certains traitements ont des finalités d'analyse et d'optimisation (chaîne de montage, analyse des flux de mobilités…) et dans nos analyses algorithmiques, de nombreuses données, dont celles à caractère personnel, peuvent être considérées comme étant en "sommeil". Elles sont captées par la caméra mais n’entrent pas dans le schéma d’analyse de l’intelligence artificielle. De plus nos solutions ne stockent aucune donnée personnelle et sont en conformité avec les directives et recommandations de la CNIL et du RGPD.