Les domaines de la gestion urbaine, des opérations commerciales et de la sécurité publique sont intégrés dans les systèmes de surveillance par intelligence artificielle à une vitesse sans précédent. Ce type de technologie, à l’aide d’algorithmes, peut analyser d’énormes quantités de données vidéo en temps réel, identifier automatiquement les comportements anormaux, suivre des cibles spécifiques et même prédire les risques potentiels. Cependant, pour améliorer l’efficacité, nous devons être clairement conscients des dangers cachés que représentent les fuites de confidentialité, les biais algorithmiques et le contrôle social. Avec la popularisation de technologies telles que la reconnaissance faciale et l’analyse comportementale, trouver un équilibre entre innovation technologique et droits civiques est devenu un enjeu mondial.
Comment la surveillance par l'IA affecte la vie privée
Lorsque les rues de la ville sont couvertes de caméras dotées de capacités de reconnaissance faciale, chaque fois que nous voyageons, nous générons une trajectoire numérique pouvant être tracée. Un supermarché utilisait autrefois une surveillance intelligente pour analyser les micro-expressions des clients afin de juger des intentions de consommation. Cela a abouti à la collecte de données émotionnelles de certains consommateurs à leur insu. Ce qui est encore plus inquiétant, c’est que les systèmes de surveillance de certains lieux publics croiseront les données collectées avec les informations des comptes sociaux pour former une carte des préférences comportementales personnelles.
Dans une ville européenne, un système de surveillance intelligent déployé dans une station de métro enregistrait autrefois les caractéristiques vestimentaires des passagers sans les informer clairement de cette situation, ce qui a donné lieu à des plaintes. Ces cas pertinents montrent que le cadre juridique actuel est généralement en retard sur le développement de la technologie et que les individus sont contraints de transférer leurs droits à la vie privée sans le savoir. Nous devons établir des normes de collecte de données plus transparentes, exiger des opérateurs qu'ils installent des panneaux bien visibles dans les zones de surveillance et donner aux citoyens le droit d'interroger et de supprimer leurs données personnelles.
Quels sont les risques de discrimination provoqués par des biais algorithmiques ?
Un système d'évaluation du risque de récidive utilisé par un tribunal aux États-Unis a montré que les accusés noirs sont 45 % plus susceptibles d'être étiquetés à tort comme à haut risque que les accusés blancs. Ce biais provient d'une discrimination structurelle dans les cas historiques dans les données de formation. Lorsque l’algorithme comprendra ces données biaisées à l’avenir, il renforcera les inégalités existantes dans la société. Une situation similaire se produit dans le cadre de la surveillance intelligente des sites de recrutement. Certains systèmes montreront des différences dans l'évaluation de sexes ou de groupes d'âge spécifiques parmi les candidats.
Dans le processus d'inspection de sécurité aux frontières, un système intelligent d'analyse du comportement développé par un certain pays a principalement utilisé les données de ses propres citoyens à des fins de formation, ce qui a entraîné un taux d'erreur d'appréciation du langage corporel des passagers internationaux pouvant atteindre 30 %. Cette situation nous rappelle qu’un manque de données diversifiées sur la formation peut permettre aux systèmes de surveillance de mal juger systématiquement les groupes minoritaires. Pour résoudre ce problème, nous devons établir un mécanisme diversifié de collecte de données et introduire un système d’audit algorithmique.
Comment les entreprises utilisent l'intelligence artificielle pour surveiller leurs employés
Un entrepôt de commerce électronique utilise des caméras intelligentes pour surveiller l'efficacité du travail des employés, qualifiant les comportements qui durent plus de 20 secondes de « travail lent ». Si ce type de gestion méticuleuse améliore les indicateurs d’efficacité du travail, il provoque également un stress psychologique persistant chez les salariés. Il existe également des sociétés financières qui analysent la fréquence de frappe au clavier et la trajectoire des changements de mouvement au poste de travail pour construire un « système de mesure de l'indice d'engagement » pour les employés. Cela montre également que ces données sont devenues la base du processus décisionnel en matière de licenciement.
Dans le cadre du travail à distance, il existe des logiciels de surveillance d’écran installés par certaines entreprises. Il prendra une capture d’écran toutes les cinq minutes et pourra également compter le temps d’utilisation de l’application. Une telle méthode de contrôle a donné lieu à de nombreux cas d'arbitrage du travail, et le conflit se concentre sur les limites de la gestion des entreprises. Un jugement récent d'un tribunal allemand a déclaré qu'une telle surveillance par les entreprises doit respecter le principe de nécessité et que les employés ne peuvent pas être suivis en dehors du lieu de travail.
La surveillance par intelligence artificielle peut-elle vraiment prévenir la criminalité ?
Le système avec fonction de suivi des portraits testé par la police de Londres a permis d'identifier sept personnes recherchées dans un délai de 48 heures. Cependant, au cours de la même période, plus de 300 fausses correspondances ont été enregistrées. L'exactitude des alertes émises par de tels systèmes dépend fortement de diverses conditions environnementales et de la qualité des données elles-mêmes. En cas de pluie et de brouillard ou de scènes nocturnes, le taux d'erreurs d'identification peut atteindre trois fois celui des situations normales. Bien que le système de Chicago doté d'une fonction de prédiction de la criminalité ait réussi à réduire le taux de vols, il a suscité une controverse sur « l'étiquetage » en raison de son contrôle excessif sur les communautés à faible revenu.
Il existe une ville intelligente en Chine qui utilise l'IA pour surveiller et identifier les comportements anormaux des personnes âgées vivant seules, comme rester longtemps aux toilettes, et qui mène ensuite avec succès de nombreuses opérations de secours d'urgence. Des exemples de ces effets positifs montrent que la valeur de la technologie est déterminée par l’objectif initial de la conception du scénario d’application. Par rapport à la répression ultérieure des comportements criminels, une orientation plus constructive consisterait probablement à se concentrer sur les domaines liés aux moyens de subsistance des populations, tels que les secours d'urgence et la protection des groupes vulnérables.
Comment standardiser l'application de la surveillance de l'intelligence artificielle
La loi européenne sur l'intelligence artificielle classe la surveillance biométrique à distance en temps réel comme une « application à haut risque » et exige que les services gouvernementaux obtiennent l'approbation judiciaire avant de l'utiliser. Cette idée de supervision hiérarchique mérite d’être apprise. Il semble que la surveillance non essentielle devrait être interdite dans les lieux sensibles tels que les écoles et les hôpitaux, tandis que les restrictions sur les infrastructures clés telles que les centrales nucléaires pourraient être assouplies de manière appropriée. Une province canadienne a stipulé que tous les systèmes de surveillance publique doivent publier régulièrement des rapports de transparence pour divulguer l'utilisation des données et les statistiques faussement positives.
Dans le cadre des normes techniques, l'IEEE promeut actuellement activement la construction d'un système de certification éthique pour les algorithmes de surveillance, qui comprend des exigences pour que le système ait une fonction de « reconnaissance et oubli », c'est-à-dire que lorsqu'une tâche de reconnaissance spécifique est terminée, les données originales seront automatiquement supprimées. Avant que les entreprises ne déploient des systèmes de surveillance, elles devraient réaliser des évaluations d’impact sur les droits de l’homme, tout comme les évaluations environnementales, qui sont devenues une procédure nécessaire. Même si ces mesures ne peuvent pas éliminer complètement les risques, elles peuvent constituer un mécanisme efficace de correction des erreurs.
Comment les citoyens peuvent-ils faire face à l'ère de la surveillance intelligente
Nous pouvons prendre des mesures pragmatiques pour protéger nos propres droits et intérêts, comme prêter attention aux panneaux de surveillance dans des endroits inconnus et utiliser des matériaux réfléchissants pour interférer avec les fonctions de reconnaissance faciale. Une approche plus proactive consiste à participer aux débats publics. Les citoyens d'une certaine communauté ont réussi à amener le service municipal à ajuster la portée de la collecte de données des poubelles intelligentes grâce à une proposition commune. L'application « carte de surveillance » développée par les organisations de défense des droits numériques a déjà aidé le public à identifier les zones de surveillance à haut risque dans la ville.
Dans une perspective à long terme, la promotion d’une législation visant à la protéger constitue la stratégie la plus fondamentale. Après trois années de travail acharné de la part de groupes de citoyens sud-coréens, le Congrès a adopté la « Loi sur l'enregistrement des équipements de surveillance », qui exige que tous les systèmes de surveillance intelligents présents dans les lieux publics soient enregistrés. Chacun d'entre nous devrait se renseigner sur la protection des données et comprendre le droit de savoir, le droit de corriger et le droit de supprimer prévus par la loi sur la protection des informations personnelles. Ces armes juridiques peuvent nous aider à protéger la dernière ligne de sécurité à l’ère numérique.
Maintenant que la surveillance intelligente est partout, où pensez-vous qu’il est nécessaire d’interdire complètement l’installation de technologies de reconnaissance faciale ? Bienvenue pour partager vos opinions dans la zone de commentaires. Si vous pensez que cet article est précieux, aimez-le et transmettez-le à d'autres amis pour connaître ces informations importantes.
Laisser un commentaire