Un motif textile peut suffire à empêcher un algorithme de vous reconnaître comme une personne.
C’est ce que Simon Weckert a testé avec « Camouflage numérique », un T-shirt créé après le déploiement de caméras alimentées par l’IA à Kottbusser Tor, à Berlin, en août dernier. Le vêtement utilise une méthode appelée TC-EGA pour générer un motif adversarial : bien qu’il soit visible par tout le monde, les logiciels de détection d’objets attribuent à toutes les personnes qui se promènent la classique boîte verte « personne »… à l’exception de celle qui le porte.
La question que Weckert nous laisse est troublante : si un tissu peut désactiver un système de reconnaissance, quelle confiance accorder à cette technologie lorsqu’elle est utilisée pour surveiller les espaces publics ?
Aujourd’hui, il s’agit d’une expérience artistique documentée dans Netzpolitik et Dezeen, mais demain, cette même vulnérabilité pourrait devenir un outil très recherché par celles et ceux qui ont précisément besoin de ne pas être identifiés par les autorités.