Um padrão têxtil pode ser suficiente para fazer um algoritmo deixar de reconhecer você como uma pessoa.
Foi isso que Simon Weckert testou com «Camuflagem Digital», uma camiseta criada após a implantação de câmeras com tecnologia de IA em Kottbusser Tor, em Berlim, em agosto passado. A peça usa um método chamado TC-EGA para gerar um design adversarial: embora seja visível para qualquer pessoa, o software de detecção de objetos rotula todas as pessoas que circulam por ali com a clássica caixa verde de «pessoa»… exceto a pessoa que a veste.
A pergunta que Weckert nos deixa é inquietante: se um tecido pode desativar um sistema de reconhecimento, quanta confiança essa tecnologia merece quando é usada para monitorar espaços públicos?
Hoje é um experimento artístico documentado no Netzpolitik e no Dezeen, mas amanhã essa mesma vulnerabilidade pode se tornar uma ferramenta cobiçada por quem precisa, precisamente, não ser identificado pelas autoridades.