Een textielpatroon kan genoeg zijn om een algoritme ervan te weerhouden je als persoon te herkennen.
Dat is wat Simon Weckert testte met “Digital Camouflage”, een T-shirt dat werd gemaakt na de inzet van AI-aangedreven camera’s bij Kottbusser Tor in Berlijn, afgelopen augustus. Het kledingstuk gebruikt een methode genaamd TC-EGA om een adversarieel ontwerp te genereren: hoewel het voor iedereen zichtbaar is, labelt objectdetectiesoftware iedereen die rondloopt met het klassieke groene vak “persoon”… behalve de persoon die het draagt.
De vraag waarmee Weckert ons achterlaat, is verontrustend: als een stof een herkenningssysteem kan uitschakelen, hoeveel vertrouwen verdient die technologie dan wanneer ze wordt gebruikt om openbare ruimtes te monitoren?
Vandaag is het een kunstexperiment dat is gedocumenteerd in Netzpolitik en Dezeen, maar morgen zou diezelfde kwetsbaarheid een veelgevraagd hulpmiddel kunnen zijn voor degenen die juist niet door de autoriteiten geïdentificeerd willen worden.