Sebuah pola tekstil dapat membuat algoritme berhenti mengenali Anda sebagai manusia.
Itulah yang diuji Simon Weckert dengan “Digital Camouflage”, sebuah kaus yang dibuat setelah kamera berbasis AI dipasang di Kottbusser Tor, Berlin, Agustus lalu. Pakaian tersebut menggunakan metode bernama TC-EGA untuk menghasilkan desain adversarial: meskipun terlihat oleh siapa pun, perangkat lunak pendeteksi objek menandai setiap orang yang berjalan-jalan dengan kotak hijau klasik bertuliskan “orang”… kecuali orang yang mengenakannya.
Pertanyaan yang ditinggalkan Weckert untuk kita terasa meresahkan: jika sebuah kain dapat menonaktifkan sistem pengenalan, seberapa besar kepercayaan yang pantas kita berikan kepada teknologi tersebut ketika digunakan untuk memantau ruang publik?
Saat ini, ini adalah eksperimen seni yang didokumentasikan di Netzpolitik dan Dezeen, tetapi besok kerentanan yang sama dapat menjadi alat yang banyak dicari oleh mereka yang memang perlu untuk tidak diidentifikasi oleh pihak berwenang.