I vestiti che mandano in crisi le telecamere intelligenti

Colori vistosi, forme apparentemente astratte e motivi studiati nei dettagli: alcuni capi d’abbigliamento sono stati concepiti per confondere i sistemi automatici che osservano e classificano le persone. Il progetto più recente arriva dalla Germania e porta la firma dell’artista e designer Simon Weckert, da anni impegnato a mostrare quanto le tecnologie digitali possano sbagliare quando interpretano la realtà.

Le moderne reti di videosorveglianza non si limitano più a registrare immagini. Possono riconoscere i volti, seguire gli spostamenti da una telecamera all’altra e passare al setaccio enormi quantità di filmati. La diffusione dell’intelligenza artificiale ha reso questi strumenti più accessibili, alimentando anche il dibattito sulla raccolta di dati biometrici.

Il disegno che confonde gli algoritmi

Il capo ideato da Weckert utilizza quello che può essere definito mimetismo digitale: una combinazione di colori e figure che appare evidente a chi guarda, ma può risultare problematica per i programmi incaricati di analizzare le immagini. L’effetto visivo, descritto dall’artista come quasi ipnotico, non punta a rendere invisibile chi lo indossa, bensì a spingere il sistema verso un’interpretazione errata.

Alla base c’è il principio degli attacchi avversari. Si tratta di configurazioni inserite nelle immagini per alterare il risultato prodotto dall’intelligenza artificiale, inducendola a riconoscere in modo inesatto un volto o un oggetto. L’esperimento assume un rilievo particolare in Germania, dove il governo ha annunciato un piano per installare sistemi di sorveglianza intelligente nelle stazioni ferroviarie, compresi strumenti capaci di valutare anche i comportamenti.

Una risposta alla sorveglianza diffusa

L’abbigliamento pensato per ostacolare i controlli automatici non nasce con Weckert. Già sette anni fa l’hacker e stilista Kate Rose aveva realizzato un vestito decorato con elementi simili a targhe automobilistiche e riferimenti al Quarto emendamento della Costituzione degli Stati Uniti, che tutela dalle «perquisizioni e sequestri irragionevoli».

Nel 2018 è arrivata Cap_able, impresa specializzata in capi contro la sorveglianza. All’inizio il progetto aveva suscitato diffidenza. La fondatrice ha ricordato: «La gente pensava che stessi progettando maschere per rapinare le banche». Oggi il tema è più conosciuto e diverse realtà commerciali lavorano su prodotti destinati a limitare il tracciamento.

Capi, custodie e nuovi esperimenti

Tra queste realtà figura Urban Privacy, azienda tedesca che propone indumenti e accessori per tutelare la riservatezza. Nel catalogo sono comprese custodie capaci di isolare il telefono dalle reti di comunicazione e sciarpe decorate con codici QR, collegati a una pagina con un messaggio contro le fotografie scattate senza autorizzazione.

Weckert porta avanti la stessa ricerca anche attraverso altri esperimenti. Nel 2020 aveva trasportato per Berlino un carretto con 99 telefoni cellulari: Google Maps aveva letto la concentrazione dei dispositivi come un ingorgo, segnalando una coda inesistente. L’obiettivo era evidenziare come un sistema automatizzato possa arrivare a una conclusione sbagliata quando elabora i dati senza comprenderne il contesto.

L’artista ha inoltre creato un laboratorio chiamato «Disimparare dalle macchine», dedicato all’analisi dei limiti dell’intelligenza artificiale. Le attività prendono in esame tecniche come gli attacchi avversari, l’iniezione di istruzioni e l’avvelenamento dei dati, mostrando in che modo questi sistemi possano essere manipolati o portati a commettere errori.