ActionAid: dopo cinque like l’algoritmo propone contenuti misogini

Un nuovo account Instagram ha ricevuto un contenuto sessista dopo meno di novanta secondi di utilizzo. Il test, realizzato da ActionAid, indica che sono bastati quindici video visualizzati e cinque “mi piace” per far comparire messaggi basati su ruoli di genere rigidi e ostilità verso le donne.

Il test su un account nuovo

La prova è partita da un profilo senza attività precedente, associato a un nome maschile. L’unica ricerca iniziale ha riguardato il calcio, mentre i primi contenuti sono stati guardati senza interazioni particolari, salvo cinque apprezzamenti.

Dopo quella sequenza, la piattaforma ha mostrato il primo video con contenuti sessisti. Secondo il report di ActionAid, il passaggio dalla consultazione di materiale generico alla proposta di messaggi misogini è avvenuto in un tempo inferiore a un minuto e mezzo.

Centoventidue video in dieci minuti

L’esperimento è proseguito per altri dieci minuti. In questo intervallo il profilo ha visualizzato 122 video e ha effettuato ulteriori ricerche, tra cui una dedicata ai videogiochi.

Il risultato descritto dall’organizzazione riguarda una progressiva esposizione a contenuti che presentano rapporti tra uomini e donne secondo schemi fortemente gerarchici. Il report utilizza il caso per esaminare il ruolo delle raccomandazioni automatiche nella diffusione di messaggi ostili verso le donne.

La rete attorno ai contenuti

ActionAid segnala inoltre l’esistenza di una rete che comunica un’apparente neutralità, ma che accompagna quei messaggi con la vendita di corsi, libri e abbonamenti. Il modello unisce quindi la circolazione di contenuti sessisti a offerte commerciali rivolte agli utenti.

Nel test, la rapidità della comparsa dei video misogini viene collegata alla quantità limitata di interazioni necessarie per orientare le raccomandazioni del profilo. La sequenza osservata è partita da interessi comuni, come calcio e videogiochi, prima di condurre verso contenuti apertamente ostili alle donne.