TikTok, l’Ue contesta il feed che concentra contenuti rischiosi

La Commissione europea ritiene in via preliminare che TikTok abbia violato il Digital Services Act attraverso il funzionamento del feed Per te. Secondo Bruxelles, il sistema di raccomandazione può indirizzare gli utenti verso sequenze sempre più ristrette di video su salute mentale, dimagrimento, peso e aspetto fisico.

I rischi per gli utenti

La ripetizione di contenuti legati a tristezza, isolamento, perdita di peso o insoddisfazione per il proprio corpo può avere conseguenze soprattutto su minori e persone vulnerabili. Tra gli effetti indicati dalla Commissione figurano un aumento dell’ansia e della tristezza, una diminuzione dell’autostima e un possibile aggravamento di disturbi alimentari o condizioni psicologiche già presenti.

Il meccanismo nasce dal modo in cui il flusso personalizzato interpreta le attività di chi usa l’applicazione. Video guardati a lungo, contenuti apprezzati e altre interazioni vengono letti come segnali di interesse; di conseguenza, il sistema tende a proporre materiali simili. Una curiosità momentanea o una visione prolungata dettata dalla preoccupazione possono così essere scambiate per una preferenza stabile.

Come si restringe il flusso

La Commissione descrive questo processo come una spirale di raccomandazioni. Più una persona si sofferma su un determinato argomento, più il programma può rafforzare quella direzione, riducendo gradualmente la varietà dei video mostrati nel feed.

Il problema diventa più delicato quando l’algoritmo attribuisce maggiore valore al tempo di visione rispetto a un’indicazione esplicita dell’utente. Anche dopo aver premuto il pulsante Non mi interessa, per esempio, una lunga permanenza su un video dedicato al dimagrimento potrebbe continuare a influenzare i suggerimenti successivi.

Secondo l’analisi preliminare di Bruxelles, le misure adottate da TikTok per diversificare i contenuti e offrire agli utenti un maggiore controllo non sono abbastanza efficaci. La piattaforma, inoltre, non avrebbe esaminato in modo adeguato il rischio che il proprio sistema conduca verso raccolte di video troppo omogenee.

Indagine e possibili sanzioni

Il procedimento è stato avviato nell’ambito dell’indagine formale aperta nel febbraio 2024. Per arrivare alle conclusioni preliminari, la Commissione ha esaminato le valutazioni dei rischi prodotte da TikTok, documenti e dati interni, le risposte alle richieste di informazioni e gli studi scientifici disponibili.

Sono stati ascoltati anche specialisti di sistemi di raccomandazione, psicologia e psichiatria. Ha collaborato all’attività Coimisiún na Meán, l’autorità irlandese incaricata del coordinamento nazionale sull’applicazione del Digital Services Act, un ruolo rilevante perché numerose grandi aziende tecnologiche statunitensi hanno in Irlanda la propria sede nell’Unione europea.

TikTok potrà consultare gli atti del fascicolo e presentare osservazioni scritte prima della decisione finale. La procedura prevede inoltre il parere dell’organismo europeo che riunisce i coordinatori nazionali del regolamento sui servizi digitali.

Se la violazione sarà confermata, la Commissione potrà dichiarare TikTok non conforme e imporre una multa valutata in base alla gravità, alla durata e all’eventuale ripetizione dell’infrazione. Il regolamento consente sanzioni fino al 6% del fatturato mondiale annuo dell’azienda. Tra le modifiche richieste rientrano un peso maggiore alle preferenze espresse direttamente dagli utenti, controlli più semplici e verifiche periodiche sul comportamento dell’algoritmo.