La sede californiana di TikTok - Ansa
L'Autorità Garante della Concorrenza e del Mercato (l'autorità Antitrust italiana) ha concluso l'istruttoria avviata un anno fa multato TikTok per 10 milioni di euro per la sua responsabilità nella «diffusione di contenuti - come quelli relativi alla challenge "cicatrice francese" - suscettibili di minacciare la sicurezza psico-fisica degli utenti, specialmente se minori e vulnerabili».
Al centro della vicenda i video di ragazzini che si procurano e insegnano a procurarsi la cosiddetta french scar, un segno rosso sullo zigomo, evidente e duraturo, come se si trattasse di un'ampia cicatrice. A partire da febbraio del 2023 questo tipo di video è diventato virale su TikTok. In un controllo dello scorso giugno c'erano 589 video sulla "cicatrice francese". I cinque video più di successo in cui si spiegava come procurarsi la cicatrice hanno avuto 5 milioni di visualizzazioni. Gli algoritmi di TikTok hanno inserito questi video in circa 4 milioni di feed "per te", quelli in cui la piattaforma propone agli utenti video che potrebbero risultare interessanti secondo gli altri filmati visualizzati da quegli utenti.
L'allarme autolesionismo sui più giovani
L'Antitrust ha coinvolto nello studio del caso Stefano Vicario, ordinario di Neuropsichiatria Infantile e direttore dell'Unità operativa complessa di Neuropsichiatria Infantile dell'Ospedale Pediatrico Bambino Gesù di Roma, che ha spiegato, come riportato in sintesi nel provvedimento, che «comportamenti autolesionistici anche non suicidari, come quelli riguardanti la cicatrice francese, sono comunque in grado di rappresentare un pericolo per soggetti vulnerabili, posto che il comportamento autolesionistico anche lieve costituisce il primo fattore di rischio di condotte ulteriori, di tipo suicidario».
I numeri riportati dall'Antitrust a titolo di esempio mostrano che gli accessi al pronto soccorso del Bambino Gesù per comportamenti autolesionistici sono in forte aumento: erano stati 180 nel 2013 e 1800 nel solo 2022.
Le accuse all'algoritmo
L'Antitrust sottolinea che i meccanismi utilizzati dalla piattaforma per proporre i video sono problematici: «I contenuti - pur essendo potenzialmente pericolosi - sono diffusi tramite un "sistema di raccomandazione" basato sulla profilazione algoritmica dell'utenza, che seleziona costantemente quali video destinare a ciascun consumatore nelle sezioni denominate "Per Te" e "Seguiti", con l'obiettivo di aumentare le interazioni tra utenti e il tempo speso sulla piattaforma così da accrescere la redditività degli introiti pubblicitari. Ciò causa un indebito condizionamento degli utenti che vengono stimolati ad adoperare sempre di più la piattaforma».
Più precisamente, all'interno del provvedimento l'Autorità nota che al social contenuti del genere servono perché favoriscono l'engagement degli utenti: «La presenza su TikTok di contenuti potenzialmente pericolosi per gli utenti appare funzionale a obiettivi di massimizzazione del profitto, attuati mediante la diffusione di video accattivanti secondo i gusti di ciascun specifico utente, così da stimolare in modo crescente la fruizione della piattaforma».