Pochi giorni fa Apple ha presentato un nuovo sistema di sorveglianza che intende applicare ai suoi dispositivi per impedire che vengano utilizzati per lo stoccaggio e lo scambio di materiale pedopornografico. Il progetto ha raccolto da subito il favore delle associazioni impegnate nella lotta agli abusi nei confronti dei minori, ma con l'emergere dei primi dettagli tecnici relativi al sistema hanno iniziato a intensificarsi online anche le critiche di aziende e associazioni attive nel ramo della tecnologia, nonché quelle di osservatori ed esperti informatici — compresi alcuni dipendenti della stessa Apple. Tutte le voci contrarie all'iniziativa della casa di Cupertino sono accomunate dallo stesso timore: lo strumento, anche se realizzato con le migliori intenzioni, potrebbe essere fin troppo potente, superare il suo scopo iniziale e aprire le porte a gravi violazioni della privacy e ad atti di repressione. Il sistema, destinato agli Stati Uniti, è pensato per scandagliare le foto dei dispositivi che vengono caricate in cloud, alla ricerca di materiale pedopornografico; se questo materiale viene scovato il caricamento viene bloccato e, dopo un doppio processo di revisione manuale, vengono eventualmente allertate le forze dell'ordine. Da una parte Apple ha preso provvedimenti per proteggere la privacy degli utenti: le foto analizzate non vengono osservate in chiaro da algoritmi di intelligenza artificiale ma ridotte a una impronta digitale alfanumerica, che viene poi confrontata con quelle presenti in una grande banca dati di immagini note; quando il sistema trova una corrispondenza la tiene in conto silenziosamente, mentre quando giunge a una determinata soglia di corrispondenze fa scattare il controllo manuale del materiale che può poi portare a una effettiva segnalazione. I timori degli osservatori sono principalmente di due tipi. Il primo riguarda la sicurezza del sistema che riduce le immagini a stringhe alfanumeriche, che stando ai critici potrebbe portare a falsi positivi — e quindi a conseguenze estremamente spiacevoli per persone in realtà innocenti — in misura maggiore rispetto a quanto preventivato da Apple. La seconda preoccupazione espressa dagli osservatori è che — in termini generali — la tecnologia di Apple non è altro che uno strumento che mette a confronto una immagine privata con una banca dati di materiale illecito; la definizione stessa di "materiale illecito" potrebbe però in futuro essere ampliata a nuove categorie — dal terrorismo alla sedizione, senza passare per le definizioni che governi repressivi potrebbero dare a ciascun termine.
Il sistema annunciato da Apple per impedire lo scambio di materiale illecito sui suoi dispositivi ha raccolto il sostegno delle associazioni impegnate nella lotta alla pedopornografia ma contemporaneamente anche le critiche di esperti del settore informatico, preoccupati che la tecnologia presentata possa superare il suo scopo iniziale.