Ad esempio, negli Stati Uniti o in Australia già si utilizzano gli algoritmi per decidere se una persona merita un lavoro, o se una persona è più o meno un potenziale criminale, se merita un mutuo.
Ecco, questi sono degli esempi che ci insegnano che, come abbiamo detto, gli algoritmi non sono neutrali.
Perché se l'algoritmo non è neutrale, quello che farà è utilizzare, o comunque vedere, i pregiudizi che ci sono dentro alla società, e riprodurli ed espanderli.
Quindi sono diventati molto famosi casi in cui, per esempio, come quello che vedete alle mie spalle, un algoritmo negli Stati Uniti decideva se una persona fosse più o meno potenziale criminale, e risultava discriminante verso i neri; oppure l'algoritmo di Amazon che a un certo punto, tramite Intelligenza Artificiale, decideva se una persona fosse più o meno valida per fare parte dell'azienda, e risultava discriminante verso le donne.