Ma se noi immaginiamo un algoritmo usato nelle aule di tribunale, e se immaginiamo che questo algoritmo sia utilizzato per stabilire la pena da comminare all'imputato; immaginiamo ancora che l’algoritmo a un certo punto decida che, in base alle caratteristiche fisiche dell’imputato, per esempio, in base ai capelli rossi – allora, se ho i capelli rossi sono più cattivo, e quindi mi merito una pena più aspra – sembra ridicolo, sembra una distopia quasi.
Ma questo è quello che succede al giorno d'oggi negli Stati Uniti.
In molti stati americani, infatti, i giudici sono autorizzati o addirittura incoraggiati a utilizzare un algoritmo detto di “risk assessment”, o valutazione del rischio, che in base a circa 150 parametri stabilisce la possibilità che ha l'imputato di commettere nuovi reati.
In certi momenti bisogna accelerare per concentrare l'attenzione e in altri momenti le persone rallentano.