A diferença nos resultados de previsão entre dois grupos étnicos/de género de um algoritmo de pontuação de crédito constitui um viés no processo de recolha de dados ou no próprio algoritmo?
No entanto, se o modelo em sua versão não treinada não discrimina trabalhadores estrangeiros, mulheres ou jovens: na verdade, ele não concebe esses rótulos (socialmente construídos) da maneira que os seres humanos fazem. O conjunto de dados em que o modelo é treinado está repleto de vieses socialmente construídas. Por exemplo, as normas sociais consideram as mulheres como trabalhadores incapazes, não confiáveis e jovens inexperientes, restringindo o desemprego e a vida desses grupos. O seu maior potencial de geração de resultados como os grupos de pessoas com deficiência, como os grupos de jovens, o objetivo é a precisão, a recordação e a precisão das previsões de risco de inadimplência. No entanto, se o modelo em sua versão não treinada não discrimina trabalhadores estrangeiros, mulheres ou jovens: na verdade, ele não concebe esses rótulos (socialmente construídos) da maneira que os seres humanos fazem.