Imagine que tu fasses partie du gouvernement de la ville responsable de la planification urbaine. Rédige une lettre sur la plus grande obligation éthique liée à la mise en place d'un système de type LASER.
Imagine you are part of the city government responsible for urban planning. Write a letter to address the biggest ethical obligation behind a LASER-like system.
As a division in charge of urban planning for the City of Los Angeles, we are obligated to ensure that the LASER system delivers sustainable and equitable improvements for our neighborhoods, especially the socially marginalized ones. To that end, we need LASER to generate outputs that would not target racial groups – African American communities, for example – and in turn aggravate the pre-existing police harassment in those regions. Yet, there exists no possible source of data inputs for LASER to achieve such goal. The algorithm has been historically accused of racial profiling despite not using race as a predictor for criminal tendencies. However, our society is fraught with deep-rooted racism such that data points themselves bear the mark of discriminatory ideology and practices. For instance, gang membership as a predictor in LASER essentially serves as a proxy for race. Gangs in African American communities arose as a result of economic deprivation, resource insufficiency, as well as police harassment – phenomena with roots that can be  easily traced back to age-old racial segregation. Similarly, criminal records hold the vestiges of the New Jim Crow. Therefore, using gang activity and past arrests as predictors in the LASER system only generate outputs with heavy racial connotations, which in turn reinforce and reify historical biases.

Notwithstanding the problematic algorithm, we do not need to cast away the system entirely. When LASER points to places of deep-rooted discrimination and deprivation, we should mend but not aggravate. Instead of composing chronic offender bulletins, we can treat the LASER outputs as agenda for our next social welfare and infrastructure construction projects – where do we need to build more schools and hospitals? Where should the money go to create more job opportunities? Where do we need to address the problem of police misconduct and rebuild the relationship between people and law enforcement? If we cannot fix a “bias in, bias out” algorithm, we can at least attend to the information it has generated and figure out where the biases have wreaked havoc and taken a heavy toll. We can then redistribute resources and fundings accordingly so that the historically deprived neighborhoods have the chance to flourish. In doing so, we can achieve both sustainability and equity. We can expect the crime rates to go down when the neighborhood achieves economic growth and employment, and such crime reduction is sustainable, unlike the original LASER system that continues to discriminate and deprive.
En tant que division chargée de la planification urbaine pour la ville de Los Angeles, nous sommes tenus de veiller à ce que le système LASER apporte des améliorations durables et équitables à nos quartiers, en particulier ceux qui sont socialement marginalisés. À cette fin, nous avons besoin que le système LASER génère des résultats qui ne ciblent pas les groupes raciaux - les communautés afro-américaines, par exemple - et n'aggravent pas le harcèlement policier préexistant dans ces régions. Or, il n'existe aucune source possible de données permettant à LASER d'atteindre cet objectif. L'algorithme a été historiquement accusé de profilage racial bien qu'il n'utilise pas la race comme prédicteur des tendances criminelles. Cependant, notre société est marquée par un racisme profondément enraciné, de sorte que les points de données eux-mêmes portent la marque d'une idéologie et de pratiques discriminatoires. Par exemple, l'appartenance à un gang, en tant que facteur prédictif dans le LASER, sert essentiellement d'indicateur de la race. Dans les communautés afro-américaines, les gangs sont nés des privations économiques, de l'insuffisance des ressources et du harcèlement policier - des phénomènes dont les racines remontent facilement à une ségrégation raciale ancestrale. De même, les casiers judiciaires contiennent les vestiges du New Jim Crow. Par conséquent, l'utilisation de l'activité des gangs et des arrestations passées comme facteurs prédictifs dans le système LASER ne fait que générer des résultats à forte connotation raciale, qui à leur tour renforcent et réifient les préjugés historiques.

En dépit de l'algorithme problématique, il n'est pas nécessaire de se débarrasser entièrement du système. Lorsque le LASER met en évidence des lieux de discrimination et de privation profondément enracinés, nous devrions réparer, mais pas aggraver. Au lieu de rédiger des bulletins sur les délinquants chroniques, nous pouvons traiter les résultats de LASER comme un agenda pour nos prochains projets de construction d'infrastructures et d'aide sociale : où devons-nous construire davantage d'écoles et d'hôpitaux ? Où l'argent doit-il aller pour créer plus d'opportunités d'emploi ? Où devons-nous nous attaquer au problème des abus policiers et reconstruire les relations entre la population et les forces de l'ordre ? Si nous ne pouvons pas réparer un algorithme "partial", nous pouvons au moins examiner les informations qu'il a générées et déterminer où les préjugés ont fait des ravages et prélevé un lourd tribut. Nous pouvons ensuite redistribuer les ressources et les financements en conséquence afin que les quartiers historiquement défavorisés aient une chance de prospérer. Ce faisant, nous pouvons parvenir à la fois à la durabilité et à l'équité. Nous pouvons nous attendre à ce que les taux de criminalité diminuent lorsque le quartier connaît une croissance économique et des emplois, et cette réduction de la criminalité est durable, contrairement au système LASER original qui continue à discriminer et à priver.
creative_writing
fr