あなたが都市計画を担当する市役所の一員であると想像するのだ。LASERのようなシステムの背後にある最大の倫理的義務に対処するための手紙を書く。
ロサンゼルス市の都市計画担当部署として、拙者たちは、LASERシステムが、拙者たちの住む地域、特に社会的に疎外された地域に、持続可能で公平な改善をもたらすことを保証する義務を負っているのだ。そのためには、LASERが、例えばアフリカ系アメリカ人のコミュニティなど、人種的なグループをターゲットにせず、その地域で既存の警察の嫌がらせを悪化させないようなアウトプットを生成する必要があるのだ。しかし、LASERがそのような目標を達成するためのデータ入力の可能なソースは存在しない。このアルゴリズムは、人種を犯罪傾向の予測因子として使用していないにもかかわらず、歴史的に人種プロファイリングと非難されてきた。しかし、拙者たちの社会は根強い人種差別主義に満ちており、データポイント自体が差別的なイデオロギーや慣習の痕跡を残している。例えば、LASERの予測因子であるギャングへの加入は、本質的に人種の代理として機能している。アフリカ系アメリカ人のコミュニティにおけるギャングは、経済的困窮、資源不足、警察の嫌がらせなどの結果として発生したものであり、その根は古くからの人種隔離に容易に遡ることができる。また、犯罪歴にはニュージムクロウの名残がある。したがって、LASERシステムにおいて、ギャング活動や過去の逮捕歴を予測因子として使用することは、人種的な意味合いの強いアウトプットを生み出すだけであり、歴史的なバイアスを強化し、再定義することになるのなのだ。

アルゴリズムに問題があるとはいえ、システムを完全に捨ててしまう必要はないでしょう。LASERが根深い差別や困窮を指摘した場合、拙者たちは修復はしても悪化させるべきではありません。慢性的な犯罪者速報を作成する代わりに、LASERの出力を次の社会福祉やインフラ建設プロジェクトの議題として扱うことができる。より多くの雇用機会を創出するためには、どこに資金を投入すべきなのか。警察の不祥事問題に対処し、人々と法執行機関の関係を再構築する必要があるのはどこなのか。バイアス・イン、バイアス・アウト」のアルゴリズムを修正することができなくても、少なくとも、そのアルゴリズムが生成した情報に目を向け、バイアスが大混乱を引き起こし、大きな犠牲をもたらした場所を突き止めることはできるのだ。そして、それに応じて資源や資金を再配分し、歴史的に恵まれない地域が繁栄する機会を得ることができるのだ。そうすることで、持続可能性と公平性の両方を達成することができるのなのだ。差別と収奪を続けるオリジナルのLASERシステムとは異なり、近隣が経済成長と雇用を達成すれば、犯罪率が下がることが期待でき、そうした犯罪削減は持続可能なのだ。