Je, tofauti katika matokeo ya utabiri kati ya makundi mawili ya kikabila / jinsia kutoka kwa algorithm ya alama ya mikopo ni upendeleo katika mchakato wa ukusanyaji wa data au algorithm yenyewe?
Ninasema kwamba tofauti katika matokeo ya mikopo ya alama huunda suala la data na upendeleo wa algorithmic. Hebu kwanza kuchunguza upendeleo katika dataset. Nadhani ya mfano yenyewe kama sanduku nyeusi kwamba inazalisha matokeo ya kutimiza malengo fulani <unk> katika kesi ya mikopo ya alama, lengo ni usahihi, kukumbuka, na usahihi wa default hatari utabiri. Mfano katika toleo lake lisilo na mafunzo hauna ubaguzi dhidi ya wafanyikazi wa kigeni, wanawake, au vijana: kwa kweli, haifikirii lebo hizi (zinazojengwa kijamii) kama wanadamu wanavyofanya. Hata hivyo, seti ya data kwamba mfano ni mafunzo juu ya ni fraught na kijamii kujengwa biases. Kwa mfano, viwango vya kijamii vinawafanya wanawake waonekane kuwa wasio na uwezo, wafanyakazi wa kigeni kuwa wasioaminika, na vijana kuwa wasio na uzoefu, na hivyo kusababisha kiwango cha juu cha ukosefu wa kazi na hali mbaya zaidi za maisha kwa vikundi hivyo. Matokeo yao ya juu ya kihistoria default uwezekano inatokana chini ya uwezekano kutokana na tofauti za idadi ya watu-kuhusiana katika uwezo kuliko kutoka mzunguko mbaya yanayotokana na stereotypes kijamii. Stereotypes kufanya datasets biased, ambayo kwa upande bias algorithms: kutokana na lengo la kuongeza utabiri usahihi, mfano anajifunza <unk>patterns<unk> katika datasets na kufyonza tofauti kijamii kujengwa kama sehemu ya utabiri wake algorithm. Je, tunaweza kulaumu algorithm? <unk> Baada ya yote, mfano ni constrained kwa <unk>history<unk> na hana uwezo wa kufikiri kwa uwezo wa makundi kihistoria ubaguzi. Kimsingi tuna "takataka ndani, taka nje" hali husababishwa na kihistoria na uwakilishi biases katika pembejeo data.  Kwa upande mwingine, Nasema kwamba tofauti matokeo bado ni algorithmic upendeleo. Ninaamini kwamba bado tunaweza "kulaumu" mtindo kwa malengo na vizuizi ambavyo lazima itimize (hata ingawa sisi wanadamu tunaweka hapo kwanza). Kama ilivyoonyeshwa hapo juu, na usahihi kama kipimo cha tathmini, hesabu nzima ya utabiri / utabiri iliyojengwa kwenye seti za data za kihistoria inamaanisha kurudia historia bila kutafuta kanuni za kijamii zinazowezekana au za busara. Je, lengo la kuongeza usahihi ni upendeleo yenyewe? <unk> Ikiwa tunaweza kutambua mzunguko mbaya ambao wote umeundwa na na reifying hadithi iliyoundwa kijamii (wanawake dhaifu, vijana wasio na busara, na ubaguzi wa wageni), mfano ambao hujifunza kikamilifu na kueneza aina fulani za stereotype ya kijamii inapaswa kuwa dhahiri kuitwa nje kwa upendeleo wake! Hata hivyo, tunaunganisha mifano ili kuboresha malengo hayo, na kushughulikia upendeleo wa asili katika vipimo, sisi wanadamu tuna jukumu la kurekebisha malengo na kuongeza vizuizi vinavyofaa. Kwa mfano, katika mgawo wa programu tunakutana na mbinu ya kupunguza ambayo inakataza utabiri ndani ya mipaka fulani ya uamuzi. Mbali na mbinu kama vile kukataa kazi, tunaweza kuongeza vikwazo kama vile kukuza ukuaji wa makundi underprivileged kama lengo? Bila vikwazo hivi, napenda kusema tofauti matokeo pia kuunda algorithmic upendeleo katika sehemu ya vipimo lengo.