创建一个算法公平性问题的例子.
算法公平问题最常见的例子之一是与贷款或信贷申请有关的问题.考虑到信用评分,收入,就业状况和历史等是决定信贷能力的因素之一,一些模型可能无意中歧视某些人口.例如,考虑一种算法,该算法旨在预测贷款偿还的机会.该程序可能包含信用评分,收入,就业状况和贷款金额等因素来确定贷款申请是否应该获得批准或拒绝.由于信用评分被赋予了重大重要性,因此开始出现差异.来自低收入社区或特定种族的人,可能有较低的信用评分 - - 不是因为他们无法偿还贷款,而是因为信用评分系统中的系统性偏见 - - 可能会发现更为偏见.这种算法通常会影响那些具有较低的信用历史,缺乏信用历史,失业状况和贷款金额的人.由于过去的某些时间,这些数据反映了不公平的信用评分和其他因素,因此AI被用来对付诸如不公平的个人来说.