Políticas e processos abrangentes para reduzir a possibilidade de algoritmos falhos podem reduzir o risco de discriminação contra os clientes.
Espera-se que o uso de aprendizado de máquina (ML) e inteligência artificial (IA) pelo setor bancário dispare nos próximos anos, à medida que se esforça para oferecer experiências hiperpersonalizadas aos clientes, melhorar a eficiência operacional e expandir as ofertas de produtos e serviços.
Num inquérito recente a executivos de TI bancários globais, 81% concordaram que “desbloquear valor a partir da IA ​​distinguirá os vencedores dos perdedores”, enquanto 85% afirmaram ter uma “estratégia clara” para novos produtos e serviços que utilizam IA.
O BC e a IA têm o potencial de proporcionar inúmeros benefícios aos bancos e cooperativas de crédito, incluindo:
- Fornecer insights relevantes e contextuais para melhorar o bem-estar financeiro geral dos clientes.
- Permitir que os bancos ofereçam experiências digitais convenientes e coordenadas aos clientes no canal de sua preferência.
- Impulsionar eficiência e produtividade nos canais atendidos, gerando maior satisfação dos colaboradores.
- Detectar e mitigar fraudes de forma proativa e garantir a conformidade.
Embora seja tentador presumir que máquinas e algoritmos inteligentes estão livres de falhas humanas, a verdade é que os humanos podem inadvertidamente injetar seus próprios preconceitos conscientes e inconscientes nos algoritmos que impulsionam o aprendizado e a tomada de decisões de IA/ML. O resultado pode ser a discriminação contra alguns clientes, ao decidir se aprovam hipotecas e outros grandes empréstimos com base em dados de formação falhos. Um estudo de 2021 da Reserva Federal mostra que os sistemas algorítmicos utilizados por alguns subscritores de hipotecas negaram pedidos de mutuários minoritários a uma taxa mais elevada do que os não minoritários.
Rohit Chopra, diretor do Consumer Financial Protection Bureau, alertou sobre o preconceito da IA ​​que leva ao “redlining digital” e à “discriminação de robôs”, e prometeu que o departamento iria “analisar mais profundamente como os credores usam inteligência artificial ou ferramentas de decisão algorítmica”. Dois presidentes de comissões da Câmara pediram aos reguladores que garantissem salvaguardas contra preconceitos contra famílias de baixos e médios rendimentos e pessoas de cor que solicitam empréstimos.
Abaixo estão as etapas específicas que as instituições financeiras podem tomar para minimizar, se não eliminar, o preconceito em seus modelos de IA/ML.
Comprometa-se com a diversidade em suas equipes de dados e ciência de decisão. As nossas sociedades são hoje mais multiculturais do que nunca, e as instituições financeiras devem aproveitar isso para construir uma força de trabalho diversificada. Uma equipe diversificada é uma salvaguarda contra preconceitos gerados por uma força de trabalho homogênea.
Crie uma equipe multidisciplinar para iniciativas de IA composta não apenas por desenvolvedores e gerentes de negócios, mas também por profissionais de RH e jurídicos.
Garantir uma governação forte para minimizar o risco de preconceito e discriminação. Crie equipes internas multidisciplinares ou contrate terceiros para auditar modelos de IA e analisar dados. Estabelecer uma política de total transparência em relação ao processo de desenvolvimento de algoritmos e métricas de IA para medir preconceitos e acompanhar as regulamentações e melhores práticas.
Use engenharia reversa para obter visibilidade dos algoritmos de caixa preta. (Observação: isso pode não ser possível para “caixas pretas fortes” que não podem ser analisadas por engenharia reversa.)
Crie diversos conjuntos de dados e aproveite dados não estruturados de fontes internas e externas para abrir um caminho para a inclusão. Verifique constantemente se há dados distorcidos ou tendenciosos, especialmente durante a ingestão de dados, mas também em vários estágios de desenvolvimento do modelo.
Monitore modelos de IA/ML para desvios de dados e conceitos e ensine aos usuários do modelo como monitorar problemas. Analise os dados de treinamento e teste para determinar se as características e/ou atributos protegidos estão sub-representados. Treine novamente os modelos quando problemas forem detectados.
Mantenha um “humano informado” não apenas para tornar a IA um “ajudante diário” bem-vindo, mas também para treiná-lo continuamente para aprender coisas novas, atender mais clientes e quebrar as barreiras de comunicação tradicionais em grande escala. Isto permitirá que os próprios membros da equipa do banco promovam a inclusão e façam com que cada cliente se sinta ouvido e respeitado.
O preconceito nos algoritmos de IA pode ser difícil de detectar e, muitas vezes, a visibilidade só é obtida depois que o dano já foi causado. A menos que as instituições bancárias adotem políticas e processos abrangentes para reduzir a possibilidade de enviesamento da IA, correm o risco de discriminar os clientes. Isso pode levar a ações judiciais, danos à marca e penalidades financeiras.
Como disse Maya Angelou: “Aprendi que as pessoas esquecerão o que você disse, esquecerão o que você fez, mas nunca esquecerão como você as fez sentir”. A capacidade de um banco de prevenir e remover preconceitos nos seus modelos de IA/ML pode contribuir muito para determinar o sucesso do serviço aos clientes e como organização.
Este blog foi publicado pela primeira vez no BAI.