Une IA pour corriger les biais du score de crédit

Il y a quelques mois, IBM présentait l'état de ses recherches sur l'utilisation de l'intelligence artificielle pour lutter contre les biais qui entachent fréquemment les modèles d'apprentissage automatique. Aujourd'hui, le spécialiste du score de crédit alternatif ZestFinance fait de ce concept un produit destiné aux institutions financières.
Bien avant que l'intelligence artificielle ne devienne une tendance incontournable, quand il était tout au plus question de « big data », ZestFinance proposait déjà aux établissements de crédit sa solution inclusive d'évaluation du risque, leur promettant non seulement de réduire leur exposition aux défaillances des emprunteurs mais également de permettre à des personnes jusqu'alors écartées du système existant, en raison des critères limités qu'il met en œuvre, d'accéder à leurs offres dans des conditions satisfaisantes.
Depuis cette époque, les algorithmes de la jeune entreprise ont fait leur preuve chez différents partenaires – opérant dans de multiples domaines (crédit automobile, immobilier, à la consommation, aux entreprise, assurance…) –  dont le plus récent est Discover, aux États-Unis. Les récits de ses succès se multiplient, accompagnés de statistiques impressionnantes, démontrant chez ses clients la baisse drastique du nombre de contrats délinquants et l'augmentation simultanée des taux d'approbation.
En parallèle, sentant monter la pression de l'opinion publique pour une plus grande transparence et une garantie d'équité dans le traitement des consommateurs face aux organismes de crédit, ZestFinance accentue désormais cet aspect de son ADN. C'est ainsi qu'elle vient de dévoiler ZAML Fair, une nouvelle plate-forme élaborée à partir de l'expertise acquise à travers son activité historique, dont l'objectif est de vérifier et corriger automatiquement les biais de toutes sortes dans les algorithmes de scoring.

Que leurs modèles en place reposent sur des approches de régression linéaire ou des techniques complexes d'apprentissage automatique (machine learning), les institutions financières pourront recourir à ce nouveau logiciel pour, d'abord, mesurer l'impact de chaque variable introduite en entrée sur le caractère discriminatoire de l'évaluation du risque de crédit résultante, puis, ajuster précisément l'utilisation de ces données pour en éliminer l'effet indésirable et rendre le modèle aussi objectif que possible.
Selon ZestFinance, les premières expérimentations conduites par ses clients – qui sont les premiers à pouvoir déployer la solution, dès maintenant – suggèrent qu'une application à grande échelle de ZAML Fair serait susceptible d'éliminer 70% des écarts de prêts accordés entre les demandeurs d'origine hispanique et les blancs et 40% du fossé (encore plus large) séparant le traitement des populations noires et blanches.
Alors que la popularité de l'intelligence artificielle tend à soulever des inquiétudes en tout genre, rationnelles et irrationnelles, dans le grand public, il est particulièrement rassurant de constater que quelques acteurs se préoccupent concrètement de résoudre les questions les plus pressantes et les plus angoissantes qu'elle pose (qui, en réalité, pré-existaient !). Et la mise à contribution de l'IA elle-même pour ce faire présente le possible intérêt supplémentaire de renforcer son image positive et, donc, son acceptation.