Digit peine à tenir les promesses de l'IA

En 2014, Digit était une pionnière de l'épargne automatique intelligente, promettant à ses utilisateurs de mettre de côté le maximum de leur trésorerie disponible sans jamais risquer de les entraîner dans le rouge. Faute de respecter ses engagements, l'agence américaine de protection des consommateurs (le CFPB) vient de la sanctionner.
Le concept est extrêmement attractif pour l'immense majorité de personnes qui souhaitent épargner mais ne savent pas comment se lancer, hésitent à bloquer une partie de leur argent, procrastinent ou tergiversent sur le montant idéal à y consacrer. Laissez donc les algorithmes s'occuper de tout : vous connectez votre compte bancaire, une analyse de vos habitudes budgétaires est réalisée à partir de votre historique de transactions et les sommes optimales sont transférées automatiquement au moment opportun.
Afin de convaincre les plus réticents de son sérieux et de sa confiance dans le fonctionnement de ses logiciels, Digit garantit que ses ponctions sur les comptes courants de ses clients ne placent jamais ceux-ci en situation de découvert, affirmant rembourser les frais encourus dans le cas contraire, présenté donc comme hautement improbable. Or, après enquête, il s'avère que les modèles d'intelligence artificielle mis en œuvre ne sont pas aussi parfaits que la jeune pousse l'espérait… ou désirait le laisser croire.
Le CFPB révèle ainsi que, au cours des cinq dernières années, près de 70 000 réclamations ont été émises, dont une bonne partie a été ignorée, conduisant à sa décision de ces derniers jours d'imposer à l'entreprise une amende de 2,7 millions de dollars en sus d'une injonction à apporter réparation aux clients précédemment floués.

Le volume de plaintes mentionné mérite l'attention, car il remet probablement en cause quelques hypothèses importantes. En supposant que les tentatives de fraude n'en représentent pas une part significative (facteur que l'autorité de contrôle aurait pris en considération), il souligne évidemment l'imperfection, voire la défaillance pure et simple, des algorithmes concoctés et déployés par Digit. Et il serait un peu facile d'incriminer la compétence de ses développeurs et autres scientifiques des données.
Je soupçonne en effet que la prédiction des fluctuations sur les finances personnelles est beaucoup plus complexe que ne l'escomptent généralement ceux qui misent sur la « digitalisation » de leur gestion, pour de multiples raisons. La diversité des populations touchées constitue un premier défi, chacune ayant ses propres réflexes et requérant des ajustements différents. L'irrégularité des actes du quotidien en est un autre et les opérations imprévisibles sont certainement trop fréquentes pour des modèles mathématiques. Il faut également envisager les excès d'insouciance ou d'étourderie, dont l'introduction de prélèvements plus ou moins arbitraires aggrave les conséquences…
Ce ne sont là que quelques idées destinées à illustrer une vérité absolue (en l'état des technologies) : l'IA peut aider à élaborer des pseudo-raisonnements, utiles pour bien des applications, mais il ne doit être question de suivre ses conclusions aveuglément. Dans l'univers particulièrement sensible de la finance, il est d'autant plus important de comprendre ses limitations, en intégrant les aléas qu'elles créent et, simultanément, en visant à les réduire, notamment par l'identification des critères manquants.