L'intelligence artificielle qui sait dire peut-être

L'intelligence artificielle est fréquemment utilisée pour réaliser des prédictions sur des phénomènes futurs en fonction des observations du passé. Cependant, hors cas anecdotiques, les applications de ce genre sortent rarement des laboratoires par crainte des risques d'erreur, d'autant plus que ceux-ci ne sont généralement pas mesurés.
Le secteur financier fait justement partie des plus timorés en la matière. Non seulement une mauvaise décision peut-elle avoir des conséquences économiques considérables mais, en outre, la culture de prudence qui y règne induit un rejet quasiment instinctif de l'incertitude. Combien de fois ai-je ainsi entendu dire que la banque ne pouvait se permettre d'afficher une estimation du solde d'un compte en fin du mois, car elle avait le devoir de ne produire que des informations exactes et incontestables.
Il n'est donc pas surprenant que l'espagnole BBVA se penche ardemment sur le sujet, par l'intermédiaire de ses équipes de recherche en science des données. L'objectif visé est de ne plus se contenter des algorithmes qui fournissent un résultat unique, sans indication précise sur la probabilité qu'il soit juste, mais d'obtenir des réponses contextualisées, qui permettent, par exemple, d'explorer et analyser des hypothèses alternatives, même moins vraisemblables, et de déterminer le niveau de confiance à leur accorder.
Les modèles d'apprentissage profond (deep learning) concoctés dans l'institution ont donc la faculté de procurer à leur utilisateur une idée de la qualité de ce qu'ils restituent, ce qui aidera ce dernier à retenir la ou les prédictions formulées, assorties d'un « je ne suis pas sûr(e) » plus moins explicite, ou à les rejeter entièrement, parce qu'insuffisamment fiable pour la cible choisie, et admettre avec humilité que le système « ne sait pas ».

Un exemple (trivial) proposé par BBVA est l'anticipation des dépenses mensuelles d'une personne selon son comportement des deux années précédentes. Une approche classique aboutira à un montant donné, éventuellement assorti d'une marge d'erreur. En réalité, les faits peuvent faire ressortir une distribution hétérogène avec, disons, deux autres valeurs presque aussi probables que celle qui a été isolée. Il restera alors à décider s'il faut afficher la prédiction initiale, les présenter toutes ou déclarer forfait.
Les travaux de BBVA ont, naturellement, une grande importance pour les applications de l'intelligence artificielle aux problèmes les plus complexes de la banque, ceux qui n'ont pas nécessairement une seule solution. Mais ils peuvent également trouver leur utilité dans des mises en œuvre plus banales, en introduisant une dimension d'explicabilité ou de justification des résultats produits, susceptible de redonner une impression de contrôle à ceux qui les exploitent et d'en améliorer de la sorte l'acceptation dans l'entreprise…