Une IA dynamique contre la fraude

Quand tout s'accélère dans le monde qui nous entoure, quand nos paiements sont exécutés en temps réel… et quand les cybercriminels ajustent leurs stratégies offensives au fil de l'évolution des protections, ces dernières doivent elles-mêmes apprendre à réagir instantanément aux nouveaux profils de menace qui surgissent à chaque minute.
Pour les institutions financières, la lutte contre la fraude est, historiquement, un des domaines dans lesquels l'intelligence artificielle capte le plus d'investissements et il y a fort à parier que la moindre transaction réalisée aujourd'hui est, à un moment ou un autre, scrutée par un algorithme à base d'apprentissage automatique afin de détecter toute anomalie révélatrice d'une possible malversation. Malheureusement, ces systèmes, abordés comme des projets traditionnels, sont encore largement perfectibles.
Au-delà de leur performance intrinsèque, éminemment variable, leur défaut le plus criant, dans l'immense majorité des cas, est leur caractère statique. En effet, les experts chargés de leur conception commencent par exercer leurs modèles sur des jeux de données existants, grâce auxquels ils vont mettre au point leurs méthodes d'identification de comportements suspects. Ce n'est qu'à l'issue de cette phase d'entraînement, longue et complexe, que le composant obtenu est installé en production pour remplir son rôle.
Or il est facile de comprendre que ce principe de fonctionnement séquentiel, hérité des habitudes de l'ingénierie logicielle, aboutit à une solution obsolète dès son déploiement, puisque développée pour riposter à des conditions préalablement connues et, par conséquent, incapable de repousser des formes d'attaque inédites. Dans le meilleur des cas, des cycles de ré-entraînement sont prévus afin de maintenir le niveau d'efficacité, mais ils induisent de dangereux délais, se comptant en jours, voire en semaines.

En réponse à cette limitation, le spécialiste des paiements ACI Worldwide a donc imaginé une autre approche, beaucoup plus réactive. Qualifiée d'apprentissage incrémental, celle-ci consiste à prolonger l'enrichissement des modèles en permanence, dynamiquement, durant leur phase d'exploitation. Il n'est alors plus nécessaire d'extraire de nouveaux échantillons de données et de reprendre l'entraînement (quasiment) à zéro, les évolutions sont prises en compte directement, dès qu'elles sont observées.
La mise en œuvre de ce dispositif représente un exploit non seulement technologique mais également politique, car il faut à ACI un certain courage pour accepter l'idée d'appliquer sur les millions d'opérations qu'elle gère des traitements dont elle ne maîtrise pas a priori la totalité des paramètres ni le « raisonnement » qui les génère. Il faut espérer que des protections intégrées permettent de repérer et corriger rapidement d'éventuelles dérives ou erreurs, qui pourraient en outre être provoquées sciemment.
La transition universelle vers des services immédiats imposera à l'industrie d'adopter des mécanismes de défense capables non seulement d'intervenir en temps réel mais également de s'adapter constamment aux changements de conditions environnantes (comprenant aussi les variations de comportement des utilisateurs, d'ailleurs). Jusqu'à présent, Stripe avait démontré la possibilité d'ajustements quotidiens. Désormais, il faut envisager une lutte adaptative contre la fraude. Demain, elle sera incontournable.