Les banques s'approprient l'IA générative

Si, depuis l'ouverture au public de ChatGPT, les institutions financières sont toutes intéressées par le potentiel de l'intelligence artificielle générative, la plupart sont réticentes à l'utilisation des plates-formes mises à leur disposition dans le « cloud ». Progressivement, une tendance à l'internalisation s'affirme, illustrée ici par Ally et Arkéa ^[PDF].
Même quand elles se cantonnent aux catégories d'usages les plus courantes – assistance aux téléconseillers (voire aux clients, directement), génération de résumés de conversations ou de documents, aide au développement de logiciel… –, les possibilités de la technologie se déclinent dans tellement de domaines qu'elles paraissent infinies. Mais, une fois le constat établi et les appétits aiguisés, il reste à prendre en compte les contraintes spécifiques du secteur avant de se lancer tête baissée.
La première et principale préoccupation concerne la sécurité et, plus précisément, la protection des données, dont les plus fécondes sont évidemment aussi les plus sensibles. Dans la majorité des cas (quand les responsables ne se satisfont pas des garanties de leurs fournisseurs infonuagiques), il n'est donc pas question de les laisser sortir de l'entreprise, ni lors des phases d'entraînement, ni lors de la formulation des requêtes. La seule option viable consiste à rapatrier le système dans l'établissement.
Tel est précisément l'approche retenue par l'américaine Ally, qui, afin de répondre uniquement à l'enjeu de confidentialité, autant pour des raisons éthiques que par prudence juridique et réglementaire, choisit d'installer la solution de Microsoft (qui est en fait celle d'OpenAI) au sein de ses propres infrastructures informatiques, de manière à concevoir et implémenter ses applications sans s'inquiéter des risques de divulgation d'information, même celle qui est susceptible de révéler l'intimité de ses clients.

Du côté d'Arkéa, les mêmes considérations sous-tendent sa stratégie, mais elles ne sont pas les seules. S'y ajoute en effet une problématique de langue, car, bien que les outils proposés par les géants américains de l'IA soient multilingues, ils ne sont pas nécessairement aussi performants en français qu'en anglais. La mise au point d'une déclinaison localisée, en particulier dans un domaine d'expertise relativement pointu tel que celui de la banque, est un gage de performance (sans parler de souveraineté).
Naturellement, ces prémices imposent de reprendre à la base l'entraînement du modèle, ce qui requiert plus d'effort que l'adoption d'un modèle pré-entraîné. Cependant, Arkéa retourne la difficulté (en partie) à son avantage puisque la spécialisation introduite, sur la langue française et sur ses priorités de mise en œuvre au service de la banque (qui pourrait dessiner une esquisse des micro-apps suggérées par Gartner), lui permet de vanter la sobriété énergétique de son projet. Son partage sous licence libre (sur Hugging Face) devrait d'ailleurs continuer à améliorer son bilan de ce point de vue.
La tendance observée actuellement à l'internalisation des modèles d'IA générative est peut-être indispensable dans le contexte présent mais elle ne me semble pas totalement rationnelle, car ces composants ne constituent pas en soi un avantage concurrentiel (ce qui justifie une publication en open source, incidemment) et devraient donc être mutualisés. J'imagine qu'émergera à moyen terme une offre dédiée, commercialisée sous une forme mieux adaptée aux exigences de l'industrie financière, qui l'aidera à focaliser ses ressources sur les applications, sans perdre de temps avec les fondations.