Un scénario catastrophe pour l'IA

Tout le monde a désormais entendu parler de l'alerte lancée par quelques gourous des technologies à propos du risque d'extinction de l'humanité causée par l'intelligence artificielle. Moins retentissante, il faut également évoquer celle du président de la SEC (qui affirme parler en son nom propre) craignant une catastrophe pour les marchés.
Le scénario présenté par Gary Gensler lors d'une conférence combine deux hypothèses successives. Dans un premier temps, les technologies d'IA générative seraient progressivement monopolisées par un petit groupe d'entreprises – voire une seule – disposant des immenses moyens nécessaires à la mise au point de modèles performants et dont la puissance croîtrait automatiquement grâce à l'accès à des sources de données toujours plus vastes… fournies par ses utilisateurs ne disposant d'aucune alternative.
Une fois cette domination assise, dans une seconde phase, les investisseurs et autres spéculateurs de tout poil, perpétuellement désireux d'exploiter les meilleurs outils du moment afin de maximiser leurs profits, se retrouveraient donc tous à interroger les mêmes plates-formes… et à obtenir les même réponses… engendrant les mêmes réactions. Le danger serait alors un effet de boule de neige incontrôlable et potentiellement dévastateur, déclenché par une inspiration unique et uniforme.
Le récit est propre à faire peur, gage de succès immédiat auprès d'un auditoire généraliste. Malheureusement pour les amateurs de grands frissons, il est largement farfelu, comme nous l'enseigne l'histoire. La théorie de la concentration, d'abord, même si elle recouvre une certaine réalité à court terme, ignore totalement les cycles constants d'évolution de l'informatique. Imaginer que l'IA d'aujourd'hui marque une fin est absurde. D'autres approches émergeront et bouleverseront sans cesse les rapports de force.
Quant à l'argument des acteurs moutonniers, il paraît ridicule non parce qu'il ne peut naître mais au contraire parce qu'il existe depuis longtemps et que l'ajout d'un instrument supplémentaire susceptible de l'entretenir n'a guère de raisons de le rendre plus sensible qu'autrefois. Oui, des crises peuvent surgir quand tout le monde succombe aux mêmes illusions… mais ce sont les mêmes depuis des siècles. Et tant que tout n'est pas automatisé, des intervenants créatifs continueront à se distinguer et à éviter le pire.
De nombreuses légendes circulent sur les capacités prétendument magiques de l'intelligence artificielle et il faut impérativement les éradiquer afin d'empêcher des déconvenues coûteuses à l'issue d'expérimentations sans perspective. Cependant, il faut tout autant se garder de prédictions alarmistes reposant sur des prémisses bancales ou biaisées. Hélas, la popularité fulgurante que rencontrent à notre époque des nouvelles technologies prometteuses et mystérieuses, véritablement maîtrisées par une infime minorité de spécialistes, est propice aux mythologies et à leur propagation.