Vers une réglementation des algorithmes ?

La semaine passée, le Sénat français discutait de l'introduction d'une loi imposant une obligation de transparence aux algorithmes mis en œuvre par les moteurs de recherche, Google étant visé au premier chef. Son inquiétude fait écho à une préoccupation plus générale à laquelle commence également à s'attaquer la FTC américaine.
De notre côté de l'Atlantique, les craintes montent vis-à-vis de l'hégémonie du géant de Mountain View, qui détiendrait 90% du marché et dont le site est un passage presque incontournable pour l'accès à toute information sur le web. Entre accusations de privilégier ses propres produits – au détriment de la concurrence – et autres disparitions inexplicables dans ses résultats de recherche, l'objectif du texte serait, entre autres, d'obliger l'éditeur à décrire ses critères de sélection et de classement.
Dans le cas de la FTC (« Federal Trade Commission », agence en charge de la protection des consommateurs), les réflexions sont beaucoup plus larges, puisqu'elles englobent tous les domaines. Il est vrai que le sujet mérite d'être abordé globalement, tant les logiciels informatiques sont désormais au cœur de la plupart des activités humaines, dans le commerce, la finance, la santé, les transports… Et partout, les risques d'abus et de dérives, volontaires ou non, menacent nos libertés individuelles.
Sont ainsi mis en cause non seulement les résultats de recherche de Google mais aussi, potentiellement, les contenus présentés dans les fils d'actualités de Facebook, les tarifs des compagnies aériennes, l'éligibilité au crédit immobilier ou aux produits d'assurance, pour ne citer que quelques cas parmi les plus flagrants. Voilà autant d'occasions pour chacun d'entre nous de devenir victime de discriminations ou de pratiques déloyales, tombant sous le coup de la loi mais restant commodément invisibles.
Deux attitudes sont possibles face à ces dangers de l'automatisation. Celle que propose le Sénat, visant à la transparence des algorithmes, est parfaitement inutile : expliquer le fonctionnement du classement de Google ne suffira jamais à maîtriser les répercussions des choix qui sont faits. Par exemple, comment une telle mesure pourrait-elle aider à prendre en compte l'association de patronymes à consonance afro-américaine avec des publicités pour des services d'accès aux archives, suggérant un passé criminel ? Et une infinité d'autres biais, encore plus subtils, peuvent être envisagés.
La FTC, de son côté, a commencé à agir concrètement, à travers la création d'une structure spécialisée (l'« Office of Technology Research and Investigation ») dont la mission comprend l'analyse – via des études internes ou commanditées – des données exploitées et des mécanismes mis en œuvre dans les algorithmes déployés sur le web. Idéalement, la cible serait plutôt de vérifier les résultats produits afin de s'assurer qu'ils n'engendrent pas des conséquences néfastes, quelles qu'elles puissent être. Vaste tâche, dont il est tout de même difficile de croire à l'efficacité.
Sinon, J.M. Koponen imagine – dans un article pour TechCrunch – une autre solution à l'excès d'ingérence des logiciels dans nos vies : l'ange algorithmique. Déclinaison numérique de l'ange gardien, celui-ci nous permettrait à tout moment de reprendre le contrôle sur nos données personnelles, supprimant les manipulations auxquelles nous sommes soumis, nous laissant accéder à plus de choix, limitant la surveillance dont nous faisons l'objet… Utopie ? Peut-être, mais l'idée mériterait de susciter des vocations !