Intelligence artificielle : ce qu'Alice et Bob ne nous ont pas dit

Deux intelligences artificielles, Alice et Bob, inventent sans l’aide des humains un langage afin de tromper un autre ordinateur. A quand le Skynet de Terminator qui devient le maître du monde ? Tout va dépendre de notre capacité à contrôler le mouvement… et à en tirer parti.

L’intelligence artificielle aura fait partie des grandes tendances de cette année 2016. Rien qu’en Silicon Valley, le nombre de startups du domaine a explosé et leur financement encore plus, passant de 145 millions de dollars en 2011 à 645 millions en 2015. La base de données CB Insights prévoit d’ailleurs que l’investissement passe la barre du milliard de dollars entre cette année et l’année prochaine.

En dehors des chiffres, il y a aussi la démocratisation : les premières voitures sans chauffeur ont été testées par Uber, Siri est désormais présente sur Macbook et AlphaGo, l’intelligence artificielle de Google, a battu le champion en titre de jeu de Go… Au Web Summit, Mike Schroepfer, le CTO de Facebook, a annoncé que l’IA serait l’un des 3 axes de développement majeurs du réseau social pour les prochaines années.

Le sujet a été popularisé encore récemment via l’incroyable expérience mise en place par Google : ces deux intelligences artificielles baptisées Alice et Bob qui ont réussi à créer leur propre langage pour en tromper une troisième, appelée Eve, sans que l’homme n’intervienne. Cette histoire fait bien sûr tout de suite penser à Skynet, le système d’intelligence artificielle du film Terminator qui prend le pouvoir et décide d’exterminer les humains. Il est vrai qu’un ordinateur qui crée quelque chose de lui-même, cela peut paraître inquiétant.

Terminator, sort de ce corps !

Selon un spécialiste français de l’intelligence artificielle, l’IA prendra son envol le jour où elle sera capable de fonctionner, non plus avec les algorithmes définis par les humains, mais en créant ses propres algorithmes. Et comme son système d’apprentissage, le « machine learning », fonctionne de façon exponentielle, son accélération dans l’apprentissage sera alors phénoménale et l’être humain sans doute rapidement dépassé. La « machine » passera du fonctionnement proche de celui du cerveau d’un enfant de cinq ans, à celle d’un adolescent, puis d’un adulte dans toute la force de son esprit, puis de dix adultes, et rapidement de cent, de mille, d’un million, en moins de temps qu’il ne faut pour le dire !

Alice et Bob ne semblent pas en être encore là. Les experts estiment en effet que le système de langage mis au point par ces deux intelligences artificielles était relativement rudimentaire. Un bon spécialiste du décodage serait capable de le « craquer » assez facilement. Alice et Bob auraient donc été malins. Mais de là à dire qu’ils ont été intelligents voire créatifs, il y a tout de même un pas.

A moins qu’ils n’aient simplement dosé leurs efforts pour parvenir le plus rapidement possible et avec l’effort minimal à l’objectif qui leur avait été imparti par leurs programmeurs…? Peut-être pouvaient-ils aller plus loin ? On ignore en outre comment ils ont « raisonné » pour en arriver là, échangé à chaque étape pour progresser. Et ce seul sujet est déjà assez troublant.

Contrôleur aérien de l’IA

Que se passera-t-il si on laisse des intelligences artificielles continuer à dialoguer sans contrôler, à échanger des informations, à créer ? Après tout, c’est exactement ce que dit Elon Musk: “j’investis dans l’intelligence artificielle pour mieux contrôler ce qui s’y passe et ne pas la laisser prendre son envol”. Des craintes partagées par exemple par le mathématicien Stephen Hawking. La question sous-jacente est donc : comment garder la main, comment contrôler cet envol ?

L’on peut arriver à la conclusion que l’un des grands métiers de demain, ce ne sera pas concepteur d’intelligence artificielle : c’est déjà celui d’aujourd’hui. L’un des grands métiers de demain, ce sera justement contrôleur d’envol d’intelligence artificielle. Tout comme il y a des contrôleurs aériens pour éviter les catastrophes dans le ciel et sur les aéroports. Des experts chargés de veiller à ce que les ordinateurs ne fassent rien sans qu’on leur ai demandé et respectent évidemment les règles fixées par les humains notamment de ne pas menacer notre existence, comme les lois robotiques dans la mythique série de romans d’anticipation « Les Robots » de Isaac Asimov.

Ce métier sera une formidable réponse à ceux qui accusent la technologie, le digital, le numérique de se substituer aux métiers d’avant et donc de les détruire plutôt que de créer davantage de richesse et de croissance tangible. Qui sait si demain, notre système industriel et serviciel n’aura pas en son sein des dizaines de milliers de contrôleur d’intelligence artificielle : un job en or, dans tous les sens du terme.