Eric Schmidt a également mis en garde contre les dangers posés par une IA malveillante
Prospectif : À quoi ressemble l’avenir des systèmes d’IA les plus puissants ? Eric Schmidt, l'ancien PDG et président de Google, pense qu'ils seront sur des bases militaires, alimentés par une source d'énergie nucléaire et entourés de mitrailleuses.
Schmidt estime qu’à terme, les États-Unis et la Chine disposeront d’un petit nombre de systèmes d’IA extrêmement puissants, dotés de capacités d’invention autonomes.
L'ancien patron de Google affirme que ces capacités dépasseront ce que le gouvernement américain souhaite donner à ses citoyens sans autorisation. Il a également déclaré qu'il serait important de le garder hors de la portée des concurrents internationaux.
« Ils seront hébergés dans une base militaire, alimentée par une source d'énergie nucléaire et entourée de barbelés et de mitrailleuses », a-t-il expliqué dans une interview accordée à Noema Magazine.
Schmidt a également abordé le sujet d’une IA devenue malveillante en Chine et ayant accès à une arme qu’elle lance ensuite, sans comprendre les conséquences de telles actions – un danger qui vient en partie du fait que l’IA ne bénéficie pas des avantages de l’expérience humaine.
Nous avons vu de nombreux exemples de pays intégrant l’intelligence artificielle dans les armes et les embarcations de leurs armées. En avril, l’US Air Force a annoncé avoir testé avec succès un avion de combat contrôlé par l’IA lors de combats aériens contre des pilotes humains. Cette tendance a récemment conduit les États-Unis à promettre de ne jamais confier à l’IA le contrôle des systèmes d’armes nucléaires et à appeler la Chine et la Russie à prendre le même engagement.
La prédiction de Schmidt n’est peut-être pas aussi farfelue qu’elle en a l’air. Les États-Unis continuent de restreindre l’exportation des puces d’IA les plus puissantes vers la Chine, ce qui a conduit à des moyens innovants de s’en procurer. La Chine, quant à elle, souhaite réduire sa dépendance à l’égard de la technologie américaine et s’oppose à ce que l’une de ses propriétés intellectuelles soit attribuée à son rival, comme l’illustre sa réticence à vendre TikTok. Pékin a placé l’algorithme TikTok sur une liste restreinte de technologies en 2020 qui empêche son exportation sans l’approbation du gouvernement.
Schmidt a quitté Alphabet, société mère de Google, en 2020, après avoir été PDG et président de 2001 à 2011. Depuis son départ, il a investi dans des startups d'IA et a co-écrit un livre intitulé The Age of AI: And Our Human Future, qui examine la manière dont le la technologie transforme la société et les dangers potentiels qu’elle présente.