Yoshua Bengio, pionnier de l’apprentissage profond, a récemment exprimé ses inquiétudes concernant les développements futurs de l’intelligence artificielle, notamment l’intelligence artificielle générale (IAG), qui pourrait rivaliser avec l’intelligence humaine. Bengio met en garde contre les dangers potentiels d’une telle technologie, notamment la concentration du pouvoir entre les mains de quelques entités, qu’il s’agisse de gouvernements, d’entreprises ou de groupes militaires.
Dans une interview, Bengio a souligné que l’intelligence, qui donne du pouvoir, pourrait être utilisée de manière néfaste si elle tombait entre de mauvaises mains. Il cite des risques géopolitiques, des menaces à la démocratie, ainsi que la désinformation comme des préoccupations majeures. La capacité des IA à générer des informations erronées, comme des fausses publications sur les réseaux sociaux, pourrait interférer avec les élections et l’opinion publique, comme cela a été observé dans des incidents récents impliquant OpenAI.
Bengio se montre particulièrement inquiet de la manière dont l’IA pourrait être utilisée pour manipuler l’économie, la politique et même la stabilité mondiale, en raison de l’énorme coût des machines nécessaires pour entraîner ces systèmes d’IA. Cette situation entraînera probablement une concentration du pouvoir, car seuls quelques gouvernements et entreprises pourront se permettre de développer et déployer de telles technologies.
Enfin, Bengio plaide pour une réglementation plus stricte de l’IA afin d’encadrer son développement et éviter les abus. Il estime que la mise en place de lois de responsabilité, avec des sanctions financières pour les entreprises qui ne respectent pas des normes éthiques, pourrait aider à garantir que l’IA serve l’intérêt public plutôt que des intérêts privés.