Découvrez comment éviter d’être manipulé par les hallucinations des IA : une méthode inédite

Les chercheurs du MIT ont développé une solution innovante pour mesurer la fiabilité des réponses générées par les IA, afin de restaurer la confiance des utilisateurs.

Cette nouvelle usine intelligente crée 10 millions de smartphones par an sans intervention humaine

Le phénomène des hallucinations de l'IA

Les intelligences artificielles sont de plus en plus présentes dans notre quotidien. Elles sont capables de générer des réponses très convaincantes. Cependant, il arrive parfois que ces réponses soient fausses ou complètement inventées.

Ce phénomène est appelé " hallucination " de l'IA. Les modèles de langage avancés peuvent produire des réponses incorrectes mais qui paraissent crédibles. Cela pose un problème de fiabilité et de confiance envers ces technologies.

Ce nouveau réseau social qui cartonne où vos amis sont uniquement des IA : révolution ou dérive ?

Thermometer : une innovation du MIT

Pour répondre à ce défi, les chercheurs du MIT et du MIT-IBM Watson AI Lab ont mis au point le Thermometer. Cet outil agit comme un thermomètre pour mesurer la fiabilité des réponses des IA. Il permet d'identifier les situations où le modèle est trop confiant dans ses fausses prédictions.

Le Thermometer utilise un modèle de langage plus petit pour étalonner un grand modèle. En prélevant plusieurs échantillons et en les agrégeant, il peut mesurer et améliorer la confiance dans les réponses générées.

📉 Hallucination

IA générant des réponses crédibles mais incorrectes

🔬 Thermometer

Outil pour mesurer la fiabilité des réponses des IA

🧪 Échantillonnage

Technique pour améliorer la confiance dans les réponses

Comment le Thermometer fonctionne

Le Thermometer fonctionne en prélevant de petits échantillons du modèle de langage principal. Ces échantillons sont utilisés pour générer différentes prédictions. Ensuite, ces prédictions sont agrégées pour mesurer la confiance globale dans la réponse.

Forer un puits en quelques heures : découvrez cette technique simple et efficace pour votre jardin

Lorsqu'une réponse est jugée peu fiable, l'utilisateur reçoit un signal clair. Cela permet à l'utilisateur de savoir si la réponse est exacte ou s'il doit prendre des précautions supplémentaires.

Les principaux avantages du Thermometer :

• Identification rapide des réponses peu fiables
• Amélioration de la confiance globale dans les réponses
• Réduction des risques liés aux décisions basées sur des IA

Cette innovation pourrait révolutionner la façon dont nous interagissons avec les intelligences artificielles. En permettant aux utilisateurs de mieux évaluer la fiabilité des réponses, nous pourrions éviter de nombreuses erreurs coûteuses et dangereuses.

Quelle sera la prochaine étape pour améliorer encore la confiance dans les intelligences artificielles ?