OpenAI dévoile un outil secret de détection de triche : voici tous les détails

OpenAI pourrait avoir une solution, mais tarde à la rendre publique.

Le débat concernant la détection des textes générés par des IA divise les membres d'OpenAI depuis près de deux ans. Bien que l'entreprise dispose d'un outil potentiellement révolutionnaire, elle hésite à le dévoiler au grand public.

Ces secouristes utilisent l'IA pour sauver des vies en cas de catastrophe naturelle

Un outil de détection avancé

D'après des documents internes, OpenAI possède une technologie capable de détecter avec une précision de 99,9 % les textes générés par ChatGPT. Cependant, cette innovation reste sous clé.

Un marquage invisible inséré dans le texte permettrait cette détection. Invisible à l'œil nu, il pourrait être révélé par un logiciel spécialisé, mais cela pose des questions sur son utilisation à grande échelle.

Voici un nouveau plastique biodégradable révolutionnaire à base d'orge et de betterave

Les défis à surmonter

L'outil de détection pourrait diminuer l'attrait de ChatGPT. Un sondage indique qu'un tiers des utilisateurs pourrait cesser d'utiliser le chatbot si une technologie anti-triche était mise en place.

Les non-anglophones utilisant ChatGPT pour améliorer leurs formulations seraient également pénalisés. Des altérations simples comme Google Translate pourraient rendre l'outil inefficace.

Entre business et éthique

Quelques professeurs utilisent déjà des astuces pour repérer les tricheries. Comme Josh McCrain, qui insère des consignes spécifiques pour piéger les étudiants utilisant ChatGPT.

Les différentes technologies d'impression 3D et leurs usages

Ce débat reflète une tension entre la transparence et les intérêts commerciaux au sein d'OpenAI. Une situation rappelant les controverses internes ayant conduit au départ de Sam Altman.

🛠️ Outil de détection

Détecte les textes IA avec 99.9% de précision.

⚖️ Problèmes éthiques

Pénalise les non-anglophones et peut être contourné.

📊 Impact utilisateur

1/3 des utilisateurs pourraient arrêter ChatGPT.

Ce débat suscite plusieurs questions importantes :

• L'outil sera-t-il un jour accessible au public ?
• Quels impacts pour les utilisateurs non-anglophones ?
• OpenAI privilégiera-t-elle la transparence ou les profits ?

Le maintien de cet outil dans l'ombre soulève des interrogations quant aux priorités d'OpenAI et aux conséquences pour les utilisateurs de ChatGPT.

Que pensez-vous des pratiques d'OpenAI et de l'impact potentiel de cet outil sur l'utilisation des IA dans divers domaines ?