Comment détecter un contenu rédigé par IA ?
En réponse à cette tendance, des outils de détection de texte par l'IA ont été développés. Cependant, tandis que les générateurs de texte d'IA s'améliorent rapidement, le développement des outils de détection de texte d'IA n'a pas suivi le même rythme. L'outil de classification de texte d'OpenAI, OpenAI text classifier, présente des limites dans la détection précise des textes générés par l'IA. Avec un taux de précision de seulement 26 %, cet outil ne peut pas être utilisé pour des textes de moins de 1 000 caractères, fonctionne mal avec les langues autres que l'anglais et peut confondre des textes écrits par des humains avec du contenu généré par l'IA.
Le but du langage de l'IA est d'imiter, de générer ou de créer un texte fluide et d'apparence humaine. ChatGPT prédit le prochain mot probable dans une phrase, d'une manière relativement simple. GPTZero mesure la perplexité et la complexité des phrases et de la structure et présente un taux de réussite apparemment plus élevé, certaines sources faisant état d'une précision de 98 %. Cependant, certains sites et blogs technologiques ont réfuté ces affirmations avec leurs propres tests. Tout comme le classificateur de texte d'OpenAI, GPTZero a ses propres limites et a du mal avec les phrases courtes et les textes modifiés. Il fournit un retour d'information plus clair et explique pourquoi une détermination a été faite.
Les outils de détection de l'IA ne sont pas suffisamment fiables pour être utilisés seuls, OpenAI reconnaissant qu'il ne faut pas se fier à ces outils pour déterminer de manière définitive si un contenu est généré par l'IA. Nous devons également prendre en compte le fait que les textes peuvent être modifiés pour éviter la détection. Avant de soumettre des travaux d'élèves à des applications et des sites Web tiers, il est crucial de prendre en compte les limites des outils de détection de texte d'IA et les éventuelles implications en matière de confidentialité.
Malgré ces limites, il est probable que les détecteurs d'IA continueront de s'améliorer à mesure que les générateurs de texte d'IA deviendront plus avancés. Cependant, il est peu probable qu'il existe un outil capable de détecter l'écriture IA avec une précision de 100 %.
- AI Text Classifier
Développé par OpenAI. "Le classificateur de texte d'IA est un modèle GPT affiné qui prédit la probabilité qu'un morceau de texte ait été généré par l'IA à partir d'une variété de sources, telles que ChatGPT. - AI Writing Check
Vérifie des textes de 400 mots - Content at Scale
- Copyleaks
- GPT-2
- GPTZero
- Turnitin
Avant-première de la capacité de détection de l'écriture AI et du ChatGPT de Turnitin
