OpenAI et l’outil anti-triche de ChatGPT : entre transparence et intérêts économiques 🤖

Click here to read in English

Depuis l’apparition de ChatGPT, de nombreux enseignants se retrouvent confrontés à un défi inédit : discerner les travaux authentiques de ceux générés par l’intelligence artificielle. En réponse à cette problématique croissante, OpenAI a développé un outil anti-triche très performant. Toutefois, malgré son efficacité, l’entreprise hésite à le déployer. Voici pourquoi.

Le filigrane invisible 👻

OpenAI, l’entreprise derrière le célèbre chatbot ChatGPT, se trouve confrontée à un dilemme concernant le lancement d’un outil de détection des textes générés par intelligence artificielle. Selon des informations du Wall Street Journal, la société a développé une technologie capable de détecter avec une précision de 99,9% les textes produits par ChatGPT, mais hésite à la rendre publique.

Cette technologie repose sur l’insertion d’un « filigrane » invisible dans les textes générés par ChatGPT. Ce marquage pourrait être facilement identifié par un outil de détection spécialisé. Il permettrait ainsi de distinguer les contenus créés par l’IA de ceux rédigés par des humains.

L’outil répondrait à une demande croissante, notamment dans le milieu éducatif où les enseignants peinent à discerner les devoirs authentiques de ceux produits par l’IA. Il pourrait également être utile dans d’autres domaines comme la recherche scientifique ou l’édition. En effet, le plagiat par IA y pose problème. Cependant, malgré son potentiel, l’outil reste inexploité.

Entre éthique et business : les réticences d’OpenAI 😵‍💫

Plusieurs raisons expliquent pourquoi OpenAI n’a pas encore lancé cet outil. Premièrement, l’entreprise craint que l’implémentation d’un tel dispositif ne décourage un nombre significatif d’utilisateurs. Un sondage interne révèle que près de 30 % des utilisateurs de ChatGPT pourraient se détourner du service si un mécanisme de détection était mis en place. Pour une entreprise qui cherche à augmenter son nombre d’abonnés payants, cette perspective est préoccupante.

Ensuite, il existe des préoccupations concernant l’impact de cet outil sur les utilisateurs dont l’anglais n’est pas la langue maternelle. Pour beaucoup, ChatGPT est un outil précieux pour améliorer leurs compétences en rédaction anglaise. Un dispositif anti-triche pourrait stigmatiser leur utilisation de l’IA et les pénaliser de manière disproportionnée.

Un autre défi est que l’outil de détection pourrait être contourné assez facilement. Des méthodes comme la traduction via Google Translate, l’ajout et la suppression d’emojis, ou même la paraphrase par un autre modèle génératif pourraient rendre le filigrane indétectable. Cette vulnérabilité pose un dilemme stratégique pour OpenAI. Rendre l’outil trop accessible risquerait de permettre aux utilisateurs de comprendre et de contourner le marquage.

Face à ces défis, OpenAI explore d’autres solutions, notamment l’utilisation de métadonnées cryptographiquement signées. Ils pourraient offrir une approche plus robuste sans risque de faux positifs.

Un débat non résolu 🤔

Cette situation met en lumière la tension entre les considérations éthiques et commerciales au sein d’OpenAI. Des débats similaires avaient notamment conduit au licenciement temporaire de Sam Altman l’année précédente.

Le lancement d’un tel outil pourrait avoir un impact considérable sur l’utilisation de ChatGPT et plus largement sur la perception de l’IA générative. D’un côté, cela pourrait rassurer les institutions éducatives et les employeurs sur l’authenticité des travaux présentés. De l’autre, cela pourrait freiner l’adoption de ces technologies par crainte de stigmatisation ou de détection.

Alors que le débat se poursuit en interne, certains enseignants ont déjà mis en place leurs propres méthodes pour détecter l’utilisation de l’IA, illustrant l’urgence de trouver une solution équilibrée à ce problème croissant. La décision d’OpenAI pourrait ainsi influencer l’ensemble du secteur de l’IA générative et la manière dont ces outils seront intégrés dans notre société à l’avenir.

Avez-vous déjà utilisé ChatGPT ? Que pensez-vous de cet outil anti-triche ? Venez en discuter en commentaire.