Si ChatGPT est pour beaucoup l’une des technologies les plus innovantes de ces derniers temps, pour d’autres, elle est aussi devenue un sujet de préoccupation. Nous parlons des professeurs et des éducateurs, qui ne savent actuellement pas si les écrits soumis par les élèves sont l’œuvre de ces derniers ou d’une intelligence artificielle.
OpenAI, l’algorithme qui détecte l’IA
Pour tenter de répondre à ces besoins, qui se font certainement sentir dans la sphère éducative, OpenAI, la même société de logiciels qui a créé le très discuté ChatGPT, a créé un classificateur basé sur un algorithme d’apprentissage automatique capable de comprendre si le texte a été écrit par un être humain ou par une intelligence artificielle.
Cet algorithme d’apprentissage automatique, comme tout autre, est continuellement “entraîné”. Dans ce cas précis, les données dont il a besoin pour être constamment mis à jour et amélioré proviennent de morceaux de texte écrits par des personnes et de “divers fournisseurs qui utilisent l’IA pour générer du texte”, dont, bien sûr, ChatGPT.
En pratique, le classificateur compare des textes qui parlent du même sujet et devrait être capable de dire s’ils ont été écrits par une personne elle-même ou si c’est l’IA qui les a générés.
L’algorithme d’OpenAI est maintenant peu fiable
Nous disons “devrait” car, de l’aveu même d’OpenAI, pour l’instant, ce classificateur “n’est pas entièrement fiable”. En fait, jusqu’à présent, il n’a pu détecter que 26 % des textes rédigés par une intelligence artificielle en anglais dans une série de “défis” qui lui ont été lancés. Quelques faux positifs (9%) ont également été détectés, c’est-à-dire qu’un texte écrit par une personne a été catalogué à tort comme étant écrit par l’IA et vice versa.
Les choses se sont améliorées lorsque des textes de plus de 1 000 caractères ont été envoyés à l’algorithme, mais dans le même temps, comme l’indique OpenAI, les choses sont “nettement moins bonnes” si le texte est écrit dans une langue autre que l’anglais. Pour ces raisons, OpenAI ne marque le texte comme probablement écrit par l’IA que si le classificateur est très sûr.
Malgré tout, OpenAI affirme que le nouveau classificateur est meilleur que le précédent sur lequel la société travaillait déjà. La même société engage des éducateurs aux États-Unis pour discuter des capacités et des limites de ChatGPT appliqué au monde scolaire.
Dans le même temps, il conseille de ne pas se contenter d’utiliser l’algorithme pour déterminer si un écrit est le fait d’un humain ou d’une intelligence artificielle, mais d’évaluer d’autres facteurs.
