Com detectar textos escrits per ChatGPT
Segur que heu vist en, tot l'entorn digital actual, que la Intel·ligència Artificial cada vegada és més notòria entre la comunitat educativa. L'ampli ventall de possibilitats que ofereixen aquestes eines ha suposat una revolució dins i fora de les aules i, al TÀCTIC, hem parlat dels seus usos i característiques més interessants dins de l'educació. A continuació, trobareu llistats tres articles que tracten d'aquest tema:
Ara bé, el creixent ús de les eines basades en Intel·ligència Artificial, com ara ChatGPT, ha despertat certa inquietut entre la comunitat docent. Les males pràctiques difoses a través de les xarxes socials, envers aquestes eines, ha generat desconfiança sobre la veracitat dels documents entregats per l'alumnat, ja què existeix la por de que hagin estat generats de forma artificial.
Aquesta necessitat de detectar els materials generats per la Intel·ligència Artificial, ha fet créixer la demanda d'eines que permetin una detecció fiable i ràpida d'aquests continguts però, malauradament, és molt complicat fer front a aquesta necessitat: la Intel·ligència Artificial evoluciona a un ritme vertiginós, adaptant-se cada cop més ràpid i millor als estils personals de cada usuari, fet que fa gairebé impossible la seva detecció.
Tot i així, això no implica que no puguem fer ús d'algunes de les eines de detecció d'IA més populars de la xarxa, i en aquest article, us en mostrarem unes quantes. Ara bé, heu de tenir en compte que aquestes eines són molt més sofisticades quan analitzen textos escrits en llengua anglesa.
Però, primer de tot, us llistarem alguns trucs que, de ben segur, us ajudaran en la detecció de textos generats amb ChatGPT:
Llistes: quan se li demana a ChatGPT que faci llistes, sol començar cada punt amb un títol, seguit de dos punts.
Conclusions: normalment, quan l'eina acaba un text, sol concluïr-lo amb frases com "en resum".
Repeticions: ChatGPT sol repetir certes paraules o expressions amb freqüència. Per exemple, si li diu que parli sobre un concepte específic, ho repetirà vàries vegades al llarg del text.
Ús de la mateixa paraula o concepte: per exemple, per referir-se a l'alumnat, sempre parla d'estudiants, mai utilitza una altra expressió.
Ús de la frase "tema controvertit, objecte de debat": quan hi ha diversitat d'opinions, sol utilitzar aquesta expressió.
Ús freqüent de la frase "és important": utilitza molt sovint aquesta frase per matisar alguna cosa que acaba de mencionar.
Estructura del text: els texts generats amb ChatGPT solen tenir una estructura definida que inclou una introducció, un desenvolupament i una conclusió.
Ús d'exemples: quan és necessari, ChatGPT sempre troba exemples que il·lustrin la seva explicació.
Tot i què aquests trucs no són infal·libles, sí que us podran ajudar a detectar possibles casos de textos generats amb ChatGPT. Sempre caldrà tenir en compte l'estil de cada estudiant en aquest anàlisi i utilitzar altres metodologies d'anàlisi per tal de determinar si el text és original o no.
Quant a la utilització d'eines, a continuació us en parlem de dues de les més populars:
OpenAI AI Text Classifier
Es tracta d'una eina creada per poder identificar textos escrits amb Intel·ligència Artificial, com ara ChatGPT, entre d'altres. Ha estat creada pels propus creadors d'aquesta eina, pel que promet ser prou fiable per a detectar aquest tipus de materials. És totalment gratuïta, tot i què és necessari haver-se creat un compte en OpenAI.
El seu funcionament és senzill: només cal enganxar-hi el text que es vol identificar i l'eina dirà si està fet per IA o per humans. Ara bé, aquest detector no és del tot fiable, ja què pot donar falsos positius.
Límits del AI Text Classifier:
Mida del text: és poc fiable amb textos de menys de 1000 caràcters, pel que és millor comprovar que tinguin més d'aquesta xifra.
No sempre és fiable: a vegades, el classificador pot donar falsos negatius, i classificar com escrit per un humà un text escrit per IA.
Idioma dels textos: l'eina ha estat entrenada per analitzar textos en anglès, i el seu rendiment baixa significativament en altres idiomes.
Textos que tracten temes "menors": per entrenar aquesta eina, s'han utilitzat conjunts de textos sobre molts temes importants. Tot i així, aquests classificadors poden no funcionar molt bé amb temàtiques molt diferents a les que s'han utilitzat per entrenar-los.
Textos escrits per nens: aquest tipus de text no sempre són fàcils de detectar com a texts humans.
AI Detector
Aquesta eina, que va ser creada en Setembre del 2022, té un funcionament similar a l'anterior: només cal enganxar el text (que ha de tenir una llargària màxima de 25.000 caràcters.
Aquesta eina ha estat entrenada amb milers de milions de pàgines de dades per tal que pugui predir amb més precisió les eleccions de paraules més probables d'haver estat generades per IA.
Segons diuen a la seva pàgina web, la majoria dels detectors d'IA gratuïts estan desactualitzats i analitzen generadors de llenguatge antics, però AI Detector troba totes les versions de GPT, incloent GPT-4.
És important tenir en compte que, igual que l'eina anterior, AI Detector funciona millor amb textos escrits en anglès.
Fonts:
