Gli studenti che non vogliono essere segnalati per aver utilizzato l’intelligenza artificiale per scrivere i loro temi universitari si rivolgono a una strategia opposta per ottenere un buon voto: scrivere male di proposito.
In un post sul forum Reddit R/ProfessoriIl dottor Sam Illingworth, professore alla Napier University di Edimburgo in Scozia, afferma di aver notato una tendenza inquietante tra i suoi studenti.
Secondo Illingworth, i suoi studenti includono intenzionalmente errori di battitura e errori grammaticali come un modo per garantire che i rilevatori non segnalino il loro lavoro come intelligenza artificiale.
“Alcuni stanno eseguendo il loro lavoro (di autore umano) con strumenti di ‘umanizzazione dell’intelligenza artificiale’ solo per evitare falsi positivi”, ha scritto Illingworth nel suo post.
“Abbiamo creato un sistema in cui la scrittura appropriata viene trattata come sospetta.”
“La posta in gioco è troppo alta”
In un compagno Articolo del blogIllingworth cita numerosi casi di studenti che sono stati puniti ingiustamente, tutti con conseguenze importanti sui loro studi.
Illingworth è un suggerimento Studio del 2023 Tra 14 diversi sistemi di rilevamento dell’intelligenza artificiale gestiti da un team internazionale di ricercatori.
Lo studio ha rilevato che nessuno dei 14 sistemi di rilevamento dell’intelligenza artificiale ha raggiunto una precisione dell’80%, con i ricercatori che hanno riscontrato “gravi limitazioni” nei sistemi di rilevamento dell’intelligenza artificiale e li hanno ritenuti “inadatti” per rilevare gli imbroglioni dell’intelligenza artificiale in classe.
“I nostri risultati suggeriscono fortemente che le” soluzioni facili “per il riconoscimento del testo generato dall’intelligenza artificiale non esistono (e potrebbero anche non esistere)”, hanno scritto i ricercatori.
Gli strumenti di riconoscimento dell’intelligenza artificiale sono particolarmente inadeguati nel riconoscere il lavoro scritto da esseri umani quando chi parla non è di madrelingua inglese.
UN Studio di aprile 2023 Una ricerca condotta dalla Stanford University ha rilevato che il 61% degli articoli scritti da autori inglesi non nativi sono stati contrassegnati da sette diversi strumenti di rilevamento dell’intelligenza artificiale e il 97% è stato contrassegnato da almeno un rilevatore di intelligenza artificiale.
“I rilevatori sono molto inaffidabili a questo punto, e la posta in gioco è troppo alta perché gli studenti possano riporre la nostra fiducia in queste tecnologie senza una valutazione rigorosa e un perfezionamento significativo”, ha avvertito James Xu, autore senior dello studio.
Pregiudizio istituzionale
in un’e-mail NewsweekIllingworth afferma che la sua più grande preoccupazione riguardo agli strumenti è il pregiudizio.
“I tassi di falsi positivi sono già abbastanza gravi di per sé, ma quando questi falsi positivi cadono in base alla razza, alla nazionalità e alla prima lingua, non stiamo parlando di uno strumento difettoso”, ha spiegato.
“Stiamo parlando di pregiudizio istituzionale, automaticamente e con un punteggio di confidenza.”
Illingworth ha aggiunto che non crede di poter rilevare in modo affidabile la scrittura dell’intelligenza artificiale attraverso il rilevamento degli occhi e che la tecnologia è abbastanza buona a questo punto che basare i risultati accademici sul “(rilevamento degli occhi) è pericoloso”.
“Nessuna formazione”
“Esistono usi reali dell’intelligenza artificiale nell’istruzione: come partner di pensiero, strumento di redazione, un modo per mettere alla prova le argomentazioni”, ha continuato.
“Il problema non è se gli studenti la usano, ma se capiscono cosa sta facendo e dove fallisce. Ciò richiede un’alfabetizzazione critica sull’intelligenza artificiale, non un divieto.
“La maggior parte del personale non ha alcuna formazione su come insegnare con o sull’intelligenza artificiale. Stiamo dicendo loro di vigilare su qualcosa che non sono attrezzati per comprendere.”
‘un vicolo cieco’
Da parte sua, Illingworth ritiene che le soluzioni siano “tutte dalla parte degli educatori”: riprogettando valutazioni e test e investendo nell’istruzione per i membri del personale.
È importante sottolineare che ritiene che gli educatori “devono smettere di inquadrare questo come un problema disciplinare”.
“Gli studenti si stanno adattando abbastanza bene agli strumenti a loro disposizione”, ha affermato. “La domanda è se li aiutiamo a farlo in modo critico ed etico o se cerchiamo di catturarli.
“L’identificazione è fine a se stessa.”
