Usare l’intelligenza artificiale per svolgere i compiti scolastici potrebbe non essere una buona idea. I materiali generati dall’intelligenza artificiale hanno “elementi” che tradiscono gli imbroglioni, affermano gli esperti.
Lo ha spiegato a FoxNews un professore di geografia. Ha un suo metodo per rilevare il plagio generato dall’intelligenza artificiale. Lo ha sviluppato dopo aver notato che ChatGPT produceva citazioni false.
Renaud ha spiegato che i materiali generati dall’intelligenza artificiale hanno “elementi” che li espongono come generati dal computer, tra cui “perplessità” e “esplosione”.
La perplessità è definita dall’azienda come tenere traccia dei modelli linguistici in un campione di scrittura e determinare se segue il modo in cui è stato addestrato un sistema di intelligenza artificiale o se sembra essere unico e scritto da un essere umano.
La raffica è “quando un testo presenta un gruppo di parole e frasi che si ripetono in un breve lasso di tempo”.
Renaud ha detto a Fox News Digital che crede che “la domanda principale e la preoccupazione per il rilevamento dell’IA è se un giorno diventerà non rilevabile”.
“I fondamenti dell’IA generativa funzionano con dati predittivi”, ha spiegato. “Tutti i modelli, inclusi ChatGPT, Bard, Claude, Stability Text, sono stati addestrati su set di dati di grandi dimensioni e restituiranno output che sono ‘prevedibili’ da rilevatori di intelligenza artificiale ben costruiti e addestrati. Credo fermamente che sarà così fino a quando non ci sarà vera AGI (Artificial General Intelligence), ma per ora è ancora fantascienza.
“Quindi, nello stesso modo in cui l’IA generativa viene addestrata su grandi set di dati, abbiamo addestrato il nostro rilevatore a identificare i modelli chiave nei testi ‘sintetici’ attraverso il deep learning.”
Renaud ha detto che inizialmente era “molto preoccupato” per ChatGPT, ma da allora le sue preoccupazioni si sono attenuate. L’intelligenza artificiale avrà sempre “indicazioni” che altre piattaforme possono rilevare, ha affermato.
Il co-fondatore di Winston AI ha affermato che la piattaforma viene utilizzata principalmente per scansionare saggi scolastici, mentre “gli editori scansionano il lavoro dei loro giornalisti/copywriter prima della pubblicazione” ha guadagnato terreno ed è arrivato al secondo posto per l’uso più comune della piattaforma.
“È probabile che le esigenze di rilevamento dell’IA crescano al di fuori del mondo accademico. Abbiamo molti editori e datori di lavoro che vorrebbero ottenere chiarezza sull’originalità dei contenuti che pubblicano”, ha aggiunto Renaud nei commenti a Fox News Digital.
Tratto da: https://www.foxnews.com/tech/students-use-ai-cheat-warned-will-exposed-detection-services-grow-use
Le opinioni espresse in questo articolo sono dell’autore.
Leggi le ultime news su: https://w3b.today
Può interessarti anche: L’intelligenza artificiale può produrre grandi quantità di disinformazione, Giacomo Miceli su Scientific America
Seguici su Telegram https://t.me/presskit
Seguici su Facebook https://www.facebook.com/presskit.it
