Nell’intelligenza arrificiale “il testo generato si basa su una distribuzione di probabilità”
Cosa significa ce lo spiega Mark Williams-Cook in un suo recente articolo su Searc Engineland.
“Ad esempio, se scrivi “Essere un SEO è divertente perché…”, l’LLM sta esaminando tutti i token e sta cercando di calcolare la prossima parola più probabile in base al suo set di addestramento. Ad un tratto, puoi considerarlo come una versione davvero avanzata del testo predittivo del tuo telefono.
ChatGPT è un tipo di intelligenza artificiale generativa
Ciò significa che l’output non è prevedibile. C’è un elemento randomizzato e potrebbe rispondere in modo diverso allo stesso prompt.
Quando apprezzi questi due punti, diventa chiaro che strumenti come ChatGPT non hanno alcuna conoscenza tradizionale o “sanno” nulla. Questa mancanza è alla base di tutti gli errori, o “allucinazioni” come vengono chiamate.
Numerosi output documentati dimostrano come questo approccio possa generare risultati errati e far sì che ChatGPT si contraddica ripetutamente.
Ciò solleva seri dubbi sulla coerenza del “valore aggiunto” con il testo scritto dall’IA, data la possibilità di frequenti allucinazioni.
La causa principale risiede nel modo in cui gli LLM generano il testo, che non sarà facilmente risolto senza un nuovo approccio.
Questa è una considerazione fondamentale, specialmente per gli argomenti Your Money, Your Life (YMYL), che possono danneggiare materialmente le finanze o la vita delle persone se imprecisi.
Importanti pubblicazioni come Men’s Health e CNET sono state sorprese a pubblicare quest’anno informazioni generate dall’IA di fatto errate, evidenziando la preoccupazione.
Gli editori non sono soli con questo problema, poiché Google ha avuto difficoltà a frenare i suoi contenuti Search Generative Experience (SGE) con contenuti YMYL”.
Le opinioni espresse in questo articolo sono dell’autore.
Leggi le ultime news su: https://w3b.today
Può interessarti anche: L’intelligenza artificiale sa creare contenuti sintetici, studi accademici dall’aspetto autorevole, notizie dal suono plausibile, immagini bufale e video deepfake
Può interessarti anche: Intelligenza artificiale per la ricerca legale, attenzione ai dati distorti, potrebbero inficiare tutto
Può interessarti anche: Come parla di se stessa l’intelligenza artificiale? Non “io”, ma probabilmente serve una forma di IT, Seth Godin
Seguici su Telegram https://t.me/presskit
Seguici su Facebook https://www.facebook.com/presskit.it
