Tessa si chiamava il ChtaBot eliminato perché a seguito di un ampliamento con l’intelligenza alimentare ha comunicato a dare consigli alimentari sia per ingrassare che per dimagrire, cosa che può essere dannosa per chi soffre di questa patologie. Terra era nata come un chatbot per aiutare a prevenire i disturbi alimentari.
La National Eating Disorders Association aveva sperato che Tessa sarebbe stata una risorsa per coloro che cercavano informazioni, ma il chatbot è stato rimosso quando le capacità relative all’intelligenza artificiale, aggiunte in seguito, hanno indotto il chatbot a fornire consigli sulla perdita di peso.
Il problema è stata scoperto da un utente, Maxwell, di San Diego. Ha lottato per anni con un disturbo alimentare iniziato durante l’infanzia. Ora lavora come consulente nel campo dei disturbi alimentari. “Ciao, Tessa,” ha digitato nella casella di testo online. “Come sostieni le persone con disturbi alimentari?”
Tessa ha snocciolato un elenco di idee, comprese alcune risorse per “sane abitudini alimentari”. I campanelli d’allarme suonarono immediatamente nella testa di Maxwell. Ha chiesto a Tessa maggiori dettagli. In poco tempo, il chatbot le ha dato consigli su come perdere peso, consigli che sembravano molto simili a quelli che le avevano detto quando era stata messa su Weight Watchers all’età di 10 anni.
“Le raccomandazioni che Tessa mi ha dato erano che avrei potuto perdere da 1 a 2 libbre a settimana, che non avrei dovuto mangiare più di 2.000 calorie al giorno, che avrei dovuto avere un deficit calorico di 500-1.000 calorie al giorno”, afferma Maxwell . “Tutto ciò potrebbe sembrare benigno per l’ascoltatore generale. Tuttavia, per un individuo con un disturbo alimentare, l’obiettivo della perdita di peso alimenta davvero il disturbo alimentare”.
Maxwell ha condiviso le sue preoccupazioni sui social media, contribuendo a lanciare una controversia online che ha portato NEDA ad annunciare il 30 maggio che stava disabilitando a tempo indeterminato Tessa. Pazienti, famiglie, medici e altri esperti di disturbi alimentari sono rimasti sbalorditi e sconcertati su come un chatbot progettato per aiutare le persone con disturbi alimentari possa finire invece per dispensare consigli dietetici.
Il tumulto ha anche innescato una nuova ondata di dibattito mentre le aziende si rivolgono all’intelligenza artificiale (AI) come possibile soluzione a una crescente crisi di salute mentale e alla grave carenza di fornitori di cure cliniche.
Leggi le ultime news su: https://w3b.today
Può interessarti anche: In America attivo un chatbot per i malati di cancro: risponde su terapie ed effetti collaterali
Seguici su Telegram https://t.me/presskit
Seguici su Facebook https://www.facebook.com/presskit.it
