“Per miliardi di anni, l’evoluzione è stata la forza trainante dietro lo sviluppo della vita, compresi gli esseri umani. L’evoluzione ha dotato gli esseri umani di un’intelligenza elevata, che ci ha permesso di diventare una delle specie di maggior successo del pianeta”, scrive Dan Hendrycks, direttore del Center for AI Safety, sul sito della della Cornell University.
“Oggi gli esseri umani mirano a creare sistemi di intelligenza artificiale che superino persino la nostra stessa intelligenza. Man mano che le intelligenze artificiali (AI) si evolvono e alla fine ci superano in tutti i domini, in che modo l’evoluzione potrebbe modellare le nostre relazioni con le IA?
Analizzando l’ambiente che sta modellando l’evoluzione delle IA, sosteniamo che gli agenti IA di maggior successo avranno probabilmente tratti indesiderabili.
Le pressioni competitive tra corporazioni e forze armate daranno origine ad agenti di intelligenza artificiale che automatizzano i ruoli umani, ingannano gli altri e acquisiscono potere. Se tali agenti hanno un’intelligenza che supera quella degli umani, ciò potrebbe portare l’umanità a perdere il controllo del proprio futuro.
Più astrattamente, sosteniamo che la selezione naturale opera su sistemi che competono e variano, e che le specie egoiste hanno tipicamente un vantaggio sulle specie che sono altruiste nei confronti di altre specie.
Questa logica darwiniana potrebbe applicarsi anche agli agenti artificiali, poiché gli agenti potrebbero eventualmente essere maggiormente in grado di persistere nel futuro se si comportano in modo egoistico e perseguono i propri interessi con scarso rispetto per gli esseri umani, il che potrebbe comportare rischi catastrofici.
Per contrastare questi rischi e forze evolutive, consideriamo interventi come progettare attentamente le motivazioni intrinseche degli agenti di intelligenza artificiale, introdurre vincoli alle loro azioni e istituzioni che incoraggiano la cooperazione. Questi passaggi, o altri che risolvono i problemi che poniamo, saranno necessari per garantire che lo sviluppo dell’intelligenza artificiale sia positivo”.
Tratto da: https://arxiv.org/abs/2303.16200
Leggi le ultime news su: https://w3b.today
Può interessarti anche: “ChaosGPT”, l’intelligenza artificiale programmata per distruggere l’umanità: come pensa di fare
Può interessarti anche: A San Francisco con una mostra si chiedono quando l’intelligenza artificiale ci ucciderà tutti
Seguici su Telegram https://t.me/presskit
Seguici su Facebook https://www.facebook.com/presskit.it
