Home Intelligenza Artificiale Norman, la prima intelligenza artificiale psicopatica

Norman, la prima intelligenza artificiale psicopatica

by Huro
norman

Norman è stato creato da esperti del media lab del Mit. Questi hanno voluto realizzare un’IA per dimostrare a tutti com’è il lato oscuro delle machine learing.

I ricercatori del Massachusetts Institute of Technology hanno realizzato la prima intelligenza artificiale che si può definire psicopatica. Questo esperimento ha voluto dimostrare come dei dati corrotti possano cambiare un algoritmo, influenzando in maniera negativa la sua capacità di giudizio. L’intelligenza artificiale è stata nominata Norman per ricordare il protagonista di Psycho Norman Bates.

Questo algoritmo che ha fatto nascere Norman ha la capacità di osservare una foto e capire cosa raffigura, in seguito alla costruzione di un database da immagini pre-esistenti. Per allenare il macchinario, i suoi creatori gli hanno mostrato foto di persone decedute prese da una sottodirectory del sito Reddit. In seguito, ad un’altra intelligenza artificiale sono state mostrate foto di persone e animali. Infine entrambi i macchinari sono stati messi alla prova con il test Rorschach, in cui viene chiesto di interpretare delle macchie di inchiostro e le risposte valuteranno la personalità.

Norman, l’intelligenza artificiale che fa paura

Le due intelligenze artificiali hanno riportato risultati diversi tra di loro. La macchina a cui sono state sottoposte immagini normali ha interpretato “un gruppo di uccelli su un ramo”. Invece Norman ha visto “un uomo che subiva una scarica elettrica”. Questo è solo un esempio preso dalle varie immagini che sono state mostrate a tutte e due le intelligenze.

Come dicono i ricercatori, questo esperimento ci dimostra che i dati contano di più dell’algoritmo. Norman rappresenta il primo caso di studio sui rischi a cui un’intelligenza artificiale va incontro quando dei dati distorti vengono utilizzati negli algoritmi di apprendimento automatico. Precedenti studi ci hanno dimostrato che gli algoritmi possono acquisire la parte peggiore della natura umana, diventando razzisti o sessisti.

Consigliati per te

Lascia un Commento