Condotte di ricerca discutibili e irresponsabili: il ruolo di sviluppatori, annotatori e utenti di sistemi di Intelligenza Artificiale

The article aims to analyze some cases of Artificial Intelligence (AI) systems that have raised concerns both from the public opinion and within the AI researcher/developer community. These examples are able to show the consequences of ‘questionable’ and ‘irresponsible’ research practices from the point of view not only of moral principles but above all of the professional standards of researchers and developers. Systematic analyses of the state of the art of AI systems, developed thanks to very different methodologies and technologies that have led to unwanted outputs and failed experiments, are necessary not only to defne standards and codes of conduct but also to increase the awareness of AI researchers/developers of the main irresponsible behaviors they may incur, even apparently not serious, thus understanding of their impact and repercussions at individual and social level.

L’articolo si propone di analizzare alcuni casi di sistemi di Intelligenza Artificiale (IA) che hanno sollevato preoccupazioni sia nell’opinione pubblica che all’interno della comunità di ricercatori/sviluppatori di IA. Questi esempi sono in grado di mostrare le conseguenze di pratiche di ricerca ‘discutibili’ e ‘irresponsabili’ dal punto di vista non solo dei principi morali ma soprattutto degli standard professionali di ricercatori e sviluppatori. Analisi sistematiche dello stato dell’arte dei sistemi di IA, sviluppati grazie a metodologie e tecnologie molto diverse che hanno portato a output indesiderati ed esperimenti falliti, sono necessarie non solo per definire standard e codici di condotta ma anche per aumentare la consapevolezza dei ricercatori/sviluppatori di IA dei principali comportamenti irresponsabili in cui possono incorrere, anche apparentemente non gravi, comprendendone così l’impatto e le ricadute a livello individuale e sociale.