Sistemi di decisione algoritmica e disuguaglianze sociali: le evidenze della ricerca, il ruolo della politica.

Aziende e pubbliche amministrazioni usano con sempre più frequenza algoritmi per prendere decisioni sulle vite di clienti, cittadini, utenti e pazienti. Numerosi studi hanno dimostrato che i sistemi di decisione automatizzata possono generare, e soprattutto amplificare, le disuguaglianze sociali. Con questo articolo si intende promuovere la consapevolezza dei rischi associati ad un uso acritico degli algoritmi, ma allo stesso tempo, incoraggiare all’impiego informato dei sistemi di decisione automatizzata. L’obiettivo principale è di portare evidenze empiriche riguardo al funzionamento degli algoritmi e delle loro conseguenze sulla società. Successivamente, si individuano delle tecniche di ricerca sociale che possono essere impiegate per effettuare audit di algoritmi. Infine, si focalizzano delle soluzioni politiche per mitigare gli effetti degli algoritmi sulle disuguaglianze: la costituzione di organismi di sorveglianza in raccordo con altre autorità garanti (es. comunicazione e privacy), l’alfabetizzazione della popolazione alla privacy dei dati e al coding, la formazione di figure interdisciplinari altamente specializzate capaci di valutare la qualità degli algoritmi e i loro effetti. La ricerca sociale e l’istituzione di organismi di controllo sono gli strumenti principali per governare l’autorità algoritmica e per evitare che si producano nuove, e sempre più complesse, forme di disuguaglianza sociale.