Rischi algoritmici e strumenti di mitigazione

Aziende e pubbliche amministrazioni usano con sempre più frequenza algoritmi per prendere decisioni sulle vite di clienti, cittadini, utenti e pazienti che incidono su, ad esempio, la scelta del prodotto da proporgli, la concessione di un prestito, l’assegnazione di un posto di lavoro, l’erogazione di una certa quantità di farmaco. I dati personali alimentano la macchina del capitalismo digitale, diventando moneta di scambio per l’accesso ai servizi online. Attraverso questa transazione informazionale, spesso celata agli utenti, gli algoritmi di profilazione estraggono valore e comportano potenziali conseguenze sociali per gli individui, come la sorveglianza digitale. Altri studi hanno dimostrato che i sistemi di decisione automatizzata possono generare, e soprattutto amplificare, le disuguaglianze sociali. La scarsa conoscenza del coding e della data science, così come l’accesso limitato alla tecnologia e a Internet, spesso comportano una scarsa capacità di comprendere i rischi del processo decisionale algoritmico. Come è possibile mitigare questi rischi? La ricerca sociale può intervenire su questi temi indirizzando la diffusione degli algoritmi nella società verso un futuro inclusivo riflessivo e critico.