Trattare di #discriminazione, #bias e #tutela dei soggetti fragili al convegno di Napoli, “Soggetti smarriti: opportunità e diritti”, per noi di MIRAI ha significato illustrare come nuove forme di pregiudizio si annidino, strutturalmente integrate, nei modelli di AI (anche in più performanti e innovativi) senza che gli utenti ne abbiano consapevolezza.

La tecnologia non è mai neutrale: il settore creditizio, il mondo HR, quello dell’istruzione e della sanità, sono gli ecosistemi più impattati dal fenomeno della discriminazione algoritmica.

Al convegno, la nostra Chiara Manganini ha presentato la soluzione #BRIO ToolBox, in grado di compensare il rischio di distorsione e opacità decisionale dei sistemi per auitare gli utenti business e istituzionali a mitigarlo, riequilibrando data set non sufficientemente rappresentativi, out put scorretti e/o incoerenti.

Un ringraziamento all’Avv. R. Eva Cresci per averci fatto conoscere la neonata (ma già molto promettente!) realtà della @FondazioneLeColumbrine, che insieme al Banco di Napoli ci hanno ospitati nella splendida sede dell’Università degli Studi di Napoli ‘Parthenope’ e dato spazio ad una condivisione di alto valore su temi così cruciali e indifferibili.

#diritti #paritadigenere #dataset #ai #modelli #automazione #human #machine #mitigazione #compliance #conformità #trasparenza #aiact