xai
Beyond the Algorithmic Verdict: Agency Returns to the User in Interactive XAI
In 2016, Cathy O’Neil published the essay Weapons of Math Destruction, whose title might have seemed provocative: the author intended to denounce how the use of algorithms risks amplifying social inequalities, acting as a weapon that targets the most vulnerable groups. Ten years later, this title describes our society more deeply [...]
I is for Interpretability
The interpretability of an Artificial Intelligence (AI) system is the property that allows the system’s actions and algorithmic mechanisms to be studied, understood, and analyzed by humans. In practical terms, interpretability requires the model under consideration to be transparent. Indeed, in an interpretable system, users must be able to clearly [...]
I come Interpretabilità
L’interpretabilità di un sistema di Intelligenza Artificiale (IA) è la proprietà per cui le azioni e i meccanismi algoritmici del sistema possono essere studiati, compresi e analizzati dagli esseri umani. In termini pratici, l’interpretabilità richiede che il modello considerato sia trasparente. Infatti, in un sistema interpretabile l’utente deve poter esaminare [...]
Oltre il verdetto algoritmico: l’agency torna all’utente nella XAI interattiva
Nel 2016 Cathy O’ Neil pubblicò il saggio Weapons of Math Destruction, “Armi di distruzione matematica”, il cui titolo poteva sembrare una provocazione: l’autrice intendeva denunciare come l’uso di algoritmi rischi di amplificare le disuguaglianze sociali, agendo come un’arma che colpisce le categorie più vulnerabili. A dieci anni di distanza, questo [...]
