Nell’intelligenza artificiale spiegabile, il problema non riguarda soltanto la precisione dei risultati, ma anche il loro significato. Un modello può essere efficace, può produrre raggruppamenti coerenti o individuare strutture nei dati, ma restare comunque difficile da comprendere. Questo accade quando non è chiaro che cosa rappresentino i valori generati dal sistema. Il Fuzzy C-Means mostra bene questa difficoltà. Si tratta di un algoritmo di soft clustering, ossia utilizzato per suddividere dati in gruppi (cluster) non necessariamente distinti, ammettendo che ogni dato possa appartenere contemporaneamente a cluster diversi: il suo funzionamento è noto, ma alcuni dei valori che produce non sono immediati da interpretare. La domanda, quindi, non è semplicemente come funzioni l’algoritmo, ma che cosa vogliano dire i gradi di appartenenza che esso assegna ai dati.
La logica fuzzy è spesso usata per rappresentare situazioni incerte o graduali, tipiche degli scenari del mondo reale, laddove spesso non è realistico dividere tutto in categorie rigide. Per questo la logica fuzzy si presta a rendere più comprensibili alcuni sistemi di intelligenza artificiale: invece di dire soltanto “sì” o “no”, “vero” o “falso”, “appartiene” o “non appartiene”, permette di descrivere anche condizioni intermedie. Tuttavia, questa gradualità non basta da sola a produrre una spiegazione. Un valore intermedio può essere utile per il calcolo e, allo stesso tempo, rimanere poco chiaro dal punto di vista concettuale. La spiegabilità richiede un passaggio ulteriore: occorre chiarire quale informazione quel valore contenga e dentro quale quadro teorico debba essere interpretato.
Questa precisazione è utile perché mostra che il Fuzzy C-Means non è un modello opaco nel senso più comune del termine. Le sue formule sono note, il procedimento può essere descritto e i risultati sono disponibili sotto forma di valori numerici. Eppure, questo non risolve del tutto la questione. Sapere come un valore viene calcolato non significa necessariamente sapere che cosa quel valore rappresenta. Nel caso dei gradi di appartenenza, il problema non riguarda l’accesso al funzionamento dell’algoritmo, ma il significato da attribuire ai numeri che esso produce.
Lo studio affronta questa difficoltà proponendo una lettura probabilistica dei gradi di appartenenza. Sotto alcune assunzioni dichiarate, questi valori possono essere interpretati come probabilità a posteriori. In termini semplici, significa che il grado assegnato a un dato rispetto a un cluster può essere letto come la probabilità che quel dato appartenga a quel cluster, una volta osservato il punto e assunto un certo modello. Questa interpretazione non deriva solo dal fatto che i valori sommano a uno. Si basa su una costruzione teorica esplicita e una dimostrazione formale, in base alla quale il significato dei gradi di appartenenza viene ricondotto alla teoria della probabilità.
In questo modo, un valore che in letteratura veniva genericamente descritto in modo poco comprensibile come “grado di condivisione” viene ricondotto a un significato più preciso. Non si dice soltanto che un dato appartiene “un po’” a più gruppi. Si chiarisce a quali condizioni quel grado possa essere letto come una misura probabilistica. Questo non modifica il funzionamento dell’algoritmo, ma permette di interpretarne meglio i risultati. La spiegazione non consiste quindi nel semplificare il modello, né nel nascondere la sua complessità, ma nel collegare i valori prodotti a un quadro teorico esplicito.
Il caso del Fuzzy C-Means mostra così che la spiegabilità non riguarda soltanto i modelli più complessi o meno accessibili. Anche un algoritmo noto, formalizzato e ampiamente usato può presentare difficoltà interpretative se i suoi risultati non hanno un significato chiaro. Perché un risultato sia spiegabile, deve essere possibile dire che cosa rappresenta e quali ipotesi ne giustificano l’interpretazione. Nel clustering fuzzy, questo aspetto è particolarmente importante perché l’algoritmo produce valori graduali, che possono essere letti in modo fuorviante se non vengono collocati in un quadro preciso.
Il contributo dello studio sta in questo approccio chiarificatore. Il Fuzzy C-Means è un algoritmo di provata efficacia; tuttavia, questa proprietà da sola non basta a rendere i suoi risultati pienamente accettabili. Lo studio permette invece di considerarli, a determinate condizioni, come probabilità posteriori di appartenenza ai cluster. In questo modo, la gradualità non è solo una caratteristica tecnica del metodo, ma un elemento leggibile dentro un quadro teorico dichiarato. Il risultato del clustering diventa così più comprensibile, perché i valori assegnati dall’algoritmo vengono collegati a un significato preciso.
Questo articolo nasce nell’ambito delle attività di Terza Missione promosse da Stroncature in collaborazione con l’Università degli Studi di Bari Aldo Moro, nel quadro delle iniziative di Public Engagement finanziate dal “Bando per Finanziamento di Iniziative di Public Engagement” a valere sul Progetto “Sistema Universitario Pugliese”, finanziato nell’ambito della misura “Patti Territoriali dell’Alta Formazione per le Imprese” (CUP F61B23000370006). Il testo rielabora in forma divulgativa il contributo scientifico “A Bayesian Interpretation of Fuzzy C-Means” di Corrado Mencar e Ciro Castiello, del Dipartimento di Informatica dell’Università degli Studi di Bari Aldo Moro, per renderne i contenuti più fruibili a un pubblico non specialista.
