I diritti umani alla prova dell’intelligenza artificiale generativa
Bias, privacy, sicurezza informatica, discorsi d’odio e disinformazione sono ambiti in cui le scelte tecniche e organizzative delle imprese possono produrre conseguenze concrete sulle persone.
L’intelligenza artificiale generativa non può essere valutata soltanto in base alla qualità delle risposte che produce o alla potenza dei modelli che utilizza. Lo studio mostra che questi sistemi sollevano questioni che riguardano direttamente la tutela dei diritti fondamentali. Il modo in cui un modello viene addestrato, validato, monitorato, aggiornato e messo a disposizione degli utenti può incidere su diverse dimensioni, quali privacy, non discriminazione, sicurezza, accesso all’informazione e libertà di espressione. Per questo la ricerca concentra l’analisi su cinque ambiti particolarmente sensibili: bias, privacy, cybersecurity, hate speech e misinformation. Non sono aspetti marginali rispetto allo sviluppo tecnologico. Sono i punti in cui il funzionamento dei sistemi incontra la vita sociale.
Il problema dei bias è uno dei più immediati da comprendere. Un sistema di intelligenza artificiale può produrre risultati distorti o discriminatori perché riflette squilibri presenti nei dati, nei criteri di addestramento, nelle procedure di valutazione o nelle scelte di progettazione. Lo studio collega questo tema ai diritti di uguaglianza e non discriminazione. Le aziende analizzate lo affrontano in modi diversi. OpenAI viene considerata per l’attenzione alla composizione dei gruppi di revisori e alle linee guida usate per orientare il comportamento dei sistemi. Microsoft AI è richiamata per il lavoro del gruppo FATE, dedicato a equità, responsabilità, trasparenza ed etica. Google AI è analizzata anche per gli impegni sulla rappresentanza interna e per le attività di test volte a individuare risultati non equi. Meta AI Research emerge invece per strumenti e dataset pensati per misurare e ridurre diverse forme di bias. Il confronto suggerisce che la riduzione delle distorsioni non dipende da un solo intervento, ma da un insieme di controlli, competenze e verifiche.
A questo tema si collega la protezione della privacy. I sistemi generativi si fondano su dati, interazioni e contenuti che possono riguardare direttamente gli utenti. Per questo, la questione non è solo tecnica o amministrativa. Riguarda la possibilità per le persone di sapere come vengono trattate le proprie informazioni e quali strumenti hanno per esercitare un controllo. Nello studio, OpenAI è presa in esame per le informazioni sui controlli dei dati e sulle modalità con cui gli utenti possono gestire le interazioni con i modelli. Microsoft AI è citata per gli strumenti che mette a disposizione degli utenti, come il Privacy Dashboard e per la pubblicazione di informazioni relative a standard, certificazioni e conformità. Meta AI Research viene analizzata anche per il lavoro di un suo gruppo interno dedicato a garantire il rispetto della privacy degli utenti e per iniziative di comunicazione rivolte agli stessi. Google AI è associata a progetti e strumenti per gli utenti legati alla protezione dei dati e alla privacy-preserving. Il quadro mostra progressi importanti, ma anche un’esigenza ricorrente: rendere queste informazioni più chiare, accessibili e facili da trovare per l’utente finale.
Un altro terreno decisivo è la sicurezza informatica. Un sistema di intelligenza artificiale può essere esposto ad attacchi, manipolazioni, vulnerabilità o usi impropri. In questi casi, le conseguenze non riguardano solo l’azienda che lo ha sviluppato, ma possono coinvolgere utenti, organizzazioni, servizi pubblici e comunità più ampie che lo utilizzano. Lo studio mostra che le aziende analizzate affrontano il tema con strumenti diversi: alcune rendono più visibili le proprie misure attraverso portali dedicati alla sicurezza, informazioni su certificazioni e standard; altre insistono sul red teaming, cioè su attività di verifica in cui gruppi di esperti mettono alla prova i sistemi per individuarne punti deboli, sulla difesa informatica, sulla pubblicazione di report periodici o sulla condivisione di indicazioni utili anche ad altri soggetti. Il punto centrale è che la sicurezza non può essere aggiunta alla fine. Deve accompagnare tutto il ciclo di vita dei sistemi, dalla progettazione al monitoraggio.
Il contrasto ai discorsi d’odio introduce una dimensione ancora diversa, in cui il linguaggio prodotto o moderato dai sistemi può incidere sulla convivenza sociale. L’hate speech riguarda la tutela dell’uguaglianza, della non discriminazione, della sicurezza personale e della libertà di espressione. L’intelligenza artificiale può essere usata per individuare contenuti dannosi, ma può anche generarli o amplificarli se non viene adeguatamente controllata. Lo studio mostra che OpenAI ha analizzato il rischio che i propri modelli producano contenuti offensivi o dannosi e ha esplorato l’uso dei modelli linguistici per l’identificazione dell’hate speech. Microsoft AI si è distinta per dataset e strumenti pensati per rendere più robusti i sistemi di moderazione, oltre che per il ruolo del red teaming. Meta AI Research ha un’esperienza specifica perché opera in ambienti digitali attraversati da grandi quantità di contenuti generati dagli utenti. Google AI è presente anche attraverso iniziative collaborative con altri attori e istituzioni. La comparazione mostra che l’esperienza delle piattaforme social è rilevante, ma che i modelli generativi richiedono controlli specifici sulla produzione automatica di contenuti.
La disinformazione è forse l’ambito in cui il legame tra intelligenza artificiale e spazio pubblico appare più evidente. Lo studio collega la misinformation al diritto all’informazione, alla libertà di espressione e alla partecipazione alla vita pubblica, ma osserva anche che informazioni false o inaccurate possono incidere su salute, sicurezza e non discriminazione. Qui le differenze tra aziende sono particolarmente significative. Meta AI Research e Google AI hanno un ruolo centrale perché gestiscono piattaforme e servizi nei quali la circolazione dei contenuti è molto ampia. Per Meta, lo studio richiama iniziative legate alla rilevazione della disinformazione, ai centri informativi e ai dataset per il riconoscimento dei deepfake. Per Google, vengono considerate collaborazioni e strumenti contro la disinformazione, anche in relazione a contesti elettorali e alla verifica dei contenuti. OpenAI è analizzata soprattutto per le riflessioni sui possibili usi dei modelli linguistici nelle campagne di influenza e sulle strategie di mitigazione. Microsoft AI è richiamata per strumenti e iniziative contro contenuti manipolati e campagne di disinformazione. L’IA generativa rende questo problema più urgente perché può facilitare la produzione di contenuti credibili ma falsi.
Nel complesso, l’analisi dei cinque ambiti considerati dallo studio aiuta a chiarire perché l’intelligenza artificiale generativa non possa essere valutata soltanto in base alle sue prestazioni tecniche. Bias, privacy, cybersecurity, discorsi d’odio e disinformazione non sono compartimenti separati. Un problema di sicurezza può compromettere la protezione dei dati personali. Un modello che incorpora bias può contribuire a produrre contenuti discriminatori. La disinformazione può colpire la salute, la sicurezza, la partecipazione pubblica e la fiducia nelle istituzioni. I discorsi d’odio possono intrecciarsi con narrazioni false e amplificare vulnerabilità già presenti nella società. Per questo, la responsabilità delle aziende non può limitarsi a un singolo controllo o a una policy generale. Deve tradursi in un insieme coordinato di misure: valutazione dei modelli, strumenti per gli utenti, verifiche sui contenuti, protezione dei dati, sicurezza delle infrastrutture, collaborazione con esperti e maggiore attenzione ai diversi contesti sociali e culturali.
Questo articolo nasce nell’ambito delle attività di Terza Missione promosse da Stroncature in collaborazione con l’Università degli Studi di Bari Aldo Moro, nel quadro delle iniziative di Public Engagement finanziate dal “Bando per Finanziamento di Iniziative di Public Engagement” a valere sul Progetto “Sistema Universitario Pugliese”, finanziato nell’ambito della misura “Patti Territoriali dell’Alta Formazione per le Imprese” (CUP F61B23000370006). Il testo rielabora in forma divulgativa il contributo scientifico “Fostering Human Rights in Responsible AI: A Systematic Review for Best Practices in Industry” di Maria Teresa Baldassarre, Danilo Caivano, Berenice Fernandez Nieto, Domenico Gigante e Azzurra Ragone, per renderne i contenuti più fruibili a un pubblico non specialista. La ricerca affronta una questione centrale nel dibattito sull’intelligenza artificiale: non basta affermare che un sistema debba essere etico, affidabile o responsabile. Occorre capire quali pratiche concrete possano essere adottate dalle imprese che sviluppano sistemi di IA, soprattutto generativa, per ridurre i rischi e proteggere i diritti delle persone.
