Dichiarare che l’IA debba essere responsabile non basta
Per proteggere davvero i diritti delle persone, i principi etici sull’intelligenza artificiale devono diventare pratiche concrete, verificabili e integrate nello sviluppo dei sistemi.
L’intelligenza artificiale generativa ha reso più urgente una domanda già presente nel dibattito sull’innovazione tecnologica: che cosa significa, in pratica, sviluppare un sistema affidabile, sicuro e rispettoso delle persone? Non basta affermare che l’IA debba essere etica o orientata al bene comune. Occorre capire quali scelte operative possano ridurre i rischi e quali strumenti permettano di controllare i modelli una volta inseriti nella vita sociale. Lo studio affronta proprio questo passaggio: dalla formulazione dei principi alla loro traduzione in requisiti da rispettare in fase di progettazione, procedure da seguire in fase di sviluppo, controlli da effettuare una volta che questi sistemi vengono rilasciati, e responsabilità organizzative.
Negli ultimi anni sono aumentati i documenti, le linee guida e le raccomandazioni dedicate all’intelligenza artificiale responsabile. Molti di questi testi indicano obiettivi condivisibili: evitare discriminazioni, proteggere la privacy, rafforzare la sicurezza, limitare la diffusione di contenuti dannosi, rendere più trasparente l’uso dei sistemi automatizzati. Il punto critico emerge quando questi obiettivi devono essere applicati dalle aziende che progettano, addestrano e distribuiscono i modelli, aziende spesso non adeguatamente formate su questi temi. Inoltre, i principi dell’intelligenza artificiale responsabile possono orientare il lavoro dei tecnici, ma non bastano a stabilire come identificare i rischi, verificare le conseguenze delle decisioni prese da questi sistemi, stabilire quali dati controllare, come correggere gli errori o quali garanzie offrire agli utenti.
La questione diventa ancora più rilevante nel caso dell’intelligenza artificiale generativa, cioè dei sistemi capaci di produrre testi, immagini, risposte, sintesi o altri contenuti a partire da una richiesta dell’utente. Alla base di molti di questi strumenti ci sono i cosiddetti Foundation Model: modelli di grandi dimensioni, addestrati su enormi quantità di dati, che possono essere adattati a compiti diversi. Proprio perché sono flessibili e possono essere impiegati in molti contesti, questi sistemi rendono più urgente la domanda su come gestire i rischi, controllare gli effetti e proteggere i diritti delle persone. Tali sistemi, se da un lato possono portare benefici significativi alla società in ambito produttivo, sanitario o educativo, dall’altro possono incidere su ambiti sensibili, quali privacy, non discriminazione, libertà di opinione e di espressione, accesso all’informazione, sicurezza personale. Lo studio non presenta la tecnologia come positiva o negativa in sé. Mostra piuttosto che le conseguenze dipendono anche dalle scelte compiute durante la progettazione, lo sviluppo, il rilascio e il monitoraggio dei sistemi. Il modo in cui vengono selezionati i dati, valutati i modelli, gestite le informazioni personali può produrre effetti negativi sulle persone, ad esempio limitando la loro possibilità di accedere a delle opportunità per le quali invece sarebbero qualificati (si pensi alla selezione dei curriculum da parte delle aziende, la concessione di prestiti da parte delle banche, ecc.).
Per rendere più chiaro questo passaggio, la ricerca analizza le strategie adottate da quattro grandi aziende attive nel campo dell’intelligenza artificiale: OpenAI, Google AI, Meta AI Research e Microsoft AI. L’indagine si basa su documenti pubblicamente disponibili, tra cui comunicazioni ufficiali, report, policy, pagine informative e materiali tecnici. L’attenzione si concentra su cinque dimensioni: bias, privacy, cybersecurity, hate speech e misinformation. Sono ambiti diversi, ma accomunati da un elemento: non riguardano soltanto il buon funzionamento del software. Un sistema che produce risultati discriminatori, tratta in modo poco chiaro i dati personali, presenta vulnerabilità, amplifica discorsi d’odio o contribuisce alla circolazione di informazioni false può incidere direttamente sulla tutela delle persone.
Il confronto tra aziende diverse aiuta a evitare una lettura generica della responsabilità. Ogni impresa sviluppa strumenti e competenze anche in base alla natura dei propri prodotti e ai problemi che incontra più spesso. Le piattaforme attraversate da grandi flussi di contenuti, per esempio, hanno maturato un’esperienza specifica nel contrasto alla disinformazione e ai discorsi d’odio. Le aziende più direttamente impegnate nello sviluppo di modelli generativi sono invece chiamate a lavorare con particolare attenzione sulla protezione dei dati, sulla sicurezza dei sistemi e sulla valutazione dei rischi. Da questo punto di vista, lo studio mostra che non esiste una ricetta unica. Esistono misure diverse, da adattare ai servizi offerti, agli usi possibili e agli effetti che tali sistemi possono produrre.
Dall’analisi dei documenti pubblici, gli autori ricavano alcune azioni che possono aiutare le aziende a rendere più solida la tutela dei diritti umani nello sviluppo dell’intelligenza artificiale. Alcune riguardano la collaborazione con università, centri di ricerca, organizzazioni non governative e istituzioni specializzate. Altre riguardano la possibilità per gli utenti di controllare meglio i propri dati, la pubblicazione di informazioni più chiare sulle politiche di privacy e sicurezza, la produzione di report sulle iniziative contro la disinformazione, la condivisione di risultati e strumenti utili anche ad altri soggetti. Un esempio significativo è il ricorso a gruppi di verifica e validazione incaricati di mettere alla prova i sistemi per individuare bias, vulnerabilità, contenuti d’odio o possibili usi impropri. In questi casi, la responsabilità non resta una formula generale: diventa un’attività di controllo, correzione e aggiornamento.
Lo studio sottolinea anche la necessità di ampliare la varietà linguistica, culturale e geografica della ricerca, degli strumenti e delle collaborazioni. Molte iniziative risultano ancora concentrate in prospettive prevalentemente occidentali. Questo limite è importante perché i rischi dell’intelligenza artificiale non si manifestano ovunque nello stesso modo. Lingue, contesti sociali, condizioni politiche e vulnerabilità locali possono modificare profondamente l’impatto di un sistema. Un modello e un sistema di verifica costruiti su dati che si riferiscono solo ad una parte della popolazione mondiale (ad esempio il mondo occidentale) possono non cogliere problemi rilevanti per altre comunità (ad esempio il mondo orientale). Per questo, le misure operative devono anche tenere conto dei contesti in cui i sistemi vengono effettivamente usati.
È importante, infine, considerare il perimetro della ricerca. L’analisi riguarda quattro grandi aziende e si basa su materiali accessibili al pubblico. Non può quindi descrivere tutto ciò che avviene all’interno delle organizzazioni, né esaurire la varietà dell’industria dell’intelligenza artificiale. Questo limite non riduce l’utilità dello studio, ma aiuta a leggerne correttamente i risultati. Proprio perché molte informazioni interne restano difficili da conoscere, la trasparenza diventa una condizione essenziale. Rendere l’IA più attenta alle persone significa indicare quali rischi vengono valutati, quali controlli vengono adottati, quali strumenti hanno gli utenti e quali soggetti partecipano alla verifica. Solo così i principi possono trasformarsi in garanzie effettive.
Questo articolo nasce nell’ambito delle attività di Terza Missione promosse da Stroncature in collaborazione con l’Università degli Studi di Bari Aldo Moro, nel quadro delle iniziative di Public Engagement finanziate dal “Bando per Finanziamento di Iniziative di Public Engagement” a valere sul Progetto “Sistema Universitario Pugliese”, finanziato nell’ambito della misura “Patti Territoriali dell’Alta Formazione per le Imprese” (CUP F61B23000370006). Il testo rielabora in forma divulgativa il contributo scientifico “Fostering Human Rights in Responsible AI: A Systematic Review for Best Practices in Industry” di Maria Teresa Baldassarre, Danilo Caivano, Berenice Fernandez Nieto, Domenico Gigante e Azzurra Ragone, per renderne i contenuti più fruibili a un pubblico non specialista. La ricerca affronta una questione centrale nel dibattito sull’intelligenza artificiale: non basta affermare che un sistema debba essere etico, affidabile o responsabile. Occorre capire quali pratiche concrete possano essere adottate dalle imprese che sviluppano sistemi di IA, soprattutto generativa, per ridurre i rischi e proteggere i diritti delle persone.
