Chi deve rendere più sicura l’intelligenza artificiale?
Lo sviluppo di sistemi di IA affidabili non dipende solo dalla tecnologia: richiede collaborazione tra imprese, ricerca, istituzioni, società civile e una maggiore attenzione ai diversi contesti socia
L’intelligenza artificiale responsabile non è soltanto una questione tecnica. Lo studio mostra che i sistemi di IA, soprattutto quelli generativi, possono incidere su ambiti fondamentali della vita delle persone: privacy, non discriminazione, sicurezza, accesso all’informazione, libertà di espressione. Per questo, il problema non riguarda solo la qualità dei modelli o la loro capacità di produrre risposte corrette. Riguarda anche il modo in cui questi sistemi vengono progettati, controllati, distribuiti e aggiornati. Le grandi aziende che sviluppano intelligenza artificiale hanno una responsabilità particolare, perché le loro scelte possono produrre effetti su milioni di utenti e in contesti sociali molto diversi. Ma questa responsabilità non può essere affrontata da un solo soggetto.
La ricerca prende in esame le pratiche adottate da OpenAI, Google AI, Meta AI Research e Microsoft AI in cinque ambiti collegati alla tutela dei diritti umani: bias, privacy, cybersecurity, hate speech e misinformation. Il confronto tra aziende diverse serve a far emergere un aspetto importante: la responsabilità non si traduce sempre nelle stesse misure, perché dipende anche dal tipo di prodotti sviluppati e dai contesti in cui vengono utilizzati. Le imprese che gestiscono piattaforme attraversate da grandi flussi di contenuti hanno maturato un’esperienza specifica nel contrasto alla disinformazione e ai discorsi d’odio. Quelle più direttamente impegnate nello sviluppo di modelli generativi sono invece chiamate a lavorare con particolare attenzione sulla protezione dei dati, sulla sicurezza dei sistemi e sulla valutazione dei rischi. Il confronto mostra quindi che l’IA responsabile non corrisponde a una ricetta unica, valida per tutti, ma a un insieme di misure da adattare alla natura dei servizi, agli usi possibili e agli effetti che questi sistemi possono produrre sulle persone.
Un primo nodo riguarda la responsabilità condivisa. Le aziende hanno un ruolo centrale, perché progettano e mettono a disposizione le tecnologie. Tuttavia, gli effetti dell’intelligenza artificiale coinvolgono anche utenti, istituzioni, comunità scientifica, organizzazioni della società civile e soggetti pubblici chiamati a definire regole e indirizzi. I rischi dell’IA non sono sempre visibili dall’interno dell’azienda che sviluppa un sistema. Possono emergere nell’uso concreto, in lingue diverse, in comunità vulnerabili, in settori specifici o in situazioni politiche delicate. Per questo, la valutazione dei rischi richiede competenze differenti: tecniche, giuridiche, etiche, sociali e istituzionali. Una tecnologia capace di incidere su diritti e libertà non può essere governata solo come un prodotto industriale.
La collaborazione è lo strumento attraverso cui questa responsabilità può essere distribuita in modo più solido. Dall’analisi dei documenti pubblici emergono iniziative che coinvolgono università, centri di ricerca, esperti, istituzioni e organizzazioni esterne. Questo confronto può aiutare a migliorare la riduzione dei bias, la protezione dei dati personali, la sicurezza informatica, il contrasto alla disinformazione e la gestione dei contenuti d’odio. Non si tratta soltanto di chiedere valutazioni esterne dopo che un sistema è stato sviluppato. Il punto è costruire un dialogo stabile con soggetti capaci di individuare problemi che non sempre emergono nella fase di progettazione e sviluppo. La collaborazione diventa così una parte del processo di progettazione, verifica, validazione e monitoraggio dei sistemi.
La trasparenza riguarda invece soprattutto il rapporto con gli utenti e con il pubblico. Le aziende non possono rendere disponibili tutte le informazioni interne, soprattutto quando si tratta di sicurezza o di dettagli sensibili. Possono però comunicare in modo più chiaro quali misure adottano, quali strumenti offrono per il controllo dei dati, quali certificazioni possiedono, quali verifiche effettuano e quali risultati condividono. Se una persona non sa come vengono gestite le proprie informazioni, quali rischi sono stati valutati o quali possibilità ha di intervenire sui propri dati, la responsabilità resta difficile da riconoscere. Rendere queste informazioni più accessibili non elimina ogni rischio, ma consente agli utenti, ai ricercatori e alle istituzioni di comprendere meglio come un sistema viene governato.
Un’altra criticità riguarda la diversità linguistica, culturale, geografica e sociale. Lo studio segnala che molte iniziative, strumenti e collaborazioni risultano ancora concentrati in prospettive prevalentemente occidentali. Questo limite è rilevante perché i rischi dell’intelligenza artificiale non si manifestano ovunque nello stesso modo. Un sistema può funzionare diversamente a seconda della lingua, del contesto sociale, delle vulnerabilità presenti in una comunità o della situazione politica in cui viene usato. Ampliare le reti di collaborazione e includere prospettive più varie nella ricerca, nei team e negli strumenti di valutazione non è quindi un elemento accessorio. Serve a individuare meglio gli impatti possibili e a evitare che alcuni problemi restino invisibili.
A partire dall’analisi dei documenti pubblici, gli autori ricavano alcune misure che possono aiutare le aziende a rafforzare la tutela dei diritti umani nello sviluppo dell’intelligenza artificiale. Tra queste rientrano la collaborazione con centri di ricerca, istituzioni e organizzazioni specializzate; la produzione di report sulle azioni contro la disinformazione; la pubblicazione di informazioni più chiare sulle politiche di privacy e sicurezza; la possibilità per gli utenti di controllare meglio i propri dati; la valutazione dei modelli rispetto a bias, contenuti d’odio e vulnerabilità; la condivisione di risultati, strumenti e dataset utili anche ad altri soggetti. Sono misure diverse, ma convergono su un punto: la sicurezza dell’IA non dipende solo da quanto è avanzata la tecnologia, ma da chi la controlla, da quali rischi vengono valutati e da quali strumenti hanno le persone per comprenderne e limitarne gli effetti indesiderati.
Lo studio segnala anche il proprio perimetro. L’analisi riguarda quattro grandi aziende e si basa su materiali pubblicamente disponibili; non può quindi descrivere tutto ciò che avviene internamente alle organizzazioni, né rappresentare l’intera industria dell’intelligenza artificiale. Questo limite invita a leggere i risultati con cautela, ma rafforza anche il tema della trasparenza. Se molte informazioni restano interne, diventa ancora più importante rendere visibili almeno le misure adottate, i criteri di valutazione, gli strumenti messi a disposizione degli utenti e le collaborazioni attivate. Rendere più sicura l’intelligenza artificiale significa passare da dichiarazioni generali a controlli riconoscibili: sapere chi verifica i sistemi, quali problemi vengono cercati, come vengono corretti e quali garanzie sono offerte alle persone che li usano.
Questo articolo nasce nell’ambito delle attività di Terza Missione promosse da Stroncature in collaborazione con l’Università degli Studi di Bari Aldo Moro, nel quadro delle iniziative di Public Engagement finanziate dal “Bando per Finanziamento di Iniziative di Public Engagement” a valere sul Progetto “Sistema Universitario Pugliese”, finanziato nell’ambito della misura “Patti Territoriali dell’Alta Formazione per le Imprese” (CUP F61B23000370006). Il testo rielabora in forma divulgativa il contributo scientifico “Fostering Human Rights in Responsible AI: A Systematic Review for Best Practices in Industry” di Maria Teresa Baldassarre, Danilo Caivano, Berenice Fernandez Nieto, Domenico Gigante e Azzurra Ragone, per renderne i contenuti più fruibili a un pubblico non specialista. La ricerca affronta una questione centrale nel dibattito sull’intelligenza artificiale: non basta affermare che un sistema debba essere etico, affidabile o responsabile. Occorre capire quali pratiche concrete possano essere adottate dalle imprese che sviluppano sistemi di IA, soprattutto generativa, per ridurre i rischi e proteggere i diritti delle persone.
