Intelligenza artificiale, la startup che aiuta le aziende a usarla in modo etico

Anche per uno gli esami software non finiscono mai. Votare è Immanenza: uno società di consulenza che aiuta le imprese e le pubbliche amministrazioni a valutare i rischi sociali connessi all’utilizzo di algoritmi e sistemi di intelligenza artificiale progettati per offrire servizi sul mercato. Fondatori Diletta Huyskesdottorato di ricerca ed etico tecnologico, e Luna Bianchiavvocato specializzato in proprietà intellettuale. Immanenza vuole promuovere a nuova cultura dell’innovazioneresponsabili e rispettosi dei diritti fondamentali, correggendo le distorsioni che possono nascondersi tra le righe del codice. “L’etica è molto soggettiva e dipende dal contesto sociale di riferimento – spiega Huyskes -. Abbiamo lavorato per un anno per costruire un quadro metodologico per giudicare la tecnologia in modo analiticopartendo da un centinaio di domande molto ampie che ci permettono, insieme ad altri strumenti, di valutare caso per caso l’etica di un software”.

Esaminare un programma per computer con una lente etica è necessario perché gli algoritmi e l’intelligenza artificiale stanno influenzando sempre più le nostre vite. L’Unione Europea sta lavorando per limitare il potere schiacciante dell’IA e di chiunque voglia evitare di scivolare in discriminazioni, costose dal punto di vista legale e reputazionalepuò sostenere l’esame di immanenza. “L’etica, a differenza delle macchine, non è binaria, né è unica e globale. Va negoziato, adattato al contesto, fatto evolvere insieme ai valori delle aziende. Il nostro obiettivo è combattere la disuguaglianza che può essere amplificato da sistemi di intelligenza artificiale più o meno sofisticati”sottolinea Huyskes.

Come funziona l’immanenza

Imprese e Pa chiedono Immanenza di analizzare l’impatto del loro algoritmo o un sistema di intelligenza artificiale che stanno sviluppando o che esiste e deve essere aggiornato. L’azienda studia il contesto di riferimento e stimare gli effetti che il programma avrà sulle persone chi lo utilizzerà. “Sono valutazioni per migliorare, correggere e rendere etico il software – spiega il cofondatore – Partendo dalla realtà in cui quel progetto si colloca, facciamo le nostre valutazioni con una scala di giudizio che indica la via da seguire per migliorare il prodotto finale. Partiamo dal questionario, ma non è una checklist perché non basta: ci vuole uno sguardo esterno ed esperto per poter capire cosa potrebbe essere problematico una volta che quel programma sarà reso disponibile a milioni di persone, è necessario bilanciare le soluzioni e interrogarsi sui modelli utilizzati. Non è affatto un lavoro semplice, ma va governato, gestito e negoziato”.

Insomma, partendo dalla storia più o meno recente, L’immanenza aiuta “prevedere cosa potrebbe andare storto. Per arrivare alle nostre valutazioni – aggiunge Huyskes -. Ci basiamo su principi condivisi dalla letteratura: non ci sono regole prestabilite, ci sono scelte progettuali che devono essere legate all’obiettivo del progetto e alle categorie di persone a cui si rivolge: se è rivolto a non italiani vivendo in Italia, ad esempio, il software deve essere addestrato su quello specifico target di popolazione”. Nell’idea dei due cofondatori c’è anche il formazione dei programmatori che operano nel settore pubblico e privato: “Vogliamo coinvolgere chi vuole essere valutato per formare internamente risorse capaci di porre le domande giuste”.