forgionegianluca

 

eXplainable AI

L’eXplainable AI (XAI) o Intelligenza Artificiale spiegabile, è un insieme di tecniche e metodi che permettono di spiegare ed interpretare le decisioni prese dai modelli di intelligenza artificiale. L’obiettivo principale della XAI è di rendere trasparente il processo decisionale delle macchine, consentendo agli utenti di comprendere il “perché” dietro alle scelte effettuate e di valutare la correttezza e l’affidabilità dei risultati, creando modelli di machine learning che siano chiari, affidabili e facilmente interpretabili. Una delle principali motivazioni dietro allo sviluppo dell’eXplainable AI è la necessità di rispondere alle preoccupazioni etiche, legali e sociali legate all’uso dell’artificial intelligence. Trasparenza, responsabilità e giustizia sono elementi fondamentali per garantire un uso etico ed equo dell’IA in vari settori, come la medicina, la finanza e la giustizia.

L’eXplainable AI si basa su diversi principi e metodi per rendere comprensibili le decisioni dei modelli di intelligenza artificiale. Alcuni di questi principi e metodi includono: Trasparenza: La trasparenza è un principio fondamentale dell’XAI. Si tratta di rendere il modello di AI comprensibile e “cristallino” per l’utente, in modo che possa capire come l’algoritmo abbia preso una determinata decisione o abbia raggiunto una determinata conclusione. Ciò può essere fatto attraverso l’utilizzo di tecniche di visualizzazione o di linguaggio naturale. Interpretabilità: L’interpretabilità è un altro principio importante dell’XAI, così che l’utente possa comprendere il significato delle informazioni che il modello fornisce. Per ottenere un risultato soddisfacente è necessario l’utilizzo di tecniche di spiegazione che traducano i dati in un formato comprensibile per l’utente. Controllabilità: La controllabilità è un principio che mira a dare all’utente la possibilità di intervenire e modificare il modello di IA. Ciò può essere fatto attraverso l’utilizzo di tecniche di interazione, che consentono all’utente di modificare i parametri del modello e di influenzare le sue decisioni. Validità: La validità garantisce che il modello di AI produca risultati validi e affidabili. Ciò significa che il modello deve essere addestrato su dati di qualità e deve essere testato su un ampio set di dati per verificare la sua accuratezza.

 

Principi etici relativi all'uso dell'Intelligenza Artificiale (AI) nei sistemi giudiziari.

Commissione europea per l'efficienza della giustizia (Cepej) del Consiglio d'Europa, European Ethical Charter on the Use of Artificial Intelligence in Judicial Systems and their environment, Strasbourg, 3-4 December 2018 nel quale si sono stabiliti i principi etici relativi all'uso dell'Intelligenza Artificiale (AI), in particolare nei sistemi giudiziari. La Carta intende fornire un quadro di principi destinati a policy maker, legislatori e i professionisti della giustizia con riguardo al rapido sviluppo dell'IA nei procedimenti giudiziari nazionali. L’opinione del CEPEJ, come si evince dalla Carta, è che l'applicazione dell'IA nel campo della giustizia può contribuire a migliorare l'efficienza e la qualità e deve essere attuata in modo responsabile e conforme ai diritti fondamentali garantiti, in particolare nella Convenzione europea sul Diritti umani (CEDU) e la Convenzione del Consiglio d'Europa sulla protezione dei dati personali. Per il CEPEJ, è essenziale garantire che l'IA rimanga uno strumento al servizio dell'interesse generale e che il suo uso rispetti i diritti individuali. In questa prospettiva, il CEPEJ ha identificato i seguenti principi fondamentali da rispettare nel campo dell'IA e della giustizia:

a. principio del rispetto dei diritti fondamentali, al fine di assicurare che la progettazione e l'attuazione di strumenti e servizi di intelligenza artificiale siano compatibili con i diritti fondamentali;
b. principio di non discriminazione, al fine di prevenire lo sviluppo o l'intensificazione di qualsiasi discriminazione tra individui o gruppi di individui;

c. principio di qualità e sicurezza, in relazione al trattamento delle decisioni giudiziarie e dei dati, utilizzando fonti certificate e dati non modificabili con modelli concepiti in modo multidisciplinare, in un ambiente tecnologico sicuro;
d. principio di trasparenza, imparzialità ed equità, al fine di rendere i metodi di trattamento dei dati accessibili e comprensibili, autorizzando audit esterni;

e. principio “under user control” ("sotto il controllo dell'utente"), al fine di prevenire un approccio “prescrittivo” ed assicurare che gli utenti siano attori informati e in controllo delle loro scelte.
Per il CEPEJ, il rispetto di questi principi deve essere assicurato nell'elaborazione delle decisioni giudiziarie e dei dati mediante algoritmi e nell'uso fatto degli stessi.