Explainable Artificial Intelligence

La persona titolare di questo badge ha frequentato il MOOC Explainable Artificial Intelligence dell’Università di Pisa, all’interno del progetto Edvance - Digital Education Hub per la Cultura Digitale Avanzata, finanziato dall’Unione europea – Next Generation EU. I sistemi di intelligenza artificiale sono sempre più presenti nelle nostre vite, ma spesso restano difficili da comprendere. Questo MOOC ti guiderà alla scoperta di come e perché i modelli prendono decisioni, trasformando la “scatola nera” in un sistema interpretabile. Esploreremo i concetti chiave della explainable AI, dai modelli interpretabili per costruzione come regressione e alberi decisionali, alle tecniche di spiegazione post-hoc per modelli complessi. Studieremo approcci globali e locali, e come adattare le spiegazioni a diversi tipi di dati come tabelle, immagini e testi. Scopri come rendere l’AI più trasparente, affidabile e comprensibile per chi la utilizza. 1. Comprendere i concetti fondamentali Spiegare cosa si intende per Explainable Artificial Intelligence (XAI) Distinguere tra modelli interpretabili e modelli “black box” Comprendere il ruolo della spiegabilità nei sistemi di IA 2. Interpretare il comportamento dei modelli Analizzare come un modello di machine learning prende decisioni Leggere e interpretare output esplicativi (feature importance, decision rules, ecc.) Riconoscere limiti e rischi delle spiegazioni automatiche 3. Applicare tecniche di base di spiegabilità Utilizzare strumenti e metodi introduttivi (es. LIME, SHAP a livello concettuale o pratico guidato) Valutare la qualità e l’affidabilità delle spiegazioni Confrontare diverse tecniche di interpretabilità 4. Valutare implicazioni etiche e normative Comprendere il legame tra spiegabilità, trasparenza e accountability Riconoscere i rischi legati a bias e decisioni opache Collegare la XAI ai principi di regolamentazione (es. AI Act, GDPR) 5. Comunicare i risultati Tradurre risultati tecnici in spiegazioni comprensibili per utenti non esperti Argomentare le decisioni di un sistema di IA in contesti reali Supportare processi decisionali basati su modelli interpretabili Livello EQF: 6 Forma di partecipazione all'attività di apprendimento: Partecipazione online Area disciplinare: 0611 Computer use Carico di lavoro: 25 ore Opzioni di integrazione/cumulabilità: micro-credenziale a sé stante Questo MOOC è stato prodotto nell’ambito del progetto Edvance - Digital Education Hub per la Cultura Digitale Avanzata. Il progetto è finanziato dall’Unione europea - Next Generation EU, Componente 1, Investimento 3.4 “Didattica e competenze universitarie avanzate".