Engineering in Computer Science and Artificial Intelligence - Ingegneria Informatica e Intelligenza Artificiale

FABIO PATRIZI

Il corso offre allo studente la possibilità di approfondire le proprie conoscenze attraverso una serie di seminari su argomenti di ricerca nel campo della Computer Science e dell'Intelligenza Artificiale.
Il corso prevede lo studio di argomenti avanzati, anche con l'approfondimenti attraverso articoli scientifici relativi agli sviluppi più recenti nel settore e l'intervento in aula di ricercatori e studiosi della materia.

Il corso si articola in due moduli, uno relativo agli algoritmi e all'etica nell'era digitale, e uno relativo a tematiche avanzate di sequential decision making in AI.

Il primo modulo (Algorithms and Ethics in the Digital Age) offre un'analisi critica delle dimensioni sociale ed etica, in relazione al rapido progresso e alla diffusione capillare della scienza dei dati e dell'intelligenza artificiale (AI), che stanno trasformando profondamente le nostre vite e la società.
Nello specifico:
- Il modulo fornisce un'introduzione integrata ai fondamenti algoritmici e ai metodi del machine learning, affiancata da un'analisi critica delle loro dimensioni sociali ed etiche. Particolare attenzione è rivolta a casi di studio esemplari in ambiti quali l'e-commerce, la giustizia, la medicina e la psicologia, dove sistemi algoritmici basati sui dati mediano e automatizzano sempre più spesso complessi processi decisionali.
- Attraverso l'analisi di casi di studio reali, il modulo stimola la riflessione e il dibattito su questioni chiave dell'etica digitale, tra cui privacy, bias (pregiudizi algoritmici), equità, trasparenza e responsabilità (accountability). Combinando approfondimenti tecnici e indagine etica, il modulo mira a fornire ai partecipanti sia gli strumenti analitici che la consapevolezza critica necessari per affrontare responsabilmente la rivoluzione digitale.
- Attraverso discussioni e progetti, il modulo fornirà gli strumenti per comprendere i principi alla base di queste tecnologie, le loro applicazioni pratiche e le implicazioni etiche nella società, elementi utili per affrontare le future evoluzioni tecnologiche.
- Saranno diverse questioni e temi attuali applicando importanti teorie morali, prestando attenzione a come le nuove tecnologie spesso mettano in discussione ciò che sappiamo su etica, politica e diritto. Utilizzeremo l'analisi di casi di studio per incoraggiare la riflessione e il dibattito su temi contemporanei dell'etica digitale.
- Attraverso l'analisi di casi di studio reali, il modulo stimola la riflessione e il dibattito su questioni chiave dell'etica digitale, tra cui privacy, bias, equità, trasparenza e responsabilità.
- Combinando approfondimenti tecnici e indagine etica, il modulo mira a fornire ai partecipanti gli strumenti analitici e la consapevolezza critica necessari per affrontare responsabilmente la rivoluzione digitale.

Il secondo modulo (Advanced Approaches for Sequential Decision Making) si focalizza sugli approcci avanzati alla presa di decisioni sequenziali, ottenuti dalla combinazione di tecniche di apprendimento automatico, pianificazione in AI e ragionamento automatico. Nello specifico:
- Il modulo introduce le tecniche base di reinforcement learning e loro estensioni neuro-simboliche, basate sull'uso di approcci logici e di pianificazione.
- Attraverso lo studio di articoli scientifici, il modulo mostra l'importanza delle tecniche di base e delle metriche di valutazione nella progettazione di approcci avanzati.
- Vengono presentati temi di ricerca di frontiera per stimolare creatività e analisi critica dei risultati.
- L'analisi dei lavori scientifici mira a migliorare la capacità di comprensione di tematiche complesse avanzate, tramite il confronto con gli approcci di base e l'individuazione e la comprensione delle loro estensioni.

Al termine del corso, si è in grado di:
- Identificare ed anticipare le problematiche sociali ed etiche relative a sistemi, anche di nuova introduzione, basati su analisi dei dati e ragionamento automatico.
- Individuare possibili strategie di mitigazione delle problematiche individuate.
- Progettare e valutare sistemi per la presa di decisioni sequenziale basati su approcci consolidati.
- Comprendere il funzionamento di sistemi avanzati
- Proporre modifiche sostanziali alle tecniche esistenti al fine di migliorarne le prestazioni e l'applicabilità, e valutarne la qualità.

Il corso richiede la conoscenza degli argomenti trattati nei corsi obbligatori, in particolare i corsi di Artificial Intelligence e di Machine Learning.

Modulo Algorithms and Ethics in the Digital Age:

0. Introduzione e motivazioni.
- La rivoluzione digitale: prospettiva storica, economica e sociale.

1. Anonimato e pseudo-anonimato dei dati personali
- identificazione di dati pseudo-anonimizzati;
- anonimizzazione dei dati: k-anonymity e relativi limiti, altri approcci all'anonimizzazione: differential privacy, l-anonymity;
- normative: GDPR, HIPAA (USA).

2. Sistemi di raccomandazione e piattaforme di commercio online
- filtraggio collaborativo (collaborative filtering): basato sugli elementi (item-based) e sugli utenti (user-based);
- sistemi di raccomandazione delle piattaforme online;
- discriminazione di prezzo, questioni etiche e normative.

3. Algoritmi di classificazione con focus sulla giustizia
- algoritmi di classificazione supervisionata e non supervisionata;
- applicazione in ambito giudiziario: software COMPAS per la previsione della recidiva nei condannati;
- diversi criteri di equità (fairness); risultato di impossibilità di una previsione equa;
- questioni etiche: equità e discriminazione, AI Act;
- riconoscimento facciale e relative questioni etiche (bias algoritmico, sorveglianza di massa).

4. Machine learning in medicina
- medicina di precisione, previsione della struttura 3D delle proteine;
- allucinazioni dei sistemi di IA;
- interpretabilità e spiegabilità delle decisioni algoritmiche;
- questioni etiche: IA affidabile (trustworthy AI), responsabilità, AI Act.

5. Algoritmi di machine learning per la valutazione della personalità ed Emotion AI
- determinazione della personalità e dei tratti psicologici, caso Cambridge Analytica (2016);
- agenti generativi, Emotion AI;
- questioni etiche: privacy e consenso informato.

Modulo Advanced Approaches for Sequential Decision Making

0. Introduzione: il processo decisionale sequenziale
1. Introduzione al Reinforcement Learning (Apprendimento per Rinforzo)
- Approccio model-free;
- Q-Learning;
- DQN (Deep Q-Network);
- Policy Gradient (panoramica).

2. Reinforcement Learning Neuro-Simbolico
- L'approccio neuro-simbolico;
- Reinforcement Learning neuro-simbolico;
- Reinforcement Learning neuro-simbolico con logica temporale.

3. Model-Based Reinforcement Learning (Reinforcement Learning Basato su Modello)
- L'approccio model-based;
- R-max.

4. Reinforcement Learning Gerarchico
- Il ruolo dell'astrazione (stati e azioni);
- Options
- Livelli multipli di astrazione e combinazione di apprendimento e pianificazione (learning and planning).

Verranno forniti i lucidi utilizzati a lezione; i lucidi presentano e approfondiscono tematiche e casi di studio.
Di seguito sono indicate ulteriori fonti utili.

Modulo Algorithms and Ethics in the Digital Age:

Sweeney L. Only You, Your Doctor, and Many Others May Know, Technology Science. 2015092903, 9, 29 (2015) http://techscience.org/a/2015092903

Sweeney L. k-anonymity: a model for protecting privacy, International J. of Uncertainty, Fuzziness and Knowledge-Based Systems Vol. 10, No. 05, pp. 557-570 (2002) https://doi.org/10.1142/S0218488502001648

Paul Ohm, Broken Promises of Privacy: Responding to the Surprising Failure of Anonymization. 57 UCLA Law Review 1701, 2010.

Charles Duhigg, “How Companies Learn Your Secrets”, New York Times Magazine, 16.2.2012.
G Linden, B Smith, J York, Amazon.com recommendations: Item-to-item collaborative filtering, IEEE

S. Milano, M. Taddeo, L. Floridi, Ethical Aspects of Multi-stakeholder Recommendation Systems.
Personalized Pricing in the Digital Era, OECD Background Note by the Secretariat, 28.11.2018.

Julia Angwin et al., Machine Bias: There’s Software Used Across the Country to Predict Future Criminals. And It’s Biased Against Blacks, ProPublica (May 23, 2016)
https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing

Jeff Larson, Surya Mattu, Lauren Kirchner and Julia Angwin How We Analyzed the COMPAS Recidivism Algorithm (May 23, 2016)
https://www.propublica.org/article/how-we-analyzed-the-compas-recidivism-algorithm

Prathamesh Patalay, COMPAS:Unfair Algorithm?. Visualizing some nuances of biased… , Medium,
https://medium.com/@lamdaa/compas-unfair-algorithm-812702ed6a6a

B.D. Mittelstadt, P. Allo1, M Taddeo, S. Wachter, L. Floridi: The ethics of algorithms: Mapping the debate, Big Data & Society July–December 2016: 1–21

J.A.M. Sidey-Gibbons, C.J. Sidey-Gibbons, Machine learning in medicine: a practical introduction, BMC Medical Research Methodology (2019) 19:64 https://doi.org/10.1186/s12874-019-0681-4

K. B. Johnson, W. Wei, D. Weeraratne, M. E. Frisse1, K. Misulis, K. Rhee, J. Zhao, J. L. Snowdon
Precision Medicine, AI, and the Future of Personalized Health Care, Clinical Transl. Sci. (2021) 14, 86–93; doi:10.1111/cts.12884

Mark Coeckelbergh Artificial Intelligence, Responsibility Attribution, and a Relational Justification of Explainability, Science and Engineering Ethics (2020) 26:2051–2068 https://doi.org/10.1007/s11948-019-00146-8

W. Youyoua, M. Kosinskib, D. Stillwell, Computer-based personality judgments are more accurate than those made by humans, PNAS, January 27, 2015, vol. 112, no. 4 www.pnas.org/cgi/doi/10.1073/pnas.1418680112

Wikipedia, Cambridge Analytica, https://en.wikipedia.org/wiki/Cambridge_Analytica
G. Assunção, B. Patrão, M. Castelo-Branco, P. Menezes, An Overview of Emotion in Artificial Intelligence, IEEE Trans. on Artificial Intelligence, v. 3, n. 6, December 2022

J. M. Paterson, AI Mimicking and Interpreting Humans: Legal and Ethical Reflections, Bioethical Inquiry. https://doi.org/10.1007/s11673-025-10424-9

L. Stark, J. Hoey, The Ethics of Emotion in Artificial Intelligence Systems, ACM FAccT '21, March 3–10, 2021.


Modulo Advanced Approaches for Sequential Decision Making:

Reinforcement Learning: An Introduction Second edition, Richard S. Sutton and Andrew G. Barto

Articoli scientifici selezionati, forniti durante il corso.

Sono previste lezioni in presenza.

Frequenza non obbligatoria ma fortemente consigliata.

L'esame consiste in una prova scritta, contenente 4 domande aperte, ed in una discussione orale.

Discutete di come le persone potrebbero divulgare dati sensibili in cambio di un vantaggio immediato.
Fornite esempi a supporto delle vostre affermazioni. Eventualmente, fornite un esempio specifico in cui voi o una persona che conoscete siate stati coinvolti.

Quando si può affermare che un social network è stato deanonimizzato? Chiaramente non è necessario che tutti i dati presenti nella rete siano stati deanonimizzati. Fornite le diverse definizioni utilizzate per affermare che una rete è stata (eventualmente parzialmente) deanonimizzata. Siate specifici e fornite almeno un esempio.

Cos'è la pseudoanonimizzazione e discutetene le caratteristiche principali con riferimento a un esempio pratico.
Spiegate i vantaggi e gli svantaggi della pseudoanonimizzazione, illustrando come dovrebbe essere utilizzata in situazioni pratiche.

Spiega cos'è la k-anonimità di un database e fornisci un esempio in cui un database k-anonimo non divulga alcuna informazione (ovvero, preserva la privacy) e un esempio in cui un database k-anonimo può divulgare informazioni.

La k-anonimità non è sufficiente a garantire l'anonimato. Fornisci altre formulazioni che
rafforzino il concetto. Descrivi l'approccio e fornisci un esempio che dimostri che questo
approccio potrebbe essere migliore della k-anonimità; mostra un esempio negativo che dimostri che questo
approccio non è adeguato.

Cos'è la privacy differenziale e discuti i suoi vantaggi e svantaggi rispetto ad altri
approcci. Fornisci un esempio in cui la privacy differenziale è utile.

Descrivi come la privacy differenziale è stata utilizzata nel censimento statunitense. In particolare, discuti un
esempio che motiva perché la pubblicazione dei dati del censimento non preserva la privacy e descrivi il
tipo di operazioni eseguite per ottenere la privacy differenziale.

Quali sono, secondo te, le principali preoccupazioni in materia di protezione della privacy nei social network?

Quali sono le principali caratteristiche del nuovo regolamento europeo sulla privacy per le persone fisiche?

Quali sono le principali caratteristiche del nuovo regolamento europeo sulla privacy per le imprese?

La pseudo-anonimizzazione è un elemento tecnico importante del GDPR. Presentare i concetti principali della pseudo-anonimizzazione, i suoi vantaggi e i suoi limiti.

Secondo le nuove normative europee, le aziende e le organizzazioni devono nominare un Responsabile della protezione dei dati (DPO); quali sono i compiti e gli obblighi di questa figura?

Discutere il problema del bias algoritmico dei sistemi di intelligenza artificiale utilizzati in ambito giudiziario.

Discutere il problema del bias algoritmico dei sistemi di intelligenza artificiale utilizzati in ambito medico.

Illustrare e commentare la formula di aggiornamento di Bellman nei casi deterministico e non-deterministico.

Discutere la differenza tra pianificazione e learning per MDP.

Illustrare la funzione del Replay Buffer.

Mostrare l'algoritmo di Q-learning.

Illustrare l'architettura di un agente di RL basato su DQN.

Descrivere il problema del forgetting.

Definire la nozione di option nell'ambito del Reinforcement Learning gerarchico.

Illustrare ed esemplificare la nozione di reward shaping.

• La rivoluzione digitale: prospettiva storica, economica e sociale.


• Anonimato e pseudo-anonimato dei dati personali


• Sistemi di raccomandazione e piattaforme di commercio online


• Algoritmi di classificazione con focus sulla giustizia


• Machine learning in medicina, medicina di precisione


• Algoritmi di machine learning per la valutazione della personalità ed Emotion AI


• Il processo decisionale sequenziale


• Introduzione al Reinforcement Learning: Approccio model-free; Q-Learning; DQN (Deep Q-Network); Policy Gradient (panoramica).


• Reinforcement Learning Neuro-Simbolico: L'approccio neuro-simbolico;  Reinforcement Learning neuro-simbolico con logica temporale.


• Model-Based Reinforcement Learning: L'approccio model-based; R-max.


• Reinforcement Learning Gerarchico: Il ruolo dell'astrazione (stati e azioni); Options; Livelli multipli di astrazione e combinazione di apprendimento e pianificazione (learning and planning).