Space and astronautical engineering - Ingegneria spaziale e astronautica

FEDERICO FUSCO

Obiettivi generali:

Conoscere i principi di base dell'intelligenza artificiale, in particolare la modellazione di sistema intelligente tramite la nozione di agente intelligente.
Conoscere le tecniche di base dell'Intelligenza Artificiale con particolare riferimento alla manipolazione di simboli e, più in generale, a modelli discreti.

Obiettivi specifici:

Conoscenza e comprensione:
Metodi di ricerca automatica nello spazio degli stati: metodi generali, metodi basati su euristiche, ricerca locale.
Rappresentazioni fattorizzate: problemi di soddisfacimento di vincoli, modelli di pianificazione.
Rappresentazione della conoscenza attraverso sistemi formali: logica proposizionale, logica del primo ordine, cenni alle logiche descrittive ad alle forme di ragionamento non monotono.
Uso della logica come linguaggio di programmazione: PROLOG.

Applicare conoscenza e comprensione:
Modellazione di problemi con i diversi metodi di rappresentazione acquisiti.
Analisi del comportamento degli algoritmi di ragionamento di base.

Capacità critiche e di giudizio:
Essere in grado di valutare la qualità di un modello di rappresentazione di un problema e dei risultati ottenuti applicando su di esso tecniche di ragionamento automatico.

Capacità comunicative:
Le capacità di comunicazione orale dello studente vengono stimolate attraverso l'interazione durante le lezioni tradizionali mentre le capacità espositive nello scritto vengono sviluppate attraverso la discussione di esercizi e delle domande a risposta aperta previste nelle prove di esame.

Capacità di apprendimento:
Oltre alle classiche capacità di apprendimento fornite dallo studio teorico del materiale didattico, attraverso gli esercizi relativi all'applicazione dei modelli appresi, il corso contribuisce a sviluppare le capacità di risoluzione di problemi dello studente.

I risultati attesi del corso includono l’apprendimento delle basi del Machine Learning e di un ampio spettro di metodi e algoritmi per l'apprendimento automatico, insieme alle loro proprietà, criteri di convergenza e ambiti di applicabilità. Gli studenti impareranno ad applicare questi approcci a diverse classi di problemi di apprendimento e a validare sperimentalmente le soluzioni adottate.
Gli argomenti trattati includono: Regressione Lineare, Discesa del Gradiente, Ottimizzazione, Regolarizzazione, Classificazione, Alberi di Decisione e Metodi Kernel, Apprendimento Statistico,VC Dimension, PAC Learning, Reti Neurali, Clustering, Riduzione della Dimensione.
Gli studenti apprenderanno anche l’uso di librerie software, come PyTorch, per risolvere concretamente problemi pratici.

Sono necessarie nozioni di base di probabilità e di analisi multivariata, come studiate nei corsi introduttivi al calcolo della probabilità e statistica e all'analisi matematica.

Introduzione al Machine Learning
Linear Regression e Online Gradient Descent
Ottimizzazione in ML
Model Selection e Regularization
Classificazione, Alberi di Decisione e Kernel Methods
Statistical Learning, VC dimension, PAC Learning
Reti Neurali
Clustering e Dimensionality Reduction
Introduzione a PyTorch

Understanding Machine Learning: From Theory to Algorithms. Shai Shalev-Shwartz and Shai Ben-David. Cambridge University Press. 2014.

La modalità di svolgimento è in presenza. Video con esercitazioni e lezioni di approfondimento possono essere resi disponibili.

La frequenza è opzionale ma fortemente incoraggiata.

L'esame consiste in una prova scritta riguardante tutti gli argomenti del corso..

1)
- Provide a formal definition of a maximum likelihood (ML) hypothesis

- Comment the following statement: in a classification problem, the class returned by the ML hypothesis
on a new instance x is always the most probable class.

2)
Consider the learning problem of estimating the function f : ℜ → ℜ with dataset D= {(xi,yi)} plotted in
the figure below: ...

1. Describe how to perform regression based on these data using a method of your choice. Specifically,
provide a mathematical formulation of the model, highlighting the model parameters.
2. Considering the method you have chosen describe a way to reduce overfitting.
3. Draw a plausible plot of the learned model based on your choices.

3)
The following data have been collected and we want to learn the general concept Acceptable, by using
Decision Tree Learning.

House Furniture Nr rooms New kitchen Acceptable
1 No 3 Yes Yes
2 Yes 3 No No
3 No 4 No Yes
4 No 3 No No
5 Yes 4 No Yes

1. Formalize the learning problem: decribe exactly the target function to learn and the dataset.
2. Describe qualitatively how attributes are chosen when building a Decision Tree.
3. Simulate the execution of the ID3 algorithm on the data set above and generate the corresponding output
tree.


4)

1. Provide the main steps of classification based on K-nearest neighbors (K-NN).
2. Draw an example for a 4-classes classification problem in 2D. Use symbols (*,x,+,-) for the four classes.
Graphically show the application of the K-NN algorithm with K = 3 for the classification of 3 different
query points.