Statistical Methods and Applications - Metodi statistici e applicazioni

Il corso fornisce un'introduzione all'inferenza bayesiana e alla modellazione bayesiana per l'analisi dei dati mediante l'impiego sia di strumenti teorici e analitici sia di applicazioni pratiche. In particolare, per l'implementazione pratica di modelli bayesiani su dati reali utilizzeremo alcuni software per la modellazione e l'inferenza bayesiana (R, BUGS, INLA [eventualmente]). Un'enfasi particolare verrà posta su aspetti teorici specifici degli strumenti computazionali bayesiani. Elenco degli argomenti: • Introduzione al pensiero bayesiano. Questa sezione copre le definizioni di base, il modello bayesiano, il teorema di Bayes. Erogazione preventiva soggettiva e alcune scelte precedenti non informative o predefinite (regola di Jeffreys). Analisi coniugata. Tecniche e strumenti per caratterizzare e riassumere le distribuzioni posteriori. • Inferenza multiparametrica. Questa sezione copre i modelli multivariati normali e multinomiali e introduce l'approssimazione del campionamento casuale da una distribuzione multivariata. Inferenza bayesiana in presenza di dati mancanti. • Modelli gerarchici, verifica del modello e modelli lineari. Questa sezione tratta l'approccio bayesiano per la modellazione gerarchica e la regressione lineare. Modelli lineari e lineari generalizzati con effetti misti. Considera anche il controllo predittivo a posteriori, l'analisi di sensibilità e le statistiche per la valutazione della bontà di adattamento. • Strumenti computazionali bayesiani. Introduzione ai metodi Monte Carlo come strategia di approssimazione. Metodi Monte Carlo per l'inferenza bayesiana. Teoremi asintotici classici e metodi Monte Carlo: convergenza e controllo degli errori. Importanza delle tecniche di campionamento. Strategie Monte Carlo per approssimare la verosimiglianza marginale e il fattore di Bayes. Introduzione alle catene di Markov su uno spazio degli stati finito e sugli spazi degli stati generali. Catene di Markov, stazionarietà, misure invarianti. Distribuzioni limitanti e velocità di convergenza. Algoritmi generali per la simulazione della catena di Markov con distribuzione invariante prescritta: Gibbs sampling e Metropolis-Hastings. Metodi ibridi: core composition e core mixtures. Calcolo bayesiano approssimativo.

Conoscenza del calcolo delle probabilità. Nozioni dell'approccio classico/frequentista all'inferenza statistica. Familiarità con l'ambiente statistico R.

• Note del corso (slide disponibili sulla piattaforma Moodle al seguente link della pagina del corso https://corsidilaurea.uniroma1.it/it/users/lucatardellauniroma1it) • Peter Hoff, A First Course in Bayesian Statistical Methods. Springer-Verlag Inc, 2009. • Jean-Michel Marin and Christian P. Robert, Bayesian Core: A Practical Approach to Computational Bayesian Statistics, Springer, 2007 • Ioannis Ntzoufras, Bayesian Modeling Using WinBUGS. Wiley, 2009. • Peter Congdon. Bayesian Statistical Modelling (2nd ed.). Wiley, 2006 • Christian P. Robert and George Casella. Monte Carlo statistical methods (2nd ed.. Springer-Verlag Inc, 2004.

Insegnamento tradizionale in presenza, combinato con sessioni informatiche e laboratori con applicazioni a dati reali e dati simulati. La frequenza non è obbligatoria ma è caldamente raccomandata.

In class participation is warmly advised.

REGOLE D'ESAME • Per gli studenti frequentanti: - 25% compiti a casa (scritti) - 25% test intermedio (quiz online) - 50% progetto finale (relazione scritta e presentazione orale con discussione ed eventuali domande sui compiti/test). • Per gli studenti NON frequentanti: - 50% prova scritta (quiz online con eventuale colloquio con approfondimenti su tutti gli argomenti del corso) - 50% progetto finale con discussione (relazione scritta e presentazione orale) su dati reali e dati sintetici.

Insegnamento tradizionale in presenza, combinato con sessioni informatiche e laboratori con applicazioni a dati reali e dati simulati. La frequenza non è obbligatoria ma è caldamente raccomandata.

Il corso fornisce un'introduzione all'inferenza bayesiana e alla modellazione bayesiana per l'analisi dei dati mediante l'impiego sia di strumenti teorici e analitici sia di applicazioni pratiche. In particolare, per l'implementazione pratica di modelli bayesiani su dati reali utilizzeremo alcuni software per la modellazione e l'inferenza bayesiana (R, BUGS, INLA [eventualmente]). Un'enfasi particolare verrà posta su aspetti teorici specifici degli strumenti computazionali bayesiani. Elenco degli argomenti: • Introduzione al pensiero bayesiano. Questa sezione copre le definizioni di base, il modello bayesiano, il teorema di Bayes. Erogazione preventiva soggettiva e alcune scelte precedenti non informative o predefinite (regola di Jeffreys). Analisi coniugata. Tecniche e strumenti per caratterizzare e riassumere le distribuzioni posteriori. • Inferenza multiparametrica. Questa sezione copre i modelli multivariati normali e multinomiali e introduce l'approssimazione del campionamento casuale da una distribuzione multivariata. Inferenza bayesiana in presenza di dati mancanti. • Modelli gerarchici, verifica del modello e modelli lineari. Questa sezione tratta l'approccio bayesiano per la modellazione gerarchica e la regressione lineare. Modelli lineari e lineari generalizzati con effetti misti. Considera anche il controllo predittivo a posteriori, l'analisi di sensibilità e le statistiche per la valutazione della bontà di adattamento. • Strumenti computazionali bayesiani. Introduzione ai metodi Monte Carlo come strategia di approssimazione. Metodi Monte Carlo per l'inferenza bayesiana. Teoremi asintotici classici e metodi Monte Carlo: convergenza e controllo degli errori. Importanza delle tecniche di campionamento. Strategie Monte Carlo per approssimare la verosimiglianza marginale e il fattore di Bayes. Introduzione alle catene di Markov su uno spazio degli stati finito e sugli spazi degli stati generali. Catene di Markov, stazionarietà, misure invarianti. Distribuzioni limitanti e velocità di convergenza. Algoritmi generali per la simulazione della catena di Markov con distribuzione invariante prescritta: Gibbs sampling e Metropolis-Hastings. Metodi ibridi: core composition e core mixtures. Calcolo bayesiano approssimativo.

Conoscenza del calcolo delle probabilità. Nozioni dell'approccio classico/frequentista all'inferenza statistica. Familiarità con l'ambiente statistico R.

• Note del corso (slide disponibili sulla piattaforma Moodle al seguente link della pagina del corso https://corsidilaurea.uniroma1.it/it/users/lucatardellauniroma1it) • Peter Hoff, A First Course in Bayesian Statistical Methods. Springer-Verlag Inc, 2009. • Jean-Michel Marin and Christian P. Robert, Bayesian Core: A Practical Approach to Computational Bayesian Statistics, Springer, 2007 • Ioannis Ntzoufras, Bayesian Modeling Using WinBUGS. Wiley, 2009. • Peter Congdon. Bayesian Statistical Modelling (2nd ed.). Wiley, 2006 • Christian P. Robert and George Casella. Monte Carlo statistical methods (2nd ed.. Springer-Verlag Inc, 2004.

Insegnamento tradizionale in presenza, combinato con sessioni informatiche e laboratori con applicazioni a dati reali e dati simulati. La frequenza non è obbligatoria ma è caldamente raccomandata.

In class participation is warmly advised.

REGOLE D'ESAME • Per gli studenti frequentanti: - 25% compiti a casa (scritti) - 25% test intermedio (quiz online) - 50% progetto finale (relazione scritta e presentazione orale con discussione ed eventuali domande sui compiti/test). • Per gli studenti NON frequentanti: - 50% prova scritta (quiz online con eventuale colloquio con approfondimenti su tutti gli argomenti del corso) - 50% progetto finale con discussione (relazione scritta e presentazione orale) su dati reali e dati sintetici.

Insegnamento tradizionale in presenza, combinato con sessioni informatiche e laboratori con applicazioni a dati reali e dati simulati. La frequenza non è obbligatoria ma è caldamente raccomandata.

This is an introductory course about Bayesian inference and Bayesian modelling for data analysis. We will balance between theoretical and analytical tools and practice. In particular for practical implementation of Bayesian models on real data we will make use of some software for Bayesian modelling and inference (R, BUGS, INLA[possibly]). There will be some emphasis on the specific detailed theoretical aspects of Bayesian computational tools. **List of topics**: Introduction to Bayesian Thinking. This section covers basic definitions, Bayesian model, Bayes’ theorem. Subjective prior elicitation and some noninformative or default prior choices (Jeffreys’ Rule). Conjugate analysis. Techniques and tools for characterizing and summarizing posterior distributions. Multiparameter Inference. This section covers multivariate normal and multinomial models and introduces to approximate random sampling from a multivariate distribution. Bayesian inference in the presence of missing data. Hierarchical Models, Model Checking and Linear Models. This section covers the Bayesian approach for hierarchical modelling and linear regression. Linear and generalized linear mixed effects models. It also considers posterior predictive checking, sensitivity analysis, and goodness-of-fit statistics. Bayesian computational tools. Introduction to Monte Carlo methods as approximation strategy. Monte Carlo methods for Bayesian inference. Classical asymptotic theorems and Monte Carlo methods: convergence and error control. Importance sampling techniques. Monte Carlo strategies for approximating marginal likelihood and Bayes Factor. Introduction to Markov chains on a finite state space and on general state spaces. Markov chains, stationarity, invariant measures. Limiting distributions and rate of convergence. General algorithms for Markov chain simulation with a prescribed invariant distribution: Gibbs sampling & Metropolis Hastings. Hybrid methods: kernel composition, kernel mixtures. Approximate Bayesian Computation.

Probability calculus. Notion of classical/frequentist statistical inference. Basic familiarity with R.

Course Material and Reference Books • Course lecture notes (slide available on the Moodle page of the course linked at https://corsidilaurea.uniroma1.it/it/users/lucatardellauniroma1it) • Peter Hoff, A First Course in Bayesian Statistical Methods. Springer-Verlag Inc, 2009. • Jean-Michel Marin and Christian P. Robert, Bayesian Core: A Practical Approach to Computational Bayesian Statistics, Springer, 2007 • Ioannis Ntzoufras, Bayesian Modeling Using WinBUGS. Wiley, 2009. • Peter Congdon. Bayesian Statistical Modelling (2nd ed.). Wiley, 2006 • Christian P. Robert and George Casella. Monte Carlo statistical methods (2nd ed.. Springer-Verlag Inc, 2004.

Traditional lectures combined with computer session and labs with applications to real data and synthetic data.

In class participation is warmly advised.

• For students attending lectures during the semester: – 25% Homeworks (written) – 25% Midterm tests (online quiz) – 50% Final Project (written report and oral presentation with discussion and possible questions about homeworks/test). • For students NOT attending lectures during the semester (or not able/willing to complete homework+midterm tests): – 50% Written test (online quiz) – 50% Final Project with discussion (written report and oral presentation with possible questions on all course topics)

• Peter Hoff, A First Course in Bayesian Statistical Methods. Springer-Verlag Inc, 2009. • Jean-Michel Marin and Christian P. Robert, Bayesian Core: A Practical Approach to Computational Bayesian Statistics, Springer, 2007 • Ioannis Ntzoufras, Bayesian Modeling Using WinBUGS. Wiley, 2009. • Peter Congdon. Bayesian Statistical Modelling (2nd ed.). Wiley, 2006 • Christian P. Robert and George Casella. Monte Carlo statistical methods (2nd ed.. Springer-Verlag Inc, 2004.

Traditional lectures combined with computer session and labs with applications to real data and synthetic data.

This is an introductory course about Bayesian inference and Bayesian modelling for data analysis. We will balance between theoretical and analytical tools and practice. In particular for practical implementation of Bayesian models on real data we will make use of some software for Bayesian modelling and inference (R, BUGS, INLA[possibly]). There will be some emphasis on the specific detailed theoretical aspects of Bayesian computational tools. **List of topics**: Introduction to Bayesian Thinking. This section covers basic definitions, Bayesian model, Bayes’ theorem. Subjective prior elicitation and some noninformative or default prior choices (Jeffreys’ Rule). Conjugate analysis. Techniques and tools for characterizing and summarizing posterior distributions. Multiparameter Inference. This section covers multivariate normal and multinomial models and introduces to approximate random sampling from a multivariate distribution. Bayesian inference in the presence of missing data. Hierarchical Models, Model Checking and Linear Models. This section covers the Bayesian approach for hierarchical modelling and linear regression. Linear and generalized linear mixed effects models. It also considers posterior predictive checking, sensitivity analysis, and goodness-of-fit statistics. Bayesian computational tools. Introduction to Monte Carlo methods as approximation strategy. Monte Carlo methods for Bayesian inference. Classical asymptotic theorems and Monte Carlo methods: convergence and error control. Importance sampling techniques. Monte Carlo strategies for approximating marginal likelihood and Bayes Factor. Introduction to Markov chains on a finite state space and on general state spaces. Markov chains, stationarity, invariant measures. Limiting distributions and rate of convergence. General algorithms for Markov chain simulation with a prescribed invariant distribution: Gibbs sampling & Metropolis Hastings. Hybrid methods: kernel composition, kernel mixtures. Approximate Bayesian Computation.

Probability calculus. Notion of classical/frequentist statistical inference. Basic familiarity with R.

Course Material and Reference Books • Course lecture notes (slide available on the Moodle page of the course linked at https://corsidilaurea.uniroma1.it/it/users/lucatardellauniroma1it) • Peter Hoff, A First Course in Bayesian Statistical Methods. Springer-Verlag Inc, 2009. • Jean-Michel Marin and Christian P. Robert, Bayesian Core: A Practical Approach to Computational Bayesian Statistics, Springer, 2007 • Ioannis Ntzoufras, Bayesian Modeling Using WinBUGS. Wiley, 2009. • Peter Congdon. Bayesian Statistical Modelling (2nd ed.). Wiley, 2006 • Christian P. Robert and George Casella. Monte Carlo statistical methods (2nd ed.. Springer-Verlag Inc, 2004.

Traditional lectures combined with computer session and labs with applications to real data and synthetic data.

In class participation is warmly advised.

• For students attending lectures during the semester: – 25% Homeworks (written) – 25% Midterm tests (online quiz) – 50% Final Project (written report and oral presentation with discussion and possible questions about homeworks/test). • For students NOT attending lectures during the semester (or not able/willing to complete homework+midterm tests): – 50% Written test (online quiz) – 50% Final Project with discussion (written report and oral presentation with possible questions on all course topics)

• Peter Hoff, A First Course in Bayesian Statistical Methods. Springer-Verlag Inc, 2009. • Jean-Michel Marin and Christian P. Robert, Bayesian Core: A Practical Approach to Computational Bayesian Statistics, Springer, 2007 • Ioannis Ntzoufras, Bayesian Modeling Using WinBUGS. Wiley, 2009. • Peter Congdon. Bayesian Statistical Modelling (2nd ed.). Wiley, 2006 • Christian P. Robert and George Casella. Monte Carlo statistical methods (2nd ed.. Springer-Verlag Inc, 2004.

Traditional lectures combined with computer session and labs with applications to real data and synthetic data.