Gaussian processes (GP)

Transcript

1 Gaussian processes (GP) Corso di Modelli di Computazione Affettiva Prof. Giuseppe Boccignone Dipartimento di Informatica Università di Milano Processi stocastici // Classi di processi Processi Gaussiani: prendendo un qualsiasi numero finito di variabili aleatorie, dall ensemble che forma il processo aleatorio stesso, esse hanno una distribuzione di probabilità congiunta gaussiana (multivariata) ocess). A t 1,...,t n, Più precisamente: scelta di (x 1,...,x n ) N(µ, Σ). = {X t } t 0 è Gaussiano } se per qualunque or(x si ha che,. (X t1,...,x tn ) (x 1,...,x n ) = 1 { (π)n Σ exp 1 } (x µ) Σ 1 (x µ)

2 Processi Gaussiani (GP) e Machine Learning Processi Gaussiani: prendendo un qualsiasi numero finito di variabili aleatorie, dalla collezione che forma il processo aleatorio stesso, esse hanno una distribuzione di probabilità congiunta gaussiana (multivariata) Un processo Gaussiano è completamente specificato mediante media e matrice di covarianza (µ, Σ) Processi stocastici // Simulazione di processi Gaussiani Simulazione di un processo di Ornstein-Uhlenbeck (O-U): t 1 =1/h, t =/h,..., t n =1 µ i = µ(t 1 )= 0 %use mesh size h m = 1000; h = 1/m; t = h : h : 1; n = length(t); %paramter of OU process alpha = 10; %Make the mean vector mu = zeros(1,n); for i = 1:n mu(i) = 0; end ocess at fixedticess. This Σ i,j = r(t i,t j ) =e α s t /. t 1,...,t n to be process (X t1,...,x tn ) density is comp %Make the covariance matrix Sigma = zeros(n,n); for i = 1:n for j = 1:n Sigma(i,j) = exp(-alpha * abs(t(i) - t(j)) / ); end end %Generate the multivariate normal vector A = chol(sigma); X = mu + randn(1,n) * A; %Plot plot(t,x);

3 Processi stocastici // Simulazione di processi Gaussiani Simulazione di un processo di Ornstein-Uhlenbeck (O-U): Xt α =10. %use mesh size h m = 1000; h = 1/m; t = h : h : 1; n = length(t); %paramter of OU process alpha = 10; %Make the mean vector mu = zeros(1,n); for i = 1:n mu(i) = 0; end t Xt α = t %Make the covariance matrix Sigma = zeros(n,n); for i = 1:n for j = 1:n Sigma(i,j) = exp(-alpha * abs(t(i) - t(j)) / ); end end %Generate the multivariate normal vector A = chol(sigma); X = mu + randn(1,n) * A; %Plot plot(t,x); Processi Gaussiani (GP) e Machine Learning Processi Gaussiani: prendendo un qualsiasi numero finito di variabili aleatorie, dalla collezione che forma il processo aleatorio stesso, esse hanno una distribuzione di probabilità congiunta gaussiana (multivariata) Un processo Gaussiano è completamente specificato mediante media e matrice di covarianza Problema per il Machine Learning: imparare i parametri della funzione di covarianza

4 Processi Gaussiani: presentazione intuitiva //idee di base Supponiamo di avere 6 punti rumorosi: vogliamo predire a x*=0. //idee di base Supponiamo di avere 6 punti rumorosi: vogliamo predire a x*=0. Non assumiamo un modello parametrico, esempio: Lasciamo che i dati parlino da soli Assumiamo che i dati siano stati generati da una distribuzione Gaussiana n-variata

5 //idee di base Assumiamo che i dati siano stati generati da una distribuzione Gaussiana n-variata: y correlato a y media 0 funzione di covarianza k(x,x ) Caratteristiche di k(x,x ) massima per x vicino a x se x lontano da x x vicino a x esempio: //idee di base Assumiamo che i dati siano stati generati da una distribuzione Gaussiana n-variata con rumore gaussiano additivo il punto è la media di y* e f* Incorporiamo il rumore nel kernel Vogliamo predire y* e non la reale funzione f* media uguale covarianza diversa

6 //idee di base Calcoliamo le covarianze fra tutte le possibili combinazioni di punti. otteniamo tre matrici il punto è la media di y* e f* //idee di base Regressione con GP Assumiamo che i dati siano stati generati da una distribuzione Gaussiana n-variata con rumore gaussiano additivo il punto è la media di y* e f* Vogliamo predire Usando le proprietà delle Gaussiane Predizione Incertezza

7 //idee di base Regressione con GP per il punto y*, con Nell esempio, stimando dalle error bar, e con una scelta appropriata di e il punto è la media di y* e f* Predizione Incertezza //idee di base Regressione con GP per 1000 punti Nell esempio, stimando dalle error bar, e con una scelta appropriata di e

8 //idee di base Regressione con GP per 1000 punti Nell esempio, stimando dalle error bar, e con una scelta appropriata di e //idee di base Possiamo incorporare la fisica del processo nella funzione di kernel

9 //idee di base Possiamo incorporare la fisica del processo nella funzione di kernel //idee di base Possiamo incorporare la fisica del processo nella funzione di kernel

10 Esempio Definizione della funzione di kernel k(x,z) % definizione del kernel e della bandwidth tau = 1.0; k exp(-(x-z)'*(x-z) / (*tau^)); Creazione di un data set % crea un training set corrotto da rumore m_train = 10; i_train = floor(rand(m_train,1) * size(x,1) + 1); X_train = X(i_train); y_train = h(i_train) + sigma * randn(m_train,1); funzione vera (latente) Esempio Predizione: X_test = X; function [K] = compute_kernel_matrix(k, X, Z) end m = size(x,1); n = size(z,1); K = zeros(m,n); for i = 1:m for j = 1:n K(i,j) = k(x(i,:)', Z(j,:)'); end end K_test_test = compute_kernel_matrix(k,x_test,x_test); K_test_train = compute_kernel_matrix(k,x_test,x_train); K_train_train = compute_kernel_matrix(k,x_train,x_train); G = K_train_train + sigma^ * eye(size(x_train,1)); mu_test = K_test_train * (G \ y_train); Sigma_test = K_test_test + sigma^ * eye(size(x_test,1)) - K_test_train * (G \ (K_test_train'));

11 //idee di base Fantastico! Ma... che cosa abbiamo fatto realmente e come si collega all approccio Bayesiano? come si effettua una scelta appropriata dei parametri?? Riprendiamo la regressione lineare L a p r o b a b i l i t à Gaussiana a priori sui pesi equivale a un a priori Gaussiano sulle funzioni y Congiunta Normale Design Matrix A priori Gaussiano sulle funzioni y Mi bastano media e varianza per specificarla Si può dimostrare che Media nulla basta la varianza per specificarla Matrice di Gram Mi bastano i dati per specificare la varianza

12 P r o b a b i l i t à G a u s s i a n a (congiunta) sui punti della funzione Probabilità Gaussiana a priori sulla funzione f è una variabile aleatoria I parametri w sono spariti! Quando campiono dal processo Gaussiano campiono una funzione function [f] = sample_gp_prior(k, X) end K = compute_kernel_matrix(k, X, X); % campiona da una distribuzione Gaussiana a media nulla % con matrice di covarianza K [U,S,V] = svd(k); A = U*sqrt(S)*V'; f = A * randn(size(x,1),1);

13 Processo Gaussiano Quando campiono dal processo Gaussiano campiono una funzione I parametri w sono spariti! Processo Gaussiano Quando campiono dal processo Gaussiano campiono una funzione Cioè: è una distribuzione di probabilità su funzioni? I parametri w sono spariti! E quindi una funzione è una variabile aleatoria?

14 Vediamola in questo modo.. campioniamo da una Gaussiana D x x 1 x 1 x Vediamola in questo modo.. campioniamo da una Gaussiana D x x 1 x 1 x

15 Processi Gaussiani which we can plot in a horizontal manner, if we wish and where we can display a -D point using both plots and where we can display a -D point using both plots Vediamola in questo modo.. campioniamo da una Gaussiana D 0 x - - x1 x1 x Processi Gaussiani which we can plot in a horizontal manner, if we wish and where we can display a -D point using both plots and where we can display a -D point using both plots Vediamola in questo modo.. campioniamo da una Gaussiana D 0 x - - x1 x1 x

16 Processi Gaussiani which we can plot in a horizontal manner, if we wish and where we can display a -D point using both plots and where we can display a -D point using both plots Vediamola in questo modo.. campioniamo da una Gaussiana D 0 x - - x11 x1 x Processi Gaussiani which we can plot in a horizontal manner, if we wish Vediamola in questo modo.. campioniamo da una Gaussiana D 0 x - - x1 x1 x

17 .. e uniamo le due coordinate con una retta x x 1 x 1 x.. e uniamo le due coordinate con una retta x x 1 x 1 x

18 Processi Gaussiani which we can plot in a horizontal manner, if we wish and where we can display a -D point using both plots and where we can display a -D point using both plots.. e uniamo le due coordinate con una retta 0 x - - x1 x1 x Processi Gaussiani which we can plot in a horizontal manner, if we wish and where we can display a -D point using both plots and where we can display a -D point using both plots.. e uniamo le due coordinate con una retta 0 x - - x1 x11 x

19 Adesso da una Gaussiana 3D x 1 x x 3 Adesso da una Gaussiana 3D x 1 x x 3

22 Adesso da una Gaussiana 5D x 1 x x 3 x x 5 Adesso da una Gaussiana 5D x 1 x x 3 x x 5

23 Adesso da una Gaussiana 5D x 1 x x 3 x x 5 Adesso da una Gaussiana 5D x 1 x x 3 x x 5

24 Adesso 3 campionamenti da una Gaussiana 5D x Processo Gaussiano f è una variabile aleatoria I parametri w sono spariti!

25 Distribuzione Gaussiana vs. Processo Gaussiano //definizione formale Un processo Gaussiano definisce una distribuzione su funzioni p(f) dove può essere considerato un vettore a dimensionalità infinita (un processo stocastico) Definizione: p(f) è un processo Gaussiano se per ogni sottoinsieme finito la distribuzione sul sottoinsieme finito (vettore n-dimensionale) è una Gaussiana multivariata che cosa ci dice il kernel?

26 //Che cosa ci dice il kernel. La funzione di kernel, dunque la covarianza, ci dice quanto due punti sono correlati Processo Gaussiano

27 Processo Gaussiano Usando Kernel diversi...

28 //Modello grafico p a r a m e t r i del kernel n=1,...,n //Regressione Il modello assumendo rumore Gaussiano La distribuzione congiunta su e

29 //Regressione Predizione rispetto a un nuovo dato : La congiunta su Partiziono la matrice di covarianza come //Regressione Sfruttando le proprietà delle congiunte di Gaussiane espresse in forma matriciale si ottiene che la predizione è specificabile come

30 //Regressione: esempio //Regressione: esempio

34 //Parametri del kernel La matrice di covarianza deve essere semidefinita e positiva In generale la funzione di covarianza ha dei parametri da apprendere varianza del segnale //Parametri del kernel La matrice di covarianza deve essere semidefinita e positiva In generale la funzione di covarianza ha dei parametri da apprendere lunghezza di scala o di correlazione

35 //Parametri del kernel La matrice di covarianza deve essere semidefinita e positiva In generale la funzione di covarianza ha dei parametri da apprendere approccio ML: si massimizza approccio MAP: si massimizza approccio totalmente Bayesiano: non trattabile, approssimazioni //Parametri del kernel

36 //Parametri del kernel //Parametri del kernel

39 //Parametri del kernel