Segmentazione delle immagini

Transcript

1 Segmentazione delle immagini Giovanni Maria Farinella

2 How do we know which groups of pixels are related to the same object?

3 Segmentazione Consiste nel partizionamento di una immagine in regioni omogenee sulla base di un certo criterio di appartenenza dei pixel ad una regione Obiettivo: individuare/riconoscere gli oggetti che compongono l immagine The segmentation of the image(s) presented to an image analysis system is critically dependent on the scene to be sensed, the imaging geometry, configuration and sensor used to transduce the scene into a digital image, and ultimately the desired output (goal) of the system (A. Jain)

4 Regioni Le regioni in cui l immagine viene suddivisa devono soddisfare alcune proprietà: DISTINCT Nessun pixel è condiviso da due regioni COMPLETE Tutti i pixel dell immagine sono assegnati ad almeno una regione della partizione CONNECTED Tutti i pixel appartenenti ad una regione sono connessi HOMOGENEOUS Tutte le regioni sono omogenee rispetto ad un criterio fissato (e.g. intensità, colore, texture, ecc..)

5 Formalmente Sia I rc una immagine con r righe e c colonne, in cui il pixel (i,j) assume il valore x ij nello spazio (dei colori) S I rc = {x ij : i=1 r, j=1 c, x ij in S} Esempio: S=RGB x ij =[x ij,r ; x ij,g ; x ij,b ] Sia H un predicato di omogeneità definito su un qualsiasi insieme di pixel Sia R l = {(i l1,j l1 ), (i l2,j l2 ),, (i ln,j ln )} {1,,r}x{1,,c} La segmentazione di I rc è una partizione P={R 1, R 2,,R k } tale che: R a R b = Ø a,b = 1,,K a b (Distinct) K U R i = {1,,r}x{1,,c} (Complete) i=1 In ogni regione R i i pixel sono connessi (Connected) H(R n )= true R n (Homogeneous) H(R n U R m )=false R n, R m adiacenti

6 Esempi Microarray Image Segmentation Medical Image Segmentation 8-connesso R l Landscape Image Segmentation 4-connesso

7 Esempi Object segmentation for recognition Skin Segmentation

8 Segmentation Resolution (in color space) Si possono definire tre categorie di risoluzione: Under-segmentation corrisponde alla risoluzione più bassa. L'omogeneità è definita con un grande margine di tolleranza. Soltanto i colori più signicativi sono mantenuti. I contorni delle regioni sono i bordi dominanti nell'immagine. Over-segmentation corrisponde ad una risoluzione intermedia. La gamma dei colori è abbastanza ricca. L immagine è suddivisa in piccole regioni che possono essere fuse attraverso controlli basati sulla conoscenza. E la risoluzione raccomandata quando il goal è l object recognition. Quantization corrisponde ad una risoluzione alta. La gamma di colori contiene tutti i colori importanti nell'immagine. Questa categoria di segmentazione è diventata importante con la diffusione delle basi di dati di immagini. Una ampia gamma di colori, possibilmente insieme alla struttura spaziale, è essenziale per le query basate sul contenuto.

9 Biological Segmentation in Human: Visual Perception To see an object in the world we must see it as something (L.Wittegenstein) IT is established since the Gestalt movement in psychology that perceptual grouping plays a fundamental role in human perception. (R. Nock F. Nielsen)

10 Visual Perception primo stadio dell elaborazione dell informazione che si conclude con la Percezione: Input Ambientale (Stimolo) Registro Sensoriale (Stimolo, Organi di Senso) Selezione Tramite Attenzione Selettiva dell input Interessante Percezione-Riconoscimento Human Visual Perception (Pre-Atentive) is governed by Gestalt Principles

11 Gestalt Principles of Visual Organization Figura e sfondo Prossimità Chiusura Continuazione Similarità Comune Destino Parallelismo Regione Comune Simmetria

12 Figura e Sfondo IL RAPPORTO TRA FIGURA E SFONDO permette di leggere l immagine, attraverso la separazione della figura dallo sfondo. Gli elementi dominanti sono percepiti come figura, il resto è percepito come sfondo. il faro spicca maggiormente e quindi viene catalogata come figura mentre le linee orizzontali celesti sono percepite come sfondo.

13 Prossimità Le colonne e le righe dominano la nostra focale. Tendiamo ad identificare come gruppi le features che sono vicine tra loro. Questa legge è da tenere in considerazione quando l immagine gioca un ruolo importante nell abilità di interpretare il messaggio che si nasconde dietro. La figura A, a dimostrazione di questa legge, non viene vista come un insieme di righe ma piuttosto come un insieme di colonne. figura A

14 Chiusura Il nostro occhio tende a completare gli spazi vuoti e le forme non chiuse. Noi tendiamo a vedere le immagini complete persino quando una parte dell informazione è mancante. In questa figura tendiamo a vedere tre rettangoli rotti ed un parentesi quadrata sulla sinistra piuttosto che tre colonne ed un parentesi quadrata sulla destra. Se eliminiamo le linee orizzontali ritorniamo alla figura che abbiamo visto nel principio di prossimità.

15 Continuazione l organizzazione della percezione porta lo sguardo a proseguire lungo una linea retta o una curva. a b distinguiamo due linee: una da a a c e una da b a d. d In realtà questo grafico potrebbe rappresentare un altro insieme di linee: da a a d e da b a c. Tuttavia, è più probabile che si tenda ad identificare il primo gruppo di queste linee che hanno una migliore continuazione rispetto al secondo dove è presente un ovvia torsione. c

16 Similarità Elementi visivi simili vengono raggruppati sulla base della forma, della grandezza, del colore o della direzione. I cerchi e i quadrati sono raggruppati in maniera naturale; percepiamo colonne alternate di cerchi e quadrati. Se non fossero presenti le due caratteristiche ricorrenti percepiremmo la figura come righe o colonne

17 Comune Destino Oggetti che si muovono nella stessa direzione tendono ad essere percepiti come una unica entità

18 Parallelismo Linee parallele tendono ad essere raggruppate insieme

19 Regione Comune Figure posizionate all interno della stessa regione chiusa tendono ad essere percepite insieme

20 Simmetria Percepire l intero di una figura rispetto alle parti singole che la costituiscono Osservando la figura si vedono due rombi sovrapposti o tre oggetti: un piccolo rombo e due oggetti irregolari sopra e sotto di esso. Secondo il principio di simmetria, si percepiranno probabilmente due rombi sovrapposti

21 Gestalt Principles e Strategie di Segmentazione Molte strategie di segmentazione sono riconducibili ai principi Gestalt Gestalt Principles Stategie di Segmentazione Figure/Sfondo Prossimità, Similarità Continuità e Chiusura Similarità Continuità e chiusura Tresholding Clustering, Region Growing, Region Merging Morphological Methods Statistical Methods Edge-Detection Based

22 Strategie di Segmentazione: Thresholding Ogni pixel di una immagine a toni di grigio è caratterizzato da un valore di luminanza. L algoritmo, di base, fissa una soglia di luminanza, allo scopo di distinguere tra due regioni(sfondo/oggetti). La soglia può essere fissata arbitrariamente, o in maniera automatica in base ad un certo criterio(usualmente statistico). Number of pixel Basato sull istogramma (distribuzione) 0 Max Intensity

23 Formalmente Se gli oggetti e il background occupano differenti range nella scala di grigio, possiamo marcare i pixel appartenenti agli oggetti con il seguente processo thresholding: Sia I rc (i,j) l immagine originale in scala di grigio Sia B rc (i,j) l immagine binaria ottenuta dal processo thresholding su I rc (i,j) B rc (i,j) = 0 if I rc (i,j)<t B rc (i,j) = 1 if I rc (i,j) t 1 indica oggetti mentre 0 indica Background Come facciamo a scegliere una soglia t? Peack and Valley Method Global threshold selection

24 Threshold Selection: Peak and Valley method Histogramma (h): distribuzione di frequenza dei livelli di grigio presenti nell immagine I rc (i,j) hi(g) = numero di pixel in I rc il cui livello di grigio è g 1. Trova i due picchi più prominenti di h g è un picco se hi(g)>hi(g±dg), Dg=1,,k Siano g 1 e g 2 i due picchi più alti con g1<g2 2. Trova la valle più profonda, g, tra g 1 e g 2 g è una valle se hi(g) hi(g ) per ogni g, con g,g in [g1,g2] Usa g come threshold

25 Esempio

26 Global threshold selection 1. Seleziona una soglia iniziale T (es: media dei grigi presenti) 2. Segmenta l immagine usando T Questo passo produce due gruppi di pixel G1: tutti i pixel hanno valore minore a T G2: tutti i pixel hanno valore maggiore uguale a T 3. Computa la media sui valori di grigio dei pixel presenti in G1 e G2 (µ 1, µ 2 ) 4. Computa la nuova soglia threshold T=½ (µ 1 + µ 2 ) 5. Ripeti gli step da 2-4 fino a convergenza Es. Convergenza: T non cambia in due ripetizioni successive

27 Esempio

28 Thresholding Vantaggi Semplice Efficiente Svantaggi Perdita delle informazioni di prossimità L istogramma descrive informazioni globali Limitata per scene complesse (due classi) In immagini a colori risulta più complicato

29 Strategie di Segmentazione: Clustering Dalla rappresentazione dell immagine nell usuale spazio bidimensionale, si passa ad uno spazio delle caratteristiche, ad esempio lo spazio tridimensionale RGB, e si procede ad un partizionamento di tale spazio, allo scopo di identificare le regioni. Svantaggio: si perdono le proprietà di vicinato dei pixel, quindi si possono generare regioni non connesse. L immagine si può vedere come un grafo su cui applicare l algoritmo per la ricerca componenti connesse dopo aver effettuato la procedura di clustering. Consensus Clustering? Gravitational Clustering?

30 Strategie di Segmentazione: Clustering Classificazione non supervisionata Suddivisione dei vettori di uno spazio di caratteristiche in classi tali che gli elementi di una classe siano tra loro simili gli elementi di classi differenti siano tra loro dissimili Bisogna definire: Spazio delle caratteristiche Misura di Similarità Funzioni Obiettivo da minimizzare/massimizzare

31 Strategie di Segmentazione: Clustering Spazio delle Caratteristiche RGB Ogni pixel (i,j) dell immagine I rc, è un vettore di tre componenti x ij = [x ij,r, x ij,g, x ij,b ]

32 Strategie di Segmentazione: Clustering Spazio delle Caratteristiche RGB Ogni pixel (i,j) dell immagine I rc, è un vettore di tre componenti x ij = [x ij,r, x ij,g, x ij,b ] Misura di similarità tra due vettori di uno spazio q-dimensionale: q d(x ij, y ij )= ( x ij,k -y ij,k q ) 1/q (q=2 Distanza Euclidea) k=1 Funzione Obiettivo da minimizzare Es: Somma degli errori quadratici F(P) = x ij -µ l 2 µ l = 1/ R l x ij k k l =1 x ij in R l k x ij in R l

33 Clustering approaches Agglomerative Clustering Bottom up Divisive Clustering Top-down

34 Hierarchical Clustering Inizializzazione: ogni punto dello spazio è un cluster Itera: Seleziona i due clusters più simili Es: Minima distanza intra-cluster Effettua il merge dei clusters selezionati Stop: quando è raggiunto il numero di clusters richiesto Agglomerative Clustering (bottom-up)

35 Esempio Grado di Dissimilarità

36 Hierarchical Clustering: Single Link x r Cluster r Cluster s xs d(r,s) = min(dist(x ri,x sj ))

37 Hierarchical Clustering: Complete Link x r Cluster r Cluster s x s d(r,s) = max(dist(x ri,x sj ))

38 Hierarchical Clustering: Avarage Link x r Cluster r Cluster s x s n r d(r,s) = 1 dist(x ri,x sj ) n r n s i=1 j=1 n s

39 Partitional Clustering Approach A partition clustering algorithm is to start with an initial partition and assign pattern to clusters so as to reduce square-error. Partition are update iteratively by reassigning patterns in attempt to reduce the square-error. (A.Jain)

40 Squared Error Clustering Method

41 K-means Algoritm Partitional Clustering (Divisivo, ma numero gruppi assegnato a priori)

42 K-means (Ver. 1) Input I rc, k (numero delle classi), ε reale Inizializzazione r=0, scegli k vettori dello spazio S (centroidi iniziali) µ 1r µ kr 1. R l ={x ij : x ij -µ l x ij -µ w } l=1,,k, w j 2. Computa nuovi centroidi µ 1,r+1,, µ k,r+1 3. se F(P)< ε (r>n) STOP altrimenti vai al punto 1 incrementando r

43 K-Means(Ver. 2)

44 Esempio

45 Image Segmentation by Clustering Scegli K Scegli le features da associare ai pixels (colore, texture, posizione, combinazione di questi, ecc ) Definisci una misura di similarità tra i vettori delle features Applica l algoritmo HC/K-Means Applica l algoritmo delle componenti connesse Unisci le componenti con dimensione minore di una soglia t a componente adiacente che è molto simile rispetto al criterio di omogeneità fissato.

46 Grafi e Componenti connesse Sia G = (V,E) un grafo indiretto. Una componente connessa di G è un insieme massimale C V tale che, per ogni u,vєc esistono un cammino tra u e v. Equivalentemente, le componenti connesse di un grafo G sono le classi di equivalenza della relazione di raggiungibilità.

47 Esempio A C D G A 0 A B C D E F G H B C B H E F D E F G H Matrice di Adiacenza (possibile rappresentazione) G=(V,E) V= {A, B, C, D, E, F, G, H} E= {(A,C), (A,B), (B,C), (D,E), (E,F), (F,G) }

48 Teoremi Dato un grafo indiretto G e due vertici u e v, esiste un cammino da u a v in G se e solo se u e v appartengono allo stesso albero della DF-foresta. La foresta DF contiene tanti alberi quante CC. Si può dimostrare che DFS( opportunamente modificato) su un grafo non orientato G può essere usato per identificare le Componenti Connesse

49 Algoritmo Componenti Connesse CCDFS(G) k 0 for each u є V [G] do color[u] white П[u] nil end for time 0 for each u єv [G] do if color[u] = white then CCDFSVisit(u) end if end for CCDFSVisit(u) if П[u] = nil then k k + 1 cc[u] k else cc[u] cc[п[u]] end if color[u] gray time time + 1 d[u] time for each v є Adj[u] do if color[v] = white then П[v] u CCDFSVisit(v) end if end for color[u] black time time + 1 f[u] time

50 Strategie di Segmentazione: Growing Individuare le regioni che compongono l immagine per accrescimento omogeneo a partire da un singolo pixel Una regione omogenea di un'immagine può essere ottenuta attraverso un processo di crescita che, cominciando da un seed preselezionato, progressivamente agglomera pixel ad esso pixel adiacenti che soddisfano un certo criterio di omogeneità; il processo di crescita si arresta quando nessun pixel può essere aggiunto alla regione.

51 Region Growing Ad ogni istante viene preso in considerazione un pixel che non è stato ancora allocato ma che è adiacente ad almeno una regione; il pixel è allocato alla regione adiacente che risulta più simile secondo il criterio scelto. R 1 R 3 R 4 R 2 R 4 Pixel considerato

52 Region Growing Algorithm 1. Scegli un seed (pixel) iniziale 2. Seleziona i pixel vicini (connessi) e fai il merge se la condizione di omogeneità scelta è soddisfatta 3. Se la regione non cresce, seleziona un altro seed e ripeti dal punto 2 finché tutti i pixel non sono stati allocati ad una regione, altrimenti vai al punto 2 4. Rimuovi le regioni molto piccole (passo opzionale)

53 Seeded Region Growing Algorithm Viene dato in input il numero di seeds (pixel di partenza utilizzati per far crescere le regioni). L algoritmo quindi procede autonomamente facendo crescere simultaneamente le regioni, finché tutti i pixel nell immagine sono stati racchiusi in una regione. Per ogni passo tutti i pixel che non sono stati ancora allocati, ma che hanno almeno un vicino allocato, vengono presi in considerazione: tra tutte le regioni confinanti al pixel considerato, l algoritmo seleziona quella i cui pixel hanno in media la minore differenza (es: in termini di livelli di grigio) rispetto al pixel preso in considerazione.

54 Esempio Seeds = 4

55 Strategie di Segmentazione: Split and Merge E possibile eseguire una segmentazione partizionando (splitting) ricorsivamente una immagine, o una sua precedente segmentazione approssimata, fino ad ottenere componenti uniformi. Si dovrà effettuare una successiva operazione di aggregazione (merging) delle regioni adiacenti che dovessero risultare compatibili in base ad un criterio

56 Modello split Immagine partizionata ripetendo ricorsivamente una suddivisione in quattro quadranti fino ad ottenere regioni uniformi rispetto ad un certo criterio stabilito (es: statistico). Minimizzare, rispetto ad una soglia di tolleranza, la varianza della distribuzione dei valori di luminosità dei pixel che compongono la regione stessa Parametro di valutazione statistica dell uniformità della regione R: 1/1+Var(R) Assume valore 1 in corrispondenza di regioni perfettamente omogenee e valori tendenti a 0 per valori significativamente elevati della varianza statistica. Si sceglie una soglia di omogeneità

57 Quad Tree R La suddivisione ricorsiva dell immagine in quadranti viene rappresentata con una struttura ad albero chiamato quad tree: ogni nodo contiene le informazioni relative a ciascun quadrante e i suoi figli sono associati ai quadranti in cui è ulteriormente suddiviso. Un nodo foglia è un quadrante sufficientemente uniforme da non richiedere ulteriori partizionamenti 1/(1+Var(R)) > Soglia Dopo la fase di splitting si procederà alla fase di merging delle regioni adiacenti compatibili ; regioni adiacenti verranno aggregate in una unica regione se quest ultima risultarà sufficientemente uniforme.

58 Merge A1 A2 A3 A41 A42 A43 A44 B A1 A3 A2 A41 B A42 D C A43 A44 C D Region Adjacency Graph (RAG) La selezione delle regioni sulle quali valutare la compatibilità può essere effettuata attraverso un grafo di adiacenza. Un criterio di similatità può essere derivato dal confronto dei valori medi es: ( µ A41 -µ A42 < T) L ordine di merging può influenzare il risultato.

59 Esempio A1 A2 A3 A41 A42 A43 A44 C B D A1 A3 A43 A2 A41 B A42 A44 D C Merge together all sub-regions where P(Rj U Rk) = TRUE. A1 A3 A2 E F A1 A3 A2 E F

60 Statistical Region Merging SRM belongs to the family of region growing techniques and uses statistical test for region merging by using a single parameter Q to assess the coarseness of the final output.

61 SRM Main Components Two essential components in defining a region merging algorithm: Merging predicate: define how to merge two regions. Order in merging: define an order to be followed to check the merging predicate.

62 SRM merging order To establish the ideal order to test the merging of regions is taking into account the following consideration: When any test between two true regions occurs, that means that all tests inside each of the two true regions have previously occurred. To approximate the ideal order of merging a function f is used. The set of couples of pixels is sorted in increasing order respect to the values obtained by the f function.

63 Merging Predicate

64 SRM Algorithm INPUT: an image I; Let S I the set of 4-connexity couples of adjacent pixels in image I S I =orderincreasing(s I,f); for i=1 to S I do if ((R(p i )!=R(p i ) and P(R(p i ),R(p i ))==true) then merge(r(p i ),R(p i )); A possible function to establish merging order: f ( p, p ' ) = max ' {, G, B} f a ( p, p ) a R f ' ' a ( p, p ) = pa pa

65 Examples: Q parameter Varying the value of the parameter Q involved in the merging predicate the complexity of the scene is properly captured. Q=32 Q=1 Q=1024 It is interesting to note that as Q increases, the regions found are getting smaller, but they often correspond to smaller perceptual regions of the image at different scales.

66 Letture e Risorse Laws of Organization in Perceptual Forms - Max Wertheimer (1923) - Color Image Segmentation: A State-of-the-Art Survey - L. Luccheseyz and S.K. Mitray Colour Image Segmentation - A Survey - Wladyslaw Skarbek Data Clustering: A Review - A.K. JAIN Seeded Region Growing R. Adams, L. Bishof Seeded Region Growing Method for Image Segmentation - Tecniche digitali per la segmentazione delle immagini Giorgio Meini Segmentazione delle immagini a colori Paola Campadelli Robust Analysis of Feature Spaces: Color Image Segmentation - Dorin Comaniciu A survey of current methods in medical image segmentation Pham, Xu, Prince Digital Image Processing Gonzales Introduzione agli Algoritmi T. H. Cormen Statistical Region Merging, R. Nock and F. Nielsen IEEE Transactions on pattern analysis and machine intelligence, Vol 26, Issue 11, p.p , Nov. 2004

67 Question Time