1. Metode si sisteme de analiza si interpretare a imaginilor
Prezentari de curs – sem. II

2. Curs 7 – Recunoasterea obiectelor prin clasificare
Metode si sisteme de analiza si interpretare a imaginilor (MSAII)
Curs 7
Curs 7 – Recunoasterea obiectelor prin clasificare
Clasificatoare pentru recunoasterea vizuala a obiectelor
Definitie
Tipuri principale
Exemple

3. Clasificatoare – definitie, terminologie (1)
Metode si sisteme de analiza si interpretare a imaginilor (MSAII)
Curs 7
Clasificatoare – definitie, terminologie (1)
Def.: CLASIFICAREA = procesul prin care un obiect (o observatie) este asociat unei anumite categorii; asocierea se face pe baza proprietatilor specifice ale obiectului (observatiei).
Def.: Clasa = Categoria naturala careia i se asociaza obiectul
Def.: Eticheta = Nume simbolic asociat clasei, pt. identificarea fiecarei clase
Obs.: Definirea claselor este esentiala pt. procesul clasificarii.
Definirea claselor  stabilirea/definirea categoriilor naturale posibile sa apara peste multimea obiectelor de recunoscut/clasificat
 stabilirea atributelor specifice comune in interiorul fiecarei categorii naturale +  stabilirea atributelor distinctive ale fiecarei categorii fata de oricare alta categorie. Atributele specifice comune si atributele distinctive = reguli de clasificare, definite in spatiul trasaturilor

4. Clasificatoare – definitie, terminologie (2)
Metode si sisteme de analiza si interpretare a imaginilor (MSAII)
Curs 7
Clasificatoare – definitie, terminologie (2)
Notatii matematice specifice:
Obiectele de clasificat = datele = vectori x[F×1],
x=[x1 x2 … xF]T, xk – valori reale
Multime a obiectelor de clasificat = multime de date de tipul x,
X={x1,x2,… ,xp}, p – nr. natural nenul
Numarul de clase/categorii ale problemei de clasificare (=in care vrem sa incadram obiectele din orice multime X): K, K – numar natural, K≥2 si K≤p.
Clasele/categoriile naturale asociate problemei de clasificare a obiectelor = submultimi ale X (ale spatiului RF) = {C1, C2, …, CK}; Cj X, j=1,2,…,K.
Eticheta asociata clasei j: yj – numar real sau sir de caractere, j=1,2,…,K.

5. Problema clasica de clasificare
Metode si sisteme de analiza si interpretare a imaginilor (MSAII)
Curs 7
Problema clasica de clasificare
“Obiecte”: setul de date Iris al lui Fisher
Problema: clasificarea florilor de Iris in una din 3 clase: Versicolor, Setosa, Virginica => numarul de clase: K=3; clasele C1, C2, C3 cu etichetele: y1=“Versicolor”, y2=“Setosa”, y3=“Virginica”.
Trasaturi discriminative masurate: lungimea sepalei (LS), latimea sepalei (WS), lungimea petalei (LP), latimea petalei (WP) (in cm) => spatiul trasaturilor 4-dimensional, F=4 => R4; vectorii de trasaturi: x=[LS WS LP WP]T.
Iris Versicolor
Iris Setosa
Iris Virginica
Petala
Sepala LS WP WS LP

6. Exemplu de date din setul “Iris”:
Metode si sisteme de analiza si interpretare a imaginilor (MSAII)
Curs 7
Exemplu de date din setul “Iris”:
Clasificator
Calcul decizie
y=yi, i=1,2 sau 3
Exemplu de clasificator: w=
0.7875
0.3727
w0=0.245
D(x)=sign (wTx+w0) LS WS LP WP

7. Clasificatoare – definitie, terminologie (3)
Metode si sisteme de analiza si interpretare a imaginilor (MSAII)
Curs 7
Clasificatoare – definitie, terminologie (3)

8. Clasificatoare – definitie, terminologie (4)
Metode si sisteme de analiza si interpretare a imaginilor (MSAII)
Curs 7
Clasificatoare – definitie, terminologie (4)
Formularea problemei clasificarii:
Fiind dat un spatiu de F trasaturi, RF, in care se reprezinta obiectele supuse analizei ( clasificarii) si cunoscand o multime a datelor X={x1, x2, …, xp}:
Construirea clasificatorului:
1.1. Stabilirea numarului de clase al problemei de clasificare, K;
ex.: problema clasificarii florilor de Iris: K=3 - cunoscut
1.2. Definirea functiilor de apartenenta ale claselor / regulilor de decizie ale claselor (clasificatorului)
- depinde de abordare: k-NN; k-means; fuzzy c-means; Bayes; etc…
1.3. Integrarea functiilor de apartenenta/regulilor de decizie intr-un sistem de clasificare
Utilizarea clasificatorului pentru clasificarea/recunoasterea/etichetarea obiectelor “necunoscute”
=> estimarea performantei clasificatorului prin: rata de eroare; FAR; FRR

9. Clasificatoare – definitie, terminologie (5)
Metode si sisteme de analiza si interpretare a imaginilor (MSAII)
Curs 7
Clasificatoare – definitie, terminologie (5)
Construirea clasificatorului:
1.1. Stabilirea numarului de clase al problemei de clasificare, K:
2 situatii:
a) K – cunoscut a-priori (=numarul de categorii care pot sa apara, pe care vrem sa le identificam) => K – specificat de catre utilizator
b) K – necunoscut (categoriile – necunoscute, nedefinite prealabil) => folosim algoritmi capabili sa grupeze datele dupa criterii de similaritate si/sau disimilaritate in spatiul RF. Ex.: numararea modurilor semnificative din histograma (=maxime locale semnificative intre minime locale) = K.
4 maxime locale => K=4
Obs: Caz particular: vrem sa identificam o categorie de obiecte fata de orice alta categorie clasificare binara => K=2. Orice problema de clasificare in K clase poate fi descompusa in probleme de clasificare binara, tip “clasa j versus celelalte K-1 clase”
Ex.: pt. setul de date Iris: Versicolor vs. Not Versicolor; Setosa vs. Not Setosa; Virginica vs. Not Virginica

10. Clasificatoare – definitie, terminologie (6)
Metode si sisteme de analiza si interpretare a imaginilor (MSAII)
Curs 7
Clasificatoare – definitie, terminologie (6)
Construirea clasificatorului - continuare:
1.2. Definirea functiilor de apartenenta ale claselor / regulilor de decizie ale claselor (clasificatorului):
Functii de apartenenta:
Cj:RF→[0;1], j=1,2,…,K,
Cj(x) = gradul in care x apartine clasei j: 0 – nu apartine deloc (sau: probabilitatea sa ii apartina = 0; sau: posibilitatea sa ii apartina = 0)
1 – apartine total, cu siguranta (sau: probabilitatea sa ii apartina = 1 – eveniment sigur; sau: posibilitatea sa ii apartina = 1 – este cert)
Obs: In general – este indicata definirea claselor a.i. sa formeze o partitie a spatiului trasaturilor in care se reprezinta datele, RF, adica:
Partitie  neredundanta + completitudine

11. Clasificatoare – definitie, terminologie (7)
Metode si sisteme de analiza si interpretare a imaginilor (MSAII)
Curs 7
Clasificatoare – definitie, terminologie (7)
Construirea clasificatorului - continuare:
Reguli de decizie:
Dj:RF→R, j=1,2,…,K,
Dj(x) = regula de decizie aplicata datei x, cu rezultat – valori reale sau valori binare ( valori de adevar)
Pt. valori binare: Dj(x) = 1 daca x apartine clasei j, Dj(x) = 0 altfel. (Stabilita de obicei prin compararea unei valori reale Dj(x) cu un prag, sau direct rezultat binar, daca se folosesc reguli logice de decizie)
Pt. valori reale: Dj(x) – valoare reala, indicator al “cat de cert este” ca x apartine clasei j (ex.: SVM – valoare reala cu semn; semnul  apartenenta la clasa pt. “+”, neapartenenta pt. “-”; clasificatoare bazate pe distanta – valoare reala cu atat mai mica, cu cat apartenenta la clasa este mai mare = distanta fata de “prototipurile” clasei j)

12. Clasificatoare – definitie, terminologie (8)
Metode si sisteme de analiza si interpretare a imaginilor (MSAII)
Curs 7
Clasificatoare – definitie, terminologie (8)
Reguli de decizie cu rezultate de tip valori logice binare:
Nucleoni

13. Clasificatoare – definitie, terminologie (9)
Metode si sisteme de analiza si interpretare a imaginilor (MSAII)
Curs 7
Clasificatoare – definitie, terminologie (9)
Reguli de decizie binara bazate pe distanta:
K-means, K=2 clase
Prototipuri x
Regula de decizie: asigneaza x la clasa in ale carei granite cade
k-NN, k=3
Prototipuri
clasa 1
clasa 2
Regula de decizie: asigneaza x la clasa unde se gasesc cei mai multi din cei mai apropiati 3 vecini

14. Clasificatoare – definitie, terminologie (10)
Metode si sisteme de analiza si interpretare a imaginilor (MSAII)
Curs 7
Clasificatoare – definitie, terminologie (10)
Functii de decizie cu valori reale, cu semn:
LDA: Dj(x)=x2-ax1-b; x=[x1 x2]
(F=2); sign(Dj(x)) => clasa
SVM liniar
SVM neliniar

15. Clasificatoare – definitie, terminologie (11)
Metode si sisteme de analiza si interpretare a imaginilor (MSAII)
Curs 7
Clasificatoare – definitie, terminologie (11)
Construirea clasificatorului - continuare:
1.3. Integrarea functiilor de apartenenta/regulilor de decizie intr-un sistem de clasificare:
sau:

16. Clasificatoare – definitie, terminologie (12)
Metode si sisteme de analiza si interpretare a imaginilor (MSAII)
Curs 7
Clasificatoare – definitie, terminologie (12)
Utilizarea clasificatorului pentru clasificarea/recunoasterea/etichetarea obiectelor “necunoscute” DA