Pontifcia Universidade Catlica do Paran (PUCPR) Programa de Ps-Graduao em Informtica (PPGIA)

Reconhecimento de Padres Introduo

Luiz Eduardo S. Oliveira, Ph.D.

www.ppgia.pucpr.br/~soares

Objetivos
Introduzir os conceito bsicos de reconhecimento de padres atravs de um exemplo de um sistema de classificao clssico.

Introduo
Pense em aes simples que realizamos no nosso dia-a-dia, e na complexidade envolvida, como por exemplo:

Interpretar placas de trnsito

Introduo

Ler um jornal: Diferentes Fontes, Figuras, Grficos, Ilustraes, etc...

Introduo
Agora imagine como implementar essas simples aes em um sistema de computador! Complicado? O que seria necessrio?
Adquirir a imagem, ler, entender (classificar), tomar uma ao.

Introduo
Diferentes abordagem para Reconhecimento de Padres.
Estatstica Estrutural Sinttica

Um Exemplo
Para ilustrar a complexidade desse tipo de sistema, considere o seguinte exemplo:
Uma indstria recebe dois tipos de peixe: Salmo e Robalo. Os peixes so recebido em uma esteira, e o processo de classificao manual. A industria gostaria de automatizar esse processo, usando para isso uma cmera CCD.

Um Exemplo (cont)

Um Exemplo (cont)
Primeiramente devemos encontrar as caractersticas que distinguem um salmo de um robalo.
Altura, largura, colorao, posio da boca, etc...

Caractersticas (Features): Qualquer medida que se possa extrair de um determinado objeto.

Um Exemplo (cont)
Caractersticas podem ser:
Simblicas. Numricas (Continuas ou binrias).

Rudos (Erros):
Conceito originrio da teoria das comunicaes; Podem estar presente no objeto.
Uma mancha no peixe, por exemplo.

Devidos ao sistema de aquisio.

Iluminao por exemplo.

Um Exemplo (cont)
Dado as diferenas entre as populaes de Salmo e Robalo, podemos dizer que cada uma possui um modelo especfico. Modelo: Um descritor, geralmente representado atravs de uma funo matemtica.
Bom modelo capaz de absorver rudos.

Sistema Clssico
Aquisio Pr-Processamento Segmentao Extrao de Caractersticas Classificao

Salmo

Robalo

Sistema Clssico Pr-processamento

Simplificao do sinal capturado pela cmera.
Ex: Eliminao de alguns rudos. Processamento digital de imagens.

Tornar os processos subseqentes mais simples e rpidos.

Sistema Clssico Segmentao

Isolar os objetos de interesse na imagem.
No nosso exemplo, encontrar o que peixe e o que no peixe. Processamento Digital de Imagens
Filtros, morfologia matemtica, etc...

Sistema Clssico Segmentao

Segundo nvel de segmentao.
Encontrar e segmentar os objetos de interesse detectados na primeira fase da segmentao.

Sistema Clssico Extrao de Caractersticas

A imagem do objeto de interesse enviada para o mdulo de extrao de caractersticas.
Reduzir a complexidade atravs da extrao de certas caractersticas ou propriedades.

Sistema Clssico Classificao

As caractersticas (valores) so passadas para o classificador, o qual toma uma deciso
No nosso exemplo: Salmo ou Robalo.

Mas que tipo de caractersticas devemos usar?

Conceitos bsicos de classificao

Suponha que algum nos diga que:
Robalos geralmente so maiores que salmes. Isso nos d uma direo para modelar nosso problema, ou seja, Se o peixe ultrapassa um tamanho t, ento ele um robalo, caso contrrio, um salmo. Mas como determinar t ??

Conceitos bsicos de classificao

Podemos selecionar alguns exemplares (base de treinamento) de peixe e verificar seus tamanhos. Suponha que aps analisarmos nossa base de treinamento, tenhamos os seguintes histogramas

Conceitos bsicos de classificao

robalo Usando somente a medida salmo

de tamanho, no podemos separar de maneira confivel nossas duas classes de peixes. Portanto, devemos tentar outras caractersticas.

10

Conceitos bsicos de classificao

salmo robalo

Como podemos notar, essa caracterstica muito mais confivel, mas no perfeita.

Robalos que sero classificados como salmo.

x Outra caracterstica: Medida de Claridade (colorao)

Noo de CUSTO

Conceitos bsicos de classificao

Suponha que os clientes da nossa industria aceitem um pedao de salmo embalado junto com robalo, mas o contrrio inaceitvel. Devemos ento alterar nossa fronteira para que isso no acontea.

11

Conceitos bsicos de classificao

salmo robalo

Custo maior, uma vez que mais salmes sero classificados como robalos

x Erro Bayesiano

Conceitos bsicos de classificao

Isso sugere que existe um custo associado com a nossa deciso. Nossa tarefa consiste em encontrar uma regra de deciso que minimize o custo.
Isso o papel central da Teoria da Deciso. Tambm pode ser visto como um problema de otimizao.

12

Conceitos bsicos de classificao

Como minimizar o custo?
Buscar outras caractersticas.
Suponha que a claridade seja a melhor.

Podemos utilizar duas caractersticas ao mesmo tempo.

x x = 1 x2
Vetor de caractersticas bi-dimensional.

Conceitos bsicos de classificao

salmo robalo

altura

claridade Nossa base de treinamento em um grfico de disperso

13

Conceitos bsicos de classificao

Nosso problema consiste em encontrar a fronteira de deciso que minimize o custo. Modelo mais simples:
Separao linear, y = ax+b Algoritmos tradicionais:
Perceptron, Funes Discriminantes Lineares.

Conceitos bsicos de classificao

salmo robalo

altura

claridade

14

Conceitos bsicos de classificao

Essa regra fornece uma boa fronteira de deciso, entretanto pode ser melhorada.
Adicionar mais caractersticas, como por exemplo, dimenses do peixe, posio relativa dos olhos, etc..., poderiam ajudar.

Quanto mais caractersticas, mais base de treinamento ser necessria.

Maldio da dimensionalidade.

Conceitos bsicos de classificao

Suponha que no dispomos de mais caractersticas. Soluo:
Construir um modelo mais complexo do que um modelo linear.

15

Conceitos bsicos de classificao

salmo robalo Fronteira muito mais complexa. Separao perfeita!

altura

Um exemplo (salmo) de teste

claridade

Conceitos bsicos de classificao

Apesar de complexo, esse modelo pior do que o modelo linear. A principal caracterstica de um modelo deve ser a sua capacidade de generalizar. Modelos muito complexos geralmente no generalizam bem, pois decoram a base de treinamento (over-fitting).

16

Conceitos bsicos de classificao

Por outro lado, modelos muito simples tendem a generalizar demais (underfitting). Na aprendizagem de mquina, veremos tcnicas para evitar over- e under-fitting, ou seja, construir fronteiras de deciso nem to simples e nem to complexas.

Conceitos bsicos de classificao

salmo robalo

altura

claridade

17

Taxas
Um sistema pode ser avaliado usando diferente taxas. A mais comuns so
Taxa de rec = (N_rec/Total_Img) * 100 Taxa de Erro = (N_err/Total_Img) * 100 Taxa de Rej = N_rej/Total_img) * 100 Confiabilidade = (Taxa de Rec / (Taxa Rec + Taxa de Erro)) * 100

Exerccio
Planeje um sistema que inspecione automaticamente uma linha de produo de biscoitos. Os seguintes aspectos devem ser observados:
1. Forma (redondo) e tamanho (2cm de raio). 2. Integridade (Quebrado, mordido, etc) 3. Quantidade de recheio (pelo menos 3 marcas de chocolate).

Considere todos os aspectos, desde a aquisio da imagem at a classificao.

18

19