Sie sind auf Seite 1von 49

Universidade Estadual de

Campinas
Faculdade de Engenharia Elétrica e
Computação

IA353 – Redes Neurais


Professores:
Leandro N. de Castro
Fernando J. Von Zuben

Revisão Bibliográfica

Tema: Rede Neural de Kohonen e Outras


Técnicas para Treinamento Não-
Supervisionado

Autores:

Ana Beatriz Alvarez RA: 015021


Baldomero Luque RA: 019596

CU, Abril 2003


Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado

Rede Neural de Kohonen e Outras Técnicas para


Treinamento Não-Supervisionado

Resumo

Esta revisão bibliográfica tem por


objetivo fundamental fazer uma
pequena apresentação da informação
disponível nos meios sobre as
técnicas para treinamento não
supervisionado e como caso especial
as redes de Kohonen.

1. INTRODUCAO

As Redes Neurais Artificiais denominadas neste trabalho


apenas como redes neurais, são sistemas de processamento
de informação formadas pela interconexão entre unidades
simples de processamento, denominadas neurônios
artificiais. Os neurônios artificiais recebem essa
denominação porque foram originados a partir de um
modelo matemático de um neurônio biológico; a principal
propriedade desta arquitetura é a sua capacidade de
aproximação universal e de aprendizado.
Treinar uma rede neural significa ajustar os pesos da rede
de forma que a saída coincida com um certo valor desejado
para cada entrada. Existem alguns algoritmos de
treinamento que, além do ajuste de pesos, provocam
mudanças na própria arquitetura da rede, como a criação ou
eliminação de neurônios.
Nesta revisão, procuramos mostrar o material bibliográfico
relacionado com redes que utilizam o treinamento não
supervisionado. Estas redes foram classificadas de acordo a
diferentes trabalhos consultados.

Ana Alvarez – Baldomero Luque 2


Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado

2. REDES NEURAIS: CONCEITOS BASICOS

a. DEFINICAO
Redes Neurais Artificiais são técnicas computacionais que
apresentam um modelo matemático inspirado na estrutura
neural de organismos inteligentes e que adquirem conhecimento
através da experiência. Os neurônios se comunicam através de
sinapses.
Sinapse é a região onde dois neurônios entram em contato e
através da qual os impulsos nervosos são transmitidos entre
eles.
Os impulsos recebidos por um neurônio A, em um determinado
momento, são processados, e atingindo um dado limiar de ação,
o neurônio A dispara, produzindo uma substância
neurotransmissora que flui do corpo celular para o axônio, que
pode estar conectado a um dendrito de um outro neurônio B. O
neurotransmissor pode diminuir ou aumentar a polaridade da
membrana pós-sináptica, inibindo ou excitando a geração dos
pulsos no neurônio B. Este processo depende de vários fatores,
como a geometria da sinapse e o tipo de neurotransmissor.

b. CARACTERISTICAS
Uma rede neural artificial é composta por várias unidades
de processamento, cujo funcionamento é bastante simples.
Essas unidades, geralmente são conectadas por canais de
comunicação que estão associados a determinado peso e fazem
operações apenas sobre seus dados locais, que são entradas
recebidas pelas suas conexões. O comportamento inteligente de
uma Rede Neural Artificial vem das interações entre as unidades
de processamento da rede.
A operação de uma unidade de processamento, proposta por
McCullock e Pitts em 1943, pode ser resumida da seguinte
maneira:

Ana Alvarez – Baldomero Luque 3


Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
 Sinais são apresentados à entrada;
 Cada sinal é multiplicado por um número, ou peso, que
indica a sua influência na saída da unidade;
 É feita a soma ponderada dos sinais que produz um nível
de atividade;
 Se este nível de atividade exceder um certo limite
(threshold) a unidade produz uma determinada resposta de
saída.
A maioria dos modelos de redes neurais possui alguma regra de
treinamento, onde os pesos de suas conexões são ajustados de
acordo com os padrões apresentados. Em outras palavras, elas
aprendem através de exemplos.
Arquiteturas neurais são tipicamente organizadas em camadas.
Usualmente as camadas são classificadas em três grupos:
 Camada de Entrada: onde os padrões são apresentados
à rede;
 Camadas Intermediárias ou Escondidas: onde é feita a
maior parte do processamento, através das conexões
ponderadas; podem ser consideradas como extratoras de
características;
 Camada de Saída: onde o resultado final é concluído e
apresentado.
Uma rede neural é especificada, principalmente pela sua
topologia, pelas características dos nós e pelas regras de
treinamento. A seguir, serão analisados os processos de
aprendizado.

c. PROCESSO DE APRENDIZADO
A propriedade mais importante das redes neurais é a
habilidade de aprender de seu ambiente e com isso melhorar seu
desempenho. Isso é feito através de um processo iterativo de
ajustes aplicado a seus pesos denominado treinamento. O
aprendizado ocorre quando a rede neural atinge uma solução
generalizada para uma classe de problemas.
Denomina-se algoritmo de aprendizado a um conjunto de regras
bem definidas para a solução de um problema de aprendizado.
Existem muitos tipos de algoritmos de aprendizado específicos
para determinados modelos de redes neurais, estes algoritmos
diferem entre si principalmente pelo modo como os pesos são
modificados.

Ana Alvarez – Baldomero Luque 4


Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
Outro fator importante é a maneira pela qual uma rede neural se
relaciona com o ambiente. Nesse contexto existem os seguintes
paradigmas de aprendizado:
 Aprendizado Supervisionado Em um aprendizado
supervisionado, a Rede Neural é treinada com auxílio de
um supervisor. Para tanto, a rede deverá possuir pares de
entrada e saída, ou seja, um conjunto de entradas e um
conjunto com as saídas desejadas para cada entrada. Toda
vez que for apresentada à rede uma entrada, deverá ser
verificado se a saída obtida (gerada a partir dos cálculos
efetuados a partir dos pesos que a rede possui) confere
com a saída desejada para àquela entrada. Sendo
diferente, a rede deverá ajustar os pesos de forma que
armazene o conhecimento desejado. Esta interatividade do
treino deverá ser repetida com todo conjunto de
treinamento (entradas e saídas), até que a taxa de acerto
esteja dentro de uma faixa considerada satisfatória.
 Aprendizado Não Supervisionado (auto-
organização), quando não existe um agente externo
indicando a resposta desejada para os padrões de entrada,
este tipo de aprendizado também é conhecido como
aprendizado auto-supervisionado ou de auto-organização
por que não requer saída desejada e/ou não precisa usar
supervisores para seu treinamento.
 Reforço, quando um crítico externo avalia a resposta
fornecida pela rede.
Denomina-se ciclo à uma apresentação de todos os N pares
(entrada e saída) do conjunto de treinamento no processo de
aprendizado. A correção dos pesos num ciclo pode ser feita de
dois modos:
 Modo Padrão: A correção dos pesos acontece a cada
apresentação à rede de um exemplo do conjunto de
treinamento. Cada correção de pesos baseia-se somente
no erro do exemplo apresentado naquela iteração. Assim,
em cada ciclo ocorrem N correções.
 Modo Batch: Apenas uma correção é feita por ciclo. Todos
os exemplos do conjunto de treinamento são apresentados
à rede, seu erro médio é calculado e a partir deste erro
fazem-se as correções dos pesos.
3. TREINAMENTO NÃO SUPERVISIONADO

Neste treinamento da rede é usado o aprendizado não


supervisionado, conhecido também como aprendizado auto-
supervisionado ou de auto-organização, porque são usados
apenas os valores de entrada. A rede trabalha essas entradas e
Ana Alvarez – Baldomero Luque 5
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
se organiza de modo que acabe classificando-as usando, para
isso, seus próprios critérios. Esse tipo de rede utiliza os neurônios
como classificadores, e os dados de entrada, como elementos
para classificação.
O processo de classificação fica por conta da rede neural e o seu
algoritmo de aprendizado, denomina-se algoritmo de
aprendizado a um conjunto de regras bem definidas para a
solução de um problema de aprendizado. Existem vários tipos de
algoritmo de aprendizado, estes diferem entre si principalmente
pelo modo como os pesos são modificados.
A auto-organização demonstrada nas redes neurais não-
supervisionadas, envolve, o processo de competição e o
processo de cooperação entre os neurônios da rede. Muitos
pesquisadores têm utilizado esse tipo de rede como detector de
características, dada sua capacidade de aprender a discriminar
estímulos ocorrendo em partes especialmente diferentes.
O treinamento pode-se assim dizer, inicia quando um exemplo é
mostrado à rede e termina quando todas as conexões estão
devidamente ajustadas (treinadas) para reconhecer os exemplos
mostrados à rede (ou pelo menos uma boa parte dos exemplos).
A partir deste momento a Rede Neural está pronta para a fase de
testes e, a seguir, para a execução.
Do conjunto de dados que será submetido à rede, pode-se dizer
que, quanto mais completo seja, mais tempo computacional
(processamento) será utilizado para ajustar as conexões e,
certamente, melhor será o seu treinamento.
Existem diferentes algoritmos de aprendizagem utilizados no
treinamento não supervisionados, entre os mais conhecidos
temos a aprendizagem de Hebbian, o aprendizado competitivo,
aprendizado winner-take-all entre outros.
O material relacionado com redes neurais com treinamento não
supervisionado é apresentado a continuação.

• Material Relacionado

Autores: Jorge M. Barreto


Titulo: Inteligência Artificial no Limiar do Século XXI
Tipo de Publicação: Livro
Dados Complementares: 3a Ed. 2001
Fonte: http://www.inf.ufsc.br/~barreto/LivIA.htm
Informações Adicionais: O presente livro se divide em duas
partes, a primeira com fundamentos da IA e a Segunda com
aplicações. O autor procura mostrar que IA penetra em vários
campos de aplicação estando longe a época em que suas
Ana Alvarez – Baldomero Luque 6
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
aplicações se resumiam a programas astuciosos de jogar
xadrez.

Autor: Bart Kosko.


Titulo: Neural Networks and Fuzzy Logic: A Dinamyc System
Approach to Machine Intelligence.
Tipo de Publicação: Livro
Editor: Prentice Hall, Englewood Cliffs. New Jersey, 1992.
Dados Complementares: 449 pág.
Fonte: BAE k847n
Informações Adicionais: No Capitulo 4 “Synaptic Dynamics
I: Unsupervised Learning”, o autor apresentam uma simples
rede, ele expõe os problemas onde as redes neurais artificiais
tem mais futuro no mundo real: processamento de sinais,
reconhecimento de speech, percepção visual, controle e
robótica.

Autores: Jun Wang, Yoshiyasu Takefuji.


Titulo: Neural Networks in Design and Manufacturing.
Tipo de Publicação: Livro
Editor: World Scientific, Singapore, New Jersey, London, Hong
Kong, 1993.
Dados Complementares: 290 pág.
Fonte: BAE N398.
Informações Adicionais: No Capitulo 6 “Setup Generation
and Feature Sequencing Using an Unsupervised Learning
Algorithm”, é proposto um algoritmo de aprendizagem não
supervisionado com uma arquitetura incorporando múltiplas
funções objetivos em uma geração. O algoritmo utiliza regras
AND e OR para caracterizar cluster baseado na direção e no
tipo de ferramenta.

Autores: Diego Andina de la Fuente e Antonio Veja Corona


Titulo: Tutorial de Redes Neuronales
Tipo de Publicação: Tutorial
Dados Complementares: Versión Inglesa escrita por
Francisco J. Rodríguez. bajo la supervisión del Dr. William A.
Sandham. Versión en alemán escrita por Jens Warken, de la
Universidad de Bremen, Alemania.
Fonte:
http://www.gc.ssr.upm.es/inves/neural/ann1/anntutor.htm
Nível: Muito Bom
Informações Adicionais: Este tutorial é feito para dar ao
leitor um bom conhecimento de redes neurais, faz a
explicação muito boa de redes neurais não supervisionadas,
melhorando seu entendimento.

Ana Alvarez – Baldomero Luque 7


Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
Autores: Ghahramani, Z., Korenberg, A.T. and Hinton, G.E.
Titulo: Scaling in a hierarchical unsupervised network.
Tipo de Publicação: Artigo
Evento: Proceedings of the Ninth International Conference on
Artificial Neural Networks
Dados Complementares: ICANN 99, Vol 1 pages 13-18
Fonte: http://www.cs.toronto.edu/~hinton/absps/scaling.pdf
Palavras-Chave: Non linear generalization, unsupervised
learning.
Informações Adicionais: Os autores geram um modelo para
diminuir a dificuldade da aprendizagem em função da
complexidade do problema, este modelo pode ser visto como
uma generalização não linear de fator de analise y pode ser
implementado em uma rede neural.

Autores: Hinton, G.E., and T. Sejnowski (eds)


Titulo: Unsupervised Learning: Foundations of Neural
Computation
Tipo de Publicação: Livro
Dados Complementares (volume, número, páginas, ano):
June 1999, MIT Press
Fonte: http://mitpress.mit.edu

Autores: Hinton, G.E., Becker, S.


Titulo: An unsupervised learning procedure that discovers
surfaces in random-dot stereograms
Tipo de Publicação: Artigo
Evento: Proc. International Joint Conference on Neural
Networks, Washington, DC
Ano: 1990
Fonte: http://www.cs.toronto.edu/~hinton/chronological.html

Autores: Pearlmutter, B. A. and Hinton, G. E.


Titulo: G-maximization: An unsupervised learning procedure
for discovering regularities.
Tipo de Publicação: Artigo
Evento: In Denker, J., editor, Neural Networks for Computing,
American Institute of Physics.
Fonte: http://www.cs.toronto.edu/~hinton/chronological.html

Autores: Hinton, G.E. and Zemel, R.S.


Titulo: Minimizing description length in an unsupervised
neural network
Tipo de Publicação: Artigo
Dados Complementares: Abril 9, 1996
Fonte: http://www.cs.toronto.edu/~hinton/absps/mdlnn.pdf
Palavras-Chave: Minimum Description Length, Boltzman
distribution, Liapunov function.
Ana Alvarez – Baldomero Luque 8
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
Informações Adicionais: Os autores mostram que o
reconhecimento de pesos de um autoencoder pode ser usado
para computar uma aproximação para a distribuição de
Boltzmann, e assim pode ser usado para representações de
aprendizagem distribuída. Tais representações podem ser
exponencialmente mais eficientes em seu uso de hardware.

Autores: Robert Proulx & Sylvain Chartier


Titulo: Reproduction of the list length and the list strength
effects in unsupervised neural networks
Tipo de Publicação: Artigo
Evento: in Proceeding of the Second International
Conference on Cognitive and Neural Systems Boston.
Dados Complementares: p.21, 1998
Fonte: http://www.leina.uqam.ca/docpdf/ICCNS.98.pdf
Palavras-Chave: Modelo Eidos,
Informações Adicionais: Neste artigo os autores
apresentam um analise teórico do modelo Eidos e mostram
que o modelo pode reproduzir a presença do efeito list-length
como a ausência do efeito list-strength em reconhecimento.

Autores: Colleen McCarthy and Dr. Hon W. Yau


Titulo: Interactive Simulation of Unsupervised Neural
Networks
Tipo de Publicação: Pagina web
Fonte:
http://www.npac.syr.edu/REU/reu95/home/mccarthy/poster1.h
tml
Informações Adicionais: Nesta pagina, os autores
apresentam a simulação de uma rede neural não
supervisionada que usa o Principal Component Analysis (PCA)
para comprimir dados e projeta um sistema de
reconhecimento de padrões. O algoritmo implementado
treina uma rede neural baseado na regra de Sanger com PCA
na matriz de covariância de imagens treinadas.

Autores: Rauber, A.
Titulo: Cluster Visualization in Unsupervised Neural Networks
Tipo de Publicação: Tese
Evento: Diplomarbeit, Technische Universität Wien, Austria.
Ano: 1996.
Fonte:
http://www.ifs.tuwien.ac.at/ifs/research/pub_html/rau_mastert
h96/thesis.html
Nível: Bom
Informações Adicionais: Nesta tese o autor explica toda a
arquitetura e o processo de treinamento básico e sinala os
Ana Alvarez – Baldomero Luque 9
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
limites de este modelo em termos de visualização do cluster e
detecção de limites.

Autores: Andre S. Henriques, Aluizio F.R. Araujo


Titulo: Context and Scale Influencing Clustering through
Unsupervised Neural Networks.
Tipo de Publicação: Artigo
Evento: Vth Brazilian Symposium on Neural Networks, Belo
Horizonte, MG, Brazil.
Dados Complementares: December 09 - 11, 1998.
Fonte:
http://www.computer.org/proceedings/sbrn/8629/86290235ab
s.htm
Informações Adicionais: Neste trabalho os autores
propõem um modelo de rede neural para clusterização no
qual a informação acerca da saída desejada é dada.

Autores: John Hogden, Elliot Saltzman and Philip Rubin


Titulo: Unsupervised neural networks that use a continuity
constraint to track articulators.
Tipo de Publicação: Artigo
Evento: ASA 124th Meeting New Orleans
Dados Complementares: 1992 October.
Fonte:
http://www.auditory.org/asamtgs/asa92nwo/5pSP/5pSP10.htm
l

Autores: Zoubin Ghahramani and Sam Roweis


Titulo: Probabilistic Models for Unsupervised Learning
Tipo de Publicação: Tutorial
Evento: Neural Information Processing Systems
Ano: 1999
Fonte: http://www.gatsby.ucl.ac.uk/~zoubin/nipstut.pdf
Informações Adicionais: O objetivo principal deste tutorial
é apresentar de maneira consistente o modelo de
aprendizagem não supervisionado e como uma única
estrutura pode ser usada para desarrolhar algoritmos de
aprendizagem.

Autores: Foster, DJ & Dayan, P


Titulo: Using unsupervised learning methods to extract
structure in value functions.
Tipo de Publicação: Artigo
Evento: Machine Learning, in press.
Fonte: http://www.gatsby.ucl.ac.uk/~dayan/papers/fd00.pdf
Informações Adicionais: Os autores neste artigo sugerem
como encontrar fragmentações utilizando métodos de
aprendizado não supervisionado, ou dados derivados de
Ana Alvarez – Baldomero Luque 1
0
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
funções com valor ótimo para múltiples tarefas, alem
mostram que essas fragmentações são estruturas não
observáveis no ambiente.

Autores: Becker, S. and Plumbley, M.


Titulo: Unsupervised Neural Network Learning Procedures For
Feature Extraction and Classification
Tipo de Publicação: Artigo
Evento: International Journal of Applied Intelligence, special
issue on neural networks
Dados Complementares: Vol. 6, No. 3, 1996.
Fonte:
ftp://claret.psychology.mcmaster.ca/pub/becker/becker-
plumbley.pdf
Informações Adicionais: O autor aplica o processo de
aprendizagem de redes neurais não supervisionadas a tarefas
de pré-processamento de dados para extrair características
para classificação subseqüente.

Autores: Becker, S.
Titulo: Unsupervised learning with global objective functions
Tipo de Publicação: Artigo
Evento: in The Handbook of Brain Theory and Neural
Networks, M. Arbib (ed).
Dados Complementares: La Jolla, CA: MIT Press, 1995.
Fonte:
ftp://claret.psychology.mcmaster.ca/pub/becker/handbook-
btnn.ps.gz
Informações Adicionais: Neste artigo o autor revisa três
tipos de procedimento de aprendizagem que se podem
considerar não supervisionado: algoritmos que preservam a
informação, técnicas de estimação de densidade e
procedimento de aprendizado baseado em invariância.

Autores: Marian Stewart Bartlett


Titulo: Face Image Analysis by Unsupervised Learning
Tipo de Publicação: Livro
Dados Complementares: Kluwer International Series on
Engineering and Computer Science, V. 612. Boston: Kluwer
Academic Publishers, 2001.
Fonte: http://ergo.ucsd.edu/~marni/
Informações Adicionais: A autora explora alguns
abordagens para analise de imagem, no livro gráfica alguns
princípios de aprendizagem não supervisionado e teoria de
informação.

Autores: Zemel, R. S.

Ana Alvarez – Baldomero Luque 1


1
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
Titulo: A Minimum Description Length Framework for
Unsupervised Learning.
Tipo de Publicação: Technical Report CRG-TR-93-2,
University of Toronto
Dados Complementares: O trabalho está dividido em três
seções.
Fonte:
http://www.cs.toronto.edu/pub/zemel/Papers/thesis1.ps.gz
http://www.cs.toronto.edu/pub/zemel/Papers/thesis2.p
s.gz
http://www.cs.toronto.edu/pub/zemel/Papers/thesis3.p
s.gz
Autores: Markus Weber, Max Welling & Pietro Perona
Titulo: Unsupervised learning of models for visual object
class recognition
Tipo de Publicação: Artigo
Evento: Proceedings of the 6th Annual Joint Symposium on
Neural Computation, JNSC99, Pasadena.
Ano: 1999
Fonte:
http://www.cs.toronto.edu/~welling/publications/papers/JNS99
_fin.ps.gz

Autores: N M Allinson - Department of Electrical Engineering


and Electronics UMIST
Titulo: Pattern Recognition and Neural Networks
Tipo de Publicação: Notas
Ano: 1997
Fonte: http://soft.ee.umist.ac.uk/nigel/neural/SOM1.html
Nível: Muito Bom
Informações Adicionais: Estas notas provêem uma
introdução para redes não supervisionadas, em particular
mapas auto-organizáveis de Kohonen, junto com material
fundamental relacionado ao reconhecimento de padrões.

Autores: Markus Weber, Max Welling & Pietro Perona


Titulo: Unsupervised Learning of Models for Recognition
Tipo de Publicação: Artigo
Evento: Proc. 6th Europ. Conf. Comp. Vis., ECCV2000, Dublin.
Ano: 2000
Fonte:
http://www.cs.toronto.edu/~welling/publications/papers/ECCV
00_fin.ps.gz

Autores: J. Meuleman, C. van Kaam


Titulo: Unsupervised image segmentation with neural
networks
Tipo de Publicação: Artigo
Ana Alvarez – Baldomero Luque 1
2
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
Evento: ISHS Acta Horticulturae 562: III International
Symposium on Sensors in Horticulture
Fonte: http://www.actahort.org/books/562/562_10.htm
Palavras-Chave: Neural networks, unsupervised learning,
recursive partitioning, image segmentation
Informações Adicionais: Os autores fazem uma arvore de
redes neurais por divisões sucessivas, lodo esta rede é
treinada é usada para segmentação de imagens.

Autores: Nicolaos B. Karayiannis


Titulo: Integrating the Development of Supervised and
Unsupervised Neural Network Models: Why and How
Tipo de Publicação: Tutorial
Evento: Kolloquium über Elektronik und Nachrichtentechnik
Ano: 2001-2002
Fonte:
http://www.ifh.ee.ethz.ch/~ballisti/kolloquium/WS-2001-
2002/karay-2002Feb15.html
Informações Adicionais: Este tutorial introduz uma
metodologia integrada para construir modelos de redes
neurais supervisionadas e não supervisionadas que podem
ser aplicadas na área biomédica.
Autores: Geoffrey E. Hinton, Terrence J. Sejnowski
Titulo: Unsupervised Learning: Foundations of Neural
Computation (Computational Neuroscience)
Tipo de Publicação: Livro
Dados Complementares: 350 pages, MIT Press; 1st edition
(June 11, 1999)
Fonte: http://www.amazon.com/exec/obidos/tg/

4.1. APRENDIZADO HEBBIANO


Baseado na teoria de Hebb, é talvez a mais antiga regra de
aprendizado usada, data do ano de 1949 com a publicação do
livro “The Organization of Behavior”, escrito por Hebb.
O postulado de Hebb diz que: “Quando um neurônio da célula ‘A’
esta próximo o suficiente para excitar a célula ‘B’, e,
repetidamente ou persistentemente participa do processo de
dispará-lo, algum outro processo de crescimento ou mudança
metabólica ocorre em uma ou ambas das células, tal que a
eficiência de ‘A’ como uma das células que dispara ‘B’ é
aumentada”
O postulado de Hebb leva ao estabelecimento dos princípios que
regem o aprendizado (De Castro, M. 1996):

Ana Alvarez – Baldomero Luque 1


3
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
“Se dois neurônios em cada lado de uma sinapse são ativados
simultaneamente, então a forca daquela sinapse é seletivamente
aumentada”.
“Se dois neurônios em cada lado de uma sinapse são ativados de
forma assíncrona, então a sinapse é seletivamente enfraquecida
ou limitada”.
“Modificações nos pesos sinápticos tendem a cooperar”
Uma única sinapse por si só não pode produzir eventos
favoráveis, de forma eficiente. Portanto, é necessária a
cooperação entre o conjunto de sinapses convergindo a um
particular neurônio e levando sinais suficientemente fortes para
ativar o neurônio.
A continuação, o material relacionado com o tema.

• Material Relacionado

Autores: De Castro Felippetto Maria Cristina


Titulo: Algoritmo Hebbiano Generalizado para extração dos
componentes principais de um conjunto de dados no domínio
complexo.
Tipo de Publicação: Tese
Dados Complementares: Porto Alegre, Junho 1996.
Fonte:
http://www.feng.pucrs.br/~decastro/pdf/C_MasterThesis.pdf
Nível: Bom
Informações Adicionais:
Este trabalho apresenta um algoritmo que extrai as
componentes principais de um conjunto de dados de natureza
complexa através de redes neurais artificiais complexas
treinadas sob uma nova regra de aprendizado Hebbiano no
domínio complexo.

Autores: Bégin, J. et Proulx, R.


Titulo: Categorization in unsupervised neural networks: The
EIDOS model
Tipo de Publicação: Artigo
Evento: IEEE Transactions on Neural Networks
Dados Complementares: vol. 7 no.1, pp.147-154, 1996.
Fonte: http://www.leina.uqam.ca/docpdf/IEEE.pdf
Palavras-Chave: Hebbian learning, Anti-Hebbian learning,
auto associative neural networks, Eidos model.
Informações Adicionais: Os autores definiram um novo
modelo de categorização: o modelo Eidos, este modelo utiliza
uma regra de aprendizagem que combina a aprendizagem

Ana Alvarez – Baldomero Luque 1


4
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
Hebbian e Anti-Hebbian em uma rede neural auto-associativa
não supervisionada. Eles demostram que o modelo Eidos
pode ser uma opção interessante para conseguir
categorização adaptativa em redes neurais não
supervisionadas.

Autores: Pajares, G; Cruz, JM; Lopez-Orozco, JA


Titulo: Stereo matching using Hebbian learning
Tipo de Publicação: Artigo
Evento: IEEE Transactions on Systems, Man, and
Cybernetics. Part B: Cybernetics [IEEE TRANS SYST MAN
CYBERN PART B CYBERN].
Dados Complementares: Vol. 29, no. 4, pp. 553-559. Aug
1999.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Stereo matching; Hebbian learning; Edge
segments
Informações Adicionais: Este artigo apresenta uma
abordagem para o problema local stereo matching usando
segmentos da borda como características com diversos
atributos. Eles introduzem uma estratégia de aprendizagem
baseado no aprendizado Hebbiano para começar no melhor
centro do cluster, são feitos analise com diferentes métodos
de aprendizagem.

Autores: Sommer, Friedrich T; Palm, Guenther


Titulo: Improved bidirectional retrieval of sparse patterns
stored by Hebbian learning
Tipo de Publicação: Artigo
Evento: Neural Networks [NEURAL NETWORKS].
Dados Complementares: Vol. 12, no. 2, pp. 281-297. Mar
1999.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Bidirectional associative memory; Neural
associative memory; Hebbian learning
Informações Adicionais: Neste artigo é proposto um novo e
eficiente modelo de estratégia de recuperação bidirecional
para tarefas de memória hetero associativa, onde a
informação eficiente é definida como uma geral medida de
desempenho para memória associativa bidirecional (BAM em
inglês).

Autores: Choy, Clifford Sze-Tsan; Siu, Wan-Chi


Titulo: Analysis of the convergence and divergence of a
constrained anti-Hebbian learning algorithm
Tipo de Publicação: Artigo
Evento: IEEE TRANS CIRCUITS SYST II ANALOG DIGITAL
SIGNAL PROCESS.
Ana Alvarez – Baldomero Luque 1
5
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
Dados Complementares: Vol. 45, no. 11, pp. 1494-1502.
Nov 1998.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Anti-Hebbian learning algorithm;
Divergence analysis
Informações Adicionais: Os autores analizam o efeito da
condição inicial em um algoritmo de aprendizado anti
hebbiano sugerido por Gao, Ahmad e Swamy.

Autores: Zhang, Q; Leung, Y-W


Titulo: Convergence of a Hebbian-type learning algorithm
Tipo de Publicação: Artigo
Evento: IEEE Transactions on Circuits and Systems II: Analog
and Digital Signal Processing
Dados Complementares: Vol. 45, no. 12, pp. 1599-1601.
Dec 1998.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Hebbian learning.
Informações Adicionais: Neste artigo, os autores
demonstram que algumas soluções do calculo da média da
equação diferencial do algoritmo de aprendizado Hebbiano
podem se tornar ilimitadas em um tempo finito. Eles derivam
cinco condições suficientes para assegurar que as soluções
da media da equação diferencial são limitadas e podem ser
estendidas em um intervalo de tempo de zero ao infinito.

Autores: Frank, Gerald; Hartmann, Georg; Jahnke, Axel;


Schaefer, Martin
Titulo: Accelerator for neural networks with pulse-coded
model neurons
Tipo de Publicação: Artigo
Evento: IEEE Transactions on Neural Networks [IEEE TRANS
NEURAL NETWORKS].
Dados Complementares: Vol. 10, no. 3, pp. 527-538. 1999.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Pulse coded model neurons;
Neurocomputers.
Informações Adicionais: Os autores desenvolvem um
acelerador para uma versão especial de neurônios Frech e
Stein com entradas moduladas que é vantajoso para
simulações de sincronização de mecanismos. Alem, o
acelerador fornece uma regra de aprendizagem Hebbiano e
suporta adaptabilidade.

Autores: Chady, Marcin


Titulo: Modelling higher cognitive functions with Hebbian cell
assemblies
Tipo de Publicação: Artigo
Ana Alvarez – Baldomero Luque 1
6
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
Evento: 16th National Conference on Artificial Intelligence
(AAAI-99), 11th Innovative Applications of Artificial
Intelligence Conference (IAAI-99), Orlando, FL, USA, 07/18-
07/22/99
Dados Complementares: 943 p. 1999.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Cognitive functions; Hebbian cell
assemblies.
Informações Adicionais: Neste artigo os autores
desenvolvem um modelo com comportamento cognitivo
elevado que usa o paradigma do conexionismo, e utilizando
uma abordagem baseada nas propriedades das células
hebbianas eles tentam alcançar um sistema auto-organizado
capaz de aprender dos dados de entrada e generalizar as
predições baseadas em sua experiência precedente.

Autores: Pomponi, Eraldo; Fiori, Simone; Piazza, Francesco


Titulo: Complex independent component analysis by
nonlinear generalized Hebbian learning with Rayleigh
nonlinearity
Tipo de Publicação: Artigo
Evento: IEEE International Conference on Acoustics, Speech,
and Signal Processing (ICASSP-99).
Dados Complementares: Vol. 2, pp. 1077-1080, 1999.
Fonte:. http://alt3.csa3.com/
Palavras-Chave: Generalized Hebbian algorithm;
Independent component analysis.
Informações Adicionais: Este artigo apresenta uma
extensão do algoritmo Hebbiano generalizado de Sanger para
o processamento de dados com valores complexos.

Autor: Oja, Erkki


Titulo: From neural learning to independent components
Tipo de Publicação: Artigo
Evento: NEUROCOMPUT.
Dados Complementares: Vol. 22, no. 1-3, pp. 187-199. Nov
1998.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Independent component analysis; Blind
source separations; Neural learnings.
Informações Adicionais: Os autores enfatizam a conexão
dos componentes independentes de analise (ICA em inglês) à
aprendizagem neural, especialmente à regra de
aprendizagem de Hebbian. Os resultados mostram que as não
linearidades nas regras de aprendizagem são não criticas,
mas podem ser escolhidos de modo que as regras de
Ana Alvarez – Baldomero Luque 1
7
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
aprendizagem não só produzam componentes independentes,
também outras propriedades desejáveis como: a robustez, a
convergência rápida, etc, contrariamente às funções
polinomiais freqüentemente utilizadas.

Autores: Van Heijst, JJ; Vos, JE; Bullock, D


Titulo: Development in a biologically inspired spinal neural
network for movement control
Tipo de Publicação: Artigo
Evento: Neural Networks
Dados Complementares: Vol. 11, no. 7-8, pp. 1305-1316.
Oct-Nov 1998
Fonte: http://alt3.csa3.com/
Palavras-Chave: Motor control.
Informações Adicionais: Os autores desenvolvem um
modelo de rede neural complexo para controle de
movimento, onde a auto organização é permitida por uma
regra de aprendizagem hebbiana.

Autores: Hung, Chih-Cheng; Coleman, Tommy L;


Scheunders, Paul
Titulo: Using genetic differential competitive learning for
unsupervised training in multispectral image classification
systems
Tipo de Publicação: Artigo
Evento: IEEE International Conference on Systems, Man, and
Cybernetics.
Dados Complementares: Vol. 5, pp. 4482-4485. 1998.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Differential competitive learning (DCL);
Differential-Hebbian learning
Informações Adicionais: Este artigo descreve um algoritmo
de aprendizado competitivo diferencial que é proposto para
prevenir fixação no mínimo local e prover um resultado de
treinamento não supervisionado para a classificação de dados
sensados remotamente. A aprendizagem competitiva
diferencial (DCL) combina aprendizado competitivo e
aprendizado Hebbiano diferencial.

Autores: Pospichal, J; Kvasnicka, V.


Titulo: Application of 2-bit correlation in hill climbing with
learning
Tipo de Publicação: Artigo
Evento: The 2nd Slovak Conference on Artificial Neural
Networks SCANN'98, Kosice, Slovakia, 11/12-19/98
Dados Complementares: Vol. 8, no. 5, pp. 549-561. 1998.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Hill climbing optimization algorithm.
Ana Alvarez – Baldomero Luque 1
8
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
Informações Adicionais: Neste artigo são discutidas
modificações do algoritmo de otimização Standard Hill
Climbing considerando características de aprendizagem. O
conceito básico de este abordagem é o chamado vetor de
probabilidade, este vetor de probabilidade é calculado e
usado para atualizar os vetores de probabilidade usados
previamente por uma forma análoga da regra de
aprendizagem Hebbiana. O processo é repetido até que as
entradas do vetor de probabilidade estejam próximas a zero
ou a um.

4.2. APRENDIZADO COMPETITIVO


Em certas arquiteturas de redes neurais, os pesos de todos
os neurônios de uma camada são ajustados paralelamente
durante o processo de aprendizado (p.e. redes de perceptrons,
treinadas pelo algoritmo Backpropagation). Um diferente tipo de
aprendizado é conhecido como aprendizado competitivo, no
qual os neurônios de uma camada competem entre si pelo
privilégio de permanecerem ativos, tal que o neurônio com maior
atividade seja o único a participar do processo de aprendizado.
Assim, enquanto uma rede neural baseada em aprendizado
Hebbiano, vários neurônios de saída podem estar
simultaneamente ativos, no caso do aprendizado competitivo,
somente um neurônio de saída fica ativo a cada vez.
Fundamentalmente existem três elementos que caracterizam o
aprendizado competitivo:
 Existe um conjunto de neurônios idênticos, ligados por valores
de conexões sinápticas de valores distribuídos de modo
aleatório.
 Existe um valor Maximo bem definido para ativação dos
neurônios.
 Existe um mecanismo que permite que os neurônios entrem
em competição pelo direito de permanecerem excitados.
No aprendizado competitivo, entradas possuindo alguma
semelhança tendem a excitar o mesmo neurônio na saída
(Barreto 2001).
Os modelos mais conhecidos de redes neurais artificiais que
utilizam aprendizado competitivo são: A rede contra propagação
e a rede auto-organizável de Kohonen.
E apresentado o material relacionado a seguir.

• Material Relacionado

Ana Alvarez – Baldomero Luque 1


9
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
Autores: Van Hulle, Marc M
Titulo: Density-based clustering with topographic maps
Tipo de Publicação: Artigo
Evento: IEEE Transactions on Neural Networks [IEEE TRANS
NEURAL NETWORKS].
Dados Complementares: Vol. 10, no. 1, pp. 204-207. Jan
1999.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Bayesian statistics; Conscience learning;
Equiprobabilistic maps.
Nível: Bom
Informações Adicionais: Neste artigo é introduzido uma
nova regra de aprendizagem competitiva não supervisionada
chamada kernel-based Maximum Entropy learning Rule
(kMER) , para formação de mapas topográficas. Ele compara
o desempeno em clustering do kMER com outras regras de
aprendizagem competitiva.

Autores: Wang, Jung-Hua; Peng, Chung-Yun


Titulo: Competitive neural network scheme for learning
vector quantization
Tipo de Publicação: Artigo
Evento: Electronics Letters [ELECTRON. LETT.].
Dados Complementares: Vol. 35, no. 9, pp. 725-726. 1999.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Mean absolute error (MAE); Mean square
error (MSE)
Informações Adicionais: Neste artigo é apresentado um
novo modelo de rede neural de auto-desenvolvimento, que
emprega dois contadores de recurso para armazenar a
atividade do nó A rede proposta não somente harmoniza o
critério do MAE e MSE, também evita o dilema da estabilidade
e plasticidade.
Relação com temas: Vector quantization; Error analysis;
Computer simulation; Iterative methods.

Autor: Granino A. Korn.


Titulo: Neural Networks and Fuzzy Logic Control on Personal
Computers and Workstations.
Tipo de Publicação: Livro
Editor: The MIT Press Cambridge, Massachusetts, London ,
England, 1995.
Dados Complementares: 373 pág.
Fonte: BAE k842n
Informações Adicionais: No Capitulo 6 “Unsupervised
Competitive learning”, o autor introduz algoritmos de
aprendizagem template-matching e detecção de cluster,

Ana Alvarez – Baldomero Luque 2


0
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
também ele mostra bastantes exemplos de redes neurais não
supervisionados com aprendizagem competitivo.

Autores: Choy, Clifford Sze-Tsan; Siu, Wan-Chi


Titulo: Class of competitive learning models which avoids
neuron underutilization problem.
Tipo de Publicação: Artigo
Evento: IEEE Transactions on Neural Networks
Dados Complementares: Vol. 9, no. 6, pp. 1258-1269. Nov
1998.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Competitive learning models; Neuron
underutilization problem.
Informações Adicionais: Neste artigo, os autores
apresentam uma propriedade qualitativa dos modelos com
aprendizagem competitiva, o modelo é chamado
multiplicatively biased competitive learning (MBCL).
Relação com temas: Vector quantization; Problem solving;
Probability density function; Computational complexity.

Autores: Behnke, Sven; Karayiannis, Nicolaos B


Titulo: Competitive neural trees for pattern classification
Tipo de Publicação: Artigo
Evento: IEEE Transactions on Neural Networks
Dados Complementares: Vol. 9, no. 6, pp. 1352-1369. Nov
1998.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Neural trees; Decision tree; Search method
Informações Adicionais: Este artigo apresenta arvores de
redes competitivas (CNeT’s em inglês) para classificação de
padrões, os autores também introduzem alguns métodos de
busca para o CneT, que são utilizados para treinamento como
para memória.
Relação com temas: Pattern recognition; Learning systems;
Vectors; Decision theory; Algorithms; Computer architecture

Autores: Sidney Antonio A. Viana, Cairo L. Nascimento Jr.,


Jacques Waldmann
Titulo: Interceptação Visual de Alvos 3D usando Redes
Neurais de Aprendizado Não Supervisionado
Tipo de Publicação: Artigo
Evento: IV Congresso Brasileiro de Redes Neurais
Dados Complementares: pp 220-225, July 20-22, 1999 -
ITA, São José dos Campos - SP – Brasil.
Fonte: http://www.ele.ita.br/cnrn/artigos-
4cbrn/4cbrn_047.pdf
Palavras-Chave: Mapas de Kohonen, Aprendizado
competitivo.
Ana Alvarez – Baldomero Luque 2
1
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
Nível: Bom
Informações Adicionais: Este artigo aplica duas
arquiteturas de redes neurais: o mapa auto-organizado e o
aprendizado competitivo para solucionar o problema da
interceptação visual ou rastreamento visual de objetos em
sistema que utilizam câmeras de visão como elemento
sensor.
Relação com temas: Sistemas visuais.

Autores: Hung, Chih-Cheng; Coleman, Tommy L;


Scheunders, Paul.
Titulo: Using genetic differential competitive learning for
unsupervised training in multispectral image classification
systems
Tipo de Publicação: Artigo
Evento: Proc the IEEE International Conference on Systems,
Man, and Cybernetics. Part 5 (of 5), San Diego, CA, USA,
10/11-14/98
Dados Complementares:Vol. 5, pp. 4482-4485. 1998.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Differential competitive learning (DCL);
Differential-Hebbian learning.
Nível: Bom
Informações Adicionais:
O artigo descreve um algoritmo de aprendizado competitivo
genético diferencial, que é proposto para prevenir a fixação
do mínimo local. O algoritmo combina aprendizado
competitivo e hebbiano diferencial, e representa uma versão
neural de modulação delta adaptativo.
Relação com temas: Learning algorithms; Delta modulation;
Computer simulation

Autores: J. M. Buhmann and T. Hofmann.


Titulo: Robust Vector Quantization by Competitive Learning.
Tipo de Publicação: Artigo
Evento: Proceedings of the International Conference on
Accoustics, Speech and Signal Processing ICASSP'97, Munich.
Ano: 1997
Fonte: http://citeseer.nj.nec.com/buhmann97robust.html
Informações Adicionais: Os autores utilizam as redes
neurais competitivas para quantização eficaz de imagem e
vídeo, assim eles propõem uma nova classe de vetor de
quantização que desempenha compressão robusto de dados.

Autores: Thomas Hofmann and Joachim M. Buhmann.


Titulo: An Annealed Neural Gas Network for Robust Vector
Quantization.
Tipo de Publicação: Artigo
Ana Alvarez – Baldomero Luque 2
2
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
Evento: In C von der Malsburg, W von Seelen, J.C
Vorbruggen, and B. Sendhoff, editors, Artifitial Neural
Networks (ICANN '96)
Dados Complementares: Vol. 7, pp. 151-156. Springer,
Bochum Germany, July 1996.
Fonte: http://citeseer.nj.nec.com/hofmann96annealed.html
Palavras-Chave: Vector Quantization, Maximum Entropy
Vector Quantization.
Informações Adicionais: Este artigo mostra que o modelo
neural gás pode ser derivado como um robusto vetor de
quantização. Eles avaliam e comparam diferentes algoritmos
de quantização em uma aplicação de teleconferência.

Autores: C. Piepenbrock and K. Obermayer


Titulo: The effect of intracortical competition on the
formation of topographic maps in models of Hebbian learning
Tipo de Publicação: Artigo
Evento: Biological-Cybernetics
Dados Complementares: Vol. 82, pp 345-353, 2000.
Fonte: http://citeseer.nj.nec.com/239680.html
Palavras-Chave: Correlation based learning models, self-
organizing maps, Hebbian Learning.
Informações Adicionais: Os autores estudam o efeito de
competição intracortical da formação de mapas topográficos
em modelos de aprendizagem Hebbiano, sendo os modelos
de aprendizado baseados em correlação (CBL em inglês) y os
mapas auto-organizáveis (SOM em inglês) classes de modelos
hebbianos que tem ambos sido propostos para explicar a
formação de mapas corticais.

Autores: Anke Meyer-Bäse


Titulo: Quadratic-Type Lyapunov Functions for Competitive
Neural Networks with Different Time-Scales
Tipo de Publicação: Artigo
Fonte: http://citeseer.nj.nec.com/168601.html
Palavras-Chave: Lyapunov Functions, Competitive Neural
Networks.
Informações Adicionais: Este artigo investiga uma classe
especial de redes neurais lateralmente inibidas. Apresentam
uma função de tipo quadrática de Lyapunov para o fluxo de
uma rede neural competitiva com variáveis dinâmicas rápidas
e lentas.

Ana Alvarez – Baldomero Luque 2


3
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
1. REDES DE CONTRA PROPAGAÇÃO
(counterpropagation em inglês)

Este tipo de rede foi proposta por Robert Nielsen em


1987, sua principal utilização é em classificação de padrões,
aproximação de funções, analise estatística e aplicações que
requerem compressão de dados.
Segundo Celler a primeira camada funciona com aprendizado
competitivo e a segunda com aprendizado supervisionado e o
interessante de este paradigma é que ele permite obter
valores das conexões sinápticas de modo algorítmico, sem
iterações.
Quando um vetor de entrada é aplicado na camada de
entrada de esta rede, é pré processado e propagado para a
única camada intermediaria. Na camada intermediaria, cada
neurônio calcula sua saida (net) e compete com os outros
neurônios da mesma camada para ver quem tem o maior
valor. Apenas a unidade vencedora é que manda o seu sinal
para os neurônios da camada de saida.

2. REDES DE KOHONEN

Kohonen foi o pioneiro no desenvolvimento da teoria


das redes competitivas, esta rede é uma estrutura de duas
camadas de neurônios. A primeira camada é a de entrada e
seus neurônios estão completamente interconectados aos
neurônios da segunda camada denominada competitiva, que
é organizada em um arranjo dependente do objeto a ser
mapeado.
Esta rede será descrita com mais detalhe na seção 4.

4.3. APRENDIZADO O VENCEDOR LEVA TUDO (WTA em


inglês).
O aprendizado winner-take-all (WTA) é baseado na premisa
de que as unidades com menores atividades serão mais inibidas
que a unidade com maior atividade, de modo que esta se torna
vencedora da competição, sendo a única a participar do
aprendizado.
O aprendizado WTA esta relacionada com o aprendizado
competitivo e as redes de contra–propagação, e possui grande
importância na formação de redes neurais auto-organizáveis.
• Material Relacionado

Ana Alvarez – Baldomero Luque 2


4
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
Autores: Wang, DL
Titulo: Object selection based on oscillatory correlation
Tipo de Publicação: Artigo
Evento: Neural Networks [NEURAL NETWORKS].
Dados Complementares: Vol. 12, no. 4, pp. 579-592. 1999.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Object selection; Oscillatory correlation;
Local cooperation
Nível: Bom
Informações Adicionais: Neste artigo os autores propõem
uma arquitetura que mantêm a relação espacial entre as
características de entrada de uma rede winner-take-all (WTA).
Relação com temas: Neural networks; Learning systems;
Computer architecture; Image processing.

Autores: Sum, John PF; Leung, Chi-Sing; Tam, Peter KS;


Young, Gilbert H; Kan, WK; Chan, Lai-wan.
Titulo: Analysis for a class of winner-take-all model
Tipo de Publicação: Artigo
Evento: IEEE Transactions on Neural Networks [IEEE TRANS
NEURAL NETWORKS].
Dados Complementares: Vol. 10, no. 1, pp. 64-71. Jan
1999.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Inputless winner-take-all neural networks
Informações Adicionais: Neste artigo os autores analisam a
resposta no tempo para uma classe de circuito winner-take-all
(WTA) que envolve auto deterioro, e mostram que a resposta no
tempo de tal classe de WTA é a mesma que de um modelo
simples WTA.
Relação com temas: Electric network analysis; Electric
network synthesis; Mathematical models; Response time
(computer systems)

Autores: Lin, Gu; Shi, Bingxue.


Titulo: Novel multifunction voltage-mode sorter based on
magnitude
Tipo de Publicação: Artigo
Evento: TIEN TZU HSUEH PAO.
Dados Complementares: Vol. 26, no. 11, pp. 25-28. 1998.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Switched capacitors; Voltage mode sorter
Informações Adicionais: Os autores propõem a fabricação
de um classificador multifuncional de modo voltagem
baseada em magnitude. Neste classificador, circuitos com
capacitor comutado são utilizados para sinais de entrada, e
para encontrar o nível maximo de voltagem são empregadas
redes WTA.
Ana Alvarez – Baldomero Luque 2
5
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
Relação com temas: Switching circuits; MOS capacitors.

4. REDE NEURAL DE KOHONEN

4.1. DEFINIÇÃO
O modelo de KOHONEN é uma rede neural linear não
supervisionada de camada única totalmente conectada, cuja
saída é organizada em uma ou duas dimensões. Considerando
uma rede de duas dimensões, o paradigma de KOHONEN não
impõe em absoluto nenhuma forma topológica podendo ser
hexagonal, retangular, triangular, etc.

Fig 01. Exemplo de um mapa de Kohonen com neurônios de saídas


usadas de forma bidimensional.

Nesta figura acima as entradas estão conectadas com as saídas,


este "comportamento" tem por objetivo fazer com que a rede
simule uma atividade cerebral.

Conforme KOHONEN (1987), o esquema básico de um modelo de


KOHONEN faz com que neurônios da camada de saída disputem
entre si a representação da informação apresentada aos
neurônios de entrada. Os pesos são dados de acordo com a
distância de acordo com uma função do "chapéu mexicano" ou
“Difference of Gaussians” (DOG). Havendo um neurônio
vencedor, este é reajustado para responder ainda melhor ao
estímulo recebido. Dentro deste modelo não supervisionado, não
somente o vencedor, mas também os seus vizinhos (dentro de
um senso físico) são ajustados.

Ana Alvarez – Baldomero Luque 2


6
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado

Fig 02: Função do “Difference of Gaussians” (DOG).

A rede “Self Organizing Maps” (SOM) de Kohonen realiza um


mapeamento de um espaço contínuo de entrada para um espaço
discreto de saída, onde as propriedades topológicas da entrada
são preservadas.
Quando a SOM se adapta a entradas de altas dimensões, ela
deve se estender e enrolar para cobrir o espaço de entrada.

4.2. Material Relacionado classificados de acordo a suas


aplicações

• SOM: Imagem e vídeo

Autor: Nikos Papamarkos


Titulo: Color Reduction Using Local Features And A SOFM Neural
Network
Tipo de Publicação: Artigo
Fonte: http://ipml.ee.duth.gr/~papamark/color
%20reduction.doc.PDF
Palavras-Chave: Color Image Segmentation, Local Features,
Neural Networks, SOFM.
Informações Adicionais: Este artigo propõe o uso dos
componentes da cor da imagem e características locais da
imagem para alimentar uma rede neural “Self Organizing
Feature Maps” (SOFM) de Kohonen. O método é aplicável a
qualquer tipo de imagens, são apresentados diversos resultados
experimentais e comparativos que exibem o desempenho da
técnica proposta.

Autores: Sidney Antonio A. Viana, Cairo L. Nascimento Jr.,


Jacques Waldmann

Ana Alvarez – Baldomero Luque 2


7
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
Titulo: Interceptação Visual de Alvos 3D usando Redes Neurais
de Aprendizado Não Supervisionado
Tipo de Publicação: Artigo
Evento: IV Congresso Brasileiro de Redes Neurais
Dados Complementares: pp 220-225, July 20-22, 1999 - ITA,
São José dos Campos - SP – Brasil.
Fonte: http://www.ele.ita.br/cnrn/artigos-4cbrn/4cbrn_047.pdf
Palavras-Chave: Mapas de Kohonen, Aprendizado competitivo.
Nível: Bom
Informações Adicionais: Este artigo aplica duas arquiteturas
de redes neurais: o mapa auto-organizado e o aprendizado
competitivo para solucionar o problema da interceptação visual
ou rastreamento visual de objetos em sistema que utilizam
câmeras de visão como elemento sensor.
Relação com temas: Sistemas visuais.

Autor: Owechko, Y
Titulo: Optical Neural Networks Based On Distributed
Holographic Gratings
Tipo de Publicação: Technical Repport
Editor: Hughes Research Labs., Malibu, CA.
Dados Complementares: 94 páginas, ano 1996, Report: HAC-
REF-J6305.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Neurocomputer, Perceptron, Kohonen,
Backpropagation.
Informações Adicionais: Este relatório descreve a pesquisa
das redes neurais óticas executada em laboratórios de pesquisa
Hughes, patrocinada por DARPA.
O neurocomputador ótico desenvolvido é baseado em um tipo
novo de hologramas múltiplos. As redes neurais executadas
incluem Perceptron, a memória associativa bidirecional, SOMs de
Kohonen, e as redes neurais Backpropagation.

Autor: Hugues Bélanger


Titulo: Kohonen Neural Network For The Detection Of Objects
Contours In A Graylevel Image
Tipo de Publicação: Tese
Ano: 1998
Fonte: http://Www.Livia.Etsmtl.Ca/Publications/1998/Th-1998-
Belanger.Pdf
Palavras-Chave: Gradient, Noise, Global Processing, Algorithm,
Som.
Informações Adicionais: O trabalho apresenta dois algoritmos
dentro de uma estrutura comum. Trata-se sobre a detecção de
objetos de contorno de uma imagem usando mapas
autorganizáveis de Kohonen.

Ana Alvarez – Baldomero Luque 2


8
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
Autores: R.Sergi, B.Solaiman and M.C.Mouchot
Titulo: Image Classification Using Principal Components Analysis
And Neural Networks
Tipo de Publicação: Artigo
Editor: “Quantitative Remote Sensing for Science and
Applications IEEE", "New York, NY, USA 1995".
Dados Complementares: Volume 3, páginas 1927-29, ano
1995.
Fonte: http://citeseer.nj.nec.com/cache/papers/cs/25137/
Palavras-Chave: Self-Organizing Feature Maps, Hybrid Learning
Vector Quantization, and Image Classification.
Informações Adicionais: Neste artigo, é discutida uma
aplicação de redes neurais para a análise de imagens
multiespectrais. Os métodos da análise de dados para imagens
remotamente detectadas são baseados principalmente em
aproximações estatísticas, tais como a probabilidade máxima ou
métodos Bayessianos. Neste caso, a classificação é executada
sob a suposição gaussiana. O alvo deste trabalho é fazer a
classificação do terreno usando três métodos neurais de
classificação SOFM, HLVQ e MLP.

• SOM: Reconhecimento de padrões.

Autor: Lagus, K.
Titulo: Text Retrieval Using Self-Organized Document Maps
Tipo de Publicação: Relatório técnico A61
Editor: Helsinki University of Technology, Laboratory of
Computer and Information Science, ISBN 951-22-5145-0.
Ano: 2000.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Information Retrieval, SOM, Text Mining,
Document Maps, and LSI.
Informações Adicionais: Este relatório descreve como um
mapa de textos que esta organizada automaticamente para a
busca e visualização pode com sucesso ser utilizado também em
a recuperação acelerada do original. Além disso, as experiências
na coleção de CISI indicam o desempenho melhorado comparado
ao modelo do espaço do vetor de Salton e ao “Latent Semantic
Indexing”, medido pela precisão média ao recuperar um número
pequeno, fixo dos mais melhores originais.

Autores: Maurício Martins, Lamartine Guimarães e Leila Maria


Fonseca.
Titulo: Classificador de texturas por redes neurais.
Tipo de Publicação: Artigo
Evento: II Congresso Brasileiro de Computação CBComp -
Inteligência Artificial.
Ana Alvarez – Baldomero Luque 2
9
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
Ano: 2002
Fonte: http://www.cbcomp.univali.br/pdf/2002/ina007.pdf.
Palavras-Chave: Redes neurais, mapas auto-organizáveis,
recuperação de informações visuais, recuperação de
similaridade, filtros Gabor.
Informações Adicionais: O trabalho estuda de um classificador
de atributos de textura de imagens de sensoriamento remoto
que é constituído de um sistema híbrido composto de uma rede
neural não supervisionada e uma supervisionada. A partir de
uma pequena porção da imagem a rede deverá reconhecer qual
a classe mais próxima do padrão e identificar as imagens onde
se pode identificar padrões semelhantes. Os atributos de textura
que formam a base da rede neural são vetores obtidos a partir
de imagens processadas por um banco de filtros Gabor.

Autores: Srinivasa, Narayan; Ahuja, Narendra


Titulo: Topological And Temporal Correlator Network For
Spatiotemporal Pattern Learning, Recognition, And Recall
Tipo de Publicação: Artigo
Editor: IEEE Transactions on Neural Networks [IEEE TRANS
NEURAL NETWORKS].
Dados Complementares: volume 10, número 2, páginas 2, ano
1999.
Fonte: http://alt3.csa3.com/
Informações Adicionais: Neste artigo, descreve-se o desenho
de uma rede neural artificial para o reconhecimento de padrões.
Aplicando os mapas autorganizáveis de Kohonen. Estas
características são usadas para classificar a entrada das
categorias baseadas na rede Fuzzy.

Autores: A. Rauber, D. Merkl, and M. Dittenbach


Titulo: The Growing Hierarchical Self-Organizing Map:
Exploratory Analysis of High-Dimensional Data
Tipo de Publicação: Artigo
Evento: In: IEEE Transactions on Neural Networks.
Dados Complementares: Vol. 13, No 6, pp. 1331-1341,
November 2002
Fonte:
http://www.ifs.tuwien.ac.at/ifs/research/pub_pdf/rau_tnn02_erratu
m.pdf
Palavras-Chave: Self-Organizing Map (SOM), Data Mining,
Hierarchical Clustering, Exploratory Data Analysis, Pattern
Recognition.
Informações Adicionais: Os autores apresentam neste artigo
uma nova hierarquia para o mapa auto organizável que trata as
duas grandes limitações dos mapas auto organizáveis que são: a
arquitetura estática de este modelo e a capacidade limitada para
a representação da relação hierárquica do dado.
Ana Alvarez – Baldomero Luque 3
0
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado

Autores: Suganthan, PN
Titulo: Hierarchical Overlapped SOM's For Pattern Classification
Tipo de Publicação: Journal Article
Editor: IEEE Transactions on Neural Networks [IEEE TRANS
NEURAL NETWORKS].
Dados Complementares: volume 10, número 1, páginas 193 –
196, ano 1999.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Self-Organizing Maps, learning vector
quantization (LVQ) 2.
Informações Adicionais: Este artigo desenvolve mapas
autorganizáveis associadas a esquemas de aprendizagens para
aplicações etiquetadas como classificação de padrões. O
algoritmo consiste em uma aprendizagem não supervisionado
SOM.

Autores: Morton, PR; Fix, EL; Calhoun, GL


Titulo: Hand Gesture Recognition Using Neural Networks
Tipo de Publicação: Artigo
Editor: Armstrong Lab., Wright-Patterson AFB, OH. Crew
Systems Directorate.
Dados Complementares: 36 páginas, ano 1996, Report:
AL/CF-SR-1996-0005.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Recognition, Multilayer Perceptron, Kohonen
Self-Organizing Feature Map.
Informações Adicionais: O objetivo deste artigo é explorar a
utilidade de uma rede neural baseada na aproximação ao
reconhecimento de gestos das mãos. Dois tipos de redes neurais
SOMs e MLP foram explorados. Ambos mostraram melhoras, mas
o modelo do Perceptron è mais rápido para a implementação e
classificação.

Autores: Kohonen, T., Kaski, S., Lagus, K., Salojärvi, J., Honkela,
J., Paatero, V., and Saarela, A.
Titulo: Self Organization Of A Massive Text Document Collection
Tipo de Publicação: Livro
Dados Complementares: páginas pages 171-182, ano 2001.
Editor: In Oja, E. and Kaski, S., editors Elsevier, Amsterdam.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Large Self-Organizing Maps, Text Exploration,
Knowledge Discovery, Patent Abstracts, And Content-
Addressable Search.
Informações Adicionais: O livro aplica SOM para o
mapeamento de documentos, trabalha sobre uma base de sete
milhões de originais de todos os patentes no mundo que foram
escritos em inglês e estão disponíveis no formulário eletrônico,
Ana Alvarez – Baldomero Luque 3
1
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
novos efetivos códigos e esquemas computacionais do
mapeamento são descritos.

Autores: E. F. Vieira and J. D. Ponz


Titulo: Automated Spectral Classification Using Neural Networks
Tipo de Publicação: Artigo
Evento: Astronomical Data Analysis Software and Systems VII,
Dados Complementares: ASP Conference Series, Vol. 145,
1998. Editors: R. Albrecht, R. N. Hook and H. A. Bushouse.
Fonte: http://www.stsci.edu/stsci/meetings/adassVII/vieirae.html
Palavras-Chave: Neural Networks, Unsupervised classification,
Self Organized Maps.
Informações Adicionais: Este artigo descreve uma aplicação
de um método automático para o problema de classificação de
espectro estelar, os autores exploram dois métodos de
classificação automática: classificação usando redes neurais
artificiais supervisionadas e mapas auto-organizáveis não
supervisionadas.

Autor: Kaski, S.
Titulo: Fast Winner Search For SOM Based Monitoring And
Retrieval Of High-Dimensional Data.
Tipo de Publicação: Artigo
Evento: Proceedings of ICANN99, Ninth International Conference
on Artificial Neural Networks; IEE London.
Dados Complementares: Volume 2, páginas 940-945, ano
1999
Fonte: http://alt3.csa3.com/
Palavras-Chave: Vectors Of The Map, Self-Organizing Maps.
Informações Adicionais: Neste artigo é proposto um método
para reduzir a quantidade de operações restringindo a busca a
determinados subespaços de pequenas dimensiones do espaço
original. O método é apropriado para as aplicações em que o
mapa pode ser computado off-line, por exemplo, nos dados que
monitoram, classificação, e recuperação de informação.

Autores: Kohonen, T.
Titulo: Exploration Of Very Large Databases By Self-Organizing
Maps.
Tipo de Publicação: Texto
Evento: In Proceedings of ICNN'97, International Conference on
Neural Networks, IEEE Service Center, Piscataway, NJ.
Dados Complementares: páginas PL1-PL6, Ano 1997.
Ana Alvarez – Baldomero Luque 3
2
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
Fonte: http://alt3.csa3.com/
Palavras-Chave: Self-Organizing Map, Addressable Memory.
Informações Adicionais: Este texto descreve um sistema de
organização dos dados e uma memória de direcionamento
chamado WEBSOM. É uma arquitetura autorganizável de duas
camadas (SOM) onde os documentos são mapeados como pontos
no mapa superior. As ferramentas padrão podem selecionar dos
subconjuntos originais do mapa que são os mais similares
mutuamente.

• SOM: Técnicas matemáticas.

Autores: Smith, Kate; Palaniswami, Marimuthu; Krishnamoorthy,


Mohan
Titulo: Neural Techniques For Combinatorial Optimization With
Applications
Tipo de Publicação: Artigo
Editor: IEEE Transactions on Neural Networks [IEEE TRANS
NEURAL NETWORKS].
Dados Complementares: Vol. 9, Numero 6, paginas 1301-
1318. Nov 1998.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Combinatorial Optimization, Hopfield
Networks, Self-Organizing Maps.
Nível: Bom
Informações Adicionais: Neste artigo as redes de Hopfield e os
mapas autorganizáveis são as duas categorias principais em que
as maiorias das aproximações podem ser divididas. Este artigo
propõe duas técnicas: uma rede de Hopfield que permita a
praticabilidade das soluções e qualidade melhorada da solução
com o escape aos mínimos locais, e uma rede neural auto-
organizável generalizada para resolver uma classe de problemas
combinatórios de otimização.

Autores: E. Oja and S. Kaski


Titulo: Kohonen Maps
Tipo de Publicação: Livro
Dados Complementares: Elsevier Science, 1999
Fonte: http://www.elsevier.nl/locate/isbn/0-444-50270-X
Informações Adicionais: Este livro tem 30 capítulos, os quais
cobrem o estado atual da teoria SOM, tal como as conexões de
SOM para clusterização, classificação, modelos probabilísticos e
funções de e energia, alem, muitas aplicações de SOM são
dadas. Modelos biológicos relacionados com SOM são discutidos.

Ana Alvarez – Baldomero Luque 3


3
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
Autores: O. Sarzeaud, Y. Stéphan, F. Le Corre and L. Kerléguer
Titulo: Neural Meshing Of A Geographical Space In Regard To
Oceanographic Data Location
Tipo de Publicação: Artigo
Ano: 1994
Fonte: http://citeseer.nj.nec.com/cache/papers/cs/20950/
Palavras-Chave: Geographical Area, Kohonen’s Networks.
Informações Adicionais: Neste artigo apresenta-se um método
para mapear uma área geográfica com respeito às posições
oceanográficas dos dados. O mapa é conseguido usando redes
de Kohonen. A idéia é adaptar a posição dos nós (neurônios)
sucessivamente considerando a posição de cada dados e
movendo o nó o mais próximo e seus vizinhos para esta posição.
Testa-se este método em uma base de dados hidrológicos do
nordeste do Oceano Atlântico.

Autores: Jang-Hee Yoo, Byoung-Ho Kang, and Jae- Woo Kim


Titulo: A Clustering Analysis And Learning Rate For Self-
Organizing Feature Map
Tipo de Publicação: Artigo
Evento: "Proc. 3rd International Conference on Fuzzy Logic,
Neural Nets and Soft Computing"
Dados Complementares: páginas 79--80, ano 1994.
Fonte: http://citeseer.nj.nec.com/206859.html
Palavras-Chave: Neural Network, Self-Organizing Feature Map,
Clustering Analysis.
Informações Adicionais: Este artigo apresenta o método
melhorado da convergência usando a taxa de aprendizagem
ajustada e a análise de clusterização na rede de Kohonen. Eles
propõem também o método de medição do erro usando a
distância de Hamming entre padrões de cada classe e de centros
do conjunto.

• SOM: Inteligência artificial.

Autores: Bengtsson, M
Titulo: Hierarchical Clustering In A Mean Field Theory
Tipo de Publicação: Relatório cientifico
Editor: Foersvarets Forskningsanstalt, Linkoeping (Sweden).
Dept. of Command and Control Warfare Technology.
Dados Complementares: 23 páginas, ano1996, Report: FOA-R-
96-00298-3.4-SE.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Hierarchical Clustering, Kohonen Self-
Organizing Map, Standard Vector Quantization, Gaussian
Clusters.
Informações Adicionais: Neste relatório demonstra-se que o
vetor de quantização e o mapa autorganizável de Kohonen são
Ana Alvarez – Baldomero Luque 3
4
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
incapazes de resolver as tarefas de clusterização em uma
aproximação média do campo.

Autores: H.-U. Bauer, Th. Villmann


Titulo: Growing A Hypercubical Output Space In A Self-
Organizing Feature Map
Tipo de Publicação: Relatório técnico 95-030
Dados Complementares: volume 8, número 2, páginas 218 -
226, ano 1997 "IEEE Transactions on Neural Networks".
Fonte: http://citeseer.nj.nec.com/cache/papers/cs/1944/
Palavras-Chave: Neighboring Neurons, Kohonen’s Self-
Organizing Feature Map (SOFM), and GSOM Algorithm.
Informações Adicionais: O relatório técnico refere à
propriedade de preservação das vizinhanças, de uma maneira
ótima durante a aprendizagem, a topologia do espaço da saída
tem que aproximadamente combinar a estrutura eficaz do
GSOM, que realça um processo difundido do “Self Organizing
Feature Map” (SOFM).

Autor: Raul Sidnei Wazlawick.


Titulo: Um Modelo Operatório Para Construção De Conhecimento
Tipo de Publicação: Tese
Ano: 1993
Fonte: http://www.inf.ufsc.br/~raul/publica/tese/
Palavras-Chave: Algoritmos Genéticos, Rede Neural não
supervisionada, Estruturas cognitivas.
Nível: Bom
Informações Adicionais: Este trabalho procura adaptar
aspectos da teoria da cognição à área de inteligência de
máquina mediante o desenvolvimento de um modelo baseado
em rede neural com aprendizagem não supervisionada e
algoritmos genéticos.

Autor: Timo Honkela


Titulo: Self-Organizing Maps In Natural Language Processing
Tipo de Publicação: Tese
Ano: 1997
Fonte: http://www.cis.hut.fi/~tho/thesis/
Palavras-Chave: Self-Organizing Maps, Inteligência Artificial,
Processamento Da Linguagem Natural.
Nível: Bom
Informações Adicionais: O tópico central da tese é o uso do
SOM em processamento da linguagem natural. A aproximação
baseada nos mapas autorganizáveis é comparada com os
métodos que são usados extensamente na pesquisa da
inteligência artificial. A área de aplicação principal é recuperação
de informação e “Textual Data Mining” para o qual um método
específico baseado em SOM chamado WEBSOM foi desenvolvido.
Ana Alvarez – Baldomero Luque 3
5
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado

Autores: R. Hans Phaf Paul Den Dulk Adriaan Tijsseling Ed


Lebert
Titulo: Novelty-Dependent Learning And Topological Mapping
Tipo de Publicação: Artigo
Editor: Connection Science
Ano: 2001
Fonte:
http://www.tijsseling.com/academic/download/calmmap.pdf
Palavras-Chave: Self Organizing Feature Map, Winner-Take-All,
Activity Bubble.
Informações Adicionais: Neste artigo trata-se do ordenamento
topológico não supervisionado, similar ao “Self Organizing
Feature Map” de Kohonen. A competição “Winner-Take-All” e a
“Activity Bubble” são tratados na inibição lateral classificada
entre unidades.

• SOM: Engenharia na biologia e na medicina.

Autores: Delibasis, KK; Mouravliansky, N; Matsopoulos, GK;


Nikita, KS; Marsh, A
Titulo: MR Functional Cardiac Imaging: Segmentation,
Measurement And WWW Based Visualization Of 4D Data
Tipo de Publicação: Artigo
Editor: FUTURE GENER COMPUT SYST.
Dados Complementares: volume 15, número 2, páginas 185 –
193, ano1999.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Self-Organizing Maps (SOM); Seeded Region
Growing Algorithms; Magnetic Resonance Functional Cardiac
Imaging
Informações Adicionais: Neste artigo considera-se o problema
da segmentação e da visualização ventricular (4D) do SR. Quatro
métodos diferentes são avaliados para o processo da
segmentação dos objetos de interesse: O algoritmo de
clusterização K-means, o fuzzy K, o algoritmo (FKM), mapas self-
organizing (SOMs).

Autores: Varsta, M; Heikkonen, J; Millan, J


Titulo: Epileptic Activity Detection In EEG With Neural Networks
Tipo de Publicação: Artigo
Editor: Performer: Helsinki Univ. of Technology, Espoo (Finland).
Dados complementares: 13pag. Ano 1997 Report: RR-B-3,
ISBN-951-22-3542-0
Fonte: http://alt3.csa3.com/
Palavras-Chave: Self-Organizing Maps (Soms), Multilayer
Perceptron (MLP), Quantized Vectors, Haralick Features.

Ana Alvarez – Baldomero Luque 3


6
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
Informações Adicionais: Neste artigo os autores propõem uma
rede neural baseada num sistema de treinamento para detectar
a atividade epiléptica. O sistema compreende de três
componentes principais: caracterização da extração, a
quantização da caracterização, e a classificação. Os
componentes chaves na aproximação proposta são os mapas
autorganizáveis (SOMs) usados para quantificar vetores de
caracterização e a rede multilayer Perceptron (MLP) usada para
classificar os vetores quantificados.

Autores: Berrin Yanikoglu ; Burak Erman


Title: Minimum Energy Configurations Of The 2-Dimensional HP-
Model Of Proteins By Self-Organizing Networks
Tipo de Publicação: Artigo
Dados Complementares: volume 9, número 4, páginas 613 –
620, ano 2002
Fonte: Journal of Computational Biology
Palavras-Chave: Self-Organizing Maps (SOM), HH Interactions,
Minimum Energy.
Informações Adicionais: O artigo usa os mapas auto-
organizáveis (SOM) como uma ferramenta eficiente para
encontrar as configurações mínimas da energia dos modelos HP
bi-dimensional das proteínas. Relata os resultados prometedores
para os casos quando a proteína enche completamente, todas as
seqüências de teste até 36 aminoácidos, o algoritmo pode
encontrar o mínimo global e sua degeneração.
Autores: Kaski, S
Titulo: Data Exploration Using Self-Organizing Maps. Acta
Polytechnica Scandinavica Mathematics, Computing and
Management in Engineering Series No. 82
Tipo de Publicação: Artigo
Editor: Helsinki Univ. of Technology, Espoo (Finland). Neural
Networks Research Center.
Dados Complementares: 1997. 144pag. Report: MA-82, ISBN-
952-5148-13-0.
Fonte: http://alt3.csa3.com/
Palavras-Chave: SOM Algorithms, Electroencephalograms, Data
Mining.
Informações Adicionais: Neste trabalho, a metodologia de
usar SOMS para a exploração, análise de dados ou “Data Mining”
é revisada e desenvolvida ainda mais. As propriedades dos
mapas são comparadas com as propriedades dos métodos
relacionados para a visualização de um conjunto de dados
multivariáveis de elevada dimensão. Em um conjunto de casos
estudados, o algoritmo de SOM é aplicado para analisar
eletroencefalogramas. As medidas são propostas para avaliar a
qualidade dos diferentes tipos de mapas numa série de
conjuntos de dados. As mesmas medidas podem também ser
Ana Alvarez – Baldomero Luque 3
7
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
usadas comparando o conhecimento que os mapas diferentes
representam.

• SOM: Teoria de informação

Autores: E. Schweighofer, and A. Rauber, and M. Dittenbach


Titulo: Improving the Quality of Labels for Self-Organising Maps
Using Fine-Tuning
Tipo de Publicação: Artigo
Evento: In: Proceedings of the DEXA Workshop on Legal
Information Systems and Applications (LISA01), Munich,
Germany, IEEE, 2001.
Dados Complementares: Sept. 4, 2001.
Fonte:
http://www.ifs.tuwien.ac.at/ifs/research/pub_pdf/sch_lisa01.pdf
Informações Adicionais: Neste artigo mostram o
melhoramento da qualidade dos mapas auto-organizáveis.

Autores: Ruiz-del-Solar, Javier


Titulo: TEXSOM: Texture Segmentation Using Self-Organizing
Maps
Tipo de Publicação: Artigo
Editor: NEUROCOMPUT.
Dados Complementares: Vol. 21, no. 1-3, paginas 7-18. Oct
1998.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Adaptive-Subspace, Self-Organizing Map,
ASSOM..
Informações Adicionais: Este artigo descreve a arquitetura
chamada TEXSOM, uma arquitetura da segmentação da textura.
Nesta arquitetura os filtros orientados são gerados
automaticamente usando o mapa autorganizáveis ou o modelo
neural supervisionado ASSOM. A arquitetura proposta é também
apropriada executar a identificação do defeito em imagens
texturadas.

Autores: T. Kohonen, S. Kaski, K. Lagus, J. Salojärvi, J. Honkela,


V. Paatero, and A. Saarela.
Titulo: Self Organization Of A Massive Document Collection
Tipo de Publicação: Artigo
Evento: IEEE Transactions on Neural Networks. Special Issue on
Neural Networks for Data Mining and Knowledge Discovery
Dados Complementares: volume 11, número 3, páginas 574-
585, ano 2000.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Self-Organizing Map, SOM Algorithm,
Statistical Representations.

Ana Alvarez – Baldomero Luque 3


8
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
Informações Adicionais: Este artigo descreve a
implementação de um sistema que possa organizar coleções de
documentos de acordo com a similaridade textual. É baseado no
algoritmo (SOM). O objetivo principal deste trabalho é escalar
acima do algoritmo de SOM para poder tratar das quantidades
grandes de dados.

Autores: A. Rauber, D. Merkl, and M. Dittenbach


Titulo: The Growing Hierarchical Self-Organizing Map:
Exploratory Analysis of High-Dimensional Data
Tipo de Publicação: Artigo
Evento: In: IEEE Transactions on Neural Networks.
Dados Complementares: Vol. 13, No 6, pp. 1331-1341,
November 2002
Fonte:
http://www.ifs.tuwien.ac.at/ifs/research/pub_pdf/rau_tnn02_erratu
m.pdf
Palavras-Chave: Self-Organizing Map (SOM), Data Mining,
Hierarchical Clustering, Exploratory Data Analysis, Pattern
Recognition.
Informações Adicionais: Os autores apresentam neste artigo
uma nova hierarquia para o mapa auto organizável que trata as
duas grandes limitações dos mapas auto organizáveis que são: a
arquitetura estática de este modelo e a capacidade limitada para
a representação da relação hierárquica do dado.

• SOM: Voz

Autores: Kurimo, M
Titulo: Training Mixture Density Hmms With SOM And LVQ
Tipo de Publicação: Artigo
Editor: Performer: Helsinki Univ. of Technology, (Finland). Lab.
of Computer and Information Science.
Dados Complementares: 32 paginas, ano 1997 Report: ISBN-
951-22-3423-8.
Fonte: http://alt3.csa3.com/
Palavras-Chave: SOM (Self Organizing Maps), LVQ (Learning
Vector Quantization), HMM (Hidden Markov Models).
Informações Adicionais: O objetivo deste artigo é apresentar
experiências e discussões de como alguns algoritmos da rede
neural podem ajudar ao reconhecimento da voz com modelos
misturados de densidade escondia de Markov (MDHMMs). LVQ é
usada para aumentar a discriminação entre modelos diferentes
do fonema, e SOM é aplicado para fornecer apropriadamente o
treinamento e acelerar a convergência do treinamento real.

Autores: A. Rauber, E. Pampalk, D. Merkl

Ana Alvarez – Baldomero Luque 3


9
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
Titulo: Using Psycho-Acoustic Models and Self-Organizing Maps
to Create a Hierarchical Structuring of Music by Musical Styles
Tipo de Publicação: Artigo
Evento: In: Proceedings of the 3rd International Conference on
Music Information Retrieval (ISMIR 2002), Paris, France.
Dados Complementares: pp. 71-80, October 13-17, 2002.
Fonte:
http://www.ifs.tuwien.ac.at/ifs/research/pub_pdf/rau_ismir02.pdf
Informações Adicionais: Neste artigo propõem uma
abordagem para criar automaticamente uma organização
hierárquica de arquivos musicais seguindo suas similaridade de
sons.
Autores: Hadley, RF; Cardei, VC
Titulo: Acquisition Of The Active-Passive Distinction From Sparse
Input And No Error Feedback
Tipo de Publicação: Relatório Técnico no CSS-IS TR97-01
Editor: Simon Fraser University. Center for Systems Science,
Burnaby, (British Columbia).
Dados Complementares: páginas 64, ano 1997.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Self organizing Map, Feedback.
Informações Adicionais: Neste relatório técnico mostra-se
uma rede de processamento paralelo e atribui o significado das
interpretações tanto em voz ativa e passiva. As sentenças do
treinamento e de teste são geradas de uma forma gramática
recursiva simples, mas treinado uma vez, a rede é ajustada para
processar milhares das sentenças que contêm cláusulas
profundamente encaixadas. São empregados Kohonen e Hebbian
para o treinamento. Os resultados mostram o grau de realização
dos critérios para a sistematização sintática e semântica.

Autores: Ana Cristina Strutzel Antunes.


Titulo: O uso do mapa de kohonen para traçado de trajetórias do
sinal da fala
Tipo de Publicação: Dissertação de mestrado
Ano: 1993
Fonte: Periódico da CAPES
Palavras-Chave: Visualização de sinais, mapas auto-
organizáveis, sinais de fala.
Informações Adicionais: Este trabalho analisa os melhores
métodos para visualização dos sinais da fala, quando distribuídos
sobre mapas fonotópicos. A visualização dos elementos testados,
utilizando-se as trajetórias geradas pela quantização vetorial
sobre os centróides calculados, e as trajetórias geradas pelo
algoritmo de kohonen sobre os mapas auto-organizáveis.
Relação com temas: Processamento digital de sinais.

• SOM: Controle
Ana Alvarez – Baldomero Luque 4
0
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado

Autores: D.A. Karras, S.A. Karkanis and B.G. Mertzios


Titulo: Supervised And Unsupervised Neural Network Methods
Applied To Textile Quality Control Based On Improved Wavelet
Feature Extraction Techniques.
Tipo de Publicação: Artigo
Fonte: http://www.di.teilam.gr/staff/KARKANIS/j_MATH.PDF
Palavras-Chave: Neural Networks, Wavelets, Texture,
Concurrence matrices, Quality Control.
Informações Adicionais: Este artigo investiga as soluções ao
problema de detecção das imagens, As soluções propostas
focalizam-se em detectar defeitos têxteis. Uma nova
metodologia é investigada mais especificamente para defeitos
discriminadores de imagens aplicando técnicas de
supervisionado e não supervisionados para classificação;
empregando os Perceptrons Multilayer (MLP), treinamento com o
algoritmo de Backpropagation, e as Self Organizing Feature Maps
de Kohonen (SOFM) respectivamente.

Autores: Turhan-Sayan, Gonul; Leblebicioglu, Kemal; Ince,


Turker
Titulo: Electromagnetic Target Classification Using Time-
Frequency Analysis And Neural Networks
Tipo de Publicação: Artigo
Editor: Microwave and Optical Technology Letters [MICROWAVE
OPT TECHNOL LETT].
Dados Complementares: Vol. 21, no. 1, paginas 63-69. 1999.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Electromagnetic Target Classification; Self-
Organizing Maps; Wigner Distributions.
Informações Adicionais: Este artigo mostra as vantagens de
usar um mapa autorganizáveis (SOM) para o reconhecimento
eletromagnético do alvo. A técnica proposta da classificação do
alvo é testada para um jogo de alvos canônicos, indicando um
desempenho excelente nos termos da velocidade em tempo real
e da exatidão da classificação, uniformes na presença de dados
ruidosos.

Autores: Guilherme de A. Barreto e Aluízio F. R. Araújo


Titulo: Uma rede neural auto-organizável para processamento
de seqüências temporais: um estudo de caso em robótica
Tipo de Publicação: Artigo
Evento: Anais do XIII Congresso Brasileiro de Automática (CBA)
Ano: 2000

Ana Alvarez – Baldomero Luque 4


1
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
Fonte:
http://www.sel.eesc.sc.usp.br/lasi/www/gbarreto/cba2000b.pdf
Palavras-Chave: Robotics, neural networks, Hebb’s learning
rule, temporal sequences, context.
Nível: Bom
Informações Adicionais: Neste trabalho os autores propõem
uma rede auto-organizável para aprendizagem e reprodução de
seqüências temporais complexas que tem um mecanismo de
redundância na representação dos itens de uma seqüência,
melhora a robustez da rede a ruídos e falhas. O modelo que é
proposto é testado no problema de rastreamento de trajetórias
do robô PUMA 560 e seu funcionamento é comparado com outros
modelos neurais existentes.
Relação com temas: Robótica.

• SOM: Processamento de sinal

Autores: B. I. Bogdanov, I. I. Yushkov


Titulo: Application Neuron-Like Structures For Acoustic Signals
Tipo de Publicação: Artigo
Ano: 2000
Fonte: http://www.akin.ru/Docs/Rao/Ses10/Am18.PDF
Nível: Regular
Informações Adicionais: Neste artigo são tratadas as redes
dinâmicas de Hopfield o qual é usada como a rede de
identificação, ele permite selecionar conjuntos de áreas. O
processo de classificação é considerado baixo, este processo
inclui os mapas autorganizáveis de Kohonen’s (camada de
Kohonen) e as camadas de Grossberg.

Autores: Varsta, M; Heikkonen, J; Millan, J


Titulo: Context Learning With The Self-Organizing Map
Tipo de Publicação: Artigo
Editor: Performer: Helsinki Univ. of Technology, Espoo (Finland).
Dados Complementares: 1997. 12p. Report: RR-B-4, ISBN-951-
22-3543-9.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Self-Organizing Maps; Temporal Sequence
Processing; Recurrence.
Informações Adicionais: Neste artigo, um algoritmo Recurrent
Self-Organizing Map (RSOM) é proposto para o processamento
temporal de seqüências. Os resultados experimentais do artigo
demonstram que o RSOM pode aprender e distinguir seqüências
temporais, e que o algoritmo de RSOM pode ser utilizado, por

Ana Alvarez – Baldomero Luque 4


2
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
exemplo, na detecção epiléptica baseada da atividade do
eletroencefalograma (EEG).

Autores: Paulo Roberto Dellani, Paulo Sérgio Borges e Aldo Von


Wangenheim.
Titulo: Implementação De Um Método Para A Classificação De
Microcalcificações Pleomórficas Invariante A Posição, Escala E
Orientação Com Rede Neural De Kohonen Em Mamografia
Convencional.
Tipo de Publicação: Artigo
Evento: Workshop de Informática aplicada à Saúde – CBComp
Ano: 2001
Fonte: http://www.cbcomp.univali.br/pdf/2001/wsp006.pdf
Palavras-Chave: Microcalcificações, Redes Neurais, Kohonen,
DFT, Matching
Nível: Bom
Informações Adicionais: Neste artigo são relatadas
experiências e resultados obtidos com a implementação de um
protótipo de software para a classificação de microcalcificações
pleomórficas detectadas em mamografías convencionais
digitalizadas. O processo de detecção dos sinais de
microcalcificações é realizado automaticamente por um sistema
especialista. Os sinais detectados passam por uma seqüência de
operações até serem classificados por uma rede neural de
Kohonen.

• SOM: Neurocomputação e documentação

Autores: Guang-Bin Huang, Haroon A. Babri, And Hua-Tian Li


Titulo: Ordering Of Self-Organizing Maps In Multidimensional
Cases
Tipo de Publicação: Texto
Editor: Neural Computation MIT Press
Dados Complementares: volume 10, número 1, páginas 19 –
23, ano 1998.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Kohonen’s Self-Organizing Maps, One-
Dimensional.
Informações Adicionais: O texto discute os mapas
autorganizáveis de Kohonen nos casos unidimensional e
multidimensional, mostram-se os resultados analisados.

Autores: Klaus Obermaver and Terrence J. Sejnowski


Titulo: Self – Organizing Map Formation: Foundations of Neural
Computation
Tipo de Publicação: Livro
Dados Complementares: October 2001
Fonte: http://mitpress.mit.edu
Ana Alvarez – Baldomero Luque 4
3
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado

Autores: D. Merkl and A. Rauber.


Titulo: Uncovering the Hierarchical Structure of Text Archives by
Using an Unsupervised Neural Network with Adaptive
Architecture.
Tipo de Publicação: Artigo
Evento: Proceedings of the 4th Pacific-Asia Conference on
Knowledge Discovery and Data Mining (PAKDD2000), Kyoto,
Japan, Springer Lecture Notes in Artificial Intelligence (LNCS-LNAI
1805), Springer, Germany, 2000.
Dados Complementares: pp. 384 – 395, April 18. - 20. 2000.
Fonte:
http://www.ifs.tuwien.ac.at/ifs/research/pub_pdf/mer_pakdd00.pdf
Informações Adicionais: Neste artigo apresentam o modelo
Growing Hierarchical Self-Organizing Map (GH-SOM), baseado no
mapa auto-organizável.

Autores: M. Dittenbach, A. Rauber, D. Merkl


Titulo: Uncovering Hierarchical Structure in Data Using the
Growing Hierarchical Self-Organizing Map.
Tipo de Publicação: Artigo
Evento: Neurocomputing, Elsevier.
Dados Complementares: Vol. 48, No. 1-4, pp. 199-216,
October 2002.
Fonte:
http://www.ifs.tuwien.ac.at/ifs/research/pub_bibtex/dit_neucomp0
2.bib
Palavras-Chave: Self-organizing map (SOM), unsupervised
hierarchical clustering, document classification, data mining,
exploratory data analysis
Informações Adicionais: Os autores apresentam o Growing
Hiererchical Self-Organizing Map (GHSOM), um modelo de rede
neural baseado em mapas auto-organizáveis. A principal
característica de este novo modelo é a capacidade de
crescimento em termos de tamanho de mapa e em estrutura
tridimensional, para representar uma estrutura hierárquica
presente nos dados de coleção durante um processo de
treinamento não supervisionado.

Autores: Sforna, M; Lamedica, R; Prudenzi, A; Caciotta, M;


Orsolini Cencelli, V
Titulo: Neutral Network Based Technique For Short-Term
Forecasting Of Anomalous Load Periods
Tipo de Publicação: Artigo
Editor: Ente Nazionale per l'Energia Elettrica, Milan (Italy).
Dados Complementares: 9 páginas, ano 1995, Report: ENEL-
R--449/96, UTI/RM15-5.
Ana Alvarez – Baldomero Luque 4
4
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
Fonte: http://alt3.csa3.com/
Palavras-Chave: Artificial Neural Network, Kohonen's Self-
Organizing Map (SOM), Backpropagation Learning Algorithm.
Informações Adicionais: O artigo ilustra uma parte da
atividade de pesquisa conduzida por autores no campo de “
Electric Short Term Load Forecasting (STLF)” baseado em
arquiteturas artificiais da rede neural (ANN). Um procedimento
específico baseado em uma aproximação (não
supervisionada/supervisionada) combinada é proposto.

Autores: M. Dittenbach, D. Merkl, A. Rauber.


Titulo: Organizing and Exploring High-Dimensional Data with the
Growing Hierarchical Self-Organizing Map.
Tipo de Publicação: Artigo.
Evento: In: Proceedings of the 1st International Conference on
Fuzzy Systems and Knowledge Discovery (FSKD02), Singapore.
Dados Complementares: November 18-22, 2002.
Fonte:
http://www.ifs.tuwien.ac.at/ifs/research/pub_pdf/dit_fskd02.pdf
Palavras-Chave: Self-organizing map (SOM), data mining,
exploratory data analysis
Informações Adicionais: Neste artigo os autores exploram
aplicações com Data Mining
Relação com temas:.Data Mining.

Autores: Kohonen, Teuvo; Somervuo, Panu


Titulo: Self-Organizing Maps Of Symbol Strings
Tipo de Publicação: Artigo
Editor: NEUROCOMPUT.
Dados Complementares: Vol. 21, no. 1-3, pp. 19-30. Oct 1998.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Self-Organizing Map (SOM); Learning Vector
Quantization (LVQ); Symbol Strings.
Informações Adicionais: Neste artigo trata-se os mapas
autorganizáveis (SOMs), assim como o aprendizado
supervisionado por LVQ que podem ser definidos como
caracteres variáveis.

Autores: A. Rauber and D. Merkl.


Titulo: Using self-organizing maps to organize document
archives and to characterize subject matters: How to make a
map tell the news of the world
Tipo de Publicação: Artigo
Evento: Proceedings of the 10th Intl. Conf. on Database and
Expert Systems Applications (DEXA'99), Florence, Italy, Lecture
Notes in Computer Science (LNCS 1677), Springer.
Dados Complementares: August 30 - September 3, 1999.

Ana Alvarez – Baldomero Luque 4


5
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
Fonte:
http://www.ifs.tuwien.ac.at/ifs/research/pub_pdf/rau_dexa99.pdf
Informações Adicionais: Os autores apresentam o novo
método LabelSOM, que toma aplicabilidade dos mapas auto-
organizáveis para organizar uma coleção de documentos.

Autores: Rauber, A.
Titulo: SOMLib: A Distributed Digital Library System Based on
Self-Organizing Maps
Tipo de Publicação: Artigo
Evento: Proc 10th Italian Workshop on Neural Nets (WIRN98),
Vietri sul Mare, Italy.
Dados Complementares: 1998.
Fonte:
http://www.ifs.tuwien.ac.at/ifs/research/pub_html/rau_wirn98/wir
n98.html
Palavras-Chave: Digital Libraries, Information Retrieval, Self-
Organizing Map (SOM).
Informações Adicionais: Os autores decrevem uma
arquitetura para distribuição digital de um sistema de bibliotecas
baseado em uma rede neural não supervisionada.

Autores: Cardei, VC; Hadley, RF


Titulo: Predicting Semantic Categories Using A Hybrid Neural
Network
Tipo de Publicação: Relatório técnico no CSS-IS TR97-02
Editor: Simon Fraser University. Center for Systems Science,
Burnaby, (British Columbia).
Dados Complementares: páginas 20, ano 1997.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Kohonen Map, Hybrid Network.
Informações Adicionais: Este relatório técnico descreve uma
rede neural híbrida que possa predizer as categorias semânticas,
apresenta uma descrição geral da rede neural e a maneira que
ele funciona, logo descreve o mapa de saída de Kohonen,
finalmente descreve a estrutura do programa escrito executando
a rede híbrida.
Autores: NERAC, Inc.
Titulo: Self-Organizing Feature Maps. (Latest Citations From The
INSPEC Database)
Tipo de Publicação: Relatório Técnico
Editor: NERAC, Inc., Tolland, CT. Sponsor: National Technical
Information Service, Springfield, VA.
Ano: 1997
Fonte: http://alt3.csa3.com/
Palavras-Chave: Kohonen's Self-Organizing Feature Map,
Vector Quantization, Pattern Classification.

Ana Alvarez – Baldomero Luque 4


6
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
Informações Adicionais: Neste relatório são discutidos os
algoritmos autorganizáveis, a execução digital e paralela, a
classificação e o reconhecimento de padrões.

Autores: Kohonen, T
Titulo: Self-Organizing Maps Of Symbol Strings
Tipo de Publicação: Relatório Técnico
Editor: Helsinki Univ. of Technology, Espoo (Finland). Lab. of
Computer and Information Science. Dados Complementares:
1996, 40pag. Report: ISBN-951-22-3405-X
Fonte: http://alt3.csa3.com/
Palavras-Chave: Self-Organizing Maps; Learning Vector
Quantization
Informações Adicionais: Neste relatório é mostrado que os
mapas não supervisionados (SOMs), assim como os
aprendizagens supervisionadas de (LVQ) podem ser definidos
para variáveis de cadeia. Se uma medida especial da distância
chamada distância característica é usada, o vencedor pode ser
localizado quase imediatamente pelo método chamado
“Redundant Hash Addressing”, sem embargo o número das
computações do vencedor é quase independente do tamanho de
SOM.

Autores: Klaus Obermayer, Terrence J. Sejnowski


Titulo: Self-Organizing Map Formation
Tipo de Publicação: Livro
Editor: The MIT Press
Dados Complementares: 415 paginas, ano 2001, ISBN0-262-
65060-6.
Fonte: http://alt3.csa3.com/
Palavras-Chave: Self-Organizing Map Formation, Branch Of Unsupervised
Learning, Topographic Maps, and Mapping Algorithms
Nível: Bom
Informações Adicionais: Este livro fornece uma vista geral de
formação do mapa autorganizável não supervisionada, modela a
organização de mapas cortical, analisa mapas topográficos e sua
formação através das funções objetivas, discute as aplicações de
otimização e classificação combinatória.

Autores: M. Riesenhuber ; H.-U. Bauer ; D. Brockmann ; T. Geisel


Titulo: Breaking Rotational Symmetry In A Self-Organizing Map
Model For Orientation Map Development
Tipo de Publicação: Livro
Editor: The MIT Press
Dados Complementares: volume 10, número 3, páginas 717 –
730, ano 2000.
Fonte: http://alt3.csa3.com/

Ana Alvarez – Baldomero Luque 4


7
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
Palavras-Chave: Self-Organizing Map, Orientation Map, and
Pattern Formation.
Nível: Bom
Informações Adicionais: O livro discute o comportamento de
padrões de alta dimensão do modelo de mapa auto-organizável,
trata-se também do desenvolvimento combinado da orientação e
de mapas.

Autores: Helge Ritter, Thomas Martinetz, and Klaus Schulten.


Titulo: Neural Computation And Self-Organizing Maps
Tipo de Publicação: Livro
Editor: Addison-Wesley, New York.
Ano: 1992
Dados Complementares (Titulo 5, 6, páginas 56, 74)
Fonte: http://alt3.csa3.com/
Palavras-Chave: Kohonen's Network Model, Sensory Signals,
Ultrasound Frequencies.
Nível: Bom
Informações Adicionais: O capitulo cinco descreve o modelo
da rede de Kohonen. Discute como as células de uma camada do
neurônio coordenam sua sensibilidade aos sinais sensoriais de tal
maneira que suas propriedades da resposta às características do
sinal variam em uma forma regular com sua posição na camada.
Após alguma informação de tipo neurofisiológico e uma
formulação matemática do modelo é apresentada. As simulações
dão uma impressão das características principais do modelo. No
capitulo seis é empregado o modelo de Kohonen para simular a
projeção do espaço das freqüências do ultra-som no córtex
auditora. O córtex auditora é a área do cérebro responsável para
a análise do som (Kandel e Schwartz, 1985). O texto compara os
resultados da simulação com as medidas disponíveis do córtex,
tanto como com um cálculo analítico.

Autores: H.-U. Bauer, R. Der, M. Herrmann


Titulo: Controling The Magnification Factor Of Self-Organizing
Feature Maps
Tipo de Publicação: Livro
Ano: 1995
Fonte: http://citeseer.nj.nec.com/cache/papers/cs/1944/
Palavras-Chave: Kohonen’s Self-Organizing Feature Map,
Adaptive Local Learning, Perceptual Magnet, Mean Square
Distortion Error.
Informações Adicionais: Este texto apresenta uma extensão
do algoritmo “Self Organizing Feature Map” o qual utiliza
aprendizagem adaptativa local para controlar as propriedades do
mapa. A mudança de um único parâmetro, os mapas com
transferência de informação ótima, com vários erros mínimos e a

Ana Alvarez – Baldomero Luque 4


8
Rede Neural de Kohonen e Outras Técnicas para
Treinamento Não-Supervisionado
ampliação invertida são gerados. Os resultados analíticos neste
algoritmo novo são complementados por simulações numéricas.

• SOM: Negócio e administração

Autores: Gustavo Adolfo Sorensen Cabrera


Titulo: Um Modelo Neural Para Previsão De Insolvência No
Sistema Financeiro
Tipo de Publicação: Tese
Dados Complementares: Departamento de Engenharia
Elétrica Pontifícia Universidade Católica do Rio de Janeiro, Rio de
Janeiro, Ano 1998.
Fonte: http://www.bcp.gov.py/gdgi/TESIS/TESIS05GS.pdf
Informações Adicionais: Esta dissertação investiga a utilização
de Redes Neurais, especificamente o modelo conhecido como
Mapa Auto-Organizável de Kohonen, na previsão de insolvência
no sistema financeiro.
• SOM: Software

Autores: A. Rauber, P. Tomsich, and D. Merkl.


Titulo: parSOM: A Parallel Implementation of the Self-Organizing
Map Exploiting Cache Effects: Making the SOM Fit for Interactive
High-Performance Data Analysis.
Tipo de Publicação: Artigo
Evento: In: Proceedings of the International Joint Conference on
Neural Networks 2000 (IJCNN'2000), Como, Italy, 2000.
Dados Complementares: July 24. – 27., 2000.
Fonte:
http://www.ifs.tuwien.ac.at/ifs/research/pub_pdf/rau_ijcnn00.pdf
Informações Adicionais: Os autores desenvolvem um software
baseado na implementação paralela de mapas auto-organizáveis
chamado parSOM, para reduzir o tempo de treinamento.

Ana Alvarez – Baldomero Luque 4


9

Das könnte Ihnen auch gefallen