Aula 2 Flashcards

1
Q

O que é uma arquitetura de RNA

A

É necessário que
mais neurônios estejam interconectados entre si, de forma a propagar os sinais
de entrada e modular por um número maior de pesos sinápticos para poder
aprender de forma efetiva. A arquitetura desempenha um papel essencial na
forma com a rede processa as informações e também na forma com os algoritmos
de aprendizagem trabalham

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
2
Q

O que é uma camada?

A

Pode-se dizer que uma camada contém um conjunto de neurônios que são acionados no mesmo estágio, ao mesmo tempo

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
3
Q

Quais os 3 tipos de RNA?

A

De acordo com a arquitetura, Haykin (2001, p. 46-49) define três tipos de RNA: de camada
única, de múltiplas camadas e redes recorrentes. A essa classificação é oportuno também adicionar as redes totalmente conectadas e redes parcialmente conectadas.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
4
Q

O que é uma RNA de camada única?

A

Consideradas como redes mais simples, as RNA de camada única contêm nas entradas e saídas dos seus neurônios as próprias entradas e saídas, respectivamente, da RNA. Ela tem a característica de ser uma rede alimentada
adiante (do inglês feedforward), pois as informações sempre se propagam em um
sentido só, das entradas para as saídas

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
5
Q

O que é uma RNA de multiplas camadas?

A

Em uma RNA que contenha múltiplas camadas existem as camadas ocultas, as quais podem ter suas entradas conectadas à camada de entrada da rede, ou ainda às saídas de outra camada oculta de neurônios

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
6
Q

O que são RNA recorrentes?

A

As redes recorrentes são diferentes das RNA alimentada adiante, pois possuem pelo menos um laço de feedback ou realimentação na própria estrutura da RNA

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
7
Q

O que são RNA totalmente conectadas?

A

Nos exemplos das RNA de camada única e de múltiplas camadas, podese notar que, entre as camadas ocultas e de saída, todos os neurônios estavam conectados por pesos sinápticos. Dessa forma, as RNA totalmente conectadas exploram todas as possibilidades de conexão entre os neurônios das camadas próximas entre si.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
8
Q

Como funciona o algortimo da RNA totalmente conecta?

A

Os algoritmos para aprendizagem das RNA totalmente conectadas consideram, para cada neurônio de uma camada, os pesos sinápticos com todos os outros neurônios de outras camadas, atualizando-os de acordo com a
existência de correlação entre os padrões de entrada e saída para aquele par de
neurônios. Se um peso sináptico atinge um valor alto, a influência dessa ligação é significativa e influencia a ativação nos neurônios adiante; se o peso sináptico é próximo de zero, então a conexão não é significativa e não contribui efetivamente para a ativação adiante.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
9
Q

O que são redes parcialmente conectadas?

A

As redes parcialmente conectadas se referem àquelas onde os neurônios de duas camadas próximas não estão totalmente conectados. O uso de conexões parciais entre neurônios de camadas diferentes pode se dar em função da
existência de informação prévia durante o projeto da rede

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
10
Q

O que são paradigmas de aprendizagem de RNA?

A

Os paradigmas de aprendizagem se referem à forma como os algoritmos de aprendizagem das RNA são executados, levando-se em consideração os dados disponíveis no ambiente para que a RNA possa então aprender alguma coisa sobre ele. A aprendizagem das RNA pode acontecer com um professor, por reforço e sem professor, ou ainda, por último, sem professor, também chamadade não supervisionada.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
11
Q

O que é aprendizagem com um professor?

A

A aprendizagem com um professor é também denominada de aprendizagem supervisionadaDe maneira geral, a RNA não possui nenhum conhecimento sobre o ambiente, porém o professor tem esse conhecimento. O conhecimento que o professor possui está representado na forma de exemplos em como as entradas e saídas são mapeadas. Dessa forma,
o conhecimento do professor é empírico. No instante da aprendizagem da RNA, algum vetor é extraído do ambiente e enviado a ela e ao professor, sendo que o professor sabe a resposta, ou pelo menos o caminho para obter a resposta. Ou seja, ele tem a resposta desejada.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
12
Q

Como é dividido o BD no caso de machine learning

A

De maneira geral, em machine learning, um banco de dados com exemplos é dividido em dois conjuntos: um que ficará com o professor que irá ensinar efetivamente a RNA e outro com um professor que irá apenas avaliar a RNA – o seu conhecimento não será usado para a aprendizagem da RNA. O primeiro conjunto é dito conjunto de treinamento e o segundo o conjunto de teste. Um processo de treinamento pode utilizar diferentes combinações aleatórias dos conjuntos, de acordo também com critérios de divisão do banco de dados e das quantidades de exemplos.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
13
Q

O que é aprendizagem sem professor?

A

Na aprendizagem por reforço, o mapeamento entrada-saída é obtido por meio da interação contínua com o ambiente. Da mesma forma que o aprendizado supervisionado, busca-se minimizar um índice de desempenho.É elaborado ao redor de um crítico que converte um sinal de reforço recebido do ambiente em um sinal mais qualificado, denominado de reforço heurístico (Haykin, 2001). O
sistema aprende por reforço atrasado: ou seja, ele vai observando uma sequência
temporal dos estímulos apresentados à RNA

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
14
Q

O que é aprendizagem não supervisionada?

A

A aprendizagem não supervisionada também é denominada de autoorganizada. Aqui, não há um professor para direcionar o desempenho da rede. São dadas à RNA condições para que possa fazer uma medida de desempenho
independente da tarefa, e a rede precisa alcançar um nível de representação dos
dados, havendo inclusive um conjunto de parâmetros para balizar o aprendizado
(Haykin, 2001, p. 91). Quando a RNA alcança este nível, onde ela consegue fazer emergir as regularidades subjacentes nos dados, ela é capaz de atribuir classes aos dados organizados nesta representação interna obtida.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
15
Q

O que é aprendizagem de RNA?

A

Aprendizagem é um processo pelo qual os parâmetros livres de uma rede neural são adaptados através de um processo de estimulação pelo ambiente no qual a rede está inserida. O tipo de aprendizagem édeterminado pela maneira pela qual a modificação dos parâmetros ocorre.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
16
Q

O que a definição de aprendizagem de RNA implica?

A

Essa definição implica que:
* a RNA é estimulada pelo ambiente;
* a RNA sofre modificações nos seus parâmetros livres; e
* a RNA responde de uma maneira distinta ao ambiente

17
Q

O que é um algoritmo de aprendizagem de RNA?

A

Dessa maneira, para resolver o problema de aprendizagem de uma RNA,é necessário definir um conjunto de regras bem estabelecidas para a solução desse problema. A esse conjunto denomina-se algoritmo de aprendizagem

18
Q

Quais são as 5 formas pelas quais uma RNA
pode aprender por meio de um algoritmo?

A

por correção de erro, com base em
memória, pela regra de Hebb, por aprendizagem competitiva e aprendizagem estocástica de Boltzmann.

19
Q

O que é aprendizagem por correção de erro?

A

A aprendizagem por correção de erro foi uma das primeiras abordagens de modificação dos pesos sinápticos, inspirado no conceito de autorregulação e controle da cibernética

20
Q

O que é aprendizagem baseada em memória?

A

A aprendizagem baseada em memória se beneficia das experiências anteriores que estão armazenadas na forma de pares de entrada-saída,classificados de maneira correta {(𝒙𝒙𝑖𝑖, 𝑑𝑑𝑖𝑖)}, 𝑖𝑖 = 1. . 𝑁𝑁, onde 𝒙𝒙𝑖𝑖 representa um vetor
de sinais de entrada e 𝑑𝑑𝑖𝑖 representa a resposta desejada (correta) respectiva.
Esse tipo de aprendizagem é comum em tarefas de classificação de padrões

21
Q

O que é aprendizagem hebbiana?

A

Trazendo a afirmação para o contexto das RNA, a regra poderia ser adaptada e reescrita em duas partes (Haykin, 2001, p. 80):
1. se dois neurônios em ambos os lados de uma sinapse são ativados simultaneamente, então a força daquela sinapse é seletivamente
aumentada; e
2. se dois neurônios em ambos os lados de uma sinapse são ativados assincronamente, então aquela sinapse é seletivamente enfraquecida ou
eliminada.

22
Q

O que é aprendizagem competitiva?

A

na aprendizagem competitiva, apenas um neurônio está ativo em um certo instante. Essa característica torna a aprendizagem competitiva
adequada para a descoberta de elementos capazes de melhorar a distinção entre
padrões em uma tarefa de classificação

23
Q

Quais são os 3 elementos fundamentais da aprendizagem competitiva?

A
  • um conjunto de neurônios que são todos iguais entre si, mas tendo pesos sinápticos distribuídos aleatoriamente, e que respondem de maneira
    diferenciada a uma estimulação de entrada;
  • uma restrição imposta à “força” de um neurônio; e
  • um mecanismo que permita ao neurônio disputar pelo direito de responder
    a um subconjunto de entradas de forma que apenas um neurônio de saída
    esteja ativado.
24
Q

O que é aprendizagem de Boltzmann?

A

Numa máquina de Boltzmann, a arquitetura é de uma rede recorrente: os neurônios atuam de forma binária, representando um estado ligado (+1) ou desligado (−1). Existe uma função de energia cujo valor é determinado pelos
diversos estados particulares dos neurônios que constituem a máquina de Boltzmann

25
Q

Quais os tipos de neurônio na máquina de Boltzmann?

A

Em uma máquina de Boltzmann, podem-se encontrar dois tipos de neurônios: os visíveis e os ocultos. Os neurônios visíveis estão ligados às
entradas da rede, ou seja, assumem os valores +1 e −1 conforme as entradas.
Já os neurônios ocultos sempre operam de forma livre

26
Q

Quais as duas condições que uma máquina de Boltzmann podem assumir?

A

Com base nesta caracterização, a máquina de Boltzmann assume duas condições na
operação:
a. condição presa (clamped) – os neurônios visíveis estão todos presos a
estados específicos que são fixados pelo ambiente; e
b. condição de operação livre (free run) – todos os neurônios, visíveis e ocultos, podem operar livremente.

27
Q

O que é a associação?

A

A memória associativa pode ser utilizada em uma RNA de duas formas
(Haykin, 2001, p. 91):
a. por autoassociação, onde uma RNA deve armazenar um conjunto de padrões apresentados repetidamente a ela; e
b. por heteroassociação, onde um conjunto de padrões deve ser associadoa outro conjunto de padrões.

28
Q

O que é reconhecimento de padrões?

A

O reconhecimento de padrões é a atividade na qual um determinado padrão apresentado como um sinal de entrada é categorizado, ou seja, é atribuído a uma classe ou categoria dentre um número finito de classes. O reconhecimento
de padrão é feito com uma rede supervisionada, onde são apresentados um conjunto de exemplos que são pré-classificados, fazendo com que a RNA aprenda a classificar adequadamente este conjunto pré-classificado. Após a fase de
treinamento da RNA, na fase de teste é apresentado um outro conjunto de
padrões que não fizeram parte da fase de treinamento, para verificar a acurácia
da rede em classificar estes novos dados

29
Q

O que é aproximação de função?

A

A aproximação de funções pode ser feita de duas formas (Haykin, 2001, p. 94),
como se segue.
1. Identificação de sistema: o treinamento da RNA permite que se obtenha
um modelo que emula um sistema desconhecido. À medida que as
entradas são apresentadas, as saídas do modelo 𝑦𝑦𝑖𝑖 são confrontadas com
as saídas do sistema desconhecido 𝑑𝑑𝑖𝑖 (através de diferença quadrática,
evitando variações de sinal), de maneira a gerar o sinal de erro 𝑒𝑒𝑖𝑖. O sinal
de erro é realimentado nos parâmetros livres do modelo (os pesos
sinápticos) que faz o ajuste necessário em direção ao valor de erro mínimo.
O sistema desconhecido deve ser sem memória, no sentido de que deve
ser invariante no tempo (Figura 16).
2. Sistema inverso: da mesma forma, um sistema sem memória dado por
𝑓𝑓(. ) fornece as saídas d_i a partir das entradas x_i, que são utilizadas para
modelar um sistema inverso 𝑓𝑓−1(. ), de forma que pode se obter o sinal de
entrada 𝑥𝑥𝑖𝑖 a partir das saídas desejadas 𝑑𝑑𝑖𝑖:
𝑥𝑥 = 𝑓𝑓−1(𝑑𝑑)

30
Q

Como a RNA pode ser usada para controle?

A

Uma RNA pode ser utilizada também para o controle de uma planta, a qual
representa um processo de fabricação que tem seus parâmetros mantidos em
condição controlada (por exemplo, processos químicos em uma refinaria). A RNA é treinada de maneira que forneça as saídas na forma de ações que reajustam os parâmetros. Um sistema de controle envolve utilizar o sinal de saída 𝒚𝒚 para calcular a realimentação para a entrada do sistema (na forma de derivativas parciais 𝜕𝜕𝜕𝜕/𝜕𝜕𝜕𝜕), gerando-se um erro 𝒆𝒆 que reajusta os parâmetros do controlador.
Desta forma, os dados 𝒖𝒖 são fornecidos novamente para a planta

31
Q

Como é a filtragem?

A

Uma RNA também pode ser utilizada para fazer a filtragem de sinais
ruidosos. Na vida real, o uso de sensores pode introduzir ruído em algum sinal de
entrada, o que pode induzir a interpretações errôneas do comportamento de um
sistema. Outro problema é a transmissão deste sinal através de canais de
informação que podem também ser ruidosos (Haykin, 2001, p. 97). Uma RNA
pode ser utilizada então para três tipos de tarefas:
1. filtragem – extração de informação sobre um conjunto de sinais em um
tempo discreto qualquer;
2. suavização – os dados medidos de um sinal são processados de forma a
obter um componente de interesse dentro do sinal original, e que pode ser
disponibilizado com atraso; e
29
3. previsão – o sinal medido é utilizado para predizer quais serão os próximos
valores a serem fornecidos no sinal de entrada.

32
Q

O que é perceptron?

A

O perceptron
consiste basicamente em somente um neurônio com pesos sinápticos que podem
ser ajustados e também uma entrada de bias. Construído dessa forma, o perceptron está limitado a fazer uma classificação contendo apenas duas classes.

33
Q

O que é uma rede e função de base radial?

A

Uma rede de base radial (Radial Basis Function – RBF) difere de um perceptron multicamada por conter apenas três camadas: uma de entrada de
dados, uma camada oculta de neurônios e uma camada de saída.Uma função de base radial tem a característica de possui um parâmetro identificado como o centro da função de base radial, a partir do qual os valores de entrada estão mais distantes ou mais próximos do valor do centro(ou seja, podem ter um raio maior ou menor).

34
Q

O que são máquinas de vetor de suporte?

A

Uma máquina de vetor de suporte (Support
Vector Machine – SVM) se concentra no cálculo e obtenção de um hiperplano ótimo, que minimize da melhor forma a separação entre as classes dos padrões (Haykin, 2001, p. 350). Os vetores de suporte são os dados de treinamento utilizados no cálculo que se posicionam nos limites das classes e que servem de base para o traçado dos hiperplanos. O processo de treinamento é feito por meio de um processo de maximize a separação entre os padrões.

35
Q

O que são mapas auto-organizacionais?

A

Mapas auto-organizáveis (Self Organizing Maps – SOM) são RNA onde os neurônios estão dispostos em um reticulado (grade retangular ou hexagonal) que possui geralmente uma ou duas dimensões. Utilizando a aprendizagem
competitiva, os neurônios são localizados dentro desse espaço uni ou bidimensional, de acordo com a proximidade dos padrões de entrada (Kohonen,1998). A aprendizagem é não supervisionada, e no caso das SOM é criado uma
representação topográfica dos dados.
Um mapa auto-organizável é, portanto, caracterizado pela formação de um papa topográfico dos padrões de entrada no qual as localizaçõesespaciais (i.e., coordenadas) dos neurônios na grade são indicativas das
características estatísticas intrínsecas contidas nos padrões de entrada,daí o nome “mapa auto-organizável”. (Haykin, 2001, p. 483)

36
Q
A

Diz-se que SOM perfaz um ordenamento topológico dos dados. O algoritmo
responsável pela formação do SOM inicia com os pesos sinápticos aleatórios.
Após, existem três processos essenciais para a formação do mapa topográfico
(Haykin, 2001, p. 487), como se seguem.
1. Competição: para cada padrão de entrada, os neurônios calculam suas funções discriminantes (geralmente a função euclidiana ou outra função de distância). Aquele neurônio que possui o maior valor discriminante (ou o menor, fazendo referência a uma função distância) será considerado o neurônio vencedor.
2. Cooperação: o neurônio vencedor determina a região de vizinhança topológica, no qual os vizinhos são excitados, acontecendo a cooperação entre os neurônios vizinhos a um neurônio vencedor. A região de cooperação tende a ser grande no início do algoritmo de treinamento e vai decaindo ao longo das iterações.
3. Adaptação sináptica: permite que os pesos sinápticos relacionados com os neurônios excitados melhorem suas funções discriminantes (ou seja,são aproximados ao neurônio vencedor) em relação aos padrões de entrada, acontecendo de forma gradativa.