Aula 6

Question 1

O que motiva o estudo das Redes Neurais Artificiais (RNA)?

Answer 1

“O trabalho em Redes Neurais Artificiais (RNA) tem sido motivado desde o começo pelo reconhecimento de que o cérebro humano processa informações de uma forma inteiramente diferente de um computador convencional” (Haykin, 2001, p. 27).

Question 2

Como é a estrutura de um neurônio biológico?

Answer 2

“Os neurônios são as unidades fundamentais dos tecidos do sistema nervoso, incluindo o cérebro. Cada neurônio consiste de um corpo celular, também designado como soma, o qual contém um núcleo. Partindo do corpo da célula existem um número de filamentos denominados dendritos, e um filamento mais longo que é denominado axônio” (Haykin, 2001, p. 27).

Question 3

Como ocorre a comunicação entre neurônios?

Answer 3

“O sinal de uma célula a outra se faz mediante uma complicada reação eletroquímica. Substâncias químicas transmissoras são lançadas das sinapses e entram pelos dendritos, aumentando ou baixando o potencial elétrico do corpo da célula” (Haykin, 2001, p. 27).

Question 4

O que é uma rede neural artificial?

Answer 4

“Uma rede neural artificial pode ser conceituada como um processador maciça e paralelamente distribuído, constituído de unidades de processamento simples, as quais têm a propensão natural para armazenar conhecimento experimental e torná-lo disponível para o uso” (Haykin, 2001).

Question 5

Quais são as propriedades de uma rede neural artificial?

Answer 5

“Não linearidade, mapeamento entrada-saída, adaptabilidade, resposta a evidências, informação contextual e tolerância a falhas” (Haykin, 2001, p. 30).

Question 6

Quais elementos são considerados na construção de uma rede neural artificial?

Answer 6

“Número de camadas, quantidade de neurônios por camada, tipo de função de transferência e método de treinamento” (Haykin, 2001).

Question 7

Quais são alguns métodos de aprendizagem utilizados em RNAs?

Answer 7

“Aprendizagem por correção de erros, aprendizagem baseada em memória, aprendizagem hebbiana, aprendizagem competitiva e aprendizagem de Boltzmann” (Haykin, 2001).

Question 8

Quais são as possíveis tarefas que podem ser executadas por uma RNA?

Answer 8

“Associação de padrões, reconhecimento de padrões, aproximação de funções, controle e filtragem” (Haykin, 2001).

Question 9

Quem inventou o perceptron e quando?

Answer 9

“O perceptron é um dispositivo eletrônico inventado em 1957 por Frank Rosenblatt (1928-1971).”

Question 10

Quais áreas de conhecimento Frank Rosenblatt dominava?

Answer 10

Frank Rosenblatt era considerado uma espécie de “homem da Renascença, devido à sua excelência em várias áreas, incluindo computação, matemática, neurofisiologia, astronomia e música” (Rosenblatt’s Contributions, [S.d.], tradução nossa).

Question 11

Como Rosenblatt organizou o perceptron?

Answer 11

Rosenblatt organizou o perceptron em “três camadas de unidades (ou neurônios): sensoriais (S), associativas (A) e responsivas (R).”

Question 12

Qual é o objetivo do algoritmo LMS (Least Mean Squares)?

Answer 12

O algoritmo LMS foi criado para “calcular o erro de classificação para, na sequência, utilizar uma fração desse erro para o ajuste dos pesos.”

Question 13

O que ocorre se os dados não forem separáveis linearmente para o perceptron?

Answer 13

Se os dados não forem separáveis linearmente, “o perceptron não consegue classificar corretamente um dado conjunto de amostras,” e o erro global tende a ser minimizado até certo valor.

Question 14

Como o perceptron multicamada melhora a capacidade do perceptron simples?

Answer 14

O perceptron multicamada “inclui camadas escondidas ou ocultas na RNA,” permitindo lidar com conjuntos de treinamento cuja separabilidade seja não linear.

Question 15

Qual é o processo envolvido na retropropagação para o perceptron multicamada?

Answer 15

O processo de retropropagação envolve o “sinal de erro,” que se propaga para trás na rede ajustando os valores dos pesos ou sinapses, utilizando o algoritmo de descida de gradiente.

Question 16

O que caracteriza o deep learning em relação às redes neurais artificiais?

Answer 16

“Deep learning tem sido uma das áreas mais estudadas na área de redes neurais artificiais, por se constituir num paradigma de modelagem de redes que leva em consideração outros aspectos além da conectividade da rede em si, com elementos na arquitetura da rede que a aproximam, inclusive, do paradigma biológico de captura e processamento de imagens no sistema visual humano” (Kriegeskorte; Golan, 2019).

Question 17

Qual é o problema central do perceptron multicamada com relação à representação do conhecimento?

Answer 17

“Após o treinamento, a rede e seus pesos se manifestam como uma ‘caixa preta’, sendo impossível interpretar os valores dos pesos em termos de uma representação inteligível para o ser humano.”

Question 18

Como o aprendizado profundo resolve o problema da representação do conhecimento?

Answer 18

“O aprendizado profundo resolve o problema central no aprendizado de representação, introduzindo representações que são expressas em termos de outras representações mais simples.”

Question 19

Quais técnicas e algoritmos são abrangidos pelo deep learning?

Answer 19

“O deep learning abrange o estudo de uma série de técnicas e algoritmos de RNA, aprofundando conceitos de redes neurais alimentadas à frente (feed forward), camadas de entrada, ocultas e de saída, função custo, envolvendo o uso de outros tipos de redes, tais como redes convolutivas (Convolutional Neural Networks – CNN), redes neurais recorrentes (Recurrent Neural Networks – RNN), descida estocástica de gradiente (Stochastic Gradient Descent).” (Ketkar, 2017, p. 1-3; Medeiros, 2018, p. 158).

Question 20

Por que o uso de unidades de processamento gráfico (GPU) é importante para deep learning?

Answer 20

“O uso dessa arquitetura torna mais rápido o treinamento das redes convolucionais. Isso, por sua vez, nos ajuda a treinar redes profundas de várias camadas, que são muito boas na classificação de imagens.”

Question 21

O que são campos receptivos locais em redes neurais convolucionais?

Answer 21

“Cada neurônio na primeira camada oculta será conectado a uma pequena região dos neurônios de entrada, por exemplo, uma região 5 x 5, correspondente a 25 pixels de entrada. Essa região na imagem de entrada é chamada de campo receptivo local para o neurônio oculto.”

Question 22

Qual é o papel do compartilhamento de pesos em redes convolucionais?

Answer 22

“Para o exemplo do campo receptivo local 5 x 5, todos os 25 pesos serão os mesmos, por isso que se afirma que os pesos são compartilhados. Isso significa que todos os neurônios da primeira camada oculta vão detectar exatamente o mesmo recurso apenas em locais diferentes na imagem de entrada.”

Question 23

Como as camadas de aglutinação (pooling) contribuem para as redes neurais convolucionais?

Answer 23

“O que essas camadas fazem é simplificar as informações na saída da camada anterior. Em suma, uma camada de aglutinação pega cada saída do mapa de recursos da camada convolucional e prepara um mapa condensado.”

Question 24

Qual é a vantagem da arquitetura de redes convolucionais para reconhecimento de caracteres, como no exemplo do MNIST?

Answer 24

“A ideia central com esse exemplo foi mostrar que, à luz do paradigma do aprendizado profundo, uma rede neural pode ser adaptada de maneira a incorporar características do problema.”

Question 25

Qual é a diferença na quantidade de pesos entre uma rede híbrida e um perceptron multicamada para reconhecimento de dígitos?

Answer 25

“A rede híbrida obtida no exemplo precisará treinar apenas 51.840 pesos, ao invés de 784 (28 x 28 entradas) e supondo 3 camadas de 784 neurônios e uma camada de saída de 10 neurônios: 784 x 784 x 784 x 784 x 10 = 3.778.019.983.360 pesos!”