Neural Networks Flashcards
Artificial Neural Networks, cosa sono?
Quali layers costituiscono la rete?
Ciascun layer da cosa è costituito e come sono collegati i layers tra di loro?
Algoritmo di ML costituito da più layer:
- 1 input layer
- n hidden layer
- 1 output layer
Ciascun layer composto da neuroni (o nodi) che a loro volta sono collegati con quelli del layer successivo tramite connessioni
A ciascuna connessione tra nodi cosa è associato?
Un nodo cosa riceve dagli n nodi connessi del layer precedente?
Cosa fa il nodo con quel valore?
A ciascuna connessione è associato:
- un peso
- un bias
Un nodo riceve un valore pari alla sommatoria, per ciascun nodo precedente collegato, del valore del nodo precedente moltiplicato per il peso della connessione + bias.
Il nodo con il valore ricevuto lo fa passare nella funzione di attivazione e poi spedisce il risultato al nodo del layer successivo.
Quali sono alcune possibili funzioni di attivazione?
Sigmoid: f(x) = e^x / (1+e^x)
ReLU: f(x)= max(0,x)
Gradino: f(x) = 0 se x<0, 1se x >= 0.
Softplus: f(x)= log(1+e^x)
Percettrone cosa è?
Quali sono le 4 parti principali?
Rete neurale costituita da un solo layer.
4 parti:
- input layer
- pesi e bias
- somma netta
- funzione di attivazione
– CODICE Convolutional NN
Prima di scrivere il codice della rete cosa si fa? (3 fasi)
1) Normalizzo le immagini
2) Resize delle immagini
3) Creo i DataLoader per il train, convalida, test
– CODICE Convolutional NN
Ciascun layer convoluzionale è definito con i seguenti valori, cosa rappresentano?
nn.Conv2d(96,256, kernel_size= 5, stride=1, padding=2)
96 n canali di ingresso
256 n filtri da applicare
kernel size: dimensione filtro nxn
stride: di quanto si sposta il filtro ad ogni passaggio
padding: strati di pixel da aggiungere su ogni lato
Come sono caratterizzate la Alex Net, VGG16, SqueezeNet
Alexnet:
5 layer conv. + 2 fully connected
VGG16:
13 layer conv. + 3 fully connected
Squeeze Net:
1 layer conv + x Fire Modules + 1 layer conv
