Clase 5 - Modelos y algoritmos de regresión

Question 1

Aproximación de funciones

Answer 1

Atributo a predecir es continuo.

Question 2

Objetivo de los algoritmos de regresión lineal.

Answer 2

• Aproximar una función (que puede no ser lineal) con un función lineal
• Se usa la suma del error cuadrático sobre el conjunto de entrenamiento total como medida del error.

Question 3

Suma del error cuadrático.

Answer 3

E = (1/2)*sum(f(x)-f’(x))^2

f’(x) == función de aproximación

f’(x) tendrá tantos pesos como atributos

Question 4

Regresión lineal: minimización del error

Answer 4

Se convierte en un problema de definir el vector de pesos w.

Question 5

ALgoritmo descenso de gradiente.

Answer 5

Objetivo: minimizar la función de error.
- Cálculo de la derivada para encontrar el mínimo.
(Dificultad con múltiples mínimos locales).
- Gradiente del error respecto de w (derivadas parciales de E respecto a cada peso).

Question 6

Aproximación de funciones no lineales.

Answer 6

• Aproximar con funciones lineales por tramos.
• Permite aproximar de forma sencilla funciones más complejas.
• Estrategia similar a un árbol de decisión (pero con funciones lineales en vez de clases).

Question 7

Algoritmo M5 (árboles de regresión, similares a ID3)

Answer 7

• Construir modelo (árboles de decisión con modelos lineales de clases)
• Estimar el error.
  Minimizar la variación interna de los valores de clase dentro de cada subconjunto.
• Construir modelos lineales en cada nodo intermedio del árbol.
• Podar nodos y suavizar

Question 8

M5: minimizar la variación interna de los valores de clase dentro de cada subconjunto

Answer 8

• Medida: desviación estándar del atributo de salida

- Elegir el atributo que maximice la reducción de error.

Question 9

Neurona artificial

Answer 9

• Unidad elemental de una red de neuronas artificiales.
• Búsqueda de algoritmos que procesan información similar al cerebro.
• Recibe señales de entrada.
• Peso asociado a la conexión de la neurona
• Procesa la información
• Emite señal de salida

Question 10

Función Umbral

Answer 10

• Independiente de los valores de entrada

- Suma de las entradas ponderadas que recibe.

Question 11

Función de activación

Answer 11

Decide lo que propaga en función de lo que le llega.

• Puede ser una función lineal o umbral (o de mayores tipos).
• Una neurona puede aproximar una función lineal

Question 12

Perceptrón simple

Answer 12

• Es como un clasificador binario (separación de clases con una función lineal).
• Solo puede resolver problemas que son lineales.
  (se pueden usar varios perceptrones para separara de distintas formas).

Question 13

Red de neuronas

Answer 13

• Conjunto de neuronas artificiales conectadas entre sí y distribuidas en capas.
• Red feedforward (solo se propaga hacia adelante).
• Todas las neuronas de una capa están conectadas con todas de la siguiente.

Question 14

Aprendizaje de la red.

Answer 14

• Proceso mediante el cual la red modifica los pesos de las conexiones para que las salidas de la red se vayan adaptando al funcionamiento que se considera correcto.
• La modificación se puede generar mediante aprendizaje supervisado o no supervisado.

Question 15

Dificultades redes neuronales.

Answer 15

Decidir cuántas capas ocultas y cuántas neuronas en cada capa.