Clase 4 - Aprendizaje Supervisado

Question 1

Clasificación

Answer 1

Salida del modelo es un conjunto discreto de clases.

Question 2

Regresión

Answer 2

Salida del modelo es un valor numérico (continuo)

Question 3

Diferencia entre modelo y algoritmo

Answer 3

Ej: Modelo -> árbol de decisión, redes neuronales
Algoritmo -> ID3

Hay distintos algoritmos para un mismo modelo

Question 4

Aprendizaje basado en instancias (aprendizaje perezoso)

Answer 4

• Toman el conjunto de datos de entrenamiento y lo almacena
• Se extraen un conjunto de instancias que sean similares
• Ejemplo: k-NN
  (k vecinos para tomar la decisión). Medida de similitud (distancia euclídea para decidir los vecinos)
• En clasificación se elige la clase más frecuente de los vecinos y en regresión se toma la media de los vecinos más cercanos.

Question 5

Árboles de decisión

Answer 5

• Nodos raíz, rama y hoja
• Diagrama que representa condiciones sucesivas sobre los atributos para clasificar una instancia.
• El objetivo es construir el árbol más sencillo que mejor separe las instancias por clase.
  Construcción inductiva:
• 1º Decidir cual es el atributo del nodo raíz (atributo que mejor separe las clases).
• 2º Se continúa añadiendo atributos hasta llegar a resultados satisfactorios.
• Mecanismos de prepoda y postpoda (nos intentamos quedar con el subárbol más pequeño).

Question 6

Criterios de separación en árboles de decisión

Answer 6

• Ganancia de información
• Ratio de ganancia de información
• Precisión
• Ganancia mínima
• Profundidad máxima del árbol (para facilitar la comprensión del modelo)

Question 7

Reglas de decisión

Answer 7

Se pueden simplificar los árboles de decisión en reglas de decisión.
La diferencia de las reglas es que no mantienen la relación jerárquica de los árboles.
- Construcción inductiva: se elige combinación atributo/valor que más reglas cubra y se descartan los ejemplos cubiertos y se repite hasta cubrir todos los ejemplos.

Question 8

Aprendizaje Bayesiano.

Answer 8

• Problema de decisión se puede describir en términos probabilísticos
• Todas las probabilidades del problema son conocidas o al menos se pueden estimar.

Question 9

Notación clasificadores Bayesianos

Answer 9

Conjunto de clases C
Conjunto de atributos A
Instancia X (valores de los atributos)
P(c|x) -> probabilidad de observar la clase c dada la instancia x.
P(x|c) -> probabilidad de observar la instancia x dada la clase c.

Question 10

Teorema de Bayes

Answer 10

P(c|x) = (P(x|c)*P(c))/P(x)

Question 11

Clasificador Bayesiano

Answer 11

arg max P(x|c)*P(c)

Question 12

Clasificador Naive Bayes

Answer 12

Se parte del supuesto de que los valores de los atributos son independientes.

Question 13

Conjuntos de clasificadores

Answer 13

Es un grupo de clasificadores cuyas decisiones individuales se combinan de alguna manera.

Question 14

Métodos de construcción de conjuntos.

Answer 14

• Manipulación de los datos de entrenamiento: bagging, comités de validación cruzada, adaboost (boosting)

Question 15

Bagging

Answer 15

Usamos distintos tipos de modelos, con reemplazo de los ejemplo de entrenamiento.

Question 16

Stacking

Answer 16

Generar los clasificadores a partir de algoritmos distintos

- Metaclasificador