Árvores de Decisão

Question 1

Uma árvore de decisão é um grafo hierarquizado. Indique e descreva cada parte em que uma árvore de decisão se encontra dividida?

Answer 1

• Nodos: cada nodo interno testa um atributo do dataset
• Ramos: cada ramo identifica um valor (ou conjunto de valores) do nodo testado
• Folhas: cada folha representa uma decisão

Question 2

Quais os paradigmas de modelos de decisão? Descreve cada um deles.

Answer 2

• Paradigma Top-down: construído a partir do conhecimento de especialistas; o “todo” é dividido em “partes”
• Paradigma Bottom-up: construído pela identificação de relações entre os atributos do dataset; o modelo é induzido por “generalização” de dados

Question 3

Quais os tipos de árvores de decisão? Descreva cada um.

Answer 3

• Contínuo: o atributo de decisão representa uma sequência, conjunto ou intervalo de possíveis valores
• Discreto: o atributo de decisão representa uma categoria ou classe

Question 4

Quais os passos de desenvolvimento/construção de um modelo de árvore de decisão?

Answer 4

1. observação de exemplos (objetos)
2. generalização por indução
3. criação do modelo
4. apresentação de um problema
5. obtenção da resolução do problema (previsão)

Question 5

Que algoritmos de modelação de árvores de decisão existem? (Chega dizer os 3 primeiros)

Answer 5

• Algoritmo ID3
• Algoritmo C4.5
• Algoritmo J48
• Algoritmo CART
• Algoritmo CHAID

Question 6

Como funciona o Algoritmo ID3?

Answer 6

O algoritmo ID3 é utilizado para a construção de árvores de decisão. Este algoritmo trata de selecionar qual o atributo a ser nodo. O atributo com a maior redução de entropia é a melhor escolha para ser nodo (para reduzir a profundidade da árvore).
De maneira a realizar esta decisão, serão utilizados os conceitos de Entropia e Ganho.

Question 7

O que é a Entropia?

Answer 7

A entropia é uma medida de incerteza associada a um conjunto de objetos. A entropia identifica o grau de desorganização dos dados.

Question 8

O algoritmo C4.5 é uma extensão do Algoritmo ID3. Quais as melhorias do algoritmo C4.5 face ao ID3?

Answer 8

• Manipula atributos contínuos e discretos
• Lida com Missing Values
• Permite a atribuição de pesos aos atributos
  (Mais importante) - Permite fazer a poda da árvore

Question 9

Como é que o Algoritmo C4.5 realiza a poda da árvore (Tree Pruning)?

Answer 9

Retrocede 1 iteração na árvore e remove ramos que contribuem menos ou não contribuem para a definição da solução, substituindo-os por folhas