slides

Question 1

Vad kan man göra för att undvika overfitting?

Answer 1

Använd den enklaste modellen som ger bäst generaliserbara resultat.

Använd ett validerings set, som inte använts i träning eller testning

Metodspecifika

Question 2

Vad är ensamble methods?

Answer 2

Flera metoder används, det svar som flest metoder ger blir “rätt” Majority voting

Question 3

Fördelar med beslutsträd?

Answer 3

Kan hantera diskreta och Kontinuerliga variabler

Tolerant mot brus och uteliggare

Lite preprocessing behövs

Enkel att förstå, whitebox

Question 4

Nackdelar med beslutsträd

Answer 4

Känslig mot stora mängder IRRELEVANT data

kan få liknande subtrees, tree replication

ANN SVM oftast högre träffsäkerhet

Question 5

Nearest neighbor classifiers

Answer 5

Ingen model, instantbaserad lärning

Klassifierar data baserad på liknande data, med hjälp av distance funktioner såsom euclidan eller jaccards

Question 6

Fördelar och nackdelar med Nearest neighbor classifiers

Answer 6

+ Enkel, ingen model behövs

• Kan vara dyr att beräkna
• utvärdering kan vara svår då närmaste grannen kan vara en uteliggare

Question 7

Vad är SVM och vad gör den?

Answer 7

Kennel-baserad maskinlärnings metod för att separera två klasser.

Dra en rak linje för att dela upp klasser.

Hyperplane heter det raka sträcket som dras för att dela upp.

den bygger på en global optimering, kollar inte bara på det närmaste lokala ( dvs greedy)

kan lösa ickelinjära problem med fler dimensioner

Question 8

Fördelar och neckdelar med SVM

Answer 8

Fördelar
Robust, stark mot överträning

Kan hantera en massa data

Lära sig komplexa modeller.

nackdelar
Lång tid att träna
Överlappande klasser

Question 9

Vad är regression?

Answer 9

Att estimera ett kontinuerligt numeriskt värde, value prediction!

Används inom väder prediction, sales forecasting etc

Question 10

Vad är linjär regression?

Answer 10

nom statistik är linjär regression en teknik med vilken man kan undersöka om det finns ett statistiskt samband mellan en responsvariabel (Y) och två eller flera förklarande variabler (X).

Question 11

För och nackdelar med linjär regression?

Answer 11

+
lätt att använda
datormässigt enkel

-
Fungerar inte på icke linjär data
Känslig mot uteliggare

Question 12

vad är ickelinjär regression?

Answer 12

samma som linjär regression men kan hnatera ickelinjära relationer bättre.

Mer komplex!

Question 13

What is stratified sampling and how is it relevant for classification?

Answer 13

Stratified sampling is used to balance (weight) outcomes that occur in differing proportions in the population. For example, in classification the number of positive (or negative) outcomes may be disproportionately small (e.g., 5 out 100) in which case the classification model would have a hard time learning to identify these rare cases, making the model particularly poor. Stratified sampling would mean that, e.g., equal numbers of positive and negative outcomes are included in the training set to give the model a better chance at learning the patterns.

Question 14

Precision is a measure that will avoid false negatives

Answer 14

False. Precision is the number of true positives divided by the number of positive predictions. The higher the score, the lower the number of false positives, and thus, Precision avoids false positives.

Question 15

Recall is a measure that will avoid false negatives

Answer 15

True. Recall (also called specificity) is the number of true positives divided by true positives and false negatives. Recall avoids false negatives.

Question 16

What is overfitting in classification?

Answer 16

Overfitting is when a classification model learns patterns specific to the training set and fails when testing upon unseen data. Thus, the model may have high training accuracy but poor generalization accuracy.

Question 17

Cross validation is

Answer 17

Cross validation is a partitioning strategy used to estimate the generalization error of a model by dividing the data into a number of folds. Each fold is then in turn used as a test set, while the rest are used for training. The average accuracy rates (for training and testing) across all folds are then used as an estimate for a model based on all data.

Question 18

A greedy algorithm is based upon optimizing a global objective function

Answer 18

False. A greedy algorithm is based upon finding an optimal solution at a local level. For example, decision trees are based upon a greedy algorithm as the splitting decision in each node is based upon a local solution, i.e., what is the best way to split the node in order to get the purest solution at that point.

Question 19

Inom klustering pratar man om Exklusive vs overlapping vs fuzzy, vad betyder dessa?

Answer 19

Exklusive menar att man bara kan tillhöra ett kluster åt gången

Overlapping kan man tillhöra flera

Fuzzy kan man ha olika grader av tillhörighet

Question 20

Vad är K-means?

Answer 20

prototypbaserad Klustering metod, partitional.

Där k är antalet kluster som som skall skapas

Question 21

Vad är skillnad på hierarkisk klustering och partitional klustering?

Answer 21

Hiearkisk klustering är ett set av klusters som är organiserade i ett träd (dendogram)

Partitional klustering är vanliga kluster utan någon hierarki

Question 22

Vad menas med complete vs partial klustering?

Answer 22

Complete så måste alla objekt tillhöra ett kluster

Partial så behöver inte alla det

Question 23

Vad är ett well-seperated cluster?

Answer 23

Varje objekt i ett kluster är mer lik ALLA andra objekt i samma kluster än något annat kluster

Question 24

Vad är ett prototypbaserat kluster?

Answer 24

Objekt är mer lika till klustrets prototyp (ex centroid) än någon annan prototyp i ett annat kluster

Question 25

Vad är skillnad på k-means och k-medoid?

Answer 25

K-means använder centroid som prototyp, som är ett medelvärde av allaobjekt i klustret. K-medoid använder ett objekt som prototyp

Question 26

Fördelar med K-means?

Answer 26

Datormässigt effektiv
Enkel
Kan användas för många datatyper

Question 27

Nackdelar med k-means?

Answer 27

Definitionen av k är viktigt

Kan producera tomma kluster

Question 28

vad är skillnad på Agglomerative hierarchical clustering och divisive Hierarchical Clustering?

Answer 28

Agglomerative är bottom-up, dvs startar som flera kluster och blir ett!

Divisive är motsatsen dvs top-down, börjar som ett och blir flera(ett specificerat nummer)

Question 29

Vad är single link agglomerative algorithm?

Answer 29

Baseras på proximiteten mellan dom två NÄRMASTE/MEST LIKA objekten i två kluster

Question 30

vad är complete link agglomerative algorithm?

Answer 30

Baseras på proximiteten mellan dom två objekten SOM ÄR LÄNGST IFRÅN VARANDRA i två kluster

Question 31

Vad är fördelen med hierarkisk klustering?

Answer 31

Behöver inte definera kluster innan

Ingen global objective function. Lokal beräkning är datamässigt enklare

Question 32

Nackdelar med hierarkisk klustering?

Answer 32

Har svårt med brusig data och höga dimensioner

Question 33

Vad är DBSCAN?

Answer 33

Densitetsbaserad klustering algoritm

Question 34

DBSCAN klassificerar dataobjekt till 3 olika klasser, vilka? Och vad betyder dessa?

Answer 34

Core points
Användardefinerat, beroende på hur många objekt som är inom EPS

Border point
Inte ett corepoint med faller inom radien för en corepoint

Noise points
Alla punkter som varken är core eller border

Question 35

Fördelar med DBSCAN?

Answer 35

Resistant mot brus och uteliggare

Kan hantera olika storlekar och former av kluster, k-means är alltid runda

Question 36

nackdelar med DBSCAN?

Answer 36

Svårt att avgöra rätt värden för Size of cluster (Eps) och density of cluster (MinPts)

Question 37

Hur validerar man klustering?

Answer 37

• Unsupervised, do not use external data
– Cluster cohesion
• Compactness
– Cluster separation
• How well clusters are separated
– Cohesion and separation are related, remember
goal of clustering
• Intra cluster similarity and inter cluster
dissimilarity

Question 38

What is the difference between clustering and classification?

Answer 38

In classification, the possible outcomes (classes) are known beforehand. In other words, we know what the new cases may be. For example, we might already know the different segments among our customers and wish to categorize new customers.

In clustering, the possible outcomes are not know of we wish to redefine them. Relating to our new customers, we do not know what classes (segments) they could be, instead we wish to identify them based upon patterns (similarities) in the data.

Question 39

Why is clustering sometimes called unsupervised classification?

Answer 39

Sometimes, clustering is called unsupervised classification because clustering can be used to identify the classes that can in the future be used for supervised classification tasks.

Question 40

Vad menas med partitional(one level clustering)?

Answer 40

One level clustering means that clustering is performed as one solution, not as for example a hierarchy of clustering solutions. This is partitional, i.e., we partition a dataset into a defined number of clusters.

Question 41

vad är support?

Answer 41

Ett mått på hur många gånger ett itemset finns i ett dataset

Question 42

Assiocationsanalys har två steg, vilka?

Answer 42

Generera vanligt förekommande itemsets
Dvs hitta itemsets som möter minumumkraven för supportvärdet du sätter upp

Generera starka regler, dvs vad implicerar vad? blöjor implicerar öl? Detta görs med high confidence values

Question 43

Vad är supportbased pruning?

Answer 43

Apriori använder detta för att gallra bort irrelevanta itemsets. Den baseras på principen att om ett itemset syns ofta och har hög supportvärde så måste också subsets ha hög frekvens.

Och motsatsen gäller för superset, Om egg, coke är ovanligt så är alla combinatoer av detta ovanligt

Question 44

Varför är apriori bättre än brute force?

Answer 44

Betydligt mindre kombinationer att räkna ut. med hjälp av support-based pruning så kan vi minska antalet markant.

Question 45

Vad är fördelar med apriori?

Answer 45

Enkel

Kan hantera assymetric binär data

Question 46

Vad är nackdelar med apriori?

Answer 46

Att balansera support minimum kraven

Och datormässigt dyrt för att den måste köra flera omgångar

Question 47

När är FP growth bättre än apriori?

Answer 47

När det finns många lika återkommande itemsets.

Question 48

Preprocessing text är uppdelat i två delar, vilka?

Answer 48

Syntactic (hur ord är ihopsatta)
och semantic(Vad betyder dom?)

Question 49

Vad är filtering i text mining?

Answer 49

– Removing poor or unusable data
• Errors, such as obvious keystroke errors
• Special characters
• Tags
• Incomplete data
• Other language text
• Etc.

Question 50

Vad är tokenization?

Answer 50

Bryt ut ord i chunks eller tokens.

Ta bort punkter och stora bokstäver

Delar upp bindeord, content-based blir content och based

Question 51

Varför är named-entity recognition?

Answer 51

Se till att ord som New York inte blir två ord

Question 52

Vad gör stop word removal?

Answer 52

Tar bort vanligt förekommande ord som “the” och “a” som inte bär någon vikt. Detta reducerar dimensionen signifikant.

Question 53

Vad är stemming?

Answer 53

Reducera individuella ord till dess ordstam.

Och tar vort suffixes, så som ing osv.

Detta tar bort varianter av orden så att reducerar dimensionaliteten.

Question 54

Vad är lemmatization?

Answer 54

En form av semantisk stemming. Där man gör ordet till sin basform. Reducing blir reduce. Och poor och worse blir samma ord

Question 55

Vad är bag of words?

Answer 55

Räkna hur många gånger ett ord dyker upp i ett dokument, detta blir multidimensionell vektor . Detta tillåter oss att jämföra dokument baserad på deras likhet hur många ord som förekommer

Vi kan sen använda metoder för att jämföra dokument, såsom jaccards etc

Question 56

Vad är TF-IDF, eller Term frequency – inverse document frequency

Answer 56

Används för att mäta vikten av ett ord i ett corpus. Om ett ord uppkommer flera gånger i ett dokument men få gånger i corpuset så är det VIKTIGT. Detta reducerar vikten på vanligt förekommande ord