Data Science & AI Flashcards
Wie werden Daten zu strategische Ressourcen?
Daten als Prozessergebnis => Daten als Befähiger von Prozessen => Daten als Befähiger von produkten => Daten als Produkt
Welche Datenkategorien gibt es im Datenschutz?
Allgemeine Daten (Inkl. Wirtschaftsdaten): Statistiken, Konstruktionsdaten, Produktionsdaten, Verkaufsdaten, etc.
Verstärkter Schutz
Personenbezogene Daten: Anschrift, Name, Geburtsdatum
Besonderer Schutz
Persönliche Daten: Telefongespräche, E-Mail
Besondere Arten: Gesundheit, Rasse, Religion
Weitere: Berufsgeheimnisse, Bankdaten, etc.
Was sind die Inhalte der DSGVO?
Aus Unternehmensperspektive:
Transparenz, Einwilligung, Zweckbindung, Gebot der Datenminimierung, Zeitbezug, Rechenschaftspflicht
Aus Data Science Perspektive:
Anonymisierung, Pseudonymisierung
- Was sind die wichtigsten Faktoren der IT-Sicherheit?
- Vetraulichkeit: Nicht von unbefugten einsehbar
- Integrität: Systeme können nicht unbemerkt verändert werden
- Verfügbarkeit: Die Systeme, Informationen, Netze sind verfügbar.
Was bedeutet Informaionsethik? (Def.)
Es beschäftigt sich mit der Moral im Bezug auf Informationstechnolofgien. Damit verbunden, wie wir uns hinsichlich dieser Technologie verhalten oder verhalten sollen.
Was sind die vier V’s und “Value within the Data”
Volume: Data at rest (Terabytes, Petabytes, Exabytes)
Velocity: Data in motion (Echtzeit, neartime, Streams)
Variety: Data in many forms (Strukturierte, Semi-, Unstrukturierte Daten)
Veracity: Data in doubt (Fehlende, ungenaue, fehlerhaft Daten)
Value: Siehe Value Karte
Welche Ebenen von Nachsicht, Aktuell bis zur Vorhersage gibt es im Data Science im Sinne des “Value”? Und welche Frage steht dort im Fokus?
Prescriptive Analytics: Wie können wir es bewerkstelligen?
Predictive Analytics: Was wird passieren?
Diagnostic Analytics: Warum ist es passiert?
Descriptive Analytics: Was war geschehen?
Was ist eine mögliche Definition von Data Mining & Knowledge Discovery in Databases (KDD)?
Data Mining ist ein Schritt im KDD-Prozess; es ist die Anwendung spezifischer Algorithmen zur Extraktion von Mustern aus Daten.
Data Mining ist die Extraktion und Entdeckung von implizitem, bisher nicht bekanntem und potenziell nützlichem Wissen aus Daten.
Was ist ein Algorithmus?
Ein Algorithmus ist eine aus endlich vielen Schritten bestehende eindeutige Handlungsvorschrift zur Lösung eines Problems oder einer Klasse von Problemen
Was sind Expertensysteme? Was ist Machine learning?
Expertensysteme: Expertenwissen (Kausalität: Ursache-Wirkung) Festes, definiertes Regelwerk Viele Zeilen Quellcode Es gibt keinen fehlerfreien Quelltext
Machinelles Lernen (ML):
Input-Output-Daten (statistische Korrelation)
Training, Validierung, Anwendung (dynamisch)
Wenige Zeilen Quellcode
Fehler? Daten, Training, Validierung, Anwendung
Welche Arten von ML gibt es?
- Supervised Learning: Trainiert algorithmen, um klassification oder regressen mit einem labelled data set zu machen
- Unsupervised Learning: Trainiert algorithmen um Cluster oder assoziationen mit einem ungelabelden Dataset zu finden.
- Reinforcement Learning: Trainiert einen agenten um gewisse aktionen in einem Umgebebung ohne data set durchzuführen
Wie heißen die Phasen des CRISP-DM Modells? (DE/EN)
Geschäftsverständnis (Business Understanding) Datenverständnis (Data Understanding) Datenaufbereitung (Data Preparation) Modellbildung (Data modelling) Modellbewertung ( Evaluation) Einsatz der Ergebnisse (Deployment)
Was sind die Ziele, Schritte/Aktivitäten, eine Frage und eine Antwort für Business Understanding?
Ziele: Domänenwissen aufbauen, Geschäftsverständnis entwickeln, Projektziele formulieren
Schritte / Aktivitäten: Geschäftsziel bestimmen, IST-Zustand analysieren, Analyseziele festlegen, Projektplan erstellen
*Fragen: *Was ist das Ziel dieser DM-Analyse? Welche Ergebnisse werden von wem wozu benötigt?
Zu welcher DM-Kategorie gehört diese Analyse? GIbt es erste Ideen/ Hypothesen, die übeprüft werden?
Antworten: Analyseziel: Vorhersage, ob ein Passagier überlebt oder nicht (Klassfikationsanalyse)
Was sind die Ziele, Schritte/Aktivitäten, eine Frage und eine Antwort für Data Understanding?
- Ziele: *Datenverständnis entwickeln, Datenqualität analysieren und bewerten
- Schritte / Aktivitäten: *Daten sammeln, Daten beschreiben, Daten untersuchen, Datenqualität prüfen
- Fragen: *In welcher Form und Formaten sind die Daten gegeben? Können diese so verarbeitet werden?Wie können ggf. weiteren Daten beschafft werden? Sind die Datenwerte korrekt oder gibt es noch fehlerhafte Daten?
- Antworten: *KNIME (bzw. Anaconda)
Was sind die Ziele, Schritte/Aktivitäten, eine Frage und eine Antwort für Data Preparation?
- Ziele: *Datenqualität erhöhen und Daten für die Modellbildung vorbereiten
- Schritte/Ziele: *Daten auswählen, Daten reinigen, Features extrahieren, Daten integrieren, Daten formatieren
- Fragen: *In welcher Form werden die Daten vom Modell benötigt? Müssen Daten hierzu angepasst
bzw. korrigiert werden? Sind die Daten konsistent? Wie gehen wir mit fehlenden Werten um? - Antworten: *KNIME (bzw. Anaconda)
Was sind die Ziele, Schritte/Aktivitäten, eine Frage und eine Antwort für Data modelling?*
- Ziele: *Modell trainieren (mittels Lernalgorithmus) und validieren
- Schritte/Ziele: *Verfahren auswählen, Testdesign aufbauen, Modell bilden, Modell bewerten
- Fragen: *Gibt es bereits Verfahren und Lernalgorithmen, die wir als Modell verwenden können? Wie teilen wir unsere Daten für das Training und die Validierung auf? Welche Gütekriterien lassen sich berechnen? Wie kann man diese Werte interpretieren?
- Antworten: *Klassifikationsverfahren: Naive Bayes, Entscheidungsbaum (Decision Tree), k Nearest Neighbor (kNN), Support Vector Machine (SVM), Künstliches Neuronales Netzwerk (KNN), Random Forrest, Gradient Boosted Trees usw. Als Gütekriterien können bspw. die Genauigkeit (Accuracy) und die Area under ROC curve (AURC) verwendet werden.
Was sind die Ziele, Schritte/Aktivitäten, eine Frage und eine Antwort für Deployment?
- Ziele:*Anwendung des „besten“ Modells
- Schritte / Aktivitäten:* Einsatz planen, Kontrolle und Wartung planen, Bericht erstellen, Projekt validieren
- Fragen:* Wie soll das „beste“ Modell nun eingesetzt werden? In welcher Form werden die Ergebnisse benötigt? Wie werden diese Ergebnisse dann weiterverarbeitet bzw. wer bekommt die Ergebnisse? Muss dieses ggf. in zeitlichen Abständen nachtrainiert werden?
- Antworten:* Mit dem „besten“ Modell werden nun die Klassen (Überlebt, Nicht-überlebt) für die neuen Datenobjekte in den Testdaten berechnet. Die Ergebnisse werden als CSV-Datei (Spalten: ID, Survived) gespeichert und bei der Data Science Plattform Kaggle hochgeladen. Abschließend bekommt man einen Score als Bewertung / Feedback.
Was sind die Ziele, Schritte/Aktivitäten, eine Frage und eine Antwort für Evaluation?
- Ziele:* Finden des besten Models
- Schritte / Aktivitäten:* Ergebnisse beurteilen, Prozess validieren, nächste Schritte festlegen
- Fragen:* Welches ist das beste “Modell”? Ist das “beste” Modell genug? SInd weitere Iterationen nötig? Gibt es ggf. Schwächen im Prozess?
- Antworten:* Die Frage muss im Kontext der jeweiligen Aufgabe & Ziele beantwortet werden
Was führte dazu, dass Daten so ein Bedeutung gewinnen?
- Datenvokumen nimmt exponentiell zu
- Mooeresches Gesetz (exponentieller Wachstum)
- CRM => Viele Daten
- Daten als Kapital
Beschreibe eine Assoziationsanalyse und nennen ein Bespiel.
Suche nach Abhängigkeiten zwischen den Objekten.
z.B Warenkorbanalyse
Beschreibe eine Clusteranalyse und nennen ein Bespiel.
Erschafffe einheitlicher, homogener Objektteilmengen. zB. Erstellen eines Kunden-Portfolios
Beschreibe eine Klassifikationsanalyse und nennen ein Bespiel.
Aufteilung der Objekte in vordefinierten Klassen.
Z.B. Abwanderungsrate => Kundenbindungsmaßnahmen
Beschreibe eine Regressionsanalyse und nennen ein Bespiel.
Identifikation von Trends im Datenzeitbezug. => Vorhersagen in Verkauf und Umstaz (Absatz- / Produktionsplanung)
1) Bivariate lineare Regression: Geradengleichung -> Minimierung Fehlerquote, Regressionskoedffizient, Korrelationskoeffizient und Bestimmtheitsmaß berechnen
2) Multivariate lineare Regresssion: Linearkombination, Berechnung des korrigierten Bestimmheitsmaßes
Was ist die Verbindung von Data Science zu KI?
Data Science verwendet und passt die Algorithmen und Methoden der KI an, um aufgrund von zugrunde liegenden Daten vorhersagen treffen zu können => ML & Neuronale Netze
Was ist die Verbindung von Big Data zu KI?
Für KI wird eine große Datenmenge beötigt, erst hier durch kann der Mehrwert generiert werden. Wichtigste Technoligen -> Neuronale Netze
Welche Zeichen und Datentypen gibt es?
1) Arabische Zahlen, ASCII
2) Ganze Zhalen, Gleitkommazahlen, etc.
Welche Skalenniveaus gibt es?
Daten:
- > Norminalskala (keine Rangordnung)
- > Ordinalskala (Rangordnung ohne Abstände) -> Meist diskutiert
- > Kardinal-Metrische Skala (Rangordnung) -> Meist stetig
Was sind kriterien für gute Datenqualität?
- Glaubwürdigkeit -> Korrektheit, Konsistenz
- Nützlichkeit -> Vollständig, Genauigkeit
- Interpretierbarkeit -> Einheitlichkeit, Eindeutigkeit
- Schlüssenintegrität (relationel) -> Eindeutig zurordnenbar
Wie können Daten visualisiert werden?
Balken, Torte, Linie, Fläche, Scatterplot, Blasen
Wie sieht eine Modellierung aus vom Ablauf?
Partitionierung/Sampling: Trainingsdaten [Modell]
=>
Daten: Validierungsdaten [Trainiertes Modell] -> Testdaten [Finales Modell]
=>
Neue Daten [Finales Modell]
Wofür nutzt der Online-Handel die Assoziationsanalyse?
- Recommender-System -> Wir empfehlen auch
- Cross-Selling => zusätzliche Verkäufe
- Up-Selling => höherwertiges Produkt verkaufen
Wie wird eine Assoziationsanalyse durchgeführt?
- Schritt: Warenkorbanalyse:
- Sammlung von statistischen Analysemethoden zur Erstllung von Abhängigkeiten
- Menge aller innerhalb eines Zeitraums gekaufter Produkte - Assoziationsregel:
- Beschreibung Korrelation zwischen gemeinsam auftretender Dingen - Assoziationsanalyse:
- Zweck ist das ermitteln von items, die das Auftreten anderer Items innerhalb einer Transaktion implizieren
Nenne alle Paratemer für die Rechnung!
i = item t= transaction D = Datenbasis a->b = Assozationsregel D = Alle transaktionen Ta= Transaktion zu A Tb= Transaktion zu B Tab= Transaktion zu A mit B und B mit A = A und B
Wie berechnet sind der confidence ?
Confidence (x->y) ) = Txy/Tx
Confidence (y->x) ) = Tyx/Ty
Wie berechnet sind der lift ? Was sind die Maßnahmen aus dem Lift? Wie lässt sich eine Interpratation beschreiben?
Lift (x->y) = Lift (y->x) = (TabD)/(TaTb)
<1 => Up-Selling
=1 => keine spez. Aktion
>1 => Cross-Selling (komplementär)
Bsp. Lift= 10.
Interpreation: Der Kauf von Schuhen ist um 10x, wenn eine Schuhcreme (oder umgekehrt) gekauft wurde, somit gibt es ein hohes Cross-selling potenzial
Anwendung im stationären Handel: Zahnpasta neben den zahnbürsten platzieren
Anweundung im Online-Handel: Andere kaufen auch das Produkt
=> Bei beiden Bundleangebote
Lift= 0,5 Der Kauf von Schuhen ist halb so hoch und daher wird Up-Selling empfohlen. Da die Schuhe mehr kosten von Schuhcreme auf Schuhe.
Stationärer Handel: Verkäufer bietet Schuhe anstatt schuhcreme an, wenn jemand schuhcreme kauft
Online-Handel: Suche nach Schuhcreme => Schuhe werden angeoten oben in der Trefferliste
Was sind die Merkmale und Gütekritierien für die Clusteranalyse?
Darstellungsformen der Clusteranalyse?
Merkmale:
- Schaffung von einheitlichen, homogen Objekteilmengen,
- Verfahrung zur Schaffung von Segmente
- Unsupervised learning ohne label (ziele)
Gütekriterien:
1) Homogenität eines Cluster
- > Standardbweichung und Varianz als Homogenitätsmaß sollten für die Objekte innerhalb der Clsuter möglichst klein sein
2) Heterogenität zwischen den Cluster
- > Mittelwert als heterognetitätsmaß. Die Mittelwerte der Merkmal sollten sich deutlich unterscheiden
Darstellung:
1) Dendogramm
2) Struktogramm
Welche Verfahren gibt es in derClusteranalyse + Defintion
ist ein Segmentverfahren zur Gruppenbildung homogener Objekte. Die Gruppen sind möglichst heterogen zueinander. Unsupervised learning, weil die Zielwerte unbekannt sind.
Hierarchische Verfahren: Bottom-Up agglomerative
Top-down divisive
Partitionierende Verfahren: k-mean: Objekte werden nach und nach zugeordnet, wobei das Zentrum immer neu berechnet wird.
Welche Klassifikationsmethoden gibt es? und fasse diese Kurz zusammen.
- Binäre Klassifikation:
- Alle Objekte sind bereit Klassen zugeordnet
- Durch Training soll funktion erlernt werden zukünftige neue Objekt aufgrund ihrer Attribute zu klassifizieren
- Gütekriterien zum Vergleich von Verfahren & Einschätzen
- Confusion Matrix als wichtiges Hilfsmittel der Modellevaluation - Naive Bytes:
- > Einfaches Verfahren auf Basis wahrscheinlichkeitstheoretischer Grundlage
- > Zur Klassifikation die wahrscheinliste Hypothese suche
- > Effizienz & schnell, aber nur bei vereinfachten Annahmen - Entscheidungsbaumanalyse:
- > Ermöglicht die Ableitung einfacher Regeln, für die Entscheidungen. Neue Obejekte automatisch den bestehenden Klassen zuordnen.
- > OBjekte werden durch Attribut-Wert-Paare beschrieben und durch vollständige Pfade klassifiziert
Was sind die Messgrößen bei der binären Klassifikation?
True positive => positive Datensätze werden als korrekt klassifiziert
true negative => negative Datensätze werden als korrekt klassifiziert
false positive => positive Datensätze werden als falsch klassifiziert
false negative => negative Datensätze werden als falsch klassifiziert
Wie lässt sich die Güte von Klassifikation ermitteln und was sind Darstellungsformen?
- Spezifität (correct rejection rate) und falsch-positiv-rate (Ausfallrate
- Sensitivity: (trefferquote) und Falsch-negative (miss-rate
- Postiver (wirksamkeit) und negativer Vorhersagewert (Trennfähigkeit)
- Korrekt- (Vertraungswacheinlichkeit) und Falschklassifikation
- Kombinierte Maße ( Überprüfung, wie sich Gterkriterien beeinflussen)
Darsteluung : ROC darstellung für sensitivität und spezifität
AURC (area under ROC curve) (Je größer die fläche, desto besser die Aussagen)
Was sind die Vor- und Nachteile von Naive Bytes?
Vorteile:
-einfach zu programmieren
-keine großen trainingsmengen nötig
-trotz stark vereinfachten Annahme seh effizient
Nachteile:
-Unabhängigkeitsnnahme stimmt fast nie
-Es gibt “bessere” Klassifikationsverfahren
Was ist bei der Entscheidungsbaumanalyse post- und pre-pruning
Dadurch vermeidet man Overfitting!
Post-pruning -> nach dem Training unnötige Objekte entfernen
Pre-pruning -> während des Trainings rechzeitiges Abbrechen Baum bleibt so
Was sind die Vor- und Nachteile der Entscheidungsbaumanalyse
Vorteile: -einfache Nachvollziehbar, Anwendbar -Effizientes Lernen aus vielen Beispielen möglich -Gute Klassifikationsgüte Nachteile: -Nicht robust gegenüber Rauschen -Tendenz zum Overfitting
Wie unterscheiden sich Interpolation und Extrapolation bei der Regressionsanalyse?
Interpolation: -> Abschätzung unbekannter Werte zw. bekannten Werten
Extrpolation: -> Abschätzung in Bereichen, wo keien Daten vorhanden sind = Prognose
Was für Prognosen gibt es bei der Regressionsanalyse?
1) Entwicklungsprognose: Vorhersagen über Werte, die nicht beeinflusst werden können
Verfahren: KNN
2) Wirkungsprognose: Analyse kausaler Effekte, einstellbarer Variablen
Verfahren: Multivariante Regression
Was ist der unterschied zwischen korrelation vs. Regression?
Korrelation untersucht die ungerichteten Zusammenhänge zwischen metrischen Variablen.
EIne Regressionsanalyse bildet dagegen einen funktionalen Zusammenhang der unabhängigen Variablen von einer der mehreren abhängigen Variablen ab.
Was ist linearen Regression? und was sind gütekriterien?
Modellierung der Beziehung zwischen einer abhänigen und mind. einer unabhänigen Variablen.
Funktionaler Zusammenhang.
MSE= Der mittlere quadratische Fehler MAD= Der mittlere absoluten Fehler MAPE= Der mittlere absolute prozentuale Fehler
Was ist die gemeinsamkeit und sind die unterschiede zwischen Regressionsanalyse und Klassifikation?
Gemeinsam: Überwachten lernen
Unterschiede:
Regression
- Kontinuierlicher Zielwert
- metrische Skalen
- Trendlinie
Klassifikation
- diskrete Zielwerte
- Normalskala
- trennlinie
Was ist Enseble Learning?
Technik im ML im Bereich Predictive Analytics genauer der Klassifikation. und Regressionsanalyse.
Gruppen von modellen werden trainniert und bilden ein komitee, um aggregiertr Vorhersagen zu machen, dieid.R. eine bessere Vorhersagensgüte und eine geringere Überanpassung als das einzelne Modell haben (supervised learning)
Was ist “parallele Verfahren” im Zusammenhang mit Enseble Learning?
A) Modelle parallel mit vielen Stichproben trainieren
1) Bagging:
-Auf Basis von Trainingsmengen werden neue Strichproben erzeugt
-Zufälliges ziehen mit zurücklegen
2) Pasting: WIe Bagging nur ziehen ohne zurücklegen -> disjunkte Stichproben
Voraussetzung: Genügend Stichproben
B) Stacking
wie Bagging oder Pasting, aber:
Optimierung der Abstimmungsverfahren
Dieser Meta-Lerner bekommt die Vorhersagen der einzelnen Modelle des Ensembles als Input-Werte und benutzt diese als Trainingsdaten, um mittels eines geeigneten Lernalgorithmus die tatsächliche Zielwerte möglichst gut zu reproduzieren
Was ist Boosting /Ada Boosting bzw. sequentielle Verfahren im Zusammenhang mti Enseble Learning?
Sequentiell, itteratives Verfahren, welche die Schwächen des vorherigen Modells nutzt, um dieses im nächsten Schirtt zu verstärken und ein Starkes Modell zu schaffen
1.ada-Boosting -> 1. normales training 2. validierung 3.Schwierige Trainingsdaten höher gewichten
Was ist ein Random Foret und ein Gradient Boosted Tree?
Random Forest = Bagging + Entscheidungsbaum
Gradient Boosted Tree = Boosting + Entscheidungsbaum
Was ist ein Agglomeratives Clusterverfahren (hierarchisches Verfahren)?
- Bottom-up-prinzip
- beginnend mit k lcustern werden die ähnlichen clsuter zusammengefasst
- Ähnliche Cluster werden basierend auf K immer größer zusammengefasst
- Dabei wird die Distanzmatrix zu den Objekten berechnet
- Die MAtrix wird für jede “Vergrößung” der Zusammenfassung neu berechnet, bis jedes Objekt zu einem Cluster gehört
Was ist ein divisives Clusterverfahren(hierarchisches Verfahren)?
- top-down-ansatz
- Beginnend mit nur einem Cluster werden die Daten weiter aufgeteilt in immer heterogener Clsuter
Was ist die k-mean Methode bzw. das Vorgehen?(hierarchisches Verfahren)
Clusterzentren => Vorgehen:
K Cluster-zentren zufällig wählen
1. Ordne jedes Obejkt je nach Distanz genau einem Zentrum zu
2. Neuberechnung der k-Cluster zentren
3. Wiederhole die beiden Schritte bis zur Konvergenz
Wie werden Cluster-Distanzen berechnet?
- Singel Linkage: minimale Distanz
- Complete Linkage: Maximale Distanz
- Avarage Linkage: mittlerere Distanz
- Zentroid: Abstand der Schwerpunkte (mittlerer Wert)
Was sind die Vor- und Nachteile von Clustering?
Vorteile:
- Für kleine Datensätze geeignet
- Anzahl der Cluster muss nicht vorbestimmt werden
- Komplexe Distanzmaße möglich
- Visualisierung als Dendrogramm
Nachteile:
-Schlechte Laufzeit (Performance): Anzahl Distanzen ∼ 𝑛2, 𝑛 Iterationen
-Eine endgültige Zuordnung erfolgt nicht, d.h. der Anwender muss selbst entscheiden, wo im Dendrogramm
der „Schnitt“ gemacht werden soll (ggf. Elbow-Kriterium im Struktogramm benutzen)
-Ausreißer können zu winzigen Clustern führen
Was sind die Vor- und Nachteile von Assoziationsanalyse (apriori algorithmus)?
Vorteile
Nutzt die Monotonie-Bedingung aus, um den Lösungsraum zu verkleinern.
Effiziente Möglichkeit die Candidate Itemsets zu speichern (Hash-Tree-Speicherung)
Gute Performance (im Vergleich zu früheren Algorithmen wie AIS oder SetM)
Apriori-MapReduce-Algorithmus in einer Hadoop-Umgebung (Big Data)
Nachteile
Parameterwahl (Mindestsupport, Mindestconfidence)
Für große k werden (zu) viele Datenbank-Scans notwendig
Für kleine k werden (zu) viele Candidate itemsets berechnet (=> Frequent Pattern Growth (FPG))
Häufig werden (zu) viele Assoziationsregeln generiert (=> ggf. Mindestlift zur Filterung)
Was sind die Vor- und Nachteile von Regressionsanalyse?
Vorteile Einfache Methode zur Prognose Solides mathematisch fundiertes Modell Viele Anwendungsmöglichkeiten In Excel bereits integriert, in vielen anderen Anwendungen ebenfalls
Nachteile
Auswahl der Funktionenklasse (linear, polynomial, logarithmisch, exponentiell, …)
Scheinkorrelationen möglich
Systematische Störungen verfälschen das Ergebnis
Überanpassung (Overfitting) möglich, insbes. bei vielen Modellparametern
Was ist Kreuzvalidierung?
Eine Methode bei dem du mit allen Daten validierst. Z.b Leave one out
Was ist Gradient Boosting bzw. ein sequentielles Verfahren im ensemble learning?
Basis: Gradientverfahren
-Fehlerfunktion / Kostenfunkton / Loss function wird partiell nach den Gewichtungen abgeleitet
Iteratives Verfahren
Iteratives Verfahren: Richtung und Größe dieses Gradienten werden zur Fehlerkorrektur und für den nächsten Versuch verwendet
-Nächster Versuch = neues Modell
Vor- und Nachtteile Ensemble Learning
Vorteile:
- Oft wird eine bessere Genauigkeit erzielt als mit den einzelnen Modellen
- Für Klassifikations- und Regressionsaufgaben gleichermaßen einsetzbar
- Kann für verschiedene Modelle (nicht nur Entscheidungsbäume) verwendet werden
Nachteile:
-Ergebnisse sind nun nicht mehr nachvollziehbar, wie ggf. bei den einzelnen Modellen
Vor- und Nachteile Bagging
Vorteile
- Bagging: Zusätzliche Informationen (Wichtigkeit der Attribute) werden geliefert
- Bagging: Parallelisierung des Trainings der einzelnen Modelle ist ggf. möglich
Nachteile
- Bagging: Große Datenmengen werden benötigt
- Bagging: Mehr Rechenzeit für die Vorhersage wird benötigt
- Boosting: Sehr rechenintensives Training, falls Parallelisierung nicht möglich ist
- Boosting: Eine Überanpassung (Overfitting) ist möglich
Vor- und Nachteile
Künstliche Neuronale Netzwerke
Vorteile
Lernfähigkeit und Generalisierungsfähigkeit
Adaptionsfähigkeit: Auch ohne Kenntnis von (komplexen) Ursache-Wirkungs-Zusammenhängen kann Verhalten über
Ein- und Ausgangsdaten nachgebildet werden
Fehlertoleranz (bspw. bei verrauschten Daten) und Verarbeitung ungenauer oder sogar widersprüchlicher
Informationen
Nachteile
Auswahl und Vorverarbeitung der Trainingsdaten (Inputs): „Blei => Gold“?
Training: viele Parameter => hohe Dimension => globales Optimum?
Überanpassung (Overfitting) möglich, d.h. schlechte Generalisierungsleistung
Black Box: Man bekommt kein verständliches Modell (für die Ursache-Wirkungs-Beziehungen)
Was sind Künstliche Neuronale Netze?
- eingerichteter, gewichteter Graph mit künstlichen Neuronen als Knoten und Verbindungen
- eigener Bereich der KI
- sind Computerprogramme, die der Funktionsweise des Gehirn nachempfunden sind
- sind vielseitig einsetzbar & können u.a.zur Klassifikation und zur Regression verwendet werden
- Adaptionsfähig
Merkmale von KNN?
Algorithmen, nach dem das KNN lernt, für ein vorgegeben Eingabe (input) eine gewünscht Ausgabe (output) zu produzieren Input ->Blackbox -> output
Multilayer Perzeption (MLP) von KNN
Vollständig verbundene, vortwärts-gerichtetes KNN mit Neuronen in verborgenen Schichten - Eingabeschicht (input-layer) -verborgene Schicht (hidden layer) -Ausgabeschicht (outpur layer) Lernen: -element hinzufügen -element löschen -element ändern)
Vor- und Nachteile von KNN?
Vorteile
-Lernfähigkeit und Generalisierungsfähigkeit
-Adaptionsfähigkeit: Auch ohne Kenntnis von (komplexen) Ursache-Wirkungs-Zusammenhängen kann Verhalten über
Ein- und Ausgangsdaten nachgebildet werden
-Fehlertoleranz (bspw. bei verrauschten Daten) und Verarbeitung ungenauer oder sogar widersprüchlicher
Informationen
Nachteile
- Auswahl und Vorverarbeitung der Trainingsdaten (Inputs): „Blei => Gold“?
- Training: viele Parameter => hohe Dimension => globales Optimum?
- Überanpassung (Overfitting) möglich, d.h. schlechte Generalisierungsleistung
- Black Box: Man bekommt kein verständliches Modell (für die Ursache-Wirkungs-Beziehungen)
Welche Knoten werden im Knime in Phase 2 Data Understanding genutzt?
- CSV Reader: Um die (Trainings- / Test-) Daten einzulesen
- ValueCounter: Zähl die Anzahl der Vorkomnisse aller Werte in einer ausgewählten Spalte
- Statistics: Um erste Analysen durchzuführen (Min, Max, Standardabweichung, etc.)
- Concatenate: Um die (Trainings- / Test-) Daten zusammenzuführen
Welche Knoten werden in KNIME in Phase 3 genutzt?
- Missing Value: hilft bei der Behandlung fehlender Daten (innerhalb der Zeilen)
- Number to String: Konvertiert Zahlen (in einer Spalte) in Zeichenfolgen
- Category to Number: Spalten mit nominalen Daten werden als ganze Zahl abgebildet
- Raumsplitter: Aufteilung der Zeilen nach bestimmten Kritierien
- Correlation Filter: Um Stark korrelierende Spalten zu entfernen (Komplexitätsreduzierung)
- Equal size sampling: Um das Ungeichgewicht in der Datenmengen ins Gleichgewicht zu bringen. Dadurch wird das Modell nicht stärker in eine Richtung trainiert
Welche Knoten werden in KNIMEin Phase 4 genutzt?
- X-Partitioner (bei superv. Learning.): Um die Daten zu partitionieren
- ” Predictor: Um das Modell mit den Validierungsdaten zu validieren
- “Learner: Um das Modell mit den Trainingsdaten zu trainieren
- “X-Aggregator”: Um Validierunsgregeln zu aggregieren
- “Scorer”: -Um gemittelte Validierungsergebnisse anzuzeigen
- “ROC”: Knoten zur osualiserung
- “ScatterPlot”: Knoten zur Visualierung
Was ist Data Science? Welche Felder umfasst Data Science und was sind die typischen Aufgaben eines Data Scientists?
1.Felder: Mathematik & Statistik, Domänenwissen und Fachwissen, Information
2. Diziplinen: Forschung, Machine Learning, Software Engineering
3. Aufgaben: Diziplinen von oben, Datenverarbeitung, Datenbearbeitung, Datenanalyse, Anwendung von Datenanalyseverfahren und Datenvisualierung. Daraus folgt Musterkennung und Erkenntnisgewinnung.
Nutzt: Data Mining, Knowledge Discovery in Databases (KDD), Machine Learning
Wie berechnet man den Support und wie ist dieser zu interpretieren?
Support (A->B) = Support (B->A)= Tab/D
Interpreation : Geringer Support = untergeordnete Rolle für die Gesamttransaktionen
Für den Support spielt es keine Rolle, welches Produkt zuerst gekauft wurde
Gütekriterien von der Klassifikation?
Vier-Felder-Tafel:
-Konfusionsmatrix
Receiver Operating Chracteristics (ROC):
-Identifizierung der optimalen Parameter eines Lernverfahrens
Wie heißt der Algorithmus der Entscheidungsbaumanalyse?
IDE3, CART
Wie funktioniert der Apiori Algorithmus?
Damit können assoziationsregeln der Form A->B aus einer Vielzahl von Transactionen gefunden werden. Wenn A vorkommt, dann kommt auch B ( mit einer gewissen wahrscheinlichkeit) vor.
Standisiertes Verfahren zur Bildung von Assoziationsregeln:
Phase 1: Suche frequent Intemset (iterativ)
Phase 2: Bilde Assoziationsregeln (iteratik, rekursiv)
