3.3 Neurowissenschaft, Kognitionswissenschaft und künstliche neuronale Netze Flashcards
Beziehungen - Forschungsstand
- zwischen Gehirn und den zahlreichen Erscheinungsformen geistiger Aktivitäten
- zwischen neuronalen Prozessen und ihrer Darstellung in Form von Computermodellen
müssen noch weiter erforscht werden
Nachbildung geistiger Fähigkeiten in Computermaschinen - allgemein
- fasziniert Forschende seit Anfängen der Informationstechnologie und des Computerzeitalters
- Inspiation für Informatiker und Forschende der KI (von philosophischen, psychologischen und neurologischen Modellen kognitiver Fähigkeiten)
- Computermodelle entwickelt und eingesetzt -> Einblicke über Funktionsweise des Geistes oder neuronalen Schaltkreise in Organismen
Nachbildung geistiger Fähigkeiten in Computermaschinen - bekanntestes Ergebnis
- Warren McCulloch
- Walter Pitts
- 1940er-Jahren
- Computermodell der neuronalen Aktivität
- in Varianten noch heute in konnektionistischen maschinellen Lernmodellen verwendet
- Charakterisierung der Funktion eines Neurons
Charakterisierung der Funktion eines Neurons - Input
- Neuron erhält von anderen, in der Informationsverarbeitung vorgelagerten Neuronen eine Eingangsstimulation (Input)
- in Form von elektrochemischen Signalen
Charakterisierung der Funktion eines Neurons - Modulierung und Gewichtung
- moduliert Input je nachdem, wie oft zwei Nervenzellen zusammen aktiviert werden
- Je öfter, desto höher wird Verbindung zwischen den Neuronen gewichtet
Charakterisierung der Funktion eines Neurons - Output
- Wenn Gesamterregung bestimmten Schwellenwert überschreitet
- jedes Neuron nimmt Summe aller seiner gewichteten Eingänge
- sendet Impuls entlang des Axons, seiner Ausgangsverbindung
Abb. Schematische Darstellung eines künstlichen Neurons
- Signale werden über Eingangsverbindungen empfangen, welche die Verbindungsstärke über Gewichtungsparameter ωn modellieren
- gewichtete Eingaben werden aufsummiert
- resultierende Summe S wird an Aktivierungsfunktion f(S) übergeben
- Wert der Aktivierungsfunktion wird auf Ausgangsverbindungen verteilt
Nachbildung Funktion eines Neurons - aktueller Stand
- Informationsverarbeitung
- Lernen von Eingabe-Ausgabe-Verbindungen
- in begrenztem Umfang bereits mit einer einzigen Recheneinheit möglich nach Neuron Schema
Abb. Schematische Darstellung eines neuronalen 1-Schicht-Netzwerks
Informationsverarbeitung durch neuronales Netz - Ansätze
- Feedforward-Ansatz
- Rekurrenz-Ansatz
Feedforward-Ansatz - Quintessenz
Verarbeitung und damit der Informationsfluss erfolgt nur in eine Richtung (von einem Neuron zum nachfolgenden)
Feedforward-Ansatz - Durchführung
- Jeder Knoten im Netz empfängt Eingaben
- führt Verarbeitung auf Grundlage seiner zugehörigen Gewichtungen und Übertragungsfunktion durch
- gibt Signal ohne Schleife an verbundene Neuronen in nächster Schicht weiter
Feedforward-Ansatz - Arten von Schichten
(1) Eingabeschicht
(2) eine oder mehrere versteckte Schichten
(3) Ausgabeschicht (kodiert Reaktion des Netzes)
Rekurrenz-Ansatz - Quintessenz
- Informationsfluss folgt gerichteten Graphen
- Abfolge der Knoten entlang des Graphen kodiert zeitliche Abfolge der vom Netz durchgeführten Verarbeitungsschritte
- enthalten Speichereinheiten, die Informationen über frühere Zustände des Netzes oder seiner Bestandteile speichern können
Rekurrenz-Ansatz - Anwendungen
zeitlicher Aspekt ->
dynamisches Verhalten des Netzes ->
besonders geeignet für Anwendungen mit zeitlicher Komponente:
* Verarbeitung einer Zeitreihe
* Spracherkennung
* Handschrifterkennung