Week 8 Flashcards
Noem twee vormen van co-evolutie zonder natuurlijke selectie:
de Gaia hypothese en
Daisy world.
Noem de Gaia hypothese:
Leven creeërt haar eigen ideale omstandigheden door de omgeving te beïnvloeden. De omgeving leeft ook en oefent invloed uit.
Lijken Genetische Alogritmen op natuurlijke selectie?
Nee
Waardoor lijken Genetische Algoritmen niet op natuurlijke selectie?
De fitness functie wordt in GA’s a priori bepaald, terwijl niemand de fitness functie bepaald in natuurlijke selectie. Deze hangt af van de omgeving,.
Noem 2 modellen voor het bestuderen van de interactie tussen soorten:
Differentiale vergelijkingen (Lotka-Volterra) en cellullaire automaten.
Wat is Replicator dynamiek?
Generalisatie van de Lotka-Volterra vergelijkingen naar meerdere soorten.
Welke variabelen horen bij de replicator vergelijking?
Fenotypes E1, …, En
Relatieve frequenties x1, …, xn
Relatieve vector x> = (x1, …, xn) met 1 als som van alle frequenties.
Fitness van een fenotype fi(x>), staat vast.
Wat is de formule voor de gemiddelde fitness van een populatie?
f^ (x>) = som.i=1,n van xi*fi(x>)
fitness van populatie is de som van de frequentie * de fitness van dat fenotype/individu, voor allee individuen in de populatie.
Waar hangt de verandering van een fenotype Ei vanaf?
Is gerelateerd aan het verschil tussen fi en de fitness van de populatie:
verschil = fi(x>) - f^(x>)
Geef de replicatorvergelijking met adaptiesnelheid alpha:
delta.xi = Alpha*xi (fi(x>) - f^(x>))
Verschil in frequentie van individu 1 is gelijk aan Alpha * de frequentie van individu * het verschil tussen de fitness van individu en fitness populatie.
Hoe wordt fitness berekend in een model voor co-evolutionaire replicator dynamiek?
fi (x>) = som j=1,n van aij * xj
met aij = de fitness waarde van fenotype Ei in de aanwezigheid van Ej
Wat gebeurt er als aij en aji vrij groot zijn?
De soorten werken samen en krijgen daardoor een hogere fitness.
Wat gebeurt er als aij en aji negatief en vrij groot zijn?
De soorten zijn competitief en degene met de grootste frequentie zal domineren en kan de ander laten uitsterven.
Hoe ziet het Daisyworld model eruit?
Een denkbeeldige planeet die bestaat uit witte en zwarte daisies. Ze kunnen hun omgeving veranderen, zich reproduceren, groeien en doodgaan. De globale variabele is de temperatuur.
Wat is de werking van het Daisyworld model?
De favo temperatuur van de witte daisies is hoger dan die van de zwarte daisies. Witte daisies reflecteren ook zonlicht waardoor de temperatuur weer daalt bij teveel witte. Zwarte daisies absorberen temperaturen en koelen zo de planeet af.
Hoe noem je het proces dat het Daisyworld model demonstreert?
Een zelf-regulierende feedback loop
Wat zijn de regels voor een CA van het Daisyworld model?
Zwart overleeft het beste bij 40 graden, wit bij 60 graden. 20 graden verwijderd van deze temp daalt hun overlevingsgraad met 50%.
Zwarte verhogen temp in 49cellen om hen heen met 3 graden. Witte tegenovergesteld.
Daisies reproduceren 6 zaden random in de 25 cellen om hen heen met 40% waarschijnlijkheid bij ideale temp.
Zaden hebben ws 10% om dood te gaan elke cyclus. Worden daisies met beste ws bij beste temp.
Welke twee evolutionaire processen zien we in de CA voor het Daisyworld model?
Natuurlijke selectie
Zelf-regulatie
Wat is Co-evolutionaire Gaia?
Het leven bepaald de omgeving door feedback loops tussen organismen en omgeving die het geheel vormen. Atmosfeer en planten trekken zich aan elkaar op.
Wat is geofysiologische Gaia?
Een sterke vorm van de Gaia-hypothesis. De aarde zelf is een levend organisme en leven optimaliseert de fysieke en chemische omgeving.
Wat is homeostatische Gaia?
De interactie tussen organismen en omgeving wordt gedomineerd door vooral negatieve feedback loops en een paar positieve die de globale omgeving stabiliseren. Nadruk op evenwichtseffect.
Geef drie voorbeelden van het homeostatische proces van Gaia:
1) De hoeveelheid zuurstof
2) Temperatuur
3) Carbon-dioxide
Co-evolutie voor optimalisatie
Wordt gebruikt bij . Fitness van een test wordt hoger als individuen em op kunnen lossen. Testen die door alle individuen of door geen individuen opgelost worden, worden verwijderd.
Wat is het Pareto-front in co-evolutionaire genetische algoritmen?
De verzameling van individuen die niet gedomineerd worden door andere individuen.
Hoe is de relatie van domineren gedefinieerd in co-evolutionaire genetische algoritmen?
domineert(k,i) = For all j there is a fi(j) smaller than or equal to fk(j)
and
there exists an l such that fi(l) is smaller than fk(l)
Watson & Pollack: Wat doet f(a,S)? Geef ook de formule
Telt het aantal members van S die minder zijn dan a:
f(a, S) = de som van i = 1, |S| score(a, S)
Met score(a,b) = 1 als a>b en 0 anders.
Objectieve fitness
De waarde de we willen optimaliseren
Subjectieve fitness
Optreden zoals ontvangen bij het co-evoluerende invididu
Wat houdt intransitieve superioriteit in?
Als A B verslaat en B verslaat C, betekent dat niet dat A ook C verslaat.
Wat is Albedo?
Het weerkaatsingsvermogen van een oppervlak.
Wat is het gemiddelde albedo van de aarde?
37-39 procent.
Wat zegt Lovelock over de albedo van de aarde?
De aarde houdt de temperatuur binnen bepaalde grenzen door plankton in de zee, vergelijkbaar met de tropische bossen in Brazilië.
Waar staat DMS voor?
dimethylsulfide
Hoe onstaat een zelf-regulerende feedback loop in het Daisyworld model?
Witte bloemen hebben een hoog albedo, zwarte bloemen een laag albedo. Bij hogere temperatuur floreren de witte bloemen en koelen zij zo de aarde af. Bij lage temperatuur floreren de zwarte bloemen en warmen zij zo de aarde op.
Waar is de DMS-loop een voorbeeld van?
Zelfregulatie door middel van negatieve feedback
Wat gebeurt er als er veel zonlicht op zee-algen schijnt?
Ze produceren een gas: di-methyl-sulfide (DMS), waar rondom condensatie ontstaat.
Wat is de relatie tussen de hoeveelheid wolken en de hoeveelheid zonlicht?
Ze sturen elkaar bij, een negatieve zelf-regulerende feedback loop.
Wat is het doel van het Daisyworld model van Lovelock?
De relatie tussen organismen en hun omgeving modelleren.
Wat zijn de vijf versies van Gaia volgens James Kirchner?
invloeds-Gaia, co-evolutionaire Gaia, homeostatische Gaia, theologische Gaia en optimaliserende Gaia
invloeds-Gaia
Niet meer dan de constatering dat er interactie is.
teleologische Gaa
Er zit een doel achter.
optimaliserende Gaia
Planten manipuleren de omgeving, interacteren alleen om zichzelf in leven te houden.
Welke versies van Gaia zijn zwak?
invloeds-Gaia en co-evolutionaire Gaia
Welke drie versies van Gaia zijn sterk?
homeostatische Gaia, teleologische Gaia en optimaliserende Gaia
Hoe beschrijft Kirchner de drie sterke versies van Gaia?
Good: plat waar, zonder jouw theorie wisten we ook al dat het waar is.
bad: plat onwaar, same.
ugly: niet testbaar.
Wat is symbiose?
Samenwerking
Co-evolutie
een wisselwerking tussen verschillende systemen met als resultaat een parallelle evolutie van die systemen.
Wat is een co-evolutionair algoritme?
Een evolutionair algoritme waar fitness van individuen gebaseerd is op het success in de interactie met andere individuen. Absolute fitness bestaat niet/is niet zichtbaar.
Absolute fitness
Kwantitatief, een reeël getal meestal.
Optimalisatie-oppervlak waarlangs individuen zich bewegen ligt vast. (speerwerpen). Wordt gebruikt in conventioneel evolutionair programmeren.
Relatieve fitness
Elke interactie tussen individuen levert informatie op. Wordt gebruikt in co-evolutionair programmeren. Kwalitatief en optimalisatie-oppervlak is variabel (judo, tennis)
Intra-populationele interactie
één populatie. Individuen concurreren met elkaar om te leren waar ze staan in de hierarchie en om zichzelf te verbeteren.
Inter-populationele interactie
individuen concurreren met individuen uit een andere populatie.
Hoe verandert gedrag de eerste 20 generaties in co-evolutionaire robotica?
De eerste +-20gen volgen de jagers de prooi. Prooi is sneller dan de jager, dus werkt niet altijd.
Wat gebeurt er na +- 45 generaties in het jager-prooi model van co-evolutionaire robotica?
Traject-anticipatie vindt plaats:
jager bekijkt prooi en valt uiteindelijk aan op basis van het geanticipeerde traject. Als gevolg gaat prooi snel bewegen
Wat gebeurt er na 75 generaties in het jager-prooi model van co-evolutionaire robotica?
“spin” strategie: de jager wacht de prooi op. De prooi gaat zo snel dat ie niet op tijd de jager detecteert.
The Red Queen effect
Het constant moeten verbeteren om zinvolle info terug te blijven krijgen over eigen fitness.
Absolute fitness stijgt, relatieve fitness blijft constant.
Noem 3 voordelen van co-evolutie:
Bereikbaar doel
Relevant doel
Ongelimiteerd doel
Bereikbaar doel
Co-evolutie zorgt ervoor dat individuen in een populatie zich aan elkaar op kunnen trekken.
Relevant doel
Co-evolutie zorgt ervoor dat verbetering zich richt op onder-ontwikkelde eigenschappen.
Ongelimiteerd doel
Met co-evolutie is er altijd de mogelijkheid om beter te spelen dan de beste.
Mode van Watson & Pollack
Bitstrings van lengte 100
Absolute fitness van individu a (onzichtbaar voor individu a) = aantal 1en
Relatieve fitness van individu a = vergelijk met groepje S van andere individuen. Tel het aantal keren dat je wint.
Min-d
De coördinaat waar A en B het minst verschillen (bijvoorbeeld x of y). A wint dus van B als dit co:ordinaat van A groter is dan van B.
Max-d
De coördinaat waar A en B het meest verschillen (bijvoorbeeld x of y). A wint van B als, kijkende naar dit coördinaat, A groter is dan B.
Beschrijf de jager en de prooi in co-evolutionare robotica van Floreano en Nolfi:
Jager met een visueel systeem met kijkhoek 36 graden.
Prooi heeft eenvoudige sensoren voor ontdekken object tot aan 2cm, kan max. 2x zo snel rijden.
Wat zijn de 6 parameters in het jager-prooi model van co-evolutionaire robotica?
Genotype
Populatiegrootte
Reproductie
Evolutielengte
Selectie
Relatieve fitness
Hoe werkt het definieren van individuen in meerdere dimensies?
Een individu kan gerepresenteerd worden met bijvoorbeeld 2 dimensies, x en y. Let op dat hier niet één waarde van gemaakt kan worden! De weging van componenten kan verschillend zijn per tegenstander. Je kunt een dimensie kiezen waarin je vergelijkt (net als min-d en maxd)
Welke 3 nadelen van co-evolutie noemen Watson & Pollack?
loss of gradient / verlies van leerdoel. Andere populatie te goed, verliezende populatie mist info om te selecteren
over-specialization / richten op de verkeerde punten. Steeds profiteren van andermans zwakheden verbetert niet altijd.
relativism / relativisme. Beter presteren dan de ander zegt niets over absolute kwaliteit.
Wat is het genotype in het jager prooi model van co-evolutionaire robotica?
Bitvector. Elke byte = 8bits en correspondeert met een gewicht in een standaard neuraal netwerk.
30 gewichten in neural netwerk jager
20 voor prooi
Wat is populatiegrootte en reproductie in jager-prooi model van co-evolutionaire robotica?
100 voor beiden
Mutatie op bits met kans 0.02, gebruikt geen crossover.
Wat is de evolutielengte, selectie en relatieve fitness in het jager-prooi model van co-evolutionaire robotica?
100 generaties
1-1 testen tegen de top 10 van eerdere generatied
Als jager binnen 2min prooi vangt, 1-0
Anders: 0-1 jager-prooi
Is absolute fitness transitief?
Ja, altijd!
Is relatieve fitness transitief?
Nee, niet altijd.
Genormaliseerde fitness
De absolute fitness van een individu / de totale absolute fitness. Telt op tot 1
Kans op selectie bij fitness-proportionele selectie.
Genormeerde relatieve fitness
de relatieve fitness gedeeld door hoeveel elementen in S zaten, dus teruggebracht naar een onderling vergelijkbare eenheid.
f(a,S) / |S|
equivalentieklasse
Een groep individuen met een gelijke relatieve fitness
verfijn-relatie
Een verzameling klassen verfijnt een andere klassenverzameling als de nieuw gevormde klassen gelijk zijn aan of deel zijn van de oorspronkelijke klassen.
What is the energy low point for a system?
The “relaxed” state
What does a neuron consist of?
A cell body, many dendrites and a single axon that ends with a bundle of terminal fibers.
What does the network of dendrites do?
Provides a large collection of connection points from which other neurons can interface
What does an axon do?
Branches out and may form a few thousand synapses with other neurons.
Where is the receiving end of a synapse?
On a dendrite or the cell body itself
Describe the behavior of a neuron:
They propagate information through a web of connections by sending a pulse through the axon. The pulse is transmitted to the terminal fibers, through which it travels to other cells via the synaptic junctions. The electrical potential of neurons on the receiving end is raised or lowered.
When does a neuron fire? What happens next?
A neuron fires if its electrical potential surpasses a threshold. The receiving neuron then sends another pulse to other neurons which repeats te process.
What is the normal state of the brain?
Aperiodicity
What is the idea behind McCulloch and Pitts’ model of a neuron?
a neuron’s state or activation, ai(t) at time t, is a function of a weighted sum of all of the incoming signals.
What is the formula for the activation of a neuron in McCulloch and Pitts’ model?
ai(t+1), the activation at time t+1 =
theta(x), the unit step function that is equal to 1 if x>0 and 0 otherwise,
with x= for the sum of all neurons 1 to n, wij (the synaptic strength of the connection from j to i) * aj(t) - bi (the threshold of neuron i)
What are the two main methods for updating activation values at a given time step?
synchronous and aynchronous
Synchronous updating
A method for updating the activation value of neurons at a given time step.
One simultaneously computes the next activation value for each neuron. Deterministic, but unrealistic because not all neurons obey a fixed clock.
Asynchronous updating
A method for updating the activation value of neurons at a given time step.
One randomly picks a neuron and updates it. More realistic, but take care that individual neurons don’t go too long without being updated.
Feedback neural networks
Artificial neural networks that have a collection of neurons that can potentially be wired to any other neuron in the system.
Associative memory
Content-adressable memory
Hebbian learning
The synaptic strength between two mutually connected neurons, adjusted in a manner proportional to the correlation between the two neurons, would account for associations.
> If two neurons fire at the same time, then the synaptic connections between them are strengthened.
How can we correct the function for memory for nove and rare events?
We can emply the bi terms. bi is set to:
-0.5 * for sum of j(wi,j)
= - 1/2n * sum of j * sum of k * xi^k * xj^k
Hopfield neural network (HN)
A more generalized type of neural network where artificial neurons take a continuous state and evolve continuously over time. The external state is a simple function of the internal state. The change in internal state is a function of signals received from other neurons.
Equation for time evolution of neurons in Hopfield neural network
described by:
dUi/dt = sum of j=i,n
Ti,j * Vj
+
Ij
-
Ui / Tau
With Ui= internal state neuron i; Vi= external activation neuron i; Ti,j= strength of synapse connecting neuron j to i; Ij=external input injected into neuron i; g(x) = sigmoidal activation function : 1/1(+exp(x)) and tau=inverse decay term for internal state
Sigmoid function
The activation function of the neuron, g(x)
Task assignment problem
One has n tasks that must be accomplished by using only n workers. Each worker has his own efficiency or cost for performing particular tasks. Goal is to minimize total cost by using 1 worker per task and 1 task per worker.
k-out-of-n rule
If you have a collection of n Hopfield neurons that you want to converge to a configuration with exactly k on and (n-k) off, then you should set each Ti,j term to -2 if i is not equal to j (0 if i equals j) and set all Ii terms to (2k-1).
Renders a feasible solution, but not necessarily a good one.
Wat is het nadeel van een bereikbaar doel in co-evolutie?
Het verlies van leerdoel: Een populatie wordt te goed en de ander krijgt eenzijdige feedback (alleen maar verliezen). Er is dan geen info meer om uit eigen populatie te selecteren.
Wat is het nadeel van een relevant doel in co-evolutie?
Richten op de verkeerde punten: wordt je echt beter door steeds te profiteren van andermans zwakke punten?
Wat is het nadeel van een ongelimiteerd doel in co-evolutie?
Relativisme: beter presteren dan de ander zegt niks meer over de kwaliteit van prestatie.
Wat is de oorzaak van veel problemen in co-evolutie?
De relatieve fitness is vaak geen goede representatie van de absolute fitness.
Waar bestaat een Hopfield Netwerk uit?
Knopen (neuronen) die met elkaar verbonden zijn.
Wat is het nu van een Hopfield netwerk?
Zo’n netwerk kan een NP-volledig probleem oplossen als deze slim gecodeerd is in zijn verbindingen. Het HN geeft een wss goede oplosssing als deze ontspant.
Wat is een discreet Hopfield netwerk?
Een HN waarin alles met elkaar symmetrisch verbonden is. Verbindingen hebben evrschillende gewichten. Positieve verbinding heeft beide aan of beide uit, negatieve verbinding eentje aan en eentje uit.
Hoe ziet de gewichtenmatrix van een Hopfield netwerk eruit?
0 op de hoofddiagonaal en symmetrisch in de hoofddiagonaal.
Voor alle i,j groter dan 0 en kleiner dan n geldt dat w.ij = w.ji.
Hoe bereken je de activatie van een knoop in een discreet Hopfield netwerk?
Voor activatie van knoop i:
activatie is de som van alle gewichten van verbindingen tussen i en andere knopen * de activatie van die andere knopen, min de input bias van knoop i.
Noem Haykin’s stelling over het terugroepvermogen:
Het aantal patronen dat perfect kan worden teruggeroepen in een volledig Hopfield netwerk met n knopen is maximaal
n / (2ln*n)
Wat zijn de knoopwaarden in een continue Hopfield netwerk?
Variëren tussen 0 (uit) en 1 (aan).
