Hoofdstuk 4 Flashcards
Cyborg metafoor van Haraway
- Donna Haraway stelt dat wij mensen allemaal cyborgs zijn, een hybride wezen dat deels mens en deels machine is
- Idee van puur menselijke natuur is een mythe > technologie steeds belangrijker/groter deel leven
- Vervaging tussen wat natuur en cultuur (artificieel) is, is bevrijdend > in staat om in verzet te komen tegen bestaande grenzen
- I.p.v. technologie te zien als iets wat ons ontmenselijkt benadrukt Haraway dat het gebruik ervan en onze relatie met technologie ons juist mens maakt
- Moeten hybride aard omarmen en te vaststaande categorieën zoals man en vrouw overstijgen
- Dat biedt ons meer vrijheid om te denken en te leven zoals we willen
- Dit idee is relevanter dan ooit door het toenemende aantal technologieën zoals mobiele telefoons of wearables die een deel van onszelf en taken van ons lichaam en geest overnemen
Technologisch determinisme
- Het idee dat technologie de belangrijkste kracht is die de koers van de samenleving bepaalt
- Technologie ontwikkelt zich op een bepaalde manier en duwt mensen in een bepaalde richting > stuurt manier waarop mensen leven en denken zonder dat ze hier zelf veel invloed op hebben
- Technologie vormt samenleving en niet andersom
VOORBEELDEN
* Bij keuze zonne-, wind- of kernenergie in klimaatdebat is keuze afhankelijk van verst ontwikkelde technologie, i.p.v. bewuste menselijke beslissingen
* De opkomst van platforms zoals Netflix de samenleving in een richting geduwd waarin on-demand content de voorkeur heeft boven traditionele televisie > verandering kijkgedrag zonder dat dit bewuste keuze is
Technologische imperatief
- Wanneer een bepaalde technologie beschikbaar is, ontstaat er een bepaalde druk om die technologie ook te gebruiken of te implementeren
- Met andere woorden, zodra een technologie bestaat of iets technisch mogelijk is, maken we er automatisch gebruik van > vaak gebeurt dit zonder de gevolgen volledig in overweging te nemen
VOORBEELDEN
* Denk aan medische technologieën die het leven verlengen, maar soms wel een impact hebben op het welzijn
* Ook wordt standaard gescreend op down syndroom bij ongeboren baby’s. Dit is standaard geworden omdat dit al langere tijd mogelijk is > men stelt zich hierbij weinig vragen over waarom juist deze aandoening zo’n focus krijgt
* Smartphones maken vaak gebruik van gezichtsherkenning puur omdat dit mogelijk is; niet altijd nagedacht over pricacy
Explicability
- Een van principes voor ethische besluitvorming in AI
- Houdt in dat beslissingen die AI maakt altijd uitlegbaar moeten zijn
- Werking van de AI en logica achter beslissingen moeten begrijpelijk zijn (intelligibility) < hoe en waarom > als het bijvoorbeeld diagnose stelt of lening goedkeurd moeten we begrijpen op basis van welke gegevens en regels
- Ontwerpers van AI moeten verantwoording kunnen afleggen voor keuzes die AI maakt (accountability)
- In geval van autonome systemen blijft mens verantwoordelijk
Martin Heidegger vs. Donna Haraway
Martin Heidegger
* Kritisch > technologie is bedreiging voor menselijk bestaan
* Technologie beinvloedt onze manier van denken en onze kijk op de wereld
* Gaan door technologie de wereld zien als iets om te gebruiken en te vormen/manipuleren
* Zet mens tegen natuur > gaan alles om hen heen zien als iets om te benutten
* Technologie vs. mens > vervreemdt de mens en drijft de wereld uit elkaar
* Moeten afstand houden van technologie (minimum gebruik)
* Ergste wat we kunnen doen is onszelf ook kritisch gaan benaderen > dan worden we ook een voorraad van grondstoffen die we kunnen gebruiken/manipuleren > verliezen dan vermogen tot kritisch nadenken en dat maakt ons mens > technologie ontmenselijkt ons
Donna Haraway
* In tegenstelling tot Heidegger: technologie ontmenselijkt ons niet > ons gebruik en onze relatie tot technologie maakt ons juist mens
* Zijn allemaal cyborgs
* Vervaging tussen natuur en cultuur is bevrijdend > kunnen in verzet komen tegen bestaande grenzen
* Moeten hybride aard omarmen en vaststaande categorieen overstijgen > vrijheid om te denken en leven zoals we willen
* Waar Heidegger technologie als een dreiging ziet, ziet Haraway technologie als iets dat ons kan bevrijden van vaststaande categorieën en machtsstructuren
Mening
* Beide perspectieven belangrijke inzichten
* Eens Heidegger dat onze relatie met wereld en kijk/manier van denken verandert > denk aan verandering communicatie
* Deel pessimistische houding niet > veel mogelijkheden > bijvoorbeeld verbinding met heel de wereld
* Eens Haraway dat we onze relatie met technologie moeten omarmen > is verweven en belangrijk > soms zelgs lcihaam zoals wearables en implantaten
* Ook met haar eens dat de manier waarop wij een relatie met technologie kunnen aangaan ons mens maakt en niet ontmenselijkt
* Technologie op zichzelf niet louter goed/slecht > juiste manier mee omgaan > niet afwijzen, niet blindelings omarmen
Visie Peter-Paul Verbeek op verhouding technologie en moraliteit
Volgens Peter Paul Verbeek zijn technologie en ethiek met elkaar verweven
* Technologie kan bepaalde moraliteit in zich dragen (viaducten)
* Technologie kan ons gedrag beinvloeden door scripts die impliciet gedrag voor schrijven (scripts hebben morele dimensie doordat ze bepalen hoe mensen zich gedragen > verkeersdrempels > technologie beinvloed onbewust moreel gedrag)
* Technologie kunnen materiele intentionaliteit hebben > beinvloedt niet alleen gedrag, maar ook manier waarop we morele keuzes maken > stuurt of beinvloedt bepaalde keuzes (echo) > invloed op hoe we denken over wat juist/onjuist is
Kritiek Verbeek
- Volgens Verbeek kan technologie materiële intentionaliteit hebben > invloed op keuzes en gedrag > komt voort uit menselijke intentionaliteit > in hoeverre kunnen we dan spreken van morele actor?
- Hij suggereert dat technologie niet neutraal is en bepaalde invloed op moraliteit heeft > sommige technolgieen lijken intuitief geen morele invloed te hebben (hamer) > hoe bepalen we welke technologieen invloed hebben als dit vaak ook onbewust gebeurd?
- Technologie kunnen zelf moraliteit in zich dragen of ons gedrag of keuzes beinvloeden > leidt tot vraag wie verantwoordelijk is voor moreel handelen > gebruiker of ontwerper?
Vier gebieden kansen/uitdagingen AI
- AI kan zelfrealisatie van mensen bevorderen, maar mag menselijke mogelijkheden ook niet devalueren (kan mensen helpen zichzelf te ontwikkelen door overnemen taken, maar moeten genoeg mogelijkheden blijven voor mensen (wasmachine))
- AI kan de menselijke capaciteit tot handelen verhogen, maar het mag de menselijke verantwoordelijkheid niet helemaal wegnemen (AI kan deel beslissingen overnmen)
- AI kan maatschappelijke capaciteiten verhogen, maar menselijke controle mag niet verminderd worden (biedt mogelijkheden om maatschappij te verbeteren door oplossingen op basis van veel data, maar mag niet volledige controle krijgen)
- AI kan verbeteren hoe we met elkaar omgaan, maar mag menselijke zelfbeschikking niet verminderen (kan mensen in bepaalde richting sturen, maar mag niet leiden tot manipulatie > mensen moeten controle houden over eigen keuzes > probleem grens nudging en manipulatie is dun)
Principes voor ethische besluitvorming in AI
- Benificence
- Non-maleficence
- Autonomie
- Rechtvaardigheid
- Explicability
