Values in Design: Werte-geleitete IT-Gestaltung Flashcards
Embedded Values Approach & Disclosive Computer
Ethics: (Philip Brey)
Enthüllende Computerethik zur Analyse moralisch
undurchsichtiger Praktiken und Technologien
• Fokus auf gesellschaftliche Werte wie z.B.
• Gerechtigkeit, Freiheit, Autonomie, Privatsphäre, Demokratie,
….
Friedman & Nissenbaum (1997)
- Analyse von 17 Computerprogrammen aus verschiedenen Sektoren
- Auffinden von „biases“ in diesen Programmen
- Drei verschiedene Typen/Ursachen von „bias“
- Per-existent Bias
- Technical Bias
- Emergent Bias
- Forderung: „Freedom from bias“ als Bewertungskriterium für Software,
ähnlich wie Usability, Genauigkeit, Sicherheit, etc. - Beispiele sind aus den 90ern, aber immer noch nützlich zum Verständnis aktueller Probleme
• Systematisch: Zufallsfehler sind z.B. kein Bias
Per-existent Bias
Individual and Societal
Biased systems
Biased systems = Computersysteme die systematisch und auf ungerechte Art und Weise bestimmte (Gruppen von) Individuen benachteiligen
Technical Bias
Computer Tools, Decontextualized Algorithms, Random Number Generation and Formalization of Human Constructs
Emergent Bias
Different Values, New Social Knowledge, Mismatch between Users and System Design and Different Expertise
The National Resident Match Program (NRMP)
pre-existent bias
– Verknüpft Medizinabsolventen mit offenen Stellen (Vgl. ZVS)
– Bevorzugt systematisch die Präferenz der Klinik über die der Absolventen
(pre-existent bias)
– Zusätzliches Problem für Mediziner-Paare (emergent bias)
– System ist nicht umgehbar, daher sind biases besonders problematisch
A Multilevel Scheduling Algorithm (MLSA)
technical bias
– Timeshare computer systems: Aufteilung der Rechenleistung
– Systematische Benachteiligung von Nutzern mit langen Laufzeiten (technical
bias)
The British Nationality Act Program (BNAP)
pre-existent bias + emergent bias
– Systematische Benachteiligung der Kinder nicht-verheirateter Britischer
Männer
– Gesetz wurde in Software eingebaut, die dann vor Ort von Nicht-Experten
verwendet wurde
– pre-existent bias + emergent bias
Ziele nach Friedman & Nissenbaum (1997)
– Identifizierung von Bias in jeglichem System
– Entwicklung von Methoden, um Bias in Systemen zu vermeiden oder zu entdecken und korrigieren
– Minimierung von Bias
Wie können Biases minimiert werden?
• Pre-existent Bias:
– Gutes Verständnis relevanter gesellschaftlicher Biases, z.B.
Stereotypen, Vorurteile, etc.
• Technical Bias:
– Stellen Sie sich möglichst genau verschiedene Nutzungskontexte vor,
beziehen Sie diverse NutzerInnen in Entwicklung ein, etc.
• Emergent Bias:
– Stellen Sie sich nicht nur geplante Nutzungsszenarien vor, sondern
auch andere mögliche Gebrauchs/Missbrauchsformen, Design für
verschiedene Nutzungskontexte oder Nutzungsgrenzen
artikulieren/festlegen, …
Positive Werte in Technologien einbauen? Statt Vorurteile etc.
Values in Design/Value-Sensitive Design Methodologie
Values in Design/Value-Sensitive Design
- Ziel von Values in Design: Entwicklung einer Methodologie, um Werte bereits
während des Designprozesses in Technologien einzubauen - Gesellschaftliche Werte als Bewertungskriterium für Software, zusätzlich zu
klassischen Kriterien wie Effizienz, Zuverlässigkeit, Robustheit, Sicherheit, … - Bedarf interdisziplinärer Zusammenarbeit zwischen InformatikerInnen,
SozialwissenschaftlerInnen und PhilosophInnen.
Values in Design Methodologie
nach Flanagan, Howe & Nissenbaum (2008)
- Empirische Phase
- Technische Phase
- Philosophische Phase
Philosophische Phase
• Welche direkten und indirekten Stakeholder werden wie vom
Design betroffen?
• Welche Werte sind relevant?
• Welche Werte stehen im Konflitk miteinander und wie soll bei
Wertkonflikten verfahren werden (z.B. Autonomie vs.
Sicherheit)?
• Sollen moralische Werte (z.B. Recht auf Privatsphäre) Vorrang
vor nicht-moralischen Werten (ästhetische Präferenz,
Nutzerfreundlichkeit) haben?
Empirische Phase
- Zu Beginn des Designprozesses
• Welche Werte sind verschiedenen Stakeholdern wie wichtig?
• Wie priorisieren sie verschiedene Werte bei Wertkonflikten?
• Zeigen sich in der realen Nutzung Unterschiede zwischen
angeblicher und realer Relevanz verschiedener Werte (z.B. Privatsphäreschutz vs. Usability) - Am Ende des Designprozesses
• Systemevaluierung: war der Werteeinbau erfolgreich?
Technische Phase
Translation der Werte in Designspezifikationen und Umsetzung in
der Technologie
Artefakte & Systeme
• Künstliche & verteilte Handlungsfähigkeit
• Einbettung in Infrastrukturen sowie
ökonomische und politische Systeme
Macht & Verantwortung
Wieviel und welche Macht und Verantwortung haben welche menschlichen, nicht-menschlichen, individuellen und kollektiven Akteure in zunehmend komplexen und dynamischen sozio-technischen Netzwerken mit verteilter Handlungsfähigkeit?
Ethik + X
- Analytisch: Ethik + Erkenntnistheorie + Politische Theorie + Ökonomie + …
- Praktisch: Ethik + Politik + Recht + Bildung + …
