Values in Design: Werte-geleitete IT-Gestaltung

Question 1

Embedded Values Approach & Disclosive Computer

Ethics: (Philip Brey)

Answer 1

Enthüllende Computerethik zur Analyse moralisch
undurchsichtiger Praktiken und Technologien
• Fokus auf gesellschaftliche Werte wie z.B.
• Gerechtigkeit, Freiheit, Autonomie, Privatsphäre, Demokratie,
….

Question 2

Friedman & Nissenbaum (1997)

Answer 2

1. Analyse von 17 Computerprogrammen aus verschiedenen Sektoren
2. Auffinden von „biases“ in diesen Programmen
3. Drei verschiedene Typen/Ursachen von „bias“
4. Per-existent Bias
5. Technical Bias
6. Emergent Bias
7. Forderung: „Freedom from bias“ als Bewertungskriterium für Software,
   ähnlich wie Usability, Genauigkeit, Sicherheit, etc.
8. Beispiele sind aus den 90ern, aber immer noch nützlich zum Verständnis aktueller Probleme
   • Systematisch: Zufallsfehler sind z.B. kein Bias

Question 3

Per-existent Bias

Answer 3

Individual and Societal

Question 4

Biased systems

Answer 4

Biased systems = Computersysteme die systematisch und auf ungerechte Art und Weise bestimmte (Gruppen von) Individuen benachteiligen

Question 5

Technical Bias

Answer 5

Computer Tools, Decontextualized Algorithms, Random Number Generation and Formalization of Human Constructs

Question 6

Emergent Bias

Answer 6

Different Values, New Social Knowledge, Mismatch between Users and System Design and Different Expertise

Question 7

The National Resident Match Program (NRMP)

pre-existent bias

Answer 7

– Verknüpft Medizinabsolventen mit offenen Stellen (Vgl. ZVS)
– Bevorzugt systematisch die Präferenz der Klinik über die der Absolventen
(pre-existent bias)
– Zusätzliches Problem für Mediziner-Paare (emergent bias)
– System ist nicht umgehbar, daher sind biases besonders problematisch

Question 8

A Multilevel Scheduling Algorithm (MLSA)

technical bias

Answer 8

– Timeshare computer systems: Aufteilung der Rechenleistung
– Systematische Benachteiligung von Nutzern mit langen Laufzeiten (technical
bias)

Question 9

The British Nationality Act Program (BNAP)

pre-existent bias + emergent bias

Answer 9

– Systematische Benachteiligung der Kinder nicht-verheirateter Britischer
Männer
– Gesetz wurde in Software eingebaut, die dann vor Ort von Nicht-Experten
verwendet wurde
– pre-existent bias + emergent bias

Question 10

Ziele nach Friedman & Nissenbaum (1997)

Answer 10

– Identifizierung von Bias in jeglichem System
– Entwicklung von Methoden, um Bias in Systemen zu vermeiden oder zu entdecken und korrigieren
– Minimierung von Bias

Question 11

Wie können Biases minimiert werden?

Answer 11

• Pre-existent Bias:
– Gutes Verständnis relevanter gesellschaftlicher Biases, z.B.
Stereotypen, Vorurteile, etc.
• Technical Bias:
– Stellen Sie sich möglichst genau verschiedene Nutzungskontexte vor,
beziehen Sie diverse NutzerInnen in Entwicklung ein, etc.
• Emergent Bias:
– Stellen Sie sich nicht nur geplante Nutzungsszenarien vor, sondern
auch andere mögliche Gebrauchs/Missbrauchsformen, Design für
verschiedene Nutzungskontexte oder Nutzungsgrenzen
artikulieren/festlegen, …

Question 12

Positive Werte in Technologien einbauen? Statt Vorurteile etc.

Answer 12

Values in Design/Value-Sensitive Design Methodologie

Question 13

Values in Design/Value-Sensitive Design

Answer 13

• Ziel von Values in Design: Entwicklung einer Methodologie, um Werte bereits
  während des Designprozesses in Technologien einzubauen
• Gesellschaftliche Werte als Bewertungskriterium für Software, zusätzlich zu
  klassischen Kriterien wie Effizienz, Zuverlässigkeit, Robustheit, Sicherheit, …
• Bedarf interdisziplinärer Zusammenarbeit zwischen InformatikerInnen,
  SozialwissenschaftlerInnen und PhilosophInnen.

Question 14

Values in Design Methodologie

nach Flanagan, Howe & Nissenbaum (2008)

Answer 14

• Empirische Phase
• Technische Phase
• Philosophische Phase

Question 15

Philosophische Phase

Answer 15

• Welche direkten und indirekten Stakeholder werden wie vom
Design betroffen?
• Welche Werte sind relevant?
• Welche Werte stehen im Konflitk miteinander und wie soll bei
Wertkonflikten verfahren werden (z.B. Autonomie vs.
Sicherheit)?
• Sollen moralische Werte (z.B. Recht auf Privatsphäre) Vorrang
vor nicht-moralischen Werten (ästhetische Präferenz,
Nutzerfreundlichkeit) haben?

Question 16

Empirische Phase

Answer 16

1. Zu Beginn des Designprozesses
   • Welche Werte sind verschiedenen Stakeholdern wie wichtig?
   • Wie priorisieren sie verschiedene Werte bei Wertkonflikten?
   • Zeigen sich in der realen Nutzung Unterschiede zwischen
   angeblicher und realer Relevanz verschiedener Werte (z.B. Privatsphäreschutz vs. Usability)
2. Am Ende des Designprozesses
   • Systemevaluierung: war der Werteeinbau erfolgreich?

Question 17

Technische Phase

Answer 17

Translation der Werte in Designspezifikationen und Umsetzung in
der Technologie

Question 18

Artefakte & Systeme

Answer 18

• Künstliche & verteilte Handlungsfähigkeit
• Einbettung in Infrastrukturen sowie
ökonomische und politische Systeme

Question 19

Macht & Verantwortung

Answer 19

Wieviel und welche Macht und
Verantwortung haben welche
menschlichen, nicht-menschlichen,
individuellen und kollektiven Akteure in
zunehmend komplexen und dynamischen
sozio-technischen Netzwerken mit
verteilter Handlungsfähigkeit?

Question 20

Ethik + X

Answer 20

• Analytisch: Ethik + Erkenntnistheorie + Politische Theorie + Ökonomie + …
• Praktisch: Ethik + Politik + Recht + Bildung + …