Einheit 6 Flashcards
Was hat Ethik mit Wirtschaftsinformatik zu tun?
Durch die digitale Transformation werden immer mehr Bereiche durch
Informationstechnologie unterstützt. Viele Fragestellungen sind noch gar
nicht geklärt und manche Fragestellungen vielleicht gar nicht bewusst.
Es ist klar, dass wir bei sicherheitskritischen
Systemen mit strengen Vorgaben und
Richtlinien arbeiten
Durch die schnell voranschreitende Digitalisierung werden
auch Systeme sehr schnell entwickelt. Fehler passieren.
Was ist wenn plötzlich Datenbestände von
Unternehmen im Netz auftauchen oder
Sicherheitskameras aufgrund falscher
Konfiguration das Wohnzimmer von jemand anderem überwachen
Zentrale Problemfelder
Fake News
Bias
Inklusive Gestaltung von IS
Fake News
Zwei zentrale Kriterien zur Definition von Fake News (auf Deutsch:
Falschmeldungen) sind in der Literatur weitgehend anerkannt:
-> Die Produktion von falschen oder potenziell irreführenden Informationen
geschieht intentional bzw. wissentlich.
->Die Informationen werden als „echte“ Nachrichten formatiert.
-> Wie können wir Fake News erkennen?
àWie können Betreiber von Plattformen (z.B.: sozialen
Medien) dazu bewegt werden hier einzugreifen?
àIst Zensur hier ein sinnvolles Instrument?
Bias
Ein Bias bezeichnet allgemein Verzerrungseffekte
Die Psychologie versteht darunter Einstellungen oder Stereotypen, welche die Wahrnehmung unserer Umwelt, Entscheidungen und Handlungen positiv oder negativ beeinflussen.
Diese Beeinflussung kann unbewusst (impliziter Bias) oder bewusst (expliziter Bias) geschehen
In der Statistik wird ein Bias als Fehler im
Rahmen der Datenerhebung und -verarbeitung (z. B. Fehler in der
Stichprobenauswahl) oder die bewusste oder unbewusste Beeinflussung von
Probandinnen und Probanden verstanden.
Beispiele für Bias
Sample Bias
Nicht repräsentative Auswahl
der Grundpopulation für die
Erhebung von Daten.
-> Führt zu geringer / keiner
Aussagekraft bei der Analyse
aufgrund der fehlenden
Generalisierung.
Confirmation Bias
Durch die eigene nicht immer
ganz objektive Wahrnehmung
neigen wir zu der Tendenz,
auf Informationen zu achten,
die mit der eigenen
Sichtweise übereinstimmen.
-> Führt zu nicht objektiver
Interpretation von Daten.
Beispiele für Diskriminierung im Kontext von Systemen
Verarbeitung von Bewerbungen
-Einsatz eines intelligenten
Systems zur Bewertung von
Bewerbungen auf eine Stelle.
-Bewerbungen von Frauen
werden dabei systematisch
schlechter bewertet als jene
von Männern
-> Grund: Input für das System
waren Bewerbungen der
erfolgreich eingestellten
Mitarbeiterinnen und
Mitarbeiter; diese waren
überwiegend männlich.
Falsch eingestellte Hardware
Ein automatischer
Seifenspender verwendet
einen Sensor
-> Einstellung und Auswahl des
Sensors erfolgte mit einer
hellhäutigen Testperson
-> Der Sensor reagiert bei einer
dunkelhäutigen Person nicht
-> Grund: Einseitiger
Testprozesses
Inklusive Gestaltung von IS
Barrierefrei sind Informationssysteme, wenn sie in der allgemein üblichen
Weise, ohne besondere Erschwernis und grundsätzlich ohne fremde Hilfe
zugänglich und nutzbar sind.
Europäische Barrierefreiheitsgesetz
§ muss bis Juni 2025 umgesetzt werden
§ Web-User muss Darstellungsparameter selbst bestimmen können
§ 100% Barrierefreiheit ist nicht erreichbar -> barrierearmes Web
§ Barrierefrei für Sehbehinderung: u.a. durch Bildschirmlupe, Screenreader
oder Voice-Browser
§ Barrierefrei für Gehörlose: u.a. durch Videos mit Gebärdensprache oder
Angabe und Visualisierung von Meta-Daten
Was ist Ethik im Kontext der Digitalisierung
Begriff Ethik bezieht sich auf die Grundsätze von Recht und
Unrecht, nach denen der Einzelne als freier moralischer Akteur Entscheidungen trifft, die sein Verhalten bestimmen.
Informationssysteme werfen sowohl für den Einzelnen als auch für
die Gesellschaft neue ethische Fragen auf, weil sie Möglichkeiten für einen tiefgreifenden sozialen Wandel schaffen und damit die bestehende Verteilung von Macht, Geld, Rechten und Pflichten
bedrohen.
Wie definieren wir Werte?
Im Kontext von Business fragen wir uns oft „Ist das die richtige Lösung?“
-Richtig kann hier viel bedeuten. Richtig im Sinne der Steigerung des Gewinns oder richtig im Sinne der Berücksichtigung von menschlichen Bedürfnissen.
-> „Richtig, im Sinne von Werten“
Aber was sind unsere Werte? Wie können wir diese berücksichtigen?
Es ist der Beginn einer Auseinandersetzung bei der Werte als normative Linse verwendet werden um
Fragestellungen aufzuwerfen und Probleme zu diskutieren.
Definition Werte
Werte sind Phänomene, die den Grad der Erwünschtheit von etwas
oder jemandem offenbaren, die der Auswahl der verfügbaren
Handlungsweisen, Mittel und Ziele einen Sinn geben und sie
motivieren.
Beipsiele für Initiativen, die sich mit der Berücksichtigung von nachhaltigen Werten in der Technologie beschäftigen
Sustainable Computing
Align Technology with Humanity’s Best Interests von Center for Humane Technology
Wertfreiheit von Technologie
Technologie ist nicht wertfrei
Ein ausgewähltes Beispiel, um Werte im Kontext von Technologie zu verdeutlichen
Werte finden sich in der Gestaltung von
Systemen wieder – was heißt das?
Bei der Angabe des Geschlechts wurde bislang immer zwischen männlich und weiblich unterschieden.
Auf Datenebene ist die Speicherung dieser Information am besten durch eine binäre Variable umzusetzen (0/1)
Durch die Berücksichtigung und das Bewusstsein für die Vielseitigkeit bei der Geschlechteridentifikation müssen hier
mehrere Optionen zur Verfügung gestellt werden.
Folge: auf technischer Ebene hat dies Auswirkungen auf die
Wahl des Datentyps
Wie können wir nachhaltig agieren?
Bei der Gestaltung und der Arbeit mit
Informationssystemen müssen wir ein komplexes Geflecht von teils intransparenten Komponenten navigieren
Wie können wir in diesem Kontext also nachhaltig agieren?
Grundpfeiler basierend auf Werten
-> Vertrauen: Mechanismen, um die Einhaltung von Vorschriften im Sinne der
Bedürfnisse des Menschen zu berücksichtigen
-> Verantwortung: Übernahme der potenziellen Kosten, Aufgaben und Verbindlichkeiten für die getroffenen Entscheidungen, sowie die transparente
Kommunikation
-> Autonomie: Kontrolle über Daten und deren Verwendung sowie die Möglichkeit
dies anhand von Kontrollinstrumenten nachzuvollziehen
ACM Code of Ethiccs
Kuturorientiert
Ausgewählte Punkte des ACM Code of Ethics:
- Allgemeine ethische Grundsätze
1.3 Sei ehrlich und vertrauenswürdig
1.6 Respektiere Privatsphäre - Berufliche Verantwortung
2.3 Respektiere vorhandene Regeln
2.9 Entwickle und implementiere Systeme, die robust und sicher sind - Grundsätze von ethischer Führung
3.1 Stelle sicher, dass das Gemeinwohl immer zentral bei der Arbeit ist
3.6 Sei vorsichtig bei der Änderung von Systemen - Einhaltung des Codes
4.1 Respektiere die Grundsätze des Codes
4.2 Verstöße des Codes sind unvereinbar mit der Mitgliedschaft bei ACM
Value-based Engineering
Prozessorientiert: VbE mithilfe des ISO/IEC/IEEE 24748-7000
Prozessmodell um ethische Fragestellungen während der Gestaltung von Systemen zu berücksichtigen.
10 Prinzipien des VbE
1 Ecosystem Responsibility
2 Stakeholder Inclusiveness
3 Context Sensitivity
4 Value Identification with Moral
Philosophy and/or Spiritual
Tradition
5 Understanding values at depth
5 Leadership Engagement
6 Respect for Regional Laws
and International Agreements
7 Willingness to renounce Investment
8 Transparency of the Value Mission
9 Risk-based System Design
10
Risk based System Design im VbE
Risk-based Analysis for System requirements
Riskobasierter Ansatz um
System Anforderungen auf
Basis von „Ethical Value
Requirements“ und dem
Risiko der Nichteinhaltung
dieser zu erarbeiten.
orientiert sich an Wertekatalog (COre Values)
Core Value beispiele: Privatsphäre, Vertrauen, Autonomie, Verantwortung
Beispiel: Einwilligungserklärung zur Verwendung von Daten im System
Wert: Transparenz
–> Wert Anforderung: Transparente und ehrliche Beschreibung wie die persönlichen Daten weiter verarbeitet werden
–> System Anforderung: Überblick über alle Aktivitäten der Datenverarbeitung mit einem Fokus nutzerrelvanter Informationen
