1.1 Historische Entwicklung - Kontrolle Flashcards
Voranschreiten der KI - Erwartung
es wird Gewinner und Verlierer geben
Geordnetes Wachstum - Erfordernis
ethische Richtlinien für das menschliche Verhalten:
* im Handel
* bei der Landesverteidigung
ethische Leitlinien - konkretes Anliegen der Gesellschaft
potenziellen Missbrauch von Künstlicher Intelligenz zu verhindern
Missbrauch Künstlicher Intelligenz verhindern - durch…
- staatliche Regulierung
- selbst auferlegte Regeln
von der Politik initiierte Maßnahmen
- Allgemeine Datenschutzverordnung der Europäischen Union (DSGVO 2016/679)
- EU-Verordnung für Künstliche Intelligenz
EU-Verordnung für Künstliche Intelligenz - Ziel
gemeinsamen rechtlichen Rahmen für KI-basierte Systeme schaffen
Grundrechte, Sicherheit und Privatspäre angemessen berücksichtigen -> Vertrauen der Bevölkerung in diese Systeme stärken
EU-Verordnung für Künstliche Intelligenz - Adressaten
- Hersteller und Anbieter von KI-Systemen
- Nutzer:innen (Ausnahmen: persönlicher, nicht beruflicher Bereich)
EU-Verordnung für Künstliche Intelligenz - Geltungsbereich
- KI-Systeme, die innerhalb der EU zur Anwendung kommen
- wenn “das vom System hervorgebrachte Ergebnis” innerhalb der EU verwendet wird
EU-Verordnung für Künstliche Intelligenz - Regulierungsobjekt
- Eher technologieneutrale Definition -> muss nicht ständig angepasst werden
- Verweis auf technoglogische Ansätze (falls in der Verordnung aufgeführte Konzepte benutzt werden -> fallen unter Verordnung)
EU-Verordnung für Künstliche Intelligenz - risikobasierter Ansatz - allgemein
Klassifizierung von KI-Systemen nach dem Grad ihrer Risiken (Gesundheit, Sicherheit, Grundrechte der Bürger)
-> Einschränkungen und Verpflichtungen basierend auf dem Risiko
EU-Verordnung für Künstliche Intelligenz - risikobasierter Ansatz - Klassen
- KI-Systeme mit unzulässigem Risiko -> verboten
- Hoch-Risiko KI-Systeme -> werde umfassend reguliert / müssen vorgeschriebenen Anforderungen genügen (Nachweis über Konformitätsbewertungen)
- KI-System mit niedrigem Risiko -> Transparenzverpflichtungen
Erforschung Selbstregulierung - Standorte
MIT:
* College of Computing
* fördert positive Aspekte der künstlichen Intelligenz und verhindert negative Folgen
Stanford University:
* Institute for Human-Centered Artificial Intelligence
* Zusammenarbeit Fachleute aus Informatik, Neurowissenschaft und Rechtswissenschaft beim Thema soziale Verantwortung
Ethische Fragen - Bereiche
- Ethik
- Rechte
- Regierungen
- Unbeabsichtigte Folgen
- Wirtschaft
Ethische Fragen - Ethik in der Geschäftswelt
- Verständnis für richtiges und falsches Verhalten und entsprechendes Handeln
- Entscheidung ob etwas richtig und falsch ist, ist nicht immer einfach (Grautöne)
- Dieser ständige Konflikt betrifft persönliche und kollektive Gewissen der Unternehmen
Beispiele für den unethischen Einsatz von Künstlicher Intelligenz
- Unterstützung von diskriminierendem Verhalten gegenüber bestimmten Personengruppen
- Ausnutzen von Benachteiligten
- Wettbewerb um jeden Preis
- Aufgabe guter KI-Anwendungen aufgrund von mangelndem Profit
Rechte - Bezug
beziehen sich auf:
* menschlichen Körper
* Recht auf Arbeit
* Recht auf Eigentum
* Glücklichsein und Gemeinschaft
Rechte - geprägt durch
Dokumente wie:
* Verfassungen
* Grundgesetze
* Allgemeine Erklärung der Menschenrechte
* Genfer Konvention
Rechte und Künstlichen Intelligenz
- Projekte zur Künstlichen Intelligenz müssen Rechte beachten
- Falls nicht, müssen Projekte so geändert werden, dass sie sich an geltende Vorgaben halten
Regierungen - Rolle
haben übergreifende regulatorische und gesetzgeberische Aufgaben
-> spielen wichtige Rolle bei Regulierung des technologischen Fortschritts
Regierungen und Künstliche Intelligenz
- Künstliche Intelligenz ist Wissenschaft und damit Gemeingut
-> geht nicht ohne staatliche Kontrolle und wird früher oder später reguliert - Zeitspanne zwischen industrieller Innovation und ihrer wirksamen Regulierung in der Regel lang
-> Gefahr
Unbeabsichtigte Folgen von Technologien der KI - Gründe
Mangel an Aufsicht (Fehlende menschlicher Kontrolle) und Voraussicht
-> erhebliches Risiko für Gesellschaft
Frage der Auswirkungen der künstlichen Intelligenz auf Wirtschaft
- auf Arbeitsmarkt
- ungleiche Verteilung des Wohlstands
Algo.Rules - allgemein
- ethische Standards in algorithmischen Systemen verankern
- adressieren verschiedene ethische Aspekte die von algorithmischen Systemen berücksichtigt werden sollten
- durch i.Rights.Lab und Bertelsmann Stiftung (breiter Beteiligungsprozess)
Algo.Rules - Regeln
- Kompetenz aufbauen
- Verantwortung definieren
- Ziele und erwartete Wirkung dokumentieren
- Sicherheit gewährleisten
- Kennzeichnung durchführen
- Nachvollziehbarkeit sicherstellen
- Berherrschbarkeit absichern
- Wirkung überprüfen
- Beschwerden ermöglichen
Algo.Rules - Kompetenz aufbauen
Wer KI basiertes System entwickelt, betreibt oder über Einsatz entscheidet, muss Funktionsweisen und potentielle Auswirkungen der Technologie verstehen
Algo.Rules - Verantwortung definieren
eine natürliche oder juristische Person muss Verantwortung übernehmen
Algo.Rules - Ziele und erwartete Wirkung dokumentieren
- muss vor dem Einsatz des Systems geschehen
- Folgenabschätzung durführen und dokumentieren
Algo.Rules - Sicherheit gewährleisten
Zuverlässigkeit, Robustheit und Sicherheit vor Angriffen und Manipulationen muss sichergestellt werden
Algo.Rules - Kennzeichnung durchführen
- Der Einsatz eines algorithmischen Systems muss gekennzeichnet sein
- Es muss erkennbar sein, dass man als Anwender:in mit einem algorithmischen Systems interagiert
Algo.Rules - Nachvollziehbarkeit sicherstellen
- Die Entscheidungsfindung eines algorithmischen System muss stehts nachvollziehbar sein
- Man muss Entscheidungen hinterfragen und überprüfen können
Algo.Rules - Berherrschbarkeit absichern
- Ein algorithmisches System muss während seines gesamten Einsatzes gestaltbar sein und auch bleiben
- Gesamtüberblick über das System muss stehts vorhanden sein
Algo.Rules - Wirkung überprüfen
- Die Auswirkungen eines algorithmischen Systems müssen regelmäßig überprüft werden
- Werden die beabsichtigen Zeile tatsächlich erreicht?
- Wird geltendes Recht eingehalten?
Algo.Rules - Beschwerden ermöglichen
Betroffene Personen müssen fragwürdige Entscheidungen melden und untersuchen lassen können
