7 Künstliche Intelligenz Flashcards
Nenne die Definition Aufklärung nach Immanuel Kant 1784.
- Was bedeutet Aufklärung und
- Unmündigkeit?
- Warum ist Aufklärung gerade relevant in Bezug auf KI?
Aufklärung
Ausgang des Menschen aus seiner selbstverschuldeten Unmündigkeit.
Unmündigkeit
Unvermögen, sich seines Verstandes ohne Leitung eines anderen zu bedienen.
- Durch die Algorithmen könnte es sein, dass wir uns an einer neuen Schwelle von Unmündigkeit befinden. Bsp: KI & Big Data.
Erfolge, aber auch Gefahren und Risiken
Annäherung an das Thema ’Unmündigkeit’
Die meisten Menschen übertragen anderen Verantwortung.
Unmündigkeit ist bequem, weil man nicht selber denken muss.
Deep Learning Erfolge von DeepMind
2015
Deep Learning auf Atarispiele angewendet (49 Atari Spiele)
Spiele waren dem Programm zunächst unbekannt. Programm musste lernen,
wie es am besten agieren sollte und es hat erstaunlich gelernt!
2016 (März)
Computer-Go galt vorher als unlösbar! Sieg gegen Go Weltmeister Lee Sedol
2020
DeepMind hat AlphaFold geschaffen und damit das Proteinfaltungsproblem weitgehend gelöst. Erste KI-Anwendung, die ein ernsthaftes Problem gelöst hat (John Moult, Biologe)
Deep Learning Verkehrszeichenerkennung
Was wurde gemacht und was ist daran so besonders?
Forschergruppe am Neuroinformatik-Institut in Bochum hat viele Verkehrszeichen aufgenommen und hat den Computer trainiert, diese zu erkennen.
DeepLearning hat eine bessere Erkennungsrate als Mensch! (99.46% vs 98.94%)
Halbierung der Fehlerrate von 1% auf 0.5%!!!
Was bezeichnet man als Superintelligence?
Superintelligence
KI, die in einzelnen Intelligenz-Aspekten leistungsfähiger ist als Durchschnittsmensch oder sogar als Experten/Weltmeister (Atari, AlphaGo…)
Superintelligence = super-human = par human performance
DeepLearing ist faszinierend erfolgreich & schlägt den Menschen in einzelnen, jedoch komplexen Aufgaben.
- Was bedeutet es für unsere Gesellschaft, wenn KI später Probleme (auch in anderen Gesellschaftsbereichen) besser als der Durchschnittsmensch löst?
- Welche gravierenden Einflüsse hätte Superintelligence?
Bessere medizinische Diagnosen und bessere Urteile/Entscheidungen durch KI:
Würde KI leistungsfähigere medizinische Diagnosen stellen, müsste man ihr die Diagnose übertragen.
Würde eine KI die besseren Urteile in anderen wirtschaftlich-gesellschaftlichen Bereiche fällen (Schufa, politische Abwägungen), müsste man auch hier ‘zum besseren Gemeinwohl’ die Entscheidung auf sie übertragen.
- Entscheidungsfindung wäre nicht transparent.
Bei Politik: Demokratie wäre ausgehöhlt
Was sind die Vorteile und positiven Aspekte (Einsatzbereiche) von
Deep Learning bei Gesichtserkennung?
Rechner können ein Gesicht mit Millionen anderen in wenig Sekunden abgleichen.
Positive Aspekte
Verbrechensbekämpfung
USA: Führerschein -> Doublettenfeststellung
Identitätsfestellung in Indien -> Mikrokredite möglich
- Was ist Show and Tell?
- Was ist dabei so kritisch?
#s3gt_translate_tooltip_mini { display: none !important; }
- Show And Tell Ziel:
Beliebiges Bild ”verstehen“ & durch Satz beschreiben.
Schien vor 10 Jahren noch unlösbar (zu viel Weltwissen erforderlich), ist inzwischen aber möglich.
Deep Learning war hier auch stark beteiligt
“…maximize the likelihood of a sentence given the image”
Nicht immer fehlerfrei, aber beängstigend gut!
Wissenschaftlich betrachtet ein schöner Erfolg!
- Achtung: Dadurch kann bspw. aus Facebook-Bildern indizierbares Wissen gemacht werden!
Verknüpfung mit Gesichtserkennung denkbar → Computer erkennt, wer sich mit wem in welchem Kontext getroffen hat
Was ist Hochfrequenzhandel an den Börsen?
Was ist der Nachteil?
- Rechner vollführen Trades in Millisekunden an der Börse
Kann der Mensch nicht! Logisch :D
Super-Human Performance?
2. Der Mensch kann noch im Nachhinein kontrollieren
Citizen Score in China
Social Credit Score System, in dem für jeden Chinesen Kreditinformationen, Wohlverhalten, Freunde in Social Networks und deren Verhalten gespeichert werden.
Faktenlage allerdings nicht eindeutig, andere Quellen sprechen ‘nur’ von einer Art Schufa-System
- Was ist Big Nudging?
- In welchem Zusammenhang steht es mit Wahlbeeinflussung?
Big Nudging (=Big Data + Nudging (anstoßen/anstupsen))
Anstups- oder Ermunterungsfunktionen durch Algorithmen.
Z.B. in sozialen Netzwerken oder mit Smart Watches (Gesundheit, Bewegung -> “lauf nochmal ein bisschen”)
evtl. gut gemeint, aber oft nicht mit guten Folgen (wenn alle das gleiche Nudging-Tool benutzen gibt es eine Gleichschaltung)
oder von einer Institution, die bestimmte Absicht verfolgt, zentral gesteuert.
- Im Wahlkampf gibt es drastische Beispiele von Big Nudging & Persuasive Computing.
Internet & Social Media spielten große Rolle bei letzten Wahlen
… in Verbindung mit Big Data & Personalisierungsalgorithmen
Brexit, US-Präsidentschaftswahlen, Trump
KI schreibt Prosa
Entwickelt von Open AI.
Sie machen sich auch Gedanken über Missbrauch (Fake News), veröffentlichen deswegen nur eine vereinfachte Version
Open AI arbeiten an einer Erkennungssoftware, die automatisch generierte Texte von anderen unterscheiden kann.
ist noch keine Lösung, aber zeigt, dass IT-ler anfangen, sich Gedanken zu machen.
https://medium.com/mit-technology-review/an-a-i-that-writes-convincing-prose-risks-mass-producing-fake-news-db96955fb77e
Wie lauten die 3 gemeinsamen Trends?
- KIs (in Bereichen) intelligenter als Mensch (Superintelligenz)
- Rechner treffen Entscheidungen, die vormals Menschen vorbehalten waren
- Algorithmen wirken im Hintergrund, ohne dass es (allen) offenbar wird
- KIs (in Bereichen) intelligenter als Mensch (Superintelligenz)
Bsp Atari&Go, Verkehrszeichen, Gesichter,…
Mensch, der sich auf KI verlässt, wird unmündiger (Kant!)
Weiteres Beispiel: Navigationssysteme. Wir verlernen es, einen Weg nach Karte oder nach mündlicher Beschreibung zu finden.
- Rechner treffen Entscheidungen, die vormals Menschen vorbehalten waren
Bsp. Hochfrequenzhandel, Autonomes Fahren, Siri,…
Gesellschaftlicher Einfluss, rechtliche Grauzonen
Mensch lässt sich Entscheidungen oft gerne abnehmen (bsp. Navigation) -> selbstverschuldet (Kant!)
- Algorithmen wirken im Hintergrund, ohne dass es (allen) offenbar wird
Bsp. Big Nudging, Persuasive Computing*, Citizen Score, Wahl, KI schreibt Prosa,…
Leitung durch andere (Kant!)
Der Mensch wird manipuliert, doch wähnt sich frei.
*to persuade: überreden, überzeugen
Wdh.
Definition Aufklärung nach Immanuel Kant 1784:
Aufklärung ist der Ausgang des Menschen aus seiner selbstverschuldeten Unmündigkeit.
Unmündigkeit ist das Unvermögen, sich seines Verstandes ohne Leitung eines anderen zu bedienen.
In welchen Bereichen der heutigen IT oder KI kann es zu einer neuen Form menschlicher Unmündigkeit kommen?
- Big Nudging
- Hochfrequenzhandel: Mensch kann nicht mehr eingreifen
- Wahlbeeinflussung: Mensch wird es oft nicht merken
- Citizen Score: Mensch ist System ausgeliefert
- Gleichschaltung der Information, “filter bubble”
Was ist Psychometrie?
Was ist der OCEAN-Test?
Zweig der Psychologie, der das Persönlichkeitsprofil eines Menschen (ver-)misst.
Dafür gibt es den OCEAN-Test:
the ”big five“of personality:
Openness: wie offen gegenüber neuen Ideen
Conscientiousness: wie gut strukturiert und gewissenhaft
Extraversion: wie extrovertiert und risikofreudig
Agreeableness: wie kooperativ und anderen zugewandt
Neuroticism: wie ängstlich und stressempfindlich
Traditionell: OCEAN über komplizierte Fragebögen verfasst
https://www.psychometrictest.org.uk/big-five-personality/
Durch was kann der OCEAN-Test in der Psychometrie ersetzt werden?
2008: Psychologe Michael Kosinski (Cambridge) entdeckt, dass man
Fragebögen ersetzen kann durch Likes, Shares und Posts auf Facebook.
Z.B. Like für Lady Gaga: mit hoher Wahrscheinlichkeit extrovertiert
Like für Philosophie: wahrscheinlich introvertiert usw.
Ca. 70 Likes reichen für ein OCEAN-Profil (!)*
*Wenn man 70 Likes für eine Person hat, ist das daraus erstellte
OCEAN-Profil genauso gut wie der lange Fragebogen!
Nutzen von OCEAN-Test
Was kann man mit einem Persönlichkeitsprofil machen?
Micro-Targeting (Begriff aus Werbebranche)
Auf Persönlichkeitsprofil einzelner ‘Targets’ (Kunden) abgestimmte Werbung.
Kosinski zeigte: Werbung, die zum Persönlichkeitsprofil passt, steigert die Kaufwahrscheinlichkeit um 1400 Prozent ggü. einer dem Persönlichkeitsprofil widersprechenden Werbung (!!)
Kann man auch für Wahlwerbung nutzen.
Wozu nutzt Cambridge Analytica Psychometrie?
Was ist daran so problematisch?
Cambridge Analytica
nutzt Psychometrie für Wahlkampf-Management und Wahlwerbung.
Mit Big-Data-Anwendungen hat sie für (fast) jeden Bürger der USA ein Profil erstellt.
Flexible Auswahl von Gruppen die personalisierte Werbung (o. Infos) bekommen (z.B. über Facebook-Insersate in Timeline), die genau zum Profil passen.
Können z.B. News an potentielle Demokraten-Wähler sein, die sie von der Wahl abhalten. Bsp: Haitianer erhalten Nachrichten über Versagen der Clinton-Stiftung nach Erdbeben in Haiti.
Oder eine App für Wahlhelfer, die sie nur bei den Leuten klingeln lässt, die ‘aussichtsreich’ sind. Angepasste Gesprächsleitfäden je nach Persönlichkeitsprofil.
Eigenschaften der Cambridge Analytica Werbung:
Nicht illegal. Wahlwerbung wurde schon immer gemacht.
Es sind keine Fake-News nötig.
Problematisch:
Viele Nutzer werden nicht bemerken, dass sie Wahlwerbung erhalten.
Persönlichkeitsprofile werden ohne Wissen/Einwilligung der User erstellt und genutzt.
Werbung ist so passgenau zugeschnitten, dass sie sie mit hoher Wahrscheinlichkeit ‘kaufen’.
Das hat zu folgende Erfolge für Cambridge Analytica geführt:
Haben in Brexit-Wahlkampf die “leave.eu”-Kampagne unterstützt.
Haben im Vorwahlkampf USA’2016 den Republikaner Ted Cruz unterstützt -> Achtungserfolg eines vorherigen ‘Nobody’
Haben in letzten Monaten der Wahl die Kampfagne von Donald Trump unterstützt(!!)*
Anmerkung 1
Es ist nicht wissenschaftlich erwiesen, dass und wieviel Einfluss CA auf die Wahlergebnisse hatte.
Aber die einzelnen Elemente sind wissenschaftlich plausibel
Besser, man stellt sich darauf ein, dass es so sein könnte(!)
Anmerkung 2
Bis hierhin kaum KI erforderlich, Big Data und Machine Learning sind genug.
Aber KI-Methoden können jederzeit hinzukommen (und sind es vielleicht schon).
Z.B. Facebook Image Tagging, Information Retrieval, geschickte
Auswahl besonders beeinflussbarer Profile …
Oder: Mit ”KI schreibt Prosa“ werden Fake News erfunden …
Die Anwendungsdomäne ”Wahl“ zeigt besonders stark, welche gesellschaftliche Sprengkraft dies entwickeln kann.
Was ist das Digital-Manifest?
Das Digital-Manifest ist ein im Spektrum Verlag frei verfügbares Dossier, das neben dem 18seitigen Hauptartikel zahlreiche kurze Einzelartikel enthält.
Grundprinzipien
Die Autoren des Digital-Manifest beschreiben, wie man mit den Chancen/Risiken umgehen soll und fordern die Einhaltung von 10 Grundprinzipien:
Einige daraus
Informationssysteme stärker dezentralisieren, Soziodiversität fördern
Informationsverzerrung und –verschmutzung reduzieren
Persönliche Daten in persönliche Datenmailbox, ”Recht auf Kopie“ (?)
Digitale Risikokompetenz
Mündigkeit der Bürger in der digitalen Welt fördern (Kant!)
Kritik am Digital-Manifest
[Rauchhaupt, 2016] kritisiert (zu Recht) die ’persönliche Datenmailbox’:
Sie wäre eine Standardisierung und Zusammenführung von Daten, die – wenn auch gut gemeint – in falschen Händen das Gegenteil von dem bewirken kann, was sie bezweckt.
Dennoch sind verschiedene andere Forderungen der Autoren des Digital-Manifest eine vernünftige Sache.
Digitaler Scheideweg
- Welche Möglichkeiten der Entwicklung gibt es?
- Was kann passieren, wenn wir nicht gegen die KI induzierte Unmündigkeit vorgehen?
- Wir stehen am digitalen Scheideweg: Mächtige Algorithmen, von wenigen
I. Entscheidungsträgern kontrolliert: Feudalismus 2.0. oder
II. Richtige gesellschaftliche Weichenstellungen: Demokratie 2.0
- Wenn wir nicht gegen die KI induzierte Unmündigkeit vorgehen, kann es sein, dass
wir uns in einem gesellschaftlichen Misserfolgszustand befinden oder
wir gehen klug genug damit um und verwenden die Technologie zum gesellschaftlichen Nutzen.
(Siehe Zitat Kant)
Digitaler Scheideweg
Durch die Algorithmen könnte es sein, dass wir uns an einer neuen Schwelle von Unmündigkeit befinden.
Was müssen wir tun?
- Diversivität fördern
verschiedene Informationskanäle, Meinungen und Kulturen
- Mündigkeit fördern
Bildung ! Wir sind die zukünftige Elite !
Informationsveranstaltungen
Technikfolgenabschätzung! Ethik und KI [Bartneck et al., 2019]
Wenn ich weiß, wo und wie meine Wahl ’gehackt’ werden kann, ist schon viel gewonnen
Gesunde Skepsis gegenüber Stellen, wo ich personalisierte Information erwarten kann
Einfach so durch die Straßen einer Stadt gehen, ohne Navi ! Mündigkeit in der Wegfindung :-)
