7 Künstliche Intelligenz

Question 1

Nenne die Definition Aufklärung nach Immanuel Kant 1784.

1. Was bedeutet Aufklärung und
2. Unmündigkeit?
3. Warum ist Aufklärung gerade relevant in Bezug auf KI?

Answer 1

Aufklärung

Ausgang des Menschen aus seiner selbstverschuldeten Unmündigkeit.

Unmündigkeit

Unvermögen, sich seines Verstandes ohne Leitung eines anderen zu bedienen.

3. Durch die Algorithmen könnte es sein, dass wir uns an einer neuen Schwelle von Unmündigkeit befinden. Bsp: KI & Big Data.

Erfolge, aber auch Gefahren und Risiken

Annäherung an das Thema ’Unmündigkeit’

Die meisten Menschen übertragen anderen Verantwortung.

Unmündigkeit ist bequem, weil man nicht selber denken muss.

Question 2

Deep Learning Erfolge von DeepMind

Answer 2

2015

Deep Learning auf Atarispiele angewendet (49 Atari Spiele)

Spiele waren dem Programm zunächst unbekannt. Programm musste lernen,

wie es am besten agieren sollte und es hat erstaunlich gelernt!

2016 (März)

Computer-Go galt vorher als unlösbar! Sieg gegen Go Weltmeister Lee Sedol

2020

DeepMind hat AlphaFold geschaffen und damit das Proteinfaltungsproblem weitgehend gelöst. Erste KI-Anwendung, die ein ernsthaftes Problem gelöst hat (John Moult, Biologe)

Question 3

Deep Learning Verkehrszeichenerkennung

Was wurde gemacht und was ist daran so besonders?

Answer 3

Forschergruppe am Neuroinformatik-Institut in Bochum hat viele Verkehrszeichen aufgenommen und hat den Computer trainiert, diese zu erkennen.

DeepLearning hat eine bessere Erkennungsrate als Mensch! (99.46% vs 98.94%)

Halbierung der Fehlerrate von 1% auf 0.5%!!!

Question 4

Was bezeichnet man als Superintelligence?

Answer 4

Superintelligence

KI, die in einzelnen Intelligenz-Aspekten leistungsfähiger ist als Durchschnittsmensch oder sogar als Experten/Weltmeister (Atari, AlphaGo…)

Superintelligence = super-human = par human performance

DeepLearing ist faszinierend erfolgreich & schlägt den Menschen in einzelnen, jedoch komplexen Aufgaben.

Question 5

1. Was bedeutet es für unsere Gesellschaft, wenn KI später Probleme (auch in anderen Gesellschaftsbereichen) besser als der Durchschnittsmensch löst?
2. Welche gravierenden Einflüsse hätte Superintelligence?

Answer 5

Bessere medizinische Diagnosen und bessere Urteile/Entscheidungen durch KI:

Würde KI leistungsfähigere medizinische Diagnosen stellen, müsste man ihr die Diagnose übertragen.

Würde eine KI die besseren Urteile in anderen wirtschaftlich-gesellschaftlichen Bereiche fällen (Schufa, politische Abwägungen), müsste man auch hier ‘zum besseren Gemeinwohl’ die Entscheidung auf sie übertragen.

2. Entscheidungsfindung wäre nicht transparent.

Bei Politik: Demokratie wäre ausgehöhlt

Question 6

Was sind die Vorteile und positiven Aspekte (Einsatzbereiche) von

Deep Learning bei Gesichtserkennung?

Answer 6

Rechner können ein Gesicht mit Millionen anderen in wenig Sekunden abgleichen.

Positive Aspekte

Verbrechensbekämpfung

USA: Führerschein -> Doublettenfeststellung

Identitätsfestellung in Indien -> Mikrokredite möglich

Question 7

1. Was ist Show and Tell?
2. Was ist dabei so kritisch?

#s3gt_translate_tooltip_mini { display: none !important; }

Answer 7

1. Show And Tell Ziel:

Beliebiges Bild ”verstehen“ & durch Satz beschreiben.

Schien vor 10 Jahren noch unlösbar (zu viel Weltwissen erforderlich), ist inzwischen aber möglich.

Deep Learning war hier auch stark beteiligt

“…maximize the likelihood of a sentence given the image”

Nicht immer fehlerfrei, aber beängstigend gut!

Wissenschaftlich betrachtet ein schöner Erfolg!

2. Achtung: Dadurch kann bspw. aus Facebook-Bildern indizierbares Wissen gemacht werden!

Verknüpfung mit Gesichtserkennung denkbar → Computer erkennt, wer sich mit wem in welchem Kontext getroffen hat

Question 8

Was ist Hochfrequenzhandel an den Börsen?
Was ist der Nachteil?

Answer 8

1. Rechner vollführen Trades in Millisekunden an der Börse

Kann der Mensch nicht! Logisch :D

Super-Human Performance?
2. Der Mensch kann noch im Nachhinein kontrollieren

Question 9

Citizen Score in China

Answer 9

Social Credit Score System, in dem für jeden Chinesen Kreditinformationen, Wohlverhalten, Freunde in Social Networks und deren Verhalten gespeichert werden.

Faktenlage allerdings nicht eindeutig, andere Quellen sprechen ‘nur’ von einer Art Schufa-System

Question 10

1. Was ist Big Nudging?
2. In welchem Zusammenhang steht es mit Wahlbeeinflussung?

Answer 10

Big Nudging (=Big Data + Nudging (anstoßen/anstupsen))

Anstups- oder Ermunterungsfunktionen durch Algorithmen.

Z.B. in sozialen Netzwerken oder mit Smart Watches (Gesundheit, Bewegung -> “lauf nochmal ein bisschen”)
evtl. gut gemeint, aber oft nicht mit guten Folgen (wenn alle das gleiche Nudging-Tool benutzen gibt es eine Gleichschaltung)

oder von einer Institution, die bestimmte Absicht verfolgt, zentral gesteuert.

2. Im Wahlkampf gibt es drastische Beispiele von Big Nudging & Persuasive Computing.

Internet & Social Media spielten große Rolle bei letzten Wahlen

… in Verbindung mit Big Data & Personalisierungsalgorithmen

Brexit, US-Präsidentschaftswahlen, Trump

Question 11

KI schreibt Prosa

Answer 11

Entwickelt von Open AI.

Sie machen sich auch Gedanken über Missbrauch (Fake News), veröffentlichen deswegen nur eine vereinfachte Version

Open AI arbeiten an einer Erkennungssoftware, die automatisch generierte Texte von anderen unterscheiden kann.

ist noch keine Lösung, aber zeigt, dass IT-ler anfangen, sich Gedanken zu machen.

https://medium.com/mit-technology-review/an-a-i-that-writes-convincing-prose-risks-mass-producing-fake-news-db96955fb77e

Question 12

Wie lauten die 3 gemeinsamen Trends?

Answer 12

1. KIs (in Bereichen) intelligenter als Mensch (Superintelligenz)
2. Rechner treffen Entscheidungen, die vormals Menschen vorbehalten waren
3. Algorithmen wirken im Hintergrund, ohne dass es (allen) offenbar wird
4. KIs (in Bereichen) intelligenter als Mensch (Superintelligenz)

Bsp Atari&Go, Verkehrszeichen, Gesichter,…

Mensch, der sich auf KI verlässt, wird unmündiger (Kant!)

Weiteres Beispiel: Navigationssysteme. Wir verlernen es, einen Weg nach Karte oder nach mündlicher Beschreibung zu finden.

2. Rechner treffen Entscheidungen, die vormals Menschen vorbehalten waren

Bsp. Hochfrequenzhandel, Autonomes Fahren, Siri,…

Gesellschaftlicher Einfluss, rechtliche Grauzonen

Mensch lässt sich Entscheidungen oft gerne abnehmen (bsp. Navigation) -> selbstverschuldet (Kant!)

3. Algorithmen wirken im Hintergrund, ohne dass es (allen) offenbar wird

Bsp. Big Nudging, Persuasive Computing*, Citizen Score, Wahl, KI schreibt Prosa,…

Leitung durch andere (Kant!)

Der Mensch wird manipuliert, doch wähnt sich frei.

*to persuade: überreden, überzeugen

Wdh.

Definition Aufklärung nach Immanuel Kant 1784:

Aufklärung ist der Ausgang des Menschen aus seiner selbstverschuldeten Unmündigkeit.
Unmündigkeit ist das Unvermögen, sich seines Verstandes ohne Leitung eines anderen zu bedienen.

Question 13

In welchen Bereichen der heutigen IT oder KI kann es zu einer neuen Form menschlicher Unmündigkeit kommen?

Answer 13

• Big Nudging
• Hochfrequenzhandel: Mensch kann nicht mehr eingreifen
• Wahlbeeinflussung: Mensch wird es oft nicht merken
• Citizen Score: Mensch ist System ausgeliefert
• Gleichschaltung der Information, “filter bubble”

Question 14

Was ist Psychometrie?

Was ist der OCEAN-Test?

Answer 14

Zweig der Psychologie, der das Persönlichkeitsprofil eines Menschen (ver-)misst.

Dafür gibt es den OCEAN-Test:

the ”big five“of personality:

Openness: wie offen gegenüber neuen Ideen

Conscientiousness: wie gut strukturiert und gewissenhaft

Extraversion: wie extrovertiert und risikofreudig

Agreeableness: wie kooperativ und anderen zugewandt

Neuroticism: wie ängstlich und stressempfindlich

Traditionell: OCEAN über komplizierte Fragebögen verfasst

https://www.psychometrictest.org.uk/big-five-personality/

Question 15

Durch was kann der OCEAN-Test in der Psychometrie ersetzt werden?

Answer 15

2008: Psychologe Michael Kosinski (Cambridge) entdeckt, dass man

Fragebögen ersetzen kann durch Likes, Shares und Posts auf Facebook.

Z.B. Like für Lady Gaga: mit hoher Wahrscheinlichkeit extrovertiert

Like für Philosophie: wahrscheinlich introvertiert usw.

Ca. 70 Likes reichen für ein OCEAN-Profil (!)*

*Wenn man 70 Likes für eine Person hat, ist das daraus erstellte

OCEAN-Profil genauso gut wie der lange Fragebogen!

Question 16

Nutzen von OCEAN-Test

Was kann man mit einem Persönlichkeitsprofil machen?

Answer 16

Micro-Targeting (Begriff aus Werbebranche)

Auf Persönlichkeitsprofil einzelner ‘Targets’ (Kunden) abgestimmte Werbung.

Kosinski zeigte: Werbung, die zum Persönlichkeitsprofil passt, steigert die Kaufwahrscheinlichkeit um 1400 Prozent ggü. einer dem Persönlichkeitsprofil widersprechenden Werbung (!!)

Kann man auch für Wahlwerbung nutzen.

Question 17

Wozu nutzt Cambridge Analytica Psychometrie?

Was ist daran so problematisch?

Answer 17

Cambridge Analytica

nutzt Psychometrie für Wahlkampf-Management und Wahlwerbung.

Mit Big-Data-Anwendungen hat sie für (fast) jeden Bürger der USA ein Profil erstellt.

Flexible Auswahl von Gruppen die personalisierte Werbung (o. Infos) bekommen (z.B. über Facebook-Insersate in Timeline), die genau zum Profil passen.

Können z.B. News an potentielle Demokraten-Wähler sein, die sie von der Wahl abhalten. ^{_{Bsp: Haitianer erhalten Nachrichten über Versagen der Clinton-Stiftung nach Erdbeben in Haiti.}}
Oder eine App für Wahlhelfer, die sie nur bei den Leuten klingeln lässt, die ‘aussichtsreich’ sind. Angepasste Gesprächsleitfäden je nach Persönlichkeitsprofil.

Eigenschaften der Cambridge Analytica Werbung:
Nicht illegal. Wahlwerbung wurde schon immer gemacht.

Es sind keine Fake-News nötig.

Problematisch:

Viele Nutzer werden nicht bemerken, dass sie Wahlwerbung erhalten.

Persönlichkeitsprofile werden ohne Wissen/Einwilligung der User erstellt und genutzt.

Werbung ist so passgenau zugeschnitten, dass sie sie mit hoher Wahrscheinlichkeit ‘kaufen’.

Das hat zu folgende Erfolge für Cambridge Analytica geführt:

Haben in Brexit-Wahlkampf die “leave.eu”-Kampagne unterstützt.

Haben im Vorwahlkampf USA’2016 den Republikaner Ted Cruz unterstützt -> Achtungserfolg eines vorherigen ‘Nobody’

Haben in letzten Monaten der Wahl die Kampfagne von Donald Trump unterstützt(!!)*

Anmerkung 1

Es ist nicht wissenschaftlich erwiesen, dass und wieviel Einfluss CA auf die Wahlergebnisse hatte.

Aber die einzelnen Elemente sind wissenschaftlich plausibel

Besser, man stellt sich darauf ein, dass es so sein könnte(!)

Anmerkung 2

Bis hierhin kaum KI erforderlich, Big Data und Machine Learning sind genug.

Aber KI-Methoden können jederzeit hinzukommen (und sind es vielleicht schon).

Z.B. Facebook Image Tagging, Information Retrieval, geschickte

Auswahl besonders beeinflussbarer Profile …

Oder: Mit ”KI schreibt Prosa“ werden Fake News erfunden …

Die Anwendungsdomäne ”Wahl“ zeigt besonders stark, welche gesellschaftliche Sprengkraft dies entwickeln kann.

Question 18

Was ist das Digital-Manifest?

Answer 18

Das Digital-Manifest ist ein im Spektrum Verlag frei verfügbares Dossier, das neben dem 18seitigen Hauptartikel zahlreiche kurze Einzelartikel enthält.

Grundprinzipien

Die Autoren des Digital-Manifest beschreiben, wie man mit den Chancen/Risiken umgehen soll und fordern die Einhaltung von 10 Grundprinzipien:

Einige daraus

Informationssysteme stärker dezentralisieren, Soziodiversität fördern

Informationsverzerrung und –verschmutzung reduzieren

Persönliche Daten in persönliche Datenmailbox, ”Recht auf Kopie“ (?)

Digitale Risikokompetenz

Mündigkeit der Bürger in der digitalen Welt fördern (Kant!)

Question 19

Kritik am Digital-Manifest

Answer 19

[Rauchhaupt, 2016] kritisiert (zu Recht) die ’persönliche Datenmailbox’:

Sie wäre eine Standardisierung und Zusammenführung von Daten, die – wenn auch gut gemeint – in falschen Händen das Gegenteil von dem bewirken kann, was sie bezweckt.

Dennoch sind verschiedene andere Forderungen der Autoren des Digital-Manifest eine vernünftige Sache.

Question 20

Digitaler Scheideweg

1. Welche Möglichkeiten der Entwicklung gibt es?
2. Was kann passieren, wenn wir nicht gegen die KI induzierte Unmündigkeit vorgehen?

Answer 20

1. Wir stehen am digitalen Scheideweg: Mächtige Algorithmen, von wenigen

I. Entscheidungsträgern kontrolliert: Feudalismus 2.0. oder

II. Richtige gesellschaftliche Weichenstellungen: Demokratie 2.0

1. Wenn wir nicht gegen die KI induzierte Unmündigkeit vorgehen, kann es sein, dass

wir uns in einem gesellschaftlichen Misserfolgszustand befinden oder

wir gehen klug genug damit um und verwenden die Technologie zum gesellschaftlichen Nutzen.

(Siehe Zitat Kant)

Question 21

Digitaler Scheideweg

Durch die Algorithmen könnte es sein, dass wir uns an einer neuen Schwelle von Unmündigkeit befinden.

Was müssen wir tun?

Answer 21

1. Diversivität fördern

verschiedene Informationskanäle, Meinungen und Kulturen

2. Mündigkeit fördern

Bildung ! Wir sind die zukünftige Elite !

Informationsveranstaltungen

Technikfolgenabschätzung! Ethik und KI [Bartneck et al., 2019]

Wenn ich weiß, wo und wie meine Wahl ’gehackt’ werden kann, ist schon viel gewonnen

Gesunde Skepsis gegenüber Stellen, wo ich personalisierte Information erwarten kann

Einfach so durch die Straßen einer Stadt gehen, ohne Navi ! Mündigkeit in der Wegfindung :-)