Module 2A: Artificiële intelligentie

Question 1

Wat is een definitie van intelligentie?

Answer 1

• Moeilijk omdat het niet duidelijk is wat onder intelligentie moet worden verstaan. Intelligentie meestal bij mensen, maar wat menselijke intelligentie inhoudt is niet volledig helder. De definitie van intelligentie wordt daardoor veelal geassocieerd met specifieke uitingsvormen van menselijke intelligentie, zoals het gebruik van taal en leervaardigheid.
• John McCarthy: Pionier op het gebied van AI: “the problem is that we cannot yet characterize in general what kinds of computational procedures we want to call intelligent”

Question 2

In welke 2 categorieën kunnen we intelligentie opdelen?

Answer 2

1. Menselijk of rationeel denken: apparaten of machines bezitten KI wanneer zij in staat zijn om beslissingen te nemen, problemen op te lossen en te leren.
2. Menselijk of rationeel handelen: apparaten of machines bezitten KI wanneer zij in staat zijn om activiteiten uit te voeren die intelligentie zouden vereisen als ze door mensen zouden worden uitgevoerd.

Question 3

Wat is de definitie van EC in 2018?

Answer 3

• Systemen op basis van kunstmatige intelligentie (KI) zijn door mensen ontworpen softwaresystemen (en mogelijk ook hardwaresystemen) die, met een complex doel, in de fysieke of digitale dimensie in actie komen op basis van gegevens die zij in hun omgeving waarnemen, waarbij ze de verzamelde gestructureerde of ongestructureerde gegevens interpreteren, redeneren op basis van de uit deze gegevens verkregen kennis of de verkregen informatie verwerken en beslissen met welke handeling(en) het gestelde doel het best kan worden bereikt.
• KI-systemen kunnen gebruik maken van symbolische regels of een numeriek model leren en kunnen hun gedrag ook aanpassen door te analyseren welke invloed hun eerdere handelingen op de omgeving hebben.
• Als wetenschappelijke discipline omvat KI verschillende benaderingen en technieken, zoals automatisch leren (waarvan deep learning en reinforcement-leren specifieke voorbeelden zijn), automatisch redeneren (waaronder plannen, inroosteren, kennisrepresentatie en redeneren, zoeken en optimaliseren) en robotica (waaronder controle, waarneming, sensoren en actuatoren, alsook de integratie van alle andere technieken in cyber-fysieke systemen).”

Question 4

Is er een algemeen aanvaardde definitie van AI?

Answer 4

Geen algemeen aanvaarde definitie van AI, noch binnen de wetenschappelijke gemeenschap, noch binnen beleidskringen.

Question 5

Wat is een eenvoudige definitie van AI?

Answer 5

• Eenvoudig gezegd is AI enerzijds een verzamelterm voor een brede waaier van technologieën die, in de meest simpele betekenis van het woord, de capaciteiten van het menselijke brein willen evenaren, en anderzijds de term gebruikt om te verwijzen naar de wetenschappelijke discipline(s) waarbinnen die technologieën worden bestudeerd vanuit diverse invalshoeken.

Question 6

Hoe definiëren we AI aan de hand van kenmerken?

Answer 6

AI is een set van technologieën die (in meer of mindere mate) de volgende kenmerken vertonen:

1. Autonomie: de capaciteit om handelingen te stellen in complexe omgevingen zonder (constante) menselijke tussenkomst
2. Aanpassingsvermogen: de capaciteit om taken steeds beter uit te voeren door zelf te leren, middels ervaring en interactie met de omgeving (vandaar het gebruik van de term “slimme algoritmes”)

Question 7

Wat houdt autonomie van AI in?

Answer 7

• KI wordt gekenmerkt door een hoge mate van autonomie. KI-toepassingen kunnen complexe taken verrichten, zonder menselijke controle of begeleiding.
• Probleem: Het aanverwante controleprobleem van KI bestaat daarin dat de mogelijkheid bestaat dat KI-systemen een dusdanige mate van autonomie bezitten dat menselijke controle ervan niet langer mogelijk is.

Question 8

Wat is een verlengde van het probleem dat we AI-systemen autonoom handelen en dus menselijke controle niet langer mogelijk is?

Answer 8

• Het kenmerk dat de acties van AI-systemen niet altijd voorspelbaar zijn → ‘denken’ van dergelijke systemen wordt als creatief of out of the box getypeerd, omdat het afwijkt van het menselijk denkpatroon
• Voorbeeld C-path programma
  
  • Dit ontdekte dat het onderzoeken van het weefsel rondom kankercellen kan leiden tot realistischer prognoses dan het onderzoeken van de kankercellen zelf. Dit ging in tegen het gezonde verstand en destijds heersende medische opvattingen.
  • Dit toont ook aan hoe nauw AI ligt bij Big data en data-analyse.

Question 9

Welke mogelijkheden hebben AI-systemen?

Answer 9

AI-systemen: “have the capacity to come up with solutions that humans may not have considered, or that they considered and rejected in favor of more intuitively appealing options.”

Question 10

Ondoorzichtigheid-kenmerk van AI?

Answer 10

De ondoorzichtigheid van KI is navenant toegenomen -> zeer moeilijk als er een fout is in de algoritmes omdat ze zo complex zijn geworden!

Question 11

Deelgebieden binnen AI?

Answer 11

1. Natural language processing: De vaardigheid om gesproken en geschreven taal te verwerken en produceren.
2. Expert systems: Systemen die kennis van een bepaald gebied hebben en die kennis al redenerend op de feiten van een geval kunnen toepassen: bv. medische setting
3. Robotica: Het bouwen van machines die programmeerbare taken uit kunnen voeren

• De gebieden overlappen en zijn niet altijd van elkaar te scheiden, doordat de onderliggende technologieën en algoritmes overeenkomen. De combinatie van ontwikkelingen in al deze deelgebieden heeft ertoe geleid dat KI een breed spectrum aan toepassingen bestrijkt.

Question 12

Wat is een andere onderverdeling bij AI

Answer 12

1. Enge AI: Gerichte AI = narrow AI bv. Alpha Go
2. Brede AI: Algemene AI = general AI
3. Super AI: krachtiger dan de mens

Question 13

Enge AI?

Answer 13

• Heel goed in 1 specifieke taak of toepassing en kan daarin de menselijke intelligentie overstijgen, maar kan alleen dat. Ze zijn hyperspecialisten in hun eigen kleine domein, goed in het verwerken van informatie, zoeken van patronen (bv. herkennen van leeuwen).
• Maar ze bezitten geen redeneer- of inlevingsvermogen = nodig voor context te begrijpen.
  
  • Alle AI-systemen zijn nu nauwe AI, dommer dan een kleuter buiten hun eigen gebied.
  • Apha GO = de computer die het complexe Aziatische bordspel GO leerde spelen en daarin de allerbeste menselijke spelers versloeg

Question 14

Brede AI

Answer 14

• Algemene AI = general AI
• Brede AI zou, eenvoudig gezegd, kunnen schakelen tussen verschillende taken en verschillende functies automatisch aansturen, bijvoorbeeld door een slimme combinatie te maken van informatie uit verschillende sensoren (net zoals een mens dat doet).
  
  • Maar daar zijn we nog lang niet, want daarvoor zijn heel veel verschillende vormen van intelligentie nodig.
• Sommige experts twijfelen of we daar ooit gaan geraken maar anderen zeggen dat het mogelijk is!

Question 15

Wat is technologische singulariteit?

Answer 15

Hypothetische toekomstvisie die voorspelt dat kunstmatige intelligentie zichzelf zal verbeteren en daardoor meer invloed krijgt op de richting waarin de maatschappij zich beweegt dan de mens zelf.

Question 16

Welke 2 stromingen bestaan er in het onderzoeksveld van gerichte AI?

Answer 16

1. Kennisgebaseerde: top-down en probeert kennis van menselijke expert in kaart te brengen -> te gieten in een systemen om het gedrag van expert te benaderen.
2. Datagebaseerde: machine learning: automatisch lerende benadering die bottom up werkt: afkomstig van statistiek en patroonherkenning

Question 17

Wat is kennisgebaseerde AI?

Answer 17

• = regel- of instructiegebaseerde methode: gebaseerd op hoe mensen problemen oplossen.
• Top-down benadering om de systematiek van een expert te gieten in een model.
• Voordeel is dat het herkenbaar is voor de expert en die kan dus utileggen waarom bepaalde beslissingen zijn genomen.
• Voorbeelden: DENDRAL in organische chemie

Question 18

Waarom nam de interesse in kennisgebaseerde AI af?

Answer 18

• Het bleek niet gemakkelijk om de kennis van experten te analyseren en het is ook heel tijdrovend om die kennis mooi te formaliseren & implementeren.
• Het correct transfereren van kennis en kunde van een technisch operator of expert naar een kennisingenieur is niet de gemakkelijkste opdracht. Beiden spreken een andere taal en leven in een andere denk- en prioriteitenwereld. Het onderzoek en de toepassingen verschoven dan ook in andere richtingen.

Question 19

Datagebaseerde AI?

Answer 19

• Data-gebaseerde of ‘machine learning’ (automatisch lerende) benadering werkt bottom-up. Afkomstig van statistiek en patroonherkenning.
• Men vertrekt van data over het gedrag van mensen, over de beslissingen die ze hebben genomen of over verschijnselen die zijn waargenomen via sensoren.
• Vervolgens worden statistische technieken gebruikt om in die data patronen te ontdekken en die patronen worden dan weer aangewend om nieuwe problemen op te lossen.
  
  • Bayesiaanse inferentie: gebaseerd op probabiliteitstheorie.

Question 20

Waarom heeft datagebaseerde AI vanaf de jaren 90 een hoge vlucht genomen?

Answer 20

1. Meer en meer data beschikbaar
2. Meer en meer rekenkracht

Question 21

Welke belangrijke verschuiving was er binnen datagebaseerde AI?

Answer 21

Verschuiving in het domein van natuurlijke taalverwerking van kennisgebaseerde benaderingen (systemen gebaseerd op de inzichten uit de taalkunde) naar statistische benaderingen.

Question 22

Hoe duiden sommige het onderscheid tussen kennis en datagebaseerde AI ook aan?

Answer 22

Sommigen duiden dit onderscheid ook aan als het gebied van de traditionele expertsystemen enerzijds, en machinaal of automatisch leren (machine learning) anderzijds, of nog als het onderscheid tussen symbolische en numerieke AI

Question 23

Wat is Machine Learning?

Answer 23

• Een belangrijk KI-deelgebied houdt zich bezig met technologieën die computers in staat stellen om te leren zonder hiertoe expliciet geprogrammeerd te zijn: Machine Learning (ML).
• Gebaseerd op zelflerende algoritmes dus ze kunnen zich aanpassen aan nieuwe omstandigheden.

Question 24

Wat is Deep Learning?

Answer 24

• Meest geavanceerde toepassing van ML: Deze technologie is gebaseerd op de werking van neurale netwerken die zijn gemodelleerd naar het menselijk brein en de neuronen die zich daarin bevinden.
• Het dieplerende algoritme voert hierbij een gelaagde analyse uit, waarbij resultaten uit de ene laag worden gebruikt als input voor de analyse van een volgende laag. Zo kunnen complexe, verborgen verbanden in grote datasets worden ontdekt.

Question 25

Voorbeeld: gezichtsherkenning

Answer 25

• Input = cameraregistratie van een menselijk gezicht: In de eerste stap worden de contouren van het gezicht gedefinieerd.
  
  • Deze contouren worden beschouwd als een ‘verborgen’ laag in de afbeelding, omdat deze niet vooraf door een programmeur zijn vastgesteld. De resultaten uit deze laag worden gebruikt voor het analyseren van complexere kenmerken binnen de gedefinieerde contouren, zoals de neus, ogen, oren en mond.
• In de derde laag worden de verhoudingen tussen de hiervoor omschreven kenmerken gedefinieerd. In de vierde, en laatste, stap worden de resultaten uit de eerdere stappen samengevoegd en vergeleken met informatie afkomstig uit eerdere gezichtsanalyses. De output bestaat uit de herkenning van een specifiek gezicht.
• Dit is niet mogelijk voor een eenvoudig neuraal netwerk: In een eenvoudig neuraal netwerk kan het herkenningsproces niet worden opgedeeld in verschillende stappen. Het is daardoor voor een eenvoudig neuraal netwerk ondoenlijk om accuraat gezichten te herkennen.

Question 26

Hoe geraken we tot knowledge discovery?

Answer 26

• Zelflerende algoritmes vormen een belangrijke basis om te komen tot knowledge discovery in datasets en worden ingezet op een grote hoeveelheid aan terreinen:
  
  • Fraudeherkenning, aanbevelingen online webshops, aandelenkoers voorspellen
• Het is in staat om vele patronen, verbanden en kenmerken te herkennen in grote hoeveelheden data.

Question 27

Waarin zit het zelflerende karakter van het algoritme?

Answer 27

Het gebruik van neutrale netwerken: Eerder herkende patronen worden gebruikt in de data-analyse en het algoritme is in staat zichzelf aan te passen aan eerder gevonden resultaten.

Question 28

Wat zijn de 3 belangrijkste leertechnieken voor het trainen van algoritmes?

Answer 28

1. Gesuperviseerd
2. Ongesuperviseerd
3. Versterkend leren = reinforcement learning

Question 29

Met wat is ML nauw verbonden?

Answer 29

• Met Big Data-analyse (Datamining) en het functioneren van IoT applicaties.
• Datamining technieken vinden hun grondslag in in dieplerende algoritmes die zijn ontwikkeld binnen het domein van ML. De processen van patroonherkenning, profiling, clustering, associatie en (on)begeleide analyse worden dan ook vaak in de context van ML besproken en behoren niet louter tot de Big Data-context.
• Big Data stelt dergelijke algoritmes echter wel in staat om hun zelflerende vermogen maximaal te ontplooien. Data-analyse is daarnaast onontbeerlijk voor het adequaat functioneren van IoT-toepassingen. Hieruit volgt dat Machine Learning een onmisbare bouwsteen vormt voor de werking van de drie technologieën die de kern vormen van dit onderzoek.

Question 30

Wat is de relatie tussen de verschillende buzzwords?

Answer 30

Question 31

Wat is een voor en nadeel van ML?

Answer 31

• Voordeel: op voordien ongekende situaties reageren.
• Nadeel: beslissing erachter is weinig transparant.
  
  • Dit is beter bij regelgebaseerde AI-systemen omdat deze wel makkelijk begrijpbaar en transparant zijn voor mensen.
  • Nadeel hiervan is dan weer de tijd en kosten om bepaalde oplossingen te progremmeren, problematisch voor snel evoluerende contexten.

Question 32

Wat zijn neurale netwerken?

Answer 32

• Dit is een techniek binnen machine learning waarbij we machines leren en die de complexe structuur van het menselijk brein nabootst.
• Ons brein bestaat namelijk uit neurale netwerken van lagen neuronen, die informatie doorgeven aan andere lagen neuronen. Dit systeem kopieerden we naar computers via neurale netwerken.

Question 33

Wat is deep learning?

Answer 33

• Deep learning is een naam voor het leren via neurale netwerken. Het woord ‘deep’ voegden we de laatste jaren daaraan toe, want bij grote hoeveelheden complexe data bestaan er heel veel lagen neuronen in het netwerk. Het systeem wordt dus steeds dieper.
• Deep learning en neurale netwerken zijn een subdomein van machine learning, en machine learning is op zijn beurt een subdomein van AI.
  
  • In de praktijk verwijst AI vandaag de dag echter vooral naar machine learning, wat op zijn beurt vooral verwijst naar neurale netwerken en deep learning omwille van het succes van deze technieken.

Question 34

Wat is robotica?

Answer 34

• Robotica is een discipline die ziet op het bouwen van robots, dat wil zeggen programmeerbare machines die taken uit kunnen voeren.
  
  • Robots vormen de fysieke manifestatie van het streven naar KI; robotica wordt dan ook wel gezien als een deelgebied van KI.

Question 35

Wat zijn zorgrobots?

Answer 35

• Zorgen voor kwetsbare groepen: kinderen, ouderen of gehandicapten.
  
  • Bv. Robeur: gericht op het uit bed tillen van patiënten
• Bv. Zora: kan meer complexe handelingen uitvoeren: Zora heeft vele sensoren in haar hoofd, handen en voeten en beschikt over richtmicrofoons en camera’s. KI stelt Zora in staat om te praten, luisteren en autonoom te bewegen en te handelen.

Question 36

Autonome wapensystemen

Answer 36

• = killerrobots: AI-gedreven wapens.
• 3 categorieën:
  
  1. Human-in-the-loop: Hierbij gaat op basis van KI doelen worden geselecteerd die slechts worden aangevallen na een menselijk commando: bv. drones
  2. Human-on-the-loop: Selecteert doelen en aanvallen onder menselijke controle.
  3. Human-out-of-the-loop: Gaat volledig AI-gedreven zijn: de robot kiest zelf zijn doel en valt aan zonder menselijke tussenkomst of interactie.

Question 37

Bedrijf ‘Emotient’

Answer 37

Ontwerpt software die door middel van patroonherkenning op basis van een gezichtsuitdrukking iemands gemoedstoestand kan herkennen en toekomstig gedrag kan voorspellen.

Question 38

Hoe kan deze vorm van emotieherkenning worden ingezet?

Answer 38

Voor het analyseren van de houding van personen ten opzichte van een bepaald product of politieke commercial, voor het bepalen van de gemoedstoestand van patiënten of voor psychologisch onderzoek.

Question 39

Hoe kan AI helpen binnen het juridische domein?

Answer 39

Natural language processing en machine learning → kunnen met een grote mate van zekerheid rechterlijke uitspraken voorspellen of kunnen worden ingezet om de slaagkans van de stap naar de rechter te voorspellen.

Question 40

Hoe zijn de verschillende deelgebieden met elkaar verbonden?

Answer 40

• Big Data, Internet of Things en Kunstmatige Intelligentie zijn samenhangende technologieën. Het IoT draagt bij aan de explosie van data.
• Dit maakt dat het IoT en Big Data onlosmakelijk met elkaar zijn verbonden.
• Het analyseren van grote hoeveelheden uiteenlopende real-time-data (Big Data) is een complexe aangelegenheid die mede mogelijk wordt gemaakt door datamining en KI, waarbij het leren door machines door middel van neurale netwerken essentieel is.
  
  • Algoritmes vormen daarbij de cruciale verbindende factor tussen Big Data, IoT en KI.

Question 41

Hoe vormen algoritmes een oplossing bij Big Data?

Answer 41

• De aanwezigheid van grote hoeveelheden gegevens (Big Data) maakt dat het zoeken naar relevante verbanden en patronen neerkomt op het vinden van een naald in een hooiberg.
  
  • Algoritmes vormen de oplossing voor deze uitdaging en maken datamining en profilering mogelijk. Zij helpen immers om zinvolle informatie te destilleren uit de grote hoeveelheden data die mensen en apparaten genereren.

Question 42

Wat is er nodig voor het functioneren van IoT?

Answer 42

• Analyse van de grote hoeveelheid verzamelde data en snelle terugkoppeling hiervan aan apparaten of gebruikers →
  
  • Algoritmes maken het mogelijk om de door sensoren geregistreerde informatie te verwerken en te analyseren op een zodanige manier dat die bruikbaar wordt voor een applicatie.

Question 43

Wat is de voornaamste uitdaging voor IoT?

Answer 43

• De snelle terugkoppeling van de resultaten van data-analyse, zodat IoT apparaten in staat zijn om direct - en waar mogelijk proactief - te reageren op veranderingen in de omgeving. Daardoor kan het IoT real-time interveniëren in de levens van mensen.

Question 44

Hoe maken AI en ML gebruik van algoritmes?

Answer 44

Kunstmatige Intelligentie en Machine Learning maken gebruik van algoritmes die apparaten in staat stellen zicht intelligent te gedragen en zelf te leren.

Question 45

Wat is een algoritme?

Answer 45

• Set instructies die wordt ingezet voor oplossen van bepaalde problemen. Deze set instructies is in staat om inputdata om te zetten naar outputdata ten behoeve van het oplossen van het probleem.
• Bv. hoogste getal vinden in een grote lijst met getallen: Lijst met getallen = inputdata.
  
  1. Het eerste nummer in de lijst is het hoogste getal (max)
  2. Vergelijk ieder nummer in de lijst(x), met max; als x hoger is, verander x dan naar max

Question 46

Wat is de output van een algoritme?

Answer 46

• Dit is kennis en vormt oplossing voor gegeven probleem → algoritme is eerder een recept = precieze set van instructies.

Question 47

Wat wordt gebruikt voor het genereren van de output van algoritmes?

Answer 47

• Output = uitvoering en daarvoor worden vaak computers gebruikt.
• Computers = ‘algoritme machines’ = gemodelleerd om data op te slaan, hier wiskundige formules op los te laten en nieuwe informatie als output te leveren

Question 48

Wat is het IFTTT-algoritme?

Answer 48

• If This Then That-algoritme: een vooraf gedefinieerde set aan instructies, die een ‘als-dan’ structuur hebben.
  
  • ‘Als’ de temperatuur in een huis onder een bepaalde temperatuur zakt, ‘dan’ wordt de verwarming aangezet.
• Dergelijke algoritmes zijn ‘dom’, in die zin dat ze niet zelf leren. De werking van het algoritme bestaat alleen daarin dat de IFTTT-instructie wordt uitgevoerd.

Question 49

Wat kunnen algoritmes nu door de technologische ontwikkelingen?

Answer 49

• Via Machine Learning → algoritmes in staat om te leren op basis van de kennis die zij zelf genereren en ze kunnen zich dus automatisch aanpassen aan eerder behaalde resultaten. Gedane observaties worden onderdeel gemaakt van de ‘trainingsdata’ van het algoritmes, op basis waarvan het algoritme zichzelf aanpast, verfijnt en ontwikkelt.

Question 50

Welke zijn geschikt voor beslissingen te maken: domme of slimme algoritmes

Answer 50

• Hillebrandt geeft aan dat zowel ‘domme’ als ‘slimme’ algoritmes kunnen worden ingezet ten behoeve van besluitvorming, maar vooral slimme zijn handig omdat deze, beter dan hun niet-zelflerende tegenhangers, bij uitstek geschikt zijn voor het verrichten van complexe (voorspellende analyses).

Question 51

Wat houdt het in dat algoritmes primair menselijke creaties zijn?

Answer 51

• Mensen zijn verantwoordelijk voor het programmeren en het trainen van algoritmes → belang van de door mensen gemaakte keuzes in de ontwerpfase kan nauwelijks worden onderschat, onder meer omdat deze keuzes doorwerken in de analyse en de uiteindelijke uitkomst van de analyse.

Question 52

Leg uit: “Technology is neither good nor bad; nor is it neutral”

Answer 52

• Algoritmes kunnen, ondanks de ‘belofte’ van algoritmische objectiviteit kunnen algoritmes op vele manieren blijk geven van subjectiviteit.
• Doordat algoritmes menselijke constructen zijn, kunnen de vooroordelen en waarden van programmeurs of opdrachtgevers van programmeurs worden ingebed in algoritmes.
  
  • Algoritmes die zoekresultaten prioriteren of nieuwsberichten, waarden bevatten die politiek gekleurd of anderszins niet-neutraal zijn. De oefendata waarmee een zelflerend algoritme wordt getraind, kunnen eveneens biases bevatten die bepalend zijn voor de uitkomsten van het algoritme.

Question 53

Op welke manier zijn algoritmes complex?

Answer 53

• De ondoorzichtigheid van slimme algoritmes hangt nauw samen met hun complexiteit. Algoritmes zijn complex op twee met elkaar verbonden manieren:
  
  • Technologisch
  • Contextueel

Question 54

Wat is de technologische complexiteit van algoritmes?

Answer 54

• Algoritmes worden door programmeurs vastgelegd in programmeertaal, waarna deze ‘vertaald’ worden in een binaire sequentie (nullen en enen) die een computer kan begrijpen. Om een dergelijke technisch construct goed te begrijpen is kennis van de technologische werking van het algoritme onontbeerlijk.

Question 55

Wat is de contextuele complexiteit van AI?

Answer 55

• Algoritmes worden gekoppeld aan datasets → kunnen bestaan uit gevarieerde data, die vooraf geclassificeerd en geprepareerd zijn voor data-analyse.
• Het algoritme wordt bovendien aan een dataset gekoppeld met een bepaalde opdracht, die moet worden uitgevoerd in de context van de specifieke dataset.

Question 56

Kan een computerexpert alles voorspellen?

Answer 56

• Nee, combinatie van Big Data & slimme algoritmes → computerexperts niet altijd in staat om werking en uitkomst van een algoritme te begrijpen:
  
  • Deze complexiteit wordt versterkt wanneer algoritmes met elkaar zijn verbonden, bijvoorbeeld als een algoritme voortbouwt op de uitkomsten van een ander algoritme.

Question 57

Wat is een black box?

Answer 57

Algoritmes worden gezien als black box: de input en output van het algoritme zijn bekend, maar hoe het tussenliggende procesfunctioneert is lastig te doorgronden. Dit geldt vooral voor slimme algoritmes

Question 58

Wat is het gevolg van deze complexiteit en ondoorzichtigheid?

Answer 58

• Deze complexiteit en de daarmee samenhangende ondoorzichtigheid maken het moeilijk om het besluitvormingsproces van het algoritme en (in het licht hiervan) de uitkomsten ervan te beoordelen. De uitkomst van een algoritme is hierdoor (ex ante) lastig te voorspellen en (ex post) lastig uit te leggen.
• Algoritmes zijn vaak geheim om commerciële of veiligheidsredenen -> versterkt dit nog eens!
  
  • Bv. Als de Belastingdienst bijvoorbeeld inzage zou geven in het algoritme dat gebruikt wordt om belastingfraude op te sporen in belastingaangiftes, zouden belastingplichtigen hun aangifte hierop kunnen afstemmen.

Question 59

Kan een algoritme fouten bevatten?

Answer 59

• Ja, de output van een algoritme kan fouten bevatten en met enige onzekerheid worden omgeven. Oriëntatie op correlatie → algoritmes die worden ingezet bij data-analyse geen inzicht bieden in causale verbanden, maar slechts wijzen op (mogelijk nuttige) correlaties.
• Bv. De oefendata van classificatie-algoritmes kan fouten bevatten en het opstellen van niet-distributieve groepsprofielen is per definitie onnauwkeurig, omdat de kenmerken van een bepaalde groep niet per definitie op alle leden van deze groep van toepassing zijn.
  
  • Als onnadenkend of onkritisch wordt omgegaan met outcomes van algoritmes, kan dit leiden tot fouten in publieke en private besluitvorming.

Question 60

Wat is het effect van slimme algoritmes?

Answer 60

• Momenteel overal en in een toenemende mate sturend voor het handelen van de overheid, toekennen van leningen, verkiezingsstrategie of gezondheidszorg.

Question 61

Wat is automatisch-algoritmische besluitvorming

Answer 61

• Automatisch-algoritmische besluitvorming = zonder menselijke tussenkomst.
• Voorbeeld: Facebook tijdlijn.

Question 62

Waarom onduidelijk onderscheid tussen semi-automatisch en automatische besluitvorming?

Answer 62

• Als de mens een besluit neemt op basis van een algoritmisch voorbereide beslissing, is er veelal sprake van automatische goedkeuring, omdat mensen de tijd, vaardigheden en het inzicht in het functioneren van het algoritme ontberen om een zelfstandig oordeel te vormen.
  
  • Zo zal een bankmedewerker niet eenvoudig afwijken van de uitkomst van een kredietwaardigheidscheck door een algoritme. Hierdooris het onderscheid tussen automatische en semiautomatische besluitvorming onscherp.

Question 63

Effect slimme algoritmes op fundamentele rechten

Answer 63

Algoritme-gedreven besluitvorming heeft een grote impact op het dagelijks leven van mensen. Daarmee komen ook de fundamentele rechten van mensen in het geding