Module 2A - Recente beleidsontwikkelingen

Question 1

Waarom AI reguleren?

Answer 1

• AI een enorme impact → we moeten nadenken over welke ontwikkelingen wenselijk of moreel aanvaardbaar zijn.
• Verschillende richtsnoeren van verschillende autoriteiten: moreel, juridisch, technisch, economisch,…
  
  • Lawrence Lessig: technische architectuur van dingen heeft een enorme invloed op ons gedrag en is zelf sin staat m een systeem van perfecte afdwinging te creëren

Question 2

Staan de verschillende normeringsinstrumenten los van elkaar?

Answer 2

• Nee, ze gaan elkaar sterk beïnvloeden en idealiter elkaar niet tegenspreken.

Question 3

Wat zijn de ethische richtsnoeren van AI?

Answer 3

• Zowel publieke als private organisaties hebben de laatste jaren het initiatief genomen om ethische principes voor de ontwikkeling en implementatie van AI-systemen uit te werken.
• Het nut van ethische richtsnoeren ligt ongetwijfeld in hun kompas-functie: ze geven organisaties een houvast bij de ontwikkeling en uitrol van AI. Evenwel zijn zij niet als dusdanig in rechte afdwingbaar.

Question 4

Welke ethische principes komen steeds terug?

Answer 4

• Transparantie, rechtvaardigheid en billijkheid, non-maleficence, verantwoordelijkheid en privacy
• Duurzaamheid, waardigheid en solidariteit

Question 5

Link tussen ethiek en recht?

Answer 5

• Ethiek ligt aan de basis van het recht en het recht gaat de belangrijkste waarden die centraal staan in onze visie van een goede, rechtvaardige maatschappij, incorporeert:
  
  • Bonus pater families, fundamentele rechten,…
• Ethiek = leidraad bij de interpretatie van het recht, zeker wanneer deze onduidelijk zijn door technologische, economische, sociale ontwikkelingen, of in het geval van conflict tussen rechtsregels.

Question 6

EU ethische richtsnoeren voor betrouwbare AI: wie heeft ze uitgevoerd?

Answer 6

• Ethische Richtsnoeren voor Betrouwbare AI van de AI HLEG = High-Level Expert Group on Artificial Intelligence - Deskundigengroep op Hoog Niveau voor Kunstmatige Intelligentie van de Europese Commissie
• Een ruimer beleidsinitiatief van de Europese Unie, dat o.m. ook de ontwikkeling van nieuwe wetgeving voor AI omvat; de bijzondere relevantie van EU ontwikkelingen voor de Belgische context; en de praktische uitwerking van de richtsnoeren in een checklist die kan worden gebruikt door software ontwikkelaars en gebruikers van AI.

Question 7

Wie zijn ze AI HLEG?

Answer 7

• Onafhankelijke deskundigengroep die in juni 2018 door de Europese Commissie werd opgericht met 52 vertegenwoordigers van de industrie, de academische wereld, en het middenveld.

Question 8

Wat is het doel van AI HLEG?

Answer 8

• Aangezien de Europese Commissie van “ethische, veilige en geavanceerde AI in Europa” een speerpunt gemaakt heeft, kreeg de AI HLEG de opdracht om de uitvoering van deze visie te ondersteunen door het opstellen van twee documenten:
  
  1. Ethische richtsnoeren voor AI en
  2. Aanbevelingen voor beleid en investeringen.
• Beide documenten werden gepubliceerd op 8 april 2019.

Question 9

Wat zijn de Ethische Richtsnoeren voor Betrouwbare AI?

Answer 9

• Beogen “betrouwbare AI” (trustworthy AI) te bevorderen in de Europese Unie, en omschrijven wat daaronder moet worden verstaan.

Question 10

Uit wat bestaat betrouwbare AI?

Answer 10

Betrouwbare AI bestaat uit drie componenten, waaraan gedurende de volledige levenscyclus van het systeem moet worden voldaan: het AI-systeem moet:

1. Wettig zijn, door te voldoen aan alle toepasselijke wet- en regelgeving
2. Ethisch zijn, door naleving van ethische beginselen en waarden te waarborgen
3. Robuust zijn uit zowel technisch als sociaal oogpunt, aangezien KI-systemen ongewild schade kunnen aanrichten, zelfs al zijn de bedoelingen goed.

Question 11

Zijn al deze componenten nodig voor ethische AI?

Answer 11

• De AI HLEG beschouwt elk van deze drie componenten op zichzelf nodig, maar niet voldoende om betrouwbare AI te bewerkstelligen. In het ideale scenario sluiten ze alle drie op elkaar aan en valt de werking ervan gedeeltelijk samen.
• In de praktijk kunnen er echter spanningen bestaan tussen deze elementen (soms kunnen bijvoorbeeld het toepassingsgebied en de inhoud van de bestaande wetgeving niet in lijn zijn met de ethische normen).

Question 12

Wat zijn de 4 ethische principes van waaruit de EU richtsnoeren vertrekken?

Answer 12

1. Menselijke autonomie
2. Vermijden van schade
3. Billijkheid = fairness
4. Verklaarbaarheid

Question 13

Welke 7 vereisten zijn noodzakelijk voor de verwezenlijking van betrouwbare AI?

Answer 13

1. Menselijke keuzevrijheid en controle
2. Technische robuustheid en veiligheid;
3. Privacy en databeheer;
4. Transparantie;
5. Diversiteit, non-discriminatie en billijkheid
6. Milieu- en maatschappelijk welzijn;
7. Verantwoording.

• Daarbij beklemtonen zij dat die principes en vereisten gebaseerd zijn op de fundamentele rechten zoals neergelegd in het EU Grondrechtenhandvest en het Europees Verdrag voor de Rechten van de Mens (EVRM).

Question 14

Illustratie van de interactie tussen de richtsnoeren?

Answer 14

Question 15

Methodes in de richtsnoeren

Answer 15

• De richtsnoeren beschrijven ook technische en niet-technische methoden om bovenstaande vereisten in de praktijk te verwezenlijken, en dit gedurende de gehele levenscyclus van het systeem (van ontwerp over ontwikkeling tot gebruik en, na analyse, bijstelling van het oorspronkelijke ontwerp, enzoverder) en stellen een (niet-exhaustieve) controlelijst voor de operationalisering van betrouwbare KI voor.
• Deze controle- of vragenlijst werd na een pilootproces, waarbij belanghebbenden de lijst konden testen en commentaar leveren (tot 1 december 2019), bijgewerkt tot een finale checklist, bekend onder de naam ALTAI (Assessment List for Trustworthy AI), die in juli 2020 werd gepubliceerd: pdf document & dynamisch webgebaseerd instrument.

Question 16

Illustratie: Microsoft interne richtlijnen?

Answer 16

• Voorbeeld van interne richtlijnen waarbij het vrijwillige engagement is aangegaan om deze na te leven: pledge.
• 2017: AI, Ethics, and Effects in Engineering and Research (AETHER) comité op, dat als opdracht heeft om het management te adviseren over de uitdagingen en opportuniteiten van AI innovaties en om aanbevelingen uit te werken.

1. Fairness
2. Betrouwbaarheid en veiligheid
3. Privacy
4. Inclusie
5. Transparantie
6. Verantwoordelijkheid

• ORA: Office of Responsible AI: speciaal departement dat ervoor zorgt dat deze principes geïmplementeerd worden op de werkvloer.

Question 17

Aandacht techbedrijven voor ethiek en mensenrechten

Answer 17

• Vaak een kwestie van reputatiemanagement (en dus vrijwaren economische belangen). Maar in bepaalde gevallen leidt het ook effectief tot het stopzetten, of niet aangaan, van contracten met bepaalde opdrachtgevers (al dan niet onder druk van werknemers, die een ethics-before-profits principe hanteren.
• In de zomer van 2020 kondigde Microsoft bijvoorbeeld aan dat het geen technologie voor gelaatsherkenning zou verkopen aan politiediensten in de Verenigde Staten, zolang er geen duidelijke wetgeving bestaat over hoe de technologie moet worden aangewend met respect voor mensenrechten.

Question 18

IEEE Ethically Aligned Design

Answer 18

• Initiatief van IEEE = Institute of Electrical and Electronics Engineers: de grootste organisatie van technische professionals uit de industrie en academische wereld (met meer dan 420,000 leden in meer dan 160 landen) in diverse toepassingsdomeinen (informatica, luchtvaart, telecommunicatie, elektronica, biomedische apparaten, consumentenapparaten): het Global Initiative on Ethics of Autonomous and Intelligent Systems.

Question 19

Hoe is IEEE ontstaan?

Answer 19

Na een uitvoerige consultatieronde (waarbij twee ontwerpversies werden voorgelegd voor een inclusief publiek debat: EADv1, in december 2016, en EADv2, in december 2017), publiceerde IEEE op 25 maart 2019 hun Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems – First Edition (‘EADe1’)

Question 20

EADe1

Answer 20

• In dit visiedocument biedt IEEE een overzicht van de principes die de ontwikkeling en het gebruik van AI – zij spreken van autonome en intelligente systemen – zouden moeten aansturen om te zorgen dat deze het algemeen maatschappelijk welzijn verhogen, en niet louter economische doelstellingen (zoals verhoogde productiviteit) nastreven. Het formuleert eveneens concrete aanbevelingen over hoe die principes zouden kunnen worden geïmplementeerd via standaarden, certificatie, wetgeving en beleidsmaatregelen.

Question 21

Algemene principes van IEEE?

Answer 21

De aanpak die het visiedocument presenteert voor ethisch en waarden-gedreven design, ontwikkeling, en implementatie van AI is gebaseerd op de volgende algemene principes:

1. Mensenrechten
2. Menselijk welzijn
3. Data agency
4. Effectiviteit en doelmatigheid
5. Verantwoordelijkheden
6. Misbruiken
7. Kennis en vaardigheden

Question 22

Mensenrechten en AI bij IEEE?

Answer 22

A/IS moeten ontwikkeld en ingezet worden met respect voor, en ter bevordering van, de internationaal erkende mensenrechten;

Question 23

Menselijk welzijn en AI bij IEEE?

Answer 23

• A/IS ontwikkelaars hanteren verhoogd menselijk welzijn als de primaire succesfactor bij de beoordeling van hun ontwikkeling (waarbij als mogelijke indicatoren van menselijk welzijn wordt verwezen naar de Duurzame Ontwikkelingsdoelstellingen van de Verenigde Naties)

Question 24

Data agency en AI?

Answer 24

A/IS ontwikkelaars moeten ervoor zorgen dat individuen in controle kunnen blijven over hun data en identiteit (aangeduid met de term data agency)

Question 25

Effectiviteit en doelmatigheid AI?

Answer 25

A/IS ontwikkelaars moeten het bewijs leveren van de effectiviteit en doelmatigheid (fitness for purpose) van hun systeem;

Question 26

Transparantie en AI?

Answer 26

Een beslissing genomen door een A/IS dient altijd transparant en uitlegbaar te zijn;

Question 27

Verantwoordelijkheid

Answer 27

• Een beslissing genomen door een A/IS dient altijd transparant en uitlegbaar te zijn;

Question 28

Verantwoordelijkheid en AI?

Answer 28

• A/IS moet zo ontwikkeld en ingezet worden dat er steeds een ondubbelzinnige verklaring mogelijk is voor genomen beslissingen, zodat de verantwoordelijkheid en juridische aansprakelijkheid voor bepaalde gevolgen op een correcte manier kunnen worden toegewezen aan de verschillende betrokken ontwikkelaars en gebruikers van het AI-systeem (accountability);

Question 29

Misbruiken en AI?

Answer 29

A/IS ontwikkelaars moeten bewust zijn van, en maatregelen nemen om te behoeden voor, mogelijke misbruiken en risico’s van hun systeem tijdens het gebruik ervan (awareness of misuse);

Question 30

Kennis en vaardigheden en AI?

Answer 30

A/IS ontwikkelaars dienen te verduidelijken welke kennis en vaardigheden nodig zijn voor een veilig en effectief gebruik van hun systeem, en zij die het systeem opereren dienen hierover te beschikken (competence).

Question 31

Illustratie: ethically alligned design general principles

Answer 31

1. Human rights
2. Well-being
3. Data Agency
4. Effectiveness
5. Transparancy
6. Accountability
7. Awareness of misuse
8. Competence

Question 32

Concrete acties om deze principes te vertalen naar dagelijkse praktijk

Answer 32

• de ontwikkeling van een A/IS Ethics Glossary, die we reeds vermeldden bij de bespreking van de definitie van AI;
• aanbod van EAD cursussen voor IT-professionals en managers;
• de ontwikkeling van OCEANIS, een globaal open forum voor debat en samenwerking op het vlak van A/IS, ethiek en standaardisatie;
• lancering van de IEEE P7000™ serie van standaarden gericht op maatschappelijk-ethische kwesties

Question 33

Wat is technische normering?

Answer 33

• Met technische normering (of normalisatie) verwijzen we naar het proces van het opstellen en goedkeuren van technische specificaties (of standaarden), die de uitdrukking vormen van de regels van goed vakmanschap, die gelden voor een bepaald product, een procedé of een bepaalde dienst.

Question 34

Wat is het doel van technische normering?

Answer 34

• Deze normen hebben als doel, enerzijds, het ontwikkelen van een bepaald kader om de relatie tussen de klant en zijn leverancier te optimaliseren (het creëren van trust of vertrouwen), en anderzijds, het garanderen van een evenwicht tussen de maatschappelijke en economische belangen en van de technologische vooruitgang.

Question 35

Welke types bestaan er van technische standaarden?

Answer 35

1. ​Technische specificaties: bv. inzake veiligheid of interoperabiliteit
2. Kwalitatieve specificaties: inzake dienstverlening
3. Procesvoorschriften: methodologieën inzake tests, audits, certificatie

Question 36

Wie werkt de technische normen uit?

Answer 36

• Normen worden uitgewerkt door onafhankelijke, erkende normalisatie-instellingen, waarbij alle betrokken partijen mogen deelnemen aan de uitwerking van normen.
• Dit omvat vertegenwoordigers van de betrokken ondernemingen, de overheid, de organismen voor de evaluatie van de conformiteit, de wetenschappelijke experts, consumentenorganisaties, werknemersverenigingen, niet-gouvernementele organisaties, enzoverder.
• Dit normalisatiewerk gebeurt op verschillende niveaus: nationaal, Europees en internationaal.

Question 37

Wat is het NBN?

Answer 37

• Het Bureau voor Normalisatie (NBN) is het Belgische normalisatiebureau.

Question 38

Welke organen bestaan op Europees niveau voor technische normering?

Answer 38

1. Europees Comité voor Normalisatie (CEN)
2. Europees Comité voor Elektrotechnische Normalisatie (CENELEC)
3. European Telecommunication Standards Institute (ETSI).

Question 39

Welke organen bestaan op internationaal niveau voor technische normering?

Answer 39

1. International Organisation for Standardization (ISO)
2. International Electrotechnical Commission (IEC)
3. International Telecommunication Union (ITU).

Question 40

Hoe komen technische normen tot stand?

Answer 40

• Consensus = vrijwillig. Geharmoniseerde normen kunnen ook op verzoek (“mandaat”) van de Europese Commissie door Europese normalisatie-instellingen ontwikkeld:
  
  • Verordening nr. 1025/2012

Question 41

Op wat ligt de klemtoon bij technische voorschriften?

Answer 41

• Op het marktgestuurde karakter → dit leidt ertoe dat technische normen doorgaans niet van overheidswege worden opgelegd, maar vrijwillig worden toegepast. In plaats van kant te kiezen tussen concurrerende standaarden (wat in het geval van de GSM-standaard tot een succesverhaal leidde, maar in het geval van analoge satelliettelevisie tot een complete ramp, ook aangeduid met het “MAC debacle”), opteert de Europese wetgever er meestal voor om de markt te laten spelen.

Question 42

Wat doet de EU wel omdat het gaat over marktgestuurd?

Answer 42

• Wel wordt in EU-wetgeving vaak naar (niet nader gespecificeerde) technische voorschriften (zogenaamde “essentiële eisen”) verwezen, wordt opgelegd dat Europese normalisatie-instellingen technische specificaties in “geharmoniseerde normen” moeten definiëren die vervolgens gepubliceerd worden in het Publicatieblad, en genieten producten die in overeenstemming zijn met dergelijke geharmoniseerde normen van een vermoeden van conformiteit met de essentiële eisen.

Question 43

Wat doet de Europese Commissie voor technische normering?

Answer 43

• De Europese Commissie kan vervolgens via gedelegeerde handelingen vaststellen op welke categorieën of klassen radioapparatuur elk van deze eisen betrekking heeft. Artikel 10 van deze richtlijn verplicht fabrikanten om, wanneer zij hun radioapparatuur in de handel brengen, te waarborgen dat deze apparatuur is ontworpen en vervaardigd overeenkomstig deze essentiële eisen.
• Daartoe moeten zij technische documentatie opstellen over hun product, dit product aan een conformiteitsbeoordeling onderwerpen (waarvoor meerdere procedures bestaan, zoals een interne productiecontrole of een EU-typeonderzoek) en - wanneer het dit met succes heeft doorlopen - een EU-conformiteitsverklaring opstellen en CE-markering aanbrengen.

Question 44

Wat illustreert de EU aanpak “stok en wortel”?

Answer 44

• De EU-aanpak inzake radioapparatuur vormt, met andere woorden, een mooie illustratie van de “stok-en-wortel” aanpak die de EU-wetgever vaak volgt: de wetgever legt de normdoelen vast - d.z. de essentiële eisen, zoals gezondheid, veiligheid, privacy - en laat het vervolgens aan de industrie en normalisatie-instellingen over om de technische specificaties uit te werken.
• De wet verplicht fabrikanten niet om de Europees geharmoniseerde technische specificaties te implementeren, maar het vermoeden van conformiteit creëert wel een zeer sterke prikkel daartoe. Dit biedt de fabrikanten namelijk de garantie dat hun product conform zal worden beschouwd met de normdoelen of essentiële eisen zoals neergelegd in de wet.

Question 45

GDPR als technische normering?

Answer 45

• Art. 25 verplicht diegenen die verantwoordelijk zijn voor het verwerken van persoonsgegevens om “passende technische en organisatorische maatregelen” te nemen om ervoor te zorgen dat de gegevensbeschermingsbeginselen, zoals minimale gegevensverwerking, op een doeltreffende manier worden geïmplementeerd en de rechten van de betrokkenen worden gewaarborgd.
  
  • Wat deze “passende technische en organisatorische maatregelen” precies inhouden, wordt in de wetgeving niet nader gepreciseerd, maar zal afhangen van wat op dat ogenblik binnen de sector wordt beschouwd als goede en gangbare praktijken.
• Enkel noodzakelijke gegevens voor verwerking

Question 46

Wat is de bedoeling van IEEE P7000?

Answer 46

• De bedoeling is om EADe1 te vertalen naar praktisch werkbare criteria en processen: welke concrete stappen dienen ontwikkelaars te zetten om ethische bekommernissen omtrent het AI-systeem of -programma te detecteren en te analyseren, en dit vanaf het begin van de ontwikkelingsfase? Is er een interne analyse gebeurd? Zijn diverse belanghebbenden bevraagd over mogelijke implicaties van de technologie?

Question 47

Ethics-by-design

Answer 47

• De betrachting is om dankzij dergelijke waarden-gebaseerde systeemdesign (ethics-by-design) onbedoelde negatieve gevolgen van nieuwe technologie te vermijden zonder innovatie te blokkeren.
  
  • Verschillende werkgroepen opgericht
• Eerste standaard: IEEE Recommended Practice for Assessing the Impact of Autonomous and Intelligent Systems on Human Well-Being

Question 48

Welke weg bewandelt de EU voor regulering AI?

Answer 48

Inmiddels bewandelt de EU steeds meer het pad in de richting van nieuwe wetgeving, waarin een aantal cruciale beginselen voor AI, zoals het vereiste van transparantie en uitlegbaarheid, zouden worden neergelegd