AI Chapter 2 - `Unraveling the European AI Act Flashcards
Waarom heeft de EU besloten om AI te reguleren?
Vanwege ethische en maatschappelijke zorgen over de impact van AI op veiligheid, mensenrechten, en mogelijke discriminatie.
Chapter 2 – Unraveling the European AI Act
Wat is de Digital Decade 2030-strategie van de EU?
Een strategie van de EU om de economie en samenleving te digitaliseren, waarvan de AI Act deel uitmaakt.
Chapter 2 – Unraveling the European AI Act
Wat zijn de drie doelen van de AI-strategie van de EU?
Technologische en industriële capaciteit vergroten, modernisering van onderwijs en training bevorderen, en een ethisch en juridisch kader voor AI vaststellen.
Chapter 2 – Unraveling the European AI Act
Wat is het belangrijkste doel van de Europese AI Act?
Het creëren van een juridisch kader voor het verantwoord gebruik en de ontwikkeling van AI in Europa.
Chapter 2 – Unraveling the European AI Act
Welke organisatie werd door de Europese Commissie opgericht om de ontwikkeling van AI-beleid te ondersteunen?
De High-Level Expert Group on AI (HLEG).
Chapter 2 – Unraveling the European AI Act
Wat is de belangrijkste bijdrage van de HLEG aan AI-regulering?
De Ethics Guidelines for Trustworthy AI, die een kader bieden voor ethische AI.
Chapter 2 – Unraveling the European AI Act
Wat zijn de vier kernprincipes van betrouwbare AI zoals genoemd door de HLEG?
Respect voor menselijke autonomie, voorkomen van schade, rechtvaardigheid, en verklaarbaarheid.
Chapter 2 – Unraveling the European AI Act
Waarom is de AI Act gebaseerd op een risicogebaseerde aanpak?
Om verschillende niveaus van risico’s aan te pakken en passende regels toe te passen, afhankelijk van de potentiële impact van een AI-systeem.
Chapter 2 – Unraveling the European AI Act
Wat wordt beschouwd als “high-risk” AI volgens de AI Act?
AI-systemen die een hoog risico vormen voor de veiligheid, gezondheid of fundamentele rechten van mensen, zoals die in de gezondheidszorg, transport, of rechtshandhaving.
Chapter 2 – Unraveling the European AI Act
Welke soorten AI-toepassingen zijn verboden onder de AI Act?
AI-toepassingen die manipulatief zijn, kwetsbare groepen schaden, of fundamentele rechten schenden, zoals subliminale technieken om gedrag te beïnvloeden.
Chapter 2 – Unraveling the European AI Act
Wat is de definitie van een AI-systeem volgens de AI Act?
Een machine-gebaseerd systeem dat met een zekere mate van autonomie beslissingen kan nemen en outputs genereert zoals voorspellingen, aanbevelingen of beslissingen.
Chapter 2 – Unraveling the European AI Act
Wat is een ‘provider’ onder de AI Act?
Een entiteit die een AI-systeem ontwikkelt en onder eigen naam of merk op de markt brengt.
Chapter 2 – Unraveling the European AI Act
Wie is een ‘deployer’ in de context van de AI Act?
Een partij die een AI-systeem gebruikt in hun activiteiten of diensten.
Chapter 2 – Unraveling the European AI Act
Welke rol speelt een ‘distributeur’ in de AI Act?
Een tussenpersoon die een AI-systeem beschikbaar maakt op de markt tussen de provider en de deployer.
Chapter 2 – Unraveling the European AI Act
Wat is een ‘affected person’ onder de AI Act?
Personen die worden beïnvloed door het gebruik van een AI-systeem, of ze het nu direct gebruiken of niet.
Chapter 2 – Unraveling the European AI Act
Wat betekent het ‘materiële toepassingsgebied’ van de AI Act?
Het bepaalt welke AI-systemen onder de definitie van de AI Act vallen en gereguleerd worden als ze in de EU worden gebruikt of aangeboden.
Chapter 2 – Unraveling the European AI Act
Wat betekent het ‘geografische toepassingsgebied’ van de AI Act?
Het bepaalt dat de AI Act van toepassing is op elk AI-systeem dat in de EU wordt gebruikt, ongeacht waar het is ontwikkeld.
Chapter 2 – Unraveling the European AI Act
Welke rol speelt de Europese AI Office?
Het coördineert de uitvoering en handhaving van de AI Act in de hele EU.
Chapter 2 – Unraveling the European AI Act
Hoeveel titels heeft de AI Act?
De AI Act heeft 13 titels.
Chapter 2 – Unraveling the European AI Act
Wat zijn de vier transparantieverplichtingen onder de AI Act?
De AI Act vereist dat AI-systemen herkenbaar zijn, gebruikers geïnformeerd worden, uitleg mogelijk is, en duidelijke verantwoordelijkheden worden vastgesteld.
Chapter 2 – Unraveling the European AI Act
Welke AI-systemen worden beschouwd als “laag-risico”?
AI-systemen die weinig risico vormen voor de veiligheid of fundamentele rechten, zoals eenvoudige chatbots.
Chapter 2 – Unraveling the European AI Act
Wat is de ‘regulatory sandbox’ in de AI Act?
Een gecontroleerde omgeving waarin bedrijven AI-systemen kunnen testen onder toezicht van toezichthouders.
Chapter 2 – Unraveling the European AI Act
Hoe werkt de conformiteitsbeoordeling voor high-risk AI-systemen?
High-risk AI-systemen moeten worden beoordeeld door een aangewezen instantie voordat ze op de markt worden gebracht.
Chapter 2 – Unraveling the European AI Act
Wat is de EU Database voor High-Risk AI Systemen?
Een openbare database waarin alle high-risk AI-systemen in de EU worden geregistreerd.
Chapter 2 – Unraveling the European AI Act
Wat zijn enkele voorbeelden van ‘prohibited practices’ onder de AI Act?
Bijvoorbeeld AI-systemen die subliminale technieken gebruiken om het gedrag van mensen te manipuleren of uitbuiting van kwetsbare groepen.
Chapter 2 – Unraveling the European AI Act
Wat betekent ‘technische robuustheid’ in de context van de AI Act?
Het vermogen van een AI-systeem om veilig te functioneren, zelfs onder onverwachte omstandigheden.
Chapter 2 – Unraveling the European AI Act
Wat zijn de belangrijkste verantwoordelijkheden van een provider?
Het implementeren van risicobeheer, transparantie, kwaliteitsborging en naleving van de AI Act-vereisten.
Chapter 2 – Unraveling the European AI Act
Wie controleert de naleving van de AI Act op nationaal niveau?
Nationale toezichthoudende autoriteiten in elke EU-lidstaat.
Chapter 2 – Unraveling the European AI Act
Wat is de rol van de provider in het Al-systeem?
De provider brengt het Al-systeem op de markt onder zijn eigen merknaam.
Wie brengt het Al-systeem op de Europese markt?
De importeur is verantwoordelijk voor het op de Europese markt brengen van het Al-systeem.
Wat is de taak van een vertegenwoordiger in dit proces?
Een vertegenwoordiger vertegenwoordigt een derde partij’s Al-systeem zonder zelf een importeur te zijn.
Wat bepaalt de deplover in het Al-systeem?
De deployer bepaalt hoe het Al-systeem wordt gebruikt.
Wie wordt beschouwd als een ‘affected person’ in het Al-proces?
Personen die worden beïnvloed door het gebruik van het Al-systeem.
Wat omvat de term ‘distributeur’ in deze context?
Een distributeur is elke schakel in de keten van de provider naar de deplover.
Wat doet een provider met een Al-systeem volgens deze illustratie?
De provider brengt het Al-systeem op de markt onder zijn eigen naam.
Hoe verschilt een vertegenwoordiger van een importeur?
Een vertegenwoordiger brengt geen Al op de Europese markt, maar vertegenwoordigt een derde partij, terwijl een importeur dit wel doet.
Welke fase in het proces heeft direct invloed op personen?
De deplover heeft invloed op personen door te bepalen hoe het Al-systeem wordt gebruikt, wat gevolgen heeft voor de ‘affected persons’.
Wat is de functie van een importeur in het kader van het Al-systeem?
Een importeur is verantwoordelijk voor het op de Europese markt brengen van het Al-systeem.
Wat is de eerste vraag in het beslissingsproces voor high-risk Al?
Of Al een veiligheidscomponent is van gereguleerde producten.
Voorbeeldzin of extra informatie
Welke EU-richtlijnen worden genoemd voor gereguleerde producten?
Richtlijnen voor machines, liften, hogedruksystemen, medische apparaten, vliegtuigen, treinen, motorvoertuigen, bikes, etc.
Voorbeeldzin of extra informatie
Wat gebeurt er als Al een veiligheidscomponent is van gereguleerde producten?
Het Al-systeem wordt als high risk beschouwd.
Voorbeeldzin of extra informatie
Als het Al-systeem geen veiligheidscomponent is van een gereguleerd product, welke vraag wordt dan gesteld?
Of het systeem profiling uitvoert.
Voorbeeldzin of extra informatie
Wat gebeurt er als een Al-systeem profilering uitvoert?
Het wordt geclassificeerd als high-risk.
Voorbeeldzin of extra informatie
Wat gebeurt er als een Al-systeem geen profilering uitvoert?
Er wordt gecontroleerd of de use case op de high-risk lijst (Annex III) staat.
Voorbeeldzin of extra informatie
Als een use case op de high-risk lijst staat, welke vraag wordt dan gesteld?
Of het gebruik van Al puur accessoir is aan de use case.
Voorbeeldzin of extra informatie
Wanneer wordt Al als ‘not high risk’ beschouwd?
Als de use case niet op de high-risk lijst staat of als het gebruik van Al puur accessoir is aan de use case.
Voorbeeldzin of extra informatie
Wat is een voorbeeld van een high-risk Al toepassing volgens de lijst in de illustratie?
Remote biometrische identificatie en emotieherkenning.
Voorbeeldzin of extra informatie
Wat zijn de kenmerken van een Al-systeem dat niet als high-risk wordt beschouwd?
Het Al-systeem voert alleen een beperkte procedurele taak uit, verbetert alleen het resultaat van menselijk werk, detecteert alleen afwijkingen in besluitvormingspatronen, of voert alleen een voorbereidende taak uit.
Voorbeeldzin of extra informatie
