AI Chapter 2 - `Unraveling the European AI Act Flashcards
Waarom heeft de EU besloten om AI te reguleren?
Vanwege ethische en maatschappelijke zorgen over de impact van AI op veiligheid, mensenrechten, en mogelijke discriminatie.
Chapter 2 – Unraveling the European AI Act
Wat is de Digital Decade 2030-strategie van de EU?
Een strategie van de EU om de economie en samenleving te digitaliseren, waarvan de AI Act deel uitmaakt.
Chapter 2 – Unraveling the European AI Act
Wat zijn de drie doelen van de AI-strategie van de EU?
Technologische en industriële capaciteit vergroten, modernisering van onderwijs en training bevorderen, en een ethisch en juridisch kader voor AI vaststellen.
Chapter 2 – Unraveling the European AI Act
Wat is het belangrijkste doel van de Europese AI Act?
Het creëren van een juridisch kader voor het verantwoord gebruik en de ontwikkeling van AI in Europa.
Chapter 2 – Unraveling the European AI Act
Welke organisatie werd door de Europese Commissie opgericht om de ontwikkeling van AI-beleid te ondersteunen?
De High-Level Expert Group on AI (HLEG).
Chapter 2 – Unraveling the European AI Act
Wat is de belangrijkste bijdrage van de HLEG aan AI-regulering?
De Ethics Guidelines for Trustworthy AI, die een kader bieden voor ethische AI.
Chapter 2 – Unraveling the European AI Act
Wat zijn de vier kernprincipes van betrouwbare AI zoals genoemd door de HLEG?
Respect voor menselijke autonomie, voorkomen van schade, rechtvaardigheid, en verklaarbaarheid.
Chapter 2 – Unraveling the European AI Act
Waarom is de AI Act gebaseerd op een risicogebaseerde aanpak?
Om verschillende niveaus van risico’s aan te pakken en passende regels toe te passen, afhankelijk van de potentiële impact van een AI-systeem.
Chapter 2 – Unraveling the European AI Act
Wat wordt beschouwd als “high-risk” AI volgens de AI Act?
AI-systemen die een hoog risico vormen voor de veiligheid, gezondheid of fundamentele rechten van mensen, zoals die in de gezondheidszorg, transport, of rechtshandhaving.
Chapter 2 – Unraveling the European AI Act
Welke soorten AI-toepassingen zijn verboden onder de AI Act?
AI-toepassingen die manipulatief zijn, kwetsbare groepen schaden, of fundamentele rechten schenden, zoals subliminale technieken om gedrag te beïnvloeden.
Chapter 2 – Unraveling the European AI Act
Wat is de definitie van een AI-systeem volgens de AI Act?
Een machine-gebaseerd systeem dat met een zekere mate van autonomie beslissingen kan nemen en outputs genereert zoals voorspellingen, aanbevelingen of beslissingen.
Chapter 2 – Unraveling the European AI Act
Wat is een ‘provider’ onder de AI Act?
Een entiteit die een AI-systeem ontwikkelt en onder eigen naam of merk op de markt brengt.
Chapter 2 – Unraveling the European AI Act
Wie is een ‘deployer’ in de context van de AI Act?
Een partij die een AI-systeem gebruikt in hun activiteiten of diensten.
Chapter 2 – Unraveling the European AI Act
Welke rol speelt een ‘distributeur’ in de AI Act?
Een tussenpersoon die een AI-systeem beschikbaar maakt op de markt tussen de provider en de deployer.
Chapter 2 – Unraveling the European AI Act
Wat is een ‘affected person’ onder de AI Act?
Personen die worden beïnvloed door het gebruik van een AI-systeem, of ze het nu direct gebruiken of niet.
Chapter 2 – Unraveling the European AI Act
Wat betekent het ‘materiële toepassingsgebied’ van de AI Act?
Het bepaalt welke AI-systemen onder de definitie van de AI Act vallen en gereguleerd worden als ze in de EU worden gebruikt of aangeboden.
Chapter 2 – Unraveling the European AI Act
Wat betekent het ‘geografische toepassingsgebied’ van de AI Act?
Het bepaalt dat de AI Act van toepassing is op elk AI-systeem dat in de EU wordt gebruikt, ongeacht waar het is ontwikkeld.
Chapter 2 – Unraveling the European AI Act
Welke rol speelt de Europese AI Office?
Het coördineert de uitvoering en handhaving van de AI Act in de hele EU.
Chapter 2 – Unraveling the European AI Act
Hoeveel titels heeft de AI Act?
De AI Act heeft 13 titels.
Chapter 2 – Unraveling the European AI Act
Wat zijn de vier transparantieverplichtingen onder de AI Act?
De AI Act vereist dat AI-systemen herkenbaar zijn, gebruikers geïnformeerd worden, uitleg mogelijk is, en duidelijke verantwoordelijkheden worden vastgesteld.
Chapter 2 – Unraveling the European AI Act
Welke AI-systemen worden beschouwd als “laag-risico”?
AI-systemen die weinig risico vormen voor de veiligheid of fundamentele rechten, zoals eenvoudige chatbots.
Chapter 2 – Unraveling the European AI Act
Wat is de ‘regulatory sandbox’ in de AI Act?
Een gecontroleerde omgeving waarin bedrijven AI-systemen kunnen testen onder toezicht van toezichthouders.
Chapter 2 – Unraveling the European AI Act
Hoe werkt de conformiteitsbeoordeling voor high-risk AI-systemen?
High-risk AI-systemen moeten worden beoordeeld door een aangewezen instantie voordat ze op de markt worden gebracht.
Chapter 2 – Unraveling the European AI Act
Wat is de EU Database voor High-Risk AI Systemen?
Een openbare database waarin alle high-risk AI-systemen in de EU worden geregistreerd.
Chapter 2 – Unraveling the European AI Act
Wat zijn enkele voorbeelden van ‘prohibited practices’ onder de AI Act?
Bijvoorbeeld AI-systemen die subliminale technieken gebruiken om het gedrag van mensen te manipuleren of uitbuiting van kwetsbare groepen.
Chapter 2 – Unraveling the European AI Act
Wat betekent ‘technische robuustheid’ in de context van de AI Act?
Het vermogen van een AI-systeem om veilig te functioneren, zelfs onder onverwachte omstandigheden.
Chapter 2 – Unraveling the European AI Act
Wat zijn de belangrijkste verantwoordelijkheden van een provider?
Het implementeren van risicobeheer, transparantie, kwaliteitsborging en naleving van de AI Act-vereisten.
Chapter 2 – Unraveling the European AI Act
Wie controleert de naleving van de AI Act op nationaal niveau?
Nationale toezichthoudende autoriteiten in elke EU-lidstaat.
Chapter 2 – Unraveling the European AI Act
Welke sancties kunnen worden opgelegd bij niet-naleving van de AI Act?
Hoge administratieve boetes die vergelijkbaar zijn met de GDPR.
Chapter 2 – Unraveling the European AI Act
Wat is het belang van menselijke supervisie in de AI Act?
Om ervoor te zorgen dat AI-systemen geen autonome beslissingen nemen die schadelijk zijn voor mensen.
Chapter 2 – Unraveling the European AI Act
Waarom is gegevensbeheer belangrijk onder de AI Act?
Omdat het ervoor zorgt dat de gegevens die door AI-systemen worden gebruikt, nauwkeurig, veilig en niet discriminerend zijn.
Chapter 2 – Unraveling the European AI Act
Hoe draagt de AI Act bij aan innovatie?
Door innovatievriendelijke maatregelen zoals de regulatory sandbox in te voeren.
Chapter 2 – Unraveling the European AI Act
Wat zijn algemene AI-modellen volgens de AI Act?
AI-systemen die voor meerdere toepassingen kunnen worden gebruikt.
Chapter 2 – Unraveling the European AI Act
Waarom is transparantie een cruciaal onderdeel van de AI Act?
Zodat gebruikers begrijpen dat ze met een AI-systeem te maken hebben en hoe het hun keuzes beïnvloedt.
Chapter 2 – Unraveling the European AI Act
Hoe beschermt de AI Act de fundamentele rechten van burgers?
Door strikte regels te stellen voor high-risk en verboden AI-toepassingen.
Chapter 2 – Unraveling the European AI Act
Wat is het verschil tussen een provider en een distributeur?
Een provider ontwikkelt en verkoopt een AI-systeem, terwijl een distributeur dit systeem beschikbaar maakt zonder het te wijzigen.
Chapter 2 – Unraveling the European AI Act
Welke invloed heeft de AI Act op niet-EU-landen?
De AI Act is van toepassing op elk AI-systeem dat wordt gebruikt in de EU, ongeacht waar het wordt ontwikkeld.
Chapter 2 – Unraveling the European AI Act
Wat wordt verstaan onder ‘veiligheidsrisico’s’ van een AI-systeem?
Potentiële bedreigingen voor de fysieke of digitale veiligheid van mensen.
Chapter 2 – Unraveling the European AI Act
Hoe wordt de AI Act aangepast aan toekomstige technologische ontwikkelingen?
De Europese Commissie kan gedelegeerde handelingen gebruiken om de AI Act bij te werken.
Chapter 2 – Unraveling the European AI Act
Hoe wordt een AI-systeem in de praktijk geclassificeerd als high-risk?
Aan de hand van specifieke criteria en conformiteitsbeoordelingen.
Chapter 2 – Unraveling the European AI Act
Welke rol spelen ethische principes in de AI Act?
Ze vormen de basis voor de regels en voorschriften voor betrouwbare AI.
Chapter 2 – Unraveling the European AI Act
Hoe moeten providers omgaan met incidenten met AI-systemen?
Ze moeten ernstige incidenten melden aan de toezichthoudende autoriteit.
Chapter 2 – Unraveling the European AI Act
Hoe worden ‘algoritmische vooroordelen’ aangepakt in de AI Act?
Door eisen te stellen aan gegevensbeheer en transparantie om discriminatie te voorkomen.
Chapter 2 – Unraveling the European AI Act
Wat is een voorbeeld van een ‘maatregel ter ondersteuning van innovatie’ in de AI Act?
De regulatory sandbox.
Chapter 2 – Unraveling the European AI Act
Hoe draagt de AI Act bij aan consumentenbescherming?
Door regels te stellen voor AI-systemen die een impact hebben op de rechten, veiligheid en privacy van consumenten, en door transparantie-eisen te stellen aan de werking van deze systemen.
Chapter 2 – Unraveling the European AI Act
Wat is het doel van de AI Compliance Officer volgens de AI Act?
De AI Compliance Officer is verantwoordelijk voor het waarborgen dat een organisatie voldoet aan de AI Act en voor het toezicht houden op de naleving van de wetgeving binnen de organisatie.
Chapter 2 – Unraveling the European AI Act
Hoe behandelt de AI Act privacykwesties in AI-systemen?
Door te eisen dat AI-systemen voldoen aan gegevensbeschermingswetten, zoals de GDPR, en door het implementeren van privacy-by-design en data-minimalisatieprincipes.
Chapter 2 – Unraveling the European AI Act
Welke rol spelen belanghebbenden in de implementatie van de AI Act?
Antwoord: Belanghebbenden, waaronder bedrijven, overheden, en de samenleving, zijn betrokken bij het ontwikkelen, naleven en handhaven van de regelgeving rond AI-systemen.
Chapter 2 – Unraveling the European AI Act
Wat is de relatie tussen de AI Act en andere EU-wetgeving, zoals de GDPR?
De AI Act werkt complementair aan bestaande wetgeving zoals de GDPR, en zorgt voor aanvullende regels specifiek gericht op AI, terwijl de bescherming van persoonsgegevens en fundamentele rechten worden gewaarborgd.
Chapter 2 – Unraveling the European AI Act
Hoe ondersteunt de AI Act de ontwikkeling van verantwoordelijke AI in de publieke sector?
Door richtlijnen te bieden voor de toepassing van ethische AI en door specifieke regels te stellen voor het gebruik van AI in publieke diensten om transparantie en verantwoord gebruik te waarborgen.
Chapter 2 – Unraveling the European AI Act
Wat is de rol van de provider in het Al-systeem?
De provider brengt het Al-systeem op de markt onder zijn eigen merknaam.
Wie brengt het Al-systeem op de Europese markt?
De importeur is verantwoordelijk voor het op de Europese markt brengen van het Al-systeem.
Wat is de taak van een vertegenwoordiger in dit proces?
Een vertegenwoordiger vertegenwoordigt een derde partij’s Al-systeem zonder zelf een importeur te zijn.
Wat bepaalt de deplover in het Al-systeem?
De deployer bepaalt hoe het Al-systeem wordt gebruikt.
Wie wordt beschouwd als een ‘affected person’ in het Al-proces?
Personen die worden beïnvloed door het gebruik van het Al-systeem.
Wat omvat de term ‘distributeur’ in deze context?
Een distributeur is elke schakel in de keten van de provider naar de deplover.
Wat doet een provider met een Al-systeem volgens deze illustratie?
De provider brengt het Al-systeem op de markt onder zijn eigen naam.
Hoe verschilt een vertegenwoordiger van een importeur?
Een vertegenwoordiger brengt geen Al op de Europese markt, maar vertegenwoordigt een derde partij, terwijl een importeur dit wel doet.
Welke fase in het proces heeft direct invloed op personen?
De deplover heeft invloed op personen door te bepalen hoe het Al-systeem wordt gebruikt, wat gevolgen heeft voor de ‘affected persons’.
Wat is de functie van een importeur in het kader van het Al-systeem?
Een importeur is verantwoordelijk voor het op de Europese markt brengen van het Al-systeem.
Wat is de eerste vraag in het beslissingsproces voor high-risk Al?
Of Al een veiligheidscomponent is van gereguleerde producten.
Voorbeeldzin of extra informatie
Welke EU-richtlijnen worden genoemd voor gereguleerde producten?
Richtlijnen voor machines, liften, hogedruksystemen, medische apparaten, vliegtuigen, treinen, motorvoertuigen, bikes, etc.
Voorbeeldzin of extra informatie
Wat gebeurt er als Al een veiligheidscomponent is van gereguleerde producten?
Het Al-systeem wordt als high risk beschouwd.
Voorbeeldzin of extra informatie
Als het Al-systeem geen veiligheidscomponent is van een gereguleerd product, welke vraag wordt dan gesteld?
Of het systeem profiling uitvoert.
Voorbeeldzin of extra informatie
Wat gebeurt er als een Al-systeem profilering uitvoert?
Het wordt geclassificeerd als high-risk.
Voorbeeldzin of extra informatie
Wat gebeurt er als een Al-systeem geen profilering uitvoert?
Er wordt gecontroleerd of de use case op de high-risk lijst (Annex III) staat.
Voorbeeldzin of extra informatie
Als een use case op de high-risk lijst staat, welke vraag wordt dan gesteld?
Of het gebruik van Al puur accessoir is aan de use case.
Voorbeeldzin of extra informatie
Wanneer wordt Al als ‘not high risk’ beschouwd?
Als de use case niet op de high-risk lijst staat of als het gebruik van Al puur accessoir is aan de use case.
Voorbeeldzin of extra informatie
Wat is een voorbeeld van een high-risk Al toepassing volgens de lijst in de illustratie?
Remote biometrische identificatie en emotieherkenning.
Voorbeeldzin of extra informatie
Wat zijn de kenmerken van een Al-systeem dat niet als high-risk wordt beschouwd?
Het Al-systeem voert alleen een beperkte procedurele taak uit, verbetert alleen het resultaat van menselijk werk, detecteert alleen afwijkingen in besluitvormingspatronen, of voert alleen een voorbereidende taak uit.
Voorbeeldzin of extra informatie
