AI Chapter 3 Reinforcing Human Agency and Oversight in AI Flashcards
Wat is de rol van menselijke autonomie in AI-systemen?
Menselijke autonomie verwijst naar het vermogen van mensen om zelf keuzes te maken en controle te behouden over AI-systemen, in plaats van blindelings afhankelijk te zijn van hun beslissingen
Voorbeeldzin: Mensen kunnen besluiten om de aanbevelingen van een AI-systeem te negeren en hun eigen keuzes te maken.
Wat is het belang van feedbackloops in mens-AI-interactie?
Feedbackloops stellen mensen in staat om AI-systemen te leren van hun fouten, waardoor hun prestaties en betrouwbaarheid worden verbeterd
Voorbeeldzin: Door regelmatige feedback kunnen AI-systemen hun algoritmen aanpassen om nauwkeurigere resultaten te produceren.
Wat betekent over-reliance op AI?
Over-reliance is wanneer mensen te veel vertrouwen op AI-systemen, zelfs als deze systemen foutieve beslissingen nemen
Voorbeeldzin: Over-reliance kan leiden tot verlies van menselijke controle over besluitvorming en acties.
Wat zijn de gevolgen van over-reliance op AI in de medische sector?
Artsen kunnen te afhankelijk worden van AI-diagnoses, waardoor ze hun eigen expertise en beoordelingsvermogen niet langer vertrouwen
Voorbeeldzin: Over-reliance op AI in de medische sector kan leiden tot vertragingen in de juiste diagnose en behandeling van patiënten.
Waarom is het belangrijk om bewustzijn te creëren over over-reliance?
Het bewustzijn helpt gebruikers kritischer te zijn bij het interpreteren van AI-beslissingen en voorkomt dat ze blindelings de AI volgen
Voorbeeldzin: Bewustzijn over over-reliance kan gebruikers helpen om de grenzen van AI te begrijpen en hun eigen oordeel te behouden.
Hoe kan over-reliance worden verminderd?
Door het bieden van transparante verklaringen en het stimuleren van menselijke controle en besluitvorming
Voorbeeldzin: Het vergroten van transparantie in AI-systemen kan gebruikers helpen om de beslissingen van het systeem beter te begrijpen en te vertrouwen.
Wat is een voorbeeld van over-reliance in AI-gestuurde navigatiesystemen?
Mensen volgen GPS-routes blindelings, zelfs als deze hen naar gevaarlijke of verkeerde locaties leiden
Voorbeeldzin: Over-reliance op GPS-navigatie kan leiden tot onbedoelde omwegen en gevaarlijke situaties.
Hoe kan over-reliance de besluitvorming in de financiële sector beïnvloeden?
Het kan leiden tot ongecontroleerde handel op basis van AI, wat marktschommelingen en financiële instabiliteit kan veroorzaken
Voorbeeldzin: Over-reliance op AI in de financiële sector kan leiden tot onvoorspelbare marktreacties en risicovolle investeringen.
Wat betekent onder-reliance bij het gebruik van AI?
Onder-reliance treedt op wanneer mensen de suggesties van AI-systemen negeren, zelfs wanneer ze correct zijn
Voorbeeldzin: Onder-reliance kan leiden tot gemiste kansen en inefficiënte besluitvorming in situaties waar AI waardevolle inzichten kan bieden.
Hoe kunnen menselijke biases bijdragen aan over-reliance op AI?
Mensen kunnen veronderstellen dat AI altijd objectief en correct is, wat kan leiden tot blind vertrouwen zonder kritisch denken
Voorbeeldzin: Vooroordelen over de betrouwbaarheid van AI kunnen leiden tot een ongegrond vertrouwen in de beslissingen van AI-systemen.
Wat is de impact van AI-explainability op over-reliance?
Te eenvoudige of complexe verklaringen van AI-beslissingen kunnen leiden tot blind vertrouwen of volledige afwijzing van de AI-uitkomst
Voorbeeldzin: Onvoldoende uitleg over AI-beslissingen kan gebruikers in verwarring brengen of hun vertrouwen in de AI ondermijnen.
Hoe beïnvloedt de opkomst van autonome systemen de menselijke autonomie?
Autonome systemen verminderen vaak menselijke autonomie door beslissingen te nemen zonder menselijke tussenkomst, wat kan leiden tot over-reliance en verlies van kritische denkvaardigheden
Voorbeeldzin: De opkomst van autonome voertuigen kan leiden tot afnemende vaardigheden en vertrouwen van bestuurders in hun eigen rijvaardigheden.
Hoe kan training de risico’s van over-reliance op AI verminderen?
Training stelt gebruikers in staat om de beperkingen van AI te begrijpen en ontwikkelt hun vermogen om kritische beoordelingen te maken
Voorbeeldzin: Door regelmatige training kunnen gebruikers hun begrip van AI verbeteren en hun vermogen om de output van AI-systemen te evalueren versterken.
Hoe beïnvloeden sociale AI-systemen menselijke emoties en gedrag?
Ze kunnen emoties zoals empathie of vertrouwen opwekken, wat kan leiden tot sterke emotionele bindingen
Voorbeeldzin: Sociale AI-systemen kunnen gebruikers een gevoel van verbondenheid en vertrouwen geven, wat hun interactie met het systeem kan versterken.
Wat is de rol van menselijke binding in de interactie met sociale AI-systemen?
Menselijke binding kan leiden tot overmatige afhankelijkheid en manipulatie, wat ethische problemen veroorzaakt
Voorbeeldzin: Sterke emotionele binding met een sociale AI kan leiden tot beïnvloeding van beslissingen en gedrag zonder kritische evaluatie.
Hoe kunnen AI-systemen emotionele manipulatie vermijden?
Door transparantie en duidelijke communicatie over de niet-menselijke aard van het systeem
Voorbeeldzin: AI-systemen moeten gebruikers informeren over de beperkingen en doelen van het systeem om misbruik van emotionele manipulatie te voorkomen.
Wat zijn de risico’s van gehechtheid aan AI-systemen?
Mensen kunnen emotioneel afhankelijk
Voorbeeldzin: Overmatige gehechtheid aan AI-systemen kan leiden tot sociaal isolement en verminderde menselijke interactie.
matige afhankelijkheid en manipulatie, wat ethische problemen veroorzaakt
Sociale Interactie en Mens-AI Binding
Hoe kunnen AI-systemen emotionele manipulatie vermijden?;Door transparantie en duidelijke communicatie over de niet-menselijke aard van het systeem
Voorbeeldzin: AI-systemen moeten transparant zijn over hun besluitvormingsproces om emotionele manipulatie te voorkomen.
Wat houdt “Human-in-the-loop” in?
Het betekent dat een mens actief deelneemt aan het beslissingsproces van een Al-systeem en de uiteindelijke beslissingen neemt.
Voorbeeldzin: Een Al kan een diagnose voorstellen, maar een arts neemt de uiteindelijke beslissing.
Wat is een voorbeeld van “Human-on-the-loop” in een medische context?
Een Al kan een diagnose voorstellen, maar een arts neemt de uiteindelijke beslissing.
Hoe verschilt “Human-on-the-loop” van “Human-in-the-loop”?
Bij “Human-on-the-loop” opereert de Al autonoom, maar een mens houdt toezicht en kan indien nodig ingrijpen.
In welke situaties is “Human-on-the-loop” geschikt?
Voor toepassingen waar snelle en complexe berekeningen nodig zijn, zoals autonome voertuigen of Al die vitale functies van patiënten bewaakt.
Wat betekent “Human-in-command”?
De Al voert alleen acties uit die expliciet door een mens worden goedgekeurd, en alle belangrijke beslissingen worden door een mens genomen.
Wat is een voorbeeld van een “Human-in-command” scenario?
Een Al die een chirurg ondersteunt tijdens een operatie, maar geen acties autonoom uitvoert zonder toestemming van de chirurg.
Wat is een belangrijk kenmerk van een “Human-out-of-the-loop” systeem?
Het systeem opereert volledig autonoom zonder menselijke tussenkomst of toezicht.
Wat is een potentieel risico van “Human-out-of-the-loop” systemen?
Gebrek aan verantwoordelijkheid en controle, vooral als het systeem onverwacht gedrag vertoont.
In welke toepassingen zou “Human-in-command” nuttig zijn?
In toepassingen met hoge risico’s, zoals nucleaire energiebeheer, luchtvaart, of complexe chirurgische procedures.
Welke van de volgende modellen biedt de hoogste mate van menselijke controle over een Al-systeem: “Human-in-the-loop”, “Human-on-the-loop” of “Human-out-of-the-loop”?
“Human-in-the-loop” biedt de hoogste mate van menselijke controle, omdat mensen actief deelnemen aan elke beslissing.
