AI Flashcards
Hvad er de største udfordringer med AI i sundhedsvæsenet og hvordan løses de?
: På baggrund af en status opgørelse på de tidligere signaturprojektet blev der identificeret udfordringer ved 7 områder, herunder; Data, infrastruktur, jura, Dataetik, Organisering, Leverandører, Kompetencer.
Data: omhandler mængden, kvalitten og unøjagtige eller inkonsekvente data. Løsning er at inkludere flere borgere, udvide respondentgruppen, samarbejde med eksperter for at forbedre kvaliteten og ensartetheden af data og automatiseringsparat sagsbehandling.
Infrastuktur: nuværende infrastruktur udfordrer adgang til data og dataudveksling. Der anbefaldes at anvende API for at forsøge at undgå denne udfordring.
Jura: GDPR besværliggør anvendelse af data, og dette bør der tages forebehold for tidiglt, for at undesøge om data kan anonymiseres. Evt. anbefalder MedCom at bruge federatedet learning, hvor algoritmen optrænes lokalt hvor data er lagret. Yderligere kontakt til et juridisk kontor vil hurtigøre evt. processor eller spg.
Dataetik: Minimere forekomsten af bias og bevare autonomi. Dette gøres ved at sikre transparens for algoritmerne. Afholde workshops til at fortælle om vigtigheden af at forholde sig kritisk. Evt. søge hjælp fra væktøjer for afprøvning af AI (ALTAI, DDC, Dataetisk råds samkøringsværktøj)
Hvad er erfaringer hos tidligere ai projekter?
- Optræning af data er besværligt ved nuværnde infrastruktur, hvor der er behov for at fastsætte retninglinjer, da folk fortolker de juridiske rammer forselligt.
- Mangel på private leverandører med relevante kompentecer vedr, udvikling af AI.
- Der opstår forskellige udfordringer under en AI levetid. GDPR og manglende infrastuktur i starten. Manglende kompentencer ved udvikling og implementering.
- Erfaringer fra tidligere pojekter har gavnet meget, hvorfor der lægges op til at opsamle relevante erfaringer med ny teknologi
Hvad er nogle værktøjer for til at evaluere en AI?
- ALTAI: ALTAI står for Assesment list for trustworthy AI og er udarbejdet af ekspert gruppen for AI som er oprettet af EU-kommissionen. Værktøjet skal sikre at brugere får gavn af AI foruden at blive udsat for unødvendige risikoer. Dette værktøj består af syv nøgle krav til AI (Assessment List for Trustworthy Artificial Intelligence (ALTAI) for self-assessment | Shaping Europe’s digital future (europa.eu))
* menneskelig handlekraft og tilsyn
* teknisk robusthed og sikkerhed
* privatliv og databeskyttelse
* transparens
* diversitet, ikke-diskrimination og retfærdighed
* miljømæssig og samfundsmæssig trivsel
* ansvarlighed
DDC: Står for det digitale etikkompas og skal hjælpe virksomheder med at træffe de rigtige designetiske beslutninger. Dette værktøj består af en etiknagivator, som har 22 spørgsmål omhandlende adfærdsdegin, automatisering og data, hvor de centrale er at mennesket er i centrum. Hvor særdeles spg berørende adfærdsdesign vil være relevant for vores speciale. Så består værktøjet også af et videnskort, som forklarer de etiske spg. Fra etik navigatoren, og kommer med anbefalinger og eksempler på gode og dårlige etiske designløsninger. (DDC – Danish Design Center | Værktøjskasse: Det Digitale Etikkompas)
* Obs der stå blandt andet at der anbefaledes at man forsøger at undlade at bruger lange tekster, og heller skal dele dem op.
Dataetisk råds samkøringsværktøj, er en fem trins guide somvirksomheder kan bruge til at komme i gang med at arbejde med dataetik. (Dataetik – Sådan gør du | Nationalt Center for Etik)
* Trin 1: Identificer hvordan du håndterer data i dit projekt, og hvad dit overordnede formål er
* Trin 2: Analysér hvilke hensyn der taler for og imod din databehandling
* Trin 3: Afvej modstående hensyn
* Trin 4: Beslut hvilke hensyn der vejer tungest
* Trin 5: Evaluer de dataetiske konsekvenser løbende
Hvad er nogle etiske elementer der er vigtigt at tage forbehold ved AI?
4 elementer if EU-kommissionen: Respekt for menneskelig autonomi, forebyggelse af skader, Farihed, Forklarlighed
- Respekt for menneskelig autonomi omhandler at AI skal designes til at forstærke, supplere og styrke menneskers kognitive, sociale og kulturelle færdigheder
- Forebyggelse af skader omhandler at undgå at AI påvirker mennesker negativt
- Farihed omhandler at AI skal være fri for unfair bias, diskrimination og stigmatisering
- Forklarlighed omhandler at AI baserede beslutninger skal kunne forklares for dem, der påvirkes direkte og indirekte.
Hvad er nogle juridiske elementer der bør tages forbehold for ved AI?
Der eksisterer ingen specifik EU-lovgivning til regulering af AI. Udviklingen, implementeringen og brugen af AI er underlagt forskellige generelle love og regler. EU har foreslået en juridisk ramme for kunstig intelligens (AI), der adresserer grundlæggende rettigheder og sikkerhedsrisici specifikke for AI-systemer. Rammen giver en klar og letforståelig tilgang baseret på fire forskellige risikoniveauer: uacceptabel risiko, høj risiko, begrænset risiko og minimal risiko.
De fleste af disse tilgange henvender sig til høj risiko, hvor de beskriver at der ikke bør anvendes AI ved uacceptabel risiko.
Hvad definere høj risiko AI?
Høj risiko: EU definerer AI med høj risiko som AI-systemer, der anvendes inden for kritisk infrastruktur såsom Sundhedsvæsen. Disse AI-systemer er underlagt strenge forpligtelser, inden de kan markedsføres. Disse forpligtelser omfatter
* risikovurderings- og risikohåndteringssystemer,
* brug af kvalitetsdatasæt for at minimere risici og diskriminerende resultater,
* logning af aktivitet for at sikre sporbarhed af resultater,
* detaljeret dokumentation, der giver alle nødvendige oplysninger om systemet og dets formål, så myndighederne kan vurdere overensstemmelse,
* klar og tilstrækkelig information til brugeren.
EU’s AI-forordning kræver også, at AI og datadrevne systemer, produkter og tjenester med høj risiko overholder EU-standarder, herunder sikkerheds- og overholdelsesvurderinger.
Hvornår er en XUI klar til implementering?
Man kan vurdere, om en XUI er klar til implementering, når den opfylder de foruddefinerede krav og mål, er blevet grundigt testet og evalueret, og når brugerfeedback og eventuelle fejl er blevet adresseret og rettet. Der bør også være tilstrækkelig støtte fra interessenter og det organisatoriske miljø til at implementere og vedligeholde XUI’en. Endelig er en vurdering af omkostninger, ressourcer og tidsrammer også vigtig for at afgøre, om implementeringen er realistisk og økonomisk forsvarlig.
Hvorfor kan en forklaring kan medvirke til at øge brugernes tillid og så de mere effektivt kan styre AI-systemer
En forklaring kan øge tillid hos brugerne og støtte effektiv brug af AI-beslutningssystemer ved at skabe transparens, muliggøre fejlfinding, opbygge tillid til sikkerhed og fortrolighed samt give brugerne mulighed for at træffe informerede beslutninger baseret på deres forståelse af systemet.
Hvordan kan det være at en forklaring kan medvirke til at øge brugernes tillid og så de mere effektivt kan styre AI-systemer?
En forklaring kan øge tilliden hos brugere og støtte effektiv brug af AI-beslutningssystemer ved at skabe gennemsigtighed, etablere ansvarlighed, anvende brugercentreret design og fremme effektiv brug af systemet. Dette sker ved at give brugerne indsigt i systemets beslutningsprocesser, begrænsninger og risici samt ved at levere en forklaring, der er tilpasset brugerens behov og hjælper dem med at udnytte systemet optimalt.
Hvorfor kan det være at sygeplejersker og læger har forskellige præferencer til indholdet i en XUI?
Det kan helt klart have noget at gøre med deres ansvar forhold og arbejdsopgaver. Læger er ofte fokuseret på at diagnosticere og tilpasse behandlingsplaner, hvor det kan være relevant med mere dynamiske forklaringer, hvor de evt. kan sammenligne data på tværs af forskellige differential diagnoser for exacerbationer. Hvorimod sygeplejesker ofte har brug for konkrete og evidensbaserede retningslinjer de kan forholde sig til, hvorfor det ikke nødvendigvis er relevant for dem at udforske andre muligheder i deres daglige dag, men kun validere outputtet. Ligeledes kan personalet øgede fokus på borgeren, medvirke til at det ikke vil være forklaringerne det vil være styrende bor beslutningen, men den efterfølgende kontakt til borgeren, hvorfor de måske ikke har samme behov som lægerne der er mere medicinsk orienterede.
Hvad er vigtigt at tage forbehold for ved udvikling af en XUI?
- Klare og forståelige forklaringer
- Tilpasning til konteksten
- Bruger centeret design
- Og så siges det at visuel og interaktiv præsentation er generelt nødvendig, dog henvender ingen af disse studier sig til monitorerings kontekster, hvorfor det er ikke helt sikkert at dette ligeledes er vigtigt.
- Sidst men ikke mindst evaluering og iterationer
