Module 2C - AI in de Rechtspraak

Question 1

Welke vraag stelt Richard Susskind?

Answer 1

• “Is court a service or a place” in zijn nieuw boek: pleit voor inzet van digitale technologieën om het probleem van de gebrekkige toegang tot het recht aan te pakken.
  
  • Veel te lang, duur en onbegrijpelijk.
• Voor de modernisering van justitie vormt digitalisering van de informatieprocessen is een eerste, cruciale stap: online brieven, stukkenbundels,…

Question 2

Welk onderscheid moeten we maken bij algoritmes die we gebruiken in de rechtspraak?

Answer 2

1. Versterking van de bedrijfsvoering: de organisatie en het management van de rechtspraak
2. Rechterlijke oordeelsvorming:
   
   1. ​Algoritmes die ondersteunen
   2. Algoritmes die de rechterlijke beslissing vervangen

Question 3

Algoritmische managers die helpen bij de rechtbank?

Answer 3

• Om organisatie van rechtbanken te verbeteren: zaakstromen beheren en monitoren:
  
  • Toewijzing en verdeling zaken
  • Inroosteren en plannen zittingen
  • Identificeren van procedures waarin eenzelfde persoon een rol speelt → als procedures tegelijk aanhangig zijn = samenvoegen
  • Anonimiseren van uitspraken

Question 4

Algoritmische rechters?

Answer 4

• Systemen voor beslissingsondersteuning leveren informatie die de rechter gebruikt bij het nemen van zijn of haar beslissing in een concrete zaak:
  
  • Relevante wetgeving en jurisprudentie
  • Informatie betrekking op feitencomplex
• Informatie betrekking op feitencomplex

Question 5

Hoe gebruikt de magistratuur in de US algoritmische rechters?

Answer 5

Daar maken rechters bijvoorbeeld gebruik van het Public Safety Assessment (PSA) systeem bij het oordelen over de voorlopige hechtenis van een verdachte

Question 6

Wat was het pilootproject in Nederland met een algoritme als deskundige?

Answer 6

• Pilootproject in Nederland met een zelflerend algoritme via topic modelling om zo de relevante verbanden te identificeren.
  
  • Zo een digitaal dossier aan de rechter geven van eerdere uitspraken en wetgeving.

Question 7

Hebben robotrechters potentieel?

Answer 7

• Mogelijk wel in eenvoudige zaken: uitkomst rechtstreeks bepalen zonder menselijke toekomst: dit zou helpen om de gerechtelijke achterstand weg te werken:
  
  • Heel omstreden maar wel veel vooruitgang

Question 8

Wat is ODR

Answer 8

• Online Dispute Resolution: meer en meer om beslissingen te automatiseren.
• Grote online bedrijven, zoals eBay en Alibaba, hebben hun eigen systeem ontwikkeld om snel en efficiënt geschillen tussen kopers en verkopers op hun platform af te handelen.

Question 9

e-Court in Nederland ?

Answer 9

• Geen rechtbank: eerder arbitrage en bindend advies → daar kon bewijs op een digitaal platform worden geupload, deed je dat niet = bij verstek.
  
  • Daarna werd het vonnis getoetst door een ‘echte’ rechter, zij het enkel formeel.
  • Dan ook bekrachtiging → dit was voor executeren van de deurwaarden.
• Voordelen: snelheid & kostprijs van 85 euro.
• Nadeel: Niet-transparant, geen publicatie en geen inzage in algoritme waarop de digitale vonnissen werden gebaseerd. Nu stilgelegd tot Hoge Raad heeft beslist.

Question 10

Cybercourts of virtuele rechtbanken

Answer 10

• Meestal wordt er niet mee bedoeld dat computers voortaan de beslissingen nemen, maar wel dat justitie moderne informatie- en communicatiemogelijkheden (bv. videocallingsystemen) inzet om, rechtbanken om te vormen van fysieke plaatsen waar recht wordt gesproken naar systemen voor dienstverlening.
• Voorbeeld Susskind RemoteCourts.org
  
  • Medewerkers uit justitie uit de hele wereld hun ervaringen met alternatieve rechtbanken en nieuwe technieken kunnen delen. Het platform is opgezet na het uitbreken van het coronavirus precies met de bedoeling om van elkaar te leren en te voorkomen dat iedereen opnieuw het wiel zou moeten uitvinden.

Question 11

Wie zijn de koplopers digitale rechtspraak?

Answer 11

• Singapore, Zuid-Korea, China,…
• Noord-Amerika ook wat vormen van online rechtspraak
  
  • CRT in Canada

Question 12

Wat is het voorbeeld van CRT in Canada?

Answer 12

• Het Civil Resolution Tribunal (CRT) uit Canada: online procedure die rechtzoekenden de mogelijkheid biedt om zelf hun juridische procedure te voeren. CRT is een administratief tribunaal en een van de eerste voorbeelden ter wereld waarin online geschillenbeslechting wordt opgenomen in het openbaar rechtssysteem.
  
  • Nu nog voor onder de 5000 = small claims.
• Online hulpmiddelen zoals een juridische diagnose helpen om juridisch kaders helder te krijgen in begrijpelijke termen, en om online onderhandelingen met de wederpartij te voeren, zodat, waar mogelijk, geschillen kunnen worden voorkomen of opgelost via bemiddeling.
• Pas als dat niet lukt, zal één van de onafhankelijke leden van het tribunaal een bindende beslissing nemen. De gebruiksvriendelijkheid en effectiviteit van procedures worden constant gemeten, en procedures worden doorgaand verbeterd op basis van de inzichten die daaruit komen. Naar verluidt vindt 90% van de gebruikers de procedure eerlijk, 82% vindt haar begrijpelijk, en 80% vindt de procedure intuïtief

Question 13

Nederland: KEI

Answer 13

• Sinds 2013 is digitalisering van de procedures het hoofddoel van het programma Kwaliteit en Innovatie (KEI). Op alle terreinen - bestuur, civiel, toezicht en straf - zijn er digitale werkwijzen ontwikkeld, en is digitaal werken gaandeweg normaler geworden.

Question 14

Predictive legal analytics of predictive justices?

Answer 14

• Algoritmes die uitkomsten in rechtszaken voorspellen. Maar het is eerder een forecast = meer zoals een weerbericht dan een vaststaand feit.
  
  • Procedures bij de rechter hebben, net als het weer, als risico dat de uitkomst onvoorspelbaar kan zijn. Naarmate de zaak complexer is, neemt dat risico toe → daarom AI om te voorspellen.
  • In de US: commerciële tools (dus weinig inzicht).
• Het blijft echter een misverstand dat de robotrechter eraan komt.

Question 15

Wat verstaan we onder (predictive) legal analytics

Answer 15

• Eenvoudig gezegd verwijst de term legal analytics naar het toepassen van machine learning op juridische gegevens, of, iets uitgebreider, naar het toepassen van data-analysemethoden en -technologieën binnen het rechtsgebied teneinde de efficiëntie te verbeteren, inzicht te krijgen en meer waarde te realiseren uit beschikbare gegevens.

Question 16

Legal analytics in brede betekenis

Answer 16

• Een toepassing van digitale technologieën, vooral natural language processing (NLP) en machine learning (ML), die gebruik maken van hoofdzakelijk kwantitatieve methodes om recht en rechtspraak, dit zijn juridische data, te modelleren en te analyseren om tot betekenisvol inzicht te komen in juridische vraagstukken en daarmee de creatie en de toepassing van het recht te beïnvloeden.

Question 17

Wat houdt legal analytics allemaal in?

Answer 17

• Automatische zoekmotoren
• Identificeren en extraheren van juridische informatie uit teksten
• Automatisch beslissingen samenvatten
• Automatisch juridische teksten genereren

Question 18

Wat gaat legal analytics zijn in de toekomst?

Answer 18

• Machine learning en expertsystemen om zo argumenten en hypotheses te genereren en juridisch redeneren te toetsen.
  
  • Dergelijke hybride systemen analyseren een voorgelegde zaak, vergelijken delen van de tekst met precedenten en geven argumenten weer, terwijl ze de discussie imiteren in een rechtbank tussen de partijen en in de rechterlijke besluitvorming.

Question 19

Legal analytics in een enge zin?

Answer 19

• Voorspellende toepassingen in de rechtspraak die gebruik maken van kwantitatieve methodes (in het Engels aangeduid met quantitative legal predicting)
  
  • Modellen met vroegere rechtspraak → zo toekomstige gebeurtenissen en gedrag te voorspellen via analytische en statistische technieken.
• Resultaat = Outcome of legal analytics: ocLA

Question 20

Sui-generismethode voor het gebruik van legal analytics in de rechtspraak

Answer 20

• In de huidige rechtspraak toetst de rechter de feiten van een individuele zaak aan de algemene regel van de wet, of van een precedent in common- lawsystemen. Vandaag maakt een magistraat onderscheid tussen feiten en recht. Verder weegt de rechter de verschillende feiten en rechtsregels af in een proces dat met woorden gedeeltelijk weergegeven wordt in de motivering van het vonnis of arrest in een individuele zaak.
  
  • Wat zich in het hoofd van rechter afspeelt, is evenwel niet altijd te achterhalen; het blijft vaak een ‘black box’.
• In de digitale wereld daarentegen worden het recht en de toepassing van het recht gemodelleerd op basis van data. Het resultaat van het algoritme of de ocLA is een analyse van geabstraheerde en bewerkte informatie van een aantal toepassingen van de algemene rechtsregel op individuele gevallen. Twee belangrijke verschillen zijn derhalve de andere abstractieniveaus en de verschillende werkwijzen.

Question 21

Wat is het onderscheid tussen hoe juridische informatie opgedeeld wordt door advocaat of een algoritme?

Answer 21

• Juridische informatie wordt opgedeeld in datapunten: Om een onderscheid te maken tussen datapunten moet er expliciet, numeriek vertaald, een gewicht toegekend worden aan elk datapunt → advocaten en rechters kwantificeren dit niet zo.

Question 22

Wat was de kritiek in het artikel van the Guardian?

Answer 22

• Robotrechter maar het systeem is slechts een statistisch voorspelsysteem, dat geen enkel begrip heeft van het recht of van een concrete zaak. Van het maken van juridische of morele afwegingen, zoals de journalist van The Guardian denkt, is geen sprake.
• Het algoritme kan de uitspraken van rechters die het analyseert zelfs niet begrijpen: alles wat het doet is het tellen van woorden in uitspraken van rechters en de resultaten daarvan statistisch relateren aan de uitkomsten van andere zaken waarin die woorden voorkwamen.
• Bovendien voorspelt het strikt genomen geen nieuwe uitspraken, want het heeft een substantieel deel van de tekst van de nieuwe uitspraak nodig om de uitkomst te kunnen voorspellen.
  
  • Pas op basis van de weergave door de rechters van de feiten, de procedurele geschiedenis, de argumenten van de partijen en een flink deel van de overwegingen van de rechters in de nieuwe zaak kan het algoritme de uitkomst daarvan voorspellen.

Question 23

Wat is het probleem dat een algoritme niet kan uitleggen?

Answer 23

• Algoritme kan dat niet uitleggen en kan alleen maar kansen produceren: Daar heeft een rechter in een concrete zaak niets aan, net zomin als een strafrechter in een concrete zaak iets heeft aan het feit dat 92% van de verdachten in strafzaken veroordeeld wordt. Elke nieuwe zaak moet op zijn inhoudelijke merites beoordeeld worden.

Question 24

Waarom kan een algoritme niet inhoudelijk beoordelen?

Answer 24

• Want het is gebaseerd op data die niet over de inhoudelijke merites van een zaak gaan, zoals persoonlijke kenmerken, politieke voorkeuren en de benoemingsgeschiedenis van rechters en door experts ingevoerde trends in beslissingen van het Hof.
  
  • Dat is natuurlijk geen juridisch deugdelijke motivering.

Question 25

Welke 2 conclusies kunnen we trekken uit voorspellende algoritmes?

Answer 25

1. Voorspellingsalgoritmes doen het niet zo goed als velen denken
2. Ze zijn principieel ongeschikt als model voor juridisch beslissen en motiveren:
   
   1. Ofwel: flink van de te voorspellen beslissing nodig voor hun voorspelling en kunnen daar geen juridische relevante gronden in herkennen
   2. Baseren hun voorspelling op externe factoren in plaats van op de inhoudelijke merites van een zaak.
      
      • → voorspelalgoritmes hun voorspellingen niet juridisch deugdelijk motiveren, terwijl dat wel door elke juridische procedure vereist wordt.

Question 26

Wat hebben we dan wel nodig voor robot rechter?

Answer 26

• Big-data algoritmes kunnen nuttig zijn maar we hebben expert systems nodig: AI-systemen die op basis van juridische kennis juridisch kunnen redeneren zoals een jurist dat zou doen en die daarom hun beslissingen of adviezen op een juridisch deugdelijke manier kunnen motiveren.

Question 27

Waarom mogen we voorspelalgoritmes en robotrechters niet met elkaar verwarren?

Answer 27

• Algoritmes zijn goed geworden maar ze kunnen nog niet outside the box werken → als de beslissingen anders zijn dan in het verleden = technologisch tekort.

Question 28

Waar komt het voorspellen van rechtspraak vandaag op neer?

Answer 28

1. Kies een domein waarvan de rechtspraak wordt geanalyseerd.
2. Kies een rechtsvraag die binnen het domein voorkomt. Kies de vraag zo, dat hij met ‘ja’ of ‘nee’ kan worden beantwoord.
3. Zoek in de rechtsspraak naar alle zaken (van een bepaalde categorie of niveau) waarin over deze vraag werd beslist.
4. Zoek in alle gevonden zaken naar alle factoren (feitelijke of juridisch of gecombineerd) die mogelijkerwijze een rol hebben gespeeld bij de beslissing.
5. Ga voor iedere gevonden zaak na, voor alle gevonden factoren, of ze in die zaak een rol hebben gespeeld, of niet (dit is het ‘coderen’ van de factoren).
6. Bereken van iedere factor (en/of combinatie van factoren) hoe sterk hij de beslissing heeft beïnvloed (het ‘gewicht’ van de factor).
7. Bereken aan de hand van deze gewichten van de factoren wat de predictie is voor een nieuwe zaak.
8. Ter controle kan van alle onderzochte zaken worden nagegaan hoe betrouwbaar ze uit alle overige voorspeld hadden kunnen worden.

Question 29

Onderscheid voorspelling en verwachting

Answer 29

1. Voorspelling: Aankondigen wat er zal gebeuren, voorafgaand aan toekomstige gebeurtenissen: door bovennatuurlijke inspiratie, door helderziendheid of voorgevoel
2. Verwachting: Resultaat van observeren van een reeks gegevens om een toekomstige situatie voor te stellen.

Question 30

Vanwaar komt de verwarring tussen verwachting & voorspelling?

Answer 30

• Van de ‘harde’ wetenschappen, waar verwachting verwijst naar een verscheidenheid aan datawetenschappelijke technieken afgeleid van wiskunde, statistiek en speltheorie die huidige en vroegere feiten analyseren om hypotheses te maken over de inhoud van toekomstige gebeurtenissen.

Question 31

Voorspelalgoritmes

Answer 31

Dit zijn statistische machines die modellen bouwen op basis van gegevens uit het verleden

Question 32

Welke conclusie kunnen we trekken uit de voorspelalgoritmes?

Answer 32

• Het is niet omdat voorspelalgoritmes bestaan, dat ook het automatisch beslissen van rechtszaken dichterbij is gekomen → komt door een verkeerd begrip. Voorspelalgoritmes gaan niet outside the box redeneren, ze gaan niet begrijpen wat er leeft in de maatschappij, wat de gevoelens zijn.
• Het is realistischer: inzetten op ondersteuning van menselijke beslisser met AI: mens & computer samen beter dan computer of mens alleen. Wel AI mogelijk in routine-zaken.

Question 33

Wat is judicial analytics?

Answer 33

• Geautomatiseerde systematische analyse van de beslissingen van individuele rechters → veel in common law.
  
  • Zo patronen of inconsistenties ontdekken.
• Continentaal Europa: Weerstand o.m. met de argumentatie dat het de onafhankelijkheid van de rechters zou ondermijnen.
  
  • Zelfs in Frankrijk verboden!

Question 34

CEPEJ van de Raad van europa: wat hebben ze gedaan?

Answer 34

• De werkgroep kwaliteit heeft ethische principes voor het gebruik van AI in de rechtspleging geformuleerd. Deze vijf “Ethical principles” hebben veel raakvlakken met elkaar, zodat het moeilijk is ze streng systematisch te behandelen.
• De werkgroep Quality of Justice van CEPEJ werkt nu aan concrete technische standaarden, robuuste methodologieën en procedurele waarborgen, om deze ethische principes naar de praktijk te vertalen.

Question 35

5 ethical principles voor AI bij rechtspleging?

Answer 35

1. Respect voor grondrechten
2. Gelijke behandeling
3. Dataveiligheid
4. Transparantie
5. AI onder controle van de gebruiker

Question 36

Respect voor de grondrechtenals ethisch principe bij AI voor rechtspleging?

Answer 36

• Zorg dat ontwerp en toepassing van AI diensten en instrumenten verenigbaar zijn met de grondrechten zoals privacy, gelijke behandeling en een eerlijk proces.

Question 37

Gelijke behandeling als ethisch principe bij AI voor rechtspleging?

Answer 37

• Voorkom discriminatie tussen individuen en groepen individuen → reëel risico: Het kan zijn dat de data die het algoritme gebruikt daar de oorzaak van zijn, en het kan in het algoritme zelf ingebakken zijn.

Question 38

Dataveiligheid als ethisch principe bij AI.

Answer 38

• Gebruik, bij het verwerken van rechterlijke uitspraken en data, gecertificeerde bronnen en data die niet gewijzigd kunnen worden, met modellen die multidisciplinair zijn ontworpen, in een beveiligde technologische omgeving.

Question 39

Transparantie bij AI ethisch principe?

Answer 39

• Maak dataverwerkingsmethoden toegankelijk en begrijpelijk, laat externe audits toe.

Question 40

AI onder controle van de gebruiker als ethisch principe?

Answer 40

• AI mag niet zelf voorschrijven en zelf beslissen: Gebruikers moeten weten en begrijpen wat de AI doet, en de gebruikers moeten zelf de controle hebben over de keuzes die ze maken → gebruikers zonder problemen afwijken van de uitkomst van het algoritme.

Question 41

Voorbeeld COMPAS

Answer 41

• Indien er risicobeoordeling is door een AI systeem, waarvan de werking bedrijfsgeheim is → schending van het eerlijk proces:
  
  • Verdachte kan de juistheid en wetenschappelijke waarde van de risicobeoordeling niet toetsen
  • Risicobeoordeling neemt geslacht en ras mee in beoordeling recidive risico.

Question 42

Hoe wordt het beginsel van behoorlijk bestuur bij transparantie geïntegreerd bij AI?

Answer 42

• Vereiste om de keuzes en de gegevens volledig duidelijk te maken en beschikbaar te stellen → is ingeschreven in Nederland bij de inzet van algoritmes bij administratieve besluitvorming.
• De gebruiker van een algoritme moet de gemaakte keuzes en de gebruikte gegevens en aannames volledig, tijdig en uit eigen beweging openbaar maken op een passende wijze zodat deze keuzes, gegevens en aannames voor derden toegankelijk zijn.
  
  • Zo beoordelen en indien nodig betwisten en de rechter de rechtmatigheid kan toetsen.

Question 43

Waarvoor moet het bestuur zorgen bij het inzetten van AI?

Answer 43

Moet zorg dragen voor inzichtelijkheid en controleerbaarheid van keuzes, aannames en gegevens.

Question 44

Wat zjin de voordelen van AI in de rechtspraak?

Answer 44

1. AI is een expert op het vlak van dataverwerking
2. Optimalisatie van het procesverloop
3. AI is een hulp in het detecteren van niet-juridische factoren

Question 45

Wat is het voordeel van AI op het vlak van dataverwerking?

Answer 45

• Verhoging van inhoudelijke kwaliteit van rechterlijke beslissingen omdat AI veel meer data sneller kan verwerken: veel verbanden → snel de meest relevante informatie vinden.
• Ook minimalisering van eigen vooringenomenheid van rechters want AI neemt alles in beschouwing → meer consistente behandeling van rechtszaken.
  
  • Meer gelijkaardige straffen voor gelijkaardige zaken.
• AI om discriminerende uitspraken te ontmaskeren: meer vertrouwen van de burger in justitie.

Question 46

Hoe kan AI helpen bij optimalisatie van het procesverloop?

Answer 46

• AI kan zeer goed patronen herkennen en op fenomenen wijzen die daarvoor niet duidelijk waren.
• Zo de achterstand van justitie wegwerken en dalen van gerechtskosten.

Question 47

Hoe kan AI helpen in het detecteren van niet-juridsiche factoren?

Answer 47

• Vonnissen worden beïnvloedt door allerlei irrelevante factoren:
  
  1. Externe invloeden op rechter: vermoeidheid, honger, mening partner,… → vaak laten ze zich onbewust beïnvloeden, ongeacht de relevantie = referentie-effect.
  2. Strategische factoren die de besluitvorming kan beïnvloeden: rechters houden bij het maken van beslissingen ook (onbewust) rekening met hun positie tov andere instanties
• Beïnvloedingen detecteren → betere bewustmaking van factoren en ook zelf autonome beslissingen = vanzelf geëlimineerd.

Question 48

Wat zijn de strategische factoren die besluitvorming kunnen beïnvloeden?

Answer 48

1. Bv. correlatie rechterlijke vs. wetgevende macht → hoe makkelijker de wetgever de beslissing van de hoven ongedaan kan maken door de wet aan te passen, hoe conformer de rechter zal oordelen om zijn geloofwaardigheid te behouden en ook omgekeerd.
2. Positie van de rechtbank binnen de hiërarchische orde: Rechters hebben liever niet dat hun uitspraken in hoger beroep worden tenietgedaan en het is mogelijk dat zij hun uitspraken op voorhand al aanpassen om dit zoveel mogelijk te vermijden

Question 49

Wat zijn de nadelen van AI binnen rechtspraak?

Answer 49

1. Verstarring van de wet
2. Onvermogen om te interpreteren
3. Noodzaak juridisch debat
4. Gebrek aan motivering
5. Nood aan transparantie

Question 50

Verstarring van de wet als nadeel AI?

Answer 50

• Recht evolueert mee met de maatschappij → rechtvaardige rechtspraak want normen, waarden en behoeften zijn continu in beweging en het recht moet zich aanpassen.
• AI zou de wet verstarren omdat het geen nieuwe input krijgt van de huidige tijdsgeest + gebaseerd op teksten = niet in staat redeneringen af te leiden achter de tekst.
  
  • AI kan niet nadenken over wenselijkheid van oplossing.
• Menselijke rechters: blijven een belangrijke rol spelen in het incorporeren van de heersende maatschappelijke dynamiek in rechtszaken.

Question 51

Onvermogen om te interpreteren van AI?

Answer 51

• Rechter vrijheid om te oordelen want het is meer dan alleen een verzameling regels toepassen: er zijn ook impliciete beginselen die de regels ten gronslag liggen:
  
  • Deze impliciete beginselen zijn zowel morele principes als economische, politieke of sociale doelstellingen van een gemeenschap.
• Rechters interpreteren de wet waar die onduidelijk is of niet volledig: zie strafmaat bepalen → heel grote interpretatiemarge voor beoordeling.
  
  • Rechter past de abstracte wetgeving toe op een concreet geval.

Question 52

Noodzaak juridisch debat binnen een rechtszaak?

Answer 52

• In rechtszaken is er vaak niet één juiste oplossing, maar zijn er meerdere mogelijkheden. Het juridisch debat speelt dan ook een essentiële rol binnen de rechterlijke besluitvorming → ruimte door AI?
• Mensen durven ook AI systemen niet in vraag tes tellen omdat ze meer vertrouwen op het redeneervermogen van de AI dan in hun eigen redeneervermogen omdat AI veel grotere hoeveelheden data kan verwerken.
  
  • Gevaar: Rechters minder kritisch worden, zelf geen keuzes maken en blindelings de aanbevelingen van AI accepteren → zo worden de hulpssystemen de facto beslissingssystemen.

Question 53

Wat is het gevaar voor het recht van verdediging en de toepassing van AI in de rechtbank?

Answer 53

• Voor slachtoffers is het essentieel dat ze gehoord worden en de manier waarop de rechtzoekende behandeld wordt een doorslaggevende rol in de acceptatie van rechterlijke beslissingen → achter zich laten, ongeacht of men gelijk krijgt of niet.
• De toepassing van AI als ondersteuning of vervanging van de conventionele rechtsprocedure zou dit proces kunnen negeren en daardoor de aanvaarding van de uitspraak bemoeilijken.

Question 54

Gebrek aan motivering bij AI?

Answer 54

• AI niet in staat om inhoudelijke argumenten te geven die achter de beslissingen schuilen, maar rechter moet steeds de belangrijkste redenen geven:
  
  • Beroep
  • Controle op de rechter
• AI niet in staat inhoudelijke redeneringen te maken.
  
  • Dit is nog lastiger in België omdat rechtspraak niet bindend is en precedenten enkel een bepaalde richting kunnen aanduiden.
  • → rechters mogen verwijzen naar voorgaande uitspraak maar enkel als ze redenen geven waarom ze zich aansluiten bij bepaalde rechtspraak.

Question 55

Wat is de transparantieverplichting in AGV?

Answer 55

1. Persoon die de impact van ondervindt moet op de hoogte worden gebracht dat er een automatisch beslissingssysteem is
2. Informatie meedelen over de logica achter de beslissing
3. Betekenis en gevolgen voor betrokkene meedelen

Question 56

Wat is algoritmische transparantie en waarom lastig?

Answer 56

• Mens kan niet deep learning doorgronden → onduidelijk hoe tot een oplossing gekomen maar dit is nodig voor na te gaan of er mogelijke discriminerende uitwerking is.
• → algoritmische transparantie: instanties zouden de ingewikkelde processen moeten vrijgeven.
  
  • Lastig met de geheimhouding van IP en handelsgeheimen

Question 57

Wat is een mogelijke oplossing voor het transparantieprobleem bij AI?

Answer 57

• Tegenfeitelijke verklaringen laten toe om te demonstreren hoe een bepaalde beslissing anders had kunnen zijn in functie van de wijziging van de ingevoerde gegevens, zonder het algoritme zelf uit te leggen.

Question 58

Waar is het onderzoek momenteel mee bezig bij legal tech?

Answer 58

• Juridische online onderzoeksdiensten, systemen om grote hoeveelheden tekst te analyseren en chatbots.
• Integreren van argumentation mining: voorspelalgoritmes.
• Het volledig vervangen? Daar zijn we nog niet: mensen kunnen beter redeneren en motiveren, beter oordeelsvermogen.

Question 59

Gebruik van AI garantie voor betere of objectieve uitspraken?

Answer 59

• Nee! Kan voordelen hebben maar we moeten waakzaam blijven en bij elke keuze nadenken over de wenselijkheid van implementatie en afweging voordelen en nadelen.
• Zo zal de toepassing van AI problematischer worden naarmate de complexiteit van de zaak stijgt en is het gebruik van autonome beslissingssystemen in veel gevallen misschien helemaal niet wenselijk.

Question 60

Wat is de sterkste combinatie voor rechtspraak?

Answer 60

• Hybride intelligentie: Combinatie mens + machine = sterkste combinatie.

Question 61

Wat is nodig om AI nuttig te maken in de rechtspraak?

Answer 61

• Art. 6 EVRM en de Ethische principes: rechtspraak = norm van een behoorlijke procedure.
  
  • Rechterlijke complexiteitsreductie moet onderbouwd zijn, transparant en gelijke kansen bieden aan de procespartijen.
  • Juridische informatie moet machine-verwerkbaar worden gemaakt: AI heeft structuur en juridische duiding nodig + voldoende data: zou veel beter zijn als die gestructureerd wordt met terminologie en geduide relaties.
• AI in staat om uit te leggen hoe het resultaat tot stand is gekomen, de rechtspraak moet zijn informatie digitaliseren en van juridische duiding voorzien.
• Rechters moeten in staat zijn om met AI te werken en te begrijpen → menselijke controle = voortdurend proces.