POTERE COMPUTAZIONALE - CAP. 7 Flashcards
Il governo degli algoritmi
Cosa sono gli algoritmi?
Sono procedure codificate per trasformare dati di input in un output desiderato/atteso, in base a calcoli specifici.
L’algoritmo ha dunque, come si evince da questa definizione, 3 elementi costitutivi
- INPUT= l’insieme di dati e di informazioni che costituiscono la base della conoscenza
- PROCEDURE= il meccanismo di elaborazione e calcolo che consente alla macchina di trasformare input in output
- OUTPUT= risultato atteso
Quali sono i pericoli e i benefici nel delegare compiti e decisioni alle macchine?
PREMESSA= le macchine prendono decisioni e svolgono compiti agendo in base ad ALGORITMI: ricordiamo che l’agire non è più una esclusiva prerogativa degli esseri umani.
Il ricorso sistematico ad algoritmi è fonte di benefici e al contempo di gravi pericoli legati proprio al modo in cui l’algoritmo funziona).
I benefici sono i seguenti=
1- la delega algoritmica porta alla proceduralizzazione del mondo (i problemi possono essere risolti da queste procedure specifiche, ben codificate e in quanto tali CONTROLLABILI e GOVERNABILI)
2- la delega algoritmica solleva gli essere umani da compiti difficili, con un risparmio di tempo notevole e risparmio di risorse ed energie
I pericoli, invece, sono legati proprio al paradigma dell’algoritmo… È infatti dai suoi elementi costitutivi che la delega algoritmica solleva dei problemi=
1- INPUT= la selezione dei dati e delle informazioni, che costituiscono la base di conoscenza della macchina, può essere influenzata da BIAS COGNITIVI o SCELTE DI VALORE…
Tuttavia, i bias e i valori di chi programma sono diversi dai bias e i valori di coloro su cui si applica il risultato della procedura algoritmica.
È possibile dare luogo consequenzialmente ad output discriminatori
2- PROCEDURE= vi sono casi in cui le procedure sono così complesse e articolate al punto che risultino
- difficili da comprendere
- poco trasparenti
Frank Pasquale ha introdotto dunque il concetto di BLACK BOX SOCIETY: Società costruita sull’inaccessibilità stessa della logica che presiede al suo funzionamento.
Ci sono procedure decisionali algoritmiche costituite da sistemi (machine learning) in grado di apprendere e sviluppare IN AUTONOMIA il proprio funzionamento, assumendo così autonome decisioni …
Il risultato è= difficoltà di garantire la TRASPARENZA del processo decisionale
Dal punto di vista giuridico tale problema (circa l’inaccessibilità alle spiegazioni del funzionamento di algoritmi)ha un impatto fortemente negativo dato che INOLTRE gli algoritmi sono posti a prendere decisioni e generare un risultato in grado di incidere su diritti e libertà degli individui
3-OUTPUT= potrebbero sorgere risultati discriminatori che possono derivare da un problema negli input o nella procedura
Parla del governo degli algoritmi
Gli algoritmi pretendono di governare la realtà ma allo stesso tempo essi devono essere governati e sottoposti a controlli connessi all’esigenze di renderli accountable (principio di spiegazione che ne giustifica l’uso - guarda domanda successiva)
La pretesa di governarli si attua su 2 diversi piani :
1- Quello dell’essere (realtà)
2- e quello del dover essere (aspettativa)
Quando affidiamo una decisione a un algoritmo, le sue scelte hanno conseguenze CONCRETE nel mondo reale. Per le persone coinvolte queste scelte hanno un impatto molto significativo.
Il funzionamento degli algoritmi è fortemente influenzato dalle aspettative normative, con le quali gli algoritmi si rapportano in 2 modi diversi=
1) attraverso l’individuazione di VALORI-SOGLIA ALGORITMICI tramite meccanismi di profilazione e previsione →per prendere decisioni si considerano le caratteristiche dei soggetti coinvolti. Tuttavia le previsioni e profilazioni che l’algoritmo genera su un individuo si basano su mere CORRELAZIONI STATISTICHE che indicano che due fattori sono legati, senza però dire in che modo e perché, quindi i valori esercitano un ruolo normativo senza offrire un principio di spiegazione plausibile
2) Attraverso la PRODUZIONE DI SCENARI ALTERNATIVI mediante PROCESSI DI SIMULAZIONE= generano scenari IPOTETICI (c.d. Controffattuali algoritmici) in una realtà virtuale che permettono di valutare come potrebbero evolversi le situazioni. Tali scenari fungono da criterio di valutazione, dicendoci come agire
Quali sono i meta-problemi nel governo degli algoritmi?
Sono 2=
A) IL META-PROBLEMA DELLA DELEGAZIONE
Per giustificare la delegazione di compiti a macchine si invoca principalmente L’AFFIDABILITÀ, ma NON SI ESCLUDE L’ESISTENZA DI UN’AREA DI RISCHIO derivante dalla complessità del funzionamento e del grado di autonomia con cui eseguono i compiti.
Chi delega tali macchine compie una vera e propria prestazione di fiducia che comporta una sfera di rischio = TRUSTED-COMPUTER : Se non c’è rischio, non c’è fiducia ma mero affidamento
Ci si chiede, cmq, se la prestazione fiduciaria investa le macchine o i loro programmatori e se si tratta di fiducia intersoggettiva o sistemica:
Il fatto di non essere chiamati, in quanto utenti, a prestare direttamente la fiducia all’AGENTE ARTIFICIALE, ma che sussiste una elevata SISTRMICUTÀ con cui si fa ricorso a tali macchine, ci fa ritenere che ciò non consista in una mera fiducia intersoggettiva ma in una prestazione fiduciaria sistemica.
B) IL META-PROBLEMA DEGLI STANDARD =
1) nella prestazione di fiducia sistemica il soggetto che presta fiducia è guidato dalla considerazione di obiettivi più generali: STANDARD DI VALUTAZIONE DEGLI OBIETTIVI DI SISTEMA
2) nella prestazione fiduciaria intersoggettiva il soggetto che presta fiducia è guidato dalla considerazione dell’obiettivo specifico= STANDARD DI VALUTAZIONE DEI SINGOLI OBIETTIVI PERSEGUITI
Ma quali sono questi standard in base ai quali=
-giudicare rilevante e urgente la delegazione di problemi agli algoritmi,
-e giudicare altresì la correttezza delle soluzioni
…?
NON è sufficiente fare riferimento affidabilità ed efficienza con cui gli algoritmi risolvono i compiti, LA VALUTAZIONE DEVE ESSERE PIÙ AMPIA E GUARDARE ANCHE ALLE CONSEGUENZE CHE LA DELEGAZIONE COMPORTA.
Tali procedure algoritmiche devono tener conto della
- legittimità giuridica= tali sistemi decidono e agiscono sulla base di norme e criteri in essi incorporati
-accettabilità sociale= bisogna chiedersi quanto, i fini che tali procedure perseguono, siano socialmente condivisi
La delegazione comporta un rischio , per cui verrà concessa nel momento in cui il fine che si otterrebbe è socialmente condiviso tanto da portare ad accettare il rischio
Se l’output di un algoritmo è socialmente accettato esso sarà meno soggetto a controlli e più facilmente accettato contribuendo così a propagare boss e valori cognitivi nel funzionamento della procedura algoritmica
-preferibilità etica=bisogna chiedersi se attraverso l’incorporazione di valori in tali macchine stiamo costruendo la società che vogliamo. Il governo di algoritmi deve riguardare la nostra capacità di giudicare gli esiti di una procedura e influenzare il sistema per trasformarlo
Si noti che nella realtà attuale=
A) l’agire non è più nostra esclusiva prerogativa
B) deleghiamo un numero crescente di decisioni agli agenti artificiali
C) non costruiamo in base a quanto comprendiamo e spieghiamo, ma cerchiamo di comprendere e spiegare ciò che abbiamo costruito …..
