POTERE COMPUTAZIONALE - CAP. 8 Flashcards
L'asimmetrica distribuzione di dati e diritti
Che fine fanno i dati personali che produciamo e disseminiamo?
NON sappiamo che fine facciano, da chi siano raccolti, per quali fini siano processati e con quali conseguenze, né se i diritti previsti a protezione dei nostri dati siano rispettati.
É difficile stabilire la relazione che abbiamo NOI STESSI con i nostri dati…. Non è come il diritto di proprietà il quale sappiamo che viene mantenuto anche se ci si allontana dall’oggetto e se ne può disporre anche post MORTEM.
Per i dati è diverso stabilire chiaramente tutto ciò, per via della loro naturale volatilità.
Inoltre il mondo digitale è caratterizzato da un’incessante produzione e circolazione di dati, il cui trattamento è sempre più affidato a procedure automatizzate
i dati sono tutti uguali/omogenei?
No, hanno tutti caratteristiche peculiari in base al ruolo che svolgono=
1) DATI COME ELEMENTI COSTITUTIVI
Secondo Floridi gli esseri umani possono essere descritti come un insieme coerente e ben strutturato di dati (noi siamo dati). A ciò si ricollega il concetto di privacy informazionale.
Per Floridi la privacy non è soltanto legata alla riservatezza o al controllo sulle informazioni che ci riguardano, quanto piuttosto attiene ALLA COSTITUZIONE STESSA DELLA NOSTRA PERSONA. La protezione dei dati intesi come elementi costitutivi della persona, implica la previsione di DIRITTI DELLA PERSONALITÀ
2)DATI COME RISORSE ECONOMICHE
Si dice che i dati siano il nuovo petrolio, poiché essi hanno un valore economico che va tutelato mediante il diritto.
- dunque da un lato vengono riconosciuti diritto soggettivo di sfruttamento economico dei dati mediante vari strumenti (brevetti, licenze, proprietà intellettuale)
-d’altro canto lo sfruttamento dei dati implica ,a formazione di un MERCATO UNICO DIGITALE al cui interno devono essere garantite le condizioni per la libera circolazione dei dati a cui fa riferimento l’art 1 del nuovo regolamento europeo per la protezione dei dati (GDPR -general data protection regolation- reg. UE 2016/679)
Entrambi i due elementi devono essere bilanciati
3) DATI COME PRESUPPOSTO
I dati possono essere concepiti come il riconoscimento di diritti, benefici, prerogative. In questa accezione essi sono rilevanti in quanto consentono di individuare valori-soglia normativi in seguito alla loro aggregazione e trattamento.
Il regolamento GDPR fa riferimento al fatto che ci siano dati che comportano un “RISCHIO ELEVATO” per i diritti e le libertà dei titolari dei dati. Il responsabile del trattamento deve predisporre misure adeguate volte a prevenire eventi dannosi.
È stato poi il working party 29 a sancire una definizione di rischio elevato: I criteri di determinazione del rischio elevato riguardano
A)le modalità del trattamento
B) la natura dei dati
C) il fatto che il loro trattamento possa essere presupposto per l’esercizio di un diritto o per il godimento di un servizio
Nella fase di trattamento dei dati che porta a creare valori-soglia normativi, al soggetto resta SOLO la possibilità di contestare ex post la decisione raggiunta dal trattamento.
Tale contestazione consiste nell’esercizio del diritto alla spiegazione (art 22 GDPR) che costituisce il presupposto per essere LIBERI.
Siamo liberi nella misura in cui siamo in grado di spiegare (e sapere)ciò che accade poiché questa è una capacità riflessiva che ci consente di non subire passivamente ciò che accade nel mondo.
Infatti quando subiamo conseguenze di azioni/decisioni di cui non sappiamo spiegare la logica , sentiamo di perdere il controllo (e le libertà)
Quali sono le strategie volte a delineare e chiarire la logica di una decisione automatizzata?
Premessa: Ricordiamo che l’applicazione del diritto alla spiegazione ha dei motivi di ostacolo… Uno dei quali è certamente la complessità del processo che consequenzialmente rende opaca la logia…
Sono nate dunque 3 strategie x chiarirla e delinearla:
1) PROCESSO DI ACCOUNTABILITY (la decisione deve essere accompagnata da soggetti che devono rendere conto della sua logica)
=l’esigenza di attribuire una responsabilità x le decisioni assunte porta Frank Pasquale a proporre una quarta legge della robotica: Essa serve per affrontare i problemi di attribuzione, responsabilità e spiegazione che la delegazione a macchine implica: “abbiamo la necessità di assicurare che robot e agenti artificiali siano riconducibili e identificabili con i loro creatori”. Per cui si afferma che: “un robot deve sempre indicare l’identità del suo creatore , controllore o proprietario”, per Pasquale, la spiegazione resta un fatto umano, che richiede quindi l’individuazione di un soggetto che possa essere chiamato a rispondere dell’operato della macchina. Tale meccanismo d’individuazione deve essere automatizzato ed ex ante, viene identificato come “responsabilità by design”
2) LA SPIEGAZIONE CONTROFATTUALE (possibilità d’individuare una soluzione alternativa alla spiegazione come strumento posto a tutela dei diritti della persona interessata)
Il valore etico e sociale della spiegazione è un dato irrinunciabile per costituire quella fiducia necessaria affinché procedure decisionali algoritmiche siano socialmente accettate. Non si tratta però di fornire una spiegazione sulla logica della decisione ma essa deve porsi anche in relazione allo scopo che l’interessato perseguiva →ad esempio, fornendo delle spiegazioni controfattuali in grado di illustrare al soggetto come AVREBBE DOVUTO AGIRE per ottenere lo scopo perseguito.
3) AUTOMAZIONE DELLA SPIEGAZIONE (configurazione di un processo di spiegazione automatizzato che si accompagna alla decisione)
NON SOLO LA DECISIONE, MA ANCHE LA SUA SPIEGAZIONE DEVE ESSERE AUTOMATIZZATA → con il termine spiegazione intendiamo chiaramente la descrizione del processo di trasformazione di input in output, in grado di mettere in luce quanto uno specifico fattore sia determinante per il risultato finale.
come può avvenire l’elaborazione di spiegazioni da parte di sistemi di IA?
può essere fatta tramite:
1) SPIEGAZIONE LOCALE=viene spiegata una specifica decisione, piuttosto che il comportamento del sistema nel suo complesso. Tale metodo consiste nel testare sistematicamente gli input per rilevare quali abbiano avuto maggior peso sull’output e siano stati importanti x la decisione
2) CREDIBILITÀ CONTROFATTUALE= oltre a metter in luce quanto un fattore sia stato determinante per il risultato, mostra quale fattore ha davvero fatto la differenza nei risultati
chi è destinato ad adattarsi a chi?
questo sembra essere uno dei principali quesiti= il fatto che deleghiamo tutto alle macchine , a cui chiediamo di fornirci anche le SPIEGAZIONI, rende evidente che ci stiamo adattando NOI alla loro rappresentazione del mondo
