POTERE COMPUTAZIONALE - CAP. 3 Flashcards
Intelligenza artificiale ed umana
Cos’è l’intelligenza artificiale?
è quel settore della ricerca scientifica che ha come obiettivo quello di costruire macchine che pensino razionalmente come gli umani.
È possibile differenziare tra:
1) INTELLIGRNZA🧠 ARTIFICIALE FORTE💪= obiettivo di creare intelligenze pari a quella umana (è ancora un sogno)
2) INTELLIGENZA🧠 ARTIFICIALE DEBOLE🤏= sistemi che eccellono in determinate funzioni (es. Algoritmi che emulano comportamenti simili a quelli dell’uomo)
→Dopo il primo Boom dell’IA (1962) , nei primi anni 70 c’è stato il c.d. “primo inverno di crisi” per l’IA…
→Tuttavia da circa 15 c’è un nuovo risorgimento provocato da tre fattori=
1- potenza di calcolo sempre maggiore
2-big-data (enormi volumi di calcolo)
3- nuove tecniche matematiche
Cosa enuncia l’articolo di A14people?
È uno dei più importanti articoli in materia di IA e sottolinea la necessità del
PRINCIPIO di SPIEGABILITÀ: Il nostro ambiente agisce autonomamente ricavando da un input un output. Ciò porta, però, a=
1- farci delle domande ❔ / a chiedere delle spiegazioni 🙋
2- porci il problema della responsabilità ( se l’output dà risultati negativi, chi è responsabile?)
Nell’artico A14people vengono analizzati sia i rischi dell’IA, sia le nuove sfide che essa pone…
Infatti possiamo affermare che l’intelligenza artificiale e il suo impatto sulla società sollevano 4 quesiti e per ciascuna di queste domande ci sono PRO e CONTRO (l’IA offre tanti rischi quante opportunità):
Chi possiamo diventare?
Cosa possiamo fare?
Cosa possiamo conseguire?
Come possiamo interagire con noi e con il nostro mondo?
Chi possiamo diventare con L’IA?
PRO= l’intelligenza artificiale può favorire l’autorealizzazione umana (sviluppare caratteristiche, abilità, interessi) –> perché l’IA libera, per l’essere umano, del tempo che esso può dedicare allo sviluppo di qualità intellettuali
CONTRO= il rischio è:
- il ritmo con cui tutto ciò sta accadendo
- la distribuzione iniqua (ingiusta) di
costi-benefici (derivanti dalle novità dell’IA)
Cosa possiamo fare con L’IA?
PRO= sicuramente grazie all’ICT possiamo fare meglio e possiamo fare cose che prima erano inimmaginabili
CONTRO= nel caso in cui un OUTPUT crei un danno, chi è responsabile?
Si è molto discusso su questo problema perché di base è quasi impossibile che un essere umano sia responsabile di un output derivante da un sistema di IA. Tale problema ha, dunque, indotto il legislatore a proporre nuove leggi per affrontarlo.
Es. in sede UE:
1) A.I. Act
2)PLD: una direttiva sulla responsabilità da prodotto difettoso (1985) su cui si è molto discusso, poiché ci si poneva il problema se potesse essere ritenuto “prodotto” anche il software…
3) A.I. Liability Directive: porta a qualificare il software come prodotto
Comunque il problema della responsabilità riduce la capacità di controllo umano sul corso degli eventi e il rischio è proprio l’erosione della responsabilità umana
Cosa possiamo conseguire con L’IA?
PRO= delegare decisioni e compiti a sistemi di intelligenza artificiale può comportare un miglioramento nelle capacità umane e nei risultati
Vi sono tuttavia 4 limiti da rispettare –> 4 possibili scenari:
1)HUMAN IN THE LOOP–> l’umano è parte del processo e può intervenire alterando il corso degli eventi
2)HUMAN ON THE LOOP–> l’umano non è più parte del processo e non può intervenire nelle fasi ma ha la possibilità di monitorare lo sviluppo complessivo
3)HUMA POST LOOP –> l’essere umano non ha il diretto controllo né sulle fasi né sul suo svolgimento complessivo, ma può intervenire unicamente ex post
4)HUMAN OUT OF THE LOOP –> umano è esterno al processo e non può intervenire in esso
CONTRO: E’ bene chiedersi fin dove possiamo delegare i compiti alle macchine, evitando che ciò eroda la sfera di controllo umano
La delegazione non esclude ogni caso la possibilità di contestare la scelta della macchina
–> ART 22 del GDPR (regolamento UE che riguarda un regolamento generale sulla protezione dei dati): è stato creato un nuovo diritto: IL DIRITTO ALLA SPIEGAZIONE.
Ciascuno ha diritto in Europa a richiedere l’intervento umano per ogni trattamento automatizzato: si ha il diritto di interfacciarsi con un essere umano che deve poter correggere la decisione della macchina o quantomeno spiegarla
Precisa ciò che dice l’art 22 del GDPR
L’art 22 del GDPR (general data protection regulation) prevede che l’interessato abbia il diritto di NON essere sottoposto ad una decisione basata unicamente sul trattamento automatizzato che produca effetti giuridici che lo riguardano o che incida significativamente sulla sua persona. Il Working Party 29 (WP29= era il gruppo di lavoro comune delle autorità nazionali di vigilanza e protezione dei dati, nel 2018 è stato sostituito dal comitato europeo x la protezione di dati) ha precisato che con l’espressione “TRATTAMENTO AUTONATIZZATO” si intende la “capacità di prendere decisioni x mezzo di strumenti tecnologici SENZA l’intervento umano”.
Gli individui NON dovrebbero essere soggetti a decisioni, alla cui formazione non abbiano partecipato almeno in parte altri esseri umani. Ciò porta a LIMITARE IL PROCESSO DI AUTOMATIZZAZIONE delle decisioni, tutelando gli individui e rinsaldando il patto fiduciario tra gli utenti della rete
Tale art. Prevede poi una serie di diritti a tutela dell’interessato:
- Diritto di ottenere un intervento umano nel processo decisionale
- diritto di manifestare la propria opinione sulla decisione, nonché il diritto di contestarla
Da qui è sorto un dibattito sul diritto alla spiegazione = (ottenere una spiegazione della logica con cui la decisione automatizzata è stata prodotta) — c’è chi nega la configurabilità di tale diritto.
Strettamente connessi a questo sono gli artt. 13-14 GDPR che prevedono obblighi in capo al titolare del trattamento, il quale è tenuto a comunicare al soggetto interessato:
- l’esistenza di un processo di decisione automatizzato
- info sulla logica utilizzata
- info sulle conseguenze previste del trattamento
Vi sono tuttavia dei motivi di ostacolo all’applicazione di un diritto alla spiegazione: La logica della decisione è spesso basata su procedure coperte da diritti di proprietà intellettuale (segreti industriali o statali), inoltre la complessità del soggetto rende opaca la logica stessa.
Come possiamo interagire con noi e con il mondo con l’IA?
PRO= Di fronte alle tecnologie si apre un mondo di possibilità
CONTRO=ma si ha a che fare con problemi che vengono spesso affidati alle governance.
CURVAIL pubblica il libro: “La singolarità” in cui prevede che nel 2045 l’IA ci sorpasserà
–> perderemo il controllo di queste tecnologie di terzo ordine
Tra i problemi da annoverare, oltre ai rischi, anche le opportunità perse: spesso NON usiamo la tecnologia per certe ragioni (es. problemi di fiducia) quando essa sarebbe realtà fondamentale e illuminante –> esempio: la potenzialità della tecnologia nel mondo della medicina è enorme
Internet ci rende più stupidi o più intelligenti?
Sorge una sorta di GIANO BIFRONTE, perché l’IA:
- ci deresponsabilizza: nel senso che ci fa mettere in OFF il cervello dato che fa già tutto lei per noi
- d’altro canto è una rampa di lancio per scoprire di più… un’opportunità…
INTERNET, se usato bene, apre la mente, nonostante si evidente che molte di queste tecnologie possono creare danni.
il dibattito circa la domanda effettuata riguarda 2 soggetti:
1) NICOLAS CARR –> secondo lui internet ci rende più stupidi, ecco perché:
a- la conoscenza tratta da internet è frammentaria e discontinua
b- la rete è un archivio in cui resta ogni traccia di noi e che controlla, dunque, la memoria stessa
c- la velocità della comunicazione in rete fa diminuire la nostra capacità di attenzione
d- la rete ha contribuiti a renderci più superficiali: grazie alla rete abbiamo più tempo ma non sappiamo come spenderlo
2)WEINBERGER: lui dice che internet ci rende più intelligenti, ecco perchè:
a. la formazione della conoscenza è mediata dalle ICT che impattano sulla capacità cognitiva
b. la sovrabbondanza informativa in rete permette un accesso rapido alle risorse ricercate e pone l’uomo nella condizione di fare delle decisioni
c. la conoscenza è una fitta rete di rimandi e connessioni
d. l’accesso libero ha reso il sapere meno esclusivo ma anche più accessibile
C’è tuttavia una 3^ ipotesi:
Internet non ci rende nè più intelligenti nè più stupidi: affinchè ciò avvenga internet dovrebbe essere l’unico medium che presiede alla comunicazione e alla formazione della conoscenza, invece esso non esercita il suo impatto su una tabula rasa ma concorre.
Quindi internet non ha
- né un impatto deterministico (per cui ci condiziona totalmente),
- né strumentale (per cui sarebbe solo uno strumento nelle nostre mani)
Internet, potremmo dire che: rende + intelligenti gli intelligenti e + stupidi gli stupidi
–> EFFETTO ENFASI DELLA RETE:
- Chi ha già buoni strumenti cognitivi tende ad arricchirsi con le risorse della rete
- Chi ha meno strumenti cognitivi tende ad impoverirsi con la delegazione
In questo senso la tecnologia apre un divario:
- sociale: rende i ricchi + ricchi e più poveri i poveri)
-mentale: rende più intelligente chi già lo era e più stupido chi già lo era.
il problema dunque è per la democrazia che dovrebbe, al contrario, favorire la modificazione delle condizioni dei soggetti
