Punti chiave
Ogni sistema di IA comincia con il lavoro umano che preferisce nascondere
Sono le persone a etichettare per prime il mondo. L’apprendimento automatico è un software che individua schemi statistici in grandi raccolte di esempi. Per imparare che aspetto hanno un pedone, un segnale stradale o un post violento, i sistemi dipendono da persone che etichettano e ordinano i dati. A Nairobi, Ian Koli può impiegare otto ore a contrassegnare un’ora di riprese stradali per i sistemi delle auto a guida autonoma. Lavoratori in Kenya, Bulgaria e altrove contribuiscono anche a preparare i dati alla base dei social media, degli acquisti online e dei chatbot.
Lo strato umano scompare. I lavoratori potrebbero non conoscere il cliente, il prodotto o il modo in cui il loro compito confluisce nel sistema finale. Anche i moderatori di contenuti contribuiscono ad addestrare i software, valutando materiali che le piattaforme preferirebbero non mostrare mai agli utenti. L’apparente autonomia dell’IA dipende da una catena di approvvigionamento umana che si estende in tutto il mondo.
Colpisce che questo lavoro non sia un semplice supporto fisico a un processo tecnico. Gli annotatori compiono scelte interpretative su immagini e istruzioni ambigue: il loro giudizio fa quindi parte dell’apparente intelligenza del sistema. Nascondere il loro contributo può occultare tanto le responsabilità quanto i costi. La vicenda, però, non porta a una conclusione facile: questi impieghi possono offrire reddito e competenze digitali, pur lasciando ai lavoratori poca visibilità o influenza. Contare i posti di lavoro creati non basta dunque a stabilire se un’economia basata sull’IA sia equa.
Valutare i lavori nell’IA in base alla voce dei lavoratori, non solo al reddito
Le opportunità possono essere concrete. Il lavoro di Ian presso Sama lo ha aiutato a passare da impieghi informali precari a un’occupazione stabile, a collegare casa sua alla banda larga e a frequentare l’università grazie a una borsa di studio. Hiba, rifugiata in Bulgaria, apprezzava la flessibilità del lavoro di annotazione, che le permetteva di guadagnare mentre si prendeva cura della famiglia. Impieghi di questo tipo possono offrire reddito, competenze e la possibilità di immaginare un futuro diverso.
La sicurezza ha i suoi limiti. Quando Hiba contestò una nuova regola sui turni, l’azienda le sospese per trenta giorni l’accesso alla piattaforma. La perdita del reddito di dicembre costrinse la sua famiglia a chiedere un prestito. Separatamente, l’ex moderatore di contenuti Daniel Motaung ha accusato Sama e Meta di aver sfruttato i lavoratori e di averlo licenziato perché cercava di organizzarli; le aziende hanno contestato le accuse nel procedimento ancora in corso. Secondo quanto riferito, veniva pagato circa 2,20 dollari l’ora e il lavoro comportava l’esame di contenuti espliciti.
Il reddito e la possibilità di far sentire la propria voce sono dimensioni distinte della qualità di un lavoro. Un impiego può ampliare le scelte immediate di una famiglia e al tempo stesso scoraggiare i lavoratori dal mettere in discussione le regole che le determinano. L’economia del lavoro distingue spesso tra avere accesso a un impiego e avere potere contrattuale sulle sue condizioni; queste storie rendono concreta la distinzione. Il confronto non dovrebbe cancellare i vantaggi descritti dai lavoratori né dare per scontato che ogni lavoro esternalizzato sia abusivo. Suggerisce però che, per valutare le aziende a impatto sociale, occorra chiedersi se i lavoratori possano sollevare problemi senza rischiare di perdere i mezzi di sostentamento.
Usare l’IA clinica come secondo parere, mai come sostituto delle cure
La rapidità può salvare vite. In un ospedale indiano isolato, la dottoressa Ashita Singh usava un’app per valutare le radiografie in cerca di tubercolosi. Quando arrivò un quattordicenne in condizioni critiche, l’app segnalò una possibile tubercolosi e avvalorò la decisione di Ashita di iniziare il trattamento, anziché aspettare giorni i risultati di un laboratorio lontano. Il paziente guarì. In un ospedale senza radiologi, uno strumento di screening convalidato può ridurre il tempo che passa tra una radiografia e l’attenzione di un medico.
Il contesto resta importante. Durante la pandemia di Covid-19, il sistema a volte confondeva la tubercolosi con il Covid, perché le immagini dei polmoni possono apparire simili. Ashita segnalò il problema e gli sviluppatori aggiunsero una fase di screening per la tubercolosi. Il caso mostra una collaborazione efficace: i medici possono mettere alla prova uno strumento, individuarne i limiti e contribuire a migliorarlo, restando responsabili della diagnosi e della cura.
È un modello di automazione medica migliore sia della sostituzione dei medici sia del liquidare il software come intrinsecamente pericoloso. Lo strumento amplia una capacità diagnostica scarsa, mentre il medico apporta contesto e responsabilità e instaura un rapporto con il paziente. Il caso mostra anche perché le condizioni di utilizzo siano importanti: uno screening accurato è utile solo se qualcuno può confermare il risultato e fornire le cure. Non si dovrebbe presumere che un sistema collaudato in un contesto sia affidabile altrove, soprattutto quando cambiano le malattie, le attrezzature e le popolazioni di pazienti.
Verificare il parametro sostitutivo del modello, non soltanto la sua accuratezza
Una misura elegante può trarre in inganno. Un algoritmo sanitario utilizzato da un importante fornitore statunitense stimava le esigenze dei pazienti in base alle loro spese sanitarie annuali. Sembrava ragionevole, perché spesso la malattia comporta maggiori spese. Ma i pazienti neri possono ricevere meno cure a causa degli ostacoli all’accesso e della discriminazione: una spesa inferiore, quindi, non indicava un bisogno minore. I ricercatori hanno scoperto che il sistema assegnava ai pazienti neri una priorità molto più bassa per ottenere ulteriore assistenza. Sostituire la spesa con una misura più adeguata dei bisogni di salute ha ridotto la distorsione.
I parametri sostitutivi si portano dietro la storia. Un parametro sostitutivo è una misura indiretta usata quando la caratteristica che si vorrebbe osservare è difficile da rilevare direttamente. Il modello non aveva bisogno di una variabile relativa alla razza per produrre disuguaglianze razziali: apprendeva da una misura plasmata dall’accesso diseguale alle cure. Rischi analoghi si presentano ogni volta che un sistema tratta le attività registrate come un’immagine neutrale delle circostanze delle persone.
La domanda fondamentale da porsi durante una verifica non è soltanto se un modello preveda con precisione il risultato scelto, ma se quel risultato debba davvero orientare la decisione. L’accuratezza può essere matematicamente impeccabile e socialmente fuori bersaglio. La distinzione è utile ben oltre la sanità: le spese, gli arresti o le prestazioni passate possono riflettere opportunità diseguali tanto quanto bisogni o capacità sottostanti. La scelta dei parametri sostitutivi, tuttavia, non può essere risolta con le sole verifiche tecniche. Richiede di decidere quali errori contino di più e chi debba pagarne il prezzo.
I sistemi predittivi possono trasformare le pratiche di polizia di ieri nei sospetti di domani
Gli arresti diventano una previsione. Il sistema ProKid di Amsterdam utilizzava i registri della polizia e altre informazioni per individuare i minori considerati a rischio di commettere reati in futuro. I dati di addestramento includevano gli arresti, non la prova che una persona avesse commesso un reato. Poiché l’attenzione della polizia era già concentrata su alcune comunità di immigrati, un maggior numero di contatti poteva generare più registrazioni, che a loro volta avrebbero potuto rafforzare i sospetti del sistema.
Un’etichetta cambia il comportamento. I figli di Diana Sardjoe furono inseriti negli elenchi del Comune, compreso uno basato anche su ProKid. La famiglia ha raccontato di visite intrusive, stigmatizzazione e difficoltà a contestare la decisione. Secondo Diana, il figlio maggiore, che non era stato condannato per alcun reato, cominciò a commettere reati dopo che l’etichetta e la sorveglianza ne avevano compromesso il senso delle proprie possibilità. Il calo degli arresti riferito durante il programma non dimostrava che il miglioramento fosse stato causato dall’algoritmo, né che i danni fossero giustificati.
La previsione non è passiva quando le istituzioni agiscono in base al punteggio. Un’etichetta di rischio può modificare le opportunità e il livello di sorveglianza a cui una persona è sottoposta; i dati risultanti possono quindi registrare in parte gli effetti dell’intervento stesso. È un problema di retroazione, non soltanto un difetto tecnico. Un aiuto tempestivo può essere prezioso, ma il sostegno diventa coercitivo quando le famiglie non possono capire perché siano state selezionate, rifiutare l’intervento o correggere i dati. L’attenzione del libro al perdono solleva un’importante domanda: il passato di un bambino deve diventare una previsione permanente?
Un’immagine intima falsa può causare un danno reale e duraturo
Il corpo può essere falsificato. Un deepfake è un’immagine o un video realistico generato o manipolato con l’IA. La poetessa Helen Mort ha scoperto immagini che usavano il suo volto in scene inventate di violenza sessuale. L’avvocata australiana Noelle Martin ha trovato online immagini sessuali ritoccate che la ritraevano e in seguito ha scoperto video generati con l’IA. Nessuna delle due aveva acconsentito alla creazione o alla diffusione di quei contenuti, e la rimozione di una copia non poteva impedire che altre continuassero a circolare.
La diffusione supera le possibilità di ricorso. Uno studio del 2019 citato nel libro stimava che circa il 95 per cento dei video deepfake online fosse pornografia non consensuale e che quasi tutte le vittime fossero donne. Le leggi e le risposte delle piattaforme erano disomogenee, lasciando alle vittime il compito di chiedere la rimozione dei contenuti o intraprendere percorsi legali difficili. L’attivismo di Noelle ha contribuito a modificare la legge australiana, includendovi le immagini intime alterate: la sua testimonianza pubblica ha dimostrato che un danno privato può diventare una questione politica.
La distinzione fondamentale è tra l’autenticità di un’immagine e la realtà della violazione. Il fatto che sia contraffatta non rende immaginaria la perdita di privacy, sicurezza o reputazione. Le copie digitali modificano anche la durata degli abusi: un’immagine può riapparire quando l’episodio originario è ormai scomparso dall’attenzione pubblica. Le tutele legali devono affrontare la creazione, la diffusione e la persistenza dei contenuti, proteggendo al contempo la libertà di espressione. Una risposta puramente tecnica, come migliorare i sistemi di rilevamento, non può stabilire chi debba assumersi le responsabilità né offrire sostegno alle vittime.
Il riconoscimento facciale può trasformare gli spazi pubblici in posti di controllo della vita quotidiana
Identificare cambia la strada. I sistemi di riconoscimento facciale confrontano un volto con immagini archiviate, ma gli errori non sono distribuiti in modo uniforme. Lo studio Gender Shades ha rilevato, nei sistemi esaminati, tassi di errore inferiori all’1 per cento per gli uomini dalla pelle chiara e fino al 35 per cento per le donne dalla pelle più scura. Le identificazioni errate hanno contribuito ad arresti ingiustificati. Anche una corrispondenza corretta può permettere alle autorità di seguire le persone che si riuniscono, protestano o semplicemente attraversano spazi pubblici.
La sorveglianza cambia il comportamento. A Londra, artiste e artisti hanno fondato il Dazzle Club e usato trucchi mimetici per il volto, pensati per confondere i software di riconoscimento e trasformare la sorveglianza in un dibattito pubblico visibile. In altri contesti descritti nel libro, le reti di telecamere sono state usate per identificare i manifestanti e sorvegliare le comunità emarginate. La questione non è solo se un sistema sappia riconoscere un volto, ma chi controlli i dati e quali conseguenze ne derivino.
Accuratezza e legittimità sono due criteri diversi. Un sistema perfettamente accurato potrebbe comunque rendere la vita pubblica meno libera, se le persone venissero identificate senza preavviso, consenso o una ragione valida. Al contrario, un sistema con tassi di errore diseguali può esporre alcuni gruppi a un rischio maggiore di detenzione o sospetto. L’azione del Dazzle Club rende concreta una questione astratta: le persone vivono la sorveglianza come un cambiamento nel modo in cui possono occupare gli spazi condivisi. Le dichiarazioni di pubblica sicurezza richiedono dunque limiti, controlli indipendenti e regole chiare sulla conservazione e sull’uso dei dati.
Dare ai lavoratori gestiti dagli algoritmi i dati e il potere contrattuale per contestare il capo
È l’app a stabilire le condizioni. Le piattaforme di consegna e di trasporto con conducente usano algoritmi per assegnare il lavoro, calcolare la paga, valutare le prestazioni e segnalare possibili frodi. Il corriere Armin Samii ha creato UberCheats dopo aver sospettato che l’app avesse sottostimato le distanze dei suoi tragitti di consegna. Su circa 6.000 corse inserite dagli utenti, il 17 per cento sembrava retribuito in modo insufficiente, in media di 1,35 miglia per corsa. Gli autisti non potevano verificare facilmente da soli i calcoli dell’azienda.
I lavoratori possono confrontare le informazioni. I corrieri si scambiano consigli, organizzano proteste e raccolgono insieme dati sui guadagni tramite gruppi e iniziative guidate dai lavoratori. Nel Regno Unito, una sentenza della Corte Suprema ha riconosciuto gli autisti di Uber come lavoratori aventi diritto a tutele quali il salario minimo e le ferie retribuite. Questi esempi mostrano che la mancanza di trasparenza non è inevitabile: l’accesso ai registri, la possibilità di ricorso a una persona e l’organizzazione collettiva possono offrire ai lavoratori modi per contestare le decisioni automatizzate.
La gestione algoritmica trasforma il rapporto di lavoro in una disputa sulle informazioni. La piattaforma vede gli schemi ricorrenti in migliaia di corse; il singolo autista vede un pagamento e una spiegazione vaga. La raccolta collettiva di dati contribuisce a colmare questa asimmetria, mentre il diritto del lavoro può chiarire che il software non annulla gli obblighi del datore di lavoro. Non tutte le discrepanze nei pagamenti dimostrano una retribuzione insufficiente deliberata e lo strumento non spiegava ogni errore. Il suo valore stava nel rendere verificabile un calcolo nascosto e nel fornire ai lavoratori elementi da discutere insieme.
Considerare l’IA fluente un motore di schemi fallibile, non un esperto che sa
La fluidità può simulare la certezza. I modelli linguistici di grandi dimensioni generano testi prevedendo sequenze di parole probabili in base agli schemi presenti nei dati di addestramento. Non sono motori di ricerca che verificano i fatti e possono inventare nomi, casi o fonti. L’avvocato newyorkese Steven Schwartz ha citato casi fittizi generati da ChatGPT perché aveva scambiato il sistema per uno strumento di ricerca. Una risposta sicura di sé non dimostra che il sistema capisca o abbia verificato le proprie affermazioni.
Gli input hanno delle conseguenze. I sistemi generativi vengono addestrati su enormi raccolte di scritti, opere d’arte, immagini e voci umane. Il libro racconta di creativi che hanno perso incarichi o a cui è stato chiesto di rivedere lavori più economici generati dall’IA, basati su materiali simili ai loro. Anche un esercizio di simulazione avversaria in chimica ha mostrato che un modello può abbassare gli ostacoli pratici alla progettazione di un composto pericoloso. Dalla stessa capacità di individuare schemi possono derivare risultati utili e rischi gravi.
La parola «comprensione» induce gli utenti ad attribuire intenzionalità e affidabilità, che non sono garantite. Considerare i modelli linguistici sistemi di previsione aiuta a chiarirne i punti di forza: stesura rapida, rielaborazione e assistenza nelle attività di routine. Chiarisce anche quando sia essenziale verificare, soprattutto nel diritto, nella medicina e nei lavori in cui la sicurezza è fondamentale. La questione del lavoro creativo solleva un problema distinto dall’accuratezza: anche un risultato tecnicamente notevole può dipendere da un uso contestato del lavoro altrui. Strumenti migliori non risolvono le questioni del consenso, del compenso o della paternità.
Predisporre una procedura di ricorso prima di automatizzare decisioni importanti
Le persone devono poter rientrare nel processo. Il gruppo Foxglove, guidato dall’avvocata Cori Crider, ha contestato i sistemi britannici usati per classificare le domande di visto e assegnare i voti agli esami. Nel 2020, le proteste e la pressione legale hanno contribuito ad annullare un algoritmo di valutazione degli esami che penalizzava molti studenti provenienti da scuole con risultati inferiori. Anche i lavoratori hanno portato le piattaforme in tribunale per trattenute automatiche sulla paga e sospensioni, ottenendo in alcuni casi accesso ai propri dati e una revisione umana.
I diritti richiedono strumenti pratici. Chi subisce gli effetti di una decisione automatizzata deve sapere che è stato usato un sistema automatico, capirne i criteri, correggere le informazioni pertinenti e raggiungere qualcuno che abbia il potere di riesaminare la decisione. Un’avvertenza o un revisore umano solo nominale non bastano se quest’ultimo non può modificare il risultato. Le azioni legali, i sindacati, il giornalismo e i gruppi di comunità possono trasformare le lamentele isolate in un problema di responsabilità pubblica.
Il ricorso non è un ripensamento amministrativo. È una tutela contro l’inevitabile discrepanza tra una categoria statistica e la vita di una persona. I principi del giusto processo, come la notifica, la spiegazione e la possibilità di contestare una decisione, diventano particolarmente importanti quando i sistemi automatizzati sono difficili da esaminare. I casi mostrano anche i limiti delle cause legali: le vittorie in tribunale possono aprire una porta senza rivelare tutte le regole del modello né modificare gli incentivi più ampi delle imprese. Per garantire una responsabilità effettiva servono sia rimedi individuali sia forme di controllo collettivo.
Valutare l’IA in base alla tutela della dignità umana, non alla novità
I valori devono essere definiti collettivamente. A Roma, leader religiosi, aziende tecnologiche e istituzioni pubbliche hanno aderito all’Appello di Roma (Rome Call), un impegno volontario che propone principi etici per l’IA. Tra questi figurano la spiegabilità, l’inclusione, la privacy e la responsabilità. Il libro sostiene che un insieme di regole scritto da un’azienda non può rappresentare da solo l’umanità, soprattutto quando le persone su cui ricade l’impatto dell’IA hanno poca influenza sulla sua progettazione.
Porsi le domande prima di mettere in uso un sistema. Il criterio pratico non è semplicemente se un sistema funzioni, ma chi ne tragga vantaggio, chi ne subisca gli errori e se le persone coinvolte possano scegliere un decisore umano o contestare il risultato. Uno strumento sanitario può raggiungere i pazienti i cui dati hanno contribuito a costruirlo? I lavoratori possono vedere come viene calcolata la paga? Una persona può far rimuovere immagini intime o contestare un’etichetta di rischio? Queste domande mettono la dignità e la capacità di agire delle persone davanti allo spettacolo tecnologico.
Il criterio più duraturo proposto dal libro non è essere a favore o contro l’IA. È chiedersi se un sistema ampli le reali capacità delle persone senza renderle più facili da sfruttare, classificare o mettere a tacere. Questo criterio accoglie lo strumento diagnostico di Ashita e condanna i sistemi opachi che puniscono le persone senza possibilità di ricorso. Gli impegni etici volontari possono fornire un linguaggio condiviso, ma non sostituire norme vincolanti o la partecipazione pubblica. Il difficile è decidere quali valori contino, come risolvere i conflitti e chi resti responsabile quando una decisione automatizzata causa un danno.
Analisi
Essere umani è un’inchiesta basata su storie di vita incontrate ai margini del potere tecnologico: annotatori di dati a Nairobi, una madre ad Amsterdam, una dottoressa in una zona rurale dell’India, lavoratori delle consegne, artisti e persone sottoposte a sorveglianza. L’argomento centrale non è che l’IA sia uniformemente dannosa. La stessa capacità di individuare schemi che può aiutare un medico a identificare la tubercolosi può rafforzare i pregiudizi razziali nell’assistenza sanitaria o trasformare un registro di polizia in una previsione di futura criminalità. A fare la differenza sono il modo in cui il sistema viene costruito, il luogo in cui viene usato e chi può contestarne le conseguenze.
La mossa concettuale più efficace del libro è considerare l’IA un’istituzione, anziché un’invenzione isolata. I modelli dipendono dal lavoro, dai dati, dalle infrastrutture pubbliche, dalle norme giuridiche e dagli incentivi organizzativi. La loro apparente indipendenza può nascondere queste dipendenze e rendere più difficile individuare dove risiede il potere. Ciò spiega anche perché l’accuratezza tecnica non sia una misura sufficiente del valore sociale. Un modello può prevedere bene un risultato circoscritto, mentre quel risultato incorpora un trattamento diseguale o l’intervento crea danni che la metrica non conta.
Il confronto tra lo strumento clinico di Ashita e il sistema di valutazione del rischio per i giovani di Amsterdam è particolarmente istruttivo. Ashita conserva competenze, contesto e responsabilità, e il software sostiene il suo giudizio anziché sostituirlo. Le famiglie prese di mira dalla polizia predittiva disponevano di molte meno informazioni e di scarse possibilità di rifiutare. La differenza non consiste semplicemente nello scegliere tra esseri umani e macchine. Sta nel verificare se chi subisce gli effetti di una decisione abbia un rapporto significativo con il processo che la determina.
Il racconto non risolve del tutto come bilanciare i vantaggi dell’automazione e i pericoli del controllo concentrato. Ma la sua indagine rende questa tensione concreta, anziché astratta. La risposta è istituzionale: rendere trasparenti i sistemi, testarli, garantire un compenso, offrire possibilità di ricorso e coinvolgere le comunità interessate prima che i sistemi diventino infrastrutture. La dignità umana non è un valore etico ornamentale da aggiungere dopo l’implementazione. È il criterio per stabilire se un sistema meriti davvero di esercitare autorità.
Sintesi delle recensioni
Essere umani di Madhumita Murgia esplora l'impatto dell'IA sulla società, concentrandosi sulle comunità emarginate e sulle questioni etiche. I lettori ne apprezzano l'accessibilità, la narrazione coinvolgente e la prospettiva equilibrata sui potenziali benefici e rischi dell'IA. Il libro mette in luce temi quali il colonialismo dei dati, i bias algoritmici e lo sfruttamento dei lavoratori nel settore dell'IA. Sebbene alcuni critici rilevino una carenza di approfondimento tecnico e di soluzioni, la maggior parte elogia la capacità di Murgia di umanizzare argomenti complessi e stimolare una riflessione critica sul futuro sempre più guidato dall'IA.
Altri hanno letto anche
Glossario
colonialismo dei dati
Estrarre valore dalle viteUn quadro interpretativo per comprendere come istituzioni potenti trasformino le attività quotidiane, le relazioni e le informazioni personali delle persone in risorse da utilizzare a fini economici o politici. Il libro collega questa estrazione a modelli coloniali più antichi: valore e controllo si concentrano presso organizzazioni lontane, mentre le comunità coinvolte hanno spesso poca voce in capitolo sui dati, sui sistemi che ne derivano o su chi ne trae beneficio.
lavoro fantasma (ghost work)
Lavoro umano invisibile per l'IALavoro umano che sostiene i servizi digitali restando in gran parte invisibile agli utenti e, talvolta, agli stessi lavoratori. Nell'IA comprende attività come etichettare immagini, classificare testi e moderare contenuti, affinché i sistemi possano essere addestrati o funzionare. Il termine sottolinea che prodotti apparentemente automatizzati dipendono spesso da lavoratori dispersi, il cui contributo e le cui condizioni di lavoro vengono nascosti.
bias da automazione
Eccessivo affidamento sui consigli automatizzatiLa tendenza delle persone a fidarsi troppo facilmente dei risultati automatizzati o a rimettersi a essi nel prendere decisioni. Nell'esempio medico del libro, un professionista potrebbe prestare meno attenzione all'anamnesi o alla visita del paziente se il punteggio dell'IA viene considerato autorevole. Il rischio non è che l'automazione sbagli sempre, ma che gli utenti smettano di verificarne le ipotesi e i limiti.
deepfake
Contenuti creati o alterati con l'IAUn'immagine, una registrazione audio o un video realistici, realizzati o manipolati con l'intelligenza artificiale. Il libro si concentra in particolare sulle immagini sessuali non consensuali, in cui il volto o le sembianze di una persona vengono inseriti in scene intime inventate. Poiché questi contenuti possono essere prodotti e copiati facilmente, le vittime possono subire danni duraturi anche quando un determinato sito rimuove una versione.
ProKid
Valutazione olandese del rischio giovanileUn sistema di apprendimento automatico sviluppato con la polizia olandese per stimare la probabilità che giovani vengano arrestati in futuro. Utilizzava i precedenti di polizia e altre informazioni, compresi i contatti che coinvolgevano un minore, i familiari o i coetanei. Il libro sottolinea che i dati sugli arresti non equivalgono alla prova di un comportamento criminale e che un intervento basato su un punteggio può intensificare la sorveglianza e lo stigma.
Piattaforma integrata per le operazioni congiunte (Integrated Joint Operations Platform, IJOP)
Sistema di sorveglianza dello XinjiangUna piattaforma di dati utilizzata dalle autorità nella regione cinese dello Xinjiang per combinare informazioni sugli spostamenti, i dispositivi, i dati biometrici, le relazioni e i comportamenti delle persone. Maya Wang, ricercatrice di Human Rights Watch, ha esaminato un'applicazione collegata e ha individuato indicatori in grado di segnalare come sospette pratiche sociali o religiose ordinarie. Il libro descrive la piattaforma come parte della sorveglianza e della detenzione mirate contro i musulmani uiguri.
modello linguistico di grandi dimensioni (LLM)
Sistema che prevede schemi testualiUn tipo di IA addestrata su grandi raccolte di testi per generare sequenze di parole probabili in risposta a richieste. I modelli linguistici di grandi dimensioni possono produrre spiegazioni, racconti o codice scorrevoli, ma la fluidità non garantisce l'accuratezza fattuale né la comprensione umana. Possono inventare dettagli, fonti o casi, perciò le affermazioni rilevanti richiedono una verifica indipendente.
algoretica (algor-ethics)
Etica integrata negli algoritmiUn termine usato nell'Appello di Roma per descrivere il tentativo di integrare valori umani e garanzie etiche nella progettazione e nell'implementazione dell'IA. La proposta sottolinea che i sistemi utilizzati per prendere decisioni dovrebbero rispettare la dignità umana e prevedere il coinvolgimento delle persone quando i valori o la sicurezza sono incerti. Viene presentata come un quadro etico condiviso, non come una legge vincolante.
Appello di Roma (Rome Call)
Impegno volontario per l'etica dell'IAUn impegno promosso dal consigliere vaticano Paolo Benanti per coinvolgere aziende tecnologiche, istituzioni pubbliche e rappresentanti religiosi nel dibattito sull'IA responsabile. Tra i suoi principi figurano spiegabilità, inclusione, privacy e responsabilità. Il libro lo presenta come un tentativo di ampliare la platea di voci che contribuiscono a definire i valori dell'IA, osservando però che le adesioni volontarie non obbligano legalmente le organizzazioni a rispettarli.
Gender Shades
Studio sui bias nell'analisi faccialeUno studio di Joy Buolamwini, Timnit Gebru e dei loro collaboratori che ha confrontato l'accuratezza di sistemi commerciali di analisi facciale tra gruppi distinti per tonalità della pelle e genere. I risultati hanno rilevato tassi di errore molto più elevati per le donne con la pelle più scura rispetto agli uomini con la pelle chiara nei sistemi esaminati. Il libro utilizza lo studio per mostrare come l'accuratezza complessiva possa nascondere rischi disuguali per specifiche fasce della popolazione.
FAQ
Di cosa parla Essere umani?
- Esplorazione dell'impatto dell'IA: Il libro esamina come l'IA stia trasformando diversi aspetti della vita umana, tra cui il lavoro, la salute, l'identità e la libertà. Approfondisce le conseguenze della nostra crescente dipendenza dalle tecnologie di IA.
- Storie personali: L'autrice Madhumita Murgia racconta incontri reali con l'IA, mettendo in luce le esperienze delle persone coinvolte da queste tecnologie. Questo approccio narrativo rende le implicazioni dell'IA più concrete e vicine al lettore.
- Prospettiva critica: Murgia critica i rapporti di potere e le questioni etiche legati all'IA, soprattutto il modo in cui può perpetuare le disuguaglianze e incidere sulle comunità emarginate. Il libro invita ad accrescere la consapevolezza e la responsabilità nello sviluppo dell'IA.
Perché leggere Essere umani?
- Un tema attuale: Con l'IA sempre più integrata nella vita quotidiana, è fondamentale comprenderne le implicazioni. Questo libro offre spunti su come l'IA incida sulle persone e sulla società.
- Narrazioni coinvolgenti: Murgia ricorre a storie personali per rendere accessibili e appassionanti temi complessi. I lettori possono entrare in sintonia con le esperienze umane che si celano dietro la tecnologia.
- Analisi critica: Il libro incoraggia a riflettere criticamente sulle implicazioni etiche e sociali dell'IA. Mette in discussione l'idea che la tecnologia sia intrinsecamente vantaggiosa e invita a considerare le conseguenze del suo impiego.
Quali sono i punti principali di Essere umani?
- La diffusione capillare dell'IA: L'IA è ormai presente in molti ambiti della vita, dalla sanità al lavoro, e influenza decisioni che incidono sulla nostra quotidianità. Comprendere questa integrazione è essenziale per orientarsi nella società moderna.
- Colonialismo dei dati: Il libro tratta il colonialismo dei dati, ossia lo sfruttamento a fini di lucro dei dati delle comunità emarginate, senza il loro consenso o beneficio. Questo evidenzia la necessità di considerazioni etiche nell'uso dei dati.
- Autonomia umana: Murgia sottolinea l'importanza di preservare l'autonomia umana di fronte ai sistemi automatizzati. Il libro promuove un equilibrio tra progresso tecnologico e responsabilità etica.
Quali sono le citazioni più significative di Essere umani e che cosa significano?
- «In definitiva, siamo noi i prodotti.»: Questa frase sottolinea come le aziende tecnologiche mercifichino i nostri dati, trasformando le persone in prodotti da cui ricavare profitto. Evidenzia la necessità di essere consapevoli dell'uso delle informazioni personali.
- «La nostra cecità sul funzionamento dei sistemi di IA ci impedisce di capire davvero quando qualcosa va storto.»: Questa affermazione riflette i pericoli di affidarsi a sistemi di IA opachi senza comprenderne i meccanismi. È un invito alla trasparenza e alla responsabilità nello sviluppo dell'IA.
- «Il potere è concentrato nelle mani di poche aziende.»: Questa frase indica le tendenze monopolistiche del settore tecnologico, in cui un numero ristretto di imprese controlla enormi quantità di dati e influenza. Solleva questioni di equità e accesso nell'era digitale.
In che modo Essere umani affronta il concetto di colonialismo dei dati?
- Definizione di colonialismo dei dati: Murgia descrive il colonialismo dei dati come lo sfruttamento a fini di lucro dei dati delle comunità emarginate, spesso senza che ne siano consapevoli o vi acconsentano. Il concetto critica i rapporti di potere insiti nella raccolta dei dati.
- Impatto sulle comunità: Il libro mostra come il colonialismo dei dati perpetui le disuguaglianze esistenti, colpendo in particolare le popolazioni vulnerabili. Sottolinea la necessità di pratiche etiche nell'uso dei dati, che rispettino i diritti delle persone.
- Un invito all'azione: Murgia promuove una maggiore consapevolezza e una regolamentazione più rigorosa delle pratiche relative ai dati, per proteggere le comunità emarginate. Il libro invita a riflettere sulle implicazioni dell'uso dei propri dati nei sistemi di IA.
In che modo Essere umani esplora il rapporto tra IA e sanità?
- L'IA nella diagnostica medica: Murgia discute di come le tecnologie di IA vengano utilizzate per migliorare la diagnosi e l'assistenza ai pazienti. Tra le applicazioni figurano l'individuazione delle malattie e la personalizzazione dei piani terapeutici.
- Questioni etiche: Il libro solleva interrogativi sulle implicazioni etiche dell'IA in sanità, in particolare riguardo alla riservatezza dei dati e al rischio di bias negli algoritmi. Sottolinea la necessità di garantire un accesso equo alle soluzioni sanitarie basate sull'IA.
- Supervisione umana: Murgia sostiene che sia importante mantenere la supervisione umana sulle decisioni mediche, anche con la crescente diffusione dell'IA. Il libro promuove un approccio collaborativo tra tecnologia e professionisti sanitari.
Quali sono le implicazioni dell'IA per l'identità personale, secondo Essere umani?
- Identità e sorveglianza: Murgia esamina come le tecnologie di IA, in particolare il riconoscimento facciale, possano incidere sull'identità personale e sulla privacy. Il libro tratta i rischi della sorveglianza costante e le conseguenze per l'autonomia individuale.
- Rappresentazione attraverso i dati: Il libro evidenzia come spesso le persone vengano ridotte a punti dati nei sistemi di IA, che possono rappresentare in modo distorto la loro identità. Ciò solleva dubbi sull'accuratezza e l'equità delle decisioni algoritmiche.
- Impatto culturale: Murgia analizza come l'IA possa rafforzare stereotipi e bias, influenzando il modo in cui le persone vengono percepite in base alla loro identità. Il libro invita a una comprensione più sfumata dell'identità nel contesto dell'IA.
In che modo Essere umani affronta il futuro dell'IA?
- Previsioni e tendenze: Murgia discute le tendenze emergenti nell'IA, compresa l'IA generativa e il suo potenziale di trasformare le industrie creative. Il libro riflette su come questi progressi possano modificare ulteriormente l'esperienza umana.
- Cambiamenti sociali: Il libro esplora le più ampie implicazioni sociali dell'IA, tra cui i cambiamenti nel lavoro, nell'istruzione e nelle relazioni sociali. Murgia sottolinea la necessità di misure preventive per affrontarli.
- Quadri etici: Murgia promuove lo sviluppo di quadri etici che orientino il futuro dell'IA. Il libro invita a riflettere su come la società possa indirizzare la tecnologia affinché serva l'umanità, anziché il contrario.
Quali sono le difficoltà legate all'implementazione dell'IA messe in luce in Essere umani?
- Limiti tecnici: Murgia discute le difficoltà tecniche dell'implementazione dei sistemi di IA, tra cui i problemi di accuratezza e affidabilità. Questi limiti possono ridurre l'efficacia dell'IA in varie applicazioni.
- Bias e disuguaglianza: Il libro evidenzia il rischio che i bias negli algoritmi di IA perpetuino le disuguaglianze esistenti. Murgia chiede un esame più rigoroso delle fonti dei dati e della progettazione degli algoritmi, per ridurre tali rischi.
- Fiducia del pubblico: Murgia sottolinea l'importanza di conquistare la fiducia del pubblico nelle tecnologie di IA. Il libro sostiene che trasparenza e responsabilità siano essenziali per promuovere la fiducia nei sistemi di IA.
In che modo Essere umani suggerisce di riappropriarci della nostra autonomia in un mondo guidato dall'IA?
- Consapevolezza e formazione: Murgia promuove una maggiore consapevolezza e formazione sulle tecnologie di IA e sulle loro implicazioni. Comprendere il funzionamento dell'IA è essenziale per orientarsi nei suoi effetti sulla propria vita.
- Azione collettiva: Il libro incoraggia l'azione collettiva per chiedere pratiche etiche nello sviluppo e nell'implementazione dell'IA. Murgia ritiene che le comunità possano collaborare per chiedere conto alle aziende delle loro responsabilità.
- Potere attraverso la conoscenza: Murgia sottolinea quanto sia importante mettere le persone in condizione di conoscere i propri dati e i propri diritti. Questa consapevolezza può aiutarle a riappropriarsi della propria autonomia in un mondo sempre più automatizzato.
In che modo Essere umani affronta la questione dell'IA sul posto di lavoro?
- Attenzione alla gig economy: Il libro esplora le esperienze dei lavoratori della gig economy, che si confrontano con condizioni di impiego precarie aggravate dai sistemi di IA. Murgia evidenzia come gli algoritmi determinino l'assegnazione del lavoro e la retribuzione, spesso a scapito dei lavoratori.
- Storie umane: Attraverso racconti personali, l'autrice illustra il peso emotivo ed economico del lavoro nella gig economy guidata dall'IA. Queste storie danno un volto umano alle statistiche e alle tendenze del lavoro occasionale tramite piattaforme.
- Promozione di pratiche eque: Murgia chiede salari equi e migliori condizioni di lavoro per chi lavora tramite piattaforme, sottolineando la necessità di azione collettiva e solidarietà. Sostiene che le considerazioni etiche debbano essere integrate nella progettazione dei sistemi di IA che incidono sul lavoro.
Che ruolo hanno gli attivisti nella narrazione di Essere umani?
- Voci di resistenza: Il libro presenta attivisti che contestano lo status quo e promuovono pratiche etiche nell'ambito dell'IA. Le loro storie mettono in luce l'importanza dei movimenti dal basso nel promuovere il cambiamento.
- Azione collettiva: Murgia sottolinea il potere dell'azione collettiva nell'affrontare le sfide poste dall'IA e dal colonialismo dei dati. Gli attivisti lavorano per sensibilizzare e mobilitare le comunità affinché chiedano conto alle aziende tecnologiche delle loro responsabilità.
- Rafforzare le comunità attraverso l'attivismo: L'autrice mostra come l'attivismo possa aiutare le comunità emarginate a rivendicare i propri diritti e a far valere le proprie esigenze. Ciò comprende la lotta per un trattamento equo nella gig economy e la richiesta di trasparenza nei sistemi di IA.
Scarica PDF
Scarica EPUB
.epub è ideale per leggere ebook su telefoni, tablet ed e-reader.