Inizia la prova gratuita
Tendenze Novità Generi Autori
EnglishEnglish
EspañolSpanish
简体中文Chinese
繁體中文Chinese (Traditional)
FrançaisFrench
DeutschGerman
日本語Japanese
PortuguêsPortuguese
ItalianoItalian
한국어Korean
РусскийRussian
NederlandsDutch
العربيةArabic
PolskiPolish
हिन्दीHindi
Tiếng ViệtVietnamese
SvenskaSwedish
ΕλληνικάGreek
TürkçeTurkish
ไทยThai
ČeštinaCzech
RomânăRomanian
MagyarHungarian
УкраїнськаUkrainian
IndonesiaIndonesian
DanskDanish
SuomiFinnish
БългарскиBulgarian
עבריתHebrew
NorskNorwegian
HrvatskiCroatian
CatalàCatalan
SlovenčinaSlovak
LietuviųLithuanian
SlovenščinaSlovenian
СрпскиSerbian
EestiEstonian
LatviešuLatvian
فارسیPersian
മലയാളംMalayalam
தமிழ்Tamil
اردوUrdu
Ricerca in corso...
SoBrief
Essere umani

Essere umani

Titolo originale: Code Dependent
Ciò che l'IA nasconde: i lavoratori, i pazienti e i cittadini le cui vite ne rivelano il vero potere.
di Madhumita Murgia 2024 309 pagine
4.03
3.000+ valutazioni
Ascolta
Immersivi
V2.3
Amazon Kindle Audible
Prova l'accesso completo per 3 giorni
Sblocca l'ascolto e molto altro!
Continua

Punti chiave

Ogni sistema di IA comincia con il lavoro umano che preferisce nascondere

Sono le persone a etichettare per prime il mondo. L’apprendimento automatico è un software che individua schemi statistici in grandi raccolte di esempi. Per imparare che aspetto hanno un pedone, un segnale stradale o un post violento, i sistemi dipendono da persone che etichettano e ordinano i dati. A Nairobi, Ian Koli può impiegare otto ore a contrassegnare un’ora di riprese stradali per i sistemi delle auto a guida autonoma. Lavoratori in Kenya, Bulgaria e altrove contribuiscono anche a preparare i dati alla base dei social media, degli acquisti online e dei chatbot.

Lo strato umano scompare. I lavoratori potrebbero non conoscere il cliente, il prodotto o il modo in cui il loro compito confluisce nel sistema finale. Anche i moderatori di contenuti contribuiscono ad addestrare i software, valutando materiali che le piattaforme preferirebbero non mostrare mai agli utenti. L’apparente autonomia dell’IA dipende da una catena di approvvigionamento umana che si estende in tutto il mondo.

Analisi

Colpisce che questo lavoro non sia un semplice supporto fisico a un processo tecnico. Gli annotatori compiono scelte interpretative su immagini e istruzioni ambigue: il loro giudizio fa quindi parte dell’apparente intelligenza del sistema. Nascondere il loro contributo può occultare tanto le responsabilità quanto i costi. La vicenda, però, non porta a una conclusione facile: questi impieghi possono offrire reddito e competenze digitali, pur lasciando ai lavoratori poca visibilità o influenza. Contare i posti di lavoro creati non basta dunque a stabilire se un’economia basata sull’IA sia equa.

Valutare i lavori nell’IA in base alla voce dei lavoratori, non solo al reddito

Le opportunità possono essere concrete. Il lavoro di Ian presso Sama lo ha aiutato a passare da impieghi informali precari a un’occupazione stabile, a collegare casa sua alla banda larga e a frequentare l’università grazie a una borsa di studio. Hiba, rifugiata in Bulgaria, apprezzava la flessibilità del lavoro di annotazione, che le permetteva di guadagnare mentre si prendeva cura della famiglia. Impieghi di questo tipo possono offrire reddito, competenze e la possibilità di immaginare un futuro diverso.

La sicurezza ha i suoi limiti. Quando Hiba contestò una nuova regola sui turni, l’azienda le sospese per trenta giorni l’accesso alla piattaforma. La perdita del reddito di dicembre costrinse la sua famiglia a chiedere un prestito. Separatamente, l’ex moderatore di contenuti Daniel Motaung ha accusato Sama e Meta di aver sfruttato i lavoratori e di averlo licenziato perché cercava di organizzarli; le aziende hanno contestato le accuse nel procedimento ancora in corso. Secondo quanto riferito, veniva pagato circa 2,20 dollari l’ora e il lavoro comportava l’esame di contenuti espliciti.

Analisi

Il reddito e la possibilità di far sentire la propria voce sono dimensioni distinte della qualità di un lavoro. Un impiego può ampliare le scelte immediate di una famiglia e al tempo stesso scoraggiare i lavoratori dal mettere in discussione le regole che le determinano. L’economia del lavoro distingue spesso tra avere accesso a un impiego e avere potere contrattuale sulle sue condizioni; queste storie rendono concreta la distinzione. Il confronto non dovrebbe cancellare i vantaggi descritti dai lavoratori né dare per scontato che ogni lavoro esternalizzato sia abusivo. Suggerisce però che, per valutare le aziende a impatto sociale, occorra chiedersi se i lavoratori possano sollevare problemi senza rischiare di perdere i mezzi di sostentamento.

Usare l’IA clinica come secondo parere, mai come sostituto delle cure

La rapidità può salvare vite. In un ospedale indiano isolato, la dottoressa Ashita Singh usava un’app per valutare le radiografie in cerca di tubercolosi. Quando arrivò un quattordicenne in condizioni critiche, l’app segnalò una possibile tubercolosi e avvalorò la decisione di Ashita di iniziare il trattamento, anziché aspettare giorni i risultati di un laboratorio lontano. Il paziente guarì. In un ospedale senza radiologi, uno strumento di screening convalidato può ridurre il tempo che passa tra una radiografia e l’attenzione di un medico.

Il contesto resta importante. Durante la pandemia di Covid-19, il sistema a volte confondeva la tubercolosi con il Covid, perché le immagini dei polmoni possono apparire simili. Ashita segnalò il problema e gli sviluppatori aggiunsero una fase di screening per la tubercolosi. Il caso mostra una collaborazione efficace: i medici possono mettere alla prova uno strumento, individuarne i limiti e contribuire a migliorarlo, restando responsabili della diagnosi e della cura.

Analisi

È un modello di automazione medica migliore sia della sostituzione dei medici sia del liquidare il software come intrinsecamente pericoloso. Lo strumento amplia una capacità diagnostica scarsa, mentre il medico apporta contesto e responsabilità e instaura un rapporto con il paziente. Il caso mostra anche perché le condizioni di utilizzo siano importanti: uno screening accurato è utile solo se qualcuno può confermare il risultato e fornire le cure. Non si dovrebbe presumere che un sistema collaudato in un contesto sia affidabile altrove, soprattutto quando cambiano le malattie, le attrezzature e le popolazioni di pazienti.

Verificare il parametro sostitutivo del modello, non soltanto la sua accuratezza

Una misura elegante può trarre in inganno. Un algoritmo sanitario utilizzato da un importante fornitore statunitense stimava le esigenze dei pazienti in base alle loro spese sanitarie annuali. Sembrava ragionevole, perché spesso la malattia comporta maggiori spese. Ma i pazienti neri possono ricevere meno cure a causa degli ostacoli all’accesso e della discriminazione: una spesa inferiore, quindi, non indicava un bisogno minore. I ricercatori hanno scoperto che il sistema assegnava ai pazienti neri una priorità molto più bassa per ottenere ulteriore assistenza. Sostituire la spesa con una misura più adeguata dei bisogni di salute ha ridotto la distorsione.

I parametri sostitutivi si portano dietro la storia. Un parametro sostitutivo è una misura indiretta usata quando la caratteristica che si vorrebbe osservare è difficile da rilevare direttamente. Il modello non aveva bisogno di una variabile relativa alla razza per produrre disuguaglianze razziali: apprendeva da una misura plasmata dall’accesso diseguale alle cure. Rischi analoghi si presentano ogni volta che un sistema tratta le attività registrate come un’immagine neutrale delle circostanze delle persone.

Analisi

La domanda fondamentale da porsi durante una verifica non è soltanto se un modello preveda con precisione il risultato scelto, ma se quel risultato debba davvero orientare la decisione. L’accuratezza può essere matematicamente impeccabile e socialmente fuori bersaglio. La distinzione è utile ben oltre la sanità: le spese, gli arresti o le prestazioni passate possono riflettere opportunità diseguali tanto quanto bisogni o capacità sottostanti. La scelta dei parametri sostitutivi, tuttavia, non può essere risolta con le sole verifiche tecniche. Richiede di decidere quali errori contino di più e chi debba pagarne il prezzo.

I sistemi predittivi possono trasformare le pratiche di polizia di ieri nei sospetti di domani

Gli arresti diventano una previsione. Il sistema ProKid di Amsterdam utilizzava i registri della polizia e altre informazioni per individuare i minori considerati a rischio di commettere reati in futuro. I dati di addestramento includevano gli arresti, non la prova che una persona avesse commesso un reato. Poiché l’attenzione della polizia era già concentrata su alcune comunità di immigrati, un maggior numero di contatti poteva generare più registrazioni, che a loro volta avrebbero potuto rafforzare i sospetti del sistema.

Un’etichetta cambia il comportamento. I figli di Diana Sardjoe furono inseriti negli elenchi del Comune, compreso uno basato anche su ProKid. La famiglia ha raccontato di visite intrusive, stigmatizzazione e difficoltà a contestare la decisione. Secondo Diana, il figlio maggiore, che non era stato condannato per alcun reato, cominciò a commettere reati dopo che l’etichetta e la sorveglianza ne avevano compromesso il senso delle proprie possibilità. Il calo degli arresti riferito durante il programma non dimostrava che il miglioramento fosse stato causato dall’algoritmo, né che i danni fossero giustificati.

Analisi

La previsione non è passiva quando le istituzioni agiscono in base al punteggio. Un’etichetta di rischio può modificare le opportunità e il livello di sorveglianza a cui una persona è sottoposta; i dati risultanti possono quindi registrare in parte gli effetti dell’intervento stesso. È un problema di retroazione, non soltanto un difetto tecnico. Un aiuto tempestivo può essere prezioso, ma il sostegno diventa coercitivo quando le famiglie non possono capire perché siano state selezionate, rifiutare l’intervento o correggere i dati. L’attenzione del libro al perdono solleva un’importante domanda: il passato di un bambino deve diventare una previsione permanente?

Un’immagine intima falsa può causare un danno reale e duraturo

Il corpo può essere falsificato. Un deepfake è un’immagine o un video realistico generato o manipolato con l’IA. La poetessa Helen Mort ha scoperto immagini che usavano il suo volto in scene inventate di violenza sessuale. L’avvocata australiana Noelle Martin ha trovato online immagini sessuali ritoccate che la ritraevano e in seguito ha scoperto video generati con l’IA. Nessuna delle due aveva acconsentito alla creazione o alla diffusione di quei contenuti, e la rimozione di una copia non poteva impedire che altre continuassero a circolare.

La diffusione supera le possibilità di ricorso. Uno studio del 2019 citato nel libro stimava che circa il 95 per cento dei video deepfake online fosse pornografia non consensuale e che quasi tutte le vittime fossero donne. Le leggi e le risposte delle piattaforme erano disomogenee, lasciando alle vittime il compito di chiedere la rimozione dei contenuti o intraprendere percorsi legali difficili. L’attivismo di Noelle ha contribuito a modificare la legge australiana, includendovi le immagini intime alterate: la sua testimonianza pubblica ha dimostrato che un danno privato può diventare una questione politica.

Analisi

La distinzione fondamentale è tra l’autenticità di un’immagine e la realtà della violazione. Il fatto che sia contraffatta non rende immaginaria la perdita di privacy, sicurezza o reputazione. Le copie digitali modificano anche la durata degli abusi: un’immagine può riapparire quando l’episodio originario è ormai scomparso dall’attenzione pubblica. Le tutele legali devono affrontare la creazione, la diffusione e la persistenza dei contenuti, proteggendo al contempo la libertà di espressione. Una risposta puramente tecnica, come migliorare i sistemi di rilevamento, non può stabilire chi debba assumersi le responsabilità né offrire sostegno alle vittime.

Il riconoscimento facciale può trasformare gli spazi pubblici in posti di controllo della vita quotidiana

Identificare cambia la strada. I sistemi di riconoscimento facciale confrontano un volto con immagini archiviate, ma gli errori non sono distribuiti in modo uniforme. Lo studio Gender Shades ha rilevato, nei sistemi esaminati, tassi di errore inferiori all’1 per cento per gli uomini dalla pelle chiara e fino al 35 per cento per le donne dalla pelle più scura. Le identificazioni errate hanno contribuito ad arresti ingiustificati. Anche una corrispondenza corretta può permettere alle autorità di seguire le persone che si riuniscono, protestano o semplicemente attraversano spazi pubblici.

La sorveglianza cambia il comportamento. A Londra, artiste e artisti hanno fondato il Dazzle Club e usato trucchi mimetici per il volto, pensati per confondere i software di riconoscimento e trasformare la sorveglianza in un dibattito pubblico visibile. In altri contesti descritti nel libro, le reti di telecamere sono state usate per identificare i manifestanti e sorvegliare le comunità emarginate. La questione non è solo se un sistema sappia riconoscere un volto, ma chi controlli i dati e quali conseguenze ne derivino.

Analisi

Accuratezza e legittimità sono due criteri diversi. Un sistema perfettamente accurato potrebbe comunque rendere la vita pubblica meno libera, se le persone venissero identificate senza preavviso, consenso o una ragione valida. Al contrario, un sistema con tassi di errore diseguali può esporre alcuni gruppi a un rischio maggiore di detenzione o sospetto. L’azione del Dazzle Club rende concreta una questione astratta: le persone vivono la sorveglianza come un cambiamento nel modo in cui possono occupare gli spazi condivisi. Le dichiarazioni di pubblica sicurezza richiedono dunque limiti, controlli indipendenti e regole chiare sulla conservazione e sull’uso dei dati.

Dare ai lavoratori gestiti dagli algoritmi i dati e il potere contrattuale per contestare il capo

È l’app a stabilire le condizioni. Le piattaforme di consegna e di trasporto con conducente usano algoritmi per assegnare il lavoro, calcolare la paga, valutare le prestazioni e segnalare possibili frodi. Il corriere Armin Samii ha creato UberCheats dopo aver sospettato che l’app avesse sottostimato le distanze dei suoi tragitti di consegna. Su circa 6.000 corse inserite dagli utenti, il 17 per cento sembrava retribuito in modo insufficiente, in media di 1,35 miglia per corsa. Gli autisti non potevano verificare facilmente da soli i calcoli dell’azienda.

I lavoratori possono confrontare le informazioni. I corrieri si scambiano consigli, organizzano proteste e raccolgono insieme dati sui guadagni tramite gruppi e iniziative guidate dai lavoratori. Nel Regno Unito, una sentenza della Corte Suprema ha riconosciuto gli autisti di Uber come lavoratori aventi diritto a tutele quali il salario minimo e le ferie retribuite. Questi esempi mostrano che la mancanza di trasparenza non è inevitabile: l’accesso ai registri, la possibilità di ricorso a una persona e l’organizzazione collettiva possono offrire ai lavoratori modi per contestare le decisioni automatizzate.

Analisi

La gestione algoritmica trasforma il rapporto di lavoro in una disputa sulle informazioni. La piattaforma vede gli schemi ricorrenti in migliaia di corse; il singolo autista vede un pagamento e una spiegazione vaga. La raccolta collettiva di dati contribuisce a colmare questa asimmetria, mentre il diritto del lavoro può chiarire che il software non annulla gli obblighi del datore di lavoro. Non tutte le discrepanze nei pagamenti dimostrano una retribuzione insufficiente deliberata e lo strumento non spiegava ogni errore. Il suo valore stava nel rendere verificabile un calcolo nascosto e nel fornire ai lavoratori elementi da discutere insieme.

Considerare l’IA fluente un motore di schemi fallibile, non un esperto che sa

La fluidità può simulare la certezza. I modelli linguistici di grandi dimensioni generano testi prevedendo sequenze di parole probabili in base agli schemi presenti nei dati di addestramento. Non sono motori di ricerca che verificano i fatti e possono inventare nomi, casi o fonti. L’avvocato newyorkese Steven Schwartz ha citato casi fittizi generati da ChatGPT perché aveva scambiato il sistema per uno strumento di ricerca. Una risposta sicura di sé non dimostra che il sistema capisca o abbia verificato le proprie affermazioni.

Gli input hanno delle conseguenze. I sistemi generativi vengono addestrati su enormi raccolte di scritti, opere d’arte, immagini e voci umane. Il libro racconta di creativi che hanno perso incarichi o a cui è stato chiesto di rivedere lavori più economici generati dall’IA, basati su materiali simili ai loro. Anche un esercizio di simulazione avversaria in chimica ha mostrato che un modello può abbassare gli ostacoli pratici alla progettazione di un composto pericoloso. Dalla stessa capacità di individuare schemi possono derivare risultati utili e rischi gravi.

Analisi

La parola «comprensione» induce gli utenti ad attribuire intenzionalità e affidabilità, che non sono garantite. Considerare i modelli linguistici sistemi di previsione aiuta a chiarirne i punti di forza: stesura rapida, rielaborazione e assistenza nelle attività di routine. Chiarisce anche quando sia essenziale verificare, soprattutto nel diritto, nella medicina e nei lavori in cui la sicurezza è fondamentale. La questione del lavoro creativo solleva un problema distinto dall’accuratezza: anche un risultato tecnicamente notevole può dipendere da un uso contestato del lavoro altrui. Strumenti migliori non risolvono le questioni del consenso, del compenso o della paternità.

Predisporre una procedura di ricorso prima di automatizzare decisioni importanti

Le persone devono poter rientrare nel processo. Il gruppo Foxglove, guidato dall’avvocata Cori Crider, ha contestato i sistemi britannici usati per classificare le domande di visto e assegnare i voti agli esami. Nel 2020, le proteste e la pressione legale hanno contribuito ad annullare un algoritmo di valutazione degli esami che penalizzava molti studenti provenienti da scuole con risultati inferiori. Anche i lavoratori hanno portato le piattaforme in tribunale per trattenute automatiche sulla paga e sospensioni, ottenendo in alcuni casi accesso ai propri dati e una revisione umana.

I diritti richiedono strumenti pratici. Chi subisce gli effetti di una decisione automatizzata deve sapere che è stato usato un sistema automatico, capirne i criteri, correggere le informazioni pertinenti e raggiungere qualcuno che abbia il potere di riesaminare la decisione. Un’avvertenza o un revisore umano solo nominale non bastano se quest’ultimo non può modificare il risultato. Le azioni legali, i sindacati, il giornalismo e i gruppi di comunità possono trasformare le lamentele isolate in un problema di responsabilità pubblica.

Analisi

Il ricorso non è un ripensamento amministrativo. È una tutela contro l’inevitabile discrepanza tra una categoria statistica e la vita di una persona. I principi del giusto processo, come la notifica, la spiegazione e la possibilità di contestare una decisione, diventano particolarmente importanti quando i sistemi automatizzati sono difficili da esaminare. I casi mostrano anche i limiti delle cause legali: le vittorie in tribunale possono aprire una porta senza rivelare tutte le regole del modello né modificare gli incentivi più ampi delle imprese. Per garantire una responsabilità effettiva servono sia rimedi individuali sia forme di controllo collettivo.

Valutare l’IA in base alla tutela della dignità umana, non alla novità

I valori devono essere definiti collettivamente. A Roma, leader religiosi, aziende tecnologiche e istituzioni pubbliche hanno aderito all’Appello di Roma (Rome Call), un impegno volontario che propone principi etici per l’IA. Tra questi figurano la spiegabilità, l’inclusione, la privacy e la responsabilità. Il libro sostiene che un insieme di regole scritto da un’azienda non può rappresentare da solo l’umanità, soprattutto quando le persone su cui ricade l’impatto dell’IA hanno poca influenza sulla sua progettazione.

Porsi le domande prima di mettere in uso un sistema. Il criterio pratico non è semplicemente se un sistema funzioni, ma chi ne tragga vantaggio, chi ne subisca gli errori e se le persone coinvolte possano scegliere un decisore umano o contestare il risultato. Uno strumento sanitario può raggiungere i pazienti i cui dati hanno contribuito a costruirlo? I lavoratori possono vedere come viene calcolata la paga? Una persona può far rimuovere immagini intime o contestare un’etichetta di rischio? Queste domande mettono la dignità e la capacità di agire delle persone davanti allo spettacolo tecnologico.

Analisi

Il criterio più duraturo proposto dal libro non è essere a favore o contro l’IA. È chiedersi se un sistema ampli le reali capacità delle persone senza renderle più facili da sfruttare, classificare o mettere a tacere. Questo criterio accoglie lo strumento diagnostico di Ashita e condanna i sistemi opachi che puniscono le persone senza possibilità di ricorso. Gli impegni etici volontari possono fornire un linguaggio condiviso, ma non sostituire norme vincolanti o la partecipazione pubblica. Il difficile è decidere quali valori contino, come risolvere i conflitti e chi resti responsabile quando una decisione automatizzata causa un danno.

Analisi

Essere umani è un’inchiesta basata su storie di vita incontrate ai margini del potere tecnologico: annotatori di dati a Nairobi, una madre ad Amsterdam, una dottoressa in una zona rurale dell’India, lavoratori delle consegne, artisti e persone sottoposte a sorveglianza. L’argomento centrale non è che l’IA sia uniformemente dannosa. La stessa capacità di individuare schemi che può aiutare un medico a identificare la tubercolosi può rafforzare i pregiudizi razziali nell’assistenza sanitaria o trasformare un registro di polizia in una previsione di futura criminalità. A fare la differenza sono il modo in cui il sistema viene costruito, il luogo in cui viene usato e chi può contestarne le conseguenze.

La mossa concettuale più efficace del libro è considerare l’IA un’istituzione, anziché un’invenzione isolata. I modelli dipendono dal lavoro, dai dati, dalle infrastrutture pubbliche, dalle norme giuridiche e dagli incentivi organizzativi. La loro apparente indipendenza può nascondere queste dipendenze e rendere più difficile individuare dove risiede il potere. Ciò spiega anche perché l’accuratezza tecnica non sia una misura sufficiente del valore sociale. Un modello può prevedere bene un risultato circoscritto, mentre quel risultato incorpora un trattamento diseguale o l’intervento crea danni che la metrica non conta.

Il confronto tra lo strumento clinico di Ashita e il sistema di valutazione del rischio per i giovani di Amsterdam è particolarmente istruttivo. Ashita conserva competenze, contesto e responsabilità, e il software sostiene il suo giudizio anziché sostituirlo. Le famiglie prese di mira dalla polizia predittiva disponevano di molte meno informazioni e di scarse possibilità di rifiutare. La differenza non consiste semplicemente nello scegliere tra esseri umani e macchine. Sta nel verificare se chi subisce gli effetti di una decisione abbia un rapporto significativo con il processo che la determina.

Il racconto non risolve del tutto come bilanciare i vantaggi dell’automazione e i pericoli del controllo concentrato. Ma la sua indagine rende questa tensione concreta, anziché astratta. La risposta è istituzionale: rendere trasparenti i sistemi, testarli, garantire un compenso, offrire possibilità di ricorso e coinvolgere le comunità interessate prima che i sistemi diventino infrastrutture. La dignità umana non è un valore etico ornamentale da aggiungere dopo l’implementazione. È il criterio per stabilire se un sistema meriti davvero di esercitare autorità.

Riassunto in 30 secondi
L'IA dipende da lavoro umano invisibile, comprese attività di annotazione talvolta pagate circa 2,20 dollari l'ora. L'accuratezza può celare bias quando i sistemi usano la spesa sanitaria diseguale o i precedenti di arresto come indicatori indiretti del bisogno o del pericolo. In uno studio, gli errori del riconoscimento facciale hanno raggiunto il 35% per le donne con la pelle più scura. Si è stimato che circa il 95% dei video deepfake fosse pornografia non consensuale. Per tutelare le persone servono trasparenza, potere contrattuale per i lavoratori, supervisione umana e possibilità concrete di ricorso.
Contiene spoiler

Ultimo aggiornamento:

Segnala un problema

Sintesi delle recensioni

4.03 su 5
Media di 3.000+ valutazioni da Goodreads e Amazon.

Essere umani di Madhumita Murgia esplora l'impatto dell'IA sulla società, concentrandosi sulle comunità emarginate e sulle questioni etiche. I lettori ne apprezzano l'accessibilità, la narrazione coinvolgente e la prospettiva equilibrata sui potenziali benefici e rischi dell'IA. Il libro mette in luce temi quali il colonialismo dei dati, i bias algoritmici e lo sfruttamento dei lavoratori nel settore dell'IA. Sebbene alcuni critici rilevino una carenza di approfondimento tecnico e di soluzioni, la maggior parte elogia la capacità di Murgia di umanizzare argomenti complessi e stimolare una riflessione critica sul futuro sempre più guidato dall'IA.

La tua valutazione:
4.52
185 valutazioni
Vuoi leggere il libro completo?

Glossario

colonialismo dei dati

Estrarre valore dalle vite

Un quadro interpretativo per comprendere come istituzioni potenti trasformino le attività quotidiane, le relazioni e le informazioni personali delle persone in risorse da utilizzare a fini economici o politici. Il libro collega questa estrazione a modelli coloniali più antichi: valore e controllo si concentrano presso organizzazioni lontane, mentre le comunità coinvolte hanno spesso poca voce in capitolo sui dati, sui sistemi che ne derivano o su chi ne trae beneficio.

lavoro fantasma (ghost work)

Lavoro umano invisibile per l'IA

Lavoro umano che sostiene i servizi digitali restando in gran parte invisibile agli utenti e, talvolta, agli stessi lavoratori. Nell'IA comprende attività come etichettare immagini, classificare testi e moderare contenuti, affinché i sistemi possano essere addestrati o funzionare. Il termine sottolinea che prodotti apparentemente automatizzati dipendono spesso da lavoratori dispersi, il cui contributo e le cui condizioni di lavoro vengono nascosti.

bias da automazione

Eccessivo affidamento sui consigli automatizzati

La tendenza delle persone a fidarsi troppo facilmente dei risultati automatizzati o a rimettersi a essi nel prendere decisioni. Nell'esempio medico del libro, un professionista potrebbe prestare meno attenzione all'anamnesi o alla visita del paziente se il punteggio dell'IA viene considerato autorevole. Il rischio non è che l'automazione sbagli sempre, ma che gli utenti smettano di verificarne le ipotesi e i limiti.

deepfake

Contenuti creati o alterati con l'IA

Un'immagine, una registrazione audio o un video realistici, realizzati o manipolati con l'intelligenza artificiale. Il libro si concentra in particolare sulle immagini sessuali non consensuali, in cui il volto o le sembianze di una persona vengono inseriti in scene intime inventate. Poiché questi contenuti possono essere prodotti e copiati facilmente, le vittime possono subire danni duraturi anche quando un determinato sito rimuove una versione.

ProKid

Valutazione olandese del rischio giovanile

Un sistema di apprendimento automatico sviluppato con la polizia olandese per stimare la probabilità che giovani vengano arrestati in futuro. Utilizzava i precedenti di polizia e altre informazioni, compresi i contatti che coinvolgevano un minore, i familiari o i coetanei. Il libro sottolinea che i dati sugli arresti non equivalgono alla prova di un comportamento criminale e che un intervento basato su un punteggio può intensificare la sorveglianza e lo stigma.

Piattaforma integrata per le operazioni congiunte (Integrated Joint Operations Platform, IJOP)

Sistema di sorveglianza dello Xinjiang

Una piattaforma di dati utilizzata dalle autorità nella regione cinese dello Xinjiang per combinare informazioni sugli spostamenti, i dispositivi, i dati biometrici, le relazioni e i comportamenti delle persone. Maya Wang, ricercatrice di Human Rights Watch, ha esaminato un'applicazione collegata e ha individuato indicatori in grado di segnalare come sospette pratiche sociali o religiose ordinarie. Il libro descrive la piattaforma come parte della sorveglianza e della detenzione mirate contro i musulmani uiguri.

modello linguistico di grandi dimensioni (LLM)

Sistema che prevede schemi testuali

Un tipo di IA addestrata su grandi raccolte di testi per generare sequenze di parole probabili in risposta a richieste. I modelli linguistici di grandi dimensioni possono produrre spiegazioni, racconti o codice scorrevoli, ma la fluidità non garantisce l'accuratezza fattuale né la comprensione umana. Possono inventare dettagli, fonti o casi, perciò le affermazioni rilevanti richiedono una verifica indipendente.

algoretica (algor-ethics)

Etica integrata negli algoritmi

Un termine usato nell'Appello di Roma per descrivere il tentativo di integrare valori umani e garanzie etiche nella progettazione e nell'implementazione dell'IA. La proposta sottolinea che i sistemi utilizzati per prendere decisioni dovrebbero rispettare la dignità umana e prevedere il coinvolgimento delle persone quando i valori o la sicurezza sono incerti. Viene presentata come un quadro etico condiviso, non come una legge vincolante.

Appello di Roma (Rome Call)

Impegno volontario per l'etica dell'IA

Un impegno promosso dal consigliere vaticano Paolo Benanti per coinvolgere aziende tecnologiche, istituzioni pubbliche e rappresentanti religiosi nel dibattito sull'IA responsabile. Tra i suoi principi figurano spiegabilità, inclusione, privacy e responsabilità. Il libro lo presenta come un tentativo di ampliare la platea di voci che contribuiscono a definire i valori dell'IA, osservando però che le adesioni volontarie non obbligano legalmente le organizzazioni a rispettarli.

Gender Shades

Studio sui bias nell'analisi facciale

Uno studio di Joy Buolamwini, Timnit Gebru e dei loro collaboratori che ha confrontato l'accuratezza di sistemi commerciali di analisi facciale tra gruppi distinti per tonalità della pelle e genere. I risultati hanno rilevato tassi di errore molto più elevati per le donne con la pelle più scura rispetto agli uomini con la pelle chiara nei sistemi esaminati. Il libro utilizza lo studio per mostrare come l'accuratezza complessiva possa nascondere rischi disuguali per specifiche fasce della popolazione.

FAQ

Di cosa parla Essere umani?

  • Esplorazione dell'impatto dell'IA: Il libro esamina come l'IA stia trasformando diversi aspetti della vita umana, tra cui il lavoro, la salute, l'identità e la libertà. Approfondisce le conseguenze della nostra crescente dipendenza dalle tecnologie di IA.
  • Storie personali: L'autrice Madhumita Murgia racconta incontri reali con l'IA, mettendo in luce le esperienze delle persone coinvolte da queste tecnologie. Questo approccio narrativo rende le implicazioni dell'IA più concrete e vicine al lettore.
  • Prospettiva critica: Murgia critica i rapporti di potere e le questioni etiche legati all'IA, soprattutto il modo in cui può perpetuare le disuguaglianze e incidere sulle comunità emarginate. Il libro invita ad accrescere la consapevolezza e la responsabilità nello sviluppo dell'IA.

Perché leggere Essere umani?

  • Un tema attuale: Con l'IA sempre più integrata nella vita quotidiana, è fondamentale comprenderne le implicazioni. Questo libro offre spunti su come l'IA incida sulle persone e sulla società.
  • Narrazioni coinvolgenti: Murgia ricorre a storie personali per rendere accessibili e appassionanti temi complessi. I lettori possono entrare in sintonia con le esperienze umane che si celano dietro la tecnologia.
  • Analisi critica: Il libro incoraggia a riflettere criticamente sulle implicazioni etiche e sociali dell'IA. Mette in discussione l'idea che la tecnologia sia intrinsecamente vantaggiosa e invita a considerare le conseguenze del suo impiego.

Quali sono i punti principali di Essere umani?

  • La diffusione capillare dell'IA: L'IA è ormai presente in molti ambiti della vita, dalla sanità al lavoro, e influenza decisioni che incidono sulla nostra quotidianità. Comprendere questa integrazione è essenziale per orientarsi nella società moderna.
  • Colonialismo dei dati: Il libro tratta il colonialismo dei dati, ossia lo sfruttamento a fini di lucro dei dati delle comunità emarginate, senza il loro consenso o beneficio. Questo evidenzia la necessità di considerazioni etiche nell'uso dei dati.
  • Autonomia umana: Murgia sottolinea l'importanza di preservare l'autonomia umana di fronte ai sistemi automatizzati. Il libro promuove un equilibrio tra progresso tecnologico e responsabilità etica.

Quali sono le citazioni più significative di Essere umani e che cosa significano?

  • «In definitiva, siamo noi i prodotti.»: Questa frase sottolinea come le aziende tecnologiche mercifichino i nostri dati, trasformando le persone in prodotti da cui ricavare profitto. Evidenzia la necessità di essere consapevoli dell'uso delle informazioni personali.
  • «La nostra cecità sul funzionamento dei sistemi di IA ci impedisce di capire davvero quando qualcosa va storto.»: Questa affermazione riflette i pericoli di affidarsi a sistemi di IA opachi senza comprenderne i meccanismi. È un invito alla trasparenza e alla responsabilità nello sviluppo dell'IA.
  • «Il potere è concentrato nelle mani di poche aziende.»: Questa frase indica le tendenze monopolistiche del settore tecnologico, in cui un numero ristretto di imprese controlla enormi quantità di dati e influenza. Solleva questioni di equità e accesso nell'era digitale.

In che modo Essere umani affronta il concetto di colonialismo dei dati?

  • Definizione di colonialismo dei dati: Murgia descrive il colonialismo dei dati come lo sfruttamento a fini di lucro dei dati delle comunità emarginate, spesso senza che ne siano consapevoli o vi acconsentano. Il concetto critica i rapporti di potere insiti nella raccolta dei dati.
  • Impatto sulle comunità: Il libro mostra come il colonialismo dei dati perpetui le disuguaglianze esistenti, colpendo in particolare le popolazioni vulnerabili. Sottolinea la necessità di pratiche etiche nell'uso dei dati, che rispettino i diritti delle persone.
  • Un invito all'azione: Murgia promuove una maggiore consapevolezza e una regolamentazione più rigorosa delle pratiche relative ai dati, per proteggere le comunità emarginate. Il libro invita a riflettere sulle implicazioni dell'uso dei propri dati nei sistemi di IA.

In che modo Essere umani esplora il rapporto tra IA e sanità?

  • L'IA nella diagnostica medica: Murgia discute di come le tecnologie di IA vengano utilizzate per migliorare la diagnosi e l'assistenza ai pazienti. Tra le applicazioni figurano l'individuazione delle malattie e la personalizzazione dei piani terapeutici.
  • Questioni etiche: Il libro solleva interrogativi sulle implicazioni etiche dell'IA in sanità, in particolare riguardo alla riservatezza dei dati e al rischio di bias negli algoritmi. Sottolinea la necessità di garantire un accesso equo alle soluzioni sanitarie basate sull'IA.
  • Supervisione umana: Murgia sostiene che sia importante mantenere la supervisione umana sulle decisioni mediche, anche con la crescente diffusione dell'IA. Il libro promuove un approccio collaborativo tra tecnologia e professionisti sanitari.

Quali sono le implicazioni dell'IA per l'identità personale, secondo Essere umani?

  • Identità e sorveglianza: Murgia esamina come le tecnologie di IA, in particolare il riconoscimento facciale, possano incidere sull'identità personale e sulla privacy. Il libro tratta i rischi della sorveglianza costante e le conseguenze per l'autonomia individuale.
  • Rappresentazione attraverso i dati: Il libro evidenzia come spesso le persone vengano ridotte a punti dati nei sistemi di IA, che possono rappresentare in modo distorto la loro identità. Ciò solleva dubbi sull'accuratezza e l'equità delle decisioni algoritmiche.
  • Impatto culturale: Murgia analizza come l'IA possa rafforzare stereotipi e bias, influenzando il modo in cui le persone vengono percepite in base alla loro identità. Il libro invita a una comprensione più sfumata dell'identità nel contesto dell'IA.

In che modo Essere umani affronta il futuro dell'IA?

  • Previsioni e tendenze: Murgia discute le tendenze emergenti nell'IA, compresa l'IA generativa e il suo potenziale di trasformare le industrie creative. Il libro riflette su come questi progressi possano modificare ulteriormente l'esperienza umana.
  • Cambiamenti sociali: Il libro esplora le più ampie implicazioni sociali dell'IA, tra cui i cambiamenti nel lavoro, nell'istruzione e nelle relazioni sociali. Murgia sottolinea la necessità di misure preventive per affrontarli.
  • Quadri etici: Murgia promuove lo sviluppo di quadri etici che orientino il futuro dell'IA. Il libro invita a riflettere su come la società possa indirizzare la tecnologia affinché serva l'umanità, anziché il contrario.

Quali sono le difficoltà legate all'implementazione dell'IA messe in luce in Essere umani?

  • Limiti tecnici: Murgia discute le difficoltà tecniche dell'implementazione dei sistemi di IA, tra cui i problemi di accuratezza e affidabilità. Questi limiti possono ridurre l'efficacia dell'IA in varie applicazioni.
  • Bias e disuguaglianza: Il libro evidenzia il rischio che i bias negli algoritmi di IA perpetuino le disuguaglianze esistenti. Murgia chiede un esame più rigoroso delle fonti dei dati e della progettazione degli algoritmi, per ridurre tali rischi.
  • Fiducia del pubblico: Murgia sottolinea l'importanza di conquistare la fiducia del pubblico nelle tecnologie di IA. Il libro sostiene che trasparenza e responsabilità siano essenziali per promuovere la fiducia nei sistemi di IA.

In che modo Essere umani suggerisce di riappropriarci della nostra autonomia in un mondo guidato dall'IA?

  • Consapevolezza e formazione: Murgia promuove una maggiore consapevolezza e formazione sulle tecnologie di IA e sulle loro implicazioni. Comprendere il funzionamento dell'IA è essenziale per orientarsi nei suoi effetti sulla propria vita.
  • Azione collettiva: Il libro incoraggia l'azione collettiva per chiedere pratiche etiche nello sviluppo e nell'implementazione dell'IA. Murgia ritiene che le comunità possano collaborare per chiedere conto alle aziende delle loro responsabilità.
  • Potere attraverso la conoscenza: Murgia sottolinea quanto sia importante mettere le persone in condizione di conoscere i propri dati e i propri diritti. Questa consapevolezza può aiutarle a riappropriarsi della propria autonomia in un mondo sempre più automatizzato.

In che modo Essere umani affronta la questione dell'IA sul posto di lavoro?

  • Attenzione alla gig economy: Il libro esplora le esperienze dei lavoratori della gig economy, che si confrontano con condizioni di impiego precarie aggravate dai sistemi di IA. Murgia evidenzia come gli algoritmi determinino l'assegnazione del lavoro e la retribuzione, spesso a scapito dei lavoratori.
  • Storie umane: Attraverso racconti personali, l'autrice illustra il peso emotivo ed economico del lavoro nella gig economy guidata dall'IA. Queste storie danno un volto umano alle statistiche e alle tendenze del lavoro occasionale tramite piattaforme.
  • Promozione di pratiche eque: Murgia chiede salari equi e migliori condizioni di lavoro per chi lavora tramite piattaforme, sottolineando la necessità di azione collettiva e solidarietà. Sostiene che le considerazioni etiche debbano essere integrate nella progettazione dei sistemi di IA che incidono sul lavoro.

Che ruolo hanno gli attivisti nella narrazione di Essere umani?

  • Voci di resistenza: Il libro presenta attivisti che contestano lo status quo e promuovono pratiche etiche nell'ambito dell'IA. Le loro storie mettono in luce l'importanza dei movimenti dal basso nel promuovere il cambiamento.
  • Azione collettiva: Murgia sottolinea il potere dell'azione collettiva nell'affrontare le sfide poste dall'IA e dal colonialismo dei dati. Gli attivisti lavorano per sensibilizzare e mobilitare le comunità affinché chiedano conto alle aziende tecnologiche delle loro responsabilità.
  • Rafforzare le comunità attraverso l'attivismo: L'autrice mostra come l'attivismo possa aiutare le comunità emarginate a rivendicare i propri diritti e a far valere le proprie esigenze. Ciò comprende la lotta per un trattamento equo nella gig economy e la richiesta di trasparenza nei sistemi di IA.

Sull'autore

Madhumita Murgia è una giornalista affermata ed esperta di intelligenza artificiale. In qualità di redattrice per l'IA al Financial Times, si è affermata come una delle voci più autorevoli nel giornalismo tecnologico. Madhumita Murgia è nota per la capacità di rendere accessibili a un pubblico generale concetti complessi legati all'IA, unendo competenze tecniche e attenzione all'impatto umano della tecnologia. I suoi articoli compaiono spesso in pubblicazioni come Wired, dove si è occupata di temi quali i broker di dati e le nuove tendenze tecnologiche. La sua esperienza nel giornalismo d'inchiesta e la sua prospettiva globale informano il suo approccio sfumato all'esame delle implicazioni sociali dell'IA.

Scarica PDF

Per conservare questo riassunto di Essere umani e leggerlo in seguito, scarica il PDF gratuito. Puoi stamparlo o leggerlo offline quando vuoi.
Download PDF

Scarica EPUB

Per leggere il riassunto di Essere umani sul tuo e-reader o sulla relativa app, scarica l’EPUB gratuito. Il formato digitale .epub è ideale per leggere ebook su telefoni, tablet ed e-reader.
Download EPUB
Vuoi leggere il libro completo?
Segui
Ascolta
Home
Swipe
Libreria
App
Prova l'accesso completo per 3 giorni
Ascolta, salva e molto altro
Confronta le funzionalità Gratuito Pro
📖 Leggi i riassunti
Leggi riassunti illimitati. Gli utenti gratuiti ne ricevono 3 al mese
🎧 Ascolta i riassunti
Ascolta riassunti illimitati in 40 lingue
—
❤️ Segnalibri illimitati
Gli utenti gratuiti sono limitati a 4
—
📜 Cronologia illimitata
Gli utenti gratuiti sono limitati a 4
—
📥 Download illimitati
Gli utenti gratuiti sono limitati a 1
—
Prova senza rischi
Oggi: accesso immediato
Ascolta i riassunti completi di oltre 26.000 libri. Sono più di 12.000 ore di audio!
Giorno 2: promemoria della prova
Ti invieremo una notifica per avvisarti che la prova sta per scadere.
Giorno 3: inizia il tuo abbonamento
L'addebito avverrà il 25 nov,
puoi annullare in qualsiasi momento prima.
Consume 2.8× More Books
2.8× libri in più Ascolto Lettura
I nostri utenti ci adorano
1M+ lettori
Trustpilot Rating
TrustPilot
4.6 Eccellente
Questo sito è una vera rivoluzione. Ho letto riassunti di libri come mai prima d'ora. Consigliatissimo.
— Dave G
Vale ogni centesimo e ogni minuto, ed è davvero ben fatto. Non ho mai visto riassunti di questa qualità su altri siti. Utilissimo!
— Em
Consigliatissimo!! Servizio fantastico. Perfetto per chi vuole qualcosa in più di un'anteprima ma senza tutti i dettagli di un audiolibro completo.
— Greg M
Risparmia il 62%
Annuale
$119.88 $44.99/anno/anno
$3.75/mese
Mensile
$9.99/mese
Inizia la prova gratuita di 3 giorni
3 giorni gratis, poi $44.99/anno. Cancella quando vuoi.
Unlock a world of fiction & nonfiction books
Oltre 26.000 libri al prezzo di 2
Leggi qualsiasi libro in 10 minuti
Scopri nuovi libri come su Tinder
Richiedi qualsiasi libro se non è ancora disponibile
Leggi più libri di chiunque tu conosca
App n. 1 per gli amanti dei libri
Lifelike & immersive summaries
Garanzia di rimborso entro 30 giorni
Scarica i riassunti in EPUB o PDF
Cancella in qualsiasi momento con pochi clic

Perché un solo riassunto?

Scanner
Trova un codice a barre da scansionare

⭐
⭐
⭐
Abbiamo un regalo speciale per te
Apri
38% di sconto
SCONTO PER TE
⭐
⭐
⭐
$79.99
$49.99/anno
Solo $4.16 al mese
Continua
Bastano 2 tocchi per iniziare, cancellare è facilissimo
Impostazioni
Generali
Widget
Caricamento...