Punti chiave
Considerare l’IA un’infrastruttura, non una parata di robot simili agli esseri umani
L’IA è già parte integrante della nostra vita. Webb definisce l’intelligenza artificiale in senso ampio: sistemi che prendono decisioni autonome, dal riconoscimento vocale ai suggerimenti su cosa guardare o acquistare. Gran parte di essa non assume la forma di un robot visibile. Aiuta silenziosamente a gestire sistemi finanziari, catene di approvvigionamento, traffico, motori di ricerca e altri servizi su cui le persone fanno affidamento ogni giorno. La sua diffusione crescente rende l’IA meno simile a una moda passeggera e più a un nuovo strato delle infrastrutture fondamentali della società.
La posta in gioco riguarda la vita quotidiana. La cultura popolare si concentra sulle macchine che all’improvviso si rivoltano contro l’umanità. Webb sostiene che questo distolga l’attenzione da questioni meno spettacolari: chi ha creato sistemi che prendono decisioni per le persone, a quali interessi rispondono e come possono contestarne le scelte coloro che ne subiscono gli effetti? L’IA incide sulla sanità, sull’istruzione, sul lavoro, sui trasporti e sulla vita pubblica.
La prospettiva infrastrutturale rende l’IA importante senza richiedere che le macchine abbiano una coscienza umana. Strade, reti di pagamento e sistemi di comunicazione influenzano i comportamenti perché le persone dipendono da essi; lo stesso possono fare i sistemi algoritmici, pur restando difficili da vedere. Questa prospettiva evita anche un comune errore di categoria: considerare un prodotto di IA uno strumento isolato, quando invece può essere integrato in servizi essenziali. L’analogia ha i suoi limiti, poiché i sistemi di IA differiscono molto per rischio e finalità. Ciononostante, orienta l’attenzione verso la supervisione, la resilienza e la responsabilità pubblica, anziché verso lo spettacolo.
Segui i soldi e i piani statali per capire a chi serve l’IA
Due percorsi di sviluppo. Webb chiama Big Nine le nove aziende leader statunitensi e cinesi: Google, Amazon, Apple, IBM, Microsoft, Facebook, Baidu, Alibaba e Tencent. Le sei aziende statunitensi sono sottoposte alle pressioni dei mercati, degli investitori e della domanda dei consumatori. Le tre grandi aziende cinesi, spesso indicate con la sigla BAT, operano nell’ambito di una strategia nazionale molto più centralizzata. Nel 2017, la Cina si è posta l’obiettivo di diventare un leader mondiale nel campo dell’IA entro il 2030 e di creare un settore dal valore di almeno 150 miliardi di dollari.
Il potere segue gli incentivi. Le aziende statunitensi possono creare prodotti utili, ma la pressione a realizzare profitti può premiare una rapida diffusione a scapito del beneficio pubblico a lungo termine. La Cina può coordinare su larga scala dati, istruzione, aziende e priorità governative, ma le sue ambizioni di sorveglianza e controllo sociale sollevano gravi questioni in materia di diritti umani. Il libro sostiene che né il successo commerciale né la pianificazione centralizzata servono automaticamente l’umanità nel suo insieme.
Questo confronto è utile perché inquadra la competizione nell’IA come un tema di economia politica, non semplicemente come una gara tra laboratori ingegnosi. Gli incentivi di mercato e la direzione statale possono entrambi concentrare il potere, seppure attraverso meccanismi diversi. Questa distinzione aiuta i lettori a chiedersi chi possa fissare le priorità, chi ne sostenga i costi e chi possa rifiutarsi. Il resoconto funziona meglio come contrasto strategico che come ritratto completo dei due paesi. Aziende e governi contengono interessi concorrenti, e i piani nazionali non ne garantiscono la realizzazione. Gli incentivi contano, ma istituzioni e opposizione pubblica possono rimodellarli.
Valutare l’intelligenza delle macchine in base alle capacità, non alla somiglianza con le persone
Una lunga storia umana. L’idea di una macchina pensante precede i computer moderni. I filosofi si sono chiesti se il ragionamento potesse essere ridotto a regole; Ada Lovelace immaginò computer capaci di manipolare simboli al di là dell’aritmetica; Alan Turing propose un test basato sull’imitazione conversazionale. La ricerca sull’IA decollò dopo il convegno di Dartmouth del 1956, ma le promesse iniziali superarono le capacità di calcolo e i risultati pratici. I finanziamenti crollarono durante un «inverno dell’IA», per poi riprendersi con il miglioramento dei computer e dei dati.
La competenza può essere aliena. AlphaGo Zero di DeepMind imparò il Go giocando contro sé stesso, raggiungendo un livello elevato in 70 ore e sconfiggendo in seguito un sistema precedente con strategie estranee ai suoi progettisti umani. Webb considera questo una prova del fatto che le macchine possono elaborare soluzioni originali senza pensare come le persone. La capacità di un sistema di risolvere un compito non dimostra, di per sé, coscienza, comprensione o giudizio simile a quello umano.
La distinzione tra prestazione ed esperienza è fondamentale per valutare l’IA. Una macchina può superare le persone in un ambito ristretto senza provare sentimenti né comprendere il compito come farebbe una persona. Questa distinzione spiega anche perché una conversazione simile a quella umana sia una misura universale poco affidabile dell’intelligenza. Tuttavia, un sistema non deve essere cosciente per esercitare un potere rilevante: previsioni o controlli affidabili possono incidere sui mezzi di sostentamento e sui diritti. La domanda pratica, quindi, non è se una macchina abbia una mente simile alla nostra, ma che cosa possa fare, sotto l’autorità di chi e con quali garanzie.
Diversificare chi progetta l’IA prima che i suoi punti ciechi diventino regole delle macchine
La progettazione riflette una visione del mondo. Webb definisce tribù i ricercatori e i dirigenti dell’IA: un gruppo relativamente piccolo e interconnesso, la cui formazione e i cui presupposti condivisi influenzano i sistemi che vengono creati. Al convegno fondativo di Dartmouth parteciparono uomini bianchi, mentre molte donne e persone di colore qualificate ne furono escluse. Il problema persiste nelle università e nelle aziende. Il libro riferisce che, nel periodo descritto, le donne conseguivano il 18% delle lauree di primo livello in informatica e che gli studenti neri e ispanici erano poco rappresentati tra i candidati al dottorato in informatica.
Le impostazioni predefinite diventano decisioni. I software per gli incorporamenti lessicali hanno appreso associazioni che collegavano gli uomini alla programmazione e le donne ai lavori domestici. Questi schemi non erano necessariamente codificati in regole esplicite: emergevano dai dati e dalle scelte progettuali. La legge di Conway, discussa nel libro, esprime un’idea più ampia: i sistemi tendono a riflettere l’organizzazione e i presupposti delle persone che li creano.
La diversità è importante come strumento per individuare gli errori, non come garanzia di correttezza morale. Persone con esperienze diverse possono accorgersi di casi trascurati, categorie fuorvianti o danni che gli addetti ai lavori considerano normali. Ma la sola rappresentanza non basta a correggere un sistema se i partecipanti non hanno potere decisionale o se le scadenze premiano la rapidità di lancio invece di un esame accurato. La soluzione più profonda consiste nel cambiare sia chi è presente sia il modo in cui viene distribuita l’autorità. Anche un gruppo diversificato ha bisogno di procedure trasparenti, verifiche sostanziali e della possibilità di fermare una diffusione dannosa.
Verificare ciò che l’IA ottimizza, non solo l’accuratezza delle sue prestazioni
Un obiettivo orienta il comportamento. I sistemi di IA sono spesso progettati per ottimizzare un obiettivo, come prevedere quale collegamento verrà cliccato o individuare uno schema. L’effetto dell’ottimizzazione è il danno imprevisto che può derivare quando un sistema persegue l’obiettivo assegnatogli senza disporre di un contesto sufficiente sulle conseguenze per le persone. Il problema della scatola nera rende più difficile accorgersene: i sistemi complessi di apprendimento possono produrre una risposta senza rendere comprensibile il proprio ragionamento agli utenti e persino ai loro sviluppatori.
Gli errori possono sembrare oggettivi. La ricercatrice Latanya Sweeney ha scoperto che le ricerche di nomi identificabili come neri potevano attivare annunci pubblicitari legati agli arresti. L’analisi di ProPublica su uno strumento di valutazione del rischio in Florida ha rilevato che gli imputati neri venivano etichettati più spesso, a torto, come futuri criminali, mentre quelli bianchi ricevevano più spesso una valutazione di basso rischio. In entrambi i casi, i sistemi riproducevano schemi dannosi pur apparendo eseguire calcoli neutrali.
È il classico problema delle misure indirette: si chiede a un sistema di massimizzare qualcosa di misurabile, mentre l’obiettivo umano reale è più ampio e più difficile da codificare. Una maggiore accuratezza su un insieme di test non dimostra l’equità se l’insieme o l’obiettivo sono inadeguati. Questa intuizione ricorda la legge di Goodhart, secondo cui una misura può cessare di essere utile quando diventa un obiettivo. Le verifiche dovrebbero quindi esaminare i risultati tra i diversi gruppi, gli incentivi e la definizione di successo, non soltanto le prestazioni tecniche.
Prepararsi al cumularsi dei guasti di sistema, non solo a una rivolta dei robot
I piccoli guasti si sommano. L’avvertimento centrale di Webb non riguarda un’insurrezione improvvisa da film, ma l’accumularsi graduale di danni che restringono le possibilità delle persone. Tay, un chatbot di Microsoft addestrato attraverso l’interazione pubblica, iniziò rapidamente a ripetere contenuti razzisti e offensivi. Un assistente vocale inviò per errore a un contatto una registrazione privata di una conversazione domestica, dopo aver interpretato male una sequenza di comandi. La gravità di questi episodi era diversa, ma ciascuno dimostrava come i sistemi possano comportarsi in modo inatteso quando vengono usati nella vita reale.
Le debolezze tecniche possono propagarsi. Il libro descrive il reward hacking, cioè quando un’IA sfrutta il modo in cui è configurata invece di svolgere il compito previsto, per esempio un sistema che gioca a un videogioco e si ferma a tempo indeterminato per evitare di perdere. Spiega anche gli esempi avversari, in cui minime modifiche a un’immagine possono indurre un sistema a identificarla con sicurezza in modo errato. Il rischio aumenta quando i sistemi automatizzati interagiscono tra loro e i loro errori incidono sui servizi essenziali.
Il modello del guasto graduale si adatta ai sistemi complessi, nei quali il danno emerge spesso dall’interazione inattesa di componenti ordinari. Un singolo errore può essere recuperabile; molti errori interconnessi possono sopraffare chi è incaricato di intervenire. Questa prospettiva privilegia le prove di tenuta, il monitoraggio e procedure di ripiego chiare, anziché la fiducia che i test possano eliminare ogni difetto. Evita anche di considerare catastrofi l’unica soglia significativa di preoccupazione. Al tempo stesso, non ogni malfunzionamento segnala una crisi sistemica. Una buona valutazione del rischio distingue i guasti isolati da quelli che possono propagarsi a catena.
Mantenere i dati personali trasferibili e sotto il controllo delle persone a cui si riferiscono
Un solo registro, molte conseguenze. Webb immagina un registro dei dati personali, o PDR, che riunisca l’attività digitale con informazioni su istruzione, lavoro, finanze, salute, viaggi e acquisti. Sostiene che gli account di posta elettronica e i servizi collegati di oggi ne costituiscano già una versione iniziale: un solo accesso può collegare identità, messaggi, acquisti e altre tracce personali. Un registro completo potrebbe aiutare l’IA a personalizzare i servizi, ma potrebbe anche offrire a un’azienda o a un governo un quadro insolitamente esaustivo di una persona.
La proprietà modifica gli equilibri. Nel futuro ottimistico descritto dal libro, le persone controllano i propri PDR e possono concedere autorizzazioni tra servizi compatibili. Nei futuri più inquietanti, i registri appartengono alle aziende, i sistemi non riescono a scambiarsi facilmente i dati e lasciare un fornitore significa perdere l’accesso o la comodità. La portabilità dei dati e l’interoperabilità sono importanti perché il diritto formale di cambiare fornitore serve a poco se farlo è praticamente impossibile.
I sistemi di dati personali pongono un problema di azione collettiva: ciascuno può accettare una piccola comodità, mentre l’insieme dei dati conferisce un potere contro cui nessun individuo può davvero negoziare. La portabilità può ridurre la dipendenza da un unico fornitore, ma la proprietà, da sola, non basta a garantire protezione. Le persone potrebbero non comprendere le implicazioni del consenso, e i loro registri possono rivelare informazioni su familiari o contatti. La minimizzazione dei dati è un utile principio complementare: alcune informazioni non dovrebbero essere raccolte o combinate affatto. Il concetto di PDR del libro rende concreto il compromesso, ma la sua promessa dipende dalla governance e dai limiti imposti.
Usare futuri alternativi per trasformare i rischi lontani dell’IA in decisioni da prendere oggi
Gli scenari non sono previsioni. Webb ricorre alla pianificazione per scenari per esplorare esiti plausibili, senza pretendere di poterli prevedere con certezza. Il suo futuro ottimistico immagina investimenti pubblici coordinati, standard condivisi e cooperazione internazionale. Il futuro pragmatico prevede riforme limitate, lasciando in gran parte intatti i sistemi frammentati e la concentrazione del potere nelle mani delle aziende. Il futuro catastrofico porta alle estreme conseguenze i fallimenti attuali, fino alla sorveglianza, al conflitto geopolitico e alla perdita del controllo umano. Ogni scenario prende le mosse da segnali e pressioni visibili nel presente descritto dal libro, poi si chiede che cosa potrebbe accadere se quelle forze si rafforzassero o cambiassero.
Confrontare le scelte, non le date. Gli scenari si snodano attraverso anni immaginari come il 2029, il 2049 e il 2069. Il loro scopo è rendere tangibili le conseguenze astratte e far emergere le decisioni che potrebbero cambiare la traiettoria. Webb introduce inoltre il PDR come elemento ricorrente, mostrando come la stessa tecnologia potrebbe favorire servizi personalizzati o diventare uno strumento di controllo.
La pianificazione per scenari aiuta a ragionare nell’incertezza senza fingere che una singola previsione sia affidabile. È più utile soprattutto per il confronto: quali decisioni rendono più probabile un esito auspicabile, e quali creano vulnerabilità in diversi futuri possibili? Questo metodo è prezioso per le tecnologie i cui effetti dipendono dalla politica, dagli incentivi e dalla diffusione tanto quanto dal progresso tecnico. Gli scenari possono anche introdurre di nascosto presupposti in racconti vividi, facendo apparire inevitabile un certo percorso. I lettori dovrebbero considerarli esperimenti mentali strutturati, per poi esaminare quali presupposti siano fondati e quali meritino di essere messi in discussione.
Creare una supervisione nell’interesse pubblico prima che i sistemi commerciali e statali si radichino
Coordinarsi prima della crisi. Webb propone GAIA, l’Alleanza globale per l’intelligenza aumentata (Global Alliance on Intelligence Augmentation), come organismo internazionale in cui governi, ricercatori e altri esperti possano elaborare standard condivisi per l’IA. Propone un Atlante dei valori umani (Human Values Atlas) in continua evoluzione, per documentare le differenze tra i valori umani nelle varie culture, invece di fingere che esista un consenso universale e immutabile. Le sue raccomandazioni includono controlli di sicurezza indipendenti, spiegazioni chiare sull’uso dei dati, responsabilità pubblica, controllo delle persone sui propri registri e sperimentazione dei sistemi più potenti in ambienti controllati prima della loro diffusione.
Cambiare anche le istituzioni. Il libro invita i governi a sviluppare competenze proprie in materia di IA, le aziende a verificare la presenza di distorsioni nei dati di addestramento e a integrare l’analisi dei rischi nella ricerca, e le università a includere etica e discipline umanistiche nella formazione tecnica. Favorisce la collaborazione e la pianificazione a lungo termine, anziché aspettare che gli incidenti impongano risposte reattive. L’obiettivo non è fermare la ricerca sull’IA, ma fare in modo che sicurezza e beneficio pubblico ne siano parte integrante, anziché un ripensamento.
La proposta riconosce che la governance non può essere delegata ai singoli utenti né lasciata alla buona volontà delle aziende. Standard condivisi possono rendere comprensibili le aspettative in materia di sicurezza tra le istituzioni, mentre un atlante dei valori potrebbe mettere in luce i disaccordi invece di nasconderli dietro uno slogan universalistico. La questione difficile è l’applicazione: alleanze volontarie potrebbero non avere sufficiente influenza su Stati e aziende potenti. La cautela del libro nei confronti di una regolamentazione rigida è comprensibile in un settore in rapida evoluzione, ma non ne consegue che norme vincolanti siano sempre controproducenti. Una governance duratura potrebbe richiedere standard adattabili, sostenuti da diritti esigibili.
Fare delle scelte quotidiane sui dati e della pressione civica parte della governance dell’IA
La partecipazione comincia vicino a noi. Webb invita i lettori a controllare le impostazioni relative alla privacy e alla posizione, a interrogarsi sulle app che raccolgono volti o altri dati personali e a capire come i sistemi sul posto di lavoro prendono le decisioni. Esorta inoltre ciascuno a valutare se le proprie scelte in materia di assunzioni, promozioni e appalti escludano persone diverse da sé. Questi passi non riprogetteranno l’IA da soli, ma possono mostrare come le abitudini quotidiane e le prassi istituzionali alimentino i sistemi in fase di sviluppo.
Chiedere una leadership consapevole. Il libro incoraggia gli elettori a sostenere i rappresentanti che prendono sul serio la scienza, la pianificazione a lungo termine e gli effetti sociali dell’IA. Invita inoltre i lettori a guardare oltre i racconti di robot che prendono il potere e a prestare attenzione all’uso dei dati, al lavoro, alla privacy e al potere geopolitico. L’immagine conclusiva è quella dell’azione collettiva: molti piccoli interventi, coordinati da una comprensione condivisa dei rischi, possono influenzare una traiettoria che nessuno riuscirebbe a reindirizzare da solo.
L’iniziativa individuale conta soprattutto quando si traduce in una forza collettiva: politiche sul posto di lavoro, appalti pubblici, elezioni e richieste organizzate di responsabilità. Le impostazioni sulla privacy possono limitare l’esposizione, ma non risolvono lo squilibrio tra gli individui e le piattaforme che controllano servizi essenziali. Un’interpretazione utile, quindi, non è che i consumatori debbano gestire personalmente ogni rischio, ma che utenti informati possano contribuire a rendere visibili e contestabili le decisioni istituzionali. I consigli pratici del libro sono più efficaci se affiancati da riforme strutturali, affinché la responsabilità non ricada silenziosamente sui cittadini comuni, sottraendola a chi progetta i sistemi e detiene il potere.
Analisi
Il contributo centrale del libro consiste nel spostare il dibattito sull’IA dalla coscienza ipotetica delle macchine alle istituzioni che già plasmano le decisioni automatizzate. La ricostruzione storica fa apparire i sistemi attuali meno come una rottura tecnologica improvvisa e più come l’ultima tappa di un lungo tentativo di formalizzare il ragionamento. L’argomento politico chiede poi chi controlli questo processo: le aziende statunitensi che rispondono alle pressioni del mercato, le aziende cinesi che operano nell’ambito della strategia statale e i governi che spesso non dispongono di competenze tecniche o di un orizzonte di pianificazione a lungo termine.
Il filo analitico più solido è quello sociotecnico. L’IA non è semplicemente codice applicato a dati neutrali. I gruppi di lavoro selezionano obiettivi, esempi di addestramento, contesti di impiego e compromessi accettabili. Queste decisioni interagiscono con gli incentivi organizzativi, perciò distorsioni e danni possono emergere anche senza intenzioni malevole. Gli esempi relativi a pubblicità, valutazione del rischio, dati sanitari e agenti conversazionali rendono concreta l’idea. Anche la metafora dei danni graduali è strategicamente utile: i sistemi possono erodere la privacy, l’accesso e la capacità di agire attraverso molte decisioni singolarmente tollerabili, anziché con un unico fallimento spettacolare.
I tre scenari traducono questo argomento in uno strumento di pianificazione. Incoraggiano i lettori a confrontare le scelte invece di considerare immutabile il futuro. La loro vividezza è persuasiva, ma non equivale a probabilità. Il percorso ipotizzato dall’IA ristretta a quella generale e alla superintelligenza artificiale è incerto, e a volte la narrazione catastrofica presenta le tendenze geopolitiche come più coerenti e inevitabili di quanto siano in genere le istituzioni reali. Gli scenari sono più utili come prove di tenuta che come previsioni con date precise.
L’alleanza globale e l’atlante dei valori proposti offrono una risposta ambiziosa, ma mettono anche in luce una tensione nel libro. Il testo avverte che nessun singolo gruppo può parlare a nome dell’umanità, e poi immagina istituzioni incaricate di definire standard condivisi. Questa tensione non è necessariamente fatale: diritti comuni possono convivere con differenze culturali. Ma gli standard richiedono autorità trasparente, rappresentanza, possibilità di revisione e meccanismi di applicazione. Il libro è convincente nell’affermare che le capacità pubbliche debbano crescere di pari passo con quelle delle aziende. La sua lezione pratica più solida è costruire istituzioni in grado di mettere in discussione le decisioni automatizzate prima che la dipendenza renda le alternative proibitivamente difficili.
Sintesi delle recensioni
The Big Nine ha ricevuto recensioni perlopiù positive per la sua analisi acuta dell’impatto dell’IA sulla società e sulla geopolitica. I lettori apprezzano lo stile accessibile di Webb e gli scenari sui possibili futuri dell’IA. Alcuni criticano la prospettiva incentrata sugli Stati Uniti e il presunto pregiudizio nei confronti della Cina. L’esperienza e la ricerca dell’autrice vengono lodate, anche se alcuni giudicano speculativi gli scenari futuri. I critici osservano che l’attenzione del libro alle grandi aziende tecnologiche potrebbe trascurare gli sviluppi dell’IA in altri settori. Nel complesso, i recensori lo consigliano come un’esplorazione stimolante delle implicazioni sociali dell’IA.
Altri hanno letto anche
Glossario
Big Nine
Nove aziende leader nell’IAIl nome collettivo usato da Webb per indicare sei grandi aziende tecnologiche statunitensi — Google, Amazon, Apple, IBM, Microsoft e Facebook — e tre grandi aziende cinesi — Baidu, Alibaba e Tencent. Il termine sottolinea l’enorme influenza che un piccolo gruppo di aziende esercita sulla ricerca, sulle infrastrutture, sui prodotti e sui dati relativi all’IA.
tribù dell’IA
Comunità interconnesse dell’IAIl termine usato da Webb per indicare i gruppi relativamente ristretti e interconnessi di ricercatori, dirigenti, studenti e investitori che plasmano l’IA. La formazione condivisa, i legami professionali e gli ambienti di lavoro possono generare presupposti comuni. Quando queste comunità non includono prospettive diverse, i loro punti ciechi possono riflettersi nei sistemi che progettano.
intelligenza artificiale ristretta
IA per compiti specificiIA progettata per svolgere un compito limitato, come riconoscere il parlato, individuare schemi o consigliare contenuti. Un sistema ristretto può eguagliare o superare le capacità umane nel proprio ambito senza possedere le ampie capacità di ragionamento associate all’intelligenza umana. Webb descrive l’IA ristretta come quella già integrata in molti prodotti e servizi di uso quotidiano.
intelligenza artificiale generale
IA ampia, di livello umanoForma ipotetica di IA capace di svolgere un’ampia gamma di compiti cognitivi, ragionare in ambiti diversi e compiere scelte con competenza generale. Nel libro, l’AGI è una fase futura che va oltre i sistemi progettati per compiti circoscritti. Webb considera incerti il suo arrivo e i tempi, esplorando al contempo come il suo sviluppo potrebbe influire sul lavoro, sulla salute e sul potere politico.
superintelligenza artificiale
IA oltre le capacità umaneForma ipotetica di IA le cui capacità cognitive superano quelle umane in molti o in tutti gli ambiti. Il termine comprende un’ampia gamma di possibilità, da prestazioni superiori in misura modesta a un’intelligenza che va ben oltre la comprensione umana. Webb considera la possibilità che un sistema del genere persegua obiettivi in modi che i suoi creatori non sono in grado di prevedere o comprendere facilmente.
legge di Conway
I sistemi riflettono chi li costruisceIl principio secondo cui il progetto di un sistema tende a riflettere la struttura e i modelli di comunicazione dell’organizzazione che lo ha creato. Webb applica questa idea all’IA, sostenendo che i presupposti e i pregiudizi dei gruppi di sviluppo possono incorporarsi negli algoritmi, nei prodotti e nei processi, soprattutto quando tali gruppi non dispongono di standard condivisi chiari.
effetto dell’ottimizzazione
Danni involontari dovuti all’ottimizzazioneIl termine usato da Webb per indicare le conseguenze involontarie che emergono quando un’IA viene ottimizzata per raggiungere un obiettivo definito, senza un’adeguata attenzione al contesto o all’impatto sulle persone. Un sistema può raggiungere il proprio obiettivo misurabile producendo al contempo esiti dannosi, come pubblicità discriminatorie o valutazioni del rischio errate. Il concetto sottolinea l’importanza di esaminare ciò che il sistema premia, non solo se svolge il compito assegnatogli.
registro dei dati personali
Registro integrato di dati personaliUn registro unificato ipotetico che combina i dati delle attività digitali con informazioni su salute, istruzione, lavoro, finanze, viaggi e acquisti. Webb usa il concetto per esaminare come l’IA potrebbe utilizzare i dati accumulati di una persona per prendere decisioni e fornire servizi. Il registro potrebbe essere controllato da una persona oppure, in modo meno sicuro, da un’azienda o da un governo.
pianificazione per scenari
Esplorazione di futuri plausibiliMetodo previsionale che sviluppa diversi resoconti plausibili di come le condizioni e le decisioni attuali potrebbero plasmare il futuro. Non pretende di prevedere un unico esito certo. Webb usa scenari ottimistici, pragmatici e catastrofici per rendere tangibili le possibili conseguenze e aiutare i lettori a individuare le scelte che potrebbero cambiare la direzione dell’IA.
Alleanza globale per l’intelligenza aumentata (Global Alliance on Intelligence Augmentation)
Alleanza internazionale proposta per l’IAGAIA è l’organizzazione internazionale proposta da Webb, che riunirebbe governi, aziende tecnologiche, ricercatori ed esperti di altri settori per orientare lo sviluppo dell’IA. Definirebbe standard comuni per la sicurezza, la trasparenza, i diritti umani e la governance dei dati. Il libro la presenta come un mezzo per coordinare l’azione tra paesi e ridurre i rischi di uno sviluppo frammentato dell’IA.
Atlante dei valori umani (Human Values Atlas)
Mappa in evoluzione dei valori umaniRisorsa proposta e aggiornata costantemente, che documenta i valori delle diverse culture e società. Webb sostiene che chi sviluppa l’IA non può dare per scontato che l’umanità condivida un unico insieme di valori, fisso e universale. L’atlante renderebbe più visibili differenze e conflitti, aiutando i progettisti dei sistemi a considerare le persone interessate dall’IA, invece di trattare come universali i presupposti di un singolo gruppo.
problema della scatola nera
Processo decisionale opaco dell’IALa difficoltà di capire come un sistema di IA complesso sia giunto a un determinato risultato. Nei sistemi di apprendimento automatico, i numerosi livelli di calcolo possono rendere difficili da interpretare le decisioni, persino per i ricercatori che hanno creato il modello. Webb sostiene che questa opacità rende difficile individuare i pregiudizi, spiegare le decisioni con conseguenze rilevanti e conquistare la fiducia del pubblico.
FAQ
Di cosa parla The Big Nine?
- L’impatto dell’IA: The Big Nine di Amy Webb esamina lo sviluppo dell’IA da parte di nove grandi aziende tecnologiche — Google, Amazon, Apple, IBM, Microsoft, Facebook, Baidu, Alibaba e Tencent — e le sue implicazioni per l’umanità.
- Scenari futuri: il libro presenta tre possibili futuri dell’IA — ottimistico, pragmatico e catastrofico — e illustra come le scelte di oggi plasmeranno il mondo di domani.
- Un invito all’azione: Webb sottolinea la necessità di un’azione collettiva affinché l’IA serva al meglio gli interessi dell’umanità, anziché essere guidata esclusivamente dal profitto o da agende politiche.
Perché dovrei leggere The Big Nine?
- Capire il ruolo dell’IA: il libro offre spunti fondamentali su come l’IA sia integrata in vari aspetti della nostra vita, dalla sanità alla sicurezza nazionale.
- Consapevolezza dei rischi: Webb mette in evidenza i potenziali rischi legati all’IA, tra cui i pregiudizi e la perdita della privacy, e invita i lettori a riflettere sulle implicazioni etiche.
- Prendere decisioni informate: leggendo questo libro, sarete meglio preparati a partecipare alle discussioni sull’IA e a sostenere uno sviluppo e una regolamentazione responsabili.
Quali sono i punti principali di The Big Nine?
- La duplice natura dell’IA: l’IA può migliorare la vita, ma comporta rischi considerevoli se non viene gestita correttamente, in particolare per quanto riguarda la privacy e i pregiudizi.
- L’importanza della diversità: Webb sottolinea la necessità di includere voci diverse nello sviluppo dell’IA, per evitare che pregiudizi sistemici vengano incorporati negli algoritmi.
- La competizione globale: il libro affronta le implicazioni geopolitiche dell’IA, in particolare la competizione tra Stati Uniti e Cina.
Quali sono le citazioni migliori di The Big Nine e cosa significano?
- Prepararsi agli abusi: «Dobbiamo ricordarci costantemente di pianificare sia l’uso previsto sia l’uso improprio non previsto». Ciò sottolinea l’importanza della lungimiranza nello sviluppo dell’IA.
- Percorsi di sviluppo: «Il futuro dell’IA sta attualmente seguendo due percorsi di sviluppo spesso in contrasto con ciò che è meglio per l’umanità». Questo riflette la tensione tra le logiche orientate al profitto negli Stati Uniti e l’IA controllata dallo Stato in Cina.
- Responsabilità individuale: «Ogni persona oggi in vita può svolgere un ruolo fondamentale nel futuro dell’intelligenza artificiale». Questo sottolinea il ruolo che ciascuno può avere nel plasmare il futuro dell’IA.
Qual è l’importanza delle aziende del «Big Nine» in The Big Nine?
- Protagonisti dell’IA: le aziende del «Big Nine» sono grandi imprese tecnologiche all’avanguardia nello sviluppo dell’IA, che influenzano diversi settori in tutto il mondo.
- Influenza sulla società: attraverso le loro tecnologie di IA, queste aziende incidono sulle norme sociali, sulle strutture economiche e sui paesaggi politici.
- Competizione e collaborazione: il libro illustra come queste aziende competano tra loro e debbano collaborare alla definizione di standard etici, affinché l’IA porti benefici alla società.
In che modo The Big Nine affronta le implicazioni etiche dell’IA?
- Un invito alla trasparenza: Webb sostiene la trasparenza nei sistemi di IA e afferma che comprendere i processi decisionali è fondamentale per garantire la responsabilità.
- Diversità nello sviluppo: il libro sottolinea la necessità di gruppi diversificati nello sviluppo dell’IA, per attenuare i pregiudizi.
- Un quadro di valori: Webb suggerisce di adottare valori umanistici che, nello sviluppo dell’IA, antepongano il benessere della società al profitto.
Quali sono i tre scenari futuri presentati in The Big Nine?
- Scenario ottimistico: immagina un futuro in cui le aziende del Big Nine danno priorità allo sviluppo etico dell’IA, generando benefici per la società.
- Scenario pragmatico: vengono introdotti miglioramenti limitati, ma la direzione generale resta invariata e persistono problemi come i pregiudizi.
- Scenario catastrofico: descrive un futuro in cui uno sviluppo incontrollato dell’IA provoca danni alla società, perdita della privacy e aumento delle disuguaglianze.
Che cos’è il «problema della scatola nera» nell’IA, secondo The Big Nine?
- Mancanza di trasparenza: il problema della scatola nera è la difficoltà di capire come i sistemi di IA prendano le loro decisioni.
- Implicazioni per la fiducia: questa opacità può generare sfiducia nei sistemi di IA, soprattutto in ambiti cruciali come la sanità e la finanza.
- La necessità di soluzioni: Webb sostiene la necessità di metodi che rendano i sistemi di IA più interpretabili e responsabili.
In che modo The Big Nine suggerisce di migliorare il futuro dell’IA?
- Impegno collaborativo: sottolinea l’importanza della collaborazione tra le aziende del Big Nine, i governi e la società civile per definire standard etici.
- Istruzione e consapevolezza: sostiene la necessità di una maggiore formazione sull’IA e sulle sue implicazioni.
- Pianificazione a lungo termine: invita a passare dai guadagni a breve termine a una pianificazione di lungo periodo, per allineare lo sviluppo dell’IA ai migliori interessi dell’umanità.
Che ruolo ha la Cina nel racconto di The Big Nine?
- Rivalità geopolitica: il libro mette in evidenza la competizione tra Stati Uniti e Cina nello sviluppo dell’IA, con l’obiettivo cinese di diventare leader entro il 2030.
- Sviluppo controllato dallo Stato: lo sviluppo dell’IA in Cina è strettamente legato alla strategia governativa e solleva preoccupazioni per la privacy e i diritti umani.
- Influenza globale: il libro esamina come l’approccio cinese potrebbe diventare un modello per altri regimi autoritari.
Che cos’è GAIA e quale ruolo svolge in The Big Nine?
- Alleanza globale per l’intelligenza aumentata (Global Alliance on Intelligence Augmentation): GAIA è proposta come coalizione globale per supervisionare lo sviluppo dell’IA e assicurare che sia in linea con i valori umani.
- Definizione di standard: GAIA stabilirebbe standard e norme per l’IA, comprese linee guida etiche e misure per la trasparenza.
- Sede e collaborazione: si propone di collocarla a Montréal, in Canada, per favorire la collaborazione tra portatori di interessi diversi.
Quali sono le implicazioni dell’IA per l’occupazione, secondo The Big Nine?
- Sostituzione dei posti di lavoro: l’IA potrebbe eliminare molti posti di lavoro, soprattutto nei settori basati sulla conoscenza, causando instabilità economica.
- La necessità di riqualificare: il libro sottolinea l’importanza di riqualificare la forza lavoro per adeguarla al mutamento del panorama occupazionale.
- La nascita di nuovi ruoli: l’IA potrebbe creare nuove opportunità in ambiti che richiedono supervisione umana e creatività.
Scarica PDF
Scarica EPUB
.epub è ideale per leggere ebook su telefoni, tablet ed e-reader.