Inizia la prova gratuita
Tendenze Novità Generi Autori
EnglishEnglish
EspañolSpanish
简体中文Chinese
繁體中文Chinese (Traditional)
FrançaisFrench
DeutschGerman
日本語Japanese
PortuguêsPortuguese
ItalianoItalian
한국어Korean
РусскийRussian
NederlandsDutch
العربيةArabic
PolskiPolish
हिन्दीHindi
Tiếng ViệtVietnamese
SvenskaSwedish
ΕλληνικάGreek
TürkçeTurkish
ไทยThai
ČeštinaCzech
RomânăRomanian
MagyarHungarian
УкраїнськаUkrainian
IndonesiaIndonesian
DanskDanish
SuomiFinnish
БългарскиBulgarian
עבריתHebrew
NorskNorwegian
HrvatskiCroatian
CatalàCatalan
SlovenčinaSlovak
LietuviųLithuanian
SlovenščinaSlovenian
СрпскиSerbian
EestiEstonian
LatviešuLatvian
فارسیPersian
മലയാളംMalayalam
தமிழ்Tamil
اردوUrdu
Ricerca in corso...
SoBrief
Supremacy

Supremacy

Un milione di persone ha provato ChatGPT in una settimana. Chi era nella posizione di controllare ciò che sarebbe successo dopo?
di Parmy Olson 2024 336 pagine
4.05
5.000+ valutazioni
Ascolta
Immersivi
V2.3
Amazon Kindle Audible
Prova l'accesso completo per 3 giorni
Sblocca l'ascolto e molto altro!
Continua

Punti chiave

Il tentativo dei fondatori di salvare l’umanità rafforzò i giganti di cui diffidavano.

Due origini ambiziose. La prima azienda di Sam Altman, Loopt, cercava di aiutare gli amici a trovarsi tramite il telefono. Non decollò mai e Altman la vendette per una cifra modesta. Demis Hassabis realizzò ambiziosi giochi di simulazione, ma il suo studio, Elixir, fallì dopo aver privilegiato lo spettacolo tecnico rispetto al piacere di giocare. Entrambi i fallimenti accrebbero il loro interesse per problemi più grandi dei normali prodotti.

Prende forma una corsa. Altman finì per guidare OpenAI, promettendo che l’IA avrebbe potuto diffondere la prosperità. Hassabis fondò DeepMind per usare l’intelligenza artificiale al fine di realizzare scoperte scientifiche. Inizialmente cercarono modi per impedire che un’IA potente fosse controllata da aziende concentrate sul profitto. Le loro ambizioni, però, richiedevano denaro, potenza di calcolo, dati e ricercatori molto richiesti. Si rivolsero a Microsoft e Google, e le aziende acquisirono influenza sulla tecnologia che i fondatori avevano sperato di gestire nell’interesse di tutti.

Analisi

L’ironia più pungente della storia è che un sincero intento pubblico non contrasta automaticamente il potere privato. Una missione può motivare i ricercatori, lasciando però nelle mani delle aziende le infrastrutture, i finanziamenti e le decisioni sulla diffusione. La distinzione è importante: le buone intenzioni descrivono ciò che i dirigenti sperano di ottenere, mentre il controllo determina ciò che è davvero possibile fare. Il racconto è più efficace quando segue questo spostamento istituzionale, invece di trattare il carattere dei fondatori come spiegazione esaustiva. L’ambizione può dare il via a una tecnologia; proprietà e incentivi determinano chi ne beneficia.

Pretendi una definizione misurabile prima che qualcuno affermi di stare costruendo l’AGI.

Una meta sfuggente. L’intelligenza artificiale generale, o AGI, indica un’IA in grado di svolgere un’ampia gamma di compiti, anziché un’unica mansione circoscritta. L’idea attrasse Hassabis e Altman perché un sistema del genere avrebbe potuto contribuire a risolvere misteri scientifici o a creare un’abbondanza economica diffusa. Shane Legg contribuì a rendere popolare il termine, dando a ricercatori e investitori un nome per un obiettivo ancora teorico.

Nessun traguardo condiviso. In seguito, OpenAI descrisse l’AGI in termini di sistemi capaci di superare gli esseri umani nella maggior parte delle attività economicamente importanti, ma il libro osserva che questo confine resta vago. Hassabis, Altman e le rispettive organizzazioni le associarono promesse diverse, dalla comprensione dell’universo alla distribuzione di enormi ricchezze. Senza test chiari, un’azienda può rivendicare progressi senza mostrare con precisione che cosa sia stato ottenuto o chi debba governarlo.

Analisi

Una definizione non è una semplice finezza tecnica quando un termine attira investimenti, orienta le politiche e giustifica rischi straordinari. Se il successo non ha una misura condivisa, i dirigenti possono spostare continuamente il traguardo presentando ogni nuovo prodotto come prova che una soglia storica sia vicina. L’ambiguità può anche rendere più difficile il controllo: le autorità di regolamentazione e il pubblico non possono valutare una promessa che non è possibile tradurre in criteri operativi. Tuttavia, gli obiettivi generali della ricerca non sempre si prestano a metriche nette. Non serve pretendere una certezza assoluta, ma formulare affermazioni esplicite, definire test osservabili e dichiarare con onestà i limiti.

Segui i chip, i dati e i talenti per capire chi controlla l’IA.

La scala ha un prezzo. Addestrare modelli avanzati di IA richiede enormi quantità di dati, computer potenti e specialisti pagati molto bene. OpenAI faticava a finanziare la propria ricerca in quanto organizzazione non profit, mentre Microsoft poteva offrire accesso a un supercomputer con 10.000 unità di elaborazione grafica. DeepMind, invece, ottenne risorse e ricercatori dopo l’acquisizione da parte di Google. Le aziende proprietarie di servizi cloud e chip possono quindi determinare quali progetti siano realizzabili.

La concentrazione si può misurare. Uno studio citato nel libro rilevò che nel 2021 le grandi aziende controllavano il 96 per cento dei modelli di IA, contro l’11 per cento nel 2010. In quell’anno, le agenzie governative statunitensi non legate alla difesa avevano stanziato 1,5 miliardi di dollari per l’IA, mentre gli investimenti dell’industria privata superavano i 340 miliardi. Le aziende più piccole e le università spesso devono affittare capacità di calcolo dagli stessi colossi con cui competono.

Analisi

Questo rende la struttura del potere nell’IA meno misteriosa di quanto suggerisca il linguaggio della corsa. Le capacità dipendono non solo da algoritmi ingegnosi, ma anche dall’accesso a infrastrutture energivore, dati e canali di distribuzione. Il controllo di questi fattori offre potere contrattuale anche a un’azienda che non ha inventato la tecnica sottostante. Il confronto complica inoltre la narrazione consueta dell’innovazione come gara tra fondatori geniali. L’ingegno individuale conta, ma sono le istituzioni capaci di finanziare e ampliare il lavoro a poter decidere quale ingegno raggiungerà il pubblico.

Dai alle commissioni etiche sull’IA veri poteri legali, non solo buone intenzioni.

Promesse senza strumenti coercitivi. Prima che Google acquisisse DeepMind, i fondatori rifiutarono un’offerta di Facebook, in parte perché volevano un organismo indipendente che supervisionasse la futura IA potente. Google accettò di istituire una commissione per l’etica e la sicurezza, ma l’accordo non durò. In seguito, DeepMind valutò la possibilità di diventare un’organizzazione separata al servizio dell’interesse pubblico, dotata di amministratori indipendenti e di una supervisione formale. Dopo anni di proposte, Google abbandonò il piano di separazione e istituì un consiglio interno composto da dirigenti dell’azienda.

La governance incontra gli incentivi. OpenAI nacque come organizzazione non profit, poi creò una struttura a profitto limitato e si alleò con Microsoft per assicurarsi le risorse necessarie. Nel 2023 il suo consiglio non profit aveva effettivamente l’autorità di licenziare Altman. Ma quasi tutto il personale minacciò di andarsene, Microsoft propose ad Altman un nuovo incarico e il consiglio fu sostituito. L’episodio mostrò che l’autorità formale può esistere sulla carta, ma diventare fragile quando dipendenti, investitori e fornitori di infrastrutture esercitano pressioni.

Analisi

Il confronto mette in luce un autentico problema di progettazione: la supervisione non può essere efficace se chi vigila dipende dall’istituzione che dovrebbe limitare. Tuttavia, l’indipendenza da sola non basta. Un piccolo gruppo può concentrare le decisioni nelle mani di poche persone, e un consiglio può non avere le competenze tecniche o la legittimità pubblica necessarie a rappresentare tutti coloro che ne subiscono gli effetti. Una governance duratura richiede più di un’etichetta etica: servono poteri definiti, accesso alle informazioni, conseguenze in caso di mancato rispetto delle regole e la possibilità per le comunità interessate di far sentire la propria voce.

Un’invenzione di Google trascurata divenne il trampolino di lancio di OpenAI contro Google.

Il Transformer trasformò l’IA linguistica. Nel 2017, otto ricercatori di Google presentarono un’architettura di rete neurale capace di elaborare contemporaneamente le relazioni tra molte parole, anziché trattarle soltanto in sequenza. L’architettura, chiamata Transformer, rese più facile addestrare modelli su grandi quantità di testo e generare un linguaggio scorrevole. I ricercatori di Google intuirono anche il potenziale dei chatbot, ma i dirigenti esitarono a lanciare sistemi come Meena, preoccupati per gli errori e per i danni alla reputazione dell’azienda.

OpenAI colmò il vuoto. Alec Radford e Ilya Sutskever adattarono il Transformer per creare GPT, poi lo migliorarono aumentando i dati, la potenza di calcolo e le dimensioni del modello. Alla fine Google utilizzò i Transformer in prodotti come il motore di ricerca, ma OpenAI sviluppò strumenti linguistici destinati al pubblico. Il punto del libro non è che a Google mancasse il talento. La dipendenza dalla pubblicità e una burocrazia prudente rendevano più difficile perseguire prodotti dirompenti, lasciando spazio a un concorrente più piccolo.

Analisi

È un utile contrappunto all’idea che le grandi organizzazioni vincano sempre grazie alle maggiori risorse. La scala può finanziare la ricerca e al tempo stesso indurre i dirigenti a proteggere le fonti di reddito esistenti. Un nuovo prodotto può minacciare proprio l’attività che ne finanzia lo sviluppo, creando un conflitto tra invenzione e adozione. Al tempo stesso, la cautela di Google non era semplicemente irrazionale: chatbot inaffidabili possono fuorviare gli utenti e minare la fiducia. Il vero errore fu considerare dominante il rischio reputazionale, sottovalutando sia il valore della tecnologia sia il costo dell’immobilità.

La fluidità del linguaggio non dimostra comprensione, imparzialità o coscienza.

La previsione può sembrare personale. I modelli linguistici di grandi dimensioni apprendono gli schemi presenti nei testi e generano le continuazioni più probabili. La loro fluidità può farli apparire riflessivi o emotivi, come accadde quando l’ingegnere di Google Blake Lemoine concluse che LaMDA fosse senziente. Il libro contrappone questa impressione al funzionamento sottostante del modello: una previsione statistica, non la prova di un’esperienza simile a quella umana. Emily Bender e i suoi colleghi definirono questi sistemi «Pappagalli stocastici (stochastic parrots)», sottolineando che un risultato fluente può ripetere schemi senza comprenderne il significato.

I materiali di addestramento contano. I modelli addestrati su testi provenienti da Internet possono assorbirne gli stereotipi. OpenAI scoprì che GPT-3 associava le professioni agli uomini il 83 per cento delle volte in più rispetto alle donne, e alcune ricerche rilevarono associazioni dannose legate a razza, religione e disabilità. Una maggiore quantità di dati può rendere il linguaggio più fluido, ma anche rendere più difficile individuare l’origine di uno schema nocivo. Una risposta ben formulata non dimostra che il ragionamento sia valido o le sue supposizioni imparziali.

Analisi

La distinzione tra apparenza e meccanismo è preziosa perché gli esseri umani interpretano naturalmente una conversazione fluida come prova di una mente. Non è una reazione irragionevole: il linguaggio è uno dei principali mezzi con cui riconosciamo le intenzioni altrui. Ma abilità conversazionale e capacità di giudizio affidabile sono cose diverse. Un modello può essere utile senza essere cosciente, e un sistema che sembra neutrale può riprodurre materiale distorto. La sfida è evitare entrambi gli estremi: trattare ogni chatbot come una persona oppure liquidarne l’influenza reale perché non lo è.

Esigi che si indaghino i danni attuali prima di discutere dell’apocalisse delle macchine.

I pregiudizi hanno già conseguenze. Il libro contrappone i timori di una futura IA fuori controllo ai danni documentati dei sistemi oggi in uso. Lo strumento di valutazione del rischio COMPAS aveva maggiori probabilità di classificare erroneamente imputati neri come futuri autori di reati rispetto agli imputati bianchi. I sistemi di riconoscimento facciale hanno avuto prestazioni peggiori con le donne dalla pelle più scura, e in passato Google Photos classificò persone nere come gorilla. Questi errori possono influenzare l’attività di polizia, le assunzioni e l’accesso ai servizi.

Gli organi di controllo erano deboli. Le ricercatrici Timnit Gebru e Margaret Mitchell insistettero affinché Google esaminasse i pericoli dei modelli linguistici di grandi dimensioni, tra cui i pregiudizi e la documentazione carente. Google licenziò entrambe dopo una controversia su un articolo di ricerca. Nel frattempo, i sostenitori della sicurezza dell’IA concentrati sui rischi catastrofici futuri attiravano spesso molti più finanziamenti delle organizzazioni che studiavano la discriminazione attuale. Il libro sostiene che queste priorità non siano intercambiabili: una riguarda possibili catastrofi future, l’altra danni che le persone stanno già subendo.

Analisi

Un’agenda seria sui rischi non dovrebbe imporre una scelta tra catastrofi a lungo termine e ingiustizie attuali. Pericoli diversi richiedono competenze, prove e rimedi diversi. I danni presenti sono spesso più facili da osservare e si possono correggere con verifiche, pratiche migliori nella gestione dei dati e restrizioni all’uso in contesti ad alto rischio. Gli scenari futuri estremi possono comunque meritare attenzione, ma la loro incertezza non dovrebbe oscurare i danni misurabili. La questione istituzionale è chi ottiene risorse e attenzione. Quando le comunità coinvolte sono sottorappresentate tra sviluppatori e revisori, i punti ciechi non sono solo tecnici, ma anche politici.

Considera ogni lancio pubblico di IA un esperimento sociale, non una dimostrazione.

ChatGPT fu lanciato rapidamente al pubblico. OpenAI pubblicò ChatGPT nel novembre 2022 come anteprima di ricerca, nonostante le preoccupazioni per gli errori fattuali e gli usi impropri. Più di un milione di persone lo provò in una settimana e in due mesi raggiunse circa 30 milioni di utenti. La sua ampia utilità rese il lancio un punto di svolta: le persone lo provarono per i compiti scolastici, la programmazione, la scrittura e la ricerca, mentre Google e Microsoft si affrettarono a lanciare chatbot concorrenti.

Gli utenti si fecero carico dell’incertezza. OpenAI presentò il lancio pubblico come un modo per imparare dall’uso nel mondo reale, ma ChatGPT poteva inventare fatti con sicurezza e i ricercatori stimarono che, in alcuni contesti, gli errori potessero verificarsi in circa una risposta su cinque. Gli strumenti generativi sollevarono inoltre preoccupazioni per la perdita di posti di lavoro, la disinformazione e i risultati distorti. Il lancio di un sistema può far emergere problemi che i test di laboratorio non rilevano, ma porta anche quei problemi nelle aule, nei luoghi di lavoro e nella vita pubblica prima che la supervisione indipendente riesca a mettersi al passo.

Analisi

La diffusione pubblica può rivelare modalità di fallimento che nessuna batteria di test interna aveva previsto, e l’accesso permette alle persone di scoprire impieghi preziosi a cui i progettisti non avevano pensato. Ma definirla un esperimento non chiarisce chi abbia acconsentito a parteciparvi né chi si faccia carico dei costi dei fallimenti. L’asimmetria conta: le aziende ottengono utilizzo, riscontri e vantaggi di mercato, mentre gli utenti possono ricevere consigli inventati o subire nuove pressioni sul lavoro. Un lancio responsabile richiede quindi informazioni chiare, monitoraggio, modalità per segnalare i danni e meccanismi credibili di correzione, non soltanto la promessa di imparare dall’esperienza.

La comodità dell’IA può accrescere la dipendenza dalle aziende che ne controllano le infrastrutture.

Il prodotto va oltre il lavoro. Il libro racconta di persone che instaurano rapporti intensi con chatbot come Replika, mentre servizi più recenti incoraggiano conversazioni lunghe e personalizzate. I dispositivi indossabili che registrano le interazioni quotidiane promettono ricordi consultabili, ma potrebbero anche esporre conversazioni private. L’IA generativa può aiutare i lavoratori a portare a termine i compiti, ma può anche sostituire posti di lavoro o indurre le persone a fare affidamento sui software per scrivere, ricordare e giudicare.

Il potere segue il servizio. Microsoft, Google, Amazon e Nvidia forniscono software essenziali, capacità di calcolo in cloud e chip. Questa concentrazione può rendere difficile l’emergere di nuovi concorrenti e lasciare agli utenti poca scelta su come vengono gestiti i loro dati. L’avvertimento conclusivo del libro non è semplicemente che l’IA potrebbe diventare potente. È che le aziende già esistenti possono usarla per estendere la propria influenza sul lavoro, sulle informazioni, sulla privacy e sui prodotti da cui le persone dipendono ogni giorno.

Analisi

La comodità spesso nasconde un trasferimento di controllo. Uno strumento che ricorda, scrive o consiglia può ridurre la fatica, ma il suo proprietario può accumulare una quantità crescente di informazioni sui comportamenti e acquisire maggiore influenza su ciò che gli utenti vedono o fanno. Questo scambio non è di per sé inaccettabile: le persone possono scegliere liberamente di rinunciare a un po’ di riservatezza in cambio di un aiuto concreto. Le condizioni fondamentali sono trasparenza, possibilità di scelta effettiva e capacità di passare a un altro fornitore. In loro assenza, la comodità può trasformarsi in dipendenza, soprattutto quando le stesse aziende controllano i modelli, le infrastrutture di calcolo e i canali di accesso al mercato.

Analisi

Supremacy è una ricostruzione giornalistica di come un ambizioso progetto scientifico si sia trasformato in una contesa commerciale. La sua tesi centrale non è che Sam Altman e Demis Hassabis agissero in malafede fin dall’inizio. È che le intenzioni individuali non possano governare in modo affidabile una tecnologia il cui sviluppo dipende da capitali concentrati, infrastrutture di calcolo, dati e distribuzione. Le scelte dei fondatori contano, ma contano anche i sistemi che premiano la velocità, la crescita e il controllo.

La struttura narrativa più efficace del libro è il contrasto tra la cultura di ricerca di DeepMind, basata sulla simulazione, e l’approccio di OpenAI, incentrato sull’ingegneria e sulla diffusione dei prodotti. Hassabis perseguiva obiettivi legati ai giochi e traguardi scientifici, mentre l’organizzazione di Altman trattava sempre più i modelli linguistici come prodotti da ampliare e lanciare. La loro competizione contribuì a trasformare un’ambizione astratta in una tecnologia di uso pubblico, ma restrinse anche il numero di istituzioni in grado di orientarla. L’invenzione del Transformer da parte di Google e la sua esitazione a commercializzarlo mostrano in modo emblematico come la scala aziendale possa sia favorire sia soffocare l’innovazione.

Il libro distingue inoltre opportunamente i rischi catastrofici futuri dai danni già esistenti, come il pregiudizio razziale, la sorveglianza e le perturbazioni del lavoro. Spesso questi rischi vengono presentati come priorità concorrenti, anche se possono condividere un rimedio: sistemi trasparenti, esaminabili in modo indipendente. Il libro mostra in modo convincente come i racconti drammatici sul possibile futuro dell’IA possano mettere in ombra prove meno eclatanti dei danni presenti.

Il limite è che la stessa attenzione riservata a pochi fondatori e aziende potenti può far apparire il futuro più predeterminato di quanto sia. Anche università, autorità di regolamentazione, lavoratori, utenti e sviluppatori più piccoli contribuiscono a plasmare la tecnologia, pur non disponendo di risorse paragonabili. Né la segretezza, da sola, spiega ogni ritardo o decisione di diffusione: l’affidabilità e la sicurezza pubblica possono essere preoccupazioni legittime. La conclusione più utile del libro è dunque istituzionale, non fatalistica: le buone intenzioni non sono governance. La prova concreta è se le persone esterne alle aziende possano esaminare, contestare e limitare i sistemi da cui dipendono sempre più.

Riassunto in 30 secondi
L’IA avanzata dipende da chip, dati, potenza di calcolo e competenze specialistiche scarsi, concentrando l’influenza nelle mani di poche aziende. Nel 2021, le grandi aziende controllavano il 96 per cento dei modelli di IA, contro l’11 per cento del 2010. Un linguaggio fluido non dimostra comprensione o equità: GPT-3 associava le professioni agli uomini con una frequenza superiore dell’83 per cento rispetto alle donne. I rilasci al pubblico fanno emergere problemi reali, ma possono diffondere errori e pregiudizi prima che intervenga un controllo indipendente. Le buone intenzioni non possono sostituire una governance applicabile.
Contiene spoiler

Ultimo aggiornamento:

Segnala un problema

Sintesi delle recensioni

4.05 su 5
Media di 5.000+ valutazioni da Goodreads e Amazon.

Supremacy: AI, ChatGPT, and the Race that Will Change the World offre uno sguardo approfondito sul settore dell’IA, concentrandosi sulla rivalità tra OpenAI e DeepMind. I lettori apprezzano le spiegazioni accessibili di Olson su concetti complessi dell’IA e sui dilemmi etici legati al suo sviluppo. Il libro offre spunti su figure chiave come Sam Altman e Demis Hassabis, esplorandone le motivazioni e l’impatto degli interessi aziendali sui progressi dell’IA. Sebbene alcuni recensori abbiano trovato ripetitive o di parte certe sezioni, molti hanno lodato la narrazione avvincente del libro e il modo in cui esamina i possibili effetti dell’IA sulla società.

La tua valutazione:
4.58
830 valutazioni
Vuoi leggere il libro completo?

Altri hanno letto anche

Glossario

Intelligenza artificiale generale (AGI)

Capacità ampia e flessibile delle macchine

Forma teorica di intelligenza artificiale in grado di svolgere un’ampia gamma di compiti anziché una sola funzione circoscritta. Nel libro, l’AGI è un’ambizione condivisa a cui vengono attribuiti significati diversi: Hassabis la associa alla scoperta scientifica, mentre Altman la collega all’abbondanza economica. Non esiste un criterio condiviso per stabilire quando un sistema l’abbia raggiunta.

Transformer

Architettura per elaborare relazioni

Architettura di rete neurale introdotta da ricercatori di Google nel 2017. Il suo meccanismo di attenzione consente a un modello di ponderare le relazioni tra molte parti di una sequenza, come le parole di una frase, anziché elaborarle soltanto una alla volta. I Transformer hanno contribuito a rendere più capaci i modelli linguistici di grandi dimensioni e hanno reso possibili sistemi in grado di generare testi fluenti.

Modello linguistico di grandi dimensioni

Sistema di previsione addestrato sui testi

Modello di rete neurale addestrato su raccolte di testi molto ampie per individuare schemi e generare linguaggio. Può rispondere a prompt, proseguire brani e svolgere compiti affini prevedendo il testo più probabile sulla base dell’addestramento. Il libro sottolinea che la fluidità non dimostra una comprensione simile a quella umana, coscienza o assenza di pregiudizi.

Apprendimento per rinforzo da feedback umano (RLHF)

Affinamento del modello guidato dagli esseri umani

Metodo per affinare un modello di IA mediante giudizi umani sui suoi risultati. I revisori valutano le risposte e le loro valutazioni aiutano a orientare il sistema verso risposte considerate più utili o appropriate. Il libro ne descrive l’uso per limitare i risultati dannosi, osservando che la qualità e la coerenza delle revisioni possono variare.

Pappagalli stocastici (stochastic parrots)

Ripetizione fluida di schemi

Espressione usata dalle ricercatrici Emily Bender, Timnit Gebru, Margaret Mitchell e da altri studiosi per sottolineare che i modelli linguistici possono produrre testi convincenti riproducendo schemi statistici presenti nei materiali di addestramento. L’espressione mette in guardia dal confondere la fluidità dei risultati con la comprensione. Il loro articolo sollevava anche preoccupazioni sui dati distorti, sui costi ambientali e sociali e sulla documentazione carente.

Allineamento dell’IA

Adeguare i sistemi agli obiettivi umani

Ricerca e dibattito su come far sì che i sistemi di IA si comportino in modo coerente con le intenzioni e i valori umani. Nel libro, alcuni approcci all’allineamento mirano a impedire che sistemi potenti del futuro provochino danni catastrofici. Il termine riflette anche una questione difficile: quali obiettivi e valori dovrebbero determinare che cosa si intende per comportamento allineato?

Altruismo efficace

Impatto benefico quantificato

Movimento che applica un approccio sistematico e incentrato sull’impatto al tentativo di fare del bene. I sostenitori confrontano le possibili azioni in base ai benefici attesi e possono preferire guadagnare di più per poter donare di più. Il libro descrive come questo orientamento abbia spinto alcuni lavoratori del settore tecnologico a occuparsi della sicurezza dell’IA e dei rischi a lungo termine, interrogandosi al contempo su come i suoi calcoli possano privilegiare benefici futuri ipotetici rispetto ai danni presenti.

Società a profitto limitato

Profitti con un tetto prestabilito

Struttura adottata da OpenAI nel 2019, con una società a scopo di lucro controllata da un’organizzazione madre senza scopo di lucro. Gli investitori potevano ottenere rendimenti fino a un limite prestabilito; l’ulteriore valore generato avrebbe dovuto andare a beneficio della missione non profit. La struttura intendeva attirare ingenti finanziamenti mantenendo impegni di interesse pubblico, anche se il libro si interroga su quanto tali impegni siano stati rispettati nella pratica.

Effetti di rete

Il valore cresce con il numero di utenti

Dinamica aziendale per cui un servizio diventa più utile o più difficile da abbandonare man mano che aumenta il numero dei suoi utenti. Il libro applica questa idea a piattaforme come Facebook e Apple, le cui ampie basi di utenti e i servizi interconnessi rafforzano le loro posizioni di mercato. Gli effetti di rete possono rendere più difficile per i nuovi concorrenti attirare utenti, anche quando offrono un prodotto diverso.

FAQ

Di cosa parla Supremacy: AI, ChatGPT, and the Race that Will Change the World?

  • Sviluppo dell’IA: il libro approfondisce i rapidi progressi dell’intelligenza artificiale, in particolare degli strumenti di IA generativa come ChatGPT, e le loro implicazioni sociali.
  • Figure chiave: al centro ci sono Sam Altman e Demis Hassabis; il libro esplora i loro ruoli nell’IA attraverso le rispettive aziende, OpenAI e DeepMind, e i dilemmi etici che affrontano.
  • Impatto sociale: Parmy Olson esamina i potenziali benefici e rischi dell’IA, come i pregiudizi, la perdita di posti di lavoro e la concentrazione del potere nelle mani dei giganti tecnologici, sollevando interrogativi sul futuro dell’umanità in un mondo guidato dall’IA.

Perché dovrei leggere Supremacy: AI, ChatGPT, and the Race that Will Change the World?

  • Un tema attuale: con la crescente integrazione dell’IA nella vita quotidiana, è fondamentale comprenderne le implicazioni; il libro offre spunti sul suo impatto sui settori industriali e sulla società.
  • Analisi approfondita: Olson esamina a fondo le motivazioni e le sfide dei principali protagonisti dell’IA, aiutando i lettori a comprendere la complessità del suo sviluppo e le relative considerazioni etiche.
  • Una narrazione coinvolgente: combinando narrazione e analisi basata sui fatti, il libro è accessibile e avvincente sia per gli appassionati di tecnologia sia per il pubblico generale, e racconta in modo persuasivo la corsa all’IA.

Quali sono i principali insegnamenti di Supremacy: AI, ChatGPT, and the Race that Will Change the World?

  • La duplice natura dell’IA: il libro mette in luce il potenziale dell’IA di condurre sia a esiti utopici sia a esiti distopici, sottolineando la necessità di una gestione responsabile che consenta di sfruttarne i benefici e limitarne i rischi.
  • Concentrazione del potere: Olson parla del predominio di pochi giganti tecnologici nell’IA, sollevando preoccupazioni sulle pratiche monopolistiche e sulla governance etica.
  • Dilemmi etici: la narrazione evidenzia sfide etiche dell’IA, come i pregiudizi e la sorveglianza, e invita ad affrontarne lo sviluppo con ponderazione.

Quali sono le citazioni più belle di Supremacy: AI, ChatGPT, and the Race that Will Change the World e che cosa significano?

  • «Risolvere l’intelligenza e poi risolvere tutto il resto.»: questa citazione esprime l’ambizione alla base dello sviluppo dell’IA e suggerisce che replicare l’intelligenza umana potrebbe aprire la strada alla soluzione di molti problemi.
  • «Il mondo è stato gettato nello scompiglio.»: sottolinea l’impatto dirompente dell’IA generativa su settori come il mondo del lavoro e le industrie creative, mettendo in evidenza l’urgenza di affrontare le sfide tecnologiche.
  • «Non puoi costringere gli esseri umani a fare qualcosa che non vogliono fare.»: riflette la consapevolezza di Altman riguardo all’importanza di adeguare la tecnologia alle esigenze umane e costituisce un monito per chi sviluppa l’IA.

In che modo Supremacy: AI, ChatGPT, and the Race that Will Change the World affronta i rischi legati all’IA?

  • Pregiudizi e discriminazione: Olson spiega come i sistemi di IA possano perpetuare pregiudizi, soprattutto nella giustizia penale e nelle assunzioni, sottolineando la necessità di prestare attenzione ai dati.
  • Perdita di posti di lavoro: il libro esprime preoccupazione per la possibilità che l’IA elimini posti di lavoro, soprattutto nei settori impiegatizi, e invita ad adottare misure preventive per affrontarne le conseguenze economiche.
  • Sorveglianza e privacy: Olson esamina la diffusione dei dispositivi personali basati sull’IA e le implicazioni per la privacy, mettendo in guardia dai pericoli di uno sviluppo tecnologico senza freni.

Qual è l’importanza di Sam Altman e Demis Hassabis in Supremacy: AI, ChatGPT, and the Race that Will Change the World?

  • Pionieri dell’IA: Altman e Hassabis sono presentati come figure di spicco nella corsa all’IA, con visioni diverse del futuro della tecnologia attraverso OpenAI e DeepMind.
  • Filosofie a confronto: il libro mette a confronto i loro approcci: Altman punta sull’abbondanza economica, mentre Hassabis mira a comprendere l’intelligenza. Il confronto illustra i dibattiti più ampi all’interno della comunità dell’IA.
  • Considerazioni etiche: entrambi si confrontano con le implicazioni etiche del proprio lavoro, sollevando interrogativi sulle responsabilità di chi sviluppa l’IA e sulle sue complessità morali.

Come è cambiata la missione di OpenAI nel corso di Supremacy: AI, ChatGPT, and the Race that Will Change the World?

  • Da organizzazione non profit a società a profitto limitato: inizialmente organizzazione non profit, OpenAI è passata a un modello a profitto limitato per attirare finanziamenti, riflettendo le crescenti esigenze finanziarie della ricerca sull’IA.
  • Legami aziendali più stretti: la partnership con Microsoft ha segnato una svolta strategica, allineando gli obiettivi di OpenAI agli interessi aziendali e sollevando preoccupazioni sul possibile compromesso della sua missione.
  • Attenzione alla commercializzazione: con lo sviluppo di prodotti come ChatGPT, OpenAI ha dato sempre più rilievo alla commercializzazione, generando tensioni sulle implicazioni etiche di una diffusione rapida.

Che ruolo ha l’altruismo efficace in Supremacy: AI, ChatGPT, and the Race that Will Change the World?

  • Fondamenti filosofici: l’altruismo efficace orienta molte decisioni nel settore dell’IA, puntando a massimizzare l’impatto positivo, talvolta a scapito di considerazioni etiche immediate.
  • Disparità nei finanziamenti: il libro evidenzia il ruolo dell’altruismo efficace nel finanziare iniziative per la sicurezza dell’IA, ma segnala anche la mancanza di sostegno alla ricerca sull’etica dell’IA.
  • Calcoli morali: Olson critica l’approccio utilitaristico promosso dall’altruismo efficace e sostiene la necessità di comprendere con maggiore sfumatura le implicazioni etiche dello sviluppo dell’IA.

Come rappresenta il futuro dell’IA Supremacy: AI, ChatGPT, and the Race that Will Change the World?

  • Un percorso incerto: il libro prospetta un futuro in cui l’IA potrebbe portare a progressi o comportare rischi, sottolineando l’importanza di uno sviluppo e di una governance responsabili.
  • Concentrazione del potere: Olson mette in guardia dal predominio dell’IA che concentra il potere nelle mani dei giganti tecnologici, con il rischio di aggravare le disuguaglianze e limitare la concorrenza.
  • Un appello alla regolamentazione: la narrazione sostiene la necessità di quadri normativi più solidi, che rendano lo sviluppo dell’IA coerente con i valori sociali e gli standard etici.

In che modo Supremacy: AI, ChatGPT, and the Race that Will Change the World descrive la concorrenza tra OpenAI e DeepMind?

  • Dinamiche della rivalità: il libro approfondisce il rapporto competitivo tra OpenAI e DeepMind, mostrando come entrambe puntino a guidare la ricerca sull’IA e si confrontino al contempo con le rispettive missioni.
  • Partnership strategiche: la collaborazione di OpenAI con Microsoft e i legami di DeepMind con Google illustrano come le relazioni aziendali influenzino la direzione della ricerca sull’IA.
  • Impatto sull’innovazione: Olson sostiene che la concorrenza abbia prodotto importanti innovazioni nell’IA, ma solleva preoccupazioni sul fatto che la velocità possa avere la precedenza sulle considerazioni etiche.

Quali sono le implicazioni della corsa agli armamenti nell’IA discussa in Supremacy: AI, ChatGPT, and the Race that Will Change the World?

  • Sviluppo accelerato: la concorrenza nel settore dell’IA ne promuove i rapidi progressi, spesso a scapito delle considerazioni etiche, portando alla creazione di tecnologie potenti prive di adeguate misure di sicurezza.
  • Impatto globale: Olson discute le implicazioni globali delle tecnologie di IA, comprese le conseguenze per il lavoro, la privacy e le dinamiche sociali, e sottolinea la necessità di affrontare le sfide collettivamente.
  • Dilemmi etici: la corsa agli armamenti solleva dilemmi etici sulle responsabilità di chi sviluppa l’IA e sulle possibili conseguenze, invitando a riconsiderare le priorità nella ricerca dell’AGI.

Sull'autore

Parmy Olson è editorialista di Bloomberg Opinion e si occupa soprattutto di regolamentazione tecnologica, IA e social media. Con una formazione giornalistica maturata al Wall Street Journal e a Forbes, ha scritto diversi libri, tra cui "We Are Anonymous". Da sette anni Olson segue i sistemi di IA e i loro finanziamenti, ottenendo riconoscimenti per i suoi articoli sulle principali acquisizioni tecnologiche e sugli sviluppi del settore. Le sue inchieste hanno rivelato aziende che esageravano le proprie capacità nell’IA e portato alla luce progetti segreti all’interno del principale laboratorio di IA di Google. La sua esperienza nel campo dell’IA e del giornalismo tecnologico ne fa una voce autorevole del settore.

Scarica PDF

Per conservare questo riassunto di Supremacy e leggerlo in seguito, scarica il PDF gratuito. Puoi stamparlo o leggerlo offline quando vuoi.
Download PDF

Scarica EPUB

Per leggere il riassunto di Supremacy sul tuo e-reader o sulla relativa app, scarica l’EPUB gratuito. Il formato digitale .epub è ideale per leggere ebook su telefoni, tablet ed e-reader.
Download EPUB
Vuoi leggere il libro completo?
Segui
Ascolta
Home
Swipe
Libreria
App
Prova l'accesso completo per 3 giorni
Ascolta, salva e molto altro
Confronta le funzionalità Gratuito Pro
📖 Leggi i riassunti
Leggi riassunti illimitati. Gli utenti gratuiti ne ricevono 3 al mese
🎧 Ascolta i riassunti
Ascolta riassunti illimitati in 40 lingue
—
❤️ Segnalibri illimitati
Gli utenti gratuiti sono limitati a 4
—
📜 Cronologia illimitata
Gli utenti gratuiti sono limitati a 4
—
📥 Download illimitati
Gli utenti gratuiti sono limitati a 1
—
Prova senza rischi
Oggi: accesso immediato
Ascolta i riassunti completi di oltre 26.000 libri. Sono più di 12.000 ore di audio!
Giorno 2: promemoria della prova
Ti invieremo una notifica per avvisarti che la prova sta per scadere.
Giorno 3: inizia il tuo abbonamento
L'addebito avverrà il 24 nov,
puoi annullare in qualsiasi momento prima.
Consume 2.8× More Books
2.8× libri in più Ascolto Lettura
I nostri utenti ci adorano
1M+ lettori
Trustpilot Rating
TrustPilot
4.6 Eccellente
Questo sito è una vera rivoluzione. Ho letto riassunti di libri come mai prima d'ora. Consigliatissimo.
— Dave G
Vale ogni centesimo e ogni minuto, ed è davvero ben fatto. Non ho mai visto riassunti di questa qualità su altri siti. Utilissimo!
— Em
Consigliatissimo!! Servizio fantastico. Perfetto per chi vuole qualcosa in più di un'anteprima ma senza tutti i dettagli di un audiolibro completo.
— Greg M
Risparmia il 62%
Annuale
$119.88 $44.99/anno/anno
$3.75/mese
Mensile
$9.99/mese
Inizia la prova gratuita di 3 giorni
3 giorni gratis, poi $44.99/anno. Cancella quando vuoi.
Unlock a world of fiction & nonfiction books
Oltre 26.000 libri al prezzo di 2
Leggi qualsiasi libro in 10 minuti
Scopri nuovi libri come su Tinder
Richiedi qualsiasi libro se non è ancora disponibile
Leggi più libri di chiunque tu conosca
App n. 1 per gli amanti dei libri
Lifelike & immersive summaries
Garanzia di rimborso entro 30 giorni
Scarica i riassunti in EPUB o PDF
Cancella in qualsiasi momento con pochi clic

Perché un solo riassunto?

Scanner
Trova un codice a barre da scansionare

⭐
⭐
⭐
Abbiamo un regalo speciale per te
Apri
38% di sconto
SCONTO PER TE
⭐
⭐
⭐
$79.99
$49.99/anno
Solo $4.16 al mese
Continua
Bastano 2 tocchi per iniziare, cancellare è facilissimo
Impostazioni
Generali
Widget
Caricamento...