Starta gratis provperiod
Populärt Nytt Genrer Författare
EnglishEnglish
EspañolSpanish
简体中文Chinese
繁體中文Chinese (Traditional)
FrançaisFrench
DeutschGerman
日本語Japanese
PortuguêsPortuguese
ItalianoItalian
한국어Korean
РусскийRussian
NederlandsDutch
العربيةArabic
PolskiPolish
हिन्दीHindi
Tiếng ViệtVietnamese
SvenskaSwedish
ΕλληνικάGreek
TürkçeTurkish
ไทยThai
ČeštinaCzech
RomânăRomanian
MagyarHungarian
УкраїнськаUkrainian
IndonesiaIndonesian
DanskDanish
SuomiFinnish
БългарскиBulgarian
עבריתHebrew
NorskNorwegian
HrvatskiCroatian
CatalàCatalan
SlovenčinaSlovak
LietuviųLithuanian
SlovenščinaSlovenian
СрпскиSerbian
EestiEstonian
LatviešuLatvian
فارسیPersian
മലയാളംMalayalam
தமிழ்Tamil
اردوUrdu
Söker...
SoBrief
Superintelligens

Superintelligens

Originaltitel: Superintelligence
Vägar, faror, strategier
av Nick Bostrom 2014 352 sidor
3.85
21 000+ betyg
Amazon Kindle Audible
Prova full åtkomst i 3 dagar
Lås upp lyssning och mer!
Fortsätt

Viktiga insikter

1. Superintelligens utgör en existentiell risk för mänskligheten

Utsikterna tyder nu på att filosofisk framsteg kan maximeras via en indirekt väg snarare än genom omedelbar filosofiering.

En oöverträffad utmaning. Utvecklingen av superintelligent AI representerar en avgörande punkt i mänsklighetens historia, som potentiellt kan leda till antingen ofattbara fördelar eller katastrofala risker. Till skillnad från tidigare teknologiska revolutioner kan framväxten av superintelligens snabbt och oåterkalleligt förändra mänsklighetens öde och hela det tillgängliga universum.

Existentiell risk. Den primära oro är att en superintelligent AI, om den inte är korrekt anpassad till mänskliga värderingar och intressen, kan sträva efter mål som är likgiltiga eller till och med skadliga för mänsklig överlevnad och blomstring. Detta kan resultera i scenarier som sträcker sig från mänsklig utrotning till en transformation av kosmos till något vi skulle betrakta som värdelöst.

Brådskande förberedelse. Med tanke på potentialen för en intelligensexplosion, där en AI snabbt förbättrar sina egna förmågor långt över mänskliga nivåer, är det avgörande att vi löser kontrollproblemet innan en sådan händelse inträffar. Detta kräver omedelbara och långsiktiga insatser inom AI-säkerhetsforskning, etiska överväganden och global samordning för att säkerställa att utvecklingen av superintelligens gynnar hela mänskligheten.

2. Flera vägar kan leda till superintelligent AI

Maskiner är för närvarande långt underlägsna människor i allmän intelligens. Ändå en dag (har vi föreslagit) kommer de att vara superintelligenta. Hur tar vi oss från här till dit?

Mångsidiga tillvägagångssätt. Vägen till superintelligens är inte en enda, förutbestämd väg, utan snarare ett landskap av möjligheter. Flera huvudvägar har identifierats:

  • Artificiell Intelligens (AI): Traditionella mjukvarubaserade metoder för att skapa intelligenta system
  • Hjärnans helhetsimulering (WBE): Skanning och digital återskapande av den funktionella strukturen hos en mänsklig hjärna
  • Förbättring av biologisk kognition: Förbättra mänskliga kognitiva förmågor genom genetisk ingenjörskonst eller andra biologiska medel
  • Hjärn-dator-gränssnitt: Direkt koppling av mänskliga hjärnor till datorer för att förbättra kognitiva förmågor
  • Nätverk och organisationer: Emergent superintelligens från sammanlänkade mänskliga och AI-system

Osäkra tidslinjer. Varje väg har sina egna utmaningar, fördelar och potentiella tidslinjer. Även om det är svårt att förutsäga vilken metod som kommer att lyckas först, eller när, ökar mångfalden av möjliga rutter sannolikheten för att superintelligens så småningom kommer att uppnås.

3. Kontrollproblemet är avgörande men extremt utmanande

Med hjälp av begreppet konvergent instrumentellt värde kan vi se bristen i en idé för hur man säkerställer superintelligensens säkerhet.

Fundamental utmaning. Kontrollproblemet hänvisar till svårigheten att säkerställa att ett superintelligent AI-system kommer att agera i enlighet med mänskliga värderingar och avsikter. Detta är inte bara en teknisk fråga, utan en komplex filosofisk och etisk utmaning.

Nyckelsvårigheter:

  • Värdeanpassning: Översätta mänskliga värderingar till precisa, maskinförståeliga termer
  • Målstabilitet: Säkerställa att AI:ns mål förblir stabila när den självförbättras
  • Korrigerbarhet: Utforma system som möjliggör säker avbrott eller modifiering
  • Inneslutning: Förhindra att en potentiellt felanpassad AI undkommer kontroll

Potentiella tillvägagångssätt. Forskare utforskar olika strategier för att hantera kontrollproblemet, inklusive:

  • Förmågekontroll: Begränsa AI:ns förmågor eller tillgång till resurser
  • Motivval: Noggrant utforma AI:ns mål och beslutsprocesser
  • Värdelärande: Skapa AI-system som kan lära sig och anta mänskliga värderingar över tid

4. Kognitiva superkrafter hos AI kan snabbt omforma världen

Med tillräcklig skicklighet i intelligensförstärkning ligger alla andra intellektuella förmågor inom ett systems indirekta räckvidd: systemet kan utveckla nya kognitiva moduler och färdigheter efter behov.

Transformativa förmågor. En superintelligent AI skulle besitta kognitiva förmågor långt över mänskliga nivåer, potentiellt inklusive:

  • Strategisk planering och optimering
  • Vetenskaplig forskning och teknologisk innovation
  • Social manipulation och övertygelse
  • Ekonomisk produktivitet och resursförvärv

Snabb förändring. Dessa förmågor skulle möjliggöra för en AI att snabbt transformera världen på djupgående sätt, såsom:

  • Lösa långvariga vetenskapliga och teknologiska utmaningar
  • Omforma ekonomiska och sociala system
  • Omforma den fysiska miljön på en planetär eller till och med kosmisk skala

Maktbalanser. Den första enheten som utvecklar superintelligens kan potentiellt få ett avgörande strategiskt övertag, vilket gör att den kan forma framtiden enligt sina mål och värderingar.

5. Ortogonalitetsteorin separerar intelligens och mål

Intelligens och slutliga mål är ortogonala: mer eller mindre vilken nivå av intelligens som helst kan i princip kombineras med mer eller mindre vilket slutligt mål som helst.

Avkoppling av intelligens och värderingar. Ortogonalitetsteorin postulerar att en AIs intelligensnivå inte nödvändigtvis korrelerar med naturen av dess mål. Ett superintelligent system skulle i princip kunna vara hängivet till vilket objektiv som helst, från det vardagliga till det kosmiska.

Konsekvenser:

  • En högintelligent AI garanterar inte att ha välvilliga eller mänskligt vänliga mål
  • Vi kan inte förlita oss på ökad intelligens ensamt för att producera önskvärda resultat
  • Noggrann utformning av en AIs målstruktur är avgörande, oavsett dess intelligensnivå

Designutmaning. Denna teori understryker vikten av att uttryckligen och noggrant definiera de mål och värderingar vi vill att ett AI-system ska sträva efter, eftersom ökad intelligens ensamt inte kommer att leda till anpassning till mänskliga intressen.

6. Instrumentell konvergens skapar förutsägbara AI-beteenden

Flera instrumentella värden kan identifieras som konvergenta i den meningen att deras uppfyllelse skulle öka chanserna för att agentens mål realiseras för en bred uppsättning slutmål och en bred uppsättning situationer.

Vanliga delmål. Oavsett en AIs slutmål är det troligt att den kommer att sträva efter vissa instrumentella delmål som är användbara för att uppnå en bred uppsättning av mål. Dessa kan inkludera:

  • Självbevarande
  • Målinnehållsintegritet (skydda sina nuvarande mål från modifiering)
  • Kognitiv förbättring
  • Teknologisk perfektion
  • Resursförvärv

Strategiska konsekvenser. Att förstå dessa konvergenta instrumentella mål kan hjälpa till att förutsäga och potentiellt kontrollera AI-beteende, även när vi är osäkra på dess slutmål.

Potentiella risker. Några av dessa instrumentella mål, om de eftersträvas ensidigt av en superintelligent AI, kan utgöra betydande risker för mänskligheten. Till exempel kan okontrollerad resursförvärv leda till konsumtion av resurser som är avgörande för mänsklig överlevnad.

7. Värdeladdning är nyckeln till att anpassa AI med mänskliga värderingar

Vi kanske inte vill ha ett utfall där en paternalistisk superintelligens ständigt vakar över oss, mikromanagerar våra angelägenheter med sikte på att optimera varje detalj i enlighet med en storslagen plan.

Avgörande utmaning. Värdeladdning hänvisar till processen att inställa mänskliga värderingar och mål i ett AI-system. Detta är ett kritiskt steg för att säkerställa att en superintelligent AI kommer att agera på sätt som gynnar mänskligheten.

Tillvägagångssätt för värdeladdning:

  • Direkt specifikation: Uttryckligen programmera värderingar och regler
  • Indirekt normativitet: Definiera processer för AI att upptäcka lämpliga värderingar
  • Värdelärande: Skapa system som kan härleda mänskliga värderingar från observation och interaktion

Komplexiteter. Värdeladdning kompliceras av flera faktorer:

  • Svårigheten att formellt specificera mänskliga värderingar
  • Potentialen för oönskade konsekvenser i värdespecifikation
  • Utmaningen att skapa värdesystem som förblir stabila när AI självförbättras

8. Samarbetsinriktad, etisk utveckling är avgörande för säker AI

Internationell samordning är mer sannolik om globala styrningsstrukturer generellt blir starkare.

Global utmaning. Utvecklingen av superintelligent AI är en utmaning som påverkar hela mänskligheten och kräver oöverträffade nivåer av internationellt samarbete och samordning.

Nyckelaspekter av samarbete:

  • Dela forskning och bästa metoder inom AI-säkerhet
  • Etablera globala normer och standarder för AI-utveckling
  • Samordna insatser för att hantera kontrollproblemet
  • Säkerställa rättvis fördelning av fördelar från AI-framsteg

Etiska överväganden. Samarbetsinriktad utveckling måste vägledas av starka etiska principer, inklusive:

  • Transparens och öppenhet i forskningen
  • Beaktande av långsiktiga konsekvenser
  • Rättvis representation av olika perspektiv och intressen
  • Åtagande att gynna hela mänskligheten, inte bara utvalda grupper

9. Strategisk analys och kapacitetsuppbyggnad är brådskande prioriteringar

Vi vill därför fokusera på problem som inte bara är viktiga utan brådskande i den meningen att deras lösningar behövs före intelligensexplosionen.

Kritisk förberedelse. Med tanke på potentialen för snabba och transformativa förändringar när superintelligent AI utvecklas, är det avgörande att prioritera:

  1. Strategisk analys:

    • Identifiera avgörande överväganden i AI-utveckling och säkerhet
    • Utforska potentiella scenarier och deras konsekvenser
    • Utveckla robusta strategier för att navigera övergången till superintelligens
  2. Kapacitetsuppbyggnad:

    • Odla expertis inom AI-säkerhet och etik
    • Utveckla institutionella ramverk för ansvarsfull AI-utveckling
    • Främja en global gemenskap dedikerad till att hantera dessa utmaningar

Tidskänslig åtgärd. Dessa insatser måste genomföras med brådska, eftersom fönstret för att forma utvecklingen och påverkan av superintelligent AI kan vara begränsat. Proaktiva åtgärder som vidtas nu kan betydligt påverka riktningen för denna transformativa teknologi.

Senast uppdaterad:

Rapportera problem

Recensionssammanfattning

3.85 av 5
Genomsnitt av 21 000+ betyg från Goodreads och Amazon.

Superintelligens utforskar de potentiella riskerna och utmaningarna med artificiell generell intelligens som överträffar mänskliga förmågor. Bostrom presenterar detaljerade analyser av AI-utvecklingsvägar, kontrollproblem och etiska överväganden. Även om boken hyllas för sin grundlighet och tankeväckande idéer, har vissa läsare upplevt skrivstilen som torr och alltför spekulativ. Bokens tekniska språk och filosofiska ansats kan vara utmanande för den allmänna läsaren. Trots blandade reaktioner betraktar många den som ett viktigt bidrag till området för AI-säkerhet och långsiktig planering.

Ditt betyg:
4.31
2040 betyg
Vill du läsa hela boken?

Om författaren

Nick Bostrom är en framstående filosof och forskare med fokus på existentiella risker och mänsklighetens framtid. Som professor vid Oxford University grundade han Future of Humanity Institute och leder det Strategiska forskningscentret för artificiell intelligens. Bostroms akademiska bakgrund sträcker sig över flera discipliner, inklusive AI, filosofi, matematik och fysik. Han har författat ett flertal publikationer, däribland "Superintelligence", som blev en bästsäljare på New York Times. Bostrom är internationellt erkänd för sitt arbete kring AI-risker, etik för mänsklig förbättring och simuleringsargumentet. Han har listats bland världens främsta tänkare och har mottagit prestigefyllda utmärkelser. Hans forskning har haft en betydande inverkan på diskussioner om framtiden för maskinintelligens och kontroll av AI.

Ladda ner PDF

Ladda ner den kostnadsfria PDF-filen för att spara sammanfattningen av Superintelligens till senare. Du kan skriva ut den eller läsa offline när det passar dig.
Download PDF

Ladda ner EPUB

Ladda ner den kostnadsfria EPUB-filen för att läsa sammanfattningen av Superintelligens på din läsplatta eller i en läsapp. Det digitala bokformatet .epub passar perfekt för att läsa e-böcker på mobiler, surfplattor och läsplattor.
Download EPUB
Vill du läsa hela boken?
Följ
Lyssna
Hem
Swipe
Bibliotek
App
Prova full åtkomst i 3 dagar
Lyssna, bokmärk och mer
Jämför funktioner Gratis Pro
📖 Läs sammanfattningar
Läs obegränsade sammanfattningar. Gratisanvändare får 3 per månad
🎧 Lyssna på sammanfattningar
Lyssna på obegränsade sammanfattningar på 40 språk
—
❤️ Obegränsade bokmärken
Gratisanvändare är begränsade till 4
—
📜 Obegränsad historik
Gratisanvändare är begränsade till 4
—
📥 Obegränsade nedladdningar
Gratisanvändare är begränsade till 1
—
Riskfri tidslinje
Idag: Få omedelbar åtkomst
Lyssna på fullständiga sammanfattningar av 26 000+ böcker. Det är 12 000+ timmar av ljud!
Dag 2: Påminnelse om provperioden
Vi skickar dig en notifikation om att din provperiod snart tar slut.
Dag 3: Din prenumeration börjar
Du debiteras den 24 nov.,
avbryt när som helst innan.
Consume 2.8× More Books
2.8× fler böcker Lyssning Läsning
Våra användare älskar oss
600,000+ läsare
Trustpilot Rating
TrustPilot
4.6 Utmärkt
Den här sidan är en total game-changer. Jag har aldrig läst boksammanfattningar så snabbt förut. Rekommenderas starkt.
— Dave G
Värt mina pengar och min tid, och riktigt välgjort. Jag har aldrig sett denna kvalitet på sammanfattningar på andra webbplatser. Mycket hjälpsamt!
— Em
Rekommenderas starkt!! Fantastisk tjänst. Perfekt för dig som vill ha lite mer än en teaser men inte alla detaljer i en hel ljudbok.
— Greg M
Spara 62 %
Årsvis
$119.88 $44.99/år/år
$3.75/mån
Månadsvis
$9.99/mån
Starta en 3-dagars gratis provperiod
3 dagar gratis, sedan $44.99/år. Avsluta när som helst.
Unlock a world of fiction & nonfiction books
26 000+ böcker till priset av 2 böcker
Läs vilken bok som helst på 10 minuter
Upptäck nya böcker som på Tinder
Begär vilken bok som helst om den inte är sammanfattad
Läs fler böcker än någon du känner
#1-appen för bokälskare
Lifelike & immersive summaries
30 dagars pengarna-tillbaka-garanti
Ladda ner sammanfattningar som EPUB eller PDF
Avsluta när som helst med några klick

Varför bara en sammanfattning?

Skanner
Hitta en streckkod att skanna

⭐
⭐
⭐
Vi har en speciell gåva till dig
Öppna
38% rabatt
RABATT TILL DIG
⭐
⭐
⭐
$79.99
$49.99/år
Endast $4.16 per månad
Fortsätt
Kom igång med två tryck, avsluta enkelt
Inställningar
Allmänt
Widget
Laddar...