Rozpocznij darmowy okres próbny
Popularne Nowości Gatunki Autorzy
EnglishEnglish
EspañolSpanish
简体中文Chinese
繁體中文Chinese (Traditional)
FrançaisFrench
DeutschGerman
日本語Japanese
PortuguêsPortuguese
ItalianoItalian
한국어Korean
РусскийRussian
NederlandsDutch
العربيةArabic
PolskiPolish
हिन्दीHindi
Tiếng ViệtVietnamese
SvenskaSwedish
ΕλληνικάGreek
TürkçeTurkish
ไทยThai
ČeštinaCzech
RomânăRomanian
MagyarHungarian
УкраїнськаUkrainian
IndonesiaIndonesian
DanskDanish
SuomiFinnish
БългарскиBulgarian
עבריתHebrew
NorskNorwegian
HrvatskiCroatian
CatalàCatalan
SlovenčinaSlovak
LietuviųLithuanian
SlovenščinaSlovenian
СрпскиSerbian
EestiEstonian
LatviešuLatvian
فارسیPersian
മലയാളംMalayalam
தமிழ்Tamil
اردوUrdu
Wyszukiwanie...
SoBrief
Nadchodząca fala

Nadchodząca fala

Tytuł oryginalny: The Coming Wave
AI i biologia syntetyczna rozwijają się szybciej niż instytucje. Czy zdołamy kontrolować związane z nimi zagrożenia bez przymusu?
autor: Mustafa Suleyman 2023 332 stron
3.80
15 000+ ocen
Słuchaj
Immersyjne
V2.3
Amazon Kindle Audible
Wypróbuj pełny dostęp przez 3 dni
Odblokuj słuchanie i więcej!
Kontynuuj

Kluczowe wnioski

Traktuj AI i biologię syntetyczną jako jedną falę przekształcającą inteligencję i życie

Zmieniają się dwa fundamenty. Główna teza Mustafy Suleymana głosi, że nadchodząca fala wykracza poza nowe gadżety: daje ludziom narzędzia do odtwarzania i przekształcania dwóch podstaw ludzkiego istnienia — inteligencji i życia. AI potrafi wykonywać coraz bardziej złożone zadania poznawcze, a biologia syntetyczna umożliwia odczytywanie, edytowanie i zapisywanie informacji genetycznej. Ich oddziaływanie wzajemnie się wzmacnia: AI przyspiesza badania biologiczne, a biologia oferuje nowe sposoby tworzenia i przechowywania informacji.

Korzyści i zagrożenia idą w parze. Lepsze leki, uprawy i materiały mogą poprawić jakość życia; te same łatwo dostępne możliwości mogą prowadzić do poważnych wypadków lub celowych nadużyć. Doświadczenie Suleymana jako współzałożyciela DeepMind nadaje jego argumentacji perspektywę osoby z wewnątrz branży, ale jego prognozy dotyczące tempa zmian i ich zasięgu pozostają prognozami, a nie ustalonymi faktami.

Analiza

Najmocniejszym posunięciem na początku książki jest połączenie AI i biotechnologii zamiast traktowania ich jako odrębnych tematów polityki publicznej. Ich konwergencja ma znaczenie, ponieważ odkrycie w jednej dziedzinie może przyspieszyć rozwój drugiej. Utrudnia to sprawowanie wąsko zakrojonego nadzoru: przepis dotyczący jednego zastosowania może nie objąć narzędzi, które je umożliwiają. Takie ujęcie chroni też przed częstym błędem — traktowaniem innowacji albo jako cudu, albo jako zagrożenia. Istotne pytanie brzmi, jak zmieniają się korzyści i ryzyko, gdy możliwości stają się tańsze i łatwiejsze do łączenia.

Zakładaj, że użyteczne technologie będą się rozpowszechniać, o ile skuteczne bariery nie utrzymają ich wysokich kosztów

Rozprzestrzenianie się technologii to powtarzający się schemat. Książka opisuje falę technologiczną jako skupisko powiązanych wynalazków rozwijających się wokół technologii ogólnego przeznaczenia, a następnie przenikających do wielu obszarów życia. Samochody początkowo były kosztowną ciekawostką. Model T Henry’ego Forda z 1908 roku, zaprojektowany z myślą o produkcji masowej, pomógł udostępnić transport samochodowy zwykłym nabywcom. Podobnym przykładem jest druk: w ciągu kilku dekad od uruchomienia przez Gutenberga pierwszej europejskiej prasy drukarskiej prasy i książki rozpowszechniły się na szeroką skalę, a ceny książek gwałtownie spadły.

Opór rzadko trwa wiecznie. Rządy, cechy i robotnicy próbowali blokować przełomowe narzędzia, często z uzasadnionych powodów, ale użyteczne technologie zwykle powracają w nowej postaci. Broń jądrowa stanowi częściowy wyjątek: nadal jest kosztowna i trudna w budowie, a traktaty pomogły ograniczyć jej rozprzestrzenianie. Nawet w tym przypadku wypadki i sytuacje, w których o włos uniknięto katastrofy, pokazują, że ograniczone rozpowszechnienie nie oznacza kontroli.

Analiza

Przykłady historyczne pomagają odróżnić wynalazek od fali: decydująca zmiana następuje wtedy, gdy niższe koszty, popyt i adaptacja wzajemnie się napędzają. Ten schemat przestrzega przed założeniem, że sam zakaz może wymazać wiedzę techniczną. Wymaga jednak ostrożnej interpretacji. Dawne procesy upowszechniania nie dowodzą, że każda przyszła technologia rozprzestrzeni się w takim samym tempie, a broń jądrowa pokazuje, że znaczenie mają koszty, złożoność i współpraca. Historia wskazuje na presje, którym polityka musi stawić czoła, ale nie jest prawem przesądzającym o nieuchronnym wyniku.

Oceniaj możliwości według tego, kto może działać, jakim kosztem i z jakim stopniem autonomii

Cztery cechy podnoszą stawkę. Suleyman nazywa charakterystyczne właściwości nadchodzącej fali „czterema cechami” (Four Features). Asymetria oznacza, że niewielki podmiot może wyrządzić szkody niewspółmierne do posiadanych zasobów. Hiperewolucja opisuje szybkie cykle udoskonalania i adaptacji. Wszechstronne zastosowanie oznacza, że technologia może służyć wielu celom, czasem bardzo odległym od pierwotnego przeznaczenia. Autonomia oznacza, że systemy mogą podejmować działania bez ciągłej zgody człowieka.

Patrz poza spektakularne osiągnięcia AI. W Ukrainie niewielka grupa operatorów dronów wykorzystała stosunkowo tani sprzęt, by utrudnić działania znacznie większym siłom zbrojnym. Przykład pokazuje, jak łatwo dostępne narzędzia mogą zmienić układ sił bez dorównywania zasobom podmiotu dominującego. Suleyman wprowadza też pojęcie sztucznej inteligencji zdolnej do złożonych działań (Artificial Capable Intelligence, ACI): AI, która potrafi realizować złożone cele przy ograniczonym nadzorze. ACI nie musi być świadoma ani posiadać pełnej, zbliżonej do ludzkiej inteligencji ogólnej, by wywoływać istotne skutki.

Analiza

Ten schemat kieruje uwagę z dala od jednego dramatycznego progu, na przykład chwili, gdy maszyna stanie się świadoma, ku praktycznym możliwościom: dostępowi, skali, zdolności adaptacji i uprawnieniu do działania. Przydaje się to w analizie bezpieczeństwa, ponieważ szkody często wynikają z nowego łączenia zwyczajnych narzędzi. Cechy te także na siebie oddziałują. Wszechstronny system, który szybko się doskonali i działa przy niewielkim nadzorze, jest trudniejszy do kontrolowania, niż sugerowałaby każda z tych cech z osobna. Autonomia ma jednak różne stopnie, dlatego jej ocena wymaga konkretnych testów, a nie prostej etykiety.

Żaden pojedynczy wynalazca nie kontroluje fali napędzanej rywalizacją, rynkiem i ciekawością

Postęp napędza wiele sił. Książka przypisuje rozwój technologii rywalizacji geopolitycznej, otwartym badaniom, korzyściom finansowym, pilnym potrzebom ludzi i osobistym ambicjom. Zwycięstwa AlphaGo nad czołowymi graczami go unaoczniły postępy AI szerokiej publiczności i rządom, szczególnie w Chinach, gdzie rywalizację tę uznano za sygnał strategicznej konkurencji. Presję zwiększają także normy badawcze: naukowcy publikują wyniki, firmy zabiegają o talenty i przewagę, a inni mogą rozwijać to, co staje się dostępne.

Bodźce wzajemnie się wzmacniają. Firmy inwestują, bo spodziewają się zysków; państwa inwestują, bo obawiają się pozostania w tyle; badacze dążą do odkryć i uznania. Tymczasem AI i biotechnologia są przedstawiane jako narzędzia służące sprostaniu takim wyzwaniom jak choroby, produkcja żywności i zmiana klimatu. Całym tym systemem nie kieruje żaden centralny ośrodek. Nawet odpowiedzialny twórca nie może zagwarantować, że żaden konkurent, rząd ani późniejszy użytkownik nie będzie rozwijać podobnych możliwości.

Analiza

Argument wskazuje na problem koordynacji, a nie tylko na niedostatek dobrych intencji. Jeśli każdy podmiot sądzi, że powściągliwość bardziej przysłuży się rywalom niż społeczeństwu, dobrowolne samoograniczenie staje się kruche. Ta sama dynamika może jednak stwarzać możliwości: wspólne interesy w zapobieganiu katastrofalnym szkodom mogą sprzyjać współpracy nawet między konkurentami. Trudniejsze pytanie brzmi, jak utrwalić te interesy, gdy względy bezpieczeństwa i korzyści komercyjne sprzyjają pośpiechowi. Książka przekonująco pokazuje, że polityka musi uwzględniać bodźce, ale słabiej uzasadnia założenie, że każda rywalizacja jest równie intensywna lub niemożliwa do spowolnienia.

Oceniaj ryzyko związane z AI według tego, jakie instytucje może ona zakłócić, a nie tylko według jej wyników

Zakłócenia mogą wywoływać efekt domina. W 2017 roku atak ransomware WannaCry wykorzystał skradzione amerykańskie narzędzie cybernetyczne, by zainfekować komputery w 150 krajach, w tym w brytyjskiej Narodowej Służbie Zdrowia. Szpitale straciły dostęp do systemów, co zakłóciło opiekę nad pacjentami. Ten przypadek pokazuje, jak narzędzie stworzone do jednego celu może wymknąć się z pierwotnego kontekstu i zagrozić podstawowym usługom. Suleyman uważa, że bardziej adaptacyjne systemy AI mogą wzmacniać cyberataki i dezinformację.

Dobre intencje też mogą zawieść. Biologia syntetyczna zwiększa ryzyko wypadków laboratoryjnych, a generowane głosy, obrazy i nagrania wideo mogą uwiarygodnić oszustwa lub polityczne manipulacje. Automatyzacja może także prowadzić do utraty miejsc pracy i zachwiać finansami publicznymi. Są to różne rodzaje ryzyka, ale zdaniem autorów książki mogą one jednocześnie uderzyć w instytucje, które już są przeciążone. Ich czas wystąpienia i dotkliwość pozostają niepewne; chodzi o to, by brać pod uwagę powiązany system, a nie tylko zamierzone zastosowanie danej technologii.

Analiza

Skupienie się na skutkach dla instytucji poprawia analizę ryzyka. Cyberatak ma znaczenie nie tylko dlatego, że kod zachowuje się niewłaściwie, lecz także dlatego, że szpitale, łańcuchy dostaw czy instytucje publiczne zależą od systemów, które mogą mieć wspólne podatności. To problem systemowy: ściśle powiązane usługi mogą przekształcić lokalne awarie w szeroko zakrojone zakłócenia. Jednak prawdopodobieństwo i konsekwencje poszczególnych scenariuszy bardzo się różnią. Traktowanie ich wszystkich jako jednakowo bliskich może osłabić zaufanie społeczne. Rozsądne planowanie powinno odróżniać znane podatności od wiarygodnych, lecz spekulatywnych scenariuszy przyszłości, a następnie traktować priorytetowo zabezpieczenia przydatne w wielu z nich.

Przygotuj się na koncentrację władzy na platformach i jej rozproszenie poza państwa

Technologia działa w przeciwnych kierunkach. Duże firmy mogą zdobyć władzę, posiadając zaawansowane modele, dane i infrastrukturę obliczeniową. Suleyman porównuje tę możliwość do Brytyjskiej Kompanii Wschodnioindyjskiej, korporacji, która niegdyś sprawowała władzę zwykle kojarzoną z państwem. AI może zwiększyć możliwości dużych organizacji przez automatyzację pracy i usprawnienie podejmowania decyzji, pozwalając na kumulowanie przewagi.

Te same narzędzia mogą rozproszyć władzę. Tania AI, robotyka i biotechnologia mogą pomóc mniejszym grupom świadczyć usługi lub działać niezależnie od rządów. Przykład Hezbollahu, który w Libanie łączy funkcje polityczne, wojskowe i społeczne, pokazuje, jak mogą się przenikać władza państwowa i pozapaństwowa. Tymczasem rządy mogą wykorzystywać nadzór wspomagany przez AI do dokładniejszego monitorowania ludności. „Wielka umowa społeczna” (Grand Bargain) opisuje obietnicę państwa, że w zamian za władzę zapewni porządek i usługi; nadchodząca fala może wystawić tę wymianę na próbę.

Analiza

Napięcie między koncentracją a rozproszeniem władzy wyjaśnia więcej niż proste twierdzenie, że technologia albo wzmacnia wszystkich, albo utrwala pozycję elit. Oba zjawiska mogą wystąpić jednocześnie: otwarte narzędzia obniżają bariery wejścia, a przewagi infrastrukturalne i dystrybucyjne sprzyjają skali. Dlatego własność i odpowiedzialność są kluczowymi zagadnieniami, a nie kwestiami drugorzędnymi. Państwo nie jest automatycznie rozwiązaniem, bo rządy mogą chronić obywateli lub nasilać przymus. Analiza zależy więc od jakości instytucji: kto ma władzę, jakie ograniczenia jej podlegają i czy ludzie mogą kwestionować decyzje kształtujące ich życie.

Odrzuć zarówno niekontrolowaną otwartość, jak i całkowity nadzór — to nieskuteczne drogi ucieczki

Nie ma wyjścia wolnego od ryzyka. Suleyman nazywa ten dylemat impasem: niekontrolowane rozprzestrzenianie się technologii zwiększa ryzyko katastrofy, podczas gdy najsurowsze ograniczenia mogą prowadzić do autorytarnego nadzoru. W jego ujęciu niebezpieczna jest również trzecia odpowiedź — zatrzymanie rozwoju technologicznego. Współczesne społeczeństwa zależą od nieustannego wzrostu produktywności i postępów w opiece zdrowotnej, energetyce oraz produkcji żywności, szczególnie w obliczu starzenia się ludności i narastającej presji klimatycznej.

Wybór polega na znalezieniu równowagi, a nie bezpiecznej drogi ucieczki. „Wąska ścieżka” (Narrow Path) z książki to nieustanny wysiłek na rzecz zachowania korzyści technologicznych, zapobiegania niedopuszczalnym szkodom i unikania przymusu oraz kontroli. Ta metafora ma znaczenie: kontrola nad technologią (containment) nie jest stanem końcowym, który można osiągnąć raz na zawsze, lecz równowagą wymagającą podtrzymywania w miarę zmian technologii i instytucji. Zagrożenia po obu stronach są poważne, ale ich prawdopodobieństwo i skala pozostają niepewne.

Analiza

To najważniejszy wgląd polityczny, jaki oferuje książka: odrzucenie jednego zagrożenia może stworzyć inne. Autor sprzeciwia się zarówno beztrosce wobec technologii, jak i pocieszającej fantazji, że całkowity zakaz lub doskonały system nadzoru usuną niepewność. Ten kompromis wskazuje również na znaczenie legitymizacji. Ograniczenia narzucone bez społecznej zgody mogą osłabić instytucje niezbędne do ich egzekwowania; nieograniczony dostęp może podważyć bezpieczeństwo, które te instytucje mają zapewniać. Metafora wąskiej ścieżki jest sugestywna, ale może sprawiać, że każdy kompromis jawi się jako równie ryzykowny. Aby odróżnić rozsądne zabezpieczenia od nadużyć, potrzebne są konkretne granice i prawa.

Zbuduj kontrolę nad technologią w oparciu o wielowarstwowe zabezpieczenia, audyty i zdolności instytucji publicznych

Regulacje to jedna z warstw. Suleyman proponuje szersze działania na rzecz kontroli nad technologią: zabezpieczenia techniczne, niezależne audyty i testy typu red team, kontrolę wąskich gardeł w łańcuchu dostaw, odpowiedzialne praktyki twórców oraz wzmocnienie instytucji publicznych. Dopełnieniem są porozumienia międzynarodowe, kultura zgłaszania błędów i udział społeczeństwa. Żaden pojedynczy środek nie wystarczy, ponieważ możliwości można kopiować, wykorzystywać w niewłaściwy sposób albo rozwijać gdzie indziej.

Zyskaj czas i wyciągaj wnioski. Kontrola eksportu półprzewodników pokazuje, jak ograniczenie dostępu do rzadkiego zasobu może spowolnić rozwój bez zakazywania samej wiedzy. W biologii ryzyko można zmniejszyć, sprawdzając zamówienia na syntezę DNA i przygotowując się do wykrywania epidemii oraz reagowania na nie. Ogólny schemat proponowany w książce to opóźnianie, wykrywanie i obrona, wspierane przez nieustanną weryfikację. Propozycje te rodzą realne pytania o swobody obywatelskie i egzekwowanie przepisów, ale sprawiają, że kontrola nad technologią staje się czymś konkretniejszym niż mglisty apel o regulacje.

Analiza

Podejście wielowarstwowe odzwierciedla podstawową lekcję inżynierii bezpieczeństwa: niezawodne systemy nie polegają na jednym zabezpieczeniu, które nigdy nie może zawieść. Ograniczenia techniczne, nadzór, bodźce organizacyjne i przygotowanie na sytuacje kryzysowe mogą się wzajemnie uzupełniać. Szczególne znaczenie mają audyty, bo reguły bez weryfikacji sprzyjają odhaczaniu kolejnych punktów bez rzeczywistego działania. Trzeba jednak zabezpieczyć tę strukturę przed nadużyciem jej własnych uprawnień. Monitoring i licencjonowanie mogą chronić społeczeństwo, ale mogą też umacniać pozycję obecnych liderów rynku lub rozszerzać nadzór. Przejrzystość władzy, rzetelne procedury i niezależna kontrola są częścią kontroli nad technologią, a nie dodatkami.

Spraw, by obywatele i pracownicy współtworzyli technologie przekształcające ich życie

Koszt zmian ponoszą ludzie. Książka kończy się opowieścią o luddystach — robotnikach przemysłu tekstylnego, którzy na początku XIX wieku w Anglii atakowali krosna mechaniczne. Mechanizacja obniżyła płace i zmieniła warunki pracy wielu wykwalifikowanych tkaczy. Robotnikom nie udało się zatrzymać maszyn, ale ich opór nie wynikał po prostu z wrogości wobec wynalazków: wyrażał żądanie godności i sprawiedliwego udziału w korzyściach.

Włącz adaptację w proces innowacji. Suleyman uważa, że zmiany technologiczne należy kształtować z myślą o ludzkich potrzebach, zamiast narzucać je po fakcie. Wymaga to debaty publicznej, szerokich koalicji i udziału pracowników oraz społeczności, na które wpływają nowe systemy. Zachęca krytyków, by uczestniczyli w tworzeniu technologii i zarządzaniu nią, a nie tylko sprzeciwiali się jej z zewnątrz. Celem nie jest zachowanie każdego dawnego miejsca pracy ani blokowanie każdego wynalazku, lecz szeroki podział korzyści i rozliczanie szkód wobec osób, które je ponoszą.

Analiza

Historia luddystów komplikuje rozpowszechnione założenie, że opór wynika jedynie z niewiedzy. Robotnicy mogą rozumieć, że maszyna zwiększa produktywność, a mimo to sprzeciwiać się temu, kto nią zarządza, kto czerpie zyski i kto ponosi koszty zakłóceń. To rozróżnienie pozostaje użyteczne: społeczna akceptacja nie jest problemem komunikacyjnym, który można rozwiązać po wdrożeniu, lecz jednym z warunków społecznej użyteczności technologii. Zaproszenie do udziału nie gwarantuje sprawiedliwych rezultatów, zwłaszcza gdy siła przetargowa jest nierówna. Może jednak ujawnić koszty pomijane przez wskaźniki techniczne i sprawić, że decyzje będą bardziej rozliczalne przed osobami, których dotyczą.

Analiza

Głównym wkładem książki jest powiązanie możliwości technologicznych ze zdolnością polityczną. AI i biologia syntetyczna mają tu znaczenie nie tylko dlatego, że mogą stać się potężne, lecz także dlatego, że ich malejące koszty i szeroki zakres zastosowań zderzają się z instytucjami stworzonymi do zarządzania systemami łatwiejszymi do przejrzystego uregulowania i zmieniającymi się wolniej. Historia druku, silników i informatyki nadaje tej tezie narracyjną siłę: technologia rozprzestrzenia się dzięki działaniom wielu podmiotów reagujących na lokalne bodźce, a nie za sprawą planu jednego wynalazcy. Przykłady sprawiają też, że kontrola nad technologią jawi się jako praktyczny problem zarządzania, a nie abstrakcyjna debata o tym, czy postęp jest dobry, czy zły.

Najbardziej użyteczne jest rozróżnienie między kontrolowaniem technologii a jej eliminacją. Suleyman opowiada się za tym pierwszym: budowaniem wystarczających zabezpieczeń technicznych, prawnych, kulturowych i instytucjonalnych, by ograniczać szkody, a zarazem zachować korzyści. Nacisk na wielowarstwowe zabezpieczenia wynika ze słabości każdej pojedynczej interwencji. Reguła bezpieczeństwa bez audytów jest trudna do wyegzekwowania; audyty bez społecznej legitymizacji mogą przerodzić się w nadzór; krajowe ograniczenia bez współpracy międzynarodowej mogą jedynie przenieść działalność gdzie indziej.

Argument jest mniej przekonujący, gdy historyczne tendencje przedstawia się jako niemal nieuchronne. Dawne fale upowszechniania technologii uzasadniają czujność, ale nie dowodzą, że AI lub biologia syntetyczna będą podążać tą samą krzywą ani że bez silniejszych ograniczeń katastrofa stanie się nieunikniona. Prognozy dotyczące systemów autonomicznych, zatrudnienia i równowagi geopolitycznej zależą od rozwoju technologii i społeczeństwa, który nadal pozostaje niepewny. Książka jest najmocniejsza, gdy przedstawia te scenariusze jako istotne możliwości, na które należy się przygotować, a nie jako z góry ustalony harmonogram.

Napięcie polityczne jest zarazem najbardziej owocną myślą książki. Skoncentrowana infrastruktura może wzmacniać korporacje i państwa, podczas gdy łatwo dostępne narzędzia mogą umacniać niewielkie podmioty. Ani otwartość, ani centralna kontrola nie gwarantują wolności czy bezpieczeństwa. Prawdziwym sprawdzianem jest to, czy instytucje zdołają zdobyć dostateczne zaufanie, by korzystać z ograniczonych uprawnień, wyciągać wnioski z porażek i dzielić się korzyściami. W tym sensie kontrola nad technologią nie jest metą techniczną. To nieustanna walka o to, kto zyskuje władzę, kto ponosi ryzyko i kto ma głos w rozstrzyganiu, czemu ma służyć technologia.

Podsumowanie w 30 sekund
AI i biologia syntetyczna mogą poprawić stan medycyny, zwiększyć dostępność żywności i produktywność, ale mogą też umożliwiać wypadki, oszustwa, cyberataki i koncentrację władzy. Zagrożenia rosną w miarę, jak możliwości technologiczne stają się tańsze, bardziej wszechstronne i autonomiczne. Atak WannaCry z 2017 roku dotarł do 150 krajów, zakłócając pracę szpitali przy użyciu skradzionego narzędzia cybernetycznego. Żadna pojedyncza zasada nie pozwoli zarządzać tymi zagrożeniami: zabezpieczenia, audyty, wykrywanie zagrożeń, zdolności instytucji publicznych i współpraca międzynarodowa muszą działać wspólnie. Pracownicy i społeczności powinni mieć wpływ na to, jak dzielone są korzyści i ciężar szkód.
Zawiera spoilery

Ostatnia aktualizacja:

Zgłoś problem

Podsumowanie recenzji

3.80 z 5
Średnia z 15 000+ ocen z Goodreads i Amazon.

Nadchodząca fala zbiera zróżnicowane recenzje. Wielu czytelników chwali zawarte w niej spostrzeżenia na temat potencjalnych skutków i zagrożeń związanych z AI, doceniając perspektywę Suleymana jako osoby z branży. Uznają książkę za skłaniającą do refleksji i aktualną, zwracając uwagę na ważne kwestie etyczne. Niektórzy krytykują ją jednak za powtarzalność, nadmierne spekulacje lub brak głębi. Książka jest przystępna dla laików, ale może rozczarować osoby już zaznajomione z tematyką AI. Ogólnie uważa się ją za ważną lekturę dla tych, którzy chcą zrozumieć przyszłość AI i jej społeczne konsekwencje.

Twoja ocena:
4.35
1077 ocen
Chcesz przeczytać całą książkę?

Słowniczek

Nadchodząca fala

Zbieżność potężnych technologii

Określenie Suleymana na grupę rozwijających się technologii, skupionych wokół sztucznej inteligencji i biologii syntetycznej, obejmującą także takie dziedziny jak robotyka i obliczenia kwantowe. Technologie te obiecują ogromne korzyści, a jednocześnie ułatwiają tworzenie nowych form zagrożeń. To ich wzajemne oddziaływanie i upowszechnianie, a nie pojedynczy wynalazek, stanowią główne wyzwanie dla rządzących.

kontrola nad technologią (containment)

Społeczna kontrola nad technologią

Zdolność do monitorowania, ograniczania, ukierunkowywania lub, gdy to konieczne, wyłączania technologii i ich zastosowań. W książce kontrola nad technologią nie oznacza po prostu zakazu ani dosłownego zamknięcia. Łączy zabezpieczenia techniczne, normy kulturowe, przepisy prawa, mechanizmy rozliczalności i rozwiązania polityczne, których celem jest utrzymanie technologii pod rzeczywistą kontrolą ludzi i społeczeństwa.

problem kontroli nad technologią (Containment Problem)

Kontrola w obliczu upowszechniania się technologii

Trudność w utrzymaniu potężnych technologii pod kontrolą, gdy stają się tańsze, bardziej dostępne i szeroko adaptowane. Ich skutki mogą być nieprzewidywalne, a zastosowania mogą odbiegać od zamiarów ich twórców. Problem narasta w miarę, jak technologie coraz głębiej zakorzeniają się w społeczeństwie, a ich konsekwencje rozprzestrzeniają się w powiązanych systemach.

cztery cechy (Four Features)

Cechy utrudniające kontrolę nad technologią

Określenie używane w książce na cztery cechy, które utrudniają sprawowanie kontroli nad nadchodzącą falą: asymetryczny wpływ, szybki rozwój i różnicowanie się, szerokie zastosowanie w różnych celach oraz rosnąca zdolność do działania bez bezpośrednich poleceń człowieka. Łącznie cechy te mogą potęgować zarówno korzyści płynące z technologii, jak i szkody spowodowane jej niewłaściwym użyciem lub awarią.

sztuczna inteligencja zdolna do złożonych działań (Artificial Capable Intelligence, ACI)

AI do realizacji złożonych celów

Określenie Suleymana na pośredni etap między dzisiejszą sztuczną inteligencją wyspecjalizowaną w konkretnych zadaniach a sztuczną inteligencją ogólną. ACI mogłaby realizować złożone, otwarte cele w ramach wielu zadań przy ograniczonym nadzorze człowieka, korzystając z pamięci, narzędzi i planowania. Termin ten podkreśla praktyczne możliwości i zdolność do działania, a nie świadomość czy wewnętrzne doświadczenia podobne do ludzkich.

czynniki potęgujące kruchość (Fragility Amplifiers)

Presje osłabiające instytucje

Zastosowania lub skutki rozwijających się technologii, które pogłębiają istniejące słabości rządów i społeczeństw. Przykłady omawiane w książce to cyberataki, syntetyczna dezinformacja, wypadki w badaniach biologicznych, broń autonomiczna i zakłócenia na rynku pracy. Presje te mogą na siebie oddziaływać, osłabiając zdolność instytucji do zapewniania bezpieczeństwa, usług i wiarygodnego zarządzania.

wielka umowa społeczna (Grand Bargain)

Władza państwa w zamian za porządek publiczny

Wymiana społeczna i polityczna, w ramach której obywatele uznają władzę państwa, w tym jego monopol na stosowanie legalnej siły, w zamian za bezpieczeństwo, porządek i usługi publiczne. Książka argumentuje, że ten układ jest zagrożony, gdy państwa nie potrafią zarządzać szkodami powodowanymi przez technologię albo gdy władza technologiczna przechodzi w ręce korporacji i grup niepaństwowych.

wąska ścieżka (Narrow Path)

Równowaga między bezpieczeństwem a wolnością

Trudne, nieustające dążenie do czerpania korzyści z rozwijających się technologii przy jednoczesnym ograniczaniu katastrofalnych szkód i unikaniu autorytarnej kontroli. Nie jest to stan docelowy osiągany raz na zawsze. Równowagę trzeba utrzymywać dzięki zmieniającym się zabezpieczeniom, instytucjom i decyzjom społecznym, ponieważ zarówno nieograniczone upowszechnianie technologii, jak i nadmierna kontrola niosą poważne zagrożenia.

niechęć do pesymizmu (Pessimism Aversion)

Unikanie niepokojących zagrożeń

Skłonność do odrzucania lub bagatelizowania niepokojących możliwości, ponieważ zmierzenie się z nimi wydaje się przerażające, niewygodne lub społecznie krępujące. Suleyman argumentuje, że taka reakcja jest częsta wśród elit technologicznych i politycznych, które mogą przyznawać, że zagrożenia istnieją, a mimo to nie podejmować działań. Może ona sprawiać, że przygotowania wydają się niepotrzebnym pesymizmem, aż do nadejścia kryzysu.

biologia syntetyczna (Synthetic Biology)

Inżynieria systemów biologicznych

Zdolność do odczytywania, edytowania i projektowania informacji genetycznej, a następnie wykorzystywania jej do modyfikowania istniejących organizmów lub tworzenia nowych systemów biologicznych. Dziedzina ta rozwija inżynierię genetyczną i coraz częściej łączy ją z obliczeniami oraz automatyzacją. Może wspierać rozwój medycyny, rolnictwa i przemysłu, a jednocześnie wiąże się z ryzykiem wypadków i celowego niewłaściwego użycia.

FAQ

O czym jest Nadchodząca fala?

  • Wpływ technologii: W książce Nadchodząca fala Mustafa Suleyman analizuje głęboki wpływ rozwijających się technologii, zwłaszcza AI i biologii syntetycznej, na społeczeństwo i układ sił.
  • Dwoista natura: Podkreśla dwoistą naturę tych technologii, które mogą zarówno zwiększać ludzkie możliwości, jak i stwarzać poważne zagrożenia.
  • Kontrola nad technologią i zarządzanie: Książka akcentuje potrzebę skutecznych strategii kontroli nad technologią i zarządzania nią, by ograniczyć potencjalne niebezpieczeństwa.
  • Wzajemnie powiązane wyzwania: Suleyman omawia, jak rozwój technologii splata się z globalnymi wyzwaniami, takimi jak zmiana klimatu i niestabilność polityczna.

Dlaczego warto przeczytać Nadchodzącą falę?

  • Wiedza ekspercka: Książka, napisana przez Mustafę Suleymana, współzałożyciela DeepMind, oferuje wyjątkową perspektywę osoby z branży AI i biotechnologii.
  • Zrozumienie przyszłych zagrożeń: Dostarcza czytelnikom wiedzy o potencjalnych niebezpieczeństwach związanych z technologiami, nad którymi nie ma kontroli, co jest ważne dla wszystkich zainteresowanych przyszłością społeczeństwa i technologii.
  • Praktyczne rozwiązania: Suleyman przedstawia konkretne wskazówki i zalecenia dla decydentów, technologów i obywateli.
  • Aktualność i znaczenie: W obliczu szybkiego rozwoju technologii książka zawiera kluczowe spostrzeżenia dotyczące jej konsekwencji dla jednostek i społeczeństwa.

Jakie są najważniejsze wnioski z Nadchodzącej fali?

  • Kontrola nad technologią ma kluczowe znaczenie: Książka podkreśla, jak ważne jest kontrolowanie potężnych technologii, by zapobiegać katastrofalnym skutkom.
  • Wzajemne powiązania problemów: Rozwój technologii wiąże się z szerszymi wyzwaniami społecznymi, co wymaga całościowego podejścia.
  • Rola zarządzania: Skuteczne zarządzanie ma kluczowe znaczenie dla radzenia sobie ze złożonością rozwijających się technologii.
  • Pilny apel do działania: Suleyman wzywa do natychmiastowych działań, by stawić czoła wyzwaniom stwarzanym przez te technologie.

Jakie są najlepsze cytaty z Nadchodzącej fali i co oznaczają?

  • „Nadchodząca fala technologiczna obiecuje dać ludzkości boską moc tworzenia, ale jeśli nie zdołamy mądrze nią pokierować, może nas zniszczyć.”: Podkreśla dwoistą naturę rozwijających się technologii, które mogą zarówno przynieść postęp, jak i stwarzać zagrożenia.
  • „Kontrola nad technologią musi być możliwa.”: Podkreśla konieczność opracowania ram skutecznego zarządzania potężnymi technologiami.
  • „Technologia powinna wzmacniać to, co w nas najlepsze.”: Sugeruje, że technologia może zwiększać ludzkie możliwości i poprawiać jakość życia, podkreślając zarazem potrzebę uwzględniania kwestii etycznych.

Czym jest „problem kontroli nad technologią (Containment Problem)” według Nadchodzącej fali?

  • Definicja kontroli nad technologią: Odnosi się do wyzwania, jakim jest monitorowanie i kontrolowanie potężnych technologii, które szeroko i nieprzewidywalnie się upowszechniają, a w razie potrzeby także ich wyłączanie.
  • Kontekst historyczny: Suleyman przywołuje analogie do historycznych przykładów technologii, które stały się trudne do kontrolowania, takich jak broń jądrowa.
  • Potrzeba nowych ram: Istniejące struktury zarządzania są niewystarczające, dlatego konieczne jest stworzenie nowych ram, które pozwolą rozwiązać problem kontroli nad technologią.
  • Proaktywne podejście: Podkreśla znaczenie działań wyprzedzających, pozwalających uporać się z potencjalnymi problemami, zanim się pojawią.

Jak Nadchodząca fala opisuje relację między AI a biologią syntetyczną?

  • Powiązane technologie: AI i biologia syntetyczna są ze sobą ściśle powiązane, a postępy w jednej dziedzinie często przyspieszają rozwój drugiej.
  • AI jako narzędzie biologii: AI służy do modelowania procesów biologicznych, przewidywania ich wyników i projektowania nowych systemów, co wspomaga szybki rozwój.
  • Potencjał transformacji: Połączenie tych dziedzin może doprowadzić do przełomowych zmian w medycynie, rolnictwie i zrównoważonym rozwoju.
  • Konsekwencje etyczne: Książka ostrzega przed konsekwencjami etycznymi i zagrożeniami związanymi z tak potężnymi narzędziami.

Jakie cztery cechy nadchodzącej fali wymieniono w Nadchodzącej fali?

  • Asymetria: Rozwijające się technologie mogą prowadzić do nierównego rozkładu sił, umożliwiając mniejszym podmiotom rzucenie wyzwania większym potęgom.
  • Hiperewolucja: Szybki postęp technologiczny utrudnia społeczeństwom skuteczne przystosowanie się i reagowanie.
  • Wszechstronne zastosowanie: Wszechstronne technologie mogą być wykorzystywane w różnych dziedzinach, co komplikuje ich regulowanie i zwiększa ryzyko niewłaściwego użycia.
  • Autonomia: Rosnąca autonomia technologii budzi obawy dotyczące odpowiedzialności i kontroli.

Na czym polega główny dylemat omawiany w Nadchodzącej fali?

  • Katastrofa czy dystopia: Społeczeństwo musi znaleźć drogę między ryzykiem katastrofalnych zdarzeń spowodowanych przez niekontrolowane technologie a możliwością wprowadzenia autorytarnej kontroli.
  • Potrzeba równowagi: Kluczowe znaczenie ma znalezienie równowagi między otwartością na innowacje a koniecznymi ograniczeniami.
  • Długofalowe konsekwencje: Nierozwiązanie tego dylematu może doprowadzić do wstrząsów społecznych i utraty wolności.
  • Apel o wspólne działanie: Podkreśla potrzebę wspólnego działania, by zagwarantować, że technologia będzie służyć dobru ludzkości.

Jak Nadchodząca fala omawia zagrożenie utratą miejsc pracy z powodu AI?

  • Kontekst historyczny: Omawia historyczny wzorzec zanikania miejsc pracy wskutek postępu technologicznego, wyrażając obawę, że nadchodząca fala może nie stworzyć nowych możliwości.
  • Wpływ na pracę umysłową: Systemy AI coraz lepiej wykonują zadania tradycyjnie realizowane przez pracowników umysłowych, co może prowadzić do utraty miejsc pracy.
  • Potrzeba dostosowania się: Społeczeństwo musi inwestować w edukację i programy przekwalifikowania, by pomóc pracownikom przejść do nowych ról.
  • Działania wyprzedzające: Podkreśla znaczenie działań wyprzedzających, które ograniczą negatywny wpływ AI na zatrudnienie.

Jakie zagrożenia wiążą się z technologiami podwójnego zastosowania omawianymi w Nadchodzącej fali?

  • Definicja podwójnego zastosowania: Są to technologie, które mogą służyć zarówno pożytecznym, jak i szkodliwym celom, takie jak AI i biologia syntetyczna.
  • Możliwość niewłaściwego użycia: Książka ostrzega, że technologie stworzone z myślą o poprawie jakości życia mogą być również uzbrajane lub wykorzystywane w złośliwych celach.
  • Potrzeba uwzględnienia kwestii etycznych: Podkreśla znaczenie ram etycznych i struktur zarządzania, które pozwolą stawić czoła tym zagrożeniom.
  • Wspólny wysiłek: Wzywa do wspólnego wysiłku, by zagwarantować odpowiedzialne korzystanie z tych potężnych narzędzi.

Jak Nadchodząca fala opisuje rolę firm w rozwoju technologii?

  • Zysk i cel: Firmy powinny godzić dążenie do zysku z odpowiedzialnością społeczną, aby technologia służyła dobru publicznemu.
  • Innowacyjne struktury korporacyjne: Książka postuluje nowe formy organizacyjne, które stawiają kwestie etyczne i rozliczalność na pierwszym miejscu.
  • Odpowiedzialność technologów: Podkreśla odpowiedzialność twórców za uwzględnianie wpływu ich technologii.
  • Dialog z krytykami: Zachęca do dialogu z krytykami i uwzględniania różnorodnych perspektyw, by wspierać odpowiedzialne innowacje.

Jakie wyzwania stoją przed rządami regulującymi technologię według Nadchodzącej fali?

  • Niewystarczające zasoby: Rządom często brakuje wiedzy specjalistycznej i zasobów potrzebnych do skutecznego regulowania rozwijających się technologii.
  • Polaryzacja polityczna: Podziały polityczne mogą utrudniać skuteczne zarządzanie i blokować niezbędne regulacje.
  • Potrzeba reform: Rządy muszą się zmieniać, inwestować w wiedzę techniczną i rozwijać współpracę z sektorem prywatnym.
  • Skuteczne regulacje: Reformy są niezbędne, by skutecznie regulować potężne technologie i utrzymywać je pod kontrolą.

O autorze

Mustafa Suleyman jest znaną postacią w dziedzinie sztucznej inteligencji. Współzałożył DeepMind, jedną z czołowych firm AI, w której pracował przez dekadę, zanim dołączył do Google jako wiceprezes ds. zarządzania produktami AI i polityki. Suleyman jest znany z wczesnego popierania badań nad bezpieczeństwem AI oraz zaangażowania rządów w regulowanie tej dziedziny. Obecnie jest współzałożycielem i dyrektorem generalnym Inflection AI. Dzięki bogatemu doświadczeniu i wiedzy Suleyman może wnieść cenny wgląd w zmieniający się krajobraz technologii AI i jej potencjalny wpływ na społeczeństwo.

Pobierz PDF

Aby zachować streszczenie „Nadchodząca fala” na później, pobierz bezpłatny plik PDF. Możesz je wydrukować lub przeczytać offline w dogodnym dla siebie momencie.
Download PDF

Pobierz EPUB

Aby przeczytać streszczenie „Nadchodząca fala” na czytniku lub w aplikacji, pobierz bezpłatny plik EPUB. Cyfrowy format książki .epub idealnie nadaje się do czytania e-booków na telefonach, tabletach i czytnikach.
Download EPUB
Chcesz przeczytać całą książkę?
Obserwuj
Słuchaj
Główna
Swipe
Biblioteka
Aplikacja
Wypróbuj pełny dostęp przez 3 dni
Słuchaj, dodawaj zakładki i więcej
Porównaj funkcje Darmowy Pro
📖 Czytaj streszczenia
Czytaj nieograniczoną liczbę streszczeń. Darmowi użytkownicy otrzymują 3 miesięcznie
🎧 Słuchaj streszczeń
Słuchaj nieograniczonej liczby streszczeń w 40 językach
—
❤️ Nieograniczone zakładki
Darmowi użytkownicy mają limit 4
—
📜 Nieograniczona historia
Darmowi użytkownicy mają limit 4
—
📥 Nieograniczone pobieranie
Darmowi użytkownicy mają limit 1
—
Harmonogram bez ryzyka
Dziś: Uzyskaj natychmiastowy dostęp
Słuchaj pełnych streszczeń ponad 26 000 książek. To ponad 12 000 godzin audio!
Dzień 2: Przypomnienie o okresie próbnym
Wyślemy Ci powiadomienie, że okres próbny wkrótce się kończy.
Dzień 3: Rozpoczęcie subskrypcji
Opłata zostanie pobrana 24 lis,
anuluj w dowolnym momencie wcześniej.
Consume 2.8× More Books
2.8× więcej książek Słuchanie Czytanie
Nasi użytkownicy nas kochają
1M+ czytelników
Trustpilot Rating
TrustPilot
4.6 Doskonały
Ta strona to prawdziwa rewolucja. Czytam streszczenia książek szybciej niż kiedykolwiek. Bardzo, bardzo polecam.
— Dave G
Warte mojego czasu i pieniędzy, naprawdę dobrze zrobione. Nigdy nie widziałem tak dobrych streszczeń na innych stronach. Bardzo pomocne!
— Em
Gorąco polecam!! Fantastyczna usługa. Idealna dla tych, którzy chcą czegoś więcej niż zajawka, ale nie potrzebują wszystkich szczegółów pełnego audiobooka.
— Greg M
Oszczędź 62%
Roczny
$119.88 $44.99/rok/rok
$3.75/mies.
Miesięczny
$9.99/mies.
Rozpocznij 3-dniowy darmowy okres próbny
3 dni za darmo, potem $44.99/rok. Anuluj w dowolnym momencie.
Unlock a world of fiction & nonfiction books
Ponad 26 000 książek w cenie 2 książek
Przeczytaj dowolną książkę w 10 minut
Odkrywaj nowe książki jak na Tinderze
Zamów dowolną książkę, jeśli nie ma jeszcze streszczenia
Czytaj więcej książek niż ktokolwiek, kogo znasz
Aplikacja nr 1 dla miłośników książek
Lifelike & immersive summaries
30-dniowa gwarancja zwrotu pieniędzy
Pobieraj streszczenia w formatach EPUB i PDF
Anuluj w każdej chwili kilkoma kliknięciami

Dlaczego tylko jedno streszczenie?

Skaner
Znajdź kod kreskowy do zeskanowania

⭐
⭐
⭐
Mamy dla Ciebie specjalny prezent
Otwórz
Rabat 38%
RABAT DLA CIEBIE
⭐
⭐
⭐
$79.99
$49.99/rok
Tylko $4.16 miesięcznie
Kontynuuj
Wystarczą 2 kliknięcia, by zacząć. Rezygnacja jest bardzo prosta
Ustawienia
Ogólne
Widget
Ładowanie...