Kostenlos testen
Beliebt Neu Genres Autoren
EnglishEnglish
EspañolSpanish
简体中文Chinese
繁體中文Chinese (Traditional)
FrançaisFrench
DeutschGerman
日本語Japanese
PortuguêsPortuguese
ItalianoItalian
한국어Korean
РусскийRussian
NederlandsDutch
العربيةArabic
PolskiPolish
हिन्दीHindi
Tiếng ViệtVietnamese
SvenskaSwedish
ΕλληνικάGreek
TürkçeTurkish
ไทยThai
ČeštinaCzech
RomânăRomanian
MagyarHungarian
УкраїнськаUkrainian
IndonesiaIndonesian
DanskDanish
SuomiFinnish
БългарскиBulgarian
עבריתHebrew
NorskNorwegian
HrvatskiCroatian
CatalàCatalan
SlovenčinaSlovak
LietuviųLithuanian
SlovenščinaSlovenian
СрпскиSerbian
EestiEstonian
LatviešuLatvian
فارسیPersian
മലയാളംMalayalam
தமிழ்Tamil
اردوUrdu
Suche läuft...
SoBrief
The Coming Wave

The Coming Wave

KI und synthetische Biologie entwickeln sich schneller als Institutionen. Können wir ihre Risiken eindämmen, ohne auf Zwangskontrolle zurückzugreifen?
von Mustafa Suleyman 2023 332 Seiten
3.80
15.000+ Bewertungen
Anhören
Immersiv
V2.3
Amazon Kindle Audible
3 Tage Vollzugriff testen
Schalten Sie Audioinhalte & mehr frei!
Weiter

Wichtigste Erkenntnisse

KI und synthetische Biologie als eine Welle begreifen, die Intelligenz und Leben neu gestaltet

Zwei Grundlagen befinden sich im Wandel. Mustafa Suleymans zentrale These lautet, dass die kommende Welle über neue technische Spielereien hinausgeht: Sie gibt Menschen Werkzeuge an die Hand, mit denen sie zwei Grundpfeiler menschlicher Existenz reproduzieren und neu gestalten können – Intelligenz und Leben. KI kann immer komplexere kognitive Aufgaben übernehmen, während die synthetische Biologie es ermöglicht, genetische Informationen zu lesen, zu verändern und zu schreiben. Ihre Wirkungen verstärken einander: KI beschleunigt die biologische Forschung, und die Biologie eröffnet neue Möglichkeiten, Informationen zu erzeugen und zu speichern.

Nutzen und Gefahren gehen Hand in Hand. Bessere Medikamente, Nutzpflanzen und Materialien könnten das Leben verbessern; dieselben leicht zugänglichen Fähigkeiten könnten schwere Unfälle oder vorsätzlichen Schaden ermöglichen. Suleymans Erfahrung als Mitgründer von DeepMind verleiht dem Argument einen Insiderblick, doch seine Prognosen über Tempo und Reichweite bleiben Prognosen und sind keine gesicherten Tatsachen.

Analyse

Der stärkste Auftakt des Buches besteht darin, KI und Biotechnologie miteinander zu verknüpfen, statt sie als getrennte Politikfelder zu behandeln. Ihre Konvergenz ist bedeutsam, weil eine Entdeckung auf einem Gebiet ein anderes beschleunigen kann. Dadurch wird eine eng gefasste Aufsicht schwieriger: Eine Regel, die auf eine bestimmte Anwendung zielt, kann die unterstützenden Werkzeuge übersehen, die sie erst möglich machen. Die Rahmung schützt zudem vor einem verbreiteten Irrtum: eine Innovation entweder als Wunder oder als Bedrohung zu betrachten. Entscheidend ist, wie sich Nutzen und Risiken verändern, wenn Fähigkeiten günstiger und leichter zu kombinieren werden.

Davon ausgehen, dass sich nützliche Technologien verbreiten, sofern starke Hindernisse sie nicht teuer halten

Verbreitung ist das wiederkehrende Muster. Das Buch beschreibt eine Technologiewelle als eine Gruppe verwandter Erfindungen, die sich um eine Allzwecktechnologie versammelt und sich anschließend in viele Lebensbereiche ausbreitet. Autos waren anfangs kostspielige Kuriositäten. Henry Fords 1908 vorgestelltes Modell T, das für die Massenproduktion gebaut wurde, trug dazu bei, motorisierte Fortbewegung für gewöhnliche Käufer erschwinglich zu machen. Der Buchdruck ist ein weiteres Beispiel: Innerhalb weniger Jahrzehnte nach Gutenbergs erster europäischer Druckerpresse hatten sich Pressen und Bücher weit verbreitet, während die Buchpreise stark sanken.

Widerstand hält selten für immer an. Regierungen, Zünfte und Arbeiter haben versucht, disruptive Werkzeuge zu blockieren, oft aus nachvollziehbaren Gründen. Doch nützliche Technologien kehren häufig in neuer Form zurück. Nuklearwaffen bilden eine teilweise Ausnahme: Sie sind nach wie vor teuer und schwierig herzustellen, und Verträge haben dazu beigetragen, ihre Verbreitung einzudämmen. Doch auch hier zeigen Unfälle und Beinahe-Katastrophen, dass eine begrenzte Verbreitung nicht dasselbe ist wie Kontrolle.

Analyse

Historische Beispiele helfen, eine Erfindung von einer Welle zu unterscheiden: Die entscheidende Veränderung setzt ein, wenn sinkende Kosten, Nachfrage und Anpassung einander verstärken. Dieses Muster warnt davor, anzunehmen, ein Verbot allein könne technisches Wissen auslöschen. Es muss jedoch auch sorgfältig behandelt werden. Die Verbreitung in der Vergangenheit beweist nicht, dass sich jede künftige Technologie im selben Tempo ausbreiten wird; Nuklearwaffen zeigen zudem, dass Kosten, Komplexität und Koordination eine Rolle spielen können. Die Geschichte weist auf die Kräfte hin, mit denen sich Politik auseinandersetzen muss. Sie ist kein Gesetz, das Ergebnisse unausweichlich macht.

Fähigkeiten danach beurteilen, wer wie günstig und mit welchem Maß an Autonomie handeln kann

Vier Merkmale erhöhen den Einsatz. Suleyman bezeichnet die prägenden Eigenschaften der Welle als die Vier Merkmale. Asymmetrie bedeutet, dass ein kleiner Akteur einen Schaden verursachen kann, der in keinem Verhältnis zu seinen Ressourcen steht. Hyper-Evolution beschreibt schnelle Verbesserungs- und Anpassungszyklen. Allzweckfähigkeit bedeutet, dass eine Technologie vielen Zwecken dienen kann, von denen manche weit von ihrem ursprünglichen Entwurf entfernt liegen. Autonomie bedeutet, dass Systeme handeln können, ohne dass ein Mensch jede Aktion fortlaufend genehmigt.

Den Blick über spektakuläre KI hinaus richten. In der Ukraine setzte eine kleine Gruppe von Drohnenbedienern relativ erschwingliche Ausrüstung ein, um eine weitaus größere Streitmacht zu behindern. Das Beispiel zeigt, wie zugängliche Werkzeuge Machtverhältnisse verschieben können, ohne mit den Ressourcen eines etablierten Akteurs gleichzuziehen. Suleyman führt außerdem den Begriff künstliche handlungsfähige Intelligenz (Artificial Capable Intelligence, ACI) ein: KI, die komplexe Ziele mit begrenzter Aufsicht verwirklichen kann. ACI braucht weder Bewusstsein noch eine vollständig menschenähnliche allgemeine Intelligenz, um erhebliche Auswirkungen zu haben.

Analyse

Dieser Rahmen lenkt die Aufmerksamkeit weg von einer einzigen dramatischen Schwelle – etwa dem Bewusstwerden einer Maschine – und hin zu praktischen Fähigkeiten: Zugang, Umfang, Anpassungsfähigkeit und Handlungsspielraum. Für Sicherheitsanalysen ist das hilfreich, denn Schäden entstehen oft, wenn gewöhnliche Werkzeuge auf neue Weise miteinander kombiniert werden. Die Merkmale wirken zudem zusammen. Ein vielseitiges System, das sich schnell verbessert und mit wenig Aufsicht arbeitet, lässt sich schwerer steuern, als es jedes dieser Merkmale für sich vermuten lässt. Autonomie ist jedoch eine Frage des Grades; Aussagen darüber erfordern daher konkrete Prüfungen statt einer einfachen Etikettierung.

Keine einzelne Erfinderin und kein einzelner Erfinder kontrolliert eine Welle, die von Rivalität, Märkten und Neugier angetrieben wird

Fortschritt hat viele Antriebskräfte. Das Buch führt die technologische Entwicklung auf geopolitischen Wettbewerb, offene Forschung, finanzielle Anreize, dringende menschliche Bedürfnisse und persönlichen Ehrgeiz zurück. Die Siege von AlphaGo gegen führende Go-Spieler machten den Fortschritt der KI für Publikum und Regierungen anschaulich – besonders in China, wo der Wettkampf als Zeichen strategischer Konkurrenz verstanden wurde. Auch die Normen der Forschung erzeugen Druck: Wissenschaftlerinnen und Wissenschaftler veröffentlichen Erkenntnisse, Unternehmen suchen nach Talenten und Wettbewerbsvorteilen, und andere können auf dem aufbauen, was verfügbar wird.

Die Anreize verstärken einander. Unternehmen investieren, weil sie Gewinne erwarten; Staaten investieren, weil sie fürchten, ins Hintertreffen zu geraten; Forschende streben nach Entdeckungen und Anerkennung. Zugleich werden KI und Biotechnologie als Werkzeuge für Herausforderungen wie Krankheiten, Nahrungsmittelproduktion und Klimawandel dargestellt. Keine zentrale Instanz lenkt dieses ganze System. Selbst eine verantwortungsbewusste Entwicklerin oder ein verantwortungsbewusster Entwickler kann nicht sicherstellen, dass keine Konkurrenten, Staaten oder späteren Nutzer ähnliche Fähigkeiten anstreben.

Analyse

Das Argument beschreibt ein Koordinationsproblem und nicht bloß einen Mangel an guten Absichten. Wenn jeder Akteur glaubt, Zurückhaltung komme den Rivalen stärker zugute als der Gesellschaft, wird freiwillige Zurückhaltung brüchig. Dieselben Dynamiken können aber auch Möglichkeiten eröffnen: Gemeinsame Interessen an der Verhinderung katastrophaler Schäden können selbst zwischen Konkurrenten Zusammenarbeit fördern. Schwieriger ist die Frage, wie sich solche Interessen dauerhaft verankern lassen, wenn Sicherheits- und Gewinnanreize für Tempo sprechen. Das Buch überzeugt mit seiner These, dass Politik die Anreize berücksichtigen muss, bietet aber weniger Anlass zu der Annahme, jedes Wettrennen sei gleichermaßen intensiv oder unmöglich zu verlangsamen.

KI-Risiken daran messen, welche Institutionen sie stören kann, nicht nur an ihren Ausgaben

Ausfälle können Kettenreaktionen auslösen. Beim Ransomware-Angriff WannaCry im Jahr 2017 wurde ein gestohlenes Cyberwerkzeug der US-Regierung eingesetzt, um Computer in 150 Ländern zu infizieren, darunter auch beim britischen National Health Service. Krankenhäuser verloren den Zugang zu Systemen, und die Versorgung wurde beeinträchtigt. Der Vorfall zeigt, wie ein für einen bestimmten Zweck entwickeltes Werkzeug seinen ursprünglichen Einsatzbereich verlassen und wichtige Dienste gefährden kann. Suleyman sieht in anpassungsfähigeren KI-Systemen potenzielle Verstärker von Cyberangriffen und Desinformation.

Auch gute Absichten können scheitern. Die synthetische Biologie vergrößert das Risiko von Laborunfällen, während erzeugte Stimmen, Bilder und Videos Betrug oder politische Täuschung überzeugender machen können. Automatisierung könnte außerdem Arbeitsplätze verdrängen und die öffentlichen Finanzen aus dem Gleichgewicht bringen. Es sind unterschiedliche Risiken, aber das Buch argumentiert, dass sie bereits überlastete Institutionen gleichzeitig treffen könnten. Zeitpunkt und Ausmaß sind ungewiss; entscheidend ist, das vernetzte System zu betrachten und nicht nur den beabsichtigten Einsatz einer Technologie.

Analyse

Die Konzentration auf institutionelle Auswirkungen verbessert die Risikoanalyse. Ein Cyberangriff ist nicht nur deshalb bedeutsam, weil sich Code unvorhergesehen verhält, sondern weil Krankenhäuser, Lieferketten oder Behörden auf Systeme angewiesen sind, die dieselben Schwachstellen aufweisen können. Es handelt sich um ein Systemproblem: Eng vernetzte Dienste können lokale Ausfälle in weitreichende Störungen verwandeln. Die Szenarien unterscheiden sich jedoch stark in ihrer Wahrscheinlichkeit und ihren Folgen. Sie alle als gleichermaßen unmittelbar darzustellen, kann das öffentliche Vertrauen schwächen. Eine solide Planung sollte bekannte Schwachstellen von plausiblen, aber spekulativen Zukunftsszenarien unterscheiden und dann Schutzmaßnahmen priorisieren, die in mehreren Szenarien hilfreich sind.

Darauf einstellen, dass sich Macht bei Plattformen konzentriert und jenseits von Staaten zersplittert

Technologie wirkt in entgegengesetzte Richtungen. Große Unternehmen könnten an Macht gewinnen, indem sie fortschrittliche Modelle, Daten und Recheninfrastruktur besitzen. Suleyman vergleicht diese Möglichkeit mit der Britischen Ostindien-Kompanie, einem Unternehmen, das einst Befugnisse ausübte, die normalerweise einem Staat zugeschrieben werden. KI könnte große Organisationen leistungsfähiger machen, indem sie Arbeit automatisiert und Entscheidungen verbessert, sodass sich ihre Vorteile weiter verstärken.

Dieselben Werkzeuge können Autorität zersplittern. Günstige KI, Robotik und Biotechnologie könnten kleineren Gruppen helfen, Dienstleistungen anzubieten oder unabhängig von Regierungen zu handeln. Das Beispiel der Hisbollah, die im Libanon politische, militärische und soziale Funktionen verbindet, veranschaulicht, wie sich staatliche und nichtstaatliche Macht überschneiden können. Zugleich könnten Regierungen mithilfe KI-gestützter Überwachung die Bevölkerung genauer kontrollieren. Der „große Gesellschaftsvertrag“ bezeichnet das Versprechen des Staates, im Gegenzug für seine Autorität Ordnung und Dienstleistungen bereitzustellen; die kommende Welle könnte diesen Austausch belasten.

Analyse

Die Spannung zwischen Konzentration und Zersplitterung ist aufschlussreicher als die simple Behauptung, Technologie ermächtige entweder alle oder festige die Macht der Eliten. Beides kann gleichzeitig geschehen: Offene Werkzeuge senken die Zugangsschwellen, während Vorteile bei Infrastruktur und Vertrieb Größe belohnen. Damit werden Eigentum und Rechenschaftspflicht zu zentralen Fragen und nicht zu Nebensächlichkeiten. Der Staat ist nicht automatisch die Lösung, denn Regierungen können Bürgerinnen und Bürger schützen oder den Zwang verstärken. Die Analyse hängt daher von der Qualität der Institutionen ab: Wer hat Macht, welche Kontrollen gelten, und können Menschen Entscheidungen anfechten, die ihr Leben prägen?

Sowohl unkontrollierte Offenheit als auch totale Überwachung als gescheiterte Auswege zurückweisen

Es gibt keinen risikofreien Ausweg. Suleyman bezeichnet diese Zwangslage als das Dilemma: Eine unkontrollierte Verbreitung der Technologie erhöht die Gefahr einer Katastrophe, während die strengsten Kontrollen zu autoritärer Überwachung führen können. In seiner Darstellung wäre auch eine dritte Reaktion – die technologische Entwicklung zu stoppen – gefährlich. Moderne Gesellschaften sind auf stetige Verbesserungen in Produktivität, Gesundheitsversorgung, Energie und Nahrungsmittelproduktion angewiesen, besonders angesichts alternder Bevölkerungen und des zunehmenden Klimadrucks.

Die Wahl ist ein Balanceakt, kein sauberer Ausweg. Der „schmale Pfad“ des Buches ist das fortwährende Bemühen, die Vorteile der Technologie zu bewahren und zugleich unannehmbare Schäden zu verhindern und Zwangskontrolle zu vermeiden. Die Metapher ist bedeutsam: Eindämmung ist kein endgültiger Zustand, den man einmal erreicht, sondern eine Balance, die aufrechterhalten werden muss, während sich Technologien und Institutionen verändern. Die Gefahren auf beiden Seiten sind ernst, doch ihre Wahrscheinlichkeit und ihr Ausmaß bleiben ungewiss.

Analyse

Dies ist die wichtigste politische Einsicht des Buches: Wer eine Gefahr zurückweist, kann dadurch eine andere schaffen. Das Argument wendet sich sowohl gegen technologische Selbstzufriedenheit als auch gegen die tröstliche Illusion, ein pauschales Verbot oder ein perfektes Überwachungssystem könne Unsicherheit beseitigen. Der Zielkonflikt verweist auch auf die Legitimität. Kontrollen ohne öffentliche Zustimmung können die Institutionen schwächen, die für ihre Durchsetzung nötig sind; uneingeschränkter Zugang kann die Sicherheit untergraben, die diese Institutionen versprechen. Der Vergleich mit einem schmalen Pfad ist eindringlich, kann aber jeden Kompromiss gleichermaßen prekär erscheinen lassen. Um vernünftige Schutzmaßnahmen von Übergriffen zu unterscheiden, braucht es konkrete Grenzen und Rechte.

Eindämmung durch mehrschichtige Schutzmaßnahmen, Audits und politische Handlungsfähigkeit gestalten

Regulierung ist eine Ebene. Suleyman schlägt ein umfassenderes Vorgehen zur Eindämmung vor: technische Sicherheitsvorkehrungen, unabhängige Audits und Red-Teaming, Kontrollen an Engpässen der Lieferkette, verantwortungsvolle Praktiken der Entwickler und leistungsfähigere öffentliche Institutionen. Auch internationale Vereinbarungen, eine Kultur der Fehlermeldung und die Beteiligung der Öffentlichkeit gehören dazu. Keine einzelne Maßnahme reicht aus, denn Fähigkeiten lassen sich kopieren, missbrauchen oder andernorts entwickeln.

Zeit gewinnen und lernen. Exportkontrollen für Halbleiter zeigen, wie Druck auf einen knappen Input die Entwicklung verlangsamen kann, ohne Wissen selbst zu verbieten. In der Biologie könnten die Überprüfung von DNA-Synthesebestellungen sowie eine bessere Vorbereitung auf das Erkennen und die Bekämpfung von Ausbrüchen Risiken verringern. Das allgemeine Muster des Buches lautet: Verzögerung, Erkennung und Abwehr, gestützt durch fortlaufende Überprüfung. Diese Vorschläge werfen berechtigte Fragen zu bürgerlichen Freiheiten und Durchsetzung auf, machen Eindämmung aber praktischer als ein vager Aufruf zur Regulierung.

Analyse

Der mehrschichtige Ansatz spiegelt eine grundlegende Lehre der Sicherheitstechnik wider: Zuverlässige Systeme verlassen sich nicht auf eine einzige Schutzmaßnahme, die niemals versagen darf. Technische Beschränkungen, Aufsicht, organisatorische Anreize und Notfallvorsorge können einander ergänzen. Besonders wichtig ist die Betonung von Audits, denn Regeln ohne Überprüfung laden dazu ein, nur noch Kästchen abzuhaken. Doch die Architektur braucht auch Schutzvorkehrungen gegen den Missbrauch ihrer eigenen Befugnisse. Überwachung und Zulassung können die Öffentlichkeit schützen, zugleich aber etablierte Anbieter stärken oder die Überwachung ausweiten. Transparente Zuständigkeiten, rechtsstaatliche Verfahren und unabhängige Überprüfung sind Bestandteile der Eindämmung und keine optionalen Ergänzungen.

Bürgerinnen und Bürger sowie Beschäftigte zu Mitgestaltenden der Technologien machen, die ihr Leben verändern

Die Kosten des Wandels sind menschlicher Art. Das Buch schließt mit den Ludditen, Textilarbeitern, die im frühen 19. Jahrhundert in England mechanische Webstühle angriffen. Die Mechanisierung senkte die Löhne und veränderte für viele qualifizierte Weber die Arbeitsbedingungen. Es gelang ihnen nicht, die Maschinen aufzuhalten; ihr Widerstand war jedoch nicht einfach eine Ablehnung von Erfindungen. Er spiegelte die Forderung nach Würde und einem gerechten Anteil an den Gewinnen wider.

Anpassung in die Innovation einbauen. Suleyman argumentiert, dass technologische Veränderungen an menschlichen Bedürfnissen ausgerichtet und nicht erst nachträglich durchgesetzt werden sollten. Dafür braucht es öffentliche Debatten, breite Bündnisse und eine Rolle für Beschäftigte und Gemeinschaften, die von neuen Systemen betroffen sind. Er fordert Kritiker auf, sich an der Entwicklung und Steuerung von Technologie zu beteiligen, statt nur von außen zu widersprechen. Ziel ist weder, jeden alten Arbeitsplatz zu erhalten, noch jede Erfindung zu verhindern, sondern die Vorteile breit zu teilen und diejenigen, die die Schäden tragen, in die Lage zu versetzen, dafür Rechenschaft einzufordern.

Analyse

Die Geschichte der Ludditen stellt die geläufige Annahme infrage, Widerstand sei bloß Ausdruck von Unwissenheit. Beschäftigte können die Produktivität einer Maschine verstehen und trotzdem dagegen protestieren, wer sie kontrolliert, wer von ihr profitiert und wer die Folgen des Umbruchs trägt. Diese Unterscheidung ist weiterhin hilfreich: Die Zustimmung der Öffentlichkeit ist kein Kommunikationsproblem, das sich nach der Einführung lösen lässt, sondern ein Teil der Frage, ob eine Technologie gesellschaftlich tragfähig ist. Beteiligung kann faire Ergebnisse nicht garantieren, besonders bei ungleichen Verhandlungsmachtverhältnissen. Sie kann jedoch Kosten sichtbar machen, die technische Kennzahlen übersehen, und Entscheidungen gegenüber den am stärksten Betroffenen rechenschaftspflichtiger machen.

Analyse

Der zentrale Beitrag des Buches besteht darin, technologische Fähigkeiten mit politischer Handlungsfähigkeit zu verknüpfen. KI und Synthetische Biologie sind hier nicht allein deshalb von Bedeutung, weil sie leistungsfähig werden könnten, sondern weil ihre sinkenden Kosten und vielfältigen Einsatzmöglichkeiten mit Institutionen kollidieren, die darauf ausgelegt sind, überschaubarere und langsamere Systeme zu steuern. Die Geschichte des Buchdrucks, der Motoren und der Computer verleiht dieser These erzählerische Kraft: Technologien verbreiten sich durch das Handeln vieler Akteure, die auf lokale Anreize reagieren, und nicht nach dem Plan eines einzelnen Erfinders. Die Beispiele lassen Eindämmung zudem als praktisches Governance-Problem erscheinen und nicht als abstrakte Debatte darüber, ob Fortschritt gut oder schlecht ist.

Die nützlichste Unterscheidung ist die zwischen der Eindämmung einer Technologie und ihrer Abschaffung. Suleyman plädiert für Ersteres: Es gelte, genügend technische, rechtliche, kulturelle und institutionelle Kontrollmöglichkeiten zu schaffen, um Schäden zu begrenzen und zugleich die Vorteile zu bewahren. Sein Nachdruck auf mehrschichtigen Schutzmaßnahmen ergibt sich aus der Schwäche jeder einzelnen Maßnahme. Eine Sicherheitsregel ohne Audits lässt sich nur schwer durchsetzen; Audits ohne öffentliche Legitimität können zur Überwachung werden; nationale Kontrollen ohne internationale Zusammenarbeit könnten Aktivitäten lediglich an andere Orte verlagern.

Weniger überzeugend ist das Argument, wenn historische Tendenzen beinahe als unausweichlich dargestellt werden. Frühere Diffusionswellen mahnen zur Wachsamkeit, belegen aber weder, dass KI oder Synthetische Biologie denselben Verlauf nehmen werden, noch, dass eine Katastrophe ohne strengere Kontrollen unausweichlich ist. Prognosen über autonome Systeme, Beschäftigung und das geopolitische Kräfteverhältnis hängen von technischen und gesellschaftlichen Entwicklungen ab, die weiterhin ungewiss sind. Am stärksten ist das Buch, wenn es diese Zukünfte als folgenreiche Möglichkeiten behandelt, auf die man sich vorbereiten sollte, und nicht als feststehenden Zeitplan.

Die politische Spannung des Buches ist zugleich seine erkenntnisreichste Einsicht. Eine konzentrierte Infrastruktur kann Unternehmen und Staaten stärken, während leicht zugängliche Werkzeuge kleinen Akteuren mehr Möglichkeiten verschaffen können. Weder Offenheit noch zentrale Kontrolle garantieren Freiheit oder Sicherheit. Entscheidend ist, ob Institutionen genügend Vertrauen gewinnen können, um begrenzte Befugnisse auszuüben, aus Fehlern zu lernen und die Gewinne zu verteilen. In diesem Sinne ist Eindämmung keine technische Ziellinie. Sie ist ein fortwährender Konflikt darum, wer Macht erhält, wer Risiken trägt und wer mitbestimmen darf, wozu Technologie dienen soll.

Zusammenfassung in 30 Sekunden
KI und synthetische Biologie können Medizin, Ernährung und Produktivität verbessern, zugleich aber Unfälle, Betrug, Cyberangriffe und eine Konzentration von Macht ermöglichen. Ihre Risiken wachsen, je kostengünstiger, vielseitiger und autonomer die Fähigkeiten werden. Der WannaCry-Angriff von 2017 erreichte 150 Länder und störte den Krankenhausbetrieb, nachdem ein gestohlenes Cyberwerkzeug eingesetzt worden war. Keine einzelne Regel kann diese Bedrohungen bewältigen: Schutzmaßnahmen, Audits, Erkennung, öffentliche Handlungsfähigkeit und internationale Zusammenarbeit müssen zusammenwirken. Beschäftigte und Gemeinschaften brauchen eine Stimme dabei, wie Nutzen und Schäden verteilt werden.
Enthält Spoiler

Zuletzt aktualisiert:

Problem melden

Rezensionsübersicht

3.80 von 5
Durchschnitt von 15.000+ Bewertungen von Goodreads und Amazon.

Die kommende Welle wird unterschiedlich bewertet. Viele loben die Einblicke in mögliche Auswirkungen und Risiken von KI und schätzen Suleymans Insiderperspektive. Leser finden das Buch anregend und aktuell und heben die wichtigen ethischen Fragen hervor. Einige kritisieren es jedoch als wiederholend, allzu spekulativ oder wenig tiefgründig. Das Buch gilt als gut zugänglich für Laien, könnte aber für Leser, die sich bereits mit KI-Themen auskennen, enttäuschend sein. Insgesamt wird es als wichtige Lektüre zum Verständnis der Zukunft der KI und ihrer gesellschaftlichen Folgen betrachtet.

Ihre Bewertung:
4.35
1077 Bewertungen
Möchten Sie das vollständige Buch lesen?

Glossar

Die kommende Welle

Konvergierende mächtige Technologien

Suleymans Bezeichnung für eine Gruppe aufkommender Technologien, deren Mittelpunkt künstliche Intelligenz und synthetische Biologie bilden und zu der verwandte Bereiche wie Robotik und Quantencomputing gehören. Diese Technologien versprechen große Vorteile, erleichtern aber zugleich die Entstehung neuer Formen von Schaden. Ihre Wechselwirkungen und Verbreitung – nicht eine einzelne Erfindung – stellen die zentrale Herausforderung für die Regulierung dar.

Eindämmung

Gesellschaftliche Kontrolle über Technologie

Die Fähigkeit, Technologien und ihre Anwendungen zu überwachen, einzuschränken, zu lenken oder bei Bedarf abzuschalten. Im Buch ist Eindämmung nicht einfach ein Verbot oder eine buchstäbliche Abgrenzung. Sie umfasst technische Schutzmaßnahmen, kulturelle Normen, Gesetze, Rechenschaftspflicht und politische Mechanismen, die dafür sorgen sollen, dass Technologie unter wirksamer menschlicher und gesellschaftlicher Kontrolle bleibt.

Das Eindämmungsproblem

Kontrolle angesichts der technologischen Verbreitung

Die Schwierigkeit, mächtige Technologien unter Kontrolle zu halten, wenn sie kostengünstiger und zugänglicher werden und breite Anwendung finden. Ihre Auswirkungen können unvorhersehbar sein, und ihre Nutzung kann von den Absichten ihrer Urheber abweichen. Das Problem verschärft sich, wenn Technologien stärker in die Gesellschaft eingebettet sind und sich ihre Folgen über miteinander verknüpfte Systeme ausbreiten.

Vier Merkmale

Eigenschaften, die Eindämmung erschweren

Die Bezeichnung im Buch für vier Eigenschaften, die die kommende Welle schwer regulierbar machen: asymmetrische Wirkung, rasche Verbesserung und Verzweigung, breite Anwendbarkeit für unterschiedliche Zwecke und die zunehmende Fähigkeit, ohne unmittelbare menschliche Steuerung zu handeln. Zusammengenommen können diese Merkmale sowohl den Nutzen einer Technologie als auch den Schaden durch ihren Missbrauch oder ihr Versagen verstärken.

Künstliche handlungsfähige Intelligenz (Artificial Capable Intelligence)

KI für komplexe Ziele

Suleymans Bezeichnung für eine Zwischenstufe zwischen der heutigen auf bestimmte Aufgaben spezialisierten KI und künstlicher allgemeiner Intelligenz. Eine Künstliche handlungsfähige Intelligenz (ACI) könnte mit begrenzter menschlicher Aufsicht komplexe, offene Ziele über mehrere Aufgaben hinweg verfolgen und dabei Gedächtnis, Werkzeuge und Planung nutzen. Der Begriff betont praktische Fähigkeiten und Handlungsfähigkeit, nicht Bewusstsein oder ein menschenähnliches inneres Erleben.

Verstärker gesellschaftlicher Verwundbarkeit (Fragility Amplifiers)

Belastungen, die Institutionen schwächen

Anwendungen oder Auswirkungen aufkommender Technologien, die bestehende Verwundbarkeiten in Regierungen und Gesellschaften verschärfen. Zu den Beispielen im Buch gehören Cyberangriffe, synthetisch erzeugte Falschinformationen, Unfälle in der biologischen Forschung, autonome Waffen und Verwerfungen auf dem Arbeitsmarkt. Diese Belastungen können zusammenwirken und es Institutionen erschweren, Sicherheit, Dienstleistungen und verlässliche Regierungsführung zu gewährleisten.

Der große Gesellschaftsvertrag

Staatliche Autorität für öffentliche Ordnung

Der gesellschaftliche und politische Austausch, bei dem Bürger die Autorität des Staates – einschließlich seines Monopols auf legitime Gewalt – im Gegenzug für Sicherheit, Ordnung und öffentliche Dienstleistungen akzeptieren. Das Buch argumentiert, dass diese Vereinbarung unter Druck gerät, wenn Staaten die Schäden durch Technologie nicht bewältigen können oder technologische Macht auf Unternehmen und nichtstaatliche Gruppen übergeht.

Der schmale Pfad

Gleichgewicht zwischen Sicherheit und Freiheit

Das schwierige, fortwährende Bemühen, die Vorteile aufkommender Technologien zu nutzen, katastrophale Schäden zu begrenzen und autoritäre Kontrolle zu vermeiden. Es handelt sich nicht um einen dauerhaften Endzustand. Das Gleichgewicht muss durch veränderte Schutzmaßnahmen, Institutionen und öffentliche Entscheidungen aufrechterhalten werden, da sowohl eine uneingeschränkte Verbreitung als auch übermäßige Kontrolle ernsthafte Risiken bergen.

Abneigung gegen Pessimismus (Pessimism Aversion)

Verdrängung alarmierender Risiken

Die Neigung, beunruhigende Möglichkeiten abzutun oder herunterzuspielen, weil es beängstigend, unbequem oder gesellschaftlich unangenehm ist, sich mit ihnen auseinanderzusetzen. Suleyman zufolge ist diese Reaktion unter Eliten aus Technologie und Politik verbreitet: Sie erkennen Risiken möglicherweise grundsätzlich an, handeln aber nicht. Dadurch kann Vorsorge unnötig pessimistisch erscheinen – bis eine Krise eintritt.

Synthetische Biologie

Entwicklung biologischer Systeme

Die Fähigkeit, genetische Informationen zu lesen, zu bearbeiten und zu entwerfen und sie anschließend zu nutzen, um bestehende Organismen zu verändern oder neue biologische Systeme zu schaffen. Das Feld baut auf der Gentechnik auf und verbindet sich zunehmend mit Informatik und Automatisierung. Es kann Medizin, Landwirtschaft und Produktion voranbringen, birgt aber auch Risiken im Zusammenhang mit Unfällen und vorsätzlichem Missbrauch.

FAQ

Worum geht es in Die kommende Welle?

  • Auswirkungen der Technologie: Die kommende Welle von Mustafa Suleyman untersucht die tiefgreifenden Auswirkungen aufkommender Technologien, insbesondere von KI und synthetischer Biologie, auf Gesellschaft und Machtverhältnisse.
  • Doppelte Natur: Das Buch beleuchtet die doppelte Natur dieser Technologien: Sie können menschliche Fähigkeiten erweitern, bergen aber auch erhebliche Risiken.
  • Eindämmung und Regulierung: Es betont die Notwendigkeit wirksamer Eindämmungsstrategien und einer Regulierung, um die möglichen Gefahren dieser Technologien zu bewältigen.
  • Zusammenhängende Herausforderungen: Suleyman erörtert, wie technologische Fortschritte mit globalen Herausforderungen wie dem Klimawandel und politischer Instabilität verflochten sind.

Warum sollte ich Die kommende Welle lesen?

  • Fachkundige Einblicke: Das von Mustafa Suleyman, einem Mitbegründer von DeepMind, verfasste Buch bietet eine einzigartige Insiderperspektive auf KI und Biotechnologie.
  • Verständnis künftiger Risiken: Es vermittelt Wissen über die möglichen Gefahren nicht eingedämmter Technologien – wichtig für alle, die sich für die Zukunft von Gesellschaft und Technologie interessieren.
  • Praktische Lösungen: Suleyman bietet umsetzbare Erkenntnisse und Empfehlungen für politische Entscheidungsträger, Technologen und Bürger.
  • Aktuell und relevant: Angesichts der rasanten technologischen Entwicklung liefert das Buch wichtige Einblicke in deren Folgen für den Einzelnen und die Gesellschaft.

Was sind die wichtigsten Erkenntnisse aus Die kommende Welle?

  • Eindämmung ist entscheidend: Das Buch betont, wie wichtig es ist, mächtige Technologien einzudämmen, um katastrophale Folgen zu verhindern.
  • Zusammenhang der Probleme: Technologische Fortschritte sind mit umfassenderen gesellschaftlichen Herausforderungen verknüpft und erfordern einen ganzheitlichen Ansatz.
  • Rolle der Regulierung: Wirksame Regulierung ist entscheidend, um sich in der Komplexität aufkommender Technologien zurechtzufinden.
  • Dringender Handlungsaufruf: Suleyman fordert sofortiges Handeln, um die Herausforderungen dieser Technologien anzugehen.

Was sind die besten Zitate aus Die kommende Welle, und was bedeuten sie?

  • „Die kommende technologische Welle verspricht der Menschheit gottgleiche Schöpferkräfte; wenn es uns aber nicht gelingt, sie umsichtig zu steuern, könnte sie uns vernichten.“: Das Zitat hebt die doppelte Natur aufkommender Technologien hervor, die sowohl Fortschritte als auch Risiken mit sich bringen können.
  • „Eindämmung muss möglich sein.“: Es betont, wie notwendig es ist, Rahmenbedingungen zu entwickeln, um mächtige Technologien wirksam zu steuern.
  • „Technologie sollte das Beste in uns verstärken.“: Es deutet darauf hin, dass Technologie menschliche Fähigkeiten erweitern und das Leben verbessern kann, und unterstreicht die Notwendigkeit ethischer Überlegungen.

Was ist das „Eindämmungsproblem“, wie es in Die kommende Welle beschrieben wird?

  • Definition von Eindämmung: Gemeint ist die Herausforderung, mächtige Technologien zu überwachen, zu kontrollieren und gegebenenfalls abzuschalten, wenn sie sich weit und unvorhersehbar verbreiten.
  • Historischer Kontext: Suleyman zieht Parallelen zu historischen Fällen, in denen Technologien schwer zu kontrollieren wurden, etwa Atomwaffen.
  • Notwendigkeit neuer Rahmenbedingungen: Bestehende Regulierungsstrukturen reichen nicht aus; es braucht neue Rahmenbedingungen, um das Eindämmungsproblem anzugehen.
  • Vorausschauendes Vorgehen: Das Buch betont, wie wichtig vorausschauende Maßnahmen sind, um mögliche Probleme zu bewältigen, bevor sie entstehen.

Wie beschreibt Die kommende Welle das Verhältnis zwischen KI und synthetischer Biologie?

  • Miteinander verflochtene Technologien: KI und synthetische Biologie sind eng miteinander verflochten; Fortschritte auf einem Gebiet beschleunigen häufig die Entwicklung des anderen.
  • KI als Werkzeug für die Biologie: KI wird eingesetzt, um biologische Prozesse zu modellieren, Ergebnisse vorherzusagen und neue Systeme zu entwerfen, was rasche Fortschritte unterstützt.
  • Veränderungspotenzial: Die Kombination könnte zu revolutionären Veränderungen in Medizin, Landwirtschaft und Nachhaltigkeit führen.
  • Ethische Auswirkungen: Das Buch warnt vor den ethischen Folgen und Risiken derart mächtiger Werkzeuge.

Welche vier Merkmale der kommenden Welle werden in Die kommende Welle genannt?

  • Asymmetrie: Aufkommende Technologien können Machtungleichgewichte schaffen und kleineren Akteuren ermöglichen, größere Mächte herauszufordern.
  • Hyper-Evolution: Rascher technologischer Fortschritt erschwert es Gesellschaften, sich anzupassen und wirksam zu reagieren.
  • Vielseitige Nutzung: Vielseitige Technologien können in unterschiedlichen Bereichen eingesetzt werden, was ihre Regulierung erschwert und das Missbrauchspotenzial erhöht.
  • Autonomie: Die zunehmende Autonomie von Technologien wirft Fragen zu Verantwortung und Kontrolle auf.

Was ist das zentrale Dilemma, das in Die kommende Welle erörtert wird?

  • Katastrophe oder Dystopie: Die Gesellschaft muss zwischen dem Risiko katastrophaler Ereignisse durch nicht eingedämmte Technologien und einer möglichen autoritären Kontrolle navigieren.
  • Notwendigkeit eines Gleichgewichts: Entscheidend ist, ein Gleichgewicht zwischen Offenheit für Innovation und notwendigen Beschränkungen zu finden.
  • Langfristige Folgen: Wird dieses Dilemma nicht angegangen, könnte dies zu gesellschaftlichen Umwälzungen und einem Verlust von Freiheiten führen.
  • Aufruf zu gemeinsamem Handeln: Das Buch betont die Notwendigkeit gemeinsamen Handelns, damit Technologie dem Wohl der Menschheit dient.

Wie behandelt Die kommende Welle die mögliche Verdrängung von Arbeitsplätzen durch KI?

  • Historischer Kontext: Das Buch erörtert das historische Muster, dass technologische Fortschritte Arbeitsplätze verdrängen, und die Sorge, dass die kommende Welle möglicherweise keine neuen Chancen schafft.
  • Auswirkungen auf Büroberufe: KI-Systeme sind zunehmend in der Lage, Aufgaben zu übernehmen, die traditionell von Büroangestellten erledigt wurden, was zu einem möglichen Verlust von Arbeitsplätzen führen kann.
  • Notwendigkeit der Anpassung: Die Gesellschaft muss in Bildungs- und Umschulungsprogramme investieren, um Beschäftigten den Wechsel in neue Tätigkeiten zu erleichtern.
  • Vorausschauende Maßnahmen: Das Buch betont, wie wichtig vorausschauende Maßnahmen sind, um die negativen Auswirkungen von KI auf die Beschäftigung abzumildern.

Welche Risiken bergen Technologien mit doppeltem Verwendungszweck, wie sie in Die kommende Welle besprochen werden?

  • Definition der doppelten Verwendung: Technologien, die sowohl für nützliche als auch für schädliche Zwecke eingesetzt werden können, etwa KI und synthetische Biologie.
  • Missbrauchspotenzial: Das Buch warnt, dass Technologien, die zur Verbesserung des Lebens entwickelt wurden, auch als Waffen eingesetzt oder böswillig genutzt werden können.
  • Notwendigkeit ethischer Überlegungen: Es betont die Bedeutung ethischer Rahmenbedingungen und Regulierungsstrukturen, um diesen Risiken zu begegnen.
  • Gemeinsame Anstrengung: Das Buch ruft zu gemeinsamen Anstrengungen auf, damit diese mächtigen Werkzeuge verantwortungsvoll genutzt werden.

Wie behandelt Die kommende Welle die Rolle von Unternehmen bei der technologischen Entwicklung?

  • Gewinn und Zweck: Unternehmen müssen Gewinnstreben und gesellschaftliche Verantwortung miteinander in Einklang bringen, damit Technologie dem Gemeinwohl dient.
  • Innovative Unternehmensstrukturen: Das Buch plädiert für neue Organisationsformen, die ethische Aspekte und Rechenschaftspflicht in den Vordergrund stellen.
  • Verantwortung der Technologen: Es betont die Verantwortung der Entwickler, die Auswirkungen ihrer Technologien zu berücksichtigen.
  • Einbeziehung von Kritikern: Das Buch regt dazu an, den Dialog mit Kritikern zu suchen und unterschiedliche Perspektiven einzubeziehen, um verantwortungsvolle Innovation zu ermöglichen.

Vor welchen Herausforderungen stehen Regierungen laut Die kommende Welle bei der Regulierung von Technologie?

  • Überlastete Ressourcen: Regierungen verfügen häufig nicht über das Fachwissen und die Ressourcen, die für eine wirksame Regulierung aufkommender Technologien nötig sind.
  • Politische Polarisierung: Politische Spaltungen können eine wirksame Regulierung behindern und notwendige Vorschriften erschweren.
  • Reformbedarf: Regierungen müssen sich weiterentwickeln, in technisches Fachwissen investieren und die Zusammenarbeit mit dem Privatsektor fördern.
  • Wirksame Regulierung: Reformen sind unerlässlich, um mächtige Technologien wirksam zu regulieren und einzudämmen.

Über den Autor

Mustafa Suleyman ist eine prominente Persönlichkeit auf dem Gebiet der künstlichen Intelligenz. Er war Mitbegründer von DeepMind, einem führenden KI-Unternehmen, wo er ein Jahrzehnt lang tätig war, bevor er als Vizepräsident für KI-Produktmanagement und -politik zu Google wechselte. Suleyman ist dafür bekannt, früh für die Sicherheitsforschung im Bereich KI und die Beteiligung der Regierung an der Regulierung von KI eingetreten zu sein. Derzeit ist er Mitbegründer und CEO von Inflection AI. Dank seiner umfassenden Erfahrung und Fachkenntnis ist Suleyman bestens aufgestellt, Einblicke in die sich wandelnde KI-Landschaft und ihre möglichen Auswirkungen auf die Gesellschaft zu geben.

PDF herunterladen

Lade das kostenlose PDF herunter, um die Zusammenfassung von The Coming Wave für später zu speichern. Du kannst es ausdrucken oder offline lesen, wann immer du möchtest.
Download PDF

EPUB herunterladen

Lade das kostenlose EPUB herunter, um die Zusammenfassung von The Coming Wave auf deinem E-Reader oder in einer Lese-App zu lesen. Das digitale Buchformat .epub eignet sich ideal zum Lesen auf Smartphones, Tablets und E-Readern.
Download EPUB
Möchten Sie das vollständige Buch lesen?
Folgen
Anhören
Start
Swipe
Biblio
App
3 Tage Vollzugriff testen
Anhören, speichern und mehr
Funktionen vergleichen Kostenlos Pro
📖 Zusammenfassungen lesen
Unbegrenzt Zusammenfassungen lesen. Kostenlose Nutzer erhalten 3 pro Monat
🎧 Zusammenfassungen anhören
Unbegrenzt Zusammenfassungen in 40 Sprachen anhören
—
❤️ Unbegrenzte Lesezeichen
Kostenlose Nutzer sind auf 4 begrenzt
—
📜 Unbegrenzter Verlauf
Kostenlose Nutzer sind auf 4 begrenzt
—
📥 Unbegrenzte Downloads
Kostenlose Nutzer sind auf 1 begrenzt
—
Risikofreier Zeitplan
Heute: Sofortzugang erhalten
Vollständige Zusammenfassungen von über 26.000 Büchern anhören. Das sind über 12.000 Stunden Audio!
Tag 2: Erinnerung an Testphase
Wir senden Ihnen eine Benachrichtigung, dass Ihre Testphase bald endet.
Tag 3: Ihr Abonnement beginnt
Die Abbuchung erfolgt am 24. Nov.,
vorher jederzeit kündbar.
Consume 2.8× More Books
2.8× weitere Bücher Hören Lesen
Unsere Nutzer lieben uns
1M+ Leser
Trustpilot Rating
TrustPilot
4.6 Hervorragend
Diese Seite ist ein absoluter Gamechanger. Ich habe noch nie so schnell Buchzusammenfassungen gelesen. Sehr, sehr empfehlenswert.
— Dave G
Das Geld und die Zeit absolut wert und wirklich gut gemacht. Eine solche Qualität von Zusammenfassungen habe ich auf anderen Websites noch nie gesehen. Sehr hilfreich!
— Em
Sehr empfehlenswert!! Fantastischer Service. Perfekt für alle, die mehr als einen Teaser möchten, aber nicht alle Details eines vollständigen Hörbuchs brauchen.
— Greg M
62 % sparen
Jährlich
$119.88 $44.99/Jahr/J.
$3.75/Mon.
Monatlich
$9.99/Mon.
3-tägige kostenlose Testphase starten
3 Tage kostenlos, dann $44.99/Jahr. Jederzeit kündbar.
Unlock a world of fiction & nonfiction books
26.000+ Bücher zum Preis von 2 Büchern
Lesen Sie jedes Buch in 10 Minuten
Entdecken Sie neue Bücher wie bei Tinder
Fordern Sie jedes Buch an, das noch nicht zusammengefasst ist
Lesen Sie mehr Bücher als jeder, den Sie kennen
Die Nr. 1 App für Buchliebhaber
Lifelike & immersive summaries
30-Tage-Geld-zurück-Garantie
Zusammenfassungen als EPUB oder PDF herunterladen
Jederzeit mit wenigen Klicks kündbar

Warum nur eine Zusammenfassung?

Scanner
Barcode zum Scannen finden

⭐
⭐
⭐
Wir haben ein besonderes Geschenk für Sie
Öffnen
38% Rabatt
RABATT FÜR DICH
⭐
⭐
⭐
$79.99
$49.99/Jahr
Nur $4.16 pro Monat
Weiter
Mit 2 Taps starten, ganz einfach kündigen
Einstellungen
Allgemein
Widget
Wird geladen...