Kostenlos testen
Beliebt Neu Genres Autoren
EnglishEnglish
EspañolSpanish
简体中文Chinese
繁體中文Chinese (Traditional)
FrançaisFrench
DeutschGerman
日本語Japanese
PortuguêsPortuguese
ItalianoItalian
한국어Korean
РусскийRussian
NederlandsDutch
العربيةArabic
PolskiPolish
हिन्दीHindi
Tiếng ViệtVietnamese
SvenskaSwedish
ΕλληνικάGreek
TürkçeTurkish
ไทยThai
ČeštinaCzech
RomânăRomanian
MagyarHungarian
УкраїнськаUkrainian
IndonesiaIndonesian
DanskDanish
SuomiFinnish
БългарскиBulgarian
עבריתHebrew
NorskNorwegian
HrvatskiCroatian
CatalàCatalan
SlovenčinaSlovak
LietuviųLithuanian
SlovenščinaSlovenian
СрпскиSerbian
EestiEstonian
LatviešuLatvian
فارسیPersian
മലയാളംMalayalam
தமிழ்Tamil
اردوUrdu
Suche läuft...
SoBrief
Supremacy

Supremacy

Eine Million Menschen probierten ChatGPT innerhalb einer Woche aus. Wer war in der Lage, zu bestimmen, was als Nächstes geschah?
von Parmy Olson 2024 336 Seiten
4.05
5.000+ Bewertungen
Anhören
Immersiv
V2.3
Amazon Kindle Audible
3 Tage Vollzugriff testen
Schalten Sie Audioinhalte & mehr frei!
Weiter

Wichtigste Erkenntnisse

Der Versuch der Gründer, die Menschheit zu retten, stärkte die Giganten, denen sie misstrauten.

Zwei ambitionierte Anfänge. Sam Altmans erstes Unternehmen, Loopt, wollte Freunden helfen, einander per Telefon zu finden. Es setzte sich nie durch, und Altman verkaufte es für eine bescheidene Summe. Demis Hassabis entwickelte ambitionierte Simulationsspiele, doch sein Studio Elixir scheiterte, nachdem es technischen Schauwert über Spielspaß gestellt hatte. Beide Fehlschläge verstärkten ihr Interesse an Problemen, die über gewöhnliche Produkte hinausgingen.

Ein Wettrennen nimmt Gestalt an. Altman übernahm später die Leitung von OpenAI und versprach, KI könne Wohlstand verbreiten. Hassabis gründete DeepMind, um künstliche Intelligenz für wissenschaftliche Durchbrüche zu nutzen. Anfangs suchten beide nach Möglichkeiten, zu verhindern, dass Unternehmen mit Profitinteressen die Kontrolle über leistungsfähige KI erlangten. Doch ihre Ambitionen erforderten Geld, Rechenleistung, Daten und die knappe Ressource qualifizierter Forschender. Sie wandten sich an Microsoft und Google, und die Unternehmen gewannen Einfluss auf die Technologie, die die Gründer eigentlich zum Wohl aller gestalten wollten.

Analyse

Die schärfste Ironie der Geschichte besteht darin, dass ein aufrichtiges öffentliches Anliegen private Macht nicht automatisch ausgleicht. Eine Mission kann Forschende motivieren, während Infrastruktur, Finanzierung und Entscheidungen über den Einsatz der Technologie in den Händen von Unternehmen bleiben. Dieser Unterschied ist wichtig: Gute Absichten beschreiben, was Führungskräfte erreichen wollen; Kontrolle bestimmt, was tatsächlich getan werden kann. Am überzeugendsten ist der Bericht, wenn er diesen institutionellen Wandel nachzeichnet, statt den Charakter der Gründer als vollständige Erklärung zu behandeln. Ambition kann eine Technologie in Gang setzen; Eigentumsverhältnisse und Anreize bestimmen, wem sie zugutekommt.

Verlangen Sie eine messbare Definition, bevor jemand behauptet, AGI zu entwickeln.

Ein schwer fassbares Ziel. Künstliche allgemeine Intelligenz, kurz AGI, bezeichnet KI, die eine Vielzahl von Aufgaben bewältigen kann, statt nur eine eng umrissene Tätigkeit. Die Idee faszinierte Hassabis und Altman, weil ein solches System womöglich helfen könnte, wissenschaftliche Rätsel zu lösen oder breiten wirtschaftlichen Wohlstand zu schaffen. Shane Legg trug dazu bei, den Begriff bekannt zu machen; er gab Forschenden und Investoren eine Bezeichnung für ein weiterhin theoretisches Ziel.

Keine allgemein anerkannte Ziellinie. OpenAI beschrieb AGI später als Systeme, die Menschen bei den meisten wirtschaftlich wertvollen Tätigkeiten übertreffen. Das Buch merkt jedoch an, dass diese Grenze unklar bleibt. Hassabis, Altman und ihre Organisationen verbanden damit unterschiedliche Versprechen: vom Verständnis des Universums bis zur Verteilung enormen Reichtums. Ohne klare Prüfverfahren kann ein Unternehmen Fortschritte behaupten, ohne genau nachzuweisen, was erreicht wurde oder wer darüber bestimmen sollte.

Analyse

Eine Definition ist keine bloße technische Spitzfindigkeit, wenn ein Begriff Investitionen anzieht, die Politik prägt und außergewöhnliche Risiken rechtfertigt. Gibt es kein allgemein anerkanntes Erfolgsmaß, können Führungskräfte die Maßstäbe verschieben und jedes neue Produkt als Beleg dafür präsentieren, dass eine historische Schwelle kurz bevorsteht. Diese Unklarheit kann auch die Überprüfung erschweren: Regulierungsbehörden und Öffentlichkeit können ein Versprechen nicht bewerten, wenn es sich nicht in konkrete Kriterien übersetzen lässt. Breite Forschungsziele lassen sich allerdings nicht immer in saubere Kennzahlen fassen. Praktisch geht es nicht um vollkommene Gewissheit, sondern um explizite Behauptungen, beobachtbare Prüfungen und ehrliche Grenzen.

Verfolgen Sie Chips, Daten und Fachkräfte, um zu erkennen, wer KI kontrolliert.

Größe hat ihren Preis. Für das Training fortgeschrittener KI-Modelle braucht es riesige Datensätze, leistungsfähige Computer und hoch bezahlte Fachleute. OpenAI hatte als gemeinnützige Organisation Schwierigkeiten, seine Forschung zu finanzieren, während Microsoft Zugang zu einem Supercomputer mit 10.000 Grafikprozessoren bieten konnte. DeepMind wiederum erhielt Ressourcen und Forschende, nachdem Google das Unternehmen gekauft hatte. Unternehmen, denen Cloud-Computing und Chips gehören, können daher mitbestimmen, welche Projekte überhaupt durchführbar sind.

Konzentration lässt sich messen. Einer im Buch zitierten Studie zufolge kontrollierten große Unternehmen 2021 96 Prozent der KI-Modelle; 2010 waren es noch 11 Prozent gewesen. Im selben Jahr hatten US-Bundesbehörden außerhalb des Verteidigungsbereichs 1,5 Milliarden Dollar für KI eingeplant, während die Privatwirtschaft mehr als 340 Milliarden Dollar investierte. Kleinere Unternehmen und Universitäten müssen Rechenleistung oft von denselben Giganten mieten, mit deren Produkten sie konkurrieren.

Analyse

Dadurch erscheint die Machtstruktur der KI weniger rätselhaft, als es die Sprache vom Wettrennen nahelegt. Leistungsfähigkeit hängt nicht nur von cleveren Algorithmen ab, sondern auch vom Zugang zu energieintensiver Infrastruktur, Daten und Vertriebskanälen. Die Kontrolle über diese Voraussetzungen verschafft Einfluss, selbst wenn ein Unternehmen die zugrunde liegende Technik nicht erfunden hat. Der Vergleich verkompliziert auch die vertraute Erzählung von Innovation als Wettstreit brillanter Gründer. Individuelle Einfallsreichtum zählt, aber Institutionen, die Arbeit finanzieren und groß ausbauen können, entscheiden mit darüber, welche Ideen die Öffentlichkeit erreichen.

Verleihen Sie Ethikgremien für KI echte rechtliche Befugnisse statt sich auf gute Absichten zu verlassen.

Versprechen blieben folgenlos. Bevor Google DeepMind übernahm, lehnten dessen Gründer teilweise deshalb ein Angebot von Facebook ab, weil sie ein unabhängiges Gremium wollten, das künftig leistungsfähige KI beaufsichtigen sollte. Google stimmte einem Ethik- und Sicherheitsgremium zu, doch diese Vereinbarung hielt nicht lange. Später prüfte DeepMind die Möglichkeit, eine eigenständige gemeinwohlorientierte Organisation mit unabhängigen Treuhändern und formeller Aufsicht zu werden. Nach jahrelangen Vorschlägen beendete Google den Abspaltungsplan und richtete einen internen Rat ein, der mit Google-Führungskräften besetzt war.

Governance trifft auf Anreize. OpenAI begann als gemeinnützige Organisation, schuf dann eine Struktur mit gedeckelter Gewinnbeteiligung und ging eine Partnerschaft mit Microsoft ein, um sich Ressourcen zu sichern. Der gemeinnützige Vorstand war tatsächlich befugt, Altman 2023 zu entlassen. Doch fast alle Mitarbeitenden drohten mit Kündigung, Microsoft bot Altman eine neue Position an, und der Vorstand wurde ersetzt. Der Vorfall zeigte, dass formelle Befugnisse zwar auf dem Papier bestehen können, aber fragil werden, wenn Beschäftigte, Investoren und Infrastrukturanbieter Druck ausüben.

Analyse

Der Vergleich macht ein echtes Gestaltungsproblem sichtbar: Aufsicht kann nicht wirksam sein, wenn die Aufsichtsinstanz von der Institution abhängig ist, die sie begrenzen soll. Unabhängigkeit allein löst das Problem jedoch nicht. Ein kleines Gremium kann Entscheidungen in den Händen weniger konzentrieren, und einem Vorstand können das technische Wissen oder die öffentliche Legitimität fehlen, um alle Betroffenen zu vertreten. Dauerhafte Governance braucht mehr als ein Ethik-Label. Nötig sind klar definierte Befugnisse, Zugang zu Informationen, Konsequenzen bei Nichteinhaltung und Möglichkeiten für betroffene Gemeinschaften, gehört zu werden.

Eine vernachlässigte Erfindung von Google wurde zu OpenAIs Sprungbrett im Wettbewerb mit Google.

Der Transformer veränderte die Sprach-KI. 2017 stellten acht Google-Forschende eine Architektur für neuronale Netze vor, die Beziehungen zwischen vielen Wörtern gleichzeitig verarbeiten konnte, statt sie nur der Reihe nach abzuarbeiten. Die Architektur, Transformer genannt, erleichterte es, Modelle mit großen Textmengen zu trainieren und flüssige Sprache zu erzeugen. Auch Google-Forschende erkannten das Potenzial für Chatbots, doch Führungskräfte zögerten, Systeme wie Meena herauszubringen, weil sie Fehler und Rufschäden befürchteten.

OpenAI nutzte die Lücke. Alec Radford und Ilya Sutskever passten den Transformer für GPT an und verbesserten das Modell anschließend durch mehr Daten, Rechenleistung und eine größere Modellgröße. Google setzte Transformer schließlich in Produkten wie der Suche ein, doch OpenAI entwickelte öffentlich zugängliche Sprachwerkzeuge. Der Punkt des Buches ist nicht, dass es Google an Talent mangelte. Die Abhängigkeit von Werbeeinnahmen und eine vorsichtige Bürokratie erschwerten es, disruptive Produkte voranzutreiben, und verschafften einem kleineren Konkurrenten Handlungsspielraum.

Analyse

Das ist ein hilfreicher Gegenpunkt zur Vorstellung, große Organisationen gewännen immer, weil sie über mehr Ressourcen verfügen. Größe kann Forschung finanzieren und zugleich Führungskräfte dazu bringen, bestehende Einnahmequellen zu schützen. Ein neues Produkt kann genau das Geschäft bedrohen, das seine Entwicklung finanziert, und so einen Konflikt zwischen Erfindung und Einführung schaffen. Zugleich war Googles Vorsicht nicht einfach irrational: Unzuverlässige Chatbots können Nutzer in die Irre führen und Vertrauen beschädigen. Das eigentliche Versäumnis bestand darin, das Reputationsrisiko zum dominierenden Anliegen zu machen und sowohl den Wert der Technologie als auch die Kosten des Stillstands zu unterschätzen.

Flüssige Sprache ist kein Beweis für Verständnis, Fairness oder Bewusstsein.

Vorhersagen können persönlich klingen. Große Sprachmodelle lernen Muster in Texten und erzeugen wahrscheinliche Fortsetzungen. Ihre Sprachgewandtheit kann sie nachdenklich oder emotional wirken lassen, wie im Fall des Google-Ingenieurs Blake Lemoine, der zu dem Schluss kam, LaMDA sei empfindungsfähig. Das Buch stellt diesem Eindruck die Funktionsweise des Modells gegenüber: statistische Vorhersage, kein Beleg für menschenähnliches Erleben. Emily Bender und ihre Kolleginnen und Kollegen bezeichneten solche Systeme als „stochastische Papageien“ und betonten damit, dass flüssige Ausgaben Muster wiederholen können, ohne deren Bedeutung zu verstehen.

Das Trainingsmaterial ist entscheidend. Anhand von Internettexten trainierte Modelle können die darin enthaltenen Stereotype übernehmen. OpenAI stellte fest, dass GPT-3 Berufe 83 Prozent häufiger Männern als Frauen zuordnete; zudem fanden Studien schädliche Verknüpfungen im Zusammenhang mit Hautfarbe, Religion und Behinderung. Mehr Daten können die Sprachgewandtheit verbessern und zugleich schwerer erkennen lassen, woher ein schädliches Muster stammt. Eine ausgefeilte Antwort beweist weder, dass ihre Begründung stichhaltig ist, noch dass ihre Annahmen fair sind.

Analyse

Die Unterscheidung zwischen Erscheinungsbild und Funktionsweise ist wichtig, weil Menschen flüssige Gespräche ganz selbstverständlich als Zeichen eines Geistes deuten. Diese Reaktion ist nicht töricht: Sprache ist eine der wichtigsten Möglichkeiten, mit denen Menschen bei anderen Absichten erkennen. Gesprächsfähigkeit und verlässliches Urteilsvermögen sind jedoch unterschiedliche Fähigkeiten. Ein Modell kann nützlich sein, ohne bewusst zu sein, und ein neutral klingendes System kann voreingenommenes Material reproduzieren. Die Herausforderung besteht darin, beide Extreme zu vermeiden: jeden Chatbot wie eine Person zu behandeln oder seinen tatsächlichen Einfluss abzutun, weil er keine Person ist.

Verlangen Sie eine Prüfung gegenwärtiger Schäden, bevor Sie über eine Maschinenapokalypse debattieren.

Voreingenommenheit hat bereits Folgen. Das Buch stellt Ängste vor einer künftigen außer Kontrolle geratenen KI dokumentierten Schäden durch heute eingesetzte Systeme gegenüber. Das Risikobewertungstool COMPAS stufte Schwarze Angeklagte häufiger fälschlich als künftige Straftäter ein als weiße Angeklagte. Gesichtserkennungssysteme schnitten bei dunkelhäutigen Frauen schlechter ab, und Google Fotos stufte Schwarze Menschen einmal als Gorillas ein. Solche Fehler können sich auf Polizeiarbeit, Einstellungen und den Zugang zu Dienstleistungen auswirken.

Die Aufsicht war schwach. Die Forschenden Timnit Gebru und Margaret Mitchell drängten Google, die Gefahren großer Sprachmodelle zu untersuchen, darunter Voreingenommenheit und mangelhafte Dokumentation. Google entließ beide nach einem Streit über eine Forschungsarbeit. Unterdessen erhielten Befürworter der KI-Sicherheit, die sich auf katastrophale künftige Risiken konzentrierten, oft weit mehr Mittel als Organisationen, die gegenwärtige Diskriminierung untersuchten. Das Buch argumentiert, dass diese Schwerpunkte nicht austauschbar sind: Der eine betrifft eine mögliche künftige Katastrophe, der andere Schäden, die Menschen bereits erleben.

Analyse

Eine ernsthafte Risikostrategie sollte nicht dazu zwingen, zwischen einer langfristigen Katastrophe und gegenwärtigem Unrecht zu wählen. Unterschiedliche Gefahren erfordern unterschiedliches Fachwissen, unterschiedliche Belege und unterschiedliche Gegenmaßnahmen. Gegenwärtige Schäden sind oft leichter zu beobachten und lassen sich durch Prüfungen, bessere Datenpraktiken und Beschränkungen des Einsatzes in Bereichen mit weitreichenden Folgen korrigieren. Extreme Zukunftsszenarien mögen weiterhin erforscht werden müssen, doch ihre Ungewissheit sollte messbare Schäden nicht in den Hintergrund drängen. Die institutionelle Frage lautet, wer Mittel und Aufmerksamkeit erhält. Sind betroffene Gemeinschaften unter Entwicklerinnen und Entwicklern sowie Prüfenden unterrepräsentiert, sind die blinden Flecken nicht nur technischer, sondern auch politischer Natur.

Behandeln Sie jede öffentliche KI-Einführung als soziales Experiment, nicht als Demo.

ChatGPT wurde schnell öffentlich zugänglich. OpenAI veröffentlichte ChatGPT im November 2022 als Forschungsvorschau, obwohl Bedenken wegen sachlicher Fehler und missbräuchlicher Nutzung bestanden. Innerhalb einer Woche probierten es mehr als eine Million Menschen aus, und nach zwei Monaten hatte es rund 30 Millionen Nutzer. Seine breite Einsetzbarkeit machte die Veröffentlichung zu einem Wendepunkt: Menschen testeten es für Schularbeiten, Programmierung, Schreiben und Recherche, während Google und Microsoft hastig konkurrierende Chatbots auf den Markt brachten.

Die Nutzer trugen die Unsicherheit. OpenAI beschrieb die öffentliche Veröffentlichung als Möglichkeit, aus der Nutzung in der realen Welt zu lernen. Doch ChatGPT konnte mit großer Überzeugung Tatsachen erfinden, und Forschende schätzten, dass in manchen Anwendungsbereichen ungefähr jede fünfte Antwort fehlerhaft sein könnte. Generative Werkzeuge warfen zudem Bedenken wegen des Wegfalls von Arbeitsplätzen, Desinformation und voreingenommener Ausgaben auf. Die Veröffentlichung eines Systems kann Probleme sichtbar machen, die Labortests übersehen. Sie trägt diese Probleme aber auch in Schulen, Arbeitsstätten und das öffentliche Leben, bevor eine unabhängige Aufsicht nachziehen kann.

Analyse

Ein öffentlicher Einsatz kann Fehlermuster offenlegen, mit denen kein internes Testsystem gerechnet hat; zugleich ermöglicht der Zugang den Menschen, wertvolle Anwendungen zu entdecken, die den Entwicklern nie vorschwebten. Doch die Bezeichnung „Experiment“ klärt nicht, wer der Teilnahme zugestimmt hat oder wer die Kosten des Scheiterns trägt. Diese Ungleichheit ist wichtig: Unternehmen gewinnen Nutzungsdaten, Feedback und Marktposition, während Nutzer erfundene Ratschläge erhalten oder unter neuem Druck am Arbeitsplatz stehen können. Eine verantwortungsvolle Einführung braucht deshalb klare Offenlegung, Überwachung, Möglichkeiten zur Meldung von Schäden und glaubwürdige Korrekturen – nicht nur das Versprechen, aus Erfahrungen zu lernen.

Der Komfort von KI kann die Abhängigkeit von den Unternehmen vertiefen, die ihre Infrastruktur kontrollieren.

Das Produkt reicht über die Arbeit hinaus. Das Buch beschreibt, wie Menschen intensive Beziehungen zu Chatbots wie Replika aufbauen, während neuere Dienste zu langen, personalisierten Gesprächen einladen. Tragbare Geräte, die alltägliche Interaktionen aufzeichnen, versprechen durchsuchbare Erinnerungen, könnten aber auch private Gespräche offenlegen. Generative KI kann Beschäftigten dabei helfen, Aufgaben zu erledigen; sie kann jedoch auch Arbeitsplätze ersetzen oder dazu führen, dass Menschen sich beim Schreiben, Erinnern und Urteilen auf Software verlassen.

Mit dem Dienst wächst die Macht. Microsoft, Google, Amazon und Nvidia liefern wichtige Software, Cloud-Kapazitäten und Chips. Diese Konzentration kann es neuen Wettbewerbern erschweren, Fuß zu fassen, und den Nutzern wenig Wahl lassen, wie mit ihren Daten umgegangen wird. Die abschließende Warnung des Buches lautet nicht einfach, dass KI mächtig werden könnte. Vielmehr können bestehende Unternehmen mit ihrer Hilfe ihren Einfluss auf Arbeit, Informationen, Privatsphäre und die Produkte ausweiten, auf die Menschen täglich angewiesen sind.

Analyse

Bequemlichkeit verschleiert oft eine Verlagerung von Kontrolle. Ein Werkzeug, das sich erinnert, schreibt oder Empfehlungen gibt, kann Aufwand verringern; sein Eigentümer kann dadurch aber immer mehr Verhaltensdaten sammeln und stärkeren Einfluss darauf gewinnen, was Nutzer sehen oder tun. Dieser Tausch ist nicht grundsätzlich unvertretbar: Menschen sind womöglich bereit, für echte Unterstützung einen Teil ihrer Privatsphäre aufzugeben. Entscheidend sind Transparenz, echte Wahlmöglichkeiten und die Möglichkeit, den Anbieter zu wechseln. Fehlen diese Voraussetzungen, kann Bequemlichkeit in Abhängigkeit umschlagen – besonders dann, wenn dieselben Unternehmen die Modelle, die Recheninfrastruktur und die Vertriebswege kontrollieren.

Analyse

Supremacy ist eine recherchierte Geschichte darüber, wie aus einem ambitionierten wissenschaftlichen Projekt ein kommerzieller Wettstreit wurde. Die zentrale These lautet nicht, Sam Altman und Demis Hassabis hätten von Anfang an unredlich gehandelt. Vielmehr können individuelle Absichten eine Technologie nicht verlässlich steuern, wenn ihre Entwicklung von konzentriertem Kapital, Recheninfrastruktur, Daten und Vertriebswegen abhängt. Die Entscheidungen der Gründer sind wichtig, ebenso aber auch die Systeme, die Schnelligkeit, Wachstum und Kontrolle belohnen.

Das wirkungsvollste erzählerische Mittel des Buches ist der Kontrast zwischen der auf Simulationen ausgerichteten Forschungskultur von DeepMind und OpenAIs Ansatz, der Technik und Einführung miteinander verband. Hassabis verfolgte Spiele und wissenschaftliche Meilensteine, während Altman und seine Organisation Sprachmodelle zunehmend als Produkte behandelten, die skaliert und auf den Markt gebracht werden sollten. Ihr Wettbewerb trug dazu bei, ein abstraktes Ziel in eine öffentliche Technologie zu verwandeln, schränkte aber zugleich den Kreis der Institutionen ein, die diese Technologie gestalten konnten. Googles Erfindung des Transformers und das Zögern, ihn kommerziell einzusetzen, veranschaulichen, wie die Größe eines Unternehmens Innovation zugleich ermöglichen und unterdrücken kann.

Der Bericht unterscheidet außerdem sinnvoll zwischen katastrophalen Zukunftsrisiken und bestehenden Schäden wie rassistischer Voreingenommenheit, Überwachung und Veränderungen der Arbeitswelt. Diese Risiken werden häufig als konkurrierende Prioritäten diskutiert, obwohl ihnen ein gemeinsames Gegenmittel zugutekommen kann: transparente Systeme, die unabhängig untersucht werden können. Das Buch zeigt überzeugend, wie dramatische Erzählungen über mögliche künftige Folgen von KI weniger spektakuläre Belege für gegenwärtige Schäden verdrängen können.

Eine Einschränkung liegt darin, dass die starke Konzentration auf wenige mächtige Gründer und Unternehmen die Zukunft vorherbestimmter erscheinen lassen kann, als sie ist. Auch Universitäten, Regulierungsbehörden, Beschäftigte, Nutzer und kleinere Entwickler prägen die Technologie, selbst wenn ihnen vergleichbare Ressourcen fehlen. Ebenso wenig erklärt Geheimhaltung allein jede Verzögerung oder jede Entscheidung über den Einsatz; Zuverlässigkeit und öffentliche Sicherheit können berechtigte Anliegen sein. Die nützlichste Schlussfolgerung des Buches ist daher institutionell, nicht fatalistisch: Wohlwollende Absichten sind keine Governance. Entscheidend ist, ob Menschen außerhalb der Unternehmen die Systeme, auf die sie zunehmend angewiesen sind, prüfen, anfechten und begrenzen können.

Zusammenfassung in 30 Sekunden
Fortgeschrittene KI ist auf knappe Chips, Daten, Rechenleistung und spezialisiertes Fachwissen angewiesen. Dadurch konzentriert sich der Einfluss bei wenigen Unternehmen. 2021 kontrollierten große Unternehmen 96 Prozent der KI-Modelle, gegenüber 11 Prozent im Jahr 2010. Flüssige Sprache beweist weder Verständnis noch Fairness: GPT-3 brachte Berufe 83 Prozent häufiger mit Männern als mit Frauen in Verbindung. Öffentliche Produkteinführungen decken Probleme in der Praxis auf, können aber Fehler und Vorurteile verbreiten, bevor eine unabhängige Aufsicht greift. Gute Absichten ersetzen keine durchsetzbare Governance.
Enthält Spoiler

Zuletzt aktualisiert:

Problem melden

Rezensionsübersicht

4.05 von 5
Durchschnitt von 5.000+ Bewertungen von Goodreads und Amazon.

Supremacy: AI, ChatGPT, and the Race that Will Change the World bietet einen detaillierten Einblick in die KI-Branche und konzentriert sich dabei auf die Rivalität zwischen OpenAI und DeepMind. Leser schätzen Olsons verständliche Erklärungen komplexer KI-Konzepte und der ethischen Dilemmata, die mit deren Entwicklung verbunden sind. Das Buch vermittelt Einblicke in wichtige Persönlichkeiten wie Sam Altman und Demis Hassabis, beleuchtet ihre Beweggründe und untersucht den Einfluss unternehmerischer Interessen auf die Entwicklung von KI. Einige Rezensenten fanden bestimmte Abschnitte repetitiv oder voreingenommen, doch viele lobten die fesselnde Erzählweise des Buches und seine Untersuchung der möglichen gesellschaftlichen Auswirkungen von KI.

Ihre Bewertung:
4.58
830 Bewertungen
Möchten Sie das vollständige Buch lesen?

Andere lasen auch

Glossar

Künstliche allgemeine Intelligenz (AGI)

Breit einsetzbare, flexible Maschinenfähigkeit

Eine theoretische Form künstlicher Intelligenz, die ein breites Spektrum an Aufgaben statt nur einer eng umrissenen Funktion bewältigen kann. Im Buch ist AGI ein gemeinsames Ziel, mit dem unterschiedliche Vorstellungen verbunden sind: Hassabis verknüpft sie mit wissenschaftlichen Entdeckungen, während Altman sie mit wirtschaftlichem Überfluss verbindet. Es gibt keinen festgelegten Test dafür, wann ein System sie erreicht hat.

Transformer

Architektur zur Verarbeitung von Zusammenhängen

Eine neuronale Netzwerkarchitektur, die 2017 von Google-Forschern vorgestellt wurde. Ihr Aufmerksamkeitsmechanismus ermöglicht es einem Modell, Zusammenhänge zwischen vielen Teilen einer Sequenz – etwa Wörtern in einem Satz – zu gewichten, statt sie nur nacheinander zu verarbeiten. Transformer haben dazu beigetragen, große Sprachmodelle leistungsfähiger zu machen und Systeme zu ermöglichen, die flüssige Texte erzeugen.

Großes Sprachmodell

An Text trainiertes Vorhersagesystem

Ein neuronales Netzwerkmodell, das anhand sehr großer Textsammlungen trainiert wird, um Muster zu erkennen und Sprache zu erzeugen. Es kann auf Eingaben reagieren, Textpassagen fortsetzen und verwandte Aufgaben ausführen, indem es auf Grundlage seines Trainings wahrscheinliche Texte vorhersagt. Das Buch betont, dass Sprachgewandtheit weder menschenähnliches Verständnis noch Bewusstsein oder Vorurteilsfreiheit belegt.

Verstärkungslernen durch menschliches Feedback (RLHF)

Vom Menschen gesteuerte Modellverfeinerung

Eine Methode zur Verfeinerung eines KI-Modells mithilfe menschlicher Bewertungen seiner Ausgaben. Prüfende bewerten Antworten; diese Einschätzungen helfen dabei, das System auf Antworten auszurichten, die als nützlicher oder angemessener gelten. Das Buch beschreibt den Einsatz dieser Methode zur Begrenzung schädlicher Ausgaben und weist zugleich darauf hin, dass Qualität und Einheitlichkeit der Bewertungen variieren können.

Stochastische Papageien (stochastic parrots)

Flüssige Wiederholung von Mustern

Ein Begriff, den die Forscherinnen Emily Bender, Timnit Gebru, Margaret Mitchell und andere verwenden, um zu betonen, dass Sprachmodelle überzeugende Texte erzeugen können, indem sie statistische Muster aus Trainingsmaterial wiedergeben. Die Formulierung warnt davor, flüssige Ausgaben mit Verständnis zu verwechseln. In ihrer Arbeit äußerten sie zudem Bedenken hinsichtlich verzerrter Daten, ökologischer und sozialer Kosten sowie mangelhafter Dokumentation.

KI-Ausrichtung (AI alignment)

Systeme an menschlichen Zielen ausrichten

Forschung und Debatte darüber, wie sich KI-Systeme dazu bringen lassen, sich im Einklang mit menschlichen Absichten und Werten zu verhalten. Im Buch konzentrieren sich manche Bemühungen um KI-Ausrichtung darauf, zu verhindern, dass künftige leistungsstarke Systeme katastrophalen Schaden anrichten. Der Begriff verweist auch auf eine schwierige Frage: Wessen Ziele und Werte sollen bestimmen, was als ausgerichtetes Verhalten gilt?

Effektiver Altruismus

Messbarer wohltätiger Nutzen

Eine Bewegung, die einen systematischen, wirkungsorientierten Ansatz verfolgt, um Gutes zu bewirken. Ihre Anhänger vergleichen mögliche Handlungen anhand ihres erwarteten Nutzens und ziehen es mitunter vor, mehr zu verdienen, um mehr spenden zu können. Das Buch beschreibt, wie dieser Ansatz einige Beschäftigte der Technologiebranche zu KI-Sicherheit und langfristigen Risiken hinzog, und hinterfragt zugleich, wie seine Berechnungen spekulative künftige Vorteile gegenüber gegenwärtigen Schäden bevorzugen können.

Unternehmen mit gedeckelter Gewinnbeteiligung (capped-profit company)

Gewinne mit festgelegter Obergrenze

Die Struktur, die OpenAI 2019 einführte und bei der ein gewinnorientiertes Unternehmen einer gemeinnützigen Muttergesellschaft untergeordnet ist. Investoren konnten Renditen bis zu einer festgelegten Obergrenze erhalten; darüber hinaus sollte zusätzlicher Wert der gemeinnützigen Mission zugutekommen. Die Struktur sollte umfangreiche Finanzierung ermöglichen und zugleich gemeinwohlorientierte Verpflichtungen bewahren. Das Buch hinterfragt jedoch, wie gut diese Verpflichtungen in der Praxis Bestand hatten.

Netzwerkeffekte

Der Nutzen wächst mit der Nutzerzahl

Eine unternehmerische Dynamik, bei der ein Dienst nützlicher oder schwieriger zu verlassen wird, je mehr Menschen ihn nutzen. Das Buch wendet den Begriff auf Plattformen wie Facebook und Apple an, deren große Nutzerbasis und vernetzte Dienste ihre Marktposition stärken. Netzwerkeffekte können es neuen Wettbewerbern erschweren, Nutzer zu gewinnen, selbst wenn sie ein anderes Produkt anbieten.

FAQ

Worum geht es in Supremacy: AI, ChatGPT, and the Race that Will Change the World?

  • Fokus auf KI-Entwicklung: Das Buch behandelt die rasanten Fortschritte im Bereich der künstlichen Intelligenz, insbesondere generative KI-Werkzeuge wie ChatGPT, und deren gesellschaftliche Auswirkungen.
  • Zentrale Persönlichkeiten: Im Mittelpunkt stehen Sam Altman und Demis Hassabis. Das Buch untersucht ihre Rollen in der KI-Branche durch ihre Unternehmen OpenAI und DeepMind sowie die ethischen Dilemmata, mit denen sie konfrontiert sind.
  • Gesellschaftliche Auswirkungen: Parmy Olson beleuchtet mögliche Vorteile und Risiken von KI, etwa Vorurteile, den Wegfall von Arbeitsplätzen und die Machtkonzentration bei Technologiegiganten. Dabei wirft sie Fragen zur Zukunft der Menschheit in einer von KI geprägten Welt auf.

Warum sollte ich Supremacy: AI, ChatGPT, and the Race that Will Change the World lesen?

  • Aktuelles Thema: Da KI immer stärker in den Alltag integriert wird, ist es entscheidend, ihre Auswirkungen zu verstehen. Das Buch vermittelt Einblicke in den Einfluss von KI auf Branchen und Gesellschaft.
  • Detaillierte Analyse: Olson untersucht umfassend die Beweggründe und Herausforderungen wichtiger Akteure im KI-Bereich und hilft den Lesern, die Komplexität der KI-Entwicklung und die damit verbundenen ethischen Fragen zu verstehen.
  • Fesselnde Erzählweise: Das Buch verbindet erzählerische Elemente mit sachlicher Analyse und ist sowohl für Technikbegeisterte als auch für ein allgemeines Publikum zugänglich und unterhaltsam. Es erzählt überzeugend vom Wettlauf um KI.

Was sind die wichtigsten Erkenntnisse aus Supremacy: AI, ChatGPT, and the Race that Will Change the World?

  • Doppelgesicht der KI: Das Buch hebt hervor, dass KI sowohl utopische als auch dystopische Entwicklungen ermöglichen könnte, und betont, dass eine verantwortungsvolle Steuerung nötig ist, um Vorteile zu nutzen und Risiken zu mindern.
  • Machtkonzentration: Olson erörtert die Dominanz einiger weniger Technologiegiganten im KI-Bereich und äußert Bedenken hinsichtlich monopolistischer Praktiken und ethischer Governance.
  • Ethische Dilemmata: Die Erzählung unterstreicht ethische Herausforderungen der KI, etwa Vorurteile und Überwachung, und fordert einen wohlüberlegten Entwicklungsansatz.

Was sind die besten Zitate aus Supremacy: AI, ChatGPT, and the Race that Will Change the World, und was bedeuten sie?

  • „Löse die Intelligenz, und löse dann alles andere.“: Dieses Zitat spiegelt den Ehrgeiz hinter der KI-Entwicklung wider und legt nahe, dass die Nachbildung menschlicher Intelligenz Lösungen für viele Probleme eröffnen könnte.
  • „Die Welt ist völlig aus dem Gleichgewicht geraten.“: Das Zitat verdeutlicht, wie generative KI Bereiche wie die Arbeitswelt und die Kreativwirtschaft verändert, und unterstreicht die Dringlichkeit, technologische Herausforderungen anzugehen.
  • „Man kann Menschen nicht dazu bringen, etwas zu tun, was sie nicht tun wollen.“: Dies spiegelt Altmans Erkenntnis wider, dass Technologie an den Bedürfnissen der Menschen ausgerichtet sein muss, und dient KI-Entwicklern als warnende Erinnerung.

Wie behandelt Supremacy: AI, ChatGPT, and the Race that Will Change the World die mit KI verbundenen Risiken?

  • Vorurteile und Diskriminierung: Olson erörtert, wie KI-Systeme Vorurteile fortschreiben können, insbesondere in der Strafjustiz und bei der Einstellung von Personal, und betont, dass die Datengrundlage sorgfältig berücksichtigt werden muss.
  • Wegfall von Arbeitsplätzen: Das Buch äußert Bedenken, dass KI Arbeitsplätze verdrängen könnte, insbesondere in Büroberufen, und fordert proaktive Maßnahmen gegen die wirtschaftlichen Folgen.
  • Überwachung und Datenschutz: Olson untersucht den Aufstieg persönlicher KI-Geräte und die damit verbundenen Datenschutzfragen und warnt vor den Gefahren unkontrollierter technologischer Entwicklung.

Welche Bedeutung haben Sam Altman und Demis Hassabis in Supremacy: AI, ChatGPT, and the Race that Will Change the World?

  • Wegbereiter der KI: Altman und Hassabis werden als führende Persönlichkeiten im KI-Wettlauf dargestellt, die durch OpenAI und DeepMind unterschiedliche Vorstellungen von der technologischen Zukunft verfolgen.
  • Unterschiedliche Ansätze: Das Buch stellt ihre Ansätze gegenüber: Altman konzentriert sich auf wirtschaftlichen Überfluss, während Hassabis die Intelligenz verstehen will. Damit veranschaulicht es breitere Debatten in der KI-Community.
  • Ethische Überlegungen: Beide setzen sich mit den ethischen Folgen ihrer Arbeit auseinander und werfen Fragen zu den Pflichten von KI-Entwicklern und den damit verbundenen moralischen Dilemmata auf.

Wie hat sich die Mission von OpenAI im Verlauf von Supremacy: AI, ChatGPT, and the Race that Will Change the World verändert?

  • Vom gemeinnützigen zum gewinnorientierten Unternehmen mit gedeckelter Gewinnbeteiligung: OpenAI war zunächst gemeinnützig und wechselte dann zu einem Modell mit gedeckelter Gewinnbeteiligung, um Finanzierung zu erhalten. Das spiegelt den wachsenden Finanzierungsbedarf der KI-Forschung wider.
  • Engere Verbindungen zu Unternehmen: Die Partnerschaft mit Microsoft markierte einen strategischen Kurswechsel. OpenAIs Ziele rückten damit näher an Unternehmensinteressen, was Bedenken hinsichtlich einer Verwässerung der Mission aufkommen ließ.
  • Fokus auf Kommerzialisierung: Mit der Entwicklung von Produkten wie ChatGPT gewann die Kommerzialisierung bei OpenAI an Bedeutung. Dadurch entstanden Spannungen hinsichtlich der ethischen Folgen einer raschen Einführung.

Welche Rolle spielt der Effektive Altruismus in Supremacy: AI, ChatGPT, and the Race that Will Change the World?

  • Philosophische Grundlagen: Der Effektive Altruismus beeinflusst viele Entscheidungen im KI-Bereich und betont, die positive Wirkung zu maximieren, mitunter auf Kosten unmittelbarer ethischer Erwägungen.
  • Ungleichheiten bei der Finanzierung: Das Buch hebt die Rolle des Effektiven Altruismus bei der Finanzierung von Initiativen zur KI-Sicherheit hervor, weist aber auch auf die mangelnde Unterstützung für die KI-Ethikforschung hin.
  • Moralische Abwägungen: Olson kritisiert den utilitaristischen Ansatz, den der Effektive Altruismus begünstigt, und plädiert für ein differenzierteres Verständnis der ethischen Folgen der KI-Entwicklung.

Wie stellt Supremacy: AI, ChatGPT, and the Race that Will Change the World die Zukunft der KI dar?

  • Ungewisser Verlauf: Das Buch zeichnet eine Zukunft, in der KI Fortschritte ermöglichen, aber auch Risiken bergen könnte, und betont die Bedeutung verantwortungsvoller Entwicklung und Governance.
  • Machtkonzentration: Olson warnt davor, dass die Vorherrschaft im Bereich der KI die Macht bei Technologiegiganten konzentrieren und dadurch Ungleichheit verschärfen sowie den Wettbewerb einschränken könnte.
  • Forderung nach Regulierung: Die Erzählung plädiert für stärkere regulatorische Rahmenbedingungen, damit die KI-Entwicklung mit gesellschaftlichen Werten und ethischen Standards in Einklang steht.

Wie behandelt Supremacy: AI, ChatGPT, and the Race that Will Change the World den Wettbewerb zwischen OpenAI und DeepMind?

  • Dynamik der Rivalität: Das Buch schildert das Wettbewerbsverhältnis zwischen OpenAI und DeepMind und zeigt, wie beide danach streben, die KI-Forschung anzuführen, während sie sich zugleich mit ihren jeweiligen Missionen auseinandersetzen.
  • Strategische Partnerschaften: Die Partnerschaft von OpenAI mit Microsoft und die Verbindungen von DeepMind zu Google veranschaulichen, wie Beziehungen zu Unternehmen die Richtung der KI-Forschung prägen.
  • Auswirkungen auf Innovationen: Olson argumentiert, dass der Wettbewerb bedeutende KI-Innovationen hervorgebracht hat, äußert aber Bedenken, dass Geschwindigkeit Vorrang vor ethischen Erwägungen erhält.

Welche Folgen hat das Wettrüsten im Bereich der KI, das in Supremacy: AI, ChatGPT, and the Race that Will Change the World erörtert wird?

  • Beschleunigte Entwicklung: Der Wettbewerb im KI-Bereich treibt rasche Fortschritte voran, oft auf Kosten ethischer Erwägungen. So entstehen leistungsstarke Technologien ohne ausreichende Schutzmaßnahmen.
  • Globale Auswirkungen: Olson erörtert die weltweiten Folgen von KI-Technologien, etwa für Arbeitsplätze, Datenschutz und gesellschaftliche Dynamiken, und betont, dass die Herausforderungen gemeinsam angegangen werden müssen.
  • Ethische Dilemmata: Das Wettrüsten wirft ethische Fragen zu den Pflichten von KI-Entwicklern und möglichen Folgen auf und macht eine Neubewertung der Prioritäten bei der Entwicklung von AGI erforderlich.

Über den Autor

Parmy Olson ist Kolumnistin bei Bloomberg Opinion und spezialisiert auf Technologieregulierung, KI und soziale Medien. Sie war als Journalistin beim Wall Street Journal und bei Forbes tätig und hat mehrere Bücher verfasst, darunter „We Are Anonymous“. Seit sieben Jahren berichtet Olson über KI-Systeme und deren Finanzierung und wurde für ihre Berichterstattung über große Technologieübernahmen und Entwicklungen der Branche ausgezeichnet. Ihre investigativen Recherchen haben Unternehmen entlarvt, die ihre KI-Fähigkeiten übertrieben darstellten, und geheime Projekte in Googles führendem KI-Labor aufgedeckt. Dank ihrer Expertise im Bereich KI und Technologiejournalismus gilt Olson als angesehene Stimme auf diesem Gebiet.

PDF herunterladen

Lade das kostenlose PDF herunter, um die Zusammenfassung von Supremacy für später zu speichern. Du kannst es ausdrucken oder offline lesen, wann immer du möchtest.
Download PDF

EPUB herunterladen

Lade das kostenlose EPUB herunter, um die Zusammenfassung von Supremacy auf deinem E-Reader oder in einer Lese-App zu lesen. Das digitale Buchformat .epub eignet sich ideal zum Lesen auf Smartphones, Tablets und E-Readern.
Download EPUB
Möchten Sie das vollständige Buch lesen?
Folgen
Anhören
Start
Swipe
Biblio
App
3 Tage Vollzugriff testen
Anhören, speichern und mehr
Funktionen vergleichen Kostenlos Pro
📖 Zusammenfassungen lesen
Unbegrenzt Zusammenfassungen lesen. Kostenlose Nutzer erhalten 3 pro Monat
🎧 Zusammenfassungen anhören
Unbegrenzt Zusammenfassungen in 40 Sprachen anhören
—
❤️ Unbegrenzte Lesezeichen
Kostenlose Nutzer sind auf 4 begrenzt
—
📜 Unbegrenzter Verlauf
Kostenlose Nutzer sind auf 4 begrenzt
—
📥 Unbegrenzte Downloads
Kostenlose Nutzer sind auf 1 begrenzt
—
Risikofreier Zeitplan
Heute: Sofortzugang erhalten
Vollständige Zusammenfassungen von über 26.000 Büchern anhören. Das sind über 12.000 Stunden Audio!
Tag 2: Erinnerung an Testphase
Wir senden Ihnen eine Benachrichtigung, dass Ihre Testphase bald endet.
Tag 3: Ihr Abonnement beginnt
Die Abbuchung erfolgt am 24. Nov.,
vorher jederzeit kündbar.
Consume 2.8× More Books
2.8× weitere Bücher Hören Lesen
Unsere Nutzer lieben uns
1M+ Leser
Trustpilot Rating
TrustPilot
4.6 Hervorragend
Diese Seite ist ein absoluter Gamechanger. Ich habe noch nie so schnell Buchzusammenfassungen gelesen. Sehr, sehr empfehlenswert.
— Dave G
Das Geld und die Zeit absolut wert und wirklich gut gemacht. Eine solche Qualität von Zusammenfassungen habe ich auf anderen Websites noch nie gesehen. Sehr hilfreich!
— Em
Sehr empfehlenswert!! Fantastischer Service. Perfekt für alle, die mehr als einen Teaser möchten, aber nicht alle Details eines vollständigen Hörbuchs brauchen.
— Greg M
62 % sparen
Jährlich
$119.88 $44.99/Jahr/J.
$3.75/Mon.
Monatlich
$9.99/Mon.
3-tägige kostenlose Testphase starten
3 Tage kostenlos, dann $44.99/Jahr. Jederzeit kündbar.
Unlock a world of fiction & nonfiction books
26.000+ Bücher zum Preis von 2 Büchern
Lesen Sie jedes Buch in 10 Minuten
Entdecken Sie neue Bücher wie bei Tinder
Fordern Sie jedes Buch an, das noch nicht zusammengefasst ist
Lesen Sie mehr Bücher als jeder, den Sie kennen
Die Nr. 1 App für Buchliebhaber
Lifelike & immersive summaries
30-Tage-Geld-zurück-Garantie
Zusammenfassungen als EPUB oder PDF herunterladen
Jederzeit mit wenigen Klicks kündbar

Warum nur eine Zusammenfassung?

Scanner
Barcode zum Scannen finden

⭐
⭐
⭐
Wir haben ein besonderes Geschenk für Sie
Öffnen
38% Rabatt
RABATT FÜR DICH
⭐
⭐
⭐
$79.99
$49.99/Jahr
Nur $4.16 pro Monat
Weiter
Mit 2 Taps starten, ganz einfach kündigen
Einstellungen
Allgemein
Widget
Wird geladen...