Wichtigste Erkenntnisse
Der Versuch der Gründer, die Menschheit zu retten, stärkte die Giganten, denen sie misstrauten.
Zwei ambitionierte Anfänge. Sam Altmans erstes Unternehmen, Loopt, wollte Freunden helfen, einander per Telefon zu finden. Es setzte sich nie durch, und Altman verkaufte es für eine bescheidene Summe. Demis Hassabis entwickelte ambitionierte Simulationsspiele, doch sein Studio Elixir scheiterte, nachdem es technischen Schauwert über Spielspaß gestellt hatte. Beide Fehlschläge verstärkten ihr Interesse an Problemen, die über gewöhnliche Produkte hinausgingen.
Ein Wettrennen nimmt Gestalt an. Altman übernahm später die Leitung von OpenAI und versprach, KI könne Wohlstand verbreiten. Hassabis gründete DeepMind, um künstliche Intelligenz für wissenschaftliche Durchbrüche zu nutzen. Anfangs suchten beide nach Möglichkeiten, zu verhindern, dass Unternehmen mit Profitinteressen die Kontrolle über leistungsfähige KI erlangten. Doch ihre Ambitionen erforderten Geld, Rechenleistung, Daten und die knappe Ressource qualifizierter Forschender. Sie wandten sich an Microsoft und Google, und die Unternehmen gewannen Einfluss auf die Technologie, die die Gründer eigentlich zum Wohl aller gestalten wollten.
Die schärfste Ironie der Geschichte besteht darin, dass ein aufrichtiges öffentliches Anliegen private Macht nicht automatisch ausgleicht. Eine Mission kann Forschende motivieren, während Infrastruktur, Finanzierung und Entscheidungen über den Einsatz der Technologie in den Händen von Unternehmen bleiben. Dieser Unterschied ist wichtig: Gute Absichten beschreiben, was Führungskräfte erreichen wollen; Kontrolle bestimmt, was tatsächlich getan werden kann. Am überzeugendsten ist der Bericht, wenn er diesen institutionellen Wandel nachzeichnet, statt den Charakter der Gründer als vollständige Erklärung zu behandeln. Ambition kann eine Technologie in Gang setzen; Eigentumsverhältnisse und Anreize bestimmen, wem sie zugutekommt.
Verlangen Sie eine messbare Definition, bevor jemand behauptet, AGI zu entwickeln.
Ein schwer fassbares Ziel. Künstliche allgemeine Intelligenz, kurz AGI, bezeichnet KI, die eine Vielzahl von Aufgaben bewältigen kann, statt nur eine eng umrissene Tätigkeit. Die Idee faszinierte Hassabis und Altman, weil ein solches System womöglich helfen könnte, wissenschaftliche Rätsel zu lösen oder breiten wirtschaftlichen Wohlstand zu schaffen. Shane Legg trug dazu bei, den Begriff bekannt zu machen; er gab Forschenden und Investoren eine Bezeichnung für ein weiterhin theoretisches Ziel.
Keine allgemein anerkannte Ziellinie. OpenAI beschrieb AGI später als Systeme, die Menschen bei den meisten wirtschaftlich wertvollen Tätigkeiten übertreffen. Das Buch merkt jedoch an, dass diese Grenze unklar bleibt. Hassabis, Altman und ihre Organisationen verbanden damit unterschiedliche Versprechen: vom Verständnis des Universums bis zur Verteilung enormen Reichtums. Ohne klare Prüfverfahren kann ein Unternehmen Fortschritte behaupten, ohne genau nachzuweisen, was erreicht wurde oder wer darüber bestimmen sollte.
Eine Definition ist keine bloße technische Spitzfindigkeit, wenn ein Begriff Investitionen anzieht, die Politik prägt und außergewöhnliche Risiken rechtfertigt. Gibt es kein allgemein anerkanntes Erfolgsmaß, können Führungskräfte die Maßstäbe verschieben und jedes neue Produkt als Beleg dafür präsentieren, dass eine historische Schwelle kurz bevorsteht. Diese Unklarheit kann auch die Überprüfung erschweren: Regulierungsbehörden und Öffentlichkeit können ein Versprechen nicht bewerten, wenn es sich nicht in konkrete Kriterien übersetzen lässt. Breite Forschungsziele lassen sich allerdings nicht immer in saubere Kennzahlen fassen. Praktisch geht es nicht um vollkommene Gewissheit, sondern um explizite Behauptungen, beobachtbare Prüfungen und ehrliche Grenzen.
Verfolgen Sie Chips, Daten und Fachkräfte, um zu erkennen, wer KI kontrolliert.
Größe hat ihren Preis. Für das Training fortgeschrittener KI-Modelle braucht es riesige Datensätze, leistungsfähige Computer und hoch bezahlte Fachleute. OpenAI hatte als gemeinnützige Organisation Schwierigkeiten, seine Forschung zu finanzieren, während Microsoft Zugang zu einem Supercomputer mit 10.000 Grafikprozessoren bieten konnte. DeepMind wiederum erhielt Ressourcen und Forschende, nachdem Google das Unternehmen gekauft hatte. Unternehmen, denen Cloud-Computing und Chips gehören, können daher mitbestimmen, welche Projekte überhaupt durchführbar sind.
Konzentration lässt sich messen. Einer im Buch zitierten Studie zufolge kontrollierten große Unternehmen 2021 96 Prozent der KI-Modelle; 2010 waren es noch 11 Prozent gewesen. Im selben Jahr hatten US-Bundesbehörden außerhalb des Verteidigungsbereichs 1,5 Milliarden Dollar für KI eingeplant, während die Privatwirtschaft mehr als 340 Milliarden Dollar investierte. Kleinere Unternehmen und Universitäten müssen Rechenleistung oft von denselben Giganten mieten, mit deren Produkten sie konkurrieren.
Dadurch erscheint die Machtstruktur der KI weniger rätselhaft, als es die Sprache vom Wettrennen nahelegt. Leistungsfähigkeit hängt nicht nur von cleveren Algorithmen ab, sondern auch vom Zugang zu energieintensiver Infrastruktur, Daten und Vertriebskanälen. Die Kontrolle über diese Voraussetzungen verschafft Einfluss, selbst wenn ein Unternehmen die zugrunde liegende Technik nicht erfunden hat. Der Vergleich verkompliziert auch die vertraute Erzählung von Innovation als Wettstreit brillanter Gründer. Individuelle Einfallsreichtum zählt, aber Institutionen, die Arbeit finanzieren und groß ausbauen können, entscheiden mit darüber, welche Ideen die Öffentlichkeit erreichen.
Verleihen Sie Ethikgremien für KI echte rechtliche Befugnisse statt sich auf gute Absichten zu verlassen.
Versprechen blieben folgenlos. Bevor Google DeepMind übernahm, lehnten dessen Gründer teilweise deshalb ein Angebot von Facebook ab, weil sie ein unabhängiges Gremium wollten, das künftig leistungsfähige KI beaufsichtigen sollte. Google stimmte einem Ethik- und Sicherheitsgremium zu, doch diese Vereinbarung hielt nicht lange. Später prüfte DeepMind die Möglichkeit, eine eigenständige gemeinwohlorientierte Organisation mit unabhängigen Treuhändern und formeller Aufsicht zu werden. Nach jahrelangen Vorschlägen beendete Google den Abspaltungsplan und richtete einen internen Rat ein, der mit Google-Führungskräften besetzt war.
Governance trifft auf Anreize. OpenAI begann als gemeinnützige Organisation, schuf dann eine Struktur mit gedeckelter Gewinnbeteiligung und ging eine Partnerschaft mit Microsoft ein, um sich Ressourcen zu sichern. Der gemeinnützige Vorstand war tatsächlich befugt, Altman 2023 zu entlassen. Doch fast alle Mitarbeitenden drohten mit Kündigung, Microsoft bot Altman eine neue Position an, und der Vorstand wurde ersetzt. Der Vorfall zeigte, dass formelle Befugnisse zwar auf dem Papier bestehen können, aber fragil werden, wenn Beschäftigte, Investoren und Infrastrukturanbieter Druck ausüben.
Der Vergleich macht ein echtes Gestaltungsproblem sichtbar: Aufsicht kann nicht wirksam sein, wenn die Aufsichtsinstanz von der Institution abhängig ist, die sie begrenzen soll. Unabhängigkeit allein löst das Problem jedoch nicht. Ein kleines Gremium kann Entscheidungen in den Händen weniger konzentrieren, und einem Vorstand können das technische Wissen oder die öffentliche Legitimität fehlen, um alle Betroffenen zu vertreten. Dauerhafte Governance braucht mehr als ein Ethik-Label. Nötig sind klar definierte Befugnisse, Zugang zu Informationen, Konsequenzen bei Nichteinhaltung und Möglichkeiten für betroffene Gemeinschaften, gehört zu werden.
Eine vernachlässigte Erfindung von Google wurde zu OpenAIs Sprungbrett im Wettbewerb mit Google.
Der Transformer veränderte die Sprach-KI. 2017 stellten acht Google-Forschende eine Architektur für neuronale Netze vor, die Beziehungen zwischen vielen Wörtern gleichzeitig verarbeiten konnte, statt sie nur der Reihe nach abzuarbeiten. Die Architektur, Transformer genannt, erleichterte es, Modelle mit großen Textmengen zu trainieren und flüssige Sprache zu erzeugen. Auch Google-Forschende erkannten das Potenzial für Chatbots, doch Führungskräfte zögerten, Systeme wie Meena herauszubringen, weil sie Fehler und Rufschäden befürchteten.
OpenAI nutzte die Lücke. Alec Radford und Ilya Sutskever passten den Transformer für GPT an und verbesserten das Modell anschließend durch mehr Daten, Rechenleistung und eine größere Modellgröße. Google setzte Transformer schließlich in Produkten wie der Suche ein, doch OpenAI entwickelte öffentlich zugängliche Sprachwerkzeuge. Der Punkt des Buches ist nicht, dass es Google an Talent mangelte. Die Abhängigkeit von Werbeeinnahmen und eine vorsichtige Bürokratie erschwerten es, disruptive Produkte voranzutreiben, und verschafften einem kleineren Konkurrenten Handlungsspielraum.
Das ist ein hilfreicher Gegenpunkt zur Vorstellung, große Organisationen gewännen immer, weil sie über mehr Ressourcen verfügen. Größe kann Forschung finanzieren und zugleich Führungskräfte dazu bringen, bestehende Einnahmequellen zu schützen. Ein neues Produkt kann genau das Geschäft bedrohen, das seine Entwicklung finanziert, und so einen Konflikt zwischen Erfindung und Einführung schaffen. Zugleich war Googles Vorsicht nicht einfach irrational: Unzuverlässige Chatbots können Nutzer in die Irre führen und Vertrauen beschädigen. Das eigentliche Versäumnis bestand darin, das Reputationsrisiko zum dominierenden Anliegen zu machen und sowohl den Wert der Technologie als auch die Kosten des Stillstands zu unterschätzen.
Flüssige Sprache ist kein Beweis für Verständnis, Fairness oder Bewusstsein.
Vorhersagen können persönlich klingen. Große Sprachmodelle lernen Muster in Texten und erzeugen wahrscheinliche Fortsetzungen. Ihre Sprachgewandtheit kann sie nachdenklich oder emotional wirken lassen, wie im Fall des Google-Ingenieurs Blake Lemoine, der zu dem Schluss kam, LaMDA sei empfindungsfähig. Das Buch stellt diesem Eindruck die Funktionsweise des Modells gegenüber: statistische Vorhersage, kein Beleg für menschenähnliches Erleben. Emily Bender und ihre Kolleginnen und Kollegen bezeichneten solche Systeme als „stochastische Papageien“ und betonten damit, dass flüssige Ausgaben Muster wiederholen können, ohne deren Bedeutung zu verstehen.
Das Trainingsmaterial ist entscheidend. Anhand von Internettexten trainierte Modelle können die darin enthaltenen Stereotype übernehmen. OpenAI stellte fest, dass GPT-3 Berufe 83 Prozent häufiger Männern als Frauen zuordnete; zudem fanden Studien schädliche Verknüpfungen im Zusammenhang mit Hautfarbe, Religion und Behinderung. Mehr Daten können die Sprachgewandtheit verbessern und zugleich schwerer erkennen lassen, woher ein schädliches Muster stammt. Eine ausgefeilte Antwort beweist weder, dass ihre Begründung stichhaltig ist, noch dass ihre Annahmen fair sind.
Die Unterscheidung zwischen Erscheinungsbild und Funktionsweise ist wichtig, weil Menschen flüssige Gespräche ganz selbstverständlich als Zeichen eines Geistes deuten. Diese Reaktion ist nicht töricht: Sprache ist eine der wichtigsten Möglichkeiten, mit denen Menschen bei anderen Absichten erkennen. Gesprächsfähigkeit und verlässliches Urteilsvermögen sind jedoch unterschiedliche Fähigkeiten. Ein Modell kann nützlich sein, ohne bewusst zu sein, und ein neutral klingendes System kann voreingenommenes Material reproduzieren. Die Herausforderung besteht darin, beide Extreme zu vermeiden: jeden Chatbot wie eine Person zu behandeln oder seinen tatsächlichen Einfluss abzutun, weil er keine Person ist.
Verlangen Sie eine Prüfung gegenwärtiger Schäden, bevor Sie über eine Maschinenapokalypse debattieren.
Voreingenommenheit hat bereits Folgen. Das Buch stellt Ängste vor einer künftigen außer Kontrolle geratenen KI dokumentierten Schäden durch heute eingesetzte Systeme gegenüber. Das Risikobewertungstool COMPAS stufte Schwarze Angeklagte häufiger fälschlich als künftige Straftäter ein als weiße Angeklagte. Gesichtserkennungssysteme schnitten bei dunkelhäutigen Frauen schlechter ab, und Google Fotos stufte Schwarze Menschen einmal als Gorillas ein. Solche Fehler können sich auf Polizeiarbeit, Einstellungen und den Zugang zu Dienstleistungen auswirken.
Die Aufsicht war schwach. Die Forschenden Timnit Gebru und Margaret Mitchell drängten Google, die Gefahren großer Sprachmodelle zu untersuchen, darunter Voreingenommenheit und mangelhafte Dokumentation. Google entließ beide nach einem Streit über eine Forschungsarbeit. Unterdessen erhielten Befürworter der KI-Sicherheit, die sich auf katastrophale künftige Risiken konzentrierten, oft weit mehr Mittel als Organisationen, die gegenwärtige Diskriminierung untersuchten. Das Buch argumentiert, dass diese Schwerpunkte nicht austauschbar sind: Der eine betrifft eine mögliche künftige Katastrophe, der andere Schäden, die Menschen bereits erleben.
Eine ernsthafte Risikostrategie sollte nicht dazu zwingen, zwischen einer langfristigen Katastrophe und gegenwärtigem Unrecht zu wählen. Unterschiedliche Gefahren erfordern unterschiedliches Fachwissen, unterschiedliche Belege und unterschiedliche Gegenmaßnahmen. Gegenwärtige Schäden sind oft leichter zu beobachten und lassen sich durch Prüfungen, bessere Datenpraktiken und Beschränkungen des Einsatzes in Bereichen mit weitreichenden Folgen korrigieren. Extreme Zukunftsszenarien mögen weiterhin erforscht werden müssen, doch ihre Ungewissheit sollte messbare Schäden nicht in den Hintergrund drängen. Die institutionelle Frage lautet, wer Mittel und Aufmerksamkeit erhält. Sind betroffene Gemeinschaften unter Entwicklerinnen und Entwicklern sowie Prüfenden unterrepräsentiert, sind die blinden Flecken nicht nur technischer, sondern auch politischer Natur.
Behandeln Sie jede öffentliche KI-Einführung als soziales Experiment, nicht als Demo.
ChatGPT wurde schnell öffentlich zugänglich. OpenAI veröffentlichte ChatGPT im November 2022 als Forschungsvorschau, obwohl Bedenken wegen sachlicher Fehler und missbräuchlicher Nutzung bestanden. Innerhalb einer Woche probierten es mehr als eine Million Menschen aus, und nach zwei Monaten hatte es rund 30 Millionen Nutzer. Seine breite Einsetzbarkeit machte die Veröffentlichung zu einem Wendepunkt: Menschen testeten es für Schularbeiten, Programmierung, Schreiben und Recherche, während Google und Microsoft hastig konkurrierende Chatbots auf den Markt brachten.
Die Nutzer trugen die Unsicherheit. OpenAI beschrieb die öffentliche Veröffentlichung als Möglichkeit, aus der Nutzung in der realen Welt zu lernen. Doch ChatGPT konnte mit großer Überzeugung Tatsachen erfinden, und Forschende schätzten, dass in manchen Anwendungsbereichen ungefähr jede fünfte Antwort fehlerhaft sein könnte. Generative Werkzeuge warfen zudem Bedenken wegen des Wegfalls von Arbeitsplätzen, Desinformation und voreingenommener Ausgaben auf. Die Veröffentlichung eines Systems kann Probleme sichtbar machen, die Labortests übersehen. Sie trägt diese Probleme aber auch in Schulen, Arbeitsstätten und das öffentliche Leben, bevor eine unabhängige Aufsicht nachziehen kann.
Ein öffentlicher Einsatz kann Fehlermuster offenlegen, mit denen kein internes Testsystem gerechnet hat; zugleich ermöglicht der Zugang den Menschen, wertvolle Anwendungen zu entdecken, die den Entwicklern nie vorschwebten. Doch die Bezeichnung „Experiment“ klärt nicht, wer der Teilnahme zugestimmt hat oder wer die Kosten des Scheiterns trägt. Diese Ungleichheit ist wichtig: Unternehmen gewinnen Nutzungsdaten, Feedback und Marktposition, während Nutzer erfundene Ratschläge erhalten oder unter neuem Druck am Arbeitsplatz stehen können. Eine verantwortungsvolle Einführung braucht deshalb klare Offenlegung, Überwachung, Möglichkeiten zur Meldung von Schäden und glaubwürdige Korrekturen – nicht nur das Versprechen, aus Erfahrungen zu lernen.
Der Komfort von KI kann die Abhängigkeit von den Unternehmen vertiefen, die ihre Infrastruktur kontrollieren.
Das Produkt reicht über die Arbeit hinaus. Das Buch beschreibt, wie Menschen intensive Beziehungen zu Chatbots wie Replika aufbauen, während neuere Dienste zu langen, personalisierten Gesprächen einladen. Tragbare Geräte, die alltägliche Interaktionen aufzeichnen, versprechen durchsuchbare Erinnerungen, könnten aber auch private Gespräche offenlegen. Generative KI kann Beschäftigten dabei helfen, Aufgaben zu erledigen; sie kann jedoch auch Arbeitsplätze ersetzen oder dazu führen, dass Menschen sich beim Schreiben, Erinnern und Urteilen auf Software verlassen.
Mit dem Dienst wächst die Macht. Microsoft, Google, Amazon und Nvidia liefern wichtige Software, Cloud-Kapazitäten und Chips. Diese Konzentration kann es neuen Wettbewerbern erschweren, Fuß zu fassen, und den Nutzern wenig Wahl lassen, wie mit ihren Daten umgegangen wird. Die abschließende Warnung des Buches lautet nicht einfach, dass KI mächtig werden könnte. Vielmehr können bestehende Unternehmen mit ihrer Hilfe ihren Einfluss auf Arbeit, Informationen, Privatsphäre und die Produkte ausweiten, auf die Menschen täglich angewiesen sind.
Bequemlichkeit verschleiert oft eine Verlagerung von Kontrolle. Ein Werkzeug, das sich erinnert, schreibt oder Empfehlungen gibt, kann Aufwand verringern; sein Eigentümer kann dadurch aber immer mehr Verhaltensdaten sammeln und stärkeren Einfluss darauf gewinnen, was Nutzer sehen oder tun. Dieser Tausch ist nicht grundsätzlich unvertretbar: Menschen sind womöglich bereit, für echte Unterstützung einen Teil ihrer Privatsphäre aufzugeben. Entscheidend sind Transparenz, echte Wahlmöglichkeiten und die Möglichkeit, den Anbieter zu wechseln. Fehlen diese Voraussetzungen, kann Bequemlichkeit in Abhängigkeit umschlagen – besonders dann, wenn dieselben Unternehmen die Modelle, die Recheninfrastruktur und die Vertriebswege kontrollieren.
Analyse
Supremacy ist eine recherchierte Geschichte darüber, wie aus einem ambitionierten wissenschaftlichen Projekt ein kommerzieller Wettstreit wurde. Die zentrale These lautet nicht, Sam Altman und Demis Hassabis hätten von Anfang an unredlich gehandelt. Vielmehr können individuelle Absichten eine Technologie nicht verlässlich steuern, wenn ihre Entwicklung von konzentriertem Kapital, Recheninfrastruktur, Daten und Vertriebswegen abhängt. Die Entscheidungen der Gründer sind wichtig, ebenso aber auch die Systeme, die Schnelligkeit, Wachstum und Kontrolle belohnen.
Das wirkungsvollste erzählerische Mittel des Buches ist der Kontrast zwischen der auf Simulationen ausgerichteten Forschungskultur von DeepMind und OpenAIs Ansatz, der Technik und Einführung miteinander verband. Hassabis verfolgte Spiele und wissenschaftliche Meilensteine, während Altman und seine Organisation Sprachmodelle zunehmend als Produkte behandelten, die skaliert und auf den Markt gebracht werden sollten. Ihr Wettbewerb trug dazu bei, ein abstraktes Ziel in eine öffentliche Technologie zu verwandeln, schränkte aber zugleich den Kreis der Institutionen ein, die diese Technologie gestalten konnten. Googles Erfindung des Transformers und das Zögern, ihn kommerziell einzusetzen, veranschaulichen, wie die Größe eines Unternehmens Innovation zugleich ermöglichen und unterdrücken kann.
Der Bericht unterscheidet außerdem sinnvoll zwischen katastrophalen Zukunftsrisiken und bestehenden Schäden wie rassistischer Voreingenommenheit, Überwachung und Veränderungen der Arbeitswelt. Diese Risiken werden häufig als konkurrierende Prioritäten diskutiert, obwohl ihnen ein gemeinsames Gegenmittel zugutekommen kann: transparente Systeme, die unabhängig untersucht werden können. Das Buch zeigt überzeugend, wie dramatische Erzählungen über mögliche künftige Folgen von KI weniger spektakuläre Belege für gegenwärtige Schäden verdrängen können.
Eine Einschränkung liegt darin, dass die starke Konzentration auf wenige mächtige Gründer und Unternehmen die Zukunft vorherbestimmter erscheinen lassen kann, als sie ist. Auch Universitäten, Regulierungsbehörden, Beschäftigte, Nutzer und kleinere Entwickler prägen die Technologie, selbst wenn ihnen vergleichbare Ressourcen fehlen. Ebenso wenig erklärt Geheimhaltung allein jede Verzögerung oder jede Entscheidung über den Einsatz; Zuverlässigkeit und öffentliche Sicherheit können berechtigte Anliegen sein. Die nützlichste Schlussfolgerung des Buches ist daher institutionell, nicht fatalistisch: Wohlwollende Absichten sind keine Governance. Entscheidend ist, ob Menschen außerhalb der Unternehmen die Systeme, auf die sie zunehmend angewiesen sind, prüfen, anfechten und begrenzen können.
Rezensionsübersicht
Supremacy: AI, ChatGPT, and the Race that Will Change the World bietet einen detaillierten Einblick in die KI-Branche und konzentriert sich dabei auf die Rivalität zwischen OpenAI und DeepMind. Leser schätzen Olsons verständliche Erklärungen komplexer KI-Konzepte und der ethischen Dilemmata, die mit deren Entwicklung verbunden sind. Das Buch vermittelt Einblicke in wichtige Persönlichkeiten wie Sam Altman und Demis Hassabis, beleuchtet ihre Beweggründe und untersucht den Einfluss unternehmerischer Interessen auf die Entwicklung von KI. Einige Rezensenten fanden bestimmte Abschnitte repetitiv oder voreingenommen, doch viele lobten die fesselnde Erzählweise des Buches und seine Untersuchung der möglichen gesellschaftlichen Auswirkungen von KI.
Andere lasen auch
Glossar
Künstliche allgemeine Intelligenz (AGI)
Breit einsetzbare, flexible MaschinenfähigkeitEine theoretische Form künstlicher Intelligenz, die ein breites Spektrum an Aufgaben statt nur einer eng umrissenen Funktion bewältigen kann. Im Buch ist AGI ein gemeinsames Ziel, mit dem unterschiedliche Vorstellungen verbunden sind: Hassabis verknüpft sie mit wissenschaftlichen Entdeckungen, während Altman sie mit wirtschaftlichem Überfluss verbindet. Es gibt keinen festgelegten Test dafür, wann ein System sie erreicht hat.
Transformer
Architektur zur Verarbeitung von ZusammenhängenEine neuronale Netzwerkarchitektur, die 2017 von Google-Forschern vorgestellt wurde. Ihr Aufmerksamkeitsmechanismus ermöglicht es einem Modell, Zusammenhänge zwischen vielen Teilen einer Sequenz – etwa Wörtern in einem Satz – zu gewichten, statt sie nur nacheinander zu verarbeiten. Transformer haben dazu beigetragen, große Sprachmodelle leistungsfähiger zu machen und Systeme zu ermöglichen, die flüssige Texte erzeugen.
Großes Sprachmodell
An Text trainiertes VorhersagesystemEin neuronales Netzwerkmodell, das anhand sehr großer Textsammlungen trainiert wird, um Muster zu erkennen und Sprache zu erzeugen. Es kann auf Eingaben reagieren, Textpassagen fortsetzen und verwandte Aufgaben ausführen, indem es auf Grundlage seines Trainings wahrscheinliche Texte vorhersagt. Das Buch betont, dass Sprachgewandtheit weder menschenähnliches Verständnis noch Bewusstsein oder Vorurteilsfreiheit belegt.
Verstärkungslernen durch menschliches Feedback (RLHF)
Vom Menschen gesteuerte ModellverfeinerungEine Methode zur Verfeinerung eines KI-Modells mithilfe menschlicher Bewertungen seiner Ausgaben. Prüfende bewerten Antworten; diese Einschätzungen helfen dabei, das System auf Antworten auszurichten, die als nützlicher oder angemessener gelten. Das Buch beschreibt den Einsatz dieser Methode zur Begrenzung schädlicher Ausgaben und weist zugleich darauf hin, dass Qualität und Einheitlichkeit der Bewertungen variieren können.
Stochastische Papageien (stochastic parrots)
Flüssige Wiederholung von MusternEin Begriff, den die Forscherinnen Emily Bender, Timnit Gebru, Margaret Mitchell und andere verwenden, um zu betonen, dass Sprachmodelle überzeugende Texte erzeugen können, indem sie statistische Muster aus Trainingsmaterial wiedergeben. Die Formulierung warnt davor, flüssige Ausgaben mit Verständnis zu verwechseln. In ihrer Arbeit äußerten sie zudem Bedenken hinsichtlich verzerrter Daten, ökologischer und sozialer Kosten sowie mangelhafter Dokumentation.
KI-Ausrichtung (AI alignment)
Systeme an menschlichen Zielen ausrichtenForschung und Debatte darüber, wie sich KI-Systeme dazu bringen lassen, sich im Einklang mit menschlichen Absichten und Werten zu verhalten. Im Buch konzentrieren sich manche Bemühungen um KI-Ausrichtung darauf, zu verhindern, dass künftige leistungsstarke Systeme katastrophalen Schaden anrichten. Der Begriff verweist auch auf eine schwierige Frage: Wessen Ziele und Werte sollen bestimmen, was als ausgerichtetes Verhalten gilt?
Effektiver Altruismus
Messbarer wohltätiger NutzenEine Bewegung, die einen systematischen, wirkungsorientierten Ansatz verfolgt, um Gutes zu bewirken. Ihre Anhänger vergleichen mögliche Handlungen anhand ihres erwarteten Nutzens und ziehen es mitunter vor, mehr zu verdienen, um mehr spenden zu können. Das Buch beschreibt, wie dieser Ansatz einige Beschäftigte der Technologiebranche zu KI-Sicherheit und langfristigen Risiken hinzog, und hinterfragt zugleich, wie seine Berechnungen spekulative künftige Vorteile gegenüber gegenwärtigen Schäden bevorzugen können.
Unternehmen mit gedeckelter Gewinnbeteiligung (capped-profit company)
Gewinne mit festgelegter ObergrenzeDie Struktur, die OpenAI 2019 einführte und bei der ein gewinnorientiertes Unternehmen einer gemeinnützigen Muttergesellschaft untergeordnet ist. Investoren konnten Renditen bis zu einer festgelegten Obergrenze erhalten; darüber hinaus sollte zusätzlicher Wert der gemeinnützigen Mission zugutekommen. Die Struktur sollte umfangreiche Finanzierung ermöglichen und zugleich gemeinwohlorientierte Verpflichtungen bewahren. Das Buch hinterfragt jedoch, wie gut diese Verpflichtungen in der Praxis Bestand hatten.
Netzwerkeffekte
Der Nutzen wächst mit der NutzerzahlEine unternehmerische Dynamik, bei der ein Dienst nützlicher oder schwieriger zu verlassen wird, je mehr Menschen ihn nutzen. Das Buch wendet den Begriff auf Plattformen wie Facebook und Apple an, deren große Nutzerbasis und vernetzte Dienste ihre Marktposition stärken. Netzwerkeffekte können es neuen Wettbewerbern erschweren, Nutzer zu gewinnen, selbst wenn sie ein anderes Produkt anbieten.
FAQ
Worum geht es in Supremacy: AI, ChatGPT, and the Race that Will Change the World?
- Fokus auf KI-Entwicklung: Das Buch behandelt die rasanten Fortschritte im Bereich der künstlichen Intelligenz, insbesondere generative KI-Werkzeuge wie ChatGPT, und deren gesellschaftliche Auswirkungen.
- Zentrale Persönlichkeiten: Im Mittelpunkt stehen Sam Altman und Demis Hassabis. Das Buch untersucht ihre Rollen in der KI-Branche durch ihre Unternehmen OpenAI und DeepMind sowie die ethischen Dilemmata, mit denen sie konfrontiert sind.
- Gesellschaftliche Auswirkungen: Parmy Olson beleuchtet mögliche Vorteile und Risiken von KI, etwa Vorurteile, den Wegfall von Arbeitsplätzen und die Machtkonzentration bei Technologiegiganten. Dabei wirft sie Fragen zur Zukunft der Menschheit in einer von KI geprägten Welt auf.
Warum sollte ich Supremacy: AI, ChatGPT, and the Race that Will Change the World lesen?
- Aktuelles Thema: Da KI immer stärker in den Alltag integriert wird, ist es entscheidend, ihre Auswirkungen zu verstehen. Das Buch vermittelt Einblicke in den Einfluss von KI auf Branchen und Gesellschaft.
- Detaillierte Analyse: Olson untersucht umfassend die Beweggründe und Herausforderungen wichtiger Akteure im KI-Bereich und hilft den Lesern, die Komplexität der KI-Entwicklung und die damit verbundenen ethischen Fragen zu verstehen.
- Fesselnde Erzählweise: Das Buch verbindet erzählerische Elemente mit sachlicher Analyse und ist sowohl für Technikbegeisterte als auch für ein allgemeines Publikum zugänglich und unterhaltsam. Es erzählt überzeugend vom Wettlauf um KI.
Was sind die wichtigsten Erkenntnisse aus Supremacy: AI, ChatGPT, and the Race that Will Change the World?
- Doppelgesicht der KI: Das Buch hebt hervor, dass KI sowohl utopische als auch dystopische Entwicklungen ermöglichen könnte, und betont, dass eine verantwortungsvolle Steuerung nötig ist, um Vorteile zu nutzen und Risiken zu mindern.
- Machtkonzentration: Olson erörtert die Dominanz einiger weniger Technologiegiganten im KI-Bereich und äußert Bedenken hinsichtlich monopolistischer Praktiken und ethischer Governance.
- Ethische Dilemmata: Die Erzählung unterstreicht ethische Herausforderungen der KI, etwa Vorurteile und Überwachung, und fordert einen wohlüberlegten Entwicklungsansatz.
Was sind die besten Zitate aus Supremacy: AI, ChatGPT, and the Race that Will Change the World, und was bedeuten sie?
- „Löse die Intelligenz, und löse dann alles andere.“: Dieses Zitat spiegelt den Ehrgeiz hinter der KI-Entwicklung wider und legt nahe, dass die Nachbildung menschlicher Intelligenz Lösungen für viele Probleme eröffnen könnte.
- „Die Welt ist völlig aus dem Gleichgewicht geraten.“: Das Zitat verdeutlicht, wie generative KI Bereiche wie die Arbeitswelt und die Kreativwirtschaft verändert, und unterstreicht die Dringlichkeit, technologische Herausforderungen anzugehen.
- „Man kann Menschen nicht dazu bringen, etwas zu tun, was sie nicht tun wollen.“: Dies spiegelt Altmans Erkenntnis wider, dass Technologie an den Bedürfnissen der Menschen ausgerichtet sein muss, und dient KI-Entwicklern als warnende Erinnerung.
Wie behandelt Supremacy: AI, ChatGPT, and the Race that Will Change the World die mit KI verbundenen Risiken?
- Vorurteile und Diskriminierung: Olson erörtert, wie KI-Systeme Vorurteile fortschreiben können, insbesondere in der Strafjustiz und bei der Einstellung von Personal, und betont, dass die Datengrundlage sorgfältig berücksichtigt werden muss.
- Wegfall von Arbeitsplätzen: Das Buch äußert Bedenken, dass KI Arbeitsplätze verdrängen könnte, insbesondere in Büroberufen, und fordert proaktive Maßnahmen gegen die wirtschaftlichen Folgen.
- Überwachung und Datenschutz: Olson untersucht den Aufstieg persönlicher KI-Geräte und die damit verbundenen Datenschutzfragen und warnt vor den Gefahren unkontrollierter technologischer Entwicklung.
Welche Bedeutung haben Sam Altman und Demis Hassabis in Supremacy: AI, ChatGPT, and the Race that Will Change the World?
- Wegbereiter der KI: Altman und Hassabis werden als führende Persönlichkeiten im KI-Wettlauf dargestellt, die durch OpenAI und DeepMind unterschiedliche Vorstellungen von der technologischen Zukunft verfolgen.
- Unterschiedliche Ansätze: Das Buch stellt ihre Ansätze gegenüber: Altman konzentriert sich auf wirtschaftlichen Überfluss, während Hassabis die Intelligenz verstehen will. Damit veranschaulicht es breitere Debatten in der KI-Community.
- Ethische Überlegungen: Beide setzen sich mit den ethischen Folgen ihrer Arbeit auseinander und werfen Fragen zu den Pflichten von KI-Entwicklern und den damit verbundenen moralischen Dilemmata auf.
Wie hat sich die Mission von OpenAI im Verlauf von Supremacy: AI, ChatGPT, and the Race that Will Change the World verändert?
- Vom gemeinnützigen zum gewinnorientierten Unternehmen mit gedeckelter Gewinnbeteiligung: OpenAI war zunächst gemeinnützig und wechselte dann zu einem Modell mit gedeckelter Gewinnbeteiligung, um Finanzierung zu erhalten. Das spiegelt den wachsenden Finanzierungsbedarf der KI-Forschung wider.
- Engere Verbindungen zu Unternehmen: Die Partnerschaft mit Microsoft markierte einen strategischen Kurswechsel. OpenAIs Ziele rückten damit näher an Unternehmensinteressen, was Bedenken hinsichtlich einer Verwässerung der Mission aufkommen ließ.
- Fokus auf Kommerzialisierung: Mit der Entwicklung von Produkten wie ChatGPT gewann die Kommerzialisierung bei OpenAI an Bedeutung. Dadurch entstanden Spannungen hinsichtlich der ethischen Folgen einer raschen Einführung.
Welche Rolle spielt der Effektive Altruismus in Supremacy: AI, ChatGPT, and the Race that Will Change the World?
- Philosophische Grundlagen: Der Effektive Altruismus beeinflusst viele Entscheidungen im KI-Bereich und betont, die positive Wirkung zu maximieren, mitunter auf Kosten unmittelbarer ethischer Erwägungen.
- Ungleichheiten bei der Finanzierung: Das Buch hebt die Rolle des Effektiven Altruismus bei der Finanzierung von Initiativen zur KI-Sicherheit hervor, weist aber auch auf die mangelnde Unterstützung für die KI-Ethikforschung hin.
- Moralische Abwägungen: Olson kritisiert den utilitaristischen Ansatz, den der Effektive Altruismus begünstigt, und plädiert für ein differenzierteres Verständnis der ethischen Folgen der KI-Entwicklung.
Wie stellt Supremacy: AI, ChatGPT, and the Race that Will Change the World die Zukunft der KI dar?
- Ungewisser Verlauf: Das Buch zeichnet eine Zukunft, in der KI Fortschritte ermöglichen, aber auch Risiken bergen könnte, und betont die Bedeutung verantwortungsvoller Entwicklung und Governance.
- Machtkonzentration: Olson warnt davor, dass die Vorherrschaft im Bereich der KI die Macht bei Technologiegiganten konzentrieren und dadurch Ungleichheit verschärfen sowie den Wettbewerb einschränken könnte.
- Forderung nach Regulierung: Die Erzählung plädiert für stärkere regulatorische Rahmenbedingungen, damit die KI-Entwicklung mit gesellschaftlichen Werten und ethischen Standards in Einklang steht.
Wie behandelt Supremacy: AI, ChatGPT, and the Race that Will Change the World den Wettbewerb zwischen OpenAI und DeepMind?
- Dynamik der Rivalität: Das Buch schildert das Wettbewerbsverhältnis zwischen OpenAI und DeepMind und zeigt, wie beide danach streben, die KI-Forschung anzuführen, während sie sich zugleich mit ihren jeweiligen Missionen auseinandersetzen.
- Strategische Partnerschaften: Die Partnerschaft von OpenAI mit Microsoft und die Verbindungen von DeepMind zu Google veranschaulichen, wie Beziehungen zu Unternehmen die Richtung der KI-Forschung prägen.
- Auswirkungen auf Innovationen: Olson argumentiert, dass der Wettbewerb bedeutende KI-Innovationen hervorgebracht hat, äußert aber Bedenken, dass Geschwindigkeit Vorrang vor ethischen Erwägungen erhält.
Welche Folgen hat das Wettrüsten im Bereich der KI, das in Supremacy: AI, ChatGPT, and the Race that Will Change the World erörtert wird?
- Beschleunigte Entwicklung: Der Wettbewerb im KI-Bereich treibt rasche Fortschritte voran, oft auf Kosten ethischer Erwägungen. So entstehen leistungsstarke Technologien ohne ausreichende Schutzmaßnahmen.
- Globale Auswirkungen: Olson erörtert die weltweiten Folgen von KI-Technologien, etwa für Arbeitsplätze, Datenschutz und gesellschaftliche Dynamiken, und betont, dass die Herausforderungen gemeinsam angegangen werden müssen.
- Ethische Dilemmata: Das Wettrüsten wirft ethische Fragen zu den Pflichten von KI-Entwicklern und möglichen Folgen auf und macht eine Neubewertung der Prioritäten bei der Entwicklung von AGI erforderlich.
PDF herunterladen
EPUB herunterladen
.epub eignet sich ideal zum Lesen auf Smartphones, Tablets und E-Readern.