Wichtigste Erkenntnisse
Unterscheiden Sie zwischen enger Kompetenz und allgemeiner Intelligenz, bevor Sie eine Maschine für intelligent erklären.
Eine beunruhigende Darbietung. Bei einem Treffen von Google schilderte der KI-Pionier Douglas Hofstadter, wie ein Programm namens EMI Musik komponiert hatte, die Chopin so sehr ähnelte, dass selbst Musikexperten getäuscht wurden. Er hatte erwartet, dass Kreativität sich mechanischer Nachahmung entziehen würde. Die Begegnung beunruhigte ihn nicht, weil das Programm bewusst war, sondern weil eine begrenzte Zahl von Regeln etwas hervorbringen konnte, das zutiefst menschlich klang. Anhand dieser Spannung unterscheidet das Buch zwischen schwacher KI (narrow AI), die eine klar umrissene Aufgabe erfüllt, und allgemeiner Intelligenz, die Fähigkeiten flexibel in vielen verschiedenen Situationen miteinander verbindet.
Ein Test kann irreführen. 2014 täuschte ein Chatbot, der sich als Dreizehnjähriger ausgab, bei kurzen Gesprächen ein Drittel der Juroren. Dieses Ergebnis belegte kein umfassendes Verständnis: Der Bot konnte Fragen ausweichen, das Thema wechseln und sich auf eine bewusst eingeschränkte Rolle stützen. Eine Maschine kann eine Aufgabe erfolgreich erledigen, ohne über die umfassenderen Fähigkeiten zu verfügen, die Menschen mit Intelligenz verbinden.
Bemerkenswert ist, wie leicht ein beeindruckendes Ergebnis zur Aussage über den ganzen Geist wird. Die Unterscheidung zwischen Aufgabenleistung und allgemeiner Fähigkeit erinnert an den Unterschied zwischen dem Bestehen einer einzelnen Prüfung und der Fähigkeit, Wissen in unbekannten Situationen anzuwenden. Dass ein Chatbot einen kurzen Austausch aufrechterhalten kann, ist eine echte Leistung, aber nur ein schwacher Beleg dafür, dass er die Welt begreift. Dieselbe Vorsicht gilt für menschliche Expertise: Geschick in einem Bereich belegt selten Kompetenz in allen Bereichen. Es geht nicht darum, spezialisierte Systeme abzuwerten, sondern genau zu beschreiben, was sie leisten und was ihr Erfolg nicht beweist.
Betrachten Sie jeden KI-Boom als ein Versprechen, das überprüft werden muss, nicht als Prophezeiung.
Ein wiederkehrender Zyklus. Beim Dartmouth-Workshop 1956 schlugen Forschende vor, Maschinen könnten jedes Merkmal von Intelligenz simulieren, und sagten für kurze Zeit später große Fortschritte voraus. Einige frühe Prognosen versprachen Fähigkeiten auf menschlichem Niveau innerhalb einer Generation. Stattdessen stieß das Fachgebiet auf harte Grenzen, und die Finanzierung ging zurück, nachdem umfassende Versprechen zu Sprache, logischem Denken und Robotik nicht eingelöst worden waren. Ähnliche Phasen der Begeisterung und Enttäuschung wurden als KI-Frühlinge und KI-Winter bezeichnet.
Das Muster hält an. Mitchell beschreibt den Optimismus rund um neuronale Netze, Expertensysteme und später Deep Learning als Teil dieser Geschichte. Neue Methoden ziehen Investitionen und aufsehenerregende Schlagzeilen an; bleiben die Leistungen hinter den Versprechen zurück, schwindet die Unterstützung. Diese Geschichte beweist nicht, dass Fortschritt unmöglich ist. Sie zeigt jedoch, warum Behauptungen über eine unmittelbar bevorstehende allgemeine Intelligenz Belege für tatsächliche Fähigkeiten brauchen – nicht bloß Zuversicht, Investitionen oder eine einprägsame Vorführung.
Das Wechselspiel aus Boom und Einbruch ist mehr als eine Warnung vor übermäßig selbstsicheren Forschenden. Es zeigt, wie öffentliche Erwartungen, Finanzierung und Forschungsprioritäten einander verstärken können. Ein Fachgebiet kann kommerziell wertvolle Aufgaben verfolgen, während Schlagzeilen den Eindruck erwecken, es löse das Rätsel der Intelligenz selbst. Diese Diskrepanz kann echte Fortschritte verschleiern und unnötige Gegenreaktionen auslösen, wenn umfassende Versprechen scheitern. Skepsis ist am nützlichsten, wenn sie messbare Aussagen und klare Zeitpläne verlangt, statt jede Prognose entweder für eine Prophezeiung oder für Unsinn zu halten.
Schnellere Chips erzeugen nicht automatisch exponentiell umfassendere Intelligenz.
Exponentielle Kurven beeindrucken. Ray Kurzweils Prognosen einer KI auf menschlichem Niveau in naher Zukunft stützen sich stark auf exponentielles technologisches Wachstum, darunter die historische Verdopplung der Bauelemente auf Computerchips alle ein bis zwei Jahre. Eine Fabel im Buch veranschaulicht das Muster: Verdoppelt man die Reiskörner auf den aufeinanderfolgenden Feldern eines Schachbretts, scheint das zunächst machbar, doch schon bald übersteigt die Menge alles, was ein Königreich liefern kann.
Fortschritt verläuft unterschiedlich schnell. Das Argument setzt voraus, dass Zuwächse an Rechenleistung umfassendere Intelligenz ermöglichen können, auch durch die Rückentwicklung des Gehirns. Mitchell merkt an, dass sich die Hardware rasch weiterentwickelt hat, die Software jedoch kein vergleichbares, stetiges exponentielles Wachstum gezeigt hat. Rechenleistung allein erklärt auch nicht, wie eine Maschine gesunden Menschenverstand erwerben, aus begrenzter Erfahrung lernen oder Fähigkeiten integrieren könnte. Wer eine einzelne Kurve auf diese unterschiedlichen Herausforderungen überträgt, riskiert, schnellere Berechnungen mit einer Lösung des Intelligenzproblems zu verwechseln.
Nützlich ist hier die Trennung zwischen einem tatsächlichen Trend und dem Schluss, den jemand daraus ziehen möchte. Exponentielles Wachstum kann Veränderungen unsichtbar erscheinen lassen, bis ihre Auswirkungen dramatisch werden. Doch eine Kurve in einem Bereich garantiert keine entsprechende Kurve in einem anderen. Rechenkapazität ist ein Faktor für den Fortschritt der KI, keine Theorie der Kognition. Das Argument lässt auch Raum für Überraschungen: Eine neue erfolgreiche Methode könnte den Verlauf verändern. Die besonnene Antwort besteht weder darin, blind zu extrapolieren, noch darin, die heutigen Grenzen für dauerhaft zu halten.
Der Durchbruch des Deep Learning hing von Daten, Rechenleistung und menschlicher Vorbereitung ab.
Ein Durchbruch mit Grundlagen. Beim Deep Learning werden neuronale Netze mit mehreren verborgenen Schichten darauf trainiert, Muster in Daten zu erkennen. In der Bildverarbeitung wurden diese Netze besonders leistungsfähig, als Forschende sie mithilfe schnellerer Computer an riesigen Sammlungen beschrifteter Bilder trainieren konnten. ImageNet stellte 1,2 Millionen Trainingsbilder aus tausend Kategorien bereit. 2012 steigerte AlexNet, ein Faltungsneuronales Netz, die Top-5-Genauigkeit des Wettbewerbs von 74 auf 85 Prozent.
Lernen erfordert weiterhin Arbeit. Menschen mussten die Bilder von ImageNet prüfen und beschriften, und Forschende mussten das Netzwerk entwerfen und seine Einstellungen feinjustieren. Überwachtes Lernen bedeutet, dass ein System anhand von Beispielen lernt, denen von Menschen vorgegebene Antworten zugeordnet sind. Das Netzwerk passt seine internen numerischen Gewichte an, um seine Fehler zu verringern. Das Ergebnis kann leistungsstark sein, doch die Beschreibung, die Maschine bringe sich selbst etwas bei, verschleiert die menschliche Arbeit, die das Training erst ermöglicht.
Diese Darstellung korrigiert ein verbreitetes Missverständnis: Datengestützte Systeme kommen nicht ohne menschliche Werturteile aus. Menschen wählen Beispiele aus, legen Kategorien fest, bestimmen, was als Erfolg gilt, und passen die Technik an. Das ähnelt wissenschaftlichen Messungen: Instrumente erweitern die Beobachtung, hängen aber weiterhin davon ab, was gemessen werden soll. Die Leistungssteigerungen sind beträchtlich, doch Arbeitsaufwand und Entwurfsentscheidungen sind Teil der Technologie und kein nebensächliches Gerüst. Das ist wichtig, wenn es um Kosten, Verantwortlichkeit und die in einem System verankerten Annahmen geht.
Verlangen Sie neben Benchmark-Werten auch Tests, die Fehler aufdecken.
Ein Wert gilt nur in einem bestimmten Rahmen. 2017 erreichte das führende ImageNet-System bei der Top-5-Messung des Wettbewerbs eine Genauigkeit von 98 Prozent: Das richtige Label musste lediglich unter den fünf Vorschlägen auftauchen. Die Top-1-Genauigkeit lag bei etwa 82 Prozent. Keine der beiden Zahlen garantierte, dass das System Objekte so erkannte wie Menschen. Ein darauf trainiertes Netzwerk, Tiere zu erkennen, stützte sich beispielsweise teilweise auf unscharfe Hintergründe, weil diese auf Tierfotos häufig vorkamen.
Fehler können seltsam sein. Ein adversariales Beispiel ist eine Eingabe, die so verändert wurde, dass sie für Menschen unverändert aussieht, ein neuronales Netz aber mit hoher Sicherheit zu einer Fehlklassifikation veranlassen kann. Forschende zeigten solche Fehler bei Bildern, darunter auch bei Verkehrsschildern. Auch Trainingsdaten können gesellschaftliche Vorurteile enthalten: Das Buch berichtet, dass Gesichtserkennungssysteme bei manchen ethnischen Gruppen mehr Fehler machten, und verweist auf einen Test, bei dem Amazons System 28 Kongressmitglieder fälschlich mit Personen in einer Festnahmedatenbank in Verbindung brachte. Hohe Benchmark-Werte klären weder Fragen der Zuverlässigkeit noch der Fairness.
Benchmarks sind wertvoll, weil sie Vergleiche ermöglichen. Sie messen jedoch eigens entworfene Aufgaben und sind keine universellen Kompetenznachweise. Der Abstand zwischen Top-5- und Top-1-Genauigkeit zeigt, wie stark die Definition einer Kennzahl eine Schlagzeile prägen kann. Eine robuste Bewertung sollte auch fragen, was bei veränderten Eingaben, unbekannten Einsatzbedingungen und in verschiedenen Bevölkerungsgruppen geschieht. Das Fehlermuster eines Systems kann wichtiger sein als sein Durchschnittswert, wenn eine Entscheidung die Sicherheit oder den Zugang zu Dienstleistungen betrifft. Kennzahlen brauchen Kontext, und der Einsatz muss über die Rangliste hinaus kritisch geprüft werden.
Ein Spielsieger kann weiterhin ein intellektueller Spezialist ohne Transfer sein.
Belohnungen lehren Handlungen. Beim bestärkenden Lernen wird ein Agent durch Handlungen und Belohnungen trainiert, nicht anhand beschrifteter Beispiele. In der einfachen Roboterfußball-Illustration des Buches lernt ein Roboter nach und nach, dass eine Bewegung auf den Ball zu dazu führen kann, dass er für einen Schuss belohnt wird. DeepMind kombinierte diesen Ansatz mit neuronalen Netzen, um Systeme für Atari-Spiele und Go zu trainieren. AlphaGo Zero lernte Go durch Selbstspiel, ausgehend von den Regeln statt von menschlichen Spielbeispielen, und besiegte frühere AlphaGo-Versionen.
Der Erfolg bleibt begrenzt. Transferlernen bedeutet, Erfahrungen aus einer Aufgabe für eine andere zu nutzen. Mitchell merkt an, dass diese Systeme das im Allgemeinen nicht so tun wie Menschen: Ein für ein Atari-Spiel trainiertes Netzwerk muss für ein anderes separat trainiert werden, und AlphaGo kann seine Go-Fähigkeiten nicht auf sachfremde Aufgaben übertragen. Ein System kann innerhalb eines Spiels eine Gewinnstrategie entwickeln und dennoch über keine Konzepte verfügen, die ihm helfen würden, sich an kleine Änderungen der Spielregeln anzupassen – geschweige denn an den Alltag.
Die Leistung ist gerade deshalb bemerkenswert, weil dahinter kein Allzweckgeist steckt. Durch Selbstspiel kann sich ein System verbessern, ohne dass ein Mensch ihm die richtigen Züge vorgibt; sein Lernen bleibt jedoch von den Regeln, der Belohnung und den Grenzen seiner Umgebung geprägt. Diese Unterscheidung ist auch jenseits von Spielen nützlich: Innerhalb eines klar umrissenen Problems kann die Optimierung außergewöhnlich gut sein und dennoch außerhalb davon versagen. Verallgemeinerungsfähigkeit ist also kein Zusatzmerkmal, sondern eine eigenständige Fähigkeit, die geprüft und nicht aus einem spektakulären Sieg abgeleitet werden muss.
Flüssige Ausgaben können verbergen, dass einer Maschine Weltwissen fehlt.
Sprache beruht auf Kontext. In Mitchells Restaurantgeschichte bestellt ein Gast einen Hamburger, der halb durchgebraten sein soll, bekommt einen verbrannten und geht wütend. Menschen schließen daraus, dass er ihn vermutlich nicht gegessen hat. Ein Sprachsystem müsste Restaurantgepflogenheiten, Sarkasmus, Redewendungen und den Ablauf der Ereignisse miteinander verknüpfen, um zu dieser Antwort zu kommen. Moderne Spracherkennung kann Gesprochenes präzise transkribieren, ohne zu verstehen, was die Worte bedeuten.
Muster erzählen nicht die ganze Geschichte. Neuronale Übersetzungssysteme lernen anhand umfangreicher Sammlungen von Sätzen, die von Menschen übersetzt wurden. Sie können beeindruckend nützlich sein, doch die Beispiele im Buch zeigen, dass sie unterschiedliche Bedeutungen von Wörtern wie „bill“ verwechseln oder Redewendungen wörtlich übersetzen. Ein System kann auch bei Leseverständnistests gut abschneiden, bei denen es eine ausdrücklich in einem Absatz genannte Antwort finden soll, ohne damit zu zeigen, dass es über implizite Bedeutungen nachdenken kann. Flüssige Sprache belegt einen nützlichen Umgang mit Mustern, aber nicht zwingend Verständnis.
Die Kluft zwischen flüssiger Form und verankerter Bedeutung übersieht man leicht, weil Menschen Sprache instinktiv als Beleg für das Verständnis eines Sprechers ansehen. Dadurch sind Sprachsysteme besonders anfällig dafür, vermenschlicht zu werden. Ihre praktischen Vorteile sollten dadurch jedoch nicht kleingeredet werden: Transkription und Übersetzung können Zeit sparen, auch wenn ihnen Nuancen entgehen. Sinnvoll ist ein auf den jeweiligen Zweck abgestimmtes Vertrauen. Bei beiläufigen Suchanfragen sind Fehler eher hinnehmbar als in der rechtlichen, medizinischen oder diplomatischen Kommunikation – besonders wenn Tonfall und Andeutungen die Botschaft tragen.
Verankern Sie Intelligenz in gesundem Menschenverstand, Abstraktionsfähigkeit und Welterfahrung.
Menschen bringen verborgenes Wissen mit. Kernwissen (core knowledge) ist das früh entstehende Verständnis von Gegenständen, Lebewesen und anderen Menschen. Menschen nutzen intuitive Physik, um vorherzusagen, wie sich Gegenstände bewegen, intuitive Biologie, um einen Hund von einem Kinderwagen zu unterscheiden, und intuitive Psychologie, um Ziele und Gefühle vorauszuahnen. Diese Fähigkeiten bilden die Grundlage für mentale Modelle: Vorstellungen, mit denen Menschen sich ausmalen können, was als Nächstes geschehen oder wie sich eine Situation verändern könnte.
Abstraktion verbindet Situationen. Bongard-Probleme bestehen aus kleinen Gruppen von Diagrammen und verlangen, das gemeinsame Merkmal zu benennen, das eine Gruppe von der anderen unterscheidet. Menschen erkennen das entscheidende Muster oft anhand von nur einem Dutzend Beispielen; eine im Buch beschriebene Studie ergab hingegen, dass neuronale Netze, die mit 20.000 Beispielen einer einfachen Gleich-oder-ungleich-Aufgabe trainiert wurden, nur geringfügig besser abschnitten als durch Raten. Mitchell zufolge hilft Analogie Menschen zu erkennen, worauf es in unterschiedlichen Situationen ankommt. Die Fähigkeit einer Maschine, vertraute Beispiele zu klassifizieren, garantiert diese flexible Abstraktion nicht.
Diese Darstellung lässt Intelligenz weniger wie einen Faktenvorrat und mehr wie ein System erscheinen, das Situationen modelliert und eine Situation auf eine andere bezieht. Das erklärt überzeugend, weshalb Kinder Konzepte anhand so weniger Beispiele lernen. Zugleich stellt sich eine offene Frage: Müssen Maschinen menschliche Körpererfahrung teilen, um nützlichen gesunden Menschenverstand zu entwickeln, oder könnten andere Formen der Interaktion eine vergleichbare Verankerung ermöglichen? Das Buch stellt verkörperte Erfahrung als überzeugende Möglichkeit dar, nicht als feststehende Voraussetzung. Diese Unterscheidung hält die Hypothese ambitioniert, ohne sie als bewiesen zu behandeln.
Sorgen Sie dafür, dass Menschen verantwortlich bleiben, wenn KI-Entscheidungen schwerwiegende Folgen haben.
Vorteile lassen Risiken nicht verschwinden. KI kann Navigation, Barrierefreiheit, medizinische Forschung und repetitive Arbeit unterstützen. Systeme für den Straßenverkehr, die Gesichtserkennung oder folgenreiche Entscheidungen können jedoch auch störanfällig, voreingenommen, schwer erklärbar oder manipulierbar sein. Eine im Buch zitierte Umfrage unter Technologieexpertinnen und -experten aus dem Jahr 2018 ergab, dass 63 Prozent erwarteten, KI werde die Lage der Menschen bis 2030 verbessern, 37 Prozent hingegen nicht.
Regulierung gehört zum Entwurf. Die Gesichtserkennung verdeutlicht, worum es geht: Eine falsche Übereinstimmung kann den Zugang verwehren oder Verdacht erregen, und ungleiche Fehlerraten können bestehende Diskriminierung verschärfen. Mitchell argumentiert, technische Fachleute und Unternehmen dürften nicht sich selbst überlassen bleiben, wenn es um Regulierung geht. Regierung, Hochschulen, Unternehmen und gemeinnützige Organisationen müssen gemeinsam an der Festlegung von Regeln mitwirken. Die entscheidende Frage ist nicht einfach, ob ein KI-System präzise ist, sondern ob seine Fehler, seine Verwendung und seine Auswirkungen im jeweiligen Einsatzkontext hinnehmbar sind.
Die praktische Warnung des Buches gilt fehlplatziertem Vertrauen, nicht nur den künftigen Absichten von Maschinen. Sobald ein System in Institutionen eingebettet ist, können seine Entwurfsentscheidungen Menschen betreffen, die sich nie für seine Nutzung entschieden haben. Menschliche Aufsicht ist nur dann sinnvoll, wenn eine Person befugt und in der Lage ist und genügend Zeit hat, eine Empfehlung infrage zu stellen. Andernfalls kann ein Mensch, der angeblich in den Prozess eingebunden ist, als bloßes Feigenblatt für die Automatisierung dienen. Regulierung sollte daher den gesamten Entscheidungsprozess erfassen – einschließlich der Frage, wer bei einem Systemversagen zur Verantwortung gezogen wird.
Beurteilen Sie Kreativität nach Urteilsvermögen, nicht allein nach dem Ergebnis.
Nachahmung kann uns bewegen. EMI, David Copes Musikprogramm, erzeugte Stücke nach dem Vorbild klassischer Komponisten. Cope wählte musikalische Muster aus, entwickelte Regeln für ihre Kombination und entschied, welche Ergebnisse veröffentlicht wurden. Manche Stücke klangen so überzeugend, dass sie ausgebildete Musiker täuschten. Ihre Wirkung beunruhigte Hofstadter, der fürchtete, menschliche Kreativität könnte sich als mechanisch einfach erweisen.
Zum Schaffen gehört das Bewerten. Mitchell argumentiert, ein gefälliges Werk hervorzubringen sei nicht dasselbe, wie es zu verstehen oder zu beurteilen. Im Fall von EMI brachte Cope das musikalische Wissen ein und wählte die gelungenen Kompositionen aus; das Programm konnte ihren emotionalen oder künstlerischen Wert nicht einschätzen. Sie räumt ein, dass Computer grundsätzlich kreativ sein könnten, sagt jedoch, bestehende Systeme erfüllten diesen umfassenderen Maßstab nicht. Ihre Sichtweise lässt eine wichtige Unterscheidung offen: Eine Maschine kann neuartiges Material zu einem kreativen Prozess beitragen, auch wenn Geschmack, Deutung und Verantwortung weiterhin beim Menschen liegen.
Die Unterscheidung zwischen Erzeugen und Beurteilen ist aufschlussreich, auch wenn sie einen anspruchsvollen Maßstab für maschinelle Kreativität anlegen könnte. Menschliche Künstler arbeiten ebenfalls mit überlieferten Formen, Werkzeugen, Mitarbeitenden und Rückmeldungen des Publikums. Das macht ihre Arbeit nicht unkreativ, verkompliziert aber die Vorstellung, Kreativität erfordere ein einsames Selbstverständnis. Eine hilfreiche Frage lautet, welche Art von Handlungsspielraum ein System einbringt: Erzeugt es lediglich Variationen oder kann es Entscheidungen im Hinblick auf ein Ziel auswählen, überarbeiten und begründen? Die Antwort könnte auf einem Spektrum liegen, statt sich auf ein einfaches Ja oder Nein zu reduzieren.
Analyse
Mitchells zentrale Leistung besteht darin, die vage Frage, ob Maschinen intelligent sind, durch besser beantwortbare Fragen zu ersetzen: Welche Aufgabe war definiert? Anhand welcher Beispiele wurde das System trainiert? Was gilt genau als Erfolg? Wie versagt es außerhalb der Testbedingungen? Dieser Perspektivwechsel macht aus KI ein empirisches Forschungsfeld statt eines Wettstreits um metaphysische Begriffe. Ein Programm kann Menschen bei einer eng umrissenen Aufgabe übertreffen, ohne damit die flexiblen Fähigkeiten nachzubilden, dank derer menschliche Kompetenz auf verschiedene Situationen übertragbar ist.
Die stärksten Belege des Buches liegen in den Gegenüberstellungen. Der ImageNet-Genauigkeit stehen Fehlklassifikationen, Verzerrungen und die Anfälligkeit für adversariale Beispiele gegenüber. AlphaGos beeindruckender strategischer Spielweise steht gegenüber, dass es dieses Lernen anderswo nicht einsetzen kann. Der flüssigen Sprache neuronaler Übersetzungssysteme stehen ihre Schwierigkeiten mit Redewendungen und Kontext gegenüber. Diese Kontraste machen die Leistungen nicht zunichte. Sie zeigen, dass Leistung mehrere Dimensionen umfasst und eine einzelne Kennzahl gerade jene Einschränkungen verbergen kann, die beim Einsatz am wichtigsten sind.
Das Argument enthält auch eine produktive Spannung. Mitchell behandelt gesunden Menschenverstand, Abstraktion, Analogie und verkörperte Erfahrung als wahrscheinliche Bestandteile allgemeiner Intelligenz, räumt aber ein, dass die Begriffe selbst noch nicht hinreichend verstanden sind. Diese Unsicherheit ist kein Mangel, den man übertünchen sollte. Sie markiert die Grenze zwischen einem nützlichen Forschungsprogramm und einer etablierten Theorie. Dennoch ist menschenähnliches Verständnis möglicherweise nicht der einzige Weg zu zuverlässigen Systemen: Ein spezialisiertes Werkzeug könnte durch Einschränkungen, Überprüfung und menschliche Kontrolle verlässlich sein, ohne über ein menschliches mentales Modell zu verfügen. Der praktische Maßstab sollte daher die Eignung für den jeweiligen Zweck sein, nicht die Ähnlichkeit mit Menschen.
Die bleibende Lehre des Buches ist methodischer Art. Behandeln Sie Aussagen über KI als Behauptungen über Systeme, die unter bestimmten Bedingungen arbeiten, und nicht als Erklärungen, Intelligenz sei bereits gelöst oder stehe unmittelbar bevor. Messen Sie nicht nur die durchschnittliche Leistung, sondern auch Robustheit, Transfer, Fehlerverteilung, Verzerrungen und Verantwortlichkeit. Die dringendste Gefahr ist nicht unbedingt ein künstlicher Geist mit grenzenloser Macht. Sie liegt vielmehr in der alltäglichen institutionellen Entscheidung, fehlbaren Systemen eine Autorität zu übertragen, die ihre geprüfte Kompetenz nicht rechtfertigt.
Rezensionsübersicht
Artificial Intelligence bietet einen ausgewogenen Überblick über den aktuellen Stand und das Zukunftspotenzial der KI. Leserinnen und Leser schätzen Mitchells klare Erklärungen komplexer Konzepte, ihre Skepsis gegenüber dem KI-Hype und ihre Auseinandersetzung mit den Grenzen der KI. Das Buch behandelt die Geschichte der KI, jüngste Durchbrüche und ethische Fragen. Auch wenn manche bestimmte Abschnitte anspruchsvoll finden, loben die meisten Mitchells zugänglichen Schreibstil. Einige Leserinnen und Leser merken an, dass Teile des Buches aufgrund der rasanten Fortschritte der KI, insbesondere bei Sprachmodellen, bereits veraltet seien; dennoch finden sie den grundlegenden Inhalt weiterhin wertvoll.
Andere lasen auch
Glossar
schwache KI (narrow AI)
Aufgabenspezifische künstliche IntelligenzEin KI-System, das für eine einzige eng umrissene Aufgabe oder eine kleine Gruppe verwandter Aufgaben entwickelt wurde. Ein Programm kann außergewöhnlich gut in Go, Bildklassifizierung oder Übersetzung werden und dennoch nicht in der Lage sein, seine Fähigkeiten breit anzuwenden. Der Begriff steht im Gegensatz zu allgemeiner KI, die Fähigkeiten über viele Arten von Situationen hinweg integrieren würde.
Deep Learning
Training mehrschichtiger neuronaler NetzeEine Gruppe von Methoden des maschinellen Lernens, bei denen neuronale Netze mit mehreren verborgenen Schichten trainiert werden. Das Wort „deep“ bezieht sich auf die Anzahl der verborgenen Schichten, nicht unbedingt auf die Raffinesse oder Bedeutung dessen, was das System lernt. Deep Learning wurde äußerst erfolgreich, als große Datensätze und leistungsstarke Computerhardware verfügbar wurden.
überwachtes Lernen
Lernen anhand gekennzeichneter BeispieleEine Trainingsmethode, bei der ein System Beispiele erhält, die mit den korrekten Antworten, den sogenannten Labels, verknüpft sind. Es vergleicht seine Vorhersagen mit diesen Antworten und passt interne Parameter an, um Fehler zu verringern. Ein System, das handgeschriebene Ziffern erkennen soll, lernt beispielsweise anhand von Bildern, die Menschen mit der jeweils dargestellten Ziffer gekennzeichnet haben.
Faltungsneuronales Netz
Netz für räumliche BildmusterEine Architektur neuronaler Netze, die häufig zur Bildverarbeitung eingesetzt wird. Sie wendet erlernte Filter auf lokale Bildbereiche an und erstellt geschichtete Repräsentationen von Merkmalen, die zunehmend komplexer werden können. Faltungsneuronale Netze haben große Fortschritte bei der Objekterkennung ermöglicht, doch ihre Klassifizierungen können auf irreführenden Zusammenhängen in Bildern beruhen.
adversariales Beispiel
Gezielt gestaltete Eingabe, die KI täuschtEine Eingabe, die auf sorgfältig ausgewählte Weise verändert wurde und dadurch ein maschinelles Lernsystem zu einem selbstsicheren Fehler veranlasst. Bei Bildern kann die Veränderung für Menschen nicht wahrnehmbar sein und dennoch bewirken, dass ein neuronales Netz eine andere Kategorie zuweist. Forschende haben auch vergleichbare Angriffe mit Sprache und Text demonstriert.
bestärkendes Lernen
Lernen durch Handlungen und BelohnungenEin Ansatz des maschinellen Lernens, bei dem ein Agent in einer Umgebung handelt und Belohnungen oder Strafen erhält. Der Agent nutzt diese Signale, um seine Entscheidungen im Laufe der Zeit zu verbessern, statt anhand einer Reihe von Beispielen mit gekennzeichneter korrekter Handlung zu lernen. Das Verfahren hat bemerkenswerte Ergebnisse bei Spielen erzielt, deren Regeln und Belohnungen klar definiert sind.
Transferlernen
Erlerntes auf andere Aufgaben übertragenDie Fähigkeit, Wissen oder Fertigkeiten aus einer Aufgabe anzuwenden, um die Leistung bei einer anderen, verwandten Aufgabe zu verbessern. Menschen übertragen Erfahrungen oft ganz selbstverständlich, etwa indem sie beim Erlernen einer neuen Rückschlagsportart auf ihre Vertrautheit mit einer anderen zurückgreifen. Mitchell betont, dass viele KI-Systeme stattdessen für jede Aufgabe separat trainiert werden müssen.
Winograd-Schemata
Tests für kontextbezogenes SprachverständnisKurze Satzpaare, die sich durch eine kleine Formulierungsänderung unterscheiden, durch die festgelegt wird, worauf sich ein Pronomen oder Ausdruck bezieht. Ihre Lösung erfordert im Allgemeinen Alltagswissen über Menschen und Gegenstände. Die Herausforderung wurde als Möglichkeit vorgeschlagen, Sprachverständnis zu testen, ohne einem Programm zu erlauben, sich ausschließlich auf Gesprächstricks zu verlassen.
Kernwissen (core knowledge)
Früh erworbenes intuitives WeltwissenGrundlegendes Wissen über Gegenstände, Lebewesen und andere Menschen, das Menschen von Geburt an besitzen oder früh im Leben entwickeln. Dazu gehören Erwartungen darüber, wie sich Gegenstände verhalten, worin sich Lebewesen von unbelebten Dingen unterscheiden und wie Menschen bei der Verfolgung ihrer Ziele handeln. Dieses Wissen unterstützt Lernen, Vorhersagen und die Interpretation mit gesundem Menschenverstand.
Bongard-Probleme
Rätsel, die visuelle Abstraktion erfordernVisuelle Rätsel, die aus zwei Gruppen von Diagrammen bestehen. Die lösende Person muss das gemeinsame Konzept erkennen, durch das sich die Beispiele der einen Gruppe von denen der anderen unterscheiden. Das relevante Merkmal kann einfach sein, etwa die Größe, oder eine abstrakte Beschreibung erfordern. Mitchell verwendet sie, um zu veranschaulichen, wie schwierig flexible Abstraktion für KI ist.
Copycat
Programm für Analogien mit BuchstabenfolgenEin von Melanie Mitchell und Douglas Hofstadter entwickeltes Computerprogramm zur Lösung von Analogierätseln mit Zeichenfolgen aus Buchstaben. Es verbindet Prozesse, die Merkmale eines Problems erkennen, mit Konzepten wie Nachfolger, Gleichheit und Buchstabengruppe. Mit seinem Entwurf wurde untersucht, wie Analogiebildung und Abstraktion aus dem Zusammenspiel von Wahrnehmung und Vorwissen entstehen könnten.
Bedeutungsbarriere (barrier of meaning)
Lücke zwischen Leistung und VerständnisMitchells Bezeichnung für den Abstand zwischen der erfolgreichen Ausführung einer Aufgabe und dem umfassenderen Verständnis, das Menschen in Wahrnehmung, Sprache und Schlussfolgern einbringen. Heutige KI-Systeme können bei eng umrissenen Aufgaben herausragende Leistungen erbringen, verfügen jedoch möglicherweise nicht über Alltagswissen, robuste Abstraktionsfähigkeit und flexiblen Transfer. Ihre ungewöhnlichen Fehler und ihre Anfälligkeit für Manipulation machen diese Lücke sichtbar.
FAQ
Worum geht es in Artificial Intelligence?
- Auseinandersetzung mit KI: Das Buch bietet einen umfassenden Überblick über künstliche Intelligenz und untersucht ihre Geschichte, ihre heutigen Fähigkeiten und ihre Grenzen.
- Menschliche Intelligenz und Maschinenintelligenz: Es hebt die Unterschiede zwischen menschlicher Intelligenz und KI hervor und betont, dass KI eng umrissene Aufgaben gut bewältigt, aber kein allgemeines Verständnis besitzt.
- Komplexität von Intelligenz: Die Autorin geht auf die Komplexität menschlicher Intelligenz ein, vergleicht sie mit KI und wirft Fragen zu Kreativität, Emotionen und Bewusstsein auf.
Warum sollte ich Artificial Intelligence lesen?
- Fundierte Perspektive: Das Buch bietet eine ausgewogene Sicht auf KI und erörtert sowohl ihr potenzielles Nutzen als auch ethische Fragen.
- Zugängliche Sprache: Durch seine fesselnde Schreibweise macht es komplexe Themen auch für Leserinnen und Leser ohne technischen Hintergrund verständlich.
- Kritisches Denken: Es regt dazu an, kritisch über die Auswirkungen von KI auf die Gesellschaft nachzudenken, und fördert Diskussionen über Vertrauen, Ethik und die künftige Interaktion zwischen Menschen und KI.
Was sind die wichtigsten Erkenntnisse aus Artificial Intelligence?
- Grenzen der KI: Die KI hat bedeutende Fortschritte gemacht, verfügt aber weiterhin nicht über die allgemeine Intelligenz und den gesunden Menschenverstand, die Menschen besitzen.
- Verhältnis zwischen Mensch und KI: Das Buch untersucht das sich wandelnde Verhältnis zwischen Menschen und KI und betont, wie wichtig ethische Erwägungen sind.
- Zukunft der KI: Es erörtert das Potenzial übermenschlicher Intelligenz und die gesellschaftlichen Auswirkungen, die sich aus Fortschritten in der KI ergeben könnten.
Was sind die besten Zitate aus Artificial Intelligence und was bedeuten sie?
- „KI war schwieriger, als wir dachten.“: Dieses Zitat unterstreicht, wie komplex es ist, menschenähnliche Intelligenz in Maschinen nachzubilden.
- „Wir neigen dazu, die Fortschritte der KI zu überschätzen …“: Es warnt vor dem Hype um KI und erinnert daran, wie komplex menschliche Intelligenz ist.
- „Die Dummheit von Maschinen birgt ein Randrisiko.“: Dies verweist auf die möglichen Gefahren, die entstehen, wenn man sich auf KI-Systeme ohne echtes Verständnis verlässt.
Wie definiert Artificial Intelligence künstliche Intelligenz?
- Symbolische und subsymbolische KI: Das Buch behandelt symbolische KI, die für Menschen verständliche Symbole verwendet, sowie subsymbolische KI, die auf neuronalen Netzen beruht.
- Komplexität von Intelligenz: Intelligenz wird als Zusammenspiel verschiedener Dimensionen verstanden, darunter emotionale, sprachliche und logische Intelligenz.
- Ziele der KI: KI soll Aspekte menschlicher Intelligenz nachbilden oder simulieren; das Erreichen echter allgemeiner Intelligenz bleibt jedoch eine Herausforderung.
Welche wichtigen KI-Methoden werden in Artificial Intelligence behandelt?
- Deep Learning: Diese Methode nutzt tiefe neuronale Netze, um aus riesigen Datenmengen zu lernen, und prägt die heutige KI-Forschung maßgeblich.
- Bestärkendes Lernen: Dabei werden Agenten darauf trainiert, Entscheidungen auf Grundlage von Belohnungen und Strafen zu treffen, sodass sie optimale Verhaltensweisen erlernen können.
- Monte-Carlo-Baumsuche: Diese Methode wird in spielender KI verwendet und simuliert mögliche zukünftige Züge, um die beste Handlung zu bestimmen.
Wie behandelt Artificial Intelligence die ethischen Auswirkungen von KI?
- Verzerrungen in KI-Systemen: Das Buch erörtert, wie KI gesellschaftliche Verzerrungen fortschreiben kann, insbesondere bei Anwendungen wie Gesichtserkennung.
- Notwendigkeit von Regulierung: Es plädiert für eine durchdachte Regulierung, damit KI-Technologien verantwortungsvoll entwickelt und eingesetzt werden.
- Moralische Maschinen: Es wirft die Frage auf, ob Maschinen über moralisches Urteilsvermögen verfügen können und wie sich die Werte von KI-Systemen an menschlichen Werten ausrichten lassen.
Welche Herausforderungen gibt es laut Artificial Intelligence auf dem Weg zu allgemeiner KI?
- Komplexität menschlicher Intelligenz: Menschliche Intelligenz umfasst das Verständnis von Kontext, Emotionen und sozialen Interaktionen, das KI nur schwer nachbilden kann.
- Grenzen des Transferlernens: Anders als Menschen können heutige KI-Systeme Wissen nur schwer von einer Aufgabe auf eine andere übertragen.
- Problem des langen Rattenschwanzes: KI-Systeme versagen häufig in seltenen oder unerwarteten Situationen. Das zeigt, wie wichtig robuste Lernmethoden sind.
Wie veranschaulicht Artificial Intelligence den Unterschied zwischen menschlichem Lernen und maschinellem Lernen?
- Lernen anhand weniger Beispiele: Menschen können neue Konzepte anhand weniger Beispiele erlernen, während KI riesige Mengen gekennzeichneter Daten benötigt.
- Erkunden und Ausnutzen: Menschen halten auf natürliche Weise ein Gleichgewicht zwischen dem Erkunden neuer Möglichkeiten und dem Nutzen bekannter Strategien – ein Gleichgewicht, das KI schwerfällt.
- Alltagswissen: Menschen verfügen über einen reichen Schatz an Alltagswissen, der ihre Entscheidungen prägt und der heutigen KI fehlt.
Welche Bedeutung hat bestärkendes Lernen in Artificial Intelligence?
- Lernen durch Interaktion: Bestärkendes Lernen ermöglicht KI-Systemen, durch die Interaktion mit ihrer Umgebung Entscheidungen zu treffen.
- Anwendungen im Gaming: Am Beispiel von AlphaGo zeigt sich das Potenzial des bestärkenden Lernens, komplexe Aufgaben zu meistern.
- Herausforderungen bei Anwendungen in der realen Welt: Bestärkendes Lernen aus Spielen auf Anwendungen in der realen Welt zu übertragen, bleibt schwierig.
Wie behandelt Artificial Intelligence die Verarbeitung natürlicher Sprache (NLP)?
- Komplexität der Sprache: NLP-Systeme haben Schwierigkeiten, menschliche Sprache zu verstehen, da diese mehrdeutig und kontextabhängig ist.
- Fortschritte und Grenzen: Deep Learning hat die Verarbeitung natürlicher Sprache vorangebracht, doch diesen Systemen fehlt oft echtes Verständnis.
- Künftige Entwicklungen: Für Verbesserungen müssen Alltagswissen und Schlussfolgerungsfähigkeiten einbezogen werden, um menschenähnliche Antworten zu ermöglichen.
Welche Rolle spielt der gesunde Menschenverstand laut Artificial Intelligence für KI?
- Grundlage des Verstehens: Gesunder Menschenverstand ist für menschliche Intelligenz entscheidend, fehlt der KI derzeit jedoch.
- Herausforderungen bei der KI-Entwicklung: Gesunden Menschenverstand in KI zu verankern ist schwierig, da ein großer Teil dieses Wissens unbewusst ist.
- Forschungsbemühungen: Laufende Forschungsarbeiten zielen darauf ab, KI-Systeme mit Fähigkeiten zum Schlussfolgern auf Grundlage von Alltagswissen zu entwickeln.
Pelican Books Serie Buchreihe
PDF herunterladen
EPUB herunterladen
.epub eignet sich ideal zum Lesen auf Smartphones, Tablets und E-Readern.