Kluczowe wnioski
Zanim nazwiesz maszynę inteligentną, odróżnij wąskie kompetencje od inteligencji ogólnej.
Niepokojący występ. Podczas spotkania w Google pionier sztucznej inteligencji Douglas Hofstadter opowiadał, jak program o nazwie EMI komponował muzykę tak podobną do utworów Chopina, że zmylił ekspertów muzycznych. Hofstadter sądził, że twórczość oprze się mechanicznemu naśladownictwu. To doświadczenie zaniepokoiło go nie dlatego, że program był świadomy, lecz dlatego, że ograniczony zbiór reguł mógł dać w rezultacie coś brzmiącego głęboko po ludzku. Książka wykorzystuje to napięcie, by odróżnić wąską sztuczną inteligencję, wykonującą określone zadanie, od inteligencji ogólnej, która elastycznie łączy zdolności w rozmaitych sytuacjach.
Test może wprowadzać w błąd. W 2014 roku chatbot podający się za trzynastolatka zmylił jedną trzecią sędziów podczas krótkich rozmów. Wynik ten nie dowodził szerokiego rozumienia: bot potrafił wymijać pytania, zmieniać temat i polegać na celowo ograniczonej personie. Maszyna może skutecznie wykonać zadanie, nie posiadając szerszych zdolności, które ludzie kojarzą z inteligencją.
Uderza to, jak łatwo imponujący wynik staje się twierdzeniem o całym umyśle. Różnica między wykonaniem zadania a ogólną zdolnością przypomina różnicę między zdaniem jednego egzaminu a umiejętnością wykorzystania wiedzy w nieznanych okolicznościach. Zdolność chatbota do prowadzenia krótkiej rozmowy jest rzeczywista, ale stanowi słaby dowód na to, że rozumie on świat. Ta sama ostrożność dotyczy ludzkiej biegłości: umiejętność w jednej dziedzinie rzadko dowodzi kompetencji we wszystkich. Nie chodzi o to, by lekceważyć wyspecjalizowane systemy, lecz by precyzyjnie opisywać, co robią i czego ich sukces nie dowodzi.
Każdy boom na sztuczną inteligencję traktuj jako obietnicę do sprawdzenia, nie proroctwo.
Powracający cykl. Podczas warsztatów w Dartmouth w 1956 roku badacze wysunęli tezę, że maszyny mogą symulować wszystkie przejawy inteligencji, i przewidywali znaczny postęp w krótkim czasie. Niektóre wczesne prognozy zapowiadały osiągnięcie ludzkich zdolności w ciągu jednego pokolenia. Dziedzina napotkała jednak poważne ograniczenia, a finansowanie zmalało, gdy nie ziściły się szeroko zakrojone obietnice dotyczące języka, rozumowania i robotyki. Kolejne fale entuzjazmu i rozczarowania zaczęto nazywać wiosnami i zimami sztucznej inteligencji.
Schemat się powtarza. Mitchell opisuje optymizm związany z sieciami neuronowymi, systemami ekspertowymi, a później uczeniem głębokim jako część tej historii. Nowe metody przyciągają inwestycje i wywołują sensacyjne nagłówki; gdy ich skuteczność nie dorównuje obietnicom, poparcie słabnie. Historia ta nie dowodzi, że postęp jest niemożliwy. Pokazuje jednak, dlaczego twierdzenia o rychłym nadejściu inteligencji ogólnej powinny opierać się na dowodach rzeczywistych zdolności, a nie tylko na pewności siebie, inwestycjach czy pamiętnym pokazie.
Cykle rozkwitu i załamania to coś więcej niż przestroga przed nadmierną pewnością siebie naukowców. Pokazują, jak wzajemnie wzmacniają się oczekiwania społeczne, finansowanie i priorytety badawcze. Dziedzina może rozwijać zadania o wartości komercyjnej, podczas gdy nagłówki sugerują, że rozwiązuje problem samej inteligencji. Ta rozbieżność może przesłaniać rzeczywiste postępy i wywoływać niepotrzebną reakcję, gdy szerokie obietnice zawodzą. Sceptycyzm jest najbardziej użyteczny, gdy domaga się mierzalnych twierdzeń i jasnych harmonogramów, zamiast traktować każdą prognozę jako proroctwo albo nonsens.
Szybsze układy scalone nie sprawiają automatycznie, że umysły stają się wykładniczo bardziej wszechstronne.
Wykładnicze krzywe robią wrażenie. Prognozy Raya Kurzweila dotyczące rychłego osiągnięcia przez AI poziomu ludzkiego opierają się w dużej mierze na wykładniczym wzroście technologicznym, w tym na historycznym podwajaniu liczby elementów na układach komputerowych co rok lub dwa. Książka obrazowo przedstawia ten schemat za pomocą przypowieści: podwajanie liczby ziaren ryżu na kolejnych polach szachownicy początkowo wydaje się łatwe do opanowania, lecz wkrótce przekracza możliwości całego królestwa.
Postęp przebiega w różnym tempie. Argument zakłada, że wzrost mocy obliczeniowej może odblokować szerszą inteligencję, między innymi dzięki inżynierii wstecznej mózgu. Mitchell zauważa, że sprzęt rozwijał się szybko, ale oprogramowanie nie wykazywało podobnego, stałego wzrostu wykładniczego. Sama moc obliczeniowa nie wyjaśnia też, jak maszyna miałaby zdobyć zdrowy rozsądek, uczyć się na podstawie ograniczonego doświadczenia czy integrować różne zdolności. Rozciąganie jednej krzywej na te odmienne wyzwania grozi pomyleniem szybszych obliczeń z rozwiązaniem problemu inteligencji.
Przydatne jest tu oddzielenie rzeczywistego trendu od wniosku, który ktoś chce z niego wyciągnąć. Wykładniczy wzrost może sprawiać, że zmiany pozostają niewidoczne, dopóki ich skutki nie staną się dramatyczne, ale krzywa w jednej dziedzinie nie gwarantuje podobnej krzywej w innej. Moc obliczeniowa jest nakładem na rozwój AI, a nie teorią poznania. Argument pozostawia też miejsce na niespodzianki: nowa, skuteczna metoda może zmienić kierunek rozwoju. Rozsądna reakcja polega ani na ślepym ekstrapolowaniu, ani na założeniu, że obecne ograniczenia są niezmienne.
Przełom w uczeniu głębokim zależał od danych, mocy obliczeniowej i ludzkiego wkładu.
Przełom oparty na solidnych podstawach. Uczenie głębokie polega na trenowaniu sieci neuronowych z wieloma warstwami ukrytymi, by wykrywały wzorce w danych. W rozpoznawaniu obrazów sieci te stały się szczególnie skuteczne, gdy badacze mogli trenować je na ogromnych zbiorach opisanych obrazów, korzystając z szybszych komputerów. Zbiór ImageNet zawierał 1,2 miliona obrazów treningowych z tysiąca kategorii. W 2012 roku AlexNet, konwolucyjna sieć neuronowa, podniosła dokładność w pierwszej piątce w konkursie z 74 do 85 procent.
Uczenie nadal wymaga pracy. Ludzie musieli sprawdzić i opisać obrazy w zbiorze ImageNet, a badacze zaprojektować sieć i dostroić jej parametry. Uczenie nadzorowane oznacza, że system uczy się na przykładach zestawionych z odpowiedziami dostarczonymi przez ludzi. Sieć dostosowuje wewnętrzne wagi liczbowe, by ograniczać liczbę błędów. Rezultaty mogą być imponujące, ale opisywanie tego procesu jako samodzielnego uczenia się maszyny ukrywa ludzką pracę, dzięki której trening jest możliwy.
Ta historia koryguje częste nieporozumienie: systemy oparte na danych nie są wolne od ludzkich osądów. Ludzie wybierają przykłady, definiują kategorie, określają kryteria sukcesu i dostrajają mechanizmy. Przypomina to pomiary naukowe: instrumenty poszerzają zakres obserwacji, ale nadal zależą od decyzji o tym, co mierzyć. Wzrost skuteczności jest znaczny, lecz praca i decyzje projektowe stanowią część technologii, a nie jedynie jej tymczasowe rusztowanie. Ma to znaczenie przy ocenie kosztów, odpowiedzialności i tego, czyje założenia zostają wpisane w system.
Domagaj się testów porażek obok wyników testów porównawczych.
Wynik ma swoje granice. Do 2017 roku czołowy system ImageNet osiągnął dokładność 98 procent w konkursowej mierze „pierwszej piątki”: wystarczyło, by poprawna etykieta znalazła się wśród pięciu propozycji. Jego dokładność w pierwszej pozycji wynosiła około 82 procent. Żadna z tych liczb nie gwarantowała, że system rozpoznaje obiekty tak jak ludzie. Na przykład sieć trenowana do wykrywania zwierząt częściowo polegała na rozmytym tle, bo takie tło często pojawiało się na zdjęciach zwierząt.
Błędy bywają osobliwe. Przykład adwersarialny to dane wejściowe zmienione w sposób niezauważalny dla ludzi, który może skłonić sieć neuronową do pewnego siebie, lecz błędnego sklasyfikowania ich. Badacze pokazali takie błędy na obrazach, w tym na znakach drogowych. Dane treningowe mogą też zawierać uprzedzenia społeczne: książka podaje, że systemy rozpoznawania twarzy popełniały więcej błędów w przypadku niektórych grup rasowych, i przytacza test, w którym system Amazona błędnie dopasował 28 członków Kongresu do osób z bazy danych zatrzymanych. Wysokie wyniki testów porównawczych nie rozstrzygają kwestii niezawodności ani sprawiedliwości.
Testy porównawcze są cenne, bo umożliwiają zestawianie wyników, ale mierzą zaprojektowane zadania, a nie potwierdzają uniwersalnych kompetencji. Różnica między dokładnością w pierwszej piątce a dokładnością w pierwszej pozycji pokazuje, jak bardzo definicja miary może kształtować nagłówek. Rzetelna ocena powinna też sprawdzać, co się dzieje przy zmienionych danych wejściowych, w nieznanych warunkach i w różnych grupach demograficznych. Wzorzec błędów systemu może mieć większe znaczenie niż jego średni wynik, gdy decyzja wpływa na bezpieczeństwo lub dostęp do usług. Wskaźniki wymagają kontekstu, a wdrożenie — kontroli wykraczającej poza tabelę wyników.
Mistrz gry może nadal być intelektualnym specjalistą bez zdolności przenoszenia umiejętności.
Nagrody uczą działań. Uczenie przez wzmacnianie trenuje agenta za pomocą działań i nagród, a nie przykładów z etykietami. W prostym przykładzie z robotem grającym w piłkę, opisanym w książce, robot stopniowo uczy się, że zbliżenie się do piłki może przynieść nagrodę za kopnięcie jej. DeepMind połączył to podejście z sieciami neuronowymi, by trenować systemy do gier Atari i Go. AlphaGo Zero nauczył się gry Go, rozgrywając partie z samym sobą, zaczynając od samych reguł, a nie przykładów ludzkich rozgrywek; pokonał wcześniejsze wersje AlphaGo.
Sukces pozostaje ograniczony. Uczenie transferowe polega na wykorzystaniu doświadczenia z jednego zadania, by pomóc sobie w innym. Mitchell zauważa, że te systemy na ogół nie robią tego tak jak ludzie: sieć trenowaną do jednej gry Atari trzeba osobno trenować do kolejnej, a AlphaGo nie potrafi zastosować umiejętności gry w Go do niezwiązanych z nią zadań. System może wypracować zwycięską strategię w grze, nie dysponując pojęciami, które pomogłyby mu dostosować się do drobnych zmian w jej regułach, a tym bardziej do codziennego życia.
Osiągnięcie jest niezwykłe właśnie dlatego, że nie chodzi o umysł ogólnego przeznaczenia. Gra z samym sobą pozwala systemowi doskonalić się bez dostarczania mu przez człowieka poprawnych ruchów, ale jego uczenie nadal kształtują reguły, nagroda i granice środowiska. To rozróżnienie przydaje się także poza grami: optymalizacja może przynosić nadzwyczajne rezultaty w jasno określonym problemie, a mimo to nie przenosić się poza jego granice. Uogólnianie nie jest więc dodatkową funkcją. To osobna zdolność, którą trzeba sprawdzić, a nie wywnioskować ze spektakularnego zwycięstwa.
Płynne wypowiedzi mogą skrywać brak wiedzy maszyny o świecie.
Język opiera się na kontekście. W restauracyjnej anegdocie Mitchell klient zamawia hamburgera wysmażonego na krwisto, dostaje przypalony i wychodzi zły. Ludzie wnioskują, że prawdopodobnie go nie zjadł. System językowy musiałby powiązać zwyczaje restauracyjne, sarkazm, idiomy i kolejność zdarzeń, by dojść do takiej odpowiedzi. Współczesne systemy rozpoznawania mowy potrafią wiernie zapisywać wypowiedzi, nie rozumiejąc znaczenia słów.
Wzorce to nie wszystko. Systemy tłumaczenia neuronowego uczą się na dużych zbiorach zdań przetłumaczonych przez ludzi. Mogą być niezwykle użyteczne, ale przykłady z książki pokazują, że mylą różne znaczenia słów takich jak bill albo tłumaczą idiomy dosłownie. System może też dobrze wypadać w testach czytania, w których trzeba odnaleźć w akapicie odpowiedź podaną wprost, nie wykazując przy tym, że potrafi rozumować o znaczeniu domyślnym. Płynność językowa świadczy o przydatnym rozpoznawaniu wzorców, a nie dowodzi rozumienia.
Różnicę między płynną formą a zakorzenionym w świecie znaczeniem łatwo przeoczyć, bo ludzie odruchowo traktują język jako dowód rozumienia przez mówiącego. Dlatego systemom językowym szczególnie łatwo przypisywać ludzkie cechy. Nie powinno to jednak przesłaniać ich praktycznej wartości: transkrypcja i tłumaczenie mogą oszczędzać czas, nawet jeśli zawodzą przy niuansach. Rozsądnie jest ufać im w zależności od celu. Wyszukiwanie na potrzeby codziennych spraw dopuszcza błędy, na które nie ma miejsca w komunikacji prawnej, medycznej czy dyplomatycznej, zwłaszcza gdy znaczenie niosą ton i implikacje.
Oprzyj inteligencję na zdrowym rozsądku, abstrakcji i doświadczeniu świata.
Ludzie wnoszą ukrytą wiedzę. Wiedza podstawowa (core knowledge) to rozwijające się we wczesnym okresie życia rozumienie przedmiotów, istot żywych i innych ludzi. Ludzie posługują się intuicyjną fizyką, by przewidywać ruch przedmiotów, intuicyjną biologią, by odróżnić psa od wózka dziecięcego, oraz intuicyjną psychologią, by przewidywać cele i uczucia. Zdolności te wspierają budowanie modeli mentalnych: wyobrażeń, dzięki którym ludzie mogą sobie przedstawiać, co wydarzy się dalej albo jak sytuacja może się zmienić.
Abstrakcja łączy sytuacje. Problemy Bongarda przedstawiają niewielkie zestawy diagramów i pytają o wspólną cechę odróżniającą jedną grupę od drugiej. Ludzie często potrafią rozpoznać istotny wzorzec na podstawie zaledwie kilkunastu przykładów, podczas gdy w badaniu opisanym w książce sieci neuronowe trenowane na 20 tysiącach przykładów prostego zadania typu „takie samo czy inne” radziły sobie tylko nieznacznie lepiej niż zgadywanie. Mitchell argumentuje, że analogia pomaga ludziom dostrzec, co jest istotne w różnych sytuacjach. Zdolność maszyny do klasyfikowania znanych przykładów nie gwarantuje tak elastycznej abstrakcji.
W tym ujęciu inteligencja przypomina mniej magazyn faktów, a bardziej system modelowania sytuacji i przenoszenia relacji z jednej sytuacji na drugą. To przekonujące wyjaśnienie, dlaczego dzieci uczą się pojęć na podstawie tak niewielu przykładów. Rodzi też otwarte pytanie: czy maszyny muszą dzielić z ludźmi doświadczenie cielesne, by zdobyć użyteczny zdrowy rozsądek, czy też równoważne zakorzenienie mogą zapewnić inne formy interakcji? Książka przedstawia ucieleśnienie jako przekonującą możliwość, nie zaś rozstrzygnięty wymóg. To rozróżnienie pozwala zachować rozmach hipotezy, nie uznając jej za dowiedzioną.
Nie zwalniaj ludzi z odpowiedzialności, gdy decyzje AI niosą poważne konsekwencje.
Korzyści nie wymazują zagrożeń. AI może wspierać nawigację, dostępność, badania medyczne i wykonywanie powtarzalnej pracy. Jednak systemy wykorzystywane do prowadzenia pojazdów, rozpoznawania twarzy czy podejmowania decyzji o poważnych skutkach mogą być zawodne, stronnicze, trudne do wyjaśnienia lub podatne na manipulację. Przytoczone w książce badanie ankietowe z 2018 roku, obejmujące ekspertów technologicznych, wykazało, że 63 procent spodziewało się, iż do 2030 roku AI poprawi sytuację ludzi, a 37 procent było przeciwnego zdania.
Zarządzanie jest częścią projektowania. Rozpoznawanie twarzy pokazuje, jak wiele od tego zależy: błędne dopasowanie może pozbawić kogoś dostępu lub wzbudzić podejrzenia, a nierówne wskaźniki błędów mogą pogłębiać istniejącą dyskryminację. Mitchell uważa, że nie należy pozostawiać ekspertów technicznych i firm samoregulacji. Rząd, uniwersytety, firmy i grupy działające w interesie publicznym powinny wspólnie ustalać zasady. Istotne pytanie nie brzmi po prostu, czy system AI jest dokładny, ale czy jego błędy, zastosowania i skutki są dopuszczalne w sytuacji, w której działa.
Praktyczna przestroga zawarta w książce dotyczy niewłaściwie ulokowanego zaufania, a nie tylko przyszłych motywów maszyn. Gdy system zostaje osadzony w instytucjach, jego założenia projektowe mogą wpływać na ludzi, którzy nigdy nie zdecydowali się z niego korzystać. Nadzór człowieka ma znaczenie tylko wtedy, gdy dana osoba ma uprawnienia, informacje i czas, by zakwestionować rekomendację. W przeciwnym razie człowiek w pętli może stać się jedynie ceremonialną osłoną automatyzacji. Regulacje powinny zatem obejmować cały proces decyzyjny, w tym wskazywać, kto odpowiada, gdy system zawiedzie.
Oceniaj twórczość po zdolności rozróżniania, a nie po samym rezultacie.
Naśladownictwo może nas poruszyć. EMI, program muzyczny Davida Cope’a, tworzył utwory wzorowane na kompozytorach klasycznych. Cope wybierał wzorce muzyczne, budował reguły ich łączenia i decydował, które rezultaty opublikować. Niektóre utwory brzmiały na tyle przekonująco, że zmyliły wykształconych muzyków. Ich oddziaływanie zaniepokoiło Hofstadtera, który obawiał się, że ludzka twórczość okaże się mechanicznie prosta.
Tworzenie obejmuje ocenę. Mitchell argumentuje, że stworzenie dzieła, które się podoba, nie jest tym samym co jego rozumienie czy ocena. W przypadku EMI to Cope dostarczył wiedzę muzyczną i wybierał udane kompozycje; program nie potrafił ocenić ich wartości emocjonalnej ani artystycznej. Mitchell dopuszcza, że komputery mogłyby być twórcze w zasadzie, ale twierdzi, że istniejące systemy nie spełniają tego pełniejszego kryterium. Jej pogląd pozwala zachować ważne rozróżnienie: maszyna może wnosić nowy materiał do procesu twórczego, nawet jeśli człowiek nadal zapewnia wyczucie, interpretację i odpowiedzialność.
Rozróżnienie między tworzeniem a ocenianiem jest pouczające, choć może stawiać maszynowej twórczości bardzo wysokie wymagania. Ludzcy artyści również pracują z odziedziczonymi formami, narzędziami, współpracownikami i reakcjami odbiorców. Nie odbiera to ich pracy twórczego charakteru, ale komplikuje założenie, że twórczość wymaga samotnego, autorefleksyjnego umysłu. Warto zapytać, jaki rodzaj sprawczości wnosi system: czy tylko tworzy warianty, czy też potrafi wybierać, poprawiać i wyjaśniać decyzje w odniesieniu do celu? Odpowiedź może mieścić się na pewnym kontinuum, zamiast sprowadzać się do prostego „tak” lub „nie”.
Analiza
Głównym osiągnięciem Mitchell jest zastąpienie nieprecyzyjnego pytania, czy maszyny są inteligentne, pytaniami, na które łatwiej odpowiedzieć: Jakie zadanie zdefiniowano? Na jakich przykładach trenowano system? Co dokładnie uznano za sukces? Jak system zawodzi poza warunkami testu? Ta zmiana przekształca AI z konkursu na metafizyczne etykiety w przedmiot badań empirycznych. Program może przewyższać ludzi w ograniczonym zadaniu, nie odtwarzając przez to elastycznych zdolności, dzięki którym ludzie przenoszą swoje kompetencje między różnymi sytuacjami.
Najmocniejsze dowody w książce wynikają z kontrastów. Dokładności w ImageNet towarzyszą błędne klasyfikacje, uprzedzenia i podatność na przykłady adwersarialne. Imponującym strategiom AlphaGo przeciwstawiona jest niezdolność do wykorzystania tej nauki w innych dziedzinach. Płynności tłumaczenia neuronowego — trudności z idiomami i kontekstem. Kontrasty te nie przekreślają osiągnięć. Pokazują, że skuteczność ma wiele wymiarów, a pojedyncza miara może ukrywać właśnie te ograniczenia, które mają znaczenie we wdrożeniu.
W argumentacji występuje też owocne napięcie. Mitchell uznaje zdrowy rozsądek, abstrakcję, analogię i doświadczenie ucieleśnione za prawdopodobne składniki inteligencji ogólnej, a zarazem przyznaje, że same te pojęcia są nadal niedoskonale rozumiane. Tej niepewności nie należy zbywać. Wyznacza ona granicę między użytecznym programem badawczym a ustaloną teorią. Ludzkie rozumienie może jednak nie być jedyną drogą do niezawodnych systemów: wyspecjalizowane narzędzie może być godne zaufania dzięki ograniczeniom, weryfikacji i kontroli człowieka, nie posiadając ludzkiego modelu mentalnego. Praktycznym kryterium powinno być zatem dostosowanie do celu, a nie podobieństwo do ludzi.
Najtrwalsza lekcja płynąca z książki ma charakter metodologiczny. Traktuj twierdzenia dotyczące AI jako twierdzenia o systemach działających w określonych warunkach, a nie jako deklaracje, że problem inteligencji został rozwiązany albo wkrótce zostanie. Mierz nie tylko przeciętną skuteczność, lecz także odporność, przenoszenie umiejętności, rozkład błędów, stronniczość i odpowiedzialność. Najpilniejszym zagrożeniem nie musi być sztuczny umysł o nieograniczonej mocy. Może nim być zwyczajna decyzja instytucjonalna, by powierzyć omylnym systemom władzę, której nie uzasadniają ich sprawdzone kompetencje.
Podsumowanie recenzji
Artificial Intelligence: A Guide for Thinking Humans przedstawia wyważony przegląd obecnego stanu sztucznej inteligencji i jej przyszłych możliwości. Czytelnicy doceniają jasne objaśnienia złożonych zagadnień, sceptycyzm Mitchell wobec przesadnego entuzjazmu wokół AI oraz omówienie ograniczeń tej technologii. Książka porusza historię sztucznej inteligencji, niedawne przełomy i kwestie etyczne. Choć niektórzy uważają, że niektóre fragmenty są trudne, większość chwali przystępny styl Mitchell. Część czytelników zauważa, że wskutek szybkiego rozwoju sztucznej inteligencji niektóre treści zdążyły się zdezaktualizować, zwłaszcza w odniesieniu do modeli językowych, ale nadal cenią fundamentalną wiedzę zawartą w książce.
Inni czytali również
Słowniczek
wąska sztuczna inteligencja
Sztuczna inteligencja przeznaczona do konkretnych zadańSystem sztucznej inteligencji zaprojektowany do wykonywania jednego, ściśle określonego zadania lub niewielkiego zbioru powiązanych zadań. Program może osiągnąć wyjątkową biegłość w grze Go, klasyfikowaniu obrazów lub tłumaczeniu, a jednocześnie nie potrafić szeroko wykorzystywać swoich umiejętności. Termin ten przeciwstawia się ogólnej sztucznej inteligencji, która łączyłaby zdolności w wielu rodzajach sytuacji.
uczenie głębokie
Trenowanie wielowarstwowych sieci neuronowychRodzina metod uczenia maszynowego polegających na trenowaniu sieci neuronowych z wieloma warstwami ukrytymi. Określenie „głębokie” odnosi się do liczby warstw ukrytych, a niekoniecznie do zaawansowania czy znaczenia tego, czego system się uczy. Uczenie głębokie odniosło duży sukces, gdy stały się dostępne obszerne zbiory danych i wydajny sprzęt komputerowy.
uczenie nadzorowane
Uczenie się na oznaczonych przykładachMetoda trenowania, w której system otrzymuje przykłady wraz z prawidłowymi odpowiedziami, zwanymi etykietami. Porównuje swoje przewidywania z tymi odpowiedziami i dostosowuje wewnętrzne parametry, aby ograniczyć liczbę błędów. Na przykład system uczący się rozpoznawać odręcznie zapisane cyfry korzysta z obrazów oznaczonych przez ludzi odpowiadającymi im cyframi.
konwolucyjna sieć neuronowa
Sieć do rozpoznawania przestrzennych wzorców na obrazachArchitektura sieci neuronowej powszechnie stosowana w przetwarzaniu obrazów. Wykorzystuje wyuczone filtry w lokalnych obszarach obrazu, tworząc warstwowe reprezentacje cech, które mogą stawać się coraz bardziej złożone. Konwolucyjne sieci neuronowe umożliwiły znaczący postęp w rozpoznawaniu obiektów, choć ich klasyfikacje mogą opierać się na mylących korelacjach występujących na obrazach.
przykład adwersarialny
Dane wejściowe spreparowane, by zmylić sztuczną inteligencjęDane wejściowe zmienione w starannie dobrany sposób, który powoduje, że system uczenia maszynowego popełnia pewny siebie błąd. W przykładach obrazowych zmiana może być dla ludzi niezauważalna, a jednocześnie skłonić sieć neuronową do przypisania innej kategorii. Badacze zademonstrowali również podobne ataki z użyciem mowy i tekstu.
uczenie przez wzmacnianie
Uczenie się przez działania i nagrodyPodejście do uczenia maszynowego, w którym agent działa w środowisku i otrzymuje nagrody lub kary. Wykorzystuje te sygnały, by z czasem poprawiać swoje wybory, zamiast uczyć się na zbiorze przykładów oznaczonych prawidłowymi działaniami. Podejście to przyniosło znaczące rezultaty w grach, w których reguły i nagrody są jasno określone.
uczenie transferowe
Wykorzystywanie zdobytej wiedzy w innych zadaniachZdolność wykorzystywania wiedzy lub umiejętności zdobytych podczas jednego zadania do poprawy wyników w innym, pokrewnym zadaniu. Ludzie często naturalnie przenoszą doświadczenie, na przykład wykorzystując znajomość jednej dyscypliny rakietowej podczas nauki innej. Mitchell podkreśla, że wiele systemów sztucznej inteligencji trzeba natomiast trenować osobno do każdego zadania.
schematy Winograda (Winograd schemas)
Testy rozumowania językowego uwzględniającego kontekstKrótkie pary zdań różniące się niewielką zmianą sformułowania, która decyduje o tym, do czego odnosi się zaimek lub wyrażenie. Ich rozwiązanie wymaga zazwyczaj codziennej wiedzy o ludziach i przedmiotach. Wyzwanie to zaproponowano jako sposób testowania rozumienia języka bez umożliwiania programowi polegania wyłącznie na konwersacyjnych sztuczkach.
wiedza podstawowa (core knowledge)
Wczesna, intuicyjna wiedza o świeciePodstawowa wiedza o przedmiotach, istotach żywych i innych ludziach, którą ludzie posiadają lub rozwijają we wczesnym okresie życia. Obejmuje oczekiwania dotyczące zachowania przedmiotów, różnic między istotami żywymi a nieożywionymi oraz tego, jak ludzie działają, dążąc do swoich celów. Wiedza ta wspiera uczenie się, przewidywanie i interpretację opartą na zdrowym rozsądku.
problemy Bongarda
Zagadki wymagające abstrakcji wzrokowejZagadki wizualne składające się z dwóch grup diagramów. Rozwiązujący musi wskazać wspólną cechę, która odróżnia przykłady po jednej stronie od tych po drugiej. Istotna cecha może być prosta, na przykład dotyczyć rozmiaru, albo wymagać wymyślenia abstrakcyjnego opisu. Mitchell wykorzystuje te zagadki, by pokazać, jak trudna dla sztucznej inteligencji jest elastyczna abstrakcja.
Copycat
Program do rozwiązywania analogii między ciągami literProgram komputerowy opracowany przez Melanie Mitchell i Douglasa Hofstadtera do rozwiązywania zagadek analogicznych dotyczących ciągów liter. Łączy procesy dostrzegające cechy zadania z pojęciami takimi jak następstwo, identyczność i grupa liter. Jego konstrukcja badała, jak analogia i abstrakcja mogą powstawać w wyniku interakcji między percepcją a wcześniejszymi pojęciami.
bariera znaczenia (barrier of meaning)
Różnica między skutecznością a rozumieniemOkreślenie Mitchell opisujące dystans między skutecznym wykonywaniem zadań a głębszym rozumieniem, jakie ludzie wnoszą do percepcji, języka i rozumowania. Obecne systemy sztucznej inteligencji mogą doskonale radzić sobie z wąsko określonymi zadaniami, a jednocześnie nie dysponować wiedzą opartą na zdrowym rozsądku, solidną zdolnością abstrakcji ani elastycznym przenoszeniem umiejętności. Ich nietypowe błędy i podatność na manipulację pomagają ujawnić tę różnicę.
FAQ
O czym jest książka Artificial Intelligence?
- Omówienie sztucznej inteligencji: Książka przedstawia wszechstronny przegląd sztucznej inteligencji, analizując jej historię, obecne możliwości i ograniczenia.
- Inteligencja ludzka a maszynowa: Ukazuje różnice między ludzką inteligencją a sztuczną inteligencją, podkreślając biegłość AI w wąskich zadaniach, ale brak ogólnego rozumienia.
- Złożoność inteligencji: Autorka zgłębia złożoność ludzkiej inteligencji, porównuje ją ze sztuczną inteligencją i stawia pytania o kreatywność, emocje i świadomość.
Dlaczego warto przeczytać książkę Artificial Intelligence?
- Rzetelna perspektywa: Książka przedstawia wyważony obraz sztucznej inteligencji, omawiając zarówno jej potencjalne korzyści, jak i kwestie etyczne.
- Przystępny język: Została napisana w angażujący sposób i objaśnia złożone tematy czytelnikom bez przygotowania technicznego.
- Krytyczne myślenie: Zachęca czytelników do krytycznej refleksji nad wpływem sztucznej inteligencji na społeczeństwo, skłaniając do rozmów o zaufaniu, etyce i przyszłych interakcjach ludzi z AI.
Jakie są najważniejsze wnioski z książki Artificial Intelligence?
- Ograniczenia AI: Sztuczna inteligencja poczyniła znaczne postępy, lecz nadal brakuje jej ogólnej inteligencji i zdrowego rozsądku, którymi dysponują ludzie.
- Relacja ludzi z AI: Książka analizuje zmieniające się relacje ludzi ze sztuczną inteligencją i podkreśla potrzebę uwzględniania kwestii etycznych.
- Przyszłość AI: Omawia możliwość powstania inteligencji przewyższającej ludzką oraz społeczne skutki, jakie mogą przynieść postępy w dziedzinie sztucznej inteligencji.
Jakie są najlepsze cytaty z książki Artificial Intelligence i co oznaczają?
- „AI okazała się trudniejsza, niż sądziliśmy.”: Cytat podkreśla złożoność odtwarzania w maszynach inteligencji podobnej do ludzkiej.
- „Mamy skłonność do przeceniania postępów AI...”: To przestroga przed przesadnym entuzjazmem wokół sztucznej inteligencji i przypomnienie o złożoności ludzkiej inteligencji.
- „Maszyny popełniające głupie błędy stwarzają ryzyko rzadkich, poważnych zdarzeń.”: Cytat zwraca uwagę na potencjalne zagrożenia wynikające z polegania na systemach AI pozbawionych prawdziwego rozumienia.
Jak książka Artificial Intelligence definiuje sztuczną inteligencję?
- Symboliczna i subsymboliczna sztuczna inteligencja: Książka omawia symboliczną AI, która wykorzystuje symbole zrozumiałe dla człowieka, oraz subsymboliczną AI, opartą na sieciach neuronowych.
- Złożoność inteligencji: Inteligencja obejmuje różne wymiary, w tym inteligencję emocjonalną, werbalną i logiczną.
- Cele AI: Sztuczna inteligencja ma odtwarzać lub symulować wybrane aspekty ludzkiej inteligencji, ale osiągnięcie prawdziwej ogólnej inteligencji pozostaje wyzwaniem.
Jakie główne metody sztucznej inteligencji omawia książka Artificial Intelligence?
- Uczenie głębokie: Ta metoda wykorzystuje głębokie sieci neuronowe do uczenia się na ogromnych ilościach danych i dominuje we współczesnych badaniach nad AI.
- Uczenie przez wzmacnianie: Polega na trenowaniu agentów tak, by podejmowali decyzje na podstawie nagród i kar, co pozwala im uczyć się optymalnych zachowań.
- Przeszukiwanie drzewa metodą Monte Carlo: Stosowane w sztucznej inteligencji grającej w gry; symuluje możliwe przyszłe ruchy, by ocenić najlepsze działanie.
Jak książka Artificial Intelligence omawia etyczne konsekwencje sztucznej inteligencji?
- Stronniczość systemów AI: Książka omawia, w jaki sposób sztuczna inteligencja może utrwalać uprzedzenia społeczne, zwłaszcza w zastosowaniach takich jak rozpoznawanie twarzy.
- Potrzeba regulacji: Opowiada się za przemyślanymi regulacjami, które zapewnią odpowiedzialny rozwój i wykorzystanie technologii AI.
- Maszyny moralne: Stawia pytania o to, czy maszyny mogą posiadać zdolność rozumowania moralnego i jak dostosować wartości systemów AI do wartości ludzkich.
Jakie wyzwania wiążą się z osiągnięciem ogólnej sztucznej inteligencji według książki Artificial Intelligence?
- Złożoność ludzkiej inteligencji: Ludzka inteligencja obejmuje rozumienie kontekstu, emocji i interakcji społecznych, które AI z trudem odtwarza.
- Ograniczenia uczenia transferowego: Obecne systemy AI nie potrafią łatwo przenosić wiedzy z jednego zadania do drugiego, w przeciwieństwie do ludzi.
- Problem rzadkich zdarzeń: Systemy AI często zawodzą w rzadkich lub nieoczekiwanych sytuacjach, co pokazuje potrzebę odpornych metod uczenia się.
Jak książka Artificial Intelligence pokazuje różnicę między uczeniem się ludzi i maszyn?
- Uczenie się na niewielu przykładach: Ludzie potrafią uczyć się nowych pojęć na podstawie kilku przykładów, podczas gdy AI potrzebuje ogromnych ilości oznaczonych danych.
- Eksploracja a eksploatacja: Ludzie naturalnie równoważą poszukiwanie nowych możliwości z wykorzystywaniem znanych strategii, co sprawia trudność systemom AI.
- Wiedza oparta na zdrowym rozsądku: Ludzie dysponują bogatą wiedzą opartą na zdrowym rozsądku, która pomaga im podejmować decyzje, a której obecnym systemom AI brakuje.
Jakie znaczenie ma uczenie przez wzmacnianie w książce Artificial Intelligence?
- Uczenie się przez interakcję: Uczenie przez wzmacnianie pozwala systemom AI podejmować decyzje poprzez interakcję z otoczeniem.
- Zastosowania w grach: Przykład AlphaGo pokazuje potencjał uczenia przez wzmacnianie w opanowywaniu złożonych zadań.
- Wyzwania zastosowań w świecie rzeczywistym: Przeniesienie uczenia przez wzmacnianie z gier do zastosowań w świecie rzeczywistym nadal stanowi wyzwanie.
Jak książka Artificial Intelligence omawia przetwarzanie języka naturalnego (NLP)?
- Złożoność języka: Systemy NLP mają trudności ze zrozumieniem ludzkiego języka ze względu na jego wieloznaczność i zależność od kontekstu.
- Postępy i ograniczenia: Uczenie głębokie przyniosło postęp w NLP, ale systemom tym często brakuje prawdziwego rozumienia.
- Przyszłe kierunki: Udoskonalenia wymagają uwzględnienia wiedzy opartej na zdrowym rozsądku i zdolności rozumowania, by umożliwić odpowiedzi podobne do ludzkich.
Jaką rolę odgrywa zdrowy rozsądek w AI według książki Artificial Intelligence?
- Podstawa rozumienia: Zdrowy rozsądek ma kluczowe znaczenie dla ludzkiej inteligencji, a obecnie brakuje go sztucznej inteligencji.
- Wyzwania rozwoju AI: Zaszycie zdrowego rozsądku w systemach AI jest trudne, ponieważ duża część tej wiedzy pozostaje podświadoma.
- Badania: Trwają prace nad opracowaniem systemów AI zdolnych do rozumowania opartego na zdrowym rozsądku.
Seria Pelican Books Seria
Pobierz PDF
Pobierz EPUB
.epub idealnie nadaje się do czytania e-booków na telefonach, tabletach i czytnikach.