Points clés
Distinguer la compétence spécialisée de l’intelligence générale avant de qualifier une machine d’intelligente.
Une performance troublante. Lors d’une réunion chez Google, Douglas Hofstadter, pionnier de l’IA, a raconté qu’un programme appelé EMI avait composé une musique qui ressemblait tellement à Chopin qu’elle avait trompé des spécialistes. Il s’attendait à ce que la créativité résiste à l’imitation mécanique. Cette expérience l’a troublé non parce que le programme était conscient, mais parce qu’un ensemble limité de règles pouvait produire quelque chose qui semblait profondément humain. Le livre s’appuie sur cette tension pour distinguer l’IA spécialisée, qui exécute une tâche définie, de l’intelligence générale, qui combine avec souplesse des capacités dans de nombreuses situations.
Un test peut induire en erreur. En 2014, un agent conversationnel se faisant passer pour un adolescent de treize ans a trompé un tiers des juges au cours de brefs échanges. Ce résultat n’établissait pas une compréhension étendue: le robot pouvait éluder les questions, changer de sujet et s’appuyer sur un personnage délibérément limité. Une machine peut réussir une tâche sans posséder les capacités plus larges que les gens associent à l’intelligence.
Ce qui frappe, c’est avec quelle facilité un résultat impressionnant devient une affirmation sur l’esprit tout entier. La distinction entre la réalisation d’une tâche et une capacité générale rappelle la différence entre réussir un examen et savoir mobiliser ses connaissances dans des situations inédites. La capacité d’un agent conversationnel à soutenir un bref échange est bien réelle, mais elle prouve peu de choses quant à sa compréhension du monde. La même prudence s’impose face à l’expertise humaine : l’habileté dans un domaine ne prouve que rarement la compétence dans tous les autres. Le défi n’est pas de dénigrer les systèmes spécialisés, mais de décrire avec précision ce qu’ils font et ce que leur réussite ne démontre pas.
Considérer chaque essor de l’IA comme une promesse à vérifier, et non comme une prophétie.
Un cycle récurrent. Lors de l’atelier de Dartmouth en 1956, des chercheurs ont avancé que les machines pourraient simuler toutes les caractéristiques de l’intelligence et ont prédit des progrès majeurs à brève échéance. Certaines prévisions initiales promettaient des capacités de niveau humain en une génération. Le domaine s’est plutôt heurté à de sévères limites, et les financements ont diminué lorsque les grandes promesses concernant le langage, le raisonnement et la robotique ne se sont pas concrétisées. Ces alternances d’enthousiasme et de déception ont fini par être appelées printemps et hivers de l’IA.
Le schéma perdure. Mitchell décrit l’optimisme suscité par les réseaux neuronaux, les systèmes experts, puis l’apprentissage profond, comme autant d’étapes de cette histoire. De nouvelles méthodes attirent les investissements et font la une; lorsque leurs résultats sont en deçà des promesses, le soutien s’érode. Cette histoire ne montre pas que le progrès est impossible. Elle montre pourquoi les affirmations annonçant l’imminence d’une intelligence générale doivent s’appuyer sur des preuves de capacités réelles, et non seulement sur de l’assurance, des investissements ou une démonstration mémorable.
Le cycle d’essor et de déclin est plus qu’une mise en garde contre l’excès de confiance des scientifiques. Il montre comment les attentes du public, les financements et les priorités de recherche peuvent se renforcer mutuellement. Un domaine peut s’attacher à des tâches commercialement intéressantes tandis que les gros titres laissent entendre qu’il résout le problème même de l’intelligence. Ce décalage risque de masquer de véritables avancées et de provoquer un contrecoup inutile lorsque les grandes promesses échouent. Le scepticisme est le plus utile lorsqu’il exige des affirmations mesurables et des échéances claires, plutôt que de traiter chaque prévision comme une prophétie ou une absurdité.
Des puces plus rapides ne produisent pas automatiquement des esprits infiniment plus polyvalents.
Les courbes exponentielles impressionnent. Les prévisions de Ray Kurzweil annonçant une IA de niveau humain dans un avenir proche reposent largement sur la croissance exponentielle des technologies, notamment sur le doublement historique du nombre de composants des puces informatiques tous les un à deux ans. Une fable du livre illustre bien ce phénomène: doubler les grains de riz sur les cases successives d’un échiquier semble d’abord réalisable, puis dépasse rapidement les ressources d’un royaume.
Les progrès n’avancent pas tous au même rythme. L’argument suppose que les gains de puissance de calcul peuvent ouvrir la voie à une intelligence plus générale, notamment grâce à la rétro-ingénierie du cerveau. Mitchell relève que le matériel a progressé rapidement, mais que les logiciels n’ont pas connu le même type de croissance exponentielle régulière. La puissance de traitement, à elle seule, n’explique pas non plus comment une machine pourrait acquérir le bon sens, apprendre à partir d’une expérience limitée ou intégrer diverses capacités. Extrapoler une seule courbe à ces défis différents risque de confondre accélération du calcul et résolution du problème de l’intelligence.
L’intérêt de cette analyse est qu’elle distingue une tendance réelle de la conclusion qu’on voudrait en tirer. La croissance exponentielle peut rendre le changement presque imperceptible jusqu’à ce que ses effets deviennent spectaculaires, mais une courbe dans un domaine ne garantit pas une courbe similaire dans un autre. La capacité de calcul est un facteur de progrès de l’IA, pas une théorie de la cognition. L’argument laisse aussi une place à la surprise : une nouvelle méthode efficace pourrait infléchir la trajectoire. La réponse rigoureuse consiste à ne ni extrapoler aveuglément ni supposer que les limites actuelles sont définitives.
L’essor de l’apprentissage profond reposait sur les données, la puissance de calcul et le travail humain en amont.
Une percée rendue possible par des fondations. L’apprentissage profond entraîne des réseaux neuronaux dotés de plusieurs couches cachées à détecter des régularités dans les données. En vision par ordinateur, ces réseaux sont devenus particulièrement efficaces lorsque les chercheurs ont pu les entraîner sur d’immenses collections d’images étiquetées à l’aide d’ordinateurs plus rapides. ImageNet a fourni 1,2 million d’images d’entraînement réparties en mille catégories. En 2012, AlexNet, un réseau neuronal convolutif, a fait passer la précision de la compétition, selon la mesure des cinq meilleures réponses, de 74 à 85 %.
L’apprentissage exige toujours du travail. Les images d’ImageNet ont dû être vérifiées et étiquetées par des travailleurs humains, et les chercheurs ont dû concevoir le réseau et en régler les paramètres. L’apprentissage supervisé consiste à entraîner un système à partir d’exemples associés à des réponses fournies par des humains. Le réseau ajuste ses poids numériques internes afin de réduire ses erreurs. Le résultat peut être puissant, mais dire qu’une machine s’enseigne à elle-même masque le travail humain qui rend cet entraînement possible.
Ce récit corrige une idée reçue : les systèmes fondés sur les données ne sont pas exempts de jugement humain. Les gens sélectionnent les exemples, définissent les catégories, choisissent les critères de réussite et règlent les dispositifs. Cela ressemble à la mesure scientifique, où les instruments élargissent le champ de l’observation tout en dépendant des choix relatifs à ce qu’il faut mesurer. Les gains de performance sont considérables, mais le travail et les décisions de conception font partie intégrante de la technologie ; ils ne sont pas de simples échafaudages accessoires. Cela compte lorsqu’on évalue les coûts, la responsabilité et les hypothèses intégrées à un système.
Exiger des tests de défaillance en plus des scores de référence.
Un score a une portée limitée. En 2017, le meilleur système ImageNet affichait une précision de 98 % selon la mesure des cinq meilleures réponses de la compétition: il suffisait que la bonne étiquette figure parmi les cinq propositions. Sa précision selon la meilleure réponse était d’environ 82 %. Aucun de ces chiffres ne garantissait que le système reconnaissait les objets comme le font les humains. Un réseau entraîné à repérer des animaux, par exemple, s’appuyait en partie sur les arrière-plans flous, souvent présents sur les photos d’animaux.
Les erreurs peuvent être étonnantes. Un exemple adversarial est une entrée modifiée de telle sorte qu’elle semble inchangée aux yeux des humains, mais qu’elle peut amener un réseau neuronal à la classer avec assurance de façon erronée. Des chercheurs ont montré de telles erreurs sur des images, notamment de panneaux de signalisation. Les données d’entraînement peuvent également refléter des biais sociaux: le livre rapporte que les systèmes de reconnaissance faciale commettaient davantage d’erreurs pour certains groupes raciaux et cite un test dans lequel le système d’Amazon a associé à tort 28 membres du Congrès à des personnes figurant dans une base de données d’arrestations. De bons scores de référence ne règlent pas les questions de fiabilité ou d’équité.
Les tests de référence sont précieux parce qu’ils permettent les comparaisons, mais ils mesurent des tâches conçues à cet effet ; ils ne certifient pas une compétence universelle. L’écart entre la précision des cinq meilleures réponses et celle de la meilleure réponse montre à quel point la définition d’une mesure peut façonner un titre. Une évaluation robuste doit aussi demander ce qui se passe avec des entrées modifiées, dans des contextes inconnus et selon les groupes démographiques. Le profil d’échec d’un système peut compter davantage que son score moyen lorsque la décision affecte la sécurité ou l’accès à des services. Les mesures doivent être replacées dans leur contexte, et le déploiement doit être examiné au-delà du classement.
Un champion de jeu peut rester un spécialiste intellectuel incapable de transférer ses acquis.
Les récompenses apprennent des actions. L’apprentissage par renforcement entraîne un agent au moyen d’actions et de récompenses plutôt qu’à partir d’exemples étiquetés. Dans la petite scène de robot-football du livre, un robot apprend peu à peu que se diriger vers le ballon peut lui valoir une récompense s’il le frappe. DeepMind a combiné cette approche à des réseaux neuronaux pour entraîner des systèmes aux jeux Atari et au go. AlphaGo Zero a appris le go en jouant contre lui-même, en partant des règles plutôt que d’exemples de parties humaines, et a battu les versions précédentes d’AlphaGo.
La réussite reste circonscrite. L’apprentissage par transfert consiste à utiliser l’expérience acquise dans une tâche pour en accomplir une autre. Mitchell remarque que ces systèmes ne le font généralement pas comme les humains: un réseau entraîné à un jeu Atari doit être entraîné séparément à un autre, et AlphaGo ne peut pas appliquer son savoir-faire au go à des tâches sans rapport. Un système peut élaborer une stratégie gagnante dans un jeu tout en étant dépourvu des concepts qui l’aideraient à s’adapter à de petites modifications du jeu, et à plus forte raison à la vie quotidienne.
Cette réussite est remarquable précisément parce qu’elle ne témoigne pas d’un esprit polyvalent. Le jeu en auto-apprentissage permet à un système de progresser sans qu’un humain lui fournisse les bons coups, mais son apprentissage reste déterminé par les règles, la récompense et les limites de son environnement. Cette distinction dépasse le cadre des jeux : l’optimisation peut être exceptionnelle dans un problème clairement défini tout en échouant à s’appliquer ailleurs. La généralisation n’est donc pas une fonctionnalité supplémentaire. C’est une capacité distincte, qu’il faut tester plutôt que déduire d’une victoire spectaculaire.
Des réponses fluides peuvent masquer l’absence de connaissances du monde chez une machine.
Le langage s’appuie sur le contexte. Dans l’histoire de restaurant racontée par Mitchell, un client commande un hamburger saignant, reçoit un hamburger brûlé et repart furieux. Les gens en déduisent qu’il ne l’a probablement pas mangé. Pour arriver à cette réponse, un système linguistique devrait relier les usages au restaurant, le sarcasme, les expressions idiomatiques et l’enchaînement des événements. La reconnaissance vocale moderne peut transcrire fidèlement la parole sans comprendre le sens des mots.
Les régularités ne disent pas tout. Les systèmes de traduction neuronaux apprennent à partir de grandes collections de phrases traduites par des humains. Ils peuvent être d’une grande utilité, mais les exemples du livre montrent qu’ils confondent différents sens de mots comme « bill » ou traduisent les expressions idiomatiques au pied de la lettre. Un système peut aussi réussir des tests de lecture où il faut repérer une réponse explicitement énoncée dans un paragraphe, sans démontrer qu’il sait raisonner sur un sens implicite. Une langue fluide témoigne d’une capacité utile à traiter des régularités, pas d’une compréhension avérée.
Il est facile de ne pas voir le décalage entre une forme fluide et un sens ancré dans le monde, car les gens prennent instinctivement le langage pour preuve de la compréhension de celui qui parle. Les systèmes linguistiques sont donc particulièrement susceptibles d’être anthropomorphisés. Cette distinction ne doit pourtant pas effacer leur utilité pratique : la transcription et la traduction peuvent faire gagner du temps même lorsqu’elles échouent à saisir les nuances. Une confiance adaptée à l’usage est un bon critère. Les erreurs sont tolérables pour des recherches courantes, mais pas pour les communications juridiques, médicales ou diplomatiques, surtout lorsque le ton et les sous-entendus portent le message.
Ancrer l’intelligence dans le bon sens, l’abstraction et l’expérience du monde.
Les humains mobilisent des connaissances invisibles. Les connaissances fondamentales (core knowledge) désignent la compréhension des objets, des êtres vivants et des autres personnes qui se développe tôt. Les humains font appel à une physique intuitive pour prévoir le mouvement des objets, à une biologie intuitive pour distinguer un chien d’une poussette, et à une psychologie intuitive pour anticiper les buts et les sentiments. Ces capacités sous-tendent les modèles mentaux: des représentations qui permettent d’imaginer ce qui peut se passer ensuite ou comment une situation pourrait évoluer.
L’abstraction relie les situations. Les problèmes de Bongard présentent de petits ensembles de diagrammes et demandent quelle caractéristique commune distingue un groupe de l’autre. Les gens parviennent souvent à repérer le motif pertinent à partir d’une douzaine d’exemples seulement, alors qu’une étude citée dans le livre a constaté que des réseaux neuronaux entraînés sur 20 000 exemples d’une tâche simple consistant à dire si deux éléments sont identiques ou différents ne faisaient guère mieux que le hasard. Mitchell avance que l’analogie aide les gens à reconnaître ce qui compte d’une situation à l’autre. La capacité d’une machine à classer des exemples familiers ne garantit pas cette souplesse d’abstraction.
Cette approche présente l’intelligence moins comme un réservoir de faits que comme un système permettant de modéliser des situations et de faire des rapprochements entre elles. C’est une explication puissante du fait que les enfants apprennent des concepts à partir de si peu d’exemples. Elle soulève aussi une question ouverte : les machines doivent-elles partager l’expérience corporelle humaine pour acquérir un bon sens utile, ou d’autres formes d’interaction pourraient-elles leur apporter un ancrage équivalent ? Le livre présente l’incarnation comme une possibilité convaincante, non comme une exigence établie. Cette distinction permet de garder une hypothèse ambitieuse sans la tenir pour prouvée.
Maintenir la responsabilité humaine lorsque les décisions de l’IA ont de graves conséquences.
Les avantages n’effacent pas les risques. L’IA peut contribuer à la navigation, à l’accessibilité, à la recherche médicale et à l’automatisation des tâches répétitives. Mais les systèmes utilisés pour la conduite, la reconnaissance faciale ou des décisions lourdes de conséquences peuvent aussi être fragiles, biaisés, difficiles à expliquer ou vulnérables à la manipulation. Une enquête menée en 2018 auprès d’experts en technologie et citée dans le livre a révélé que 63 % d’entre eux pensaient que l’IA améliorerait le sort des gens d’ici 2030, tandis que 37 % ne le pensaient pas.
La gouvernance fait partie de la conception. La reconnaissance faciale illustre les enjeux: une mauvaise correspondance peut entraîner un refus d’accès ou éveiller des soupçons, et des taux d’erreur inégaux peuvent accentuer des discriminations existantes. Mitchell soutient qu’on ne doit pas laisser les experts techniques et les entreprises se réguler eux-mêmes. Les pouvoirs publics, les universités, les entreprises et les groupes d’intérêt public doivent contribuer à établir des règles. La question pertinente n’est pas simplement de savoir si un système d’IA est précis, mais si ses erreurs, ses usages et ses effets sont acceptables dans le contexte où il fonctionne.
La mise en garde pratique du livre porte sur la confiance mal placée, et pas seulement sur les motivations futures des machines. Dès qu’un système est intégré aux institutions, ses choix de conception peuvent affecter des personnes qui n’ont jamais choisi de l’utiliser. La supervision humaine n’a de sens que si une personne dispose de l’autorité, des informations et du temps nécessaires pour contester une recommandation. Sinon, la présence d’un humain dans la boucle peut devenir un écran de fumée symbolique au service de l’automatisation. La réglementation doit donc porter sur l’ensemble du processus décisionnel, y compris sur la responsabilité en cas de défaillance du système.
Évaluer la créativité au regard du discernement, et pas seulement de la production.
L’imitation peut nous émouvoir. EMI, le programme musical de David Cope, a généré des morceaux inspirés de compositeurs classiques. Cope a sélectionné des motifs musicaux, élaboré des règles pour les combiner et choisi les résultats à diffuser. Certains morceaux semblaient assez convaincants pour tromper des musiciens chevronnés. Leur effet a troublé Hofstadter, qui craignait que la créativité humaine ne se révèle d’une simplicité mécanique.
Créer, c’est aussi évaluer. Mitchell soutient que produire une œuvre plaisante n’équivaut pas à la comprendre ou à la juger. Dans le cas d’EMI, Cope a fourni les connaissances musicales et sélectionné les compositions réussies; le programme ne pouvait pas en apprécier la valeur émotionnelle ou artistique. Elle admet que les ordinateurs pourraient être créatifs en principe, mais affirme que les systèmes actuels ne répondent pas à cette exigence plus large. Son point de vue met en lumière une distinction importante: une machine peut apporter des éléments nouveaux à un processus créatif, même si l’humain en conserve le goût, l’interprétation et la responsabilité.
La distinction entre produire et juger est éclairante, même si elle impose peut-être un critère exigeant à la créativité des machines. Les artistes humains travaillent eux aussi à partir de formes héritées, d’outils, de collaborateurs et des réactions du public. Cela ne rend pas leurs œuvres moins créatives, mais complique l’idée que la créativité exige une compréhension de soi solitaire. Une question utile consiste à se demander quel type d’agentivité un système apporte : produit-il simplement des variantes, ou peut-il sélectionner, réviser et expliquer ses choix en fonction d’un objectif ? La réponse relève peut-être d’un continuum plutôt que d’un simple oui ou non.
Analyse
La principale réussite de Mitchell consiste à remplacer la question vague de savoir si les machines sont intelligentes par des questions auxquelles il est plus facile de répondre: Quelle tâche a été définie? Quels exemples ont servi à entraîner le système? Qu’est-ce qui compte exactement comme une réussite? Comment échoue-t-il en dehors des conditions du test? Ce déplacement transforme l’IA, objet de débats sur des catégories métaphysiques, en un domaine d’étude empirique. Un programme peut surpasser les humains dans une tâche circonscrite sans pour autant reproduire les capacités souples qui permettent aux humains de mobiliser leurs compétences dans différents contextes.
Les preuves les plus convaincantes du livre reposent sur les contrastes. La précision obtenue sur ImageNet est mise en regard des erreurs de classification, des biais et de la vulnérabilité aux exemples adversariaux. Les prouesses stratégiques d’AlphaGo sont mises en regard de son incapacité à utiliser ailleurs ce qu’il a appris. La fluidité de la traduction neuronale est mise en regard de ses difficultés avec les expressions idiomatiques et le contexte. Ces contrastes n’annulent pas les réussites. Ils révèlent que la performance comporte plusieurs dimensions et qu’une mesure unique peut masquer précisément les limites qui comptent lors du déploiement.
L’argument comporte aussi une tension féconde. Mitchell considère le bon sens, l’abstraction, l’analogie et l’expérience incarnée comme des ingrédients probablement essentiels de l’intelligence générale, tout en reconnaissant que ces notions elles-mêmes restent imparfaitement comprises. Cette incertitude n’est pas un défaut à dissimuler. Elle marque la frontière entre un programme de recherche utile et une théorie établie. Il reste que la compréhension humaine n’est peut-être pas la seule voie vers des systèmes fiables: un outil spécialisé pourrait être fiable grâce à des contraintes, à la vérification et à la supervision humaine, sans posséder de modèle mental humain. Le critère pratique devrait donc être l’adéquation à l’usage, et non la ressemblance avec les humains.
La leçon durable du livre est d’ordre méthodologique. Il faut considérer les affirmations sur l’IA comme des affirmations portant sur des systèmes qui fonctionnent dans des conditions précises, et non comme des déclarations selon lesquelles l’intelligence aurait été résolue ou serait sur le point d’apparaître. Il faut mesurer non seulement la performance moyenne, mais aussi la robustesse, le transfert, la répartition des erreurs, les biais et la responsabilité. Le danger le plus pressant n’est pas nécessairement un esprit artificiel aux pouvoirs illimités. C’est la décision institutionnelle ordinaire d’accorder à des systèmes faillibles une autorité que leurs compétences vérifiées ne justifient pas.
Résumé des avis
L'intelligence artificielle : A Guide for Thinking Humans propose un aperçu équilibré de l’état actuel de l’IA et de son potentiel futur. Les lecteurs apprécient la clarté avec laquelle Mitchell explique des concepts complexes, son scepticisme face au battage médiatique autour de l’IA et son examen des limites de celle-ci. Le livre aborde l’histoire de l’IA, les avancées récentes et les questions éthiques. Si certains trouvent certaines sections difficiles, la plupart saluent le style accessible de Mitchell. Certains lecteurs remarquent que des parties du livre sont déjà dépassées en raison des progrès rapides de l’IA, notamment des modèles de langage, mais continuent d’en apprécier les bases fondamentales.
Les lecteurs ont aussi lu
Glossaire
IA spécialisée
Intelligence artificielle propre à une tâcheSystème d’IA conçu pour accomplir une tâche précisément définie ou un petit nombre de tâches apparentées. Un programme peut devenir exceptionnellement performant au go, en classification d’images ou en traduction, tout en étant incapable d’appliquer largement ses compétences. Le terme s’oppose à l’IA générale, qui intégrerait des capacités dans de nombreux types de situations.
apprentissage profond
Entraînement de réseaux neuronaux multicouchesFamille de méthodes d’apprentissage automatique qui entraînent des réseaux neuronaux comportant plusieurs couches cachées. Le mot « profond » désigne le nombre de couches cachées, et non nécessairement la sophistication ou le sens de ce que le système apprend. L’apprentissage profond a connu un grand succès avec la disponibilité de vastes ensembles de données et de puissants équipements informatiques.
apprentissage supervisé
Apprentissage à partir d’exemples étiquetésMéthode d’entraînement dans laquelle un système reçoit des exemples associés à des réponses correctes, appelées étiquettes. Il compare ses prédictions à ces réponses et ajuste ses paramètres internes pour réduire les erreurs. Par exemple, un système conçu pour reconnaître des chiffres manuscrits apprend à partir d’images que des personnes ont étiquetées avec le chiffre correspondant.
réseau neuronal convolutif
Réseau pour repérer les motifs spatiaux dans les imagesArchitecture de réseau neuronal couramment utilisée pour le traitement des images. Elle applique des filtres appris à des zones locales d’une image et construit des représentations en couches de caractéristiques qui peuvent devenir de plus en plus complexes. Les réseaux neuronaux convolutifs ont permis des avancées majeures dans la reconnaissance d’objets, bien que leurs classifications puissent s’appuyer sur des corrélations trompeuses dans les images.
exemple adversarial (adversarial example)
Entrée conçue pour tromper l’IAEntrée modifiée de manière soigneusement choisie afin d’amener un système d’apprentissage automatique à commettre une erreur avec assurance. Dans les exemples d’images, la modification peut être imperceptible pour les humains tout en incitant un réseau neuronal à attribuer une autre catégorie. Des chercheurs ont également montré des attaques analogues impliquant la parole et le texte.
apprentissage par renforcement
Apprentissage par les actions et les récompensesApproche d’apprentissage automatique dans laquelle un agent agit dans un environnement et reçoit des récompenses ou des pénalités. L’agent utilise ces signaux pour améliorer ses choix au fil du temps, au lieu d’apprendre à partir d’un ensemble d’exemples étiquetés indiquant l’action correcte. Cette approche a donné des résultats remarquables dans les jeux, dont les règles et les récompenses sont clairement définies.
apprentissage par transfert
Réutilisation des acquis d’une tâche à l’autreCapacité à appliquer les connaissances ou les compétences acquises dans une tâche afin d’améliorer les performances dans une autre tâche apparentée. Les humains transfèrent souvent leur expérience naturellement, par exemple en mettant à profit leur familiarité avec un sport de raquette pour en apprendre un autre. Mitchell souligne que de nombreux systèmes d’IA doivent, au contraire, être entraînés séparément pour chaque tâche.
schémas de Winograd
Tests du raisonnement contextuel en langageCourtes phrases présentées par paires, qui diffèrent par un léger changement de formulation déterminant le référent d’un pronom ou d’une expression. Leur résolution exige généralement des connaissances courantes sur les personnes et les objets. Ce défi a été proposé pour tester la compréhension du langage sans permettre à un programme de s’appuyer uniquement sur des astuces conversationnelles.
connaissances fondamentales (core knowledge)
Connaissances intuitives du monde acquises tôtConnaissances de base sur les objets, les êtres vivants et les autres personnes que les humains possèdent ou développent tôt dans leur vie. Elles comprennent des attentes sur le comportement des objets, les différences entre les êtres vivants et les choses inanimées, et la façon dont les personnes agissent pour atteindre leurs objectifs. Ces connaissances soutiennent l’apprentissage, la prédiction et l’interprétation de bon sens.
problèmes de Bongard
Énigmes qui exigent une abstraction visuelleÉnigmes visuelles composées de deux groupes de diagrammes. Il faut trouver le concept commun qui distingue les exemples d’un côté de ceux de l’autre. La caractéristique pertinente peut être simple, comme la taille, ou nécessiter l’invention d’une description abstraite. Mitchell s’en sert pour illustrer les difficultés que l’abstraction flexible pose à l’IA.
Copycat
Programme d’analogies entre chaînes de lettresProgramme informatique créé par Melanie Mitchell et Douglas Hofstadter pour résoudre des énigmes d’analogie portant sur des chaînes de lettres. Il combine des processus qui repèrent les caractéristiques d’un problème à des concepts comme le successeur, la similitude et les groupes de lettres. Sa conception explorait la manière dont l’analogie et l’abstraction pourraient émerger de l’interaction entre la perception et les concepts préalables.
barrière du sens (barrier of meaning)
Écart entre performance et compréhensionTerme de Mitchell désignant la distance entre la réussite d’une tâche et la compréhension plus riche que les humains mobilisent dans la perception, le langage et le raisonnement. Les systèmes d’IA actuels peuvent exceller dans des tâches étroitement définies tout en manquant de connaissances de bon sens, d’abstraction robuste et de capacité à transférer leurs acquis avec souplesse. Leurs erreurs inhabituelles et leur vulnérabilité à la manipulation contribuent à mettre cet écart en évidence.
FAQ
De quoi parle L'intelligence artificielle : A Guide for Thinking Humans ?
- Exploration de l’IA : Le livre propose un aperçu approfondi de l’intelligence artificielle et examine son histoire, ses capacités actuelles et ses limites.
- Intelligence humaine et intelligence des machines : Il met en évidence les différences entre l’intelligence humaine et l’IA, soulignant la maîtrise de l’IA dans des tâches spécialisées, mais son absence de compréhension générale.
- La complexité de l’intelligence : L’autrice explore les complexités de l’intelligence humaine, la compare à l’IA et soulève des questions sur la créativité, les émotions et la conscience.
Pourquoi lire L'intelligence artificielle : A Guide for Thinking Humans ?
- Un point de vue éclairé : Le livre propose une vision équilibrée de l’IA et aborde à la fois ses bénéfices potentiels et les préoccupations éthiques qu’elle suscite.
- Un langage accessible : Rédigé dans un style vivant, il rend les sujets complexes compréhensibles pour les lecteurs sans formation technique.
- Esprit critique : Il encourage les lecteurs à réfléchir de façon critique aux implications de l’IA dans la société et suscite des échanges sur la confiance, l’éthique et les interactions futures entre les humains et l’IA.
Quels sont les principaux enseignements de L'intelligence artificielle : A Guide for Thinking Humans ?
- Les limites de l’IA : L’IA a fait des progrès considérables, mais ne possède toujours pas l’intelligence générale et le bon sens des humains.
- La relation entre humains et IA : Le livre explore l’évolution de cette relation et souligne la nécessité de prendre en compte les enjeux éthiques.
- L’avenir de l’IA : Il aborde la possibilité d’une intelligence surhumaine et les effets sociétaux qui pourraient découler des progrès de l’IA.
Quelles sont les meilleures citations de L'intelligence artificielle : A Guide for Thinking Humans, et que signifient-elles ?
- « L’IA était plus difficile que nous le pensions. » : Cette citation souligne la difficulté de reproduire dans des machines une intelligence semblable à celle des humains.
- « Nous avons tendance à surestimer les progrès de l’IA… » : Elle met en garde contre le battage médiatique autour de l’IA et rappelle la complexité de l’intelligence humaine.
- « La stupidité des machines crée un risque extrême. » : Cette formule souligne les dangers potentiels liés à la dépendance envers des systèmes d’IA dépourvus de véritable compréhension.
Comment L'intelligence artificielle : A Guide for Thinking Humans définit-il l’intelligence artificielle ?
- IA symbolique et subsymbolique : Le livre aborde l’IA symbolique, qui utilise des symboles compréhensibles par les humains, et l’IA subsymbolique, qui repose sur des réseaux neuronaux.
- La complexité de l’intelligence : L’intelligence est définie comme un ensemble de dimensions variées, notamment l’intelligence émotionnelle, verbale et logique.
- Les objectifs de l’IA : L’IA vise à reproduire ou à simuler certains aspects de l’intelligence humaine, mais parvenir à une véritable intelligence générale reste difficile.
Quelles sont les principales méthodes d’IA présentées dans L'intelligence artificielle : A Guide for Thinking Humans ?
- Apprentissage profond : Cette méthode utilise des réseaux neuronaux profonds pour apprendre à partir de très grandes quantités de données et domine la recherche actuelle en IA.
- Apprentissage par renforcement : Il consiste à entraîner des agents à prendre des décisions en fonction de récompenses et de pénalités, afin qu’ils apprennent les comportements optimaux.
- Recherche arborescente Monte-Carlo : Utilisée dans l’IA consacrée aux jeux, elle simule des coups futurs possibles afin d’évaluer la meilleure action.
Comment L'intelligence artificielle : A Guide for Thinking Humans aborde-t-il les implications éthiques de l’IA ?
- Biais des systèmes d’IA : Le livre explique comment l’IA peut perpétuer les biais sociaux, notamment dans des applications comme la reconnaissance faciale.
- Nécessité d’une réglementation : Il préconise une réglementation réfléchie pour garantir que les technologies d’IA soient développées et utilisées de façon responsable.
- Machines morales : Il soulève la question de savoir si les machines peuvent posséder un raisonnement moral et comment aligner les valeurs des systèmes d’IA sur les valeurs humaines.
Quels sont les défis à relever pour parvenir à une IA générale, selon L'intelligence artificielle : A Guide for Thinking Humans ?
- La complexité de l’intelligence humaine : L’intelligence humaine implique la compréhension du contexte, des émotions et des interactions sociales, que l’IA peine à reproduire.
- Les limites de l’apprentissage par transfert : Les systèmes d’IA actuels ne peuvent pas facilement appliquer les connaissances acquises dans une tâche à une autre, contrairement aux humains.
- Le problème de la longue traîne : Les systèmes d’IA échouent souvent dans des situations rares ou inattendues, ce qui souligne la nécessité de méthodes d’apprentissage robustes.
Comment L'intelligence artificielle : A Guide for Thinking Humans illustre-t-il la différence entre l’apprentissage humain et celui des machines ?
- Apprendre à partir de quelques exemples : Les humains peuvent apprendre de nouveaux concepts à partir de quelques exemples, tandis que l’IA a besoin de vastes quantités de données étiquetées.
- Exploration et exploitation : Les humains trouvent naturellement un équilibre entre l’exploration de nouvelles options et l’exploitation de stratégies connues, équilibre que l’IA peine à atteindre.
- Connaissances de bon sens : Les humains possèdent de nombreuses connaissances de bon sens qui orientent leurs décisions, contrairement à l’IA actuelle.
Quelle est l’importance de l’apprentissage par renforcement dans L'intelligence artificielle : A Guide for Thinking Humans ?
- Apprendre par l’interaction : L’apprentissage par renforcement permet aux systèmes d’IA de prendre des décisions en interagissant avec leur environnement.
- Applications dans les jeux : Illustré par AlphaGo, il montre le potentiel de l’apprentissage par renforcement pour maîtriser des tâches complexes.
- Défis des applications dans le monde réel : Transposer l’apprentissage par renforcement des jeux aux applications du monde réel reste difficile.
Comment L'intelligence artificielle : A Guide for Thinking Humans aborde-t-il le traitement automatique du langage naturel (TALN) ?
- La complexité du langage : Les systèmes de TALN peinent à comprendre le langage humain en raison de son ambiguïté et de sa dépendance au contexte.
- Progrès et limites : Bien que l’apprentissage profond ait fait progresser le TALN, ces systèmes manquent souvent de véritable compréhension.
- Pistes d’avenir : Pour s’améliorer, ils doivent intégrer des connaissances de bon sens et des capacités de raisonnement afin de produire des réponses semblables à celles des humains.
Quel rôle le bon sens joue-t-il dans l’IA, selon L'intelligence artificielle : A Guide for Thinking Humans ?
- Fondement de la compréhension : Le bon sens est essentiel à l’intelligence humaine, mais l’IA en est actuellement dépourvue.
- Difficultés du développement de l’IA : Insuffler le bon sens à l’IA est difficile, car une grande partie de ces connaissances est inconsciente.
- Travaux de recherche : Des efforts sont en cours pour créer des systèmes d’IA capables de raisonnement de bon sens.
Pelican Books Series Série
Télécharger le PDF
Télécharger l'EPUB
.epub est idéal pour lire des livres numériques sur téléphone, tablette ou liseuse.