Points clés
Considérez le machine learning comme une prédiction adaptée à une tâche, et non comme un esprit artificiel
Utile, mais pas conscient. Le machine learning est une branche de l’intelligence artificielle, et non un synonyme de celle-ci. Il utilise des algorithmes pour repérer des schémas dans les données et produire des prédictions ou prendre des décisions dans le cadre de tâches précises. Un téléphone qui apprend à reconnaître une voix particulière, un détaillant qui suggère des produits et une banque qui signale des achats inhabituels en sont des exemples concrets. Ces systèmes peuvent sembler intelligents parce qu’ils s’adaptent, mais l’adaptation n’implique ni conscience, ni émotion, ni intention propre.
Gardez à l’esprit l’écart avec la science-fiction. Le livre oppose ces applications aux androïdes de cinéma qui pensent et choisissent par eux-mêmes. Les systèmes réels peuvent aider les médecins à analyser des symptômes ou les véhicules à réagir au danger, mais ce sont toujours les humains qui définissent la tâche et évaluent ses conséquences. La promesse centrale du livre n’est pas de créer des personnes artificielles. Elle consiste à analyser plus rapidement des problèmes qui dépasseraient les capacités d’une personne ou du code informatique classique.
La distinction entre compétence et conscience est utile bien au-delà de l’informatique. Nous prêtons couramment des intentions à un système parce qu’il converse avec aisance ou prédit avec justesse, même s’il fait correspondre des schémas au lieu de comprendre une situation comme le ferait une personne. Il est donc important, pour la sécurité, de décrire clairement les capacités d’un système. En même temps, des systèmes spécialisés peuvent avoir de vastes effets sociaux : un détecteur de fraude ou un modèle de recrutement n’a pas besoin d’être conscient pour causer des désagréments ou exclure injustement des personnes. Une intelligence limitée n’implique pas un impact limité.
Commencez par la décision et les données, pas par l’algorithme
Définissez d’abord la tâche. Le machine learning est utile lorsque les schémas présents dans des exemples peuvent aider à répondre à une question concrète, par exemple déterminer si une transaction est suspecte ou combien de temps un patient risque d’attendre. Le livre distingue le big data d’une simple grande base de données: les données massives utiles sont aussi riches et complexes, et comportent des variables en interaction que des règles fixes classiques pourraient ne pas traiter assez vite. Une voiture autonome, par exemple, doit combiner les mesures de ses capteurs avec les informations sur la route, la météo et la circulation, et ce assez rapidement pour agir.
Ne vous limitez pas aux bases de données évidentes. Les données utiles peuvent provenir de registres publics, de systèmes d’entreprise, de capteurs, de courriels ou de sources réunies pour former un nouvel ensemble de données. Elles doivent être pertinentes pour la question, utilisables légalement et préparées en vue de l’analyse. Une puissance de calcul accrue ne peut sauver ni une question mal formulée, ni des données qui ne contiennent pas les éléments nécessaires.
C’est un rappel que la modélisation vient après la définition du problème. En science de la décision, une prévision n’a de valeur que si elle modifie un choix, et une même prédiction peut être utile ou néfaste selon l’action qui en découle. Demander quelle décision le modèle doit éclairer permet aussi de mettre au jour des coûts cachés, tels que les fausses alertes ou les retards de service. Le traitement de la vie privée proposé par le livre est plutôt rassurant, mais incomplet : supprimer les noms ne garantit pas à lui seul que l’utilisation des données soit équitable, conforme aux attentes ou sans danger.
Entraînez des modèles à généraliser au-delà des exemples mémorisés
Apprenez une règle réutilisable. L’entraînement consiste à fournir des exemples à un algorithme, souvent accompagnés des réponses connues, afin qu’il construise une fonction capable de prédire les réponses pour de nouveaux cas. La généralisation signifie que cette fonction apprise fonctionne au-delà des exemples qui ont servi à l’élaborer. Un filtre antipourriel ne peut pas mémoriser tous les courriels possibles: il doit apprendre des schémas qui lui permettront d’identifier des messages qu’il n’a jamais rencontrés.
Trois éléments façonnent l’apprentissage. La représentation détermine les types de schémas que le modèle peut exprimer. L’évaluation mesure les performances d’un modèle candidat, tandis que l’optimisation cherche de meilleurs réglages. Si le schéma recherché ne peut être exprimé par la représentation du modèle, davantage de calcul ne lui permettra pas de l’apprendre. Un modèle a aussi besoin d’exemples et de caractéristiques utiles: l’entraînement repose donc sur une collaboration entre l’algorithme et les choix de ses concepteurs.
La distinction entre mémoriser des cas et apprendre une règle rappelle un enjeu fondamental de la science : une explication doit rendre compte des observations sans se contenter de les reformuler. Cette approche en trois volets aide à localiser les échecs. Un mauvais résultat peut tenir à une famille de modèles inadaptée, à une mesure trompeuse ou à une recherche inefficace, et pas simplement à un entraînement trop court. Les performances d’entraînement ne suffisent jamais à établir la généralisation. Celle-ci dépend de la ressemblance entre les cas futurs et les données utilisées pendant le développement, une condition qui peut cesser d’être remplie si les circonstances évoluent.
Gardez un jeu de test réellement intact pour évaluer les performances sans biais
Distinguez l’apprentissage de l’évaluation. Les données d’entraînement apprennent quelque chose au modèle; les données de validation aident à choisir ses réglages; les données de test servent à estimer ses performances sur des cas qui n’ont pas été utilisés durant son développement. Ajuster le modèle à répétition en fonction des résultats de test transforme le jeu de test en un autre signal d’entraînement: c’est une forme de fuite de données ou de consultation abusive. Pour des données ordonnées, comme les ventes dans le temps, préservez la chronologie au lieu de mélanger au hasard passé et futur.
Un échantillon énorme peut tout de même induire en erreur. Lors de l’élection américaine de 1936, le Literary Digest interrogea plus de 10 millions de personnes et prédit qu’Alfred Landon l’emporterait avec plus de 57 % des voix. Le sondage était biaisé en faveur des personnes aisées, et seuls 2,4 millions de sondés répondirent. Landon obtint 38 % des suffrages, contre 62 % pour Franklin Roosevelt. La leçon à en tirer est que le biais de sélection peut l’emporter sur la taille de l’échantillon. La validation croisée permet de répéter les découpages entre entraînement et test lorsque les nouvelles données sont rares.
Le test n’est pas une formalité de dernière étape. Il s’agit de simuler la rencontre avec des données qui n’ont pas influencé les décisions de la personne qui a conçu le modèle. L’échec du Literary Digest montre pourquoi la représentativité compte davantage qu’un volume impressionnant ; la consultation abusive des données de test montre quant à elle que les analystes peuvent contaminer un échantillon soigneusement mis de côté en prenant des décisions répétées. La validation croisée réduit la dépendance à un seul découpage, mais elle ne corrige pas un jeu de données biaisé et ne garantit pas que la population de demain ressemblera à celle d’aujourd’hui. La méthode d’évaluation doit correspondre à l’utilisation réelle du système.
Consacrez plus d’efforts à corriger les données qu’à peaufiner les algorithmes
Bâtissez des fondations solides. Le livre estime que le nettoyage des données peut représenter environ 80 % d’un projet de machine learning. Valeurs manquantes, étiquettes incohérentes, distributions asymétriques, informations en double et observations extrêmes peuvent toutes fausser l’apprentissage. Si plus de 90 % des valeurs d’une variable sont manquantes, il peut être judicieux de la supprimer, mais les données manquantes peuvent elles-mêmes être porteuses d’information. Par exemple, un revenu laissé vide pour des raisons systématiques ne devrait pas être automatiquement remplacé par une moyenne ordinaire.
Préparez soigneusement les caractéristiques. L’imputation, la normalisation et la création de caractéristiques peuvent rendre les données plus utiles. Un indicateur de valeur manquante peut conserver l’information qu’une valeur était absente; la mise à l’échelle peut empêcher les caractéristiques exprimées par de grands nombres de dominer les calculs de distance; une nouvelle caractéristique peut encoder une relation pertinente déjà implicite dans les données. L’analyse en composantes principales peut condenser des informations corrélées. Les anomalies méritent d’être examinées, car un cas réellement inhabituel n’est pas nécessairement une erreur.
La préparation des données n’est pas une simple tâche administrative neutre. Les décisions concernant les valeurs à compléter, les cas à exclure et les catégories à regrouper déterminent ce que le modèle peut apprendre et les expériences qu’il représente. Cela relie le machine learning à la théorie de la mesure : un jeu de données constitue une définition opérationnelle du monde, et non le monde lui-même. Le livre insiste à juste titre sur l’examen des données et la connaissance du domaine, même si un nettoyage manuel peut aussi introduire les présupposés de l’analyste. Documenter les transformations et ne les appliquer qu’à l’intérieur des plis d’entraînement permet de rendre ces présupposés visibles et vérifiables.
Choisissez l’apprenant en fonction de la géométrie et du coût de votre problème
Chaque apprenant fait des paris différents. Un perceptron tente de séparer deux classes au moyen d’une frontière droite. Les arbres de décision divisent les données en branches fondées sur des règles que les gens peuvent examiner. Le classifieur naïf de Bayes combine des probabilités conditionnelles et constitue une bonne référence de départ pour le texte. Les k plus proches voisins prédisent à partir d’exemples similaires mémorisés, tandis que la régression linéaire estime des valeurs numériques et la régression logistique estime des probabilités de classe.
Aucun modèle ne gagne partout. Le livre présente cinq grandes traditions du machine learning: le raisonnement logique, les connexions neuronales, la recherche inspirée de l’évolution, les probabilités bayésiennes et l’analogie fondée sur la similarité. Chacune propose une manière différente de représenter les schémas. Le choix approprié dépend de la tâche, des données disponibles et du coût des différentes erreurs. Ne pas détecter un cas dangereux peut être pire que déclencher une fausse alerte: la mesure d’erreur devrait donc refléter les véritables enjeux de la décision.
Choisir un modèle revient à choisir des hypothèses. Une frontière droite suppose que le problème est simple dans une représentation donnée ; une méthode fondée sur les voisins suppose que les exemples proches sont informatifs ; un modèle probabiliste repose sur des hypothèses concernant la manière dont les éléments de preuve se combinent. Il est plus fécond de les considérer comme des angles d’approche complémentaires que de classer les algorithmes selon leur prestige. Le coût des erreurs révèle également que la précision technique n’est pas un objectif universel. Un système utilisé en médecine, en publicité ou pour filtrer les pourriels exige des compromis différents, même lorsque la tâche de prédiction sous-jacente semble similaire.
Utilisez des réseaux neuronaux ou des noyaux lorsque les frontières simples échouent
Ajoutez de la souplesse avec prudence. Les réseaux neuronaux relient des couches d’unités qui pondèrent et transforment les valeurs reçues en entrée. Les fonctions d’activation non linéaires permettent au réseau de représenter des relations qu’une seule droite ne saurait exprimer. La rétropropagation transmet les erreurs de prédiction à rebours dans le réseau afin que ses poids de connexion puissent être ajustés. Le deep learning étend cette approche à des réseaux plus vastes, notamment les réseaux convolutifs, qui apprennent des caractéristiques d’image au moyen de filtres et de mises en commun.
Les SVM empruntent une autre voie. Une machine à vecteurs de support cherche une frontière de séparation offrant la marge la plus large possible entre les classes. Les fonctions noyau lui permettent de modéliser des frontières courbes sans développer explicitement les données en un très grand ensemble de nouvelles caractéristiques. Dans l’exemple du livre sur les chiffres manuscrits, le réglage d’un SVM a porté la précision sur le jeu de test à environ 98,7 %. Ces méthodes souples peuvent donner des résultats impressionnants, mais leurs réglages, leurs exigences de calcul et leur risque de surapprentissage imposent une validation rigoureuse.
L’attrait de ces méthodes tient à leur puissance de représentation : elles peuvent construire des frontières utiles à partir de combinaisons de caractéristiques difficiles à spécifier manuellement. C’est particulièrement précieux pour les images, où des formes pertinentes peuvent être réparties sur plusieurs pixels. Pourtant, une réussite prédictive ne fournit pas automatiquement une explication qu’une personne puisse vérifier. Un score élevé ne garantit pas non plus la fiabilité du modèle pour chaque sous-groupe ou dans un environnement qui évolue. La question pratique n’est pas simplement de savoir si un modèle peut s’adapter à la complexité, mais si cette complexité supplémentaire améliore suffisamment les décisions pour justifier les ressources et les contrôles qu’elle exige.
Ne combinez des modèles imparfaits que si leurs erreurs diffèrent
La moyenne d’un groupe peut être juste. Le livre rapporte le récit de Francis Galton sur des visiteurs de foire qui estimaient le poids d’un bœuf: des estimations individuelles imparfaites se sont révélées exactes une fois moyennées. Les méthodes d’ensemble en machine learning reposent sur une idée similaire. Les forêts aléatoires entraînent de nombreux arbres de décision sur des échantillons rééchantillonnés et des sous-ensembles aléatoires de caractéristiques, puis font la moyenne des prédictions numériques ou votent pour une classe. Les différences entre les arbres contribuent à réduire l’instabilité de chacun d’eux.
Le boosting apprend en séquence. Au lieu de construire des modèles indépendants, le boosting accorde aux modèles suivants davantage d’attention aux cas que les précédents ont mal traités. Des apprenants simples et faibles peuvent ainsi être combinés pour former un prédicteur plus puissant. La moyenne est particulièrement utile lorsque les erreurs ne sont pas fortement corrélées; si tous les modèles commettent la même erreur, un comité plus nombreux ne fait que la répéter. Les méthodes d’ensemble peuvent améliorer la précision, mais elles sont parfois plus difficiles à interpréter et plus coûteuses à élaborer qu’un modèle unique.
Les méthodes d’ensemble rapprochent l’apprentissage statistique du jugement collectif, mais l’essentiel n’est pas le nombre de voix : c’est la diversité de leurs erreurs. C’est pourquoi des sources d’information indépendantes peuvent améliorer une prévision, alors que les copies répétées d’un même processus biaisé ne le peuvent pas. Les forêts aléatoires créent de la diversité par l’échantillonnage ; le boosting, par une succession de corrections complémentaires. Le compromis est aussi institutionnel que computationnel : un ensemble plus précis mais opaque peut être plus difficile à expliquer aux personnes touchées par ses décisions. Les gains de performance doivent être mis en balance avec le coût de cette moindre responsabilité.
Considérez le texte, les images et les recommandations comme des représentations élaborées
Les machines ont besoin d’équivalents numériques. Un modèle en sac de mots transforme un document en caractéristiques indiquant la présence ou le nombre d’occurrences des mots; TF-IDF attribue moins de poids aux mots courants dans de nombreux documents, tandis que les n-grammes préservent de courtes séquences de mots. Ces méthodes aident à classer des sujets ou des sentiments, mais elles éliminent une grande partie de l’ordre et du contexte du langage. Dans l’exemple du livre où des avis sont étiquetés, un classifieur linéaire a atteint une précision d’environ 81,6 %, laissant de nombreuses expressions ambiguës mal classées.
Les autres médias nécessitent leurs propres caractéristiques. Les images peuvent être redimensionnées, aplaties en vecteurs de pixels ou représentées par des formes extraites. Pour les recommandations, la décomposition en valeurs singulières peut condenser une matrice de notes utilisateurs-articles en schémas latents de goûts. L’exemple de MovieLens comprend 943 utilisateurs et 1 664 films. Ces schémas peuvent faire apparaître des ressemblances utiles, mais ils révèlent des corrélations dans les comportements, et non la preuve des raisons pour lesquelles une personne aime un film.
La représentation fait le lien entre la matière humaine désordonnée et le traitement mathématique. Ses simplifications sont utiles précisément parce qu’elles écartent des détails, mais ceux-ci peuvent inclure le sarcasme, le contexte, les variations visuelles ou les préférences minoritaires. Un score de sentiment ne constitue donc pas une lecture de l’état intérieur d’une personne, et une recommandation ne révèle pas de façon neutre ce qu’elle veut vraiment. Il vaut mieux considérer ces outils comme des aides à la décision dont les erreurs peuvent être examinées, surtout lorsqu’ils influencent ce que les gens voient, achètent ou croient.
Améliorez les modèles par des expériences mesurées, et non par des réglages sans fin
Diagnostiquez avant d’ajuster. Les courbes d’apprentissage comparent les performances sur les exemples d’entraînement et sur les exemples mis de côté, à mesure que le volume des données d’entraînement augmente. Un écart important suggère une variance élevée et un possible surapprentissage; des résultats également médiocres dans les deux cas suggèrent un biais ou une représentation inadéquate. Les remèdes diffèrent: davantage d’exemples peut réduire la variance, tandis que de nouvelles caractéristiques ou un modèle plus souple peuvent réduire le biais.
Effectuez des comparaisons rigoureuses. Choisissez une mesure qui correspond au coût réel des erreurs, comparez plusieurs familles de modèles et réglez les paramètres par validation croisée au lieu de consulter le jeu de test à répétition. La recherche sur grille teste un ensemble défini de combinaisons de paramètres; la recherche aléatoire échantillonne d’autres possibilités et peut être plus efficace lorsque la grille devient vaste. La sélection de caractéristiques, la moyenne de modèles et l’ajout de données étiquetées sont d’autres options. L’amélioration consiste en une série d’expériences fondées sur des preuves, et non en une course à la complexité.
Cette démarche rappelle les bonnes pratiques expérimentales : formuler une hypothèse, modifier un nombre limité de facteurs et évaluer le résultat à partir de données qui n’ont pas servi à effectuer le changement. Les courbes d’apprentissage sont particulièrement utiles parce qu’elles traduisent des diagnostics abstraits en prochaines étapes différentes. L’optimisation peut toutefois devenir un rituel si la mesure choisie est inadaptée ou si la population d’évaluation n’est pas représentative. Il faut juger un modèle selon la qualité des décisions qu’il aide à prendre, et non simplement à partir d’un chiffre qu’il était commode de calculer.
Analyse
Il vaut mieux lire ce livre comme une carte pratique du machine learning que comme un traité mathématique complet ou un manuel logiciel à jour. Son apport le plus durable est une mise en garde répétée contre le mysticisme technologique: les algorithmes ne font pas surgir la compréhension des données. Les gens choisissent la question, définissent les exemples, encodent les caractéristiques, sélectionnent la mesure et décident de la signification d’une prédiction. Le métier consiste donc essentiellement à faire des allers-retours entre jugement lié au domaine et vérification empirique.
La progression du livre, des apprenants simples aux réseaux neuronaux, aux machines à vecteurs de support, aux méthodes d’ensemble et aux applications, fait ressortir un point utile: la complexité est une ressource, pas une vertu. Un modèle linéaire, un arbre fondé sur des règles et un réseau neuronal souple expriment des hypothèses différentes. La validation permet de déterminer lesquelles tiennent au-delà des exemples d’entraînement. Le sondage du Literary Digest et les mises en garde répétées contre les fuites de données donnent à cette leçon technique une dimension humaine. Davantage de données et de calcul ne peuvent pas réparer un échantillon systématiquement non représentatif ni un objectif mal conçu.
Un lecteur d’aujourd’hui devrait aussi étendre la mise en garde du livre concernant les systèmes spécialisés. Un modèle peut être techniquement précis tout en étant mal adapté au contexte dans lequel il est déployé. Les schémas peuvent évoluer, et les décisions peuvent avoir des effets différents selon les groupes. La vie privée, l’équité, la responsabilité et les conséquences des faux positifs ou des faux négatifs doivent faire partie de la définition du projet, et non être traitées après coup. De même, un système qui prédit une corrélation n’en explique pas la cause, distinction qui a des implications majeures pour toute intervention.
Le livre date de 2016, et ses instructions dépendent de versions logicielles et d’outils qui ont changé depuis. Sa valeur durable est conceptuelle: représenter les données avec soin, établir une référence de départ défendable, utiliser la validation avec rigueur et comprendre ce que chaque algorithme peut exprimer. On peut résumer son approche par une discipline de la retenue. Demandez-vous quelle décision doit être éclairée, vérifiez que les données sont pertinentes à cet égard, comparez les méthodes sur des données mises de côté et veillez à ce que la responsabilité des résultats demeure humaine. Cette approche résiste mieux au temps que tout logiciel ou toute famille de modèles en particulier.
Résumé des avis
Les avis sur Le machine learning pour les nuls sont partagés, avec des notes allant d’une à quatre étoiles. Certains lecteurs ont trouvé le livre instructif et fascinant, et ont apprécié la bonne vue d’ensemble qu’il propose des concepts et des applications de l’apprentissage automatique. D’autres l’ont jugé trop difficile pour les débutants, et lui ont reproché le manque d’exemples pratiques et d’exercices. Beaucoup ont apprécié les exemples de code Python, tout en notant qu’il est utile d’avoir des connaissances préalables en programmation et en mathématiques. Certains lecteurs ont souligné l’étendue des sujets abordés, notamment le prétraitement des données, les algorithmes et les applications concrètes, tandis que d’autres ont trouvé certaines sections superflues ou trop complexes.
Les lecteurs ont aussi lu
Glossaire
Généralisation
Apprendre des règles applicables à de nouveaux casLa généralisation est la capacité d’un modèle à appliquer aux cas qu’il n’a pas vus les motifs appris à partir des exemples d’entraînement. C’est le test pratique de l’apprentissage : un modèle qui ne fait que reproduire ses données d’entraînement a mémorisé des exemples plutôt qu’appris une règle utile. Les performances sur des données mises de côté fournissent des indications sur la généralisation, même si l’évolution des conditions réelles peut encore la réduire.
Espace des hypothèses
Modèles possibles qu’un algorithme peut exprimerUn espace des hypothèses est l’ensemble des fonctions ou modèles candidats qu’un algorithme d’apprentissage peut représenter au moyen de ses paramètres. L’entraînement explore cet espace à la recherche d’un modèle qui corresponde aux exemples selon une mesure d’évaluation. Si la relation nécessaire à la tâche ne peut pas être exprimée dans l’espace des hypothèses de l’algorithme choisi, l’optimisation ne peut pas la découvrir.
Fonction de coût
Mesure numérique de l’erreur du modèleUne fonction de coût attribue une valeur numérique à l’écart entre les prédictions d’un modèle et les résultats souhaités. Pendant l’entraînement, une procédure d’optimisation cherche souvent à réduire cette valeur. La fonction de coût choisie détermine ce que le modèle considère comme important ; elle devrait donc refléter les priorités réelles du problème, par exemple le coût relatif des fausses alertes et des cas manqués.
Validation croisée
Évaluation répétée d’un modèle sur des données mises de côtéLa validation croisée répartit les exemples disponibles en plusieurs plis. Le modèle est entraîné sur tous les plis sauf un, puis évalué sur celui qui a été mis de côté ; le processus est répété jusqu’à ce que chaque pli ait servi d’ensemble de test. La moyenne des résultats donne une estimation plus stable que celle obtenue à partir d’une seule séparation et aide à comparer des modèles ou des réglages sans consulter sans cesse l’ensemble de test final.
Surapprentissage
Apprendre le bruit de l’échantillon comme s’il s’agissait d’une règleLe surapprentissage se produit lorsqu’un modèle s’adapte trop étroitement à ses exemples d’entraînement et saisit des erreurs aléatoires ou des particularités plutôt que des motifs qui se retrouvent dans de nouvelles données. Il peut entraîner d’excellentes performances sur les données d’entraînement, mais de médiocres performances sur les données mises de côté. Limiter la complexité, utiliser des exemples plus représentatifs, recourir à la régularisation et procéder à une validation rigoureuse peuvent aider à détecter ou à réduire le surapprentissage.
Création de caractéristiques
Dériver des entrées utiles à partir de données existantesLa création de caractéristiques transforme ou combine les données disponibles en variables qui expriment mieux les informations pertinentes pour une prédiction. Elle peut s’appuyer sur des connaissances du domaine, par exemple pour déduire la superficie d’un terrain à partir des mesures de ses limites, ou sur des transformations automatiques, comme les termes polynomiaux et les interactions. De meilleures caractéristiques peuvent aider un algorithme à apprendre plus facilement un motif, même si des caractéristiques superflues risquent d’accroître la complexité et le surapprentissage.
Descente de gradient
Réduction itérative de l’erreur du modèleLa descente de gradient est une méthode d’optimisation qui ajuste à plusieurs reprises les paramètres d’un modèle dans une direction censée réduire une fonction de coût. L’ajustement est guidé par le gradient de la fonction, et le taux d’apprentissage détermine l’amplitude de chaque pas. Des pas trop grands peuvent faire dépasser les réglages utiles, tandis que des pas trop petits peuvent allonger le processus. La méthode peut aboutir à un minimum local plutôt qu’à la meilleure solution possible.
Forêts aléatoires
Arbres de décision randomisés dont les résultats sont moyennésLes forêts aléatoires sont des ensembles d’arbres de décision construits à partir de différents échantillons rééchantillonnés et de sous-ensembles de caractéristiques. Pour les prédictions numériques, leurs résultats sont moyennés ; pour la classification, les arbres votent. La randomisation des données d’entraînement et des caractéristiques candidates rend les arbres moins semblables, ce qui peut réduire la variance des prédictions par rapport à l’utilisation d’un seul arbre.
Sac de mots (Bag of Words, BoW)
Texte représenté par des caractéristiques de motsLe modèle du sac de mots convertit un document en un vecteur décrivant les mots qu’il contient ou leur fréquence. Chaque mot du vocabulaire devient une caractéristique. Cette représentation permet l’analyse numérique du texte, mais ignore généralement l’ordre des mots et une grande partie du sens contextuel. Des méthodes de pondération comme TF-IDF peuvent réduire l’influence des mots qui apparaissent fréquemment dans différents documents.
Décomposition en valeurs singulières (SVD)
Compression d’une matrice en motifs latentsLa décomposition en valeurs singulières factorise une matrice en matrices dérivées qui réorganisent ses informations sous forme de composantes classées. En apprentissage automatique, un ensemble réduit de composantes peut compresser des données corrélées tout en en conservant une grande partie de la variation. Appliquée aux évaluations d’utilisateurs et d’éléments, la SVD peut faire apparaître des motifs latents reliant des utilisateurs à des produits ou à des films, et ainsi contribuer aux recommandations.
Fonction noyau
Projection non linéaire implicite des caractéristiquesUne fonction noyau calcule les relations entre des exemples comme s’ils avaient été transformés dans un autre espace de caractéristiques, souvent de dimension supérieure. Dans les machines à vecteurs de support, cela permet de créer des frontières de décision non linéaires sans stocker explicitement toutes les caractéristiques transformées. Le choix du noyau et ses réglages influent sur les formes que le modèle peut apprendre et doivent être évalués sur des données mises de côté.
FAQ
1. De quoi parle « Le machine learning pour les nuls » de John Paul Mueller ?
- Un guide complet pour les débutants : Le livre présente les concepts, les algorithmes et les applications concrètes de l’apprentissage automatique, et rend le sujet accessible aux lecteurs sans formation technique.
- Une approche axée sur la mise en pratique : Il privilégie l’apprentissage pratique à l’aide d’exemples de code Python et R, et accompagne les lecteurs dans le prétraitement des données, la construction de modèles et leur évaluation.
- Un large éventail de sujets : Des notions élémentaires de mathématiques et de statistiques à des algorithmes avancés comme les réseaux de neurones, les SVM et les méthodes d’ensemble, le livre offre une vaste vue d’ensemble.
- L’apprentissage automatique démystifié : L’auteur précise ce que l’apprentissage automatique peut ou ne peut pas faire, dissipe les idées reçues et fixe des attentes réalistes.
2. Pourquoi lire « Le machine learning pour les nuls » de John Paul Mueller ?
- Des explications adaptées aux débutants : Le livre s’adresse aux personnes qui découvrent l’apprentissage automatique et propose des explications claires, sans jargon, ainsi que des instructions étape par étape.
- Un accent mis sur la programmation pratique : Les lecteurs apprennent en pratiquant, à l’aide d’exemples de code Python et R qui montrent comment mettre en œuvre des algorithmes et des processus essentiels.
- Une présentation des outils et des processus essentiels : Le livre accompagne les lecteurs dans l’installation et l’utilisation d’outils populaires comme Anaconda et RStudio, ainsi que de bibliothèques comme Scikit-learn et NLTK.
- Une préparation aux défis du monde réel : Il aborde les écueils courants, les considérations éthiques et les tendances à venir, afin d’aider les lecteurs à s’orienter dans un domaine en évolution.
3. Quels sont les principaux enseignements de « Le machine learning pour les nuls » de John Paul Mueller ?
- L’apprentissage automatique est pratique : Le livre montre qu’il s’agit de résoudre des problèmes concrets à l’aide de données, et non de se limiter à la théorie abstraite.
- L’importance de la qualité des données : Il souligne que la réussite de l’apprentissage automatique dépend de données propres et bien préparées ainsi que d’une conception réfléchie des caractéristiques.
- Un équilibre entre art et science : Les lecteurs découvrent que l’apprentissage automatique efficace requiert à la fois des compétences techniques et une capacité créative à résoudre des problèmes.
- Un apprentissage continu est nécessaire : Le livre encourage à poursuivre l’exploration et fournit des ressources pour approfondir ses connaissances et s’adapter aux nouvelles évolutions.
4. Comment « Le machine learning pour les nuls » de John Paul Mueller explique-t-il le rapport entre l’IA et l’apprentissage automatique ?
- L’apprentissage automatique comme sous-domaine : Le livre explique que l’apprentissage automatique est une branche de l’intelligence artificielle axée sur l’apprentissage à partir de données, et non sur l’acquisition d’une intelligence pleinement semblable à celle des humains.
- Les cinq courants de l’apprentissage automatique : Il présente les symbolistes, les connexionnistes, les évolutionnistes, les bayésiens et les analogistes, qui représentent chacun une approche différente au sein de l’IA.
- Les limites des technologies actuelles : L’auteur explique que si l’apprentissage automatique permet la reconnaissance de motifs et la prise de décision, il n’équivaut ni à la conscience ni à l’intelligence générale.
- Des distinctions concrètes : Les lecteurs comprennent clairement ce que l’apprentissage automatique peut raisonnablement accomplir aujourd’hui, par opposition aux objectifs plus vastes de l’IA.
5. Quelles notions fondamentales de mathématiques et de statistiques « Le machine learning pour les nuls » de John Paul Mueller aborde-t-il ?
- Opérations sur les matrices et les vecteurs : Le livre explique comment représenter et manipuler les données à l’aide de matrices et de vecteurs, indispensables à la plupart des algorithmes.
- Probabilités et théorème de Bayes : Il aborde les probabilités élémentaires, les probabilités conditionnelles et le raisonnement bayésien, qui sont à la base de nombreux modèles d’apprentissage automatique.
- Descente de gradient et optimisation : Les lecteurs découvrent les fonctions de coût, la descente de gradient et le rôle de l’optimisation dans l’entraînement des modèles.
- Des explications accessibles : Les mathématiques sont présentées de façon pratique et intuitive, sans abstraction excessive, afin d’être abordables pour les non-spécialistes.
6. Comment « Le machine learning pour les nuls » de John Paul Mueller aborde-t-il la préparation des données et la conception des caractéristiques ?
- L’accent sur la qualité des données : Le livre souligne l’importance de nettoyer les données, de traiter les valeurs manquantes et d’éliminer les valeurs aberrantes pour obtenir des résultats fiables.
- Création et transformation de caractéristiques : Il présente des techniques comme la normalisation, la standardisation et la réduction de dimensionnalité (par exemple, l’ACP) pour améliorer les performances des modèles.
- Des stratégies pratiques : Les lecteurs apprennent à concevoir de nouvelles caractéristiques, à coder les variables catégorielles et à compresser les informations redondantes.
- Des exemples concrets : Le livre propose des exemples pratiques d’étapes de prétraitement avec Python et R.
7. Quels algorithmes et techniques d’apprentissage automatique « Le machine learning pour les nuls » de John Paul Mueller explique-t-il ?
- Des algorithmes simples : Le livre présente les perceptrons, les arbres de décision et le classifieur naïf bayésien, et explique leur fonctionnement et leurs cas d’utilisation.
- Des méthodes avancées : Il aborde les réseaux de neurones, y compris l’apprentissage profond, les machines à vecteurs de support (SVM) et les méthodes d’ensemble, comme les forêts aléatoires et le boosting.
- Regroupement et similarité : Des techniques comme le regroupement par K-moyennes et les k plus proches voisins (KNN) sont expliquées, ainsi que leurs points forts et leurs limites.
- Des conseils pour choisir un algorithme : Les lecteurs apprennent à déterminer quand utiliser chaque méthode et comment interpréter ses résultats.
8. Comment « Le machine learning pour les nuls » de John Paul Mueller enseigne-t-il à valider les modèles et à éviter le surapprentissage ?
- Tests hors échantillon : Le livre insiste sur l’importance de tester les modèles sur des données qui n’ont pas servi à l’entraînement afin de vérifier leur capacité de généralisation.
- Techniques de validation croisée : Il explique la validation croisée en k plis, la validation « laisser-un-dehors » et le rééchantillonnage bootstrap, en détaillant les avantages et les inconvénients de ces méthodes.
- Éviter les fuites de données : L’auteur met en garde contre l’utilisation des données de test pendant l’entraînement ou le réglage des hyperparamètres, qui peut fausser les résultats.
- Courbes d’apprentissage et diagnostics : Les lecteurs apprennent à utiliser des courbes d’apprentissage pour diagnostiquer les problèmes de biais et de variance.
9. Comment « Le machine learning pour les nuls » de John Paul Mueller explique-t-il des sujets avancés comme les réseaux de neurones, les SVM et les méthodes d’ensemble ?
- Les réseaux de neurones démystifiés : Le livre détaille la structure des réseaux, les fonctions d’activation, les processus de propagation avant et de rétropropagation, et présente les notions d’apprentissage profond.
- Machines à vecteurs de support (SVM) : Il explique le principe de la marge maximale, les astuces de noyau pour les données non linéaires et l’importance d’hyperparamètres comme C et gamma.
- Méthodes d’ensemble : Les forêts aléatoires et le boosting sont présentés pour montrer comment la combinaison de plusieurs modèles peut améliorer la précision et réduire la variance.
- Des exemples de code pratiques : Des extraits de code Python et R illustrent ces techniques avancées à l’aide de jeux de données réels.
10. Quels conseils pratiques « Le machine learning pour les nuls » de John Paul Mueller donne-t-il pour travailler avec des images et des textes ?
- Notions de base du traitement des images : Le livre présente des bibliothèques comme Scikit-image et OpenCV pour charger des images, les filtrer et en extraire des caractéristiques.
- Réduction de dimensionnalité pour les images : Des techniques comme l’ACP, la factorisation en matrices non négatives (NMF) et l’analyse en composantes indépendantes (ICA) servent à extraire des caractéristiques pour des tâches comme la reconnaissance faciale.
- Représentation du texte et traitement automatique du langage naturel : Le livre aborde le sac de mots, TF-IDF, les n-grammes, la racinisation et la suppression des mots vides, à l’aide de NLTK et de Scikit-learn pour Python.
- Classification de textes et analyse des sentiments : Le livre présente la modélisation thématique, l’analyse des sentiments et l’extraction de données du Web pour constituer des jeux de données de traitement automatique du langage naturel.
11. Comment « Le machine learning pour les nuls » de John Paul Mueller explique-t-il les systèmes de recommandation et l’utilisation de la SVD ?
- Présentation des systèmes de recommandation : Le livre décrit les approches de recommandation par filtrage collaboratif, fondées sur le contenu et fondées sur les connaissances.
- Jeux de données et mesures de similarité : Il présente des jeux de données comme MovieLens et explique la similarité cosinus pour mesurer la similarité entre utilisateurs ou entre éléments.
- Décomposition en valeurs singulières (SVD) : La SVD est présentée comme une technique de factorisation matricielle qui permet de découvrir des facteurs latents dans les interactions entre utilisateurs et éléments.
- Mise en œuvre pratique : Les lecteurs apprennent à appliquer la SVD et les forêts aléatoires pour construire et valider des systèmes de recommandation à partir de données réelles.
12. Quelles conséquences futures, quels défis et quelles considérations éthiques « Le machine learning pour les nuls » de John Paul Mueller aborde-t-il ?
- Évolution du marché du travail : Le livre prévoit l’apparition de nouveaux emplois nécessitant des compétences en apprentissage automatique, plutôt qu’une simple disparition des emplois.
- Progrès du matériel et des algorithmes : Il évoque le besoin d’un matériel plus performant (GPU, processeurs spécialisés) et d’algorithmes améliorés pour traiter les mégadonnées et les tâches complexes.
- Écueils éthiques et pratiques : L’auteur met en garde contre les attentes irréalistes, le risque de périodes de désillusion envers l’IA et l’importance de définir des objectifs clairs et de constituer des équipes efficaces.
- Apprentissage continu et ressources : Les lecteurs sont encouragés à consulter des ressources en ligne, des blogs et des forums communautaires pour se tenir au courant et relever les nouveaux défis.
Télécharger le PDF
Télécharger l'EPUB
.epub est idéal pour lire des livres numériques sur téléphone, tablette ou liseuse.