Points clés
Considérez chaque décision de conception comme un acte public, et non comme un métier neutre.
Le monde fonctionne comme il a été conçu. Monteiro soutient que les produits et les systèmes nuisibles ne sont pas de simples accidents. Leurs effets néfastes découlent souvent de choix délibérés: ce qu’on cherche à optimiser, ce qu’on ignore et les besoins de qui comptent. Après qu’un homme armé a diffusé son attaque en direct depuis Christchurch, Facebook a supprimé des copies de la vidéo 1,5 million de fois en une journée. La mécanique de la plateforme avait été conçue pour propager rapidement les contenus, et c’est exactement ce qu’elle a fait, même lorsque ces contenus étaient horribles.
L’impact prime sur le fini. Une conception peut être élégante tout en étant nuisible. La question n’est pas seulement de savoir si quelque chose fonctionne, mais aussi ce que cela rend possible, qui en tire profit et qui en paie le prix. Les designers influent sur ces résultats par ce qu’ils créent, ce qu’ils omettent et leur volonté ou non de remettre en question le cahier des charges.
Ce qui frappe, c’est le passage d’une conception envisagée comme un objet fini à une conception comprise comme une intervention dans un système social. Cela rejoint la recherche sociotechnique, qui étudie la manière dont les outils, les institutions et le comportement humain se façonnent mutuellement. Cette perspective complique aussi l’idée rassurante selon laquelle les conséquences néfastes relèveraient uniquement des dirigeants : les personnes qui rendent un système utilisable contribuent à rendre ses effets possibles. La responsabilité ne doit toutefois pas être confondue avec une culpabilité égale pour tous. Les décideurs contrôlent les budgets et les politiques ; la responsabilité éthique doit donc être à la mesure du pouvoir réel de chacun.
Demandez qui paie lorsque la croissance récompense la vitesse, l’échelle et l’engagement.
Suivez les incitations. Uber a commencé comme un moyen de mettre en relation chauffeurs et passagers, mais la pression des investisseurs en faveur d’une croissance rapide a changé ce que l’entreprise récompensait. La part des chauffeurs a diminué, les passagers ont subi des hausses de tarifs et l’entreprise a créé Greyball, un outil qui trompait les autorités cherchant à réglementer son service. L’idée de départ n’était pas nécessairement nuisible; les incitations qui l’entouraient ont contribué à faire paraître utiles des décisions préjudiciables.
Évaluez l’équité avant de vous engager. Le voile d’ignorance est une expérience de pensée qui permet de juger si un système est juste: concevez-le sans savoir si vous serez chauffeur, passager ou investisseur. Cette incertitude rend plus difficile le fait de considérer les pertes d’un groupe comme le problème d’un autre. La question concerne autant les modèles d’affaires que les interfaces: qui gagne, qui perd et qui n’a pas voix au chapitre?
Le voile d’ignorance transforme une idée abstraite de l’équité en critère pratique de conception : le système semblerait-il toujours acceptable si son concepteur occupait le rôle le moins protégé ? Cela rejoint la conception des mécanismes, qui étudie la façon dont les règles façonnent les incitations et les résultats pour les individus. L’histoire d’Uber montre aussi pourquoi de bonnes intentions au lancement ne garantissent pas une conduite exemplaire à grande échelle. Les designers ne contrôlent toutefois pas l’ensemble de la structure financière. Une évaluation éthique est plus solide lorsqu’elle porte aussi sur les investisseurs, la direction et les indicateurs commerciaux, et pas seulement sur l’interface.
Protégez les personnes qui ne peuvent pas entrer dans la salle en faisant preuve de discernement professionnel.
Un designer est un gardien du passage. Dans ce livre, un gardien du passage est un professionnel dont le travail et les conseils contribuent à décider de ce qui parvient au public. Son rôle ne consiste pas seulement à exécuter des consignes. Il implique d’évaluer les conséquences, de demander pourquoi une chose doit exister et de refuser un travail qui mettrait des personnes en danger.
L’expertise comprend le conseil. La pharmacologue Frances Oldham Kelsey a été chargée d’évaluer la thalidomide, un médicament déjà autorisé dans de nombreux pays. Elle a enquêté sur des signalements de graves malformations congénitales et refusé l’autorisation de mise sur le marché aux États-Unis, malgré les pressions du fabricant. La leçon à tirer pour les designers n’est pas que chaque projet comporte une réponse évidente. C’est que le jugement professionnel fait partie du service pour lequel on les embauche, surtout lorsque les personnes touchées par une décision n’ont pas voix au chapitre.
Ce récit rappelle la déontologie médicale, où l’expertise s’accompagne d’un devoir envers la personne concernée, et pas seulement envers l’institution qui paie la facture. Il présente aussi le refus comme une compétence plutôt que comme un défaut d’esprit d’équipe. Le courage individuel ne saurait cependant remplacer la protection au travail. La personne qui conteste une consigne nuisible risque des représailles, une précarité financière, ou les deux. Pour que le rôle de gardien du passage soit pleinement assumé, il faut donc associer le jugement personnel à des procédures permettant d’exprimer un désaccord sans danger et de le faire remonter jusqu’aux personnes qui ont autorité.
Recrutez des personnes aux vécus différents, puis donnez du poids à leur voix.
Élargissez le cercle. Les équipes conçoivent souvent des produits pour des personnes dont la vie ressemble à la leur. La conception initiale de Twitter ne tenait pas suffisamment compte du harcèlement, du harcèlement obsessionnel ni des menaces, problèmes moins visibles pour une équipe aux expériences peu diverses. Le livre soutient que la recherche peut aider, mais qu’elle ne remplace pas la participation de personnes qui connaissent ces problèmes de première main.
La représentation doit avoir du poids. Une équipe composée de personnes aux horizons variés peut repérer des présupposés qui échappent aux autres, qu’il s’agisse de champs de saisie du nom trop restrictifs ou de règles d’identité qui exposent des personnes vulnérables. La diversité n’est pas un objectif de recrutement décoratif: elle améliore les questions que l’équipe pose et les risques qu’elle peut voir. Mais l’inclusion est vaine si les membres les moins influents ne sont présents que pour la forme, ou si leurs avertissements ne pèsent pas sur les décisions.
L’idée pratique est plus précise qu’un appel général à l’empathie : l’expérience vécue peut révéler les questions qu’une équipe n’a jamais pensé à poser. Cela rejoint les recherches sur la prise de décision en groupe, selon lesquelles la diversité des points de vue peut réduire les angles morts partagés, à condition que chacun puisse contribuer sans être pénalisé. La diversité, à elle seule, ne constitue pas un système de contrôle de la qualité. Les personnes doivent avoir de l’influence, des ressources et la possibilité de remettre en question les présupposés dominants. Il ne faut pas non plus traiter une personne comme la porte-parole de tout un groupe. La représentation élargit le champ d’investigation, mais la rigueur de la recherche et la responsabilité restent essentielles.
Intégrez l’examen éthique à votre travail quotidien, plutôt qu’à une activité annexe dictée par la culpabilité.
Le bon travail n’est pas une question de lieu. Monteiro remet en question l’idée selon laquelle les designers doivent quitter les grandes entreprises pour avoir un impact social. Travailler sur un produit utilisé par des millions de personnes a un immense impact social, en bien comme en mal. Un projet bénévole réalisé après le travail ne peut pas compenser un travail nuisible pendant la journée; Monteiro appelle cette tentative de compensation une compensation éthique (ethics offset).
Repérez la normalisation. La fenêtre d’Overton désigne l’éventail des idées qu’une société est disposée à discuter ou à accepter. Quand un comportement autrefois jugé scandaleux devient familier, une équipe peut prendre l’accommodement pour du progrès. Demandez ce que fait un projet, qui en bénéficie, qui pourrait en subir les conséquences et si la direction est prête à changer. Si les réponses honnêtes sont inacceptables, partir peut être la décision responsable.
L’accent mis sur le travail quotidien vise le fossé entre les valeurs personnelles et le comportement des institutions. Les travaux sur le changement organisationnel distinguent eux aussi les gestes symboliques des changements touchant les incitations et les pratiques fondamentales. L’argument est convaincant, mais le critère sans compromis proposé par le livre peut minimiser les contraintes auxquelles les travailleurs font face, notamment les dettes, l’accès aux soins et le statut d’immigration. Ces pressions ne rendent pas un travail nuisible inoffensif. Elles font toutefois du soutien collectif, de la protection des travailleurs et de la possibilité réaliste de partir des éléments indispensables à toute véritable stratégie éthique.
Gagnez en influence en participant aux réunions et en exposant clairement vos arguments.
La conception commence avant les pixels. Les budgets, les échéanciers, les objectifs du produit et les indicateurs de réussite façonnent l’expérience qui en résultera. Les designers qui n’interviennent qu’après ces décisions doivent se contenter d’ajuster un plan qu’ils n’ont pas eu la possibilité de remettre en question. Demandez à participer aux réunions où ces choix sont faits et expliquez comment une intervention en amont peut éviter du travail inutile ou des préjudices.
Commencez par la décision à prendre. Monteiro recommande d’énoncer d’abord la préoccupation principale, puis d’exposer les raisons et les mesures nécessaires. Un avertissement au sujet d’un système publicitaire discriminatoire est plus utile s’il nomme directement le risque plutôt que de s’ouvrir sur un long exposé du processus de conception. Vérifiez vos présupposés à l’aide de recherches, racontez une histoire concise et dites clairement ce qui devrait changer. Mieux vaut reconnaître une incertitude que fabriquer une réponse.
Le passage du savoir-faire visuel à l’influence organisationnelle corrige utilement l’idée que le bon travail se suffit à lui-même. Cela rejoint les recherches sur la communication et l’attention : les décideurs disposent souvent de peu de temps, si bien que les conséquences et la demande doivent apparaître clairement d’emblée. Ce conseil récuse également le faux choix entre données et récit. Les données peuvent établir ce qui se passe ; un exemple concret peut rendre les enjeux intelligibles. La persuasion dépend toutefois aussi de l’autorité, du moment choisi et de la volonté des dirigeants d’écouter.
Rejetez les interfaces manipulatrices et les données superflues avant leur mise en service.
Respectez les intentions des utilisateurs. Les interfaces manipulatrices (dark patterns) sont des choix de conception qui entravent ce que les gens cherchent à faire, souvent au profit de l’entreprise. On peut, par exemple, dissimuler l’option d’annulation ou culpabiliser les personnes par le libellé d’un bouton de refus. Monteiro considère ces pratiques comme les signes avant-coureurs d’une volonté plus profonde d’exploiter les utilisateurs.
Ne recueillez que les données nécessaires au service. Une inscription à une infolettre n’a pas besoin de l’adresse du domicile ni du genre d’une personne si son adresse courriel suffit. Le suivi de la localisation et la collecte de données personnelles sensibles créent des risques qui dépassent ceux de la fonctionnalité prévue: une application de rencontres qui enregistre les déplacements des personnes peut aider quelqu’un à les suivre. Demandez-vous pourquoi chaque champ ou fonctionnalité existe, ce qui pourrait arriver si des personnes malveillantes y avaient accès et si le même objectif peut être atteint en recueillant moins de données.
La minimisation des données est un puissant principe de sécurité : une information qui n’est jamais recueillie ne peut être exposée, utilisée à mauvais escient ni réaffectée à d’autres fins. Cette approche rappelle l’ingénierie de la protection de la vie privée, qui traite la réduction des risques comme un choix d’architecture plutôt que comme une promesse inscrite dans une politique. Les exemples du livre soulignent aussi une idée plus générale : un usage bénin ne définit pas à lui seul l’ensemble des risques d’une fonctionnalité. Il faut néanmoins associer la réflexion sur les pires scénarios à une évaluation proportionnée. Les équipes doivent examiner la gravité et la probabilité des risques, ainsi que les mesures de protection, plutôt que de traiter chaque mauvais usage imaginable comme également probable.
Organisez-vous avec vos collègues afin de ne pas rester seuls à refuser de nuire.
Créez une véritable communauté. Une entreprise peut proposer des repas, des événements et des services qui donnent aux employés le sentiment d’appartenir à un groupe, tout en orientant cette loyauté vers l’employeur plutôt que vers le grand public. Le livre exhorte les designers à considérer les utilisateurs, les voisins et les communautés touchées comme faisant partie de leurs obligations professionnelles, au même titre que leurs collègues et leurs supérieurs.
L’action collective change la donne. En 2018, 22 000 employés de Google ont cessé le travail pour protester contre la manière dont l’entreprise traitait le harcèlement sexuel. Chez Microsoft, des employés se sont mobilisés contre un contrat portant sur une technologie de reconnaissance faciale destinée à l’ICE. Ces exemples montrent comment une action coordonnée peut rendre les préoccupations plus difficiles à balayer d’un revers de main. Les organisations professionnelles peuvent fournir des normes, une aide juridique, des avantages sociaux et une structure permettant aux travailleurs d’agir ensemble.
L’action collective remédie à un déséquilibre fondamental : un employé isolé est plus facile à remplacer qu’une main-d’œuvre organisée. L’histoire du mouvement ouvrier montre que des règles communes et la négociation peuvent transformer des plaintes isolées en pression institutionnelle. L’appel du livre à créer des organisations professionnelles associe également la solidarité à des ressources concrètes, et pas seulement au moral des troupes. Il existe toutefois une tension entre normes professionnelles et contrôle de l’accès à la profession. Toute organisation a besoin d’une gouvernance transparente et d’une véritable participation des travailleurs à tous les niveaux, faute de quoi elle risque de reproduire les exclusions qu’elle devait combattre.
Exigez des compétences éprouvées avant que quiconque ne conçoive des systèmes touchant des millions de personnes.
Un travail complexe exige une préparation. Le designer James Liang a contribué à créer un logiciel qui permettait à Volkswagen de tromper les tests d’émissions. Il a été condamné à quarante mois de prison. Cette affaire rend tangibles les conséquences du travail de conception: suivre des consignes n’efface pas la responsabilité lorsqu’un système est délibérément conçu pour tromper.
Mettez en place des mécanismes de responsabilité avant qu’une crise n’éclate. Monteiro estime que la conception de systèmes à forts enjeux exige une meilleure formation, des normes éthiques et, éventuellement, un régime d’agrément, par analogie avec la médecine, le droit et l’aviation. Le RGPD de l’Union européenne montre également comment la réglementation peut établir des règles minimales pour la collecte des données et le signalement des violations. Le droit et l’éthique ne se confondent pas: une chose peut être légale tout en étant nuisible. La supervision professionnelle devrait contribuer à empêcher que cet écart serve d’excuse.
L’argument en faveur de la responsabilité est particulièrement solide lorsque les produits touchent à la vie privée, à la sécurité ou aux institutions publiques à grande échelle. Un régime d’agrément pourrait établir un socle de connaissances et prévoir des conséquences en cas de faute, comme le font les règles de sécurité dans d’autres secteurs à risque. Mais les titres ne garantissent pas la sagesse, et l’agrément peut créer des barrières pour les personnes déjà sous-représentées dans le domaine du design. Un système crédible devrait prévoir une formation accessible, la participation du public et des garanties contre la capture par les professionnels. La réglementation peut fixer un seuil minimal ; les critiques continues et la responsabilité institutionnelle doivent faire le reste.
Fixez une limite infranchissable, puis retirez votre travail si la persuasion est vaine.
La mise en service marque le début du travail. Monteiro compare un produit à un jardin: planter n’est que le commencement. Les équipes doivent observer le comportement du service dans le monde réel, recueillir les critiques, corriger les défaillances et supprimer les éléments nuisibles. Une plateforme qui amplifie le harcèlement ne peut pas considérer l’engagement qui en résulte comme une preuve de réussite. Prendre soin d’un système au fil du temps, c’est l’entretenir, et pas simplement le lancer.
Sachez quand vous arrêter. Menez des recherches, tentez de convaincre et organisez-vous tant que les dirigeants restent ouverts au changement. Si une entreprise poursuit sciemment un travail nuisible et rejette toute correction substantielle, les designers peuvent refuser la mission, déposer leurs outils ou partir. Les enseignants d’Oakland ont fait grève pendant sept jours et obtenu un accord salarial ainsi que des changements concernant les effectifs. La leçon générale est que le travail constitue un levier, surtout lorsque les travailleurs agissent ensemble.
L’image du jardin saisit une caractéristique essentielle des logiciels : leurs conséquences se poursuivent après leur mise en service, si bien que la responsabilité ne peut se limiter à une liste de vérifications préalable au lancement. Cela s’apparente à l’ingénierie de la sécurité, où la surveillance et la gestion des incidents font partie intégrante du système et ne sont pas de simples opérations de nettoyage facultatives. L’appel à retirer son travail est puissant, mais il ne faut pas idéaliser le sacrifice personnel. Les travailleurs ont besoin de plans communs et de soutien matériel, car il est plus facile de faire respecter une limite infranchissable quand le coût de la fixer n’est pas supporté par une seule personne.
Analyse
Ruined by Design est un plaidoyer concret sur le pouvoir professionnel, nourri d’échecs technologiques, de décisions prises en entreprise et de l’histoire personnelle de complicité de l’auteur. Son idée centrale consiste à redéfinir le design: au lieu de façonner des interfaces, il s’agit de façonner des conséquences. Ce déplacement rend l’argument du livre mémorable: un designer n’est pas seulement un artisan intervenant en aval des décisions commerciales, mais un acteur de systèmes qui répartissent les risques, les atteintes à la vie privée, l’argent et la parole.
Le livre est particulièrement convaincant lorsqu’il relie les choix techniques aux incitations. Les exemples de Greyball, des abus viraux et de la collecte imprudente de données montrent que les préjudices ne sont souvent pas de mystérieux effets secondaires. Ils peuvent découler de façon prévisible du fait de récompenser la croissance, l’engagement ou la commodité tout en ignorant les personnes qui en paient le prix. Les outils pratiques découlent de ce constat: demander pourquoi, enquêter auprès des personnes touchées, exposer clairement les risques, nouer des alliances et savoir quand cesser de contribuer par son travail.
Le ton polémique est lui aussi un instrument délibéré. La colère s’oppose à l’habitude professionnelle de traiter les conséquences sociales comme la spécialité de quelqu’un d’autre. Pourtant, la clarté morale du livre peut donner l’impression que la responsabilité est répartie plus également que le pouvoir ne l’est réellement. Un designer débutant, un dirigeant, un investisseur et un régulateur n’ont pas la même maîtrise d’un produit. Une pratique éthique exige donc à la fois un jugement individuel et des institutions qui protègent la dissidence, partagent les responsabilités et rendent possible l’action collective.
La proposition d’instaurer un régime d’agrément est le prolongement le plus controversé de cet argument. Elle découle logiquement de l’idée qu’une conception à forts enjeux peut causer des préjudices publics, mais un titre, à lui seul, ne saurait garantir un jugement éthique. Le livre est plus convaincant si l’on considère l’agrément comme une composante d’un système plus vaste: formation, critique, normes professionnelles, organisation des travailleurs et réglementation publique. Le défi durable qu’il pose n’est pas de faire de chaque designer un héros, mais de cesser de traiter le travail nuisible comme un malaise privé lorsque ses conséquences sont publiques.
Résumé des avis
Ruined by Design reçoit des critiques mitigées : certains saluent son contenu stimulant sur l’éthique du design, tandis que d’autres lui reprochent un ton répétitif, proche de la diatribe. Les lecteurs apprécient les arguments passionnés de Monteiro sur la responsabilité des designers et son appel à des pratiques éthiques dans le secteur technologique. Cependant, certains trouvent le livre centré sur les États-Unis et manquant d’analyse approfondie. Malgré ses défauts, beaucoup le considèrent comme une lecture importante pour les designers et les travailleurs de la tech, qui met en évidence la nécessité de prendre en compte l’éthique dans le design et les technologies.
Les lecteurs ont aussi lu
Glossaire
gardiens du passage
Des designers responsables des conséquencesTerme employé dans le livre pour désigner les designers et autres travailleurs dont le travail et le jugement déterminent ce qui est conçu et mis à la disposition du public. Un gardien du passage ne se contente pas d’exécuter une demande : il se demande pourquoi un produit existe, réfléchit aux personnes susceptibles d’être lésées et conseille ou refuse afin d’empêcher qu’un travail nuisible ne voie le jour.
code de déontologie des designers
Des devoirs professionnels partagésEnsemble de principes proposé par Monteiro et ouvert à la révision, pour une pratique responsable du design. Il place le bien-être humain et les effets du travail au-dessus de l’esthétique, appelle à la critique et à la connaissance du public, refuse de reléguer des personnes au rang de cas limites (edge cases) et considère la diversité, la communauté professionnelle et l’introspection comme des obligations de la pratique.
voile d’ignorance
Une expérience de pensée sur l’équitéMéthode associée au philosophe John Rawls pour déterminer si un système est juste. Avant d’en décider les règles, on imagine que l’on ignore le rôle que l’on occupera. Appliquée au design, cette méthode consiste à évaluer un service sans savoir si l’on sera client, travailleur ou personne touchée par ses décisions.
fenêtre d’Overton
Les limites de l’acceptation publiqueCadre qui décrit les idées ou les comportements qu’une société juge discutables ou acceptables à un moment donné. Le livre s’en sert pour montrer comment une exposition répétée peut rendre normales des pratiques autrefois choquantes, même si l’opinion publique peut aussi évoluer vers des idées auparavant jugées impossibles.
interfaces manipulatrices (dark patterns)
Des interfaces qui entravent les intentions des utilisateursChoix d’interface qui empêchent les gens de faire ce qu’ils souhaitent, souvent parce que leurs choix vont à l’encontre des intérêts d’une entreprise. Par exemple, dissimuler une option de résiliation ou employer des formulations culpabilisantes pour dissuader une personne de refuser une offre. Le livre voit dans ces pratiques le signe d’une volonté plus générale d’exploiter les utilisateurs.
compensation éthique (ethics offset)
De bonnes actions invoquées pour excuser un préjudiceTentative de compensation morale qui consiste à effectuer un travail rémunéré nuisible tout en le contrebalançant par une activité caritative ou à but non lucratif distincte. Monteiro rejette cette pratique comme substitut à une conduite éthique : aider un groupe en dehors des heures de travail n’annule pas les effets d’un travail nuisible effectué pendant la journée.
cas limites (edge cases)
Des personnes considérées à tort comme marginalesTerme du design de produits pour désigner les utilisateurs dont les besoins sont jugés inhabituels ou peu importants. Le livre conteste cette appellation : même une petite proportion d’une très grande base d’utilisateurs peut représenter des millions de personnes. Leurs besoins ne sont pas des anomalies au sein de la population ; les ignorer est un choix de conception qui a des conséquences humaines.
FAQ
De quoi parle Ruined by Design de Mike Monteiro ?
- L’impact social du design : Le livre examine comment les designers ont contribué à des préjudices sociaux par des choix de conception contraires à l’éthique, notamment dans les technologies et les produits numériques.
- Le design comme acte politique : Monteiro soutient que le design n’est jamais neutre et qu’il a toujours des conséquences concrètes, ce qui rend les designers responsables de l’impact de leur travail.
- Un appel à agir de façon éthique : Le livre exhorte les designers à jouer le rôle de gardiens du passage, à contester les pratiques nuisibles et à défendre des normes éthiques dans leur profession.
- Une critique de la culture du secteur : Il critique la priorité accordée, dans la Silicon Valley, à la croissance et aux profits au détriment de la sécurité, de l’éthique et du bien-être social.
Pourquoi lire Ruined by Design de Mike Monteiro ?
- Urgence et pertinence : Le livre aborde la crise éthique pressante qui touche les technologies et le design ; il est donc très pertinent pour toute personne participant à la création de produits numériques.
- Des conseils pour agir : Monteiro donne des conseils pratiques aux designers pour affronter les dilemmes éthiques, convaincre les parties prenantes et créer des communautés professionnelles.
- Un public varié : Le livre est précieux pour les designers UX, les responsables produit et toute personne ayant une influence sur le design ; il invite les lecteurs à assumer la responsabilité de leur travail.
- Des exemples concrets : Le livre s’appuie sur des cas tirés d’entreprises comme Facebook et Twitter pour illustrer ses arguments.
Quels sont les principaux enseignements de Ruined by Design de Mike Monteiro ?
- Les designers sont des gardiens du passage : Ils ont le pouvoir et la responsabilité d’empêcher que des produits nuisibles soient mis à la disposition du public.
- L’éthique avant l’esthétique : Le livre souligne que les considérations éthiques doivent primer sur les choix de conception visuels ou fonctionnels.
- La nécessité de rendre des comptes : Monteiro réclame des codes de déontologie professionnels, des licences et une action collective pour que les designers répondent de leurs actes.
- Diversité et inclusion : Les équipes diversifiées créent de meilleurs produits, plus éthiques, et aident à repérer les angles morts qui nuisent aux groupes marginalisés.
Comment Mike Monteiro définit-il les responsabilités éthiques des designers dans Ruined by Design ?
- L’humanité d’abord : Les designers sont avant tout des êtres humains, liés par un contrat social qui les engage à laisser le monde en meilleur état qu’ils ne l’ont trouvé.
- La responsabilité des effets : Les designers doivent prendre en compte les conséquences voulues et imprévues de leur travail et privilégier le bien-être des utilisateurs aux objectifs commerciaux.
- Le rôle de gardien du passage : Les designers doivent donner des conseils francs à leurs employeurs, accueillir la critique et ne jamais obéir aveuglément à des ordres contraires à l’éthique.
- L’éthique comme action : Le design éthique consiste à prendre des décisions concrètes qui protègent la société, et non à s’en tenir à une philosophie abstraite.
Comment les designers ont-ils « détruit le monde », selon Ruined by Design de Mike Monteiro ?
- La création de systèmes nuisibles : Les designers ont conçu des technologies qui facilitent les abus, le harcèlement, la désinformation et les divisions sociales, notamment les publicités ciblées et les plateformes mal modérées.
- La croissance privilégiée au détriment de la sécurité : La mentalité du secteur technologique, qui consiste à « avancer vite et casser des choses », a conduit à des produits qui amplifient la haine et la désinformation.
- Le manque de responsabilité : En l’absence de codes de déontologie officiels ou de licences, les designers ont souvent obtempéré à des demandes contraires à l’éthique sans en subir les conséquences.
- L’incapacité à dire non : Beaucoup de designers n’ont pas remis en question les projets nuisibles, laissant ainsi des produits préjudiciables atteindre des millions de personnes.
Quels sont les principaux défis éthiques et les « interfaces manipulatrices » abordés dans Ruined by Design ?
- Des tactiques de conception manipulatrices : Le livre met en évidence les interfaces manipulatrices (dark patterns) et les formulations trompeuses qui amènent les utilisateurs à faire ce qu’ils ne veulent pas, souvent au profit de l’entreprise.
- Les logiciels addictifs : Monteiro explique comment les plateformes exploitent la psychologie humaine, entraînant dépendance, anxiété et dépression.
- L’utilisation abusive des données : La collecte excessive et le traitement négligent de données sensibles sur les utilisateurs sont dénoncés comme de graves manquements à l’éthique.
- Le transfert de responsabilité : Les plateformes obligent souvent les utilisateurs à surveiller les abus et les contenus nuisibles au lieu d’en assumer elles-mêmes la responsabilité.
Quels conseils pratiques Ruined by Design de Mike Monteiro donne-t-il pour un travail de design éthique ?
- Se demander « pourquoi » et savoir dire « non » : Les designers devraient toujours questionner le but et l’impact de leur travail et refuser de concevoir des produits nuisibles.
- Travailler là où l’on peut exercer une influence : Monteiro encourage les designers à agir dans le cadre de leur poste actuel, en particulier au sein des grandes entreprises technologiques.
- Développer ses compétences et sa communauté : Apprenez à convaincre, accueillez la critique et rejoignez des organisations professionnelles pour défendre des normes plus exigeantes.
- Recueillir des retours en continu : Obtenez des retours utiles avant et après le lancement afin de limiter les détournements et de maintenir des normes éthiques.
Comment Ruined by Design de Mike Monteiro aborde-t-il la diversité et l’inclusion dans le design ?
- La diversité améliore les résultats : Les équipes diversifiées apportent des perspectives variées, repèrent les angles morts et créent des solutions qui répondent aux besoins d’une population plus large.
- Le manque de diversité actuel : L’homogénéité du secteur technologique conduit à des produits qui marginalisent les femmes, les minorités et d’autres groupes.
- Un appel à des recrutements inclusifs : Monteiro exhorte les entreprises à remettre en question les préjugés inconscients et à créer des environnements où chacun bénéficie des mêmes possibilités.
- Mérite et équité : Le mérite en matière de design ne peut véritablement s’exprimer que si tout le monde participe au processus.
Que signifie la « métaphore du jardin » dans Ruined by Design, et que nous apprend-elle sur le design de produits ?
- Le design comme soin continu : Lancer un produit, c’est comme planter un jardin ; le vrai travail consiste à l’entretenir et à le protéger continuellement.
- Concilier objectifs et menaces : Les designers doivent protéger les produits contre les détournements sans compromettre leur fonction essentielle, comme les jardiniers doivent équilibrer la lutte contre les nuisibles et la santé des plantes.
- Apprendre et s’adapter : Chaque itération apporte de nouveaux enseignements et oblige les designers à s’adapter aux retours du monde réel.
- La responsabilité après le lancement : Le succès se mesure à la santé durable du produit et à son impact positif, pas seulement à sa mise en ligne.
Comment Ruined by Design de Mike Monteiro explique-t-il l’importance de comprendre la monétisation dans le cadre d’un design éthique ?
- Suivre l’argent : Les designers doivent comprendre comment leur entreprise gagne de l’argent afin de s’assurer qu’ils peuvent soutenir leur travail de manière éthique.
- Une monétisation éthique : Lorsque les modèles économiques reposent sur l’exploitation des utilisateurs ou la vente de données, les designers doivent s’interroger sur leur participation.
- Le design comme résolution de problèmes : Aider les clients à élaborer des stratégies de monétisation éthiques fait partie des responsabilités du designer.
- Transparence et responsabilité : Savoir d’où vient l’argent aide les designers à prendre des décisions éclairées et éthiques.
Que dit Ruined by Design de Mike Monteiro sur la nécessité d’organisations professionnelles et de licences dans le design ?
- La communauté renforce le collectif : Les designers devraient se considérer comme membres d’une communauté qui protège à la fois les professionnels et les utilisateurs.
- Les organisations professionnelles : Ces groupes peuvent établir des normes, offrir un soutien juridique et donner aux designers les moyens de résister aux pratiques contraires à l’éthique.
- Des licences pour assurer la responsabilité : Les licences attestent des compétences et de l’éthique, valorisent la profession et protègent le public.
- La force du collectif : Des designers organisés peuvent influencer les pratiques du secteur et défendre des produits plus sûrs et plus équitables.
Quelles sont les meilleures citations de Ruined by Design de Mike Monteiro, et que signifient-elles ?
- « Vous êtes responsable de ce que vous mettez dans le monde. Et vous êtes responsable des effets que ces choses ont sur le monde. » —Victor Papanek. Cette citation souligne la responsabilité éthique des designers quant à l’impact de leur travail.
- « Il est difficile de faire comprendre quelque chose à un homme lorsque son salaire dépend du fait qu’il ne le comprenne pas. » —Upton Sinclair. Elle montre comment les incitations financières peuvent aveugler les gens face aux problèmes éthiques.
- « Nous sommes des gardiens du passage. » —Monteiro. Les designers ont le pouvoir et le devoir d’empêcher que des produits nuisibles soient mis à la disposition du public.
- « Il n’existe pas de logiciel neutre. » —Monteiro. Chaque choix de conception reflète des valeurs et des préjugés ; la neutralité est un mythe.
- « Tant que vous ne laissez pas tout le monde entrer dans la salle, vous ne pouvez pas prétendre avoir mérité quoi que ce soit dans ce métier. » —Monteiro. Le véritable mérite et l’équité exigent l’inclusion et la diversité.
Télécharger le PDF
Télécharger l'EPUB
.epub est idéal pour lire des livres numériques sur téléphone, tablette ou liseuse.