Démarrer l'essai gratuit
Tendances Nouveau Genres Auteurs
EnglishEnglish
EspañolSpanish
简体中文Chinese
繁體中文Chinese (Traditional)
FrançaisFrench
DeutschGerman
日本語Japanese
PortuguêsPortuguese
ItalianoItalian
한국어Korean
РусскийRussian
NederlandsDutch
العربيةArabic
PolskiPolish
हिन्दीHindi
Tiếng ViệtVietnamese
SvenskaSwedish
ΕλληνικάGreek
TürkçeTurkish
ไทยThai
ČeštinaCzech
RomânăRomanian
MagyarHungarian
УкраїнськаUkrainian
IndonesiaIndonesian
DanskDanish
SuomiFinnish
БългарскиBulgarian
עבריתHebrew
NorskNorwegian
HrvatskiCroatian
CatalàCatalan
SlovenčinaSlovak
LietuviųLithuanian
SlovenščinaSlovenian
СрпскиSerbian
EestiEstonian
LatviešuLatvian
فارسیPersian
മലയാളംMalayalam
தமிழ்Tamil
اردوUrdu
Recherche en cours...
SoBrief
The Precipice

The Precipice

Une chance sur six qu’une catastrophe survienne au cours de ce siècle. Quels risques l’humanité devrait-elle prendre en compte en priorité ?
par Toby Ord 2020 480 pages
3.94
5 000+ évaluations
Écouter
Immersif
V2.3
Amazon Kindle Audible
Essayez l'accès complet pendant 3 jours
Débloquez l'écoute et bien plus !
Continuer

Points clés

Le plus grand risque pour l’humanité est de perdre tout avenir, pas seulement les vies d’aujourd’hui.

Définir la véritable catastrophe. Une catastrophe existentielle est un événement qui détruit l’essentiel du potentiel à long terme de l’humanité. L’extinction en est le cas le plus évident, mais un effondrement irréversible de la civilisation ou une dystopie stable et oppressive pourrait également condamner presque tout avenir digne d’être vécu. Un risque existentiel est le risque d’un tel résultat. La distinction est importante: un désastre peut tuer des milliards de personnes tout en laissant à l’humanité la possibilité de se reconstruire, tandis qu’un événement moins immédiatement violent pourrait enfermer définitivement les générations futures dans un monde offrant peu de chances de se relever.

La perte définitive change tout. Le philosophe Derek Parfit nous invite à comparer une guerre qui tue 99 % de la population, mais laisse des survivants capables de reconstruire, à une guerre qui tue tout le monde. Les morts supplémentaires comptent, mais compte aussi la destruction, dans la seconde guerre, de toutes les vies, découvertes, relations et avancées morales à venir. Ord soutient que la différence est qualitative, et ne tient pas simplement à un bilan humain plus lourd.

Analyse

Ce qui frappe, c’est la façon dont cette perspective déplace l’attention de la destruction spectaculaire vers l’irréversibilité. Elle rappelle la distinction, en écologie, entre une perturbation et un changement de régime : un feu de forêt peut être dévastateur, mais le système peut s’en remettre ; le franchissement d’un seuil peut, au contraire, rendre tout rétablissement impossible. Cette analogie montre pourquoi la capacité à se relever compte autant que le nombre de victimes. La question plus difficile est de savoir comment évaluer le potentiel sans prétendre pouvoir attribuer une valeur précise aux vies ou aux cultures futures. La définition générale d’Ord a le mérite de ne pas imposer une théorie morale contestée, mais elle laisse tout de même ouverte la question de savoir ce qui constitue un avenir acceptable.

Mettre en place des garde-fous qui ne dépendent pas du sang-froid d’une seule personne.

Échapper de justesse au pire ne protège pas. Pendant la crise des missiles de Cuba, en 1962, le sous-marin soviétique B-59 était privé de communications, étouffait de chaleur et se trouvait encerclé par des navires américains qui larguaient des grenades sous-marines d’avertissement. Le capitaine Valentin Savitsky envisagea de tirer une torpille nucléaire. Le lancement nécessitait l’accord de plusieurs officiers, dont celui du commandant de la flottille, Vasili Arkhipov, qui refusa et persuada le capitaine de faire surface. Cet épisode montre comment la décision d’une seule personne, sous une pression extrême et avec des informations incomplètes, a peut-être empêché une escalade. On ne peut connaître avec certitude l’issue d’un lancement, mais le danger était réel.

Le même schéma s’est reproduit. En 1983, l’officier soviétique Stanislav Petrov considéra comme une fausse alerte un avertissement satellitaire signalant des missiles américains. En 1995, les dirigeants russes envisagèrent brièvement des représailles après qu’un radar eut pris une fusée de recherche norvégienne pour une attaque. Ces incidents révèlent la fragilité potentielle des systèmes d’alerte complexes.

Analyse

C’est un problème classique d’ingénierie de la sécurité : la fiabilité ne peut reposer sur le fait qu’une personne exceptionnelle remarque qu’un système est défaillant. Dans l’aviation et la médecine, des contrôles à plusieurs niveaux sont conçus pour repérer les erreurs avant qu’elles ne deviennent fatales. Les systèmes de commandement nucléaire ont besoin de la même logique, surtout lorsque des délais de décision très courts incitent à agir sur la foi de signaux incertains. Les garde-fous peuvent toutefois engendrer leurs propres risques s’ils amènent les dirigeants à croire qu’un système est infaillible. La leçon utile n’est pas simplement de faire confiance aux personnes prudentes, mais de réduire la fréquence des décisions prises sous forte pression et de faire en sorte que la retenue soit le choix par défaut le plus facile.

The Precipice est une brève période où la puissance humaine peut anéantir l’avenir de l’humanité.

La puissance s’est développée par étapes. La coopération humaine a permis d’accumuler les connaissances de génération en génération. L’agriculture a rendu possibles les établissements permanents et des États plus vastes; la science a permis de soumettre systématiquement les connaissances à l’épreuve des faits; et l’industrie a libéré une énergie concentrée et permis la production mécanisée. Ces transformations ont apporté d’immenses bienfaits, mais chacune a aussi accru la capacité de l’humanité à remodeler le monde. En 1945, le premier essai atomique a rendu manifeste la possibilité que l’humanité se détruise elle-même. Ord appelle cette période à haut risque The Precipice: un intervalle historiquement exceptionnel, durant lequel la puissance technologique a dépassé la sagesse et la capacité de coordination collectives.

Le progrès est réel, mais rien ne le garantit. En quelque deux siècles, la proportion de personnes vivant dans l’extrême pauvreté est passée d’environ 19 sur 20 à environ 1 sur 10; le taux d’alphabétisation est passé d’environ 1 personne sur 10 à plus de 8 sur 10; et l’espérance de vie a augmenté, passant d’environ 20 à 30 ans à 72 ans. Ces progrès invitent à l’optimisme, mais ne prouvent pas qu’ils se poursuivront automatiquement. Il s’agit de protéger ce que le progrès rend possible.

Analyse

L’argument évite deux récits tentants, mais trompeurs : celui selon lequel la technologie serait intrinsèquement corruptrice, et celui selon lequel le progrès se perpétuerait de lui-même. Le décalage institutionnel offre une perspective plus utile. Les outils peuvent se diffuser plus vite que les normes, les lois et les mécanismes de coordination ne s’y adaptent. Ce décalage aide à comprendre comment une même capacité scientifique peut améliorer la santé et créer des armes de destruction massive. Il faut aussi interpréter les données historiques avec prudence : les moyennes mondiales peuvent masquer les inégalités, et les progrès ont souvent eu un coût environnemental. L’idée centrale reste néanmoins valable : face à une puissance croissante, il faut délibérément renforcer la retenue et la prévoyance.

Ord estime à une chance sur six le risque de catastrophe existentielle au cours de ce siècle.

Les chiffres permettent de saisir l’ampleur du risque. En 2020, Ord estimait à environ une chance sur six le risque total de catastrophe existentielle au cours de ce siècle. Il évaluait à environ une chance sur 10 le risque lié à une intelligence artificielle non alignée, à une sur 30 celui des pandémies provoquées, et à une sur 30 celui de risques d’origine humaine encore imprévus. Il estimait à environ une chance sur 1 000 chacun le risque de guerre nucléaire, de changement climatique et d’autres dommages environnementaux, tandis que le risque naturel combiné était d’environ une chance sur 10 000. Ces estimations ne sont ni des mesures objectives ni des prévisions précises. Elles expriment un jugement éclairé sur des événements sans précédent et pourraient comporter une marge d’erreur considérable.

Les risques ne s’additionnent pas tout simplement. Ils peuvent se chevaucher ou avoir des causes communes. Une guerre majeure, par exemple, pourrait aggraver plusieurs autres menaces à la fois. Il vaut mieux lire les chiffres d’Ord comme une carte approximative: ils indiquent quels dangers méritent une attention sérieuse, et non que la catastrophe surviendra probablement à une date donnée.

Analyse

La quantification oblige à expliciter les affirmations. Elle permet aux lecteurs de comparer les priorités et de remettre en question les hypothèses, plutôt que de s’en remettre à des termes vagues comme « improbable ». Mais un chiffre comme une chance sur six peut paraître plus solidement fondé sur des données qu’il ne l’est, lorsqu’il s’agit d’un événement qui ne s’est jamais produit et dont on ne peut répéter l’observation. L’estimation est surtout utile comme outil de décision, et non comme statistique actuarielle calibrée. Une bonne démarche consiste à examiner les mécanismes et les incertitudes qui sous-tendent chaque estimation, puis à se demander si des révisions plausibles changeraient la justification d’agir. Pour plusieurs risques, ce ne serait pas le cas.

Ne laissons pas les dangers naturels célèbres détourner notre attention des technologies que nous créons.

La nature présente des menaces réelles, mais limitées. Un gros astéroïde pourrait déclencher un hiver d’impact à l’échelle mondiale, mais, à la parution du livre, les astronomes avaient repéré environ 95 % des astéroïdes géocroiseurs de plus d’un kilomètre. La probabilité estimée qu’un astéroïde d’un à dix kilomètres de diamètre frappe la Terre au cours du siècle suivant était d’environ une chance sur 120 000. Les fossiles indiquent également que le risque naturel d’extinction est très faible, même s’ils ne permettent pas d’écarter les incertitudes concernant l’effondrement de la civilisation.

L’activité humaine modifie le tableau des risques. Une guerre nucléaire pourrait assombrir et refroidir suffisamment la planète pour dévaster la production alimentaire. Le changement climatique et la perte de biodiversité menacent les vies humaines et la stabilité, même si, selon Ord, le lien direct entre ces dommages et l’extinction demeure incertain. Il estime les risques d’origine humaine à plus de mille fois le niveau des risques naturels. Cette comparaison ne justifie pas d’ignorer la nature; elle invite à concentrer les efforts là où les choix humains peuvent le plus influer sur les probabilités.

Analyse

Le contraste illustre une distinction utile entre un aléa et un risque sur lequel nous pouvons agir. Un astéroïde est terrifiant, mais son repérage s’est révélé relativement faisable. Les menaces d’origine humaine sont plus difficiles à gérer, car elles découlent de nombreux acteurs, de multiples incitations et technologies ; cela ouvre aussi des possibilités de prévention. Une réserve s’impose : la survie des espèces constitue un indicateur peu fiable des menaces engendrées par la civilisation moderne, notamment de la fragilité des chaînes d’approvisionnement mondiales. Ord présente l’estimation du risque naturel qui en découle comme une limite supérieure, et non comme une certitude. La leçon générale est d’adapter le degré de confiance aux éléments disponibles et de ne pas confondre familiarité scientifique et importance pratique.

Réglementer la biotechnologie et l’IA avancée avant que leur pouvoir destructeur ne se diffuse.

La manipulation du vivant devient plus facile. Le séquençage du génome et l’édition génétique sont devenus moins coûteux et plus accessibles, ce qui accroît leurs bienfaits en médecine et en agriculture tout en élargissant le cercle des personnes susceptibles d’en faire mauvais usage. En 2012, des chercheurs ont modifié le virus de la grippe aviaire H5N1 afin qu’il puisse se transmettre entre mammifères dans un modèle de laboratoire. Les accidents de laboratoire impliquant des agents pathogènes dangereux, associés à la rareté des informations rendues publiques, rendent difficiles les évaluations de sécurité. La Convention sur les armes biologiques est un accord international contre les armes biologiques, mais Ord la décrit comme très gravement sous-financée et dépourvue de mécanismes de vérification efficaces.

L’IA pose un autre problème de contrôle. Les systèmes avancés pourraient poursuivre des objectifs qui ne reflètent qu’imparfaitement les valeurs humaines. Dans l’apprentissage par récompense, un système est entraîné à maximiser une récompense donnée, mais une mesure mal conçue peut ne pas saisir ce qui compte vraiment pour les gens. Un système très performant pourrait alors chercher à obtenir des ressources ou résister à une interruption au service de l’objectif qui lui a été assigné. Le problème n’est pas une machine dotée d’émotions humaines, mais un puissant système d’optimisation dont l’objectif est erroné.

Analyse

Ces deux cas révèlent un problème récurrent de gouvernance : les capacités techniques peuvent se décentraliser alors que la supervision reste centralisée et lente. Les outils biologiques risquent d’être accessibles à un nombre croissant de chercheurs, tandis que les logiciels avancés peuvent se diffuser rapidement sur les réseaux. La prévention, la surveillance et les normes internationales sont donc essentielles, mais elles soulèvent aussi une tension entre sécurité et libre circulation des connaissances scientifiques. Des restrictions qui entravent la recherche légitime peuvent retarder des travaux salvateurs ; l’ouverture peut répandre des méthodes dangereuses. La démarche la plus crédible n’est pas l’interdiction générale, mais la mise en place de garde-fous proportionnés, d’institutions responsables et d’un examen attentif des travaux susceptibles d’avoir de lourdes conséquences avant leur mise en œuvre.

Préserver les possibilités avant de figer des valeurs, des régimes ou des technologies.

L’avenir peut être perdu sans extinction. Ord qualifie de verrouillage la réduction définitive des choix dignes d’intérêt qui s’offrent à l’humanité. Une dictature solidement implantée à l’échelle mondiale, un système social qui enferme les gens dans des incitations néfastes, ou une idéologie imposée avec une telle rigueur qu’elle ne puisse plus être remise en question pourrait détruire l’essentiel du potentiel humain tout en laissant la civilisation intacte. Les technologies de pointe pourraient renforcer la surveillance comme la résistance; l’issue n’est donc pas déterminée d’avance.

Le long-termisme élargit notre horizon moral. Le long-termisme est une perspective éthique qui accorde beaucoup d’importance aux effets des actes présents sur l’avenir lointain. Si les personnes à venir ont une valeur morale, alors préserver la capacité de l’humanité à choisir importe, même si l’on ignore qui elles seront et quelles seront leurs valeurs. Cela invite à la prudence face aux décisions irréversibles. Ord propose que l’humanité évite de fixer prématurément une vision unique de la société idéale, surtout tant qu’elle n’a que peu de raisons de croire cette vision juste.

Analyse

Préserver des possibilités constitue une réponse puissante à l’incertitude profonde. Cette approche rappelle la valeur de la flexibilité en théorie de la décision : si les connaissances peuvent s’améliorer, conserver plusieurs voies ouvertes peut être préférable à un engagement précoce en faveur d’une seule. Il ne saurait toutefois être question de tout préserver. Certaines possibilités, comme celle d’infliger un préjudice irréversible, peuvent elles-mêmes menacer les choix futurs. Le défi consiste à distinguer les garde-fous qui protègent la délibération des contraintes qui imposent subrepticement une idéologie privilégiée. Il faut pour cela des institutions difficiles à prendre en main, mais qui restent révisables au moyen de procédures légitimes.

Coordonner l’action à l’échelle mondiale, car aucun pays ne paie seul le prix total de l’échec.

La protection profite à tous. La réduction du risque existentiel est un bien public mondial: tout le monde bénéficie de la prévention d’une catastrophe, et les efforts d’un pays n’empêchent pas les autres d’en bénéficier également. Un gouvernement qui agit seul en supporte le coût, mais ne reçoit qu’une partie des bénéfices; les pays sont donc incités à profiter des efforts des autres sans y contribuer. Le même déséquilibre peut encourager des politiques qui créent des risques, lorsque leurs conséquences touchent surtout d’autres pays ou les générations futures.

Renforcer la capacité d’action à plusieurs niveaux. On peut réduire les risques en empêchant le déclenchement d’une catastrophe, en intervenant avant qu’elle ne se propage et en rendant les sociétés suffisamment résilientes pour résister à ses conséquences finales. Ord plaide aussi pour des institutions internationales plus fortes, une meilleure surveillance de la santé publique, une communication nucléaire améliorée et des moyens de représenter les générations futures dans les décisions politiques. La ligne téléphonique mise en place entre Washington et Moscou après la crise en est un exemple: une mesure relativement simple, destinée à accélérer les communications lorsque les événements vont plus vite que la diplomatie.

Analyse

Il s’agit d’un problème d’action collective d’une ampleur singulière : parmi les bénéficiaires figurent des personnes qui ne sont pas encore nées et ne peuvent ni faire pression sur les décideurs ni voter. Les gouvernements nationaux sont mal conçus pour représenter cette population, et une autorité mondiale unique pourrait engendrer ses propres dangers en concentrant trop de pouvoir. L’objectif institutionnel n’est donc pas simplement de centraliser. Il consiste à assurer une coordination crédible, transparente, soumise à des contre-pouvoirs et fondée sur une responsabilité partagée. Les accords existants peuvent être renforcés tandis que de nouveaux mécanismes sont mis à l’essai. Le choix ne se limite pas à un gouvernement mondial parfait ou à l’inaction.

Mettre l’humanité en sécurité d’abord, puis laisser ses descendants plus avisés choisir sa destination.

La stratégie comporte trois grandes étapes. D’abord, atteindre la sécurité existentielle, c’est-à-dire réduire les dangers immédiats et mettre en place une protection durable contre ceux qui surviendront. Ensuite, entreprendre ce qu’Ord appelle La longue réflexion (The Long Reflection): une réflexion soutenue et rigoureuse sur les avenirs qui valent véritablement la peine d’être poursuivis. Enfin, agir en fonction de ce jugement et développer le potentiel de l’humanité. La longue réflexion ne suppose pas de mettre toute autre activité à l’arrêt; elle vise à éviter les choix irréversibles avant que l’on en comprenne les conséquences.

Les enjeux comprennent des possibilités extraordinaires. La Terre pourrait rester habitable pendant des centaines de millions d’années, et l’humanité pourrait éventuellement s’étendre au-delà de ses frontières. Ord imagine des générations futures améliorant la santé, la justice et les connaissances, ainsi que développant des formes d’expérience qui dépassent de loin notre entendement actuel. L’implantation dans l’espace peut réduire certains dangers localisés, mais elle ne peut à elle seule résoudre des menaces qui s’étendent d’une planète à l’autre, comme la guerre, la dictature ou une IA mal alignée. La sécurité est le fondement, pas la destination tout entière.

Analyse

Cette séquence exprime une asymétrie prudente : les générations actuelles peuvent préserver les conditions nécessaires aux choix futurs, mais ne peuvent pas déterminer de façon fiable ce que les personnes à venir devraient valoriser. C’est un argument solide en faveur de l’humilité, sans pour autant justifier la passivité. La longue réflexion soulève aussi une question pratique : qui pourra y participer, et comment gérer les désaccords sans laisser les groupes puissants dominer ? Un processus crédible exigerait une vaste représentation et une critique rigoureuse, et non simplement un panel d’experts. La perspective d’un épanouissement futur immense est motivante, même si son ampleur est conjecturale. La conclusion la plus défendable est plus simple : ne pas fermer des avenirs que nos descendants pourraient juger meilleurs que nous ne le pouvons.

Analyse

La contribution la plus forte du livre tient à sa redéfinition des enjeux catastrophiques. Le débat public présente souvent l’extinction comme le bilan humain le plus lourd qu’on puisse imaginer. Ord ajoute un critère plus exigeant: la destruction de la capacité de l’humanité à se relever, à choisir et à créer. Ce cadre est ainsi utile au-delà de la seule extinction; il couvre également l’effondrement de la civilisation et le verrouillage politique ou technologique irréversible. Il déplace aussi le débat politique: au lieu de se demander si une catastrophe est suffisamment probable, il s’agit de savoir si la société peut justifier de laisser sans réponse un danger évitable et irréversible.

L’argument repose sur deux jugements qui doivent rester distincts. Premièrement, les générations futures et les possibilités que leurs vies n’ont pas encore réalisées ont une grande importance morale. Deuxièmement, certaines mesures peuvent réduire efficacement le risque existentiel. Le premier est un jugement philosophique; le second relève des faits et des institutions. On peut reconnaître l’importance morale de l’avenir tout en contestant les estimations de probabilité du livre ou les mesures qu’il privilégie. Distinguer ces questions évite que l’argument ne soit affaibli par les incertitudes concernant une technologie en particulier.

L’estimation d’une chance sur six frappe les esprits, mais sa précision ne doit pas être confondue avec une mesure. Il s’agit d’un jugement d’experts structuré sur des événements sans précédent, et non d’une fréquence calculée à partir d’essais répétés. Sa véritable valeur est de rendre les désaccords examinables: on peut la contester, la décomposer et la réviser. Les politiques devraient donc répondre aux mécanismes et aux éléments probants robustes, plutôt que de traiter une probabilité agrégée unique comme un fait établi.

La légitimité de l’autorité constitue un autre défi. Prévenir un préjudice irréversible peut nécessiter une réglementation, mais les institutions chargées de contrôler les technologies à risque peuvent elles-mêmes devenir des outils de coercition ou de verrouillage. C’est pourquoi l’appel du livre à la coordination internationale doit s’accompagner de mécanismes de reddition de comptes, d’un examen indépendant, de transparence lorsque cela est possible et de protections pour les voix dissidentes. La leçon la plus durable n’est pas que la sécurité doit toujours l’emporter sur le progrès. C’est que les innovations puissantes nécessitent une gouvernance capable d’apprendre, de corriger ses erreurs et de préserver de véritables choix pour ceux qui hériteront de leurs conséquences.

Résumé en 30 secondes
Une catastrophe existentielle détruit le potentiel à long terme de l’humanité, qu’il s’agisse d’extinction, d’effondrement de la civilisation ou d’oppression irréversible. Toby Ord estime à une chance sur six la probabilité d’une telle catastrophe au cours de ce siècle ; selon son évaluation, l’IA avancée et les pandémies provoquées par l’homme représentent des risques supérieurs aux dangers naturels. Ces probabilités sont des jugements éclairés, et non des prévisions mesurées. Réduisons les risques grâce à la prévention, à une intervention rapide et à des institutions résilientes, en coordonnant les efforts à l’échelle mondiale pour contrer les incitations qui poussent les nations à faire supporter les coûts aux autres. Préservons la capacité des générations futures à choisir avant de nous engager dans des technologies ou des systèmes sociaux irréversibles.
Contient des spoilers

Dernière mise à jour:

Signaler un problème

Résumé des avis

3.94 sur 5
Moyenne de 5 000+ évaluations de Goodreads et Amazon.

The Precipice reçoit dans l’ensemble des critiques positives pour son examen approfondi des risques existentiels auxquels l’humanité est confrontée. Les lecteurs apprécient la clarté des arguments d’Ord, son écriture accessible et ses réflexions stimulantes sur le potentiel futur de l’humanité. Beaucoup trouvent le livre inspirant et le considèrent comme une contribution importante aux débats sur le risque existentiel. Certains critiques estiment que certains risques sont exagérés ou que l’accent mis sur les générations lointaines est mal placé. Dans l’ensemble, les critiques saluent l’approche savante du livre et son appel à l’action pour préserver l’avenir à long terme de l’humanité.

Votre note :
4.43
690 évaluations
Envie de lire le livre complet ?

Glossaire

Catastrophe existentielle

Perte irréversible du potentiel

Événement qui détruit la majeure partie du potentiel à long terme de l’humanité. Cela comprend l’extinction de l’humanité, un effondrement mondial de la civilisation dont il est impossible de se relever, ou une situation dystopique qui ferme définitivement la voie à presque tous les avenirs dignes d’être vécus. Une catastrophe peut être existentielle même si certaines personnes survivent, dès lors que le rétablissement et la possibilité de choisir un avenir porteur de sens deviennent extrêmement improbables.

Risque existentiel

Risque d’échec définitif de l’humanité

Risque de provoquer une catastrophe existentielle. La probabilité pertinente correspond à un degré de croyance fondé sur les données disponibles, puisque ces événements sont sans précédent et ne peuvent être estimés à partir de fréquences historiques répétées. Le terme désigne les menaces qui pèsent sur l’humanité dans son ensemble, et non celles qui concernent une seule nation ou une seule culture.

Long-termisme (longtermism)

Éthique attentive à l’avenir lointain

Perspective éthique qui accorde une grande importance aux effets des actions présentes sur l’avenir à long terme. Elle considère la génération actuelle comme une partie d’une histoire humaine bien plus vaste et s’interroge sur la manière dont les choix actuels peuvent façonner les possibilités offertes aux générations futures. Préserver le potentiel de l’humanité est l’une des façons d’agir selon cette perspective.

Sécurité existentielle

Protection durable contre les catastrophes

Situation dans laquelle le risque existentiel a été ramené à un niveau faible et où les institutions, les normes et les capacités sociales contribuent à le maintenir à ce niveau. Elle consiste à préserver le potentiel de l’humanité face aux dangers présents et à le protéger contre les menaces futures. Elle n’exige pas que le risque tombe à zéro, mais appelle à poursuivre sa réduction de manière durable.

La longue réflexion (The Long Reflection)

Délibération sur le meilleur avenir de l’humanité

Période d’examen soutenu proposée par Ord, visant à déterminer quels avenirs à long terme l’humanité devrait poursuivre, une fois un certain degré de sécurité existentielle atteint. Elle ferait appel à l’éthique, aux sciences, à l’économie, à la politique et à d’autres disciplines. Son objectif est d’éclairer les choix avant que l’humanité n’apporte des changements majeurs, potentiellement irréversibles, à ses valeurs ou à son orientation.

Facteur de risque existentiel

Condition qui accroît le risque global

Condition qui augmente de façon causale la probabilité d’une catastrophe existentielle. Un facteur de risque peut contribuer indirectement au danger en rendant la société plus vulnérable à plusieurs menaces distinctes. Le conflit entre grandes puissances en est un exemple dans le livre, car il peut affaiblir la coopération internationale et accroître les dangers liés à plusieurs technologies.

Risque d’état (state risk)

Risque lié au maintien d’une situation de vulnérabilité

Risque qui persiste tant que l’humanité demeure dans une situation de vulnérabilité. Plus cette situation dure, plus le risque cumulé de catastrophe augmente. Les dangers naturels, comme les impacts d’astéroïdes, en sont des exemples. Pour ce type de risque, réduire la durée de la période de vulnérabilité peut limiter le danger accumulé.

Risque de transition

Risque pendant une transition majeure

Risque qui survient pendant que la société évolue vers une nouvelle situation technologique ou sociale. Le danger se concentre dans la transition elle-même, plutôt que dans le simple fait de demeurer dans un état de vulnérabilité. Le développement et le déploiement d’une IA avancée en sont un exemple. La réponse appropriée consiste à préparer et à encadrer soigneusement cette transition, et non à l’accélérer ou à la retarder automatiquement.

Malédiction de l’unilatéraliste (unilateralist’s curse)

Un acteur prend seul une décision risquée

Problème de décision collective dans lequel de nombreuses personnes évaluent indépendamment une action risquée, mais une seule d’entre elles doit décider de la mettre à exécution. Si leurs estimations varient, l’acteur le plus optimiste peut autoriser une action que la plupart des autres jugent trop dangereuse. Ce concept s’applique particulièrement à la publication d’informations dangereuses ou à la conduite de recherches risquées en l’absence de processus décisionnel commun.

FAQ

De quoi parle The Precipice: Existential Risk and the Future of Humanity ?

  • Les risques existentiels au cœur du livre : Dans The Precipice, Toby Ord examine les risques existentiels qui menacent le potentiel à long terme de l’humanité. Il souligne que nous traversons un moment historique décisif, où la puissance technologique dépasse notre sagesse.
  • L’avenir de l’humanité en jeu : Le livre soutient que préserver l’avenir de l’humanité est le défi déterminant de notre époque, alors que nos propres actions nous exposent à l’autodestruction.
  • Un appel à l’action : Ord invite les lecteurs à reconnaître combien il est important de gérer les risques actuels et de prévenir les catastrophes futures afin d’assurer aux générations à venir un avenir florissant.

Pourquoi lire The Precipice ?

  • Un sujet urgent et pertinent : Le livre aborde des enjeux cruciaux pour le présent et l’avenir de l’humanité. Il est donc essentiel pour celles et ceux qui se préoccupent des défis mondiaux.
  • Une approche interdisciplinaire : Ord conjugue des éclairages issus de l’éthique, des sciences et de l’histoire afin de proposer une compréhension globale des risques auxquels nous sommes confrontés et des solutions possibles.
  • Le savoir comme moteur d’action : La lecture de ce livre vous permettra de mieux comprendre les risques existentiels et vous incitera à agir pour préserver notre avenir.

Quels sont les principaux enseignements de The Precipice ?

  • Définir les risques existentiels : Ord définit les risques existentiels comme ceux qui menacent de détruire le potentiel à long terme de l’humanité, notamment par l’extinction ou l’effondrement irréversible de la société.
  • Un moment unique pour l’humanité : Le livre souligne que l’humanité se trouve à un tournant décisif : les progrès technologiques pourraient déboucher sur un épanouissement sans précédent ou sur un échec catastrophique.
  • Une responsabilité morale : Ord insiste sur l’impératif moral d’agir dès maintenant, car nos choix actuels façonneront l’avenir de générations innombrables.

Quelles sont les meilleures citations de The Precipice et que signifient-elles ?

  • « Nous nous trouvons à un moment crucial de l’histoire de notre espèce. » Cette citation souligne qu’il est urgent de s’attaquer aux risques existentiels, car nos actions actuelles auront des conséquences durables pour les générations futures.
  • « Les plus grands risques sont causés par l’action humaine, et l’action humaine peut y remédier. » Ord souligne que, même si nous sommes confrontés à des menaces importantes, nous avons aussi le pouvoir de les atténuer par l’action collective et une prise de décision responsable.
  • « Protéger l’humanité contre ces dangers devrait être une priorité centrale de notre époque. » Cette citation résume le message central du livre : il faut faire de la protection de l’avenir de l’humanité une priorité face à des risques croissants.

Qu’est-ce que le risque existentiel selon The Precipice ?

  • Définition proposée : Ord définit le risque existentiel comme un risque qui menace de détruire le potentiel à long terme de l’humanité, notamment par l’extinction ou l’effondrement permanent de la civilisation.
  • Des implications plus larges : Le concept ne désigne pas seulement la disparition de la vie humaine ; il englobe aussi les scénarios où la civilisation s’effondre de façon irréversible et où l’humanité se retrouve enfermée dans un avenir appauvri.
  • Une urgence morale : Comprendre le risque existentiel est essentiel pour saisir les enjeux de nos choix actuels et la nécessité de prendre des mesures préventives afin de protéger notre avenir.

Comment The Precipice classe-t-il les risques ?

  • Risques naturels : Ord examine les risques liés aux phénomènes naturels, comme les impacts d’astéroïdes, les éruptions de supervolcans et les explosions stellaires, qui ont menacé la vie sur Terre au cours de l’histoire.
  • Risques d’origine humaine : Le livre analyse les risques découlant des actions humaines, notamment les armes nucléaires, le changement climatique et la dégradation de l’environnement, qui menacent gravement notre avenir.
  • Risques futurs : Ord met en évidence les technologies émergentes, comme l’intelligence artificielle et la biotechnologie, qui pourraient engendrer de nouvelles formes de risque existentiel si elles ne sont pas gérées avec prudence.

Comment Toby Ord quantifie-t-il les risques existentiels dans The Precipice ?

  • Des estimations pour différents risques : Ord fournit des probabilités précises pour plusieurs risques existentiels : par exemple, une chance sur 30 qu’une pandémie provoquée par l’homme survienne et une chance sur 10 qu’une intelligence artificielle non alignée provoque une catastrophe au cours du prochain siècle.
  • Une analyse comparative : L’auteur compare ces risques afin d’en faire ressortir la probabilité relative et les conséquences potentielles, ce qui aide les lecteurs à comprendre lesquels méritent le plus d’attention.
  • La reconnaissance de l’incertitude : Ord souligne que ces estimations reposent sur les connaissances actuelles, mais qu’elles comportent une grande incertitude et que les probabilités réelles pourraient varier considérablement.

Que signifie la notion de « sécurité existentielle » dans The Precipice ?

  • Définition de la sécurité existentielle : La sécurité existentielle désigne une situation où l’humanité est protégée contre les risques existentiels et où son potentiel d’épanouissement est préservé à long terme.
  • Deux dimensions : Ord distingue deux composantes essentielles : préserver le potentiel de l’humanité en s’attaquant aux risques immédiats, et le protéger en établissant des garanties durables contre les menaces futures.
  • Une vision à long terme : La sécurité existentielle est considérée comme une étape fondamentale qui permettra à l’humanité de réfléchir à ses valeurs et à ses aspirations, et d’aborder les défis futurs avec davantage de discernement.

Comment The Precipice aborde-t-il le rôle des technologies dans les risques existentiels ?

  • La double nature des technologies : Le livre montre que les technologies peuvent à la fois présenter des risques importants — comme l’intelligence artificielle et la biotechnologie — et offrir des solutions pour les atténuer, par exemple les énergies renouvelables et les mesures de sécurité avancées.
  • La nécessité d’une gouvernance responsable : Ord insiste sur l’importance de mettre en place des cadres de gouvernance solides afin que les progrès technologiques soient conformes aux valeurs humaines et n’aggravent pas les risques existentiels.
  • Un appel à la prévoyance : L’auteur préconise une approche proactive du développement technologique et invite la société à réfléchir aux conséquences à long terme des nouvelles technologies, en donnant la priorité à la sécurité et aux considérations éthiques.

Quelles stratégies Toby Ord propose-t-il dans The Precipice pour réduire le risque existentiel ?

  • La coopération mondiale : Ord insiste sur la nécessité d’une collaboration internationale pour faire face aux risques existentiels, qui dépassent souvent les frontières nationales et exigent des réponses coordonnées.
  • Investir dans la recherche : Le livre préconise d’accroître le financement et la recherche afin de mieux comprendre les risques existentiels et de les atténuer, notamment dans des domaines comme la sécurité de l’IA, la biosécurité et la résilience climatique.
  • Sensibiliser et mobiliser le public : Ord encourage chacun à prendre part aux discussions sur les risques existentiels et à défendre des politiques qui accordent la priorité à la protection de l’avenir de l’humanité.

Quel lien The Precipice établit-il avec le concept de long-termisme ?

  • Définition du long-termisme : Le long-termisme est une perspective éthique qui souligne l’importance de l’avenir à long terme dans les décisions morales. Ord soutient que nos actions actuelles peuvent avoir des effets profonds sur les générations futures, ce qui fait du long-termisme une considération essentielle.
  • Responsabilité morale : Le livre affirme que nous avons l’obligation morale de tenir compte du bien-être des générations futures. Cette perspective incite les individus et les sociétés à privilégier les actions qui favorisent un avenir florissant pour tous.
  • Conséquences pour les politiques publiques : Ord estime que le long-termisme devrait éclairer les politiques publiques et la prise de décision. En adoptant une approche long-termiste, les responsables politiques peuvent créer des cadres qui donnent la priorité à la réduction des risques existentiels et à la préservation du potentiel de l’humanité.

Quelles pourraient être les conséquences de l’inaction face aux risques existentiels, selon The Precipice ?

  • Des conséquences catastrophiques : Ignorer les risques existentiels pourrait entraîner des catastrophes, notamment l’extinction ou des dommages irréversibles au potentiel de l’humanité. Ord souligne que les enjeux sont immenses et que les conséquences de l’inaction pourraient être désastreuses.
  • La perte du potentiel futur : Le livre soutient que ne pas s’attaquer aux risques existentiels pourrait entraîner la perte du potentiel à long terme de l’humanité. Les générations futures seraient alors privées de la possibilité de s’épanouir et d’accomplir de grandes choses.
  • Une défaillance morale : Ord présente la négligence des risques existentiels comme une défaillance morale. Selon lui, nous avons la responsabilité de protéger l’avenir, et ignorer ces risques revient à manquer à nos obligations éthiques envers les générations actuelles comme futures.

À propos de l'auteur

Toby Ord est un philosophe et chercheur australien affilié à l’Université d’Oxford. Figure éminente du mouvement de l’altruisme efficace, il est chercheur associé principal au Future of Humanity Institute. Ses travaux portent sur les priorités mondiales, le risque existentiel et l’avenir à long terme de l’humanité. Il a effectué ses études supérieures sous la direction de Derek Parfit, éminent philosophe moral. Ord est connu pour son engagement en faveur de l’analyse rationnelle afin de déterminer comment faire le plus de bien possible dans le monde. Ses recherches ont influencé de nombreux travaux en philosophie, en éthique et dans le domaine de la réduction des risques de catastrophes mondiales.

Télécharger le PDF

Pour garder le résumé de The Precipice pour plus tard, téléchargez gratuitement le PDF. Vous pouvez l’imprimer ou le lire hors ligne quand vous le souhaitez.
Download PDF

Télécharger l'EPUB

Pour lire le résumé de The Precipice sur votre liseuse ou dans une application de lecture, téléchargez gratuitement l’EPUB. Le format numérique .epub est idéal pour lire des livres numériques sur téléphone, tablette ou liseuse.
Download EPUB
Envie de lire le livre complet ?
Suivre
Écouter
Accueil
Swipe
Biblio
Appli
Essayez l'accès complet pendant 3 jours
Écoutez, enregistrez, et plus encore
Comparer les fonctionnalités Gratuit Pro
📖 Lire les résumés
Lisez des résumés illimités. Les utilisateurs gratuits en reçoivent 3 par mois
🎧 Écouter les résumés
Écoutez des résumés illimités dans 40 langues
—
❤️ Favoris illimités
Limité à 4 pour les utilisateurs gratuits
—
📜 Historique illimité
Limité à 4 pour les utilisateurs gratuits
—
📥 Téléchargements illimités
Limité à 1 pour les utilisateurs gratuits
—
Calendrier sans engagement
Aujourd'hui : Accès immédiat
Écoutez les résumés complets de plus de 26 000 livres. Soit plus de 12 000 heures d'audio !
Jour 2 : Rappel d'essai
Nous vous enverrons une notification pour vous informer que votre essai se termine bientôt.
Jour 3 : Votre abonnement commence
Vous serez débité le 25 nov.,
annulez à tout moment avant.
Consume 2.8× More Books
2.8× livres de plus Écoute Lecture
Nos utilisateurs nous adorent
1M+ lecteurs
Trustpilot Rating
TrustPilot
4.6 Excellent
Ce site change tout. Je n'ai jamais lu autant de résumés aussi rapidement. Je recommande vivement.
— Dave G
Ça vaut vraiment le coup en temps et en argent, et c'est très bien fait. Je n'ai jamais vu cette qualité de résumés ailleurs. Très utile !
— Em
Hautement recommandé !! Service fantastique. Parfait pour ceux qui veulent plus qu'un aperçu sans tous les détails d'un livre audio complet.
— Greg M
Économisez 62 %
Annuel
$119.88 $44.99/an/an
$3.75/mois
Mensuel
$9.99/mois
Démarrer un essai gratuit de 3 jours
3 jours gratuits, puis $44.99/an. Annulez à tout moment.
Unlock a world of fiction & nonfiction books
Plus de 26 000 livres pour le prix de 2 livres
Lisez n'importe quel livre en 10 minutes
Découvrez de nouveaux livres comme sur Tinder
Demandez n'importe quel livre s'il n'est pas encore résumé
Lisez plus de livres que quiconque
L'appli n°1 pour les amateurs de livres
Lifelike & immersive summaries
Garantie satisfait ou remboursé 30 jours
Téléchargez les résumés en EPUB ou PDF
Annulez à tout moment en quelques clics

Pourquoi un seul résumé ?

Scanner
Trouvez un code-barres à scanner

⭐
⭐
⭐
Nous avons un cadeau spécial pour vous
Ouvrir
38 % de réduction
RÉDUCTION POUR VOUS
⭐
⭐
⭐
$79.99
$49.99/an
Seulement $4.16 par mois
Continuer
2 touches pour commencer, résiliation ultra simple
Paramètres
Général
Widget
Chargement...