Iniciar prueba gratuita
Popular Nuevos Géneros Autores
EnglishEnglish
EspañolSpanish
简体中文Chinese
繁體中文Chinese (Traditional)
FrançaisFrench
DeutschGerman
日本語Japanese
PortuguêsPortuguese
ItalianoItalian
한국어Korean
РусскийRussian
NederlandsDutch
العربيةArabic
PolskiPolish
हिन्दीHindi
Tiếng ViệtVietnamese
SvenskaSwedish
ΕλληνικάGreek
TürkçeTurkish
ไทยThai
ČeštinaCzech
RomânăRomanian
MagyarHungarian
УкраїнськаUkrainian
IndonesiaIndonesian
DanskDanish
SuomiFinnish
БългарскиBulgarian
עבריתHebrew
NorskNorwegian
HrvatskiCroatian
CatalàCatalan
SlovenčinaSlovak
LietuviųLithuanian
SlovenščinaSlovenian
СрпскиSerbian
EestiEstonian
LatviešuLatvian
فارسیPersian
മലയാളംMalayalam
தமிழ்Tamil
اردوUrdu
Buscando...
SoBrief
El precipicio

El precipicio

Título traducido
Título original: The Precipice
Una posibilidad entre seis de que ocurra una catástrofe este siglo. ¿A qué riesgos debería prestar atención primero la humanidad?
por Toby Ord 2020 480 páginas
3.94
5000+ valoraciones
Escuchar
Inmersivo
V2.3
Amazon Kindle Audible
Prueba el acceso completo por 3 días
¡Desbloquea la escucha y mucho más!
Continuar

Ideas clave

El mayor riesgo para la humanidad es perder todo futuro, no solo las vidas de hoy.

Definir la verdadera catástrofe. Una catástrofe existencial es un acontecimiento que destruye la mayor parte del potencial a largo plazo de la humanidad. La extinción es el caso más claro, pero el colapso irreversible de la civilización o una distopía opresiva y estable también podrían cerrar el paso a casi todos los futuros que merecen la pena. Un riesgo existencial es el riesgo de que ocurra algo así. La distinción importa: un desastre puede matar a miles de millones y, aun así, dejar a la humanidad en condiciones de reconstruirse, mientras que un acontecimiento menos violento de inmediato podría atrapar para siempre a las generaciones futuras en un mundo con escasas posibilidades de recuperación.

La pérdida definitiva lo cambia todo. El filósofo Derek Parfit nos propone comparar una guerra que mata al 99 por ciento de las personas, pero deja supervivientes capaces de reconstruir, con otra que acaba con todos. Las muertes adicionales importan, pero también importa que la segunda guerra destruya todas las vidas futuras, los descubrimientos, las relaciones y el progreso moral. Ord sostiene que la diferencia es cualitativa, no solo una cifra de víctimas mayor.

Análisis

Lo llamativo es cómo este enfoque desplaza la atención de la destrucción espectacular a la irreversibilidad. Se parece a la distinción ecológica entre una perturbación y un cambio de régimen: un incendio forestal puede ser devastador y, sin embargo, el sistema quizá se recupere; cruzar cierto umbral puede, en cambio, volver imposible la recuperación. La analogía aclara por qué la capacidad de recuperarse importa tanto como el número de víctimas. La pregunta más difícil es cómo medir el potencial sin fingir que se puede asignar un valor preciso a las vidas o culturas futuras. La definición amplia de Ord evita con buen criterio depender de una teoría moral controvertida, pero aún deja abierto al debate qué se considera un futuro aceptable.

Construir salvaguardas que no dependan de que una persona mantenga la calma.

Un incidente por poco no es protección. Durante la crisis de los misiles de Cuba de 1962, el submarino soviético B-59 quedó incomunicado, en un calor sofocante y rodeado por buques estadounidenses que lanzaban cargas de advertencia. El capitán Valentin Savitsky se planteó disparar un torpedo nuclear. Para lanzarlo se necesitaba el acuerdo de varios oficiales, entre ellos el comandante de la flotilla, Vasili Arkhipov, quien se negó y convenció al capitán de salir a la superficie. El episodio muestra cómo la decisión de una sola persona, bajo un estrés extremo y con información incompleta, pudo haber evitado una escalada. No se puede saber con certeza cuál habría sido el resultado de un lanzamiento, pero el peligro era real.

El patrón se repitió. En 1983, el oficial soviético Stanislav Petrov consideró falsa una alerta satelital de misiles estadounidenses. En 1995, los líderes rusos se plantearon brevemente tomar represalias después de que un radar confundiera un cohete de investigación noruego con un ataque. Estos incidentes revelan la fragilidad de los complejos sistemas de alerta.

Análisis

Este es un problema clásico de ingeniería de seguridad: la fiabilidad no puede depender de que una persona excepcional se dé cuenta de que algo falla en el sistema. En la aviación y la medicina, se diseñan capas de controles para detectar errores antes de que resulten mortales. Los sistemas de mando nuclear necesitan la misma lógica, sobre todo cuando los breves plazos para decidir incitan a actuar basándose en señales inciertas. Sin embargo, las salvaguardas también pueden entrañar riesgos si llevan a los líderes a creer que un sistema es infalible. La lección útil no es simplemente confiar en las personas prudentes, sino reducir la frecuencia de las decisiones bajo gran presión y hacer que la opción predeterminada más sencilla sea contenerse.

The Precipice es una breve era en la que el poder humano puede borrar el futuro de la humanidad.

El poder llegó por etapas. La cooperación humana permitió acumular conocimientos a lo largo de generaciones. La agricultura hizo posibles los asentamientos permanentes y los Estados de mayor tamaño; la ciencia permitió someter sistemáticamente el conocimiento a pruebas; y la industria liberó energía concentrada y mecanizó la producción. Estos cambios trajeron enormes beneficios, pero cada uno amplió también la capacidad de la humanidad para transformar el mundo. En 1945, la primera prueba atómica hizo innegable la posibilidad de que la humanidad se destruyera a sí misma. Ord llama Precipicio a este periodo de alto riesgo: un intervalo históricamente excepcional en el que el poder tecnológico ha superado la sabiduría colectiva y la capacidad de coordinación.

El progreso es real, pero no está garantizado. En unos dos siglos, la pobreza extrema pasó de afectar a cerca de 19 de cada 20 personas a afectar a aproximadamente una de cada 10; la alfabetización subió de alrededor de una de cada 10 personas a más de ocho de cada 10, y la esperanza de vida aumentó de unos 20 o 30 años a 72. Estos avances justifican el optimismo, pero no demuestran que el progreso vaya a continuar automáticamente. La tarea consiste en proteger aquello que el progreso hace posible.

Análisis

El argumento evita dos relatos tentadores, pero engañosos: que la tecnología corrompe por naturaleza y que el progreso se sostiene por sí solo. Una perspectiva más útil es la del desfase institucional. Las herramientas pueden difundirse más rápido de lo que las normas, las leyes y los mecanismos de coordinación logran adaptarse a ellas. Esa brecha ayuda a explicar por qué una misma capacidad científica puede mejorar la salud y crear armas capaces de causar matanzas masivas. También hay que leer con cuidado las cifras históricas: los promedios mundiales pueden ocultar desigualdades, y los avances a menudo han tenido costos ambientales. Aun así, el planteamiento central se mantiene: responder a un mayor poder exige crecer deliberadamente en prudencia y previsión.

Ord estima en una de cada seis la probabilidad de una catástrofe existencial este siglo.

Las cifras permiten precisar la magnitud. La estimación de Ord, formulada en 2020, de la probabilidad total de una catástrofe existencial este siglo es de alrededor de una de cada seis. Asigna aproximadamente una de cada 10 a una inteligencia artificial no alineada, una de cada 30 a pandemias provocadas mediante ingeniería y una de cada 30 a riesgos imprevistos causados por los seres humanos. Calcula aproximadamente una de cada 1.000 para una guerra nuclear, el cambio climático y otros daños ambientales, mientras que el riesgo natural combinado es de alrededor de una de cada 10.000. Estas estimaciones no son mediciones objetivas ni pronósticos precisos. Expresan un juicio informado sobre acontecimientos sin precedentes y podrían estar equivocadas por un margen considerable.

Los totales no se suman sin más. Los riesgos pueden solaparse o tener causas comunes. Una guerra importante, por ejemplo, podría agravar a la vez varias otras amenazas. Lo mejor es leer las cifras de Ord como un mapa aproximado: señalan qué peligros merecen atención seria, no predicen que una catástrofe sea probable en una fecha concreta.

Análisis

Cuantificar obliga a explicitar las afirmaciones. Permite a los lectores comparar prioridades y cuestionar supuestos, en vez de depender de etiquetas vagas como «improbable». Pero una cifra como una de cada seis puede parecer más sólidamente fundada en datos de lo que realmente está cuando el acontecimiento nunca ha ocurrido y no puede someterse a pruebas repetidas. La estimación es más valiosa como ayuda para decidir que como estadística actuarial calibrada. Una buena respuesta consiste en examinar los mecanismos y la incertidumbre que sustentan cada estimación y luego preguntarse si revisiones plausibles cambiarían los argumentos a favor de actuar. En varios casos, no los cambiarían.

No permitamos que los conocidos peligros naturales nos distraigan de las tecnologías que creamos.

La naturaleza plantea amenazas reales, pero acotadas. Un gran asteroide podría desencadenar un invierno de impacto global, pero, cuando se escribió el libro, los astrónomos ya habían encontrado cerca del 95 por ciento de los asteroides cercanos a la Tierra de más de un kilómetro. La probabilidad estimada de que un asteroide de entre uno y 10 kilómetros impactara contra la Tierra en el próximo siglo era de aproximadamente una entre 120.000. Las pruebas fósiles también sugieren que el riesgo natural de extinción es muy bajo, aunque no permiten descartar la incertidumbre sobre el colapso de la civilización.

La actividad humana altera el panorama de riesgos. Una guerra nuclear podría oscurecer y enfriar el planeta lo suficiente como para devastar la producción de alimentos. El cambio climático y la pérdida de biodiversidad amenazan vidas y estabilidad, aunque Ord considera incierta la vía directa que llevaría de esos daños a la extinción. Estima que los riesgos creados por los seres humanos superan en más de mil veces los riesgos naturales. Esa comparación no es motivo para ignorar la naturaleza, sino para concentrar los esfuerzos allí donde las decisiones humanas pueden alterar más las probabilidades.

Análisis

El contraste ilustra una distinción valiosa entre un peligro y un riesgo que podemos influir. Un asteroide da miedo, pero rastrearlo ha demostrado ser relativamente viable. Las amenazas causadas por los seres humanos son más difíciles porque surgen de muchos actores, incentivos y tecnologías, pero eso también abre oportunidades para prevenirlas. Hay una salvedad: las pruebas basadas en la supervivencia de las especies son una guía débil para las amenazas creadas por la civilización moderna, incluida la fragilidad de las cadenas de suministro mundiales. Ord presenta la estimación resultante del riesgo natural como un límite, no como una certeza. La lección general es ajustar el grado de confianza a las pruebas y no confundir la familiaridad científica con la importancia práctica.

Regular la biotecnología y la IA avanzada antes de que se difunda su poder destructivo.

Manipular la biología es cada vez más fácil. La secuenciación del genoma y la edición genética se han abaratado y son más accesibles, lo que aumenta sus beneficios en medicina y agricultura, pero también amplía el grupo de quienes podrían hacer un uso indebido de ellas. En 2012, unos investigadores modificaron el virus H5N1 de la gripe aviar para que pudiera propagarse entre mamíferos en un modelo de laboratorio. Los accidentes de laboratorio con patógenos peligrosos, sumados a la escasa divulgación pública, dificultan evaluar las afirmaciones sobre seguridad. La Convención sobre las Armas Biológicas es un acuerdo internacional contra las armas biológicas, pero Ord la describe como gravemente falta de financiación y carente de mecanismos eficaces de verificación.

La IA plantea un problema de control distinto. Es posible que los sistemas avanzados persigan objetivos que solo reflejen de manera imperfecta los valores humanos. En el aprendizaje basado en recompensas, se entrena a un sistema para maximizar una recompensa especificada, pero una medida deficiente puede no captar lo que realmente les importa a las personas. Un sistema muy capaz podría entonces buscar recursos o resistirse a que lo interrumpan para cumplir el objetivo que se le asignó. La preocupación no es que una máquina tenga emociones humanas, sino que un potente sistema de optimización persiga un objetivo equivocado.

Análisis

Ambos casos ponen de manifiesto un problema recurrente de gobernanza: la capacidad técnica puede descentralizarse, mientras la supervisión sigue centralizada y avanza con lentitud. Las herramientas biológicas podrían quedar al alcance de más investigadores, mientras que el software avanzado puede difundirse rápidamente por las redes. Por eso son esenciales la prevención, la vigilancia y las normas internacionales, aunque también se genera una tensión entre la seguridad y el intercambio científico abierto. Las restricciones que obstaculizan la investigación legítima pueden retrasar avances que salvan vidas; la apertura puede difundir métodos peligrosos. El enfoque más convincente no es prohibirlo todo, sino adoptar salvaguardas proporcionales, instituciones responsables y una evaluación cuidadosa del trabajo de alto impacto antes de ponerlo en práctica.

Preservar opciones antes de fijar valores, regímenes o tecnologías.

Es posible perder el futuro sin extinguirse. Ord llama cierre irreversible a la reducción permanente de las opciones valiosas de la humanidad. Una dictadura arraigada en todo el mundo, un sistema social que atrape a las personas en incentivos nocivos o una ideología impuesta con tal rigor que ya no pueda reconsiderarse podrían destruir la mayor parte del potencial humano sin que desapareciera la civilización. La tecnología avanzada podría fortalecer tanto la vigilancia como la resistencia, así que el resultado no está predeterminado.

El largoplacismo amplía el horizonte moral. El largoplacismo es una perspectiva ética que otorga un peso considerable a la manera en que las acciones presentes afectan al futuro lejano. Si las personas futuras tienen importancia moral, preservar la capacidad de elección de la humanidad importa, aunque desconozcamos sus identidades y valores concretos. Esto justifica actuar con cautela ante las decisiones irreversibles. Ord propone que la humanidad evite fijar prematuramente una única visión de la sociedad ideal, sobre todo mientras tenga tan poca certeza de que esa visión sea acertada.

Análisis

Preservar opciones es una respuesta poderosa ante una incertidumbre profunda. Se parece al valor de la flexibilidad en la teoría de decisiones: cuando la información puede mejorar, mantener abiertos varios caminos puede ser preferible a comprometerse pronto con uno solo. Pero preservar todas las opciones no puede ser la regla. Algunas, como la posibilidad de infligir daños irreversibles, pueden amenazar por sí mismas las decisiones futuras. El reto consiste en distinguir las salvaguardas que protegen la deliberación de las restricciones que introducen subrepticiamente una ideología preferida. Para ello hacen falta instituciones difíciles de capturar, pero que aun así puedan revisarse mediante procesos legítimos.

Coordinarse a escala mundial porque ningún país asume todo el costo del fracaso.

La protección es un beneficio compartido. Reducir el riesgo existencial es un bien público mundial: todo el mundo se beneficia de evitar una catástrofe, y el esfuerzo de un país no impide que los demás también se beneficien. Si un gobierno actúa por su cuenta, asume el costo, pero solo recibe una parte de los beneficios, de modo que los países tienen incentivos para aprovecharse de los esfuerzos ajenos. El mismo desequilibrio puede alentar políticas que generan riesgos cuando sus daños recaen sobre todo fuera de las fronteras nacionales o más allá de la generación actual.

Crear capacidad en varios frentes. Es posible reducir el riesgo impidiendo que comience una catástrofe, respondiendo antes de que se propague y haciendo que las sociedades sean lo bastante resilientes para soportar sus efectos finales. Ord también aboga por fortalecer las instituciones internacionales, mejorar la vigilancia de la salud pública, perfeccionar la comunicación nuclear e idear mecanismos para que las generaciones futuras estén representadas en las decisiones políticas. La línea telefónica directa entre Washington y Moscú, establecida tras la crisis, es un ejemplo de medida relativamente sencilla, concebida para agilizar la comunicación cuando los acontecimientos avanzan más rápido que la diplomacia.

Análisis

Este es un problema de acción colectiva de una escala inusual: entre quienes se benefician están personas que aún no han nacido y que no pueden hacer presión ni votar. Los gobiernos nacionales no están bien diseñados para representar a ese grupo, y una autoridad mundial única podría crear sus propios peligros si concentra demasiado poder. Por tanto, el objetivo institucional no es simplemente centralizar. Es lograr una coordinación fiable, con transparencia, controles y responsabilidad compartida. Se pueden fortalecer los acuerdos vigentes y, a la vez, poner a prueba mecanismos nuevos. La alternativa no está entre un gobierno mundial perfecto y la inacción.

Asegurar primero a la humanidad y dejar después que sus descendientes más sabios elijan el rumbo.

La estrategia consta de tres grandes etapas. Primero, alcanzar la seguridad existencial: reducir los peligros inmediatos y construir una protección duradera frente a los futuros. Segundo, emprender lo que Ord llama la Gran Reflexión (The Long Reflection): una indagación sostenida y rigurosa sobre qué futuros merecen realmente la pena. Tercero, actuar conforme a ese juicio y desarrollar el potencial de la humanidad. La Gran Reflexión no implica poner en pausa todas las demás actividades; es una manera de evitar decisiones irreversibles antes de comprender sus consecuencias.

Lo que está en juego incluye posibilidades extraordinarias. La Tierra podría seguir siendo habitable durante cientos de millones de años, y cabe imaginar que la humanidad se extienda más allá de ella. Ord imagina a generaciones futuras mejorando la salud, la justicia y el conocimiento, así como desarrollando formas de experiencia que superan con mucho nuestra comprensión actual. Los asentamientos espaciales pueden reducir algunos peligros localizados, pero no pueden resolver por sí solos amenazas que se extienden entre planetas, como la guerra, la dictadura o una IA no alineada. La seguridad es la base, no el destino completo.

Análisis

Esta secuencia refleja una asimetría prudente: las generaciones actuales pueden preservar las condiciones para que las futuras elijan, pero no pueden determinar de manera fiable qué deberían valorar quienes vengan después. Es un argumento sólido a favor de la humildad, pero no de la pasividad. La Gran Reflexión también plantea una pregunta práctica: ¿quién podrá participar y cómo se gestionarán los desacuerdos sin permitir que los grupos poderosos dominen? Un proceso creíble necesitaría una representación amplia y una crítica rigurosa, no solo un grupo de expertos. La visión de un florecimiento futuro inmenso es inspiradora, aunque su escala sea especulativa. Su consecuencia más defendible es más sencilla: evitar clausurar futuros que nuestros descendientes podrían juzgar mejores de lo que nosotros podemos hacerlo.

Análisis

La mayor contribución del libro es su redefinición de lo que está en juego en una catástrofe. El debate público suele considerar la extinción como el mayor acontecimiento imaginable en términos de víctimas. Ord añade un criterio más exigente: la destrucción de la capacidad de la humanidad para recuperarse, elegir y crear. Así, el marco resulta útil más allá de la extinción literal e incluye el colapso de la civilización y el cierre irreversible de opciones políticas o tecnológicas. También transforma la política pública: ya no se trata de debatir si la probabilidad de un desastre es lo bastante alta, sino de preguntarse si la sociedad puede justificar que un peligro evitable e irreversible quede sin gestionar.

El argumento depende de dos juicios que conviene mantener separados. Primero, las generaciones futuras y las posibilidades aún no realizadas de sus vidas tienen un peso moral considerable. Segundo, ciertas intervenciones pueden reducir eficazmente el riesgo existencial. El primero es un planteamiento filosófico; el segundo, uno empírico e institucional. Alguien puede aceptar la importancia moral del futuro y, a la vez, poner en duda las estimaciones de probabilidad del libro o las intervenciones que prefiere. Mantener separadas esas cuestiones evita que el argumento se debilite por la incertidumbre en torno a una sola tecnología.

La estimación de una entre seis es llamativa, pero no debe confundirse su precisión aparente con una medición. Es un juicio experto estructurado sobre acontecimientos sin precedentes, no una frecuencia calculada a partir de ensayos repetidos. Su verdadero valor consiste en hacer examinables las discrepancias: se puede cuestionar, desglosar y actualizar la estimación. Por tanto, las políticas deberían responder a los mecanismos y a las pruebas sólidas, y no tratar una probabilidad agregada como un hecho establecido.

Otro desafío es la legitimidad de la autoridad. Prevenir daños irreversibles puede exigir regulación, pero las instituciones facultadas para controlar tecnologías peligrosas podrían convertirse, ellas mismas, en instrumentos de coerción o de cierre irreversible. Por eso, el llamado del libro a la coordinación internacional debe ir acompañado de rendición de cuentas, revisión independiente, transparencia cuando sea posible y protección del disenso. La lección más duradera no es que la seguridad siempre deba prevalecer sobre el progreso. Es que las innovaciones poderosas necesitan una gobernanza capaz de aprender, corregir errores y preservar opciones significativas para quienes hereden sus consecuencias.

Resumen en 30 segundos
Una catástrofe existencial destruye el potencial a largo plazo de la humanidad, ya sea mediante la extinción, el colapso de la civilización o la opresión irreversible. Toby Ord estima que hay una posibilidad entre seis de que ocurra este siglo; en su evaluación, la IA avanzada y las pandemias diseñadas pesan más que los peligros naturales. Estas probabilidades son juicios informados, no pronósticos medidos. Reduzcamos el riesgo mediante la prevención, la respuesta rápida y unas instituciones resilientes, con coordinación global para abordar los incentivos que permiten a las naciones trasladar los costos a otros. Protejamos la capacidad de las generaciones futuras para elegir antes de comprometernos con tecnologías o sistemas sociales irreversibles.
Contiene spoilers

Última actualización:

Reportar problema

Resumen de reseñas

3.94 de 5
Promedio de 5000+ valoraciones de Goodreads y Amazon.

The Precipice recibe críticas mayormente positivas por su examen exhaustivo de los riesgos existenciales que enfrenta la humanidad. Los lectores aprecian los argumentos claros de Ord, su prosa accesible y sus ideas estimulantes sobre el potencial futuro de la humanidad. A muchos el libro les resulta inspirador y lo consideran una contribución importante al debate sobre el riesgo existencial. Algunos críticos sostienen que ciertos riesgos se exageran o que centrarse en las generaciones futuras lejanas está fuera de lugar. En general, los críticos elogian el enfoque académico del libro y su llamado a proteger el futuro a largo plazo de la humanidad.

Tu valoración:
4.43
690 valoraciones
¿Quieres leer el libro completo?

Glosario

catástrofe existencial

Pérdida irreversible del potencial

Un acontecimiento que destruye la mayor parte del potencial a largo plazo de la humanidad. Incluye la extinción humana, un colapso global irrecuperable de la civilización o un desenlace distópico que clausure para siempre casi todos los futuros que valgan la pena. Una catástrofe puede ser existencial aunque algunas personas sobrevivan, si la recuperación y la posibilidad de elegir un futuro significativo se vuelven extremadamente improbables.

riesgo existencial

Riesgo de fracaso humano permanente

Un riesgo que amenaza con causar una catástrofe existencial. La probabilidad pertinente es un grado de creencia basado en la evidencia, puesto que estos acontecimientos no tienen precedentes y no pueden estimarse a partir de frecuencias históricas repetidas. El término se refiere a amenazas para la humanidad en su conjunto, no a amenazas para una sola nación o cultura.

largoplacismo (longtermism)

Ética atenta al futuro lejano

Una perspectiva ética que presta considerable atención a los efectos de las acciones presentes en el futuro a largo plazo. Considera a la generación actual como una parte de una historia humana mucho más amplia y pregunta cómo las decisiones actuales pueden moldear las posibilidades disponibles para las personas del futuro. Proteger el potencial de la humanidad es una manera de poner en práctica esta perspectiva.

seguridad existencial

Protección duradera frente a las catástrofes

Una situación en la que el riesgo existencial se ha reducido a un nivel bajo y las instituciones, las normas y las capacidades sociales contribuyen a mantenerlo bajo. Incluye tanto preservar el potencial de la humanidad ante los peligros actuales como protegerlo frente a amenazas futuras. No exige que el riesgo llegue a cero, pero sí una senda sostenible de reducción continua.

la Gran Reflexión (The Long Reflection)

Deliberación sobre el mejor futuro para la humanidad

El período de indagación sostenida que Ord propone para determinar qué futuros a largo plazo debería perseguir la humanidad, una vez alcanzado cierto grado de seguridad existencial. Se nutriría de la ética, la ciencia, la economía, la política y otras disciplinas. Su propósito es propiciar decisiones informadas antes de que la humanidad realice cambios importantes y potencialmente irreversibles en sus valores o su rumbo.

factor de riesgo existencial

Condición que eleva el riesgo total

Una condición que aumenta causalmente la probabilidad de una catástrofe existencial. Un factor de riesgo puede contribuir de forma indirecta al hacer que la sociedad sea más vulnerable a varias amenazas distintas. El conflicto entre grandes potencias es un ejemplo en el libro, porque puede debilitar la cooperación internacional y aumentar el peligro que plantean diversas tecnologías.

riesgo de estado (state risk)

Riesgo derivado de seguir siendo vulnerable

Un riesgo que persiste mientras la humanidad se encuentra en una situación vulnerable. Cuanto más dure esa situación, mayor será la probabilidad acumulada de una catástrofe. Los peligros naturales, como los impactos de asteroides, son ejemplos. En este tipo de riesgo, reducir el período de vulnerabilidad puede disminuir el peligro acumulado.

riesgo de transición

Riesgo durante una transición importante

Un riesgo que surge mientras la sociedad avanza hacia una nueva situación tecnológica o social. El peligro se concentra en la propia transición, en lugar de derivarse simplemente de permanecer en un estado vulnerable. El desarrollo y la implementación de la IA avanzada son un ejemplo. La respuesta adecuada es prepararse y establecer una gobernanza cuidadosas, no acelerar ni retrasar automáticamente la transición.

maldición unilateralista (unilateralist's curse)

Un actor pone en marcha una opción arriesgada

Un problema de decisión colectiva en el que muchas personas evalúan por separado una acción arriesgada, pero basta con que una decida llevarla a cabo. Si las estimaciones varían, el actor más optimista puede autorizar una acción que la mayoría considera demasiado peligrosa. El concepto es especialmente pertinente para publicar información peligrosa o realizar investigaciones arriesgadas cuando no existe un proceso de decisión compartido.

Preguntas frecuentes

¿De qué trata The Precipice: Existential Risk and the Future of Humanity?

  • Enfoque en los riesgos existenciales: The Precipice, de Toby Ord, explora los riesgos existenciales que amenazan el potencial a largo plazo de la humanidad y destaca el momento crítico de la historia en que el poder tecnológico supera nuestra sabiduría.
  • El futuro de la humanidad está en juego: El libro sostiene que proteger el futuro de la humanidad es el desafío decisivo de nuestro tiempo, pues nos enfrentamos a la autodestrucción como consecuencia de nuestras propias acciones.
  • Un llamado a la acción: Ord insta a los lectores a reconocer la importancia de gestionar los riesgos actuales y prevenir futuras catástrofes para asegurar un futuro próspero a las generaciones venideras.

¿Por qué debería leer The Precipice?

  • Un tema urgente y pertinente: El libro aborda cuestiones críticas que afectan tanto al presente como al futuro de la humanidad, por lo que es una lectura esencial para quienes se preocupan por los desafíos globales.
  • Un enfoque interdisciplinario: Ord combina perspectivas de la ética, la ciencia y la historia para ofrecer una comprensión integral de los riesgos que enfrentamos y de las posibles soluciones.
  • El conocimiento como fuente de empoderamiento: Al leer este libro, adquirirás una mayor conciencia de los riesgos existenciales y te sentirás inspirado a actuar para proteger nuestro futuro.

¿Cuáles son las ideas principales de The Precipice?

  • Definición de los riesgos existenciales: Ord define los riesgos existenciales como aquellos que amenazan con destruir el potencial a largo plazo de la humanidad, incluidos la extinción y el colapso irreversible de la sociedad.
  • Un momento único para la humanidad: El libro destaca que la humanidad se encuentra en un punto crítico en el que los avances tecnológicos podrían conducir a una prosperidad sin precedentes o a un fracaso catastrófico.
  • Responsabilidad moral: Ord subraya el imperativo moral de actuar ahora, pues nuestras decisiones de hoy moldearán el futuro de incontables generaciones.

¿Cuáles son las mejores citas de The Precipice y qué significan?

  • «Nos encontramos en un momento crucial de la historia de nuestra especie».: Esta cita subraya la urgencia de abordar los riesgos existenciales, ya que nuestras acciones actuales tendrán efectos duraderos en las generaciones futuras.
  • «Los mayores riesgos son causados por la acción humana, y la acción humana puede abordarlos».: Ord destaca que, aunque enfrentamos amenazas importantes, también tenemos la capacidad de mitigarlas mediante la acción colectiva y una toma de decisiones responsable.
  • «Proteger a la humanidad frente a estos peligros debería ser una prioridad central de nuestro tiempo».: Esta cita resume el mensaje central del libro e insta a los lectores a dar prioridad a la protección del futuro de la humanidad frente a riesgos crecientes.

¿Qué es el riesgo existencial según The Precipice?

  • Definición: Ord define el riesgo existencial como un riesgo que amenaza con destruir el potencial a largo plazo de la humanidad, lo que incluye la extinción o el colapso permanente de la civilización.
  • Implicaciones más amplias: El concepto abarca no solo el fin de la vida humana, sino también situaciones en las que la civilización colapsa de forma irreversible y deja a la humanidad atrapada en un futuro empobrecido.
  • Urgencia moral: Comprender el riesgo existencial es fundamental para reconocer lo que está en juego en nuestras decisiones actuales y la necesidad de tomar medidas proactivas para proteger nuestro futuro.

¿Cómo clasifica los riesgos The Precipice?

  • Riesgos naturales: Ord habla de los riesgos derivados de fenómenos naturales, como los impactos de asteroides, las erupciones de supervolcanes y las explosiones estelares, que históricamente han amenazado la vida en la Tierra.
  • Riesgos antropogénicos: El libro examina los riesgos derivados de las acciones humanas, incluidas las armas nucleares, el cambio climático y la degradación ambiental, que representan amenazas importantes para nuestro futuro.
  • Riesgos futuros: Ord destaca las tecnologías emergentes, como la inteligencia artificial y la biotecnología, que podrían dar lugar a nuevas formas de riesgo existencial si no se gestionan con cuidado.

¿Cómo cuantifica Toby Ord los riesgos existenciales en The Precipice?

  • Estimaciones de distintos riesgos: Ord proporciona probabilidades concretas para diferentes riesgos existenciales, como una posibilidad entre 30 de pandemias diseñadas y una entre 10 de que la inteligencia artificial desalineada cause una catástrofe durante el próximo siglo.
  • Análisis comparativo: El autor compara estos riesgos para destacar sus probabilidades relativas y su posible impacto, lo que facilita que los lectores comprendan cuáles merecen más atención.
  • Reconocimiento de la incertidumbre: Ord subraya que, aunque estas estimaciones se basan en los conocimientos actuales, existe una gran incertidumbre y las probabilidades reales podrían variar mucho.

¿Qué significa el concepto de «seguridad existencial» en The Precipice?

  • Definición de seguridad existencial: La seguridad existencial es una situación en la que la humanidad está protegida de los riesgos existenciales, lo que permite preservar a largo plazo su potencial de prosperidad.
  • Dos componentes: Ord describe dos componentes fundamentales: preservar el potencial de la humanidad abordando los riesgos inmediatos y protegerlo mediante salvaguardias duraderas frente a amenazas futuras.
  • Visión a largo plazo: La seguridad existencial se considera un paso fundamental para que la humanidad reflexione sobre sus valores y aspiraciones, y pueda afrontar con mayor detenimiento los desafíos futuros.

¿Cómo aborda The Precipice el papel de la tecnología en los riesgos existenciales?

  • La doble naturaleza de la tecnología: El libro analiza cómo la tecnología puede plantear riesgos importantes —por ejemplo, la inteligencia artificial y la biotecnología— y también ofrecer soluciones para mitigarlos —por ejemplo, las energías renovables y las medidas de seguridad avanzadas—.
  • La necesidad de una gobernanza responsable: Ord destaca la importancia de desarrollar marcos sólidos de gobernanza para asegurar que los avances tecnológicos estén alineados con los valores humanos y no agraven los riesgos existenciales.
  • Un llamado a la previsión: El autor aboga por un enfoque proactivo del desarrollo tecnológico e insta a la sociedad a considerar las implicaciones a largo plazo de las nuevas tecnologías y a dar prioridad a la seguridad y las consideraciones éticas.

¿Qué estrategias propone Toby Ord para reducir el riesgo existencial en The Precipice?

  • Cooperación global: Ord subraya la necesidad de colaboración internacional para abordar los riesgos existenciales, pues a menudo trascienden las fronteras nacionales y requieren respuestas coordinadas.
  • Inversión en investigación: El libro aboga por aumentar la financiación y la investigación para comprender y mitigar los riesgos existenciales, en particular en ámbitos como la seguridad de la IA, la bioseguridad y la resiliencia climática.
  • Concienciación y participación pública: Ord anima a las personas a participar en debates sobre los riesgos existenciales y a promover políticas que den prioridad a proteger el futuro de la humanidad.

¿Qué relación tiene The Precipice con el largoplacismo?

  • Definición del largoplacismo: El largoplacismo es la perspectiva ética que destaca la importancia del futuro a largo plazo en la toma de decisiones morales. Ord sostiene que nuestras acciones actuales pueden tener efectos profundos en las generaciones futuras, por lo que el largoplacismo es una consideración fundamental.
  • Responsabilidad moral: El libro plantea que tenemos la obligación moral de considerar el bienestar de las generaciones futuras. Esta perspectiva anima a las personas y a las sociedades a dar prioridad a acciones que promuevan un futuro próspero para todos.
  • Implicaciones para las políticas: Ord propone que el largoplacismo debería orientar las políticas públicas y la toma de decisiones. Al adoptar un enfoque largoplacista, los responsables de formular políticas pueden crear marcos que prioricen la reducción de los riesgos existenciales y la protección del potencial de la humanidad.

¿Qué consecuencias podría tener ignorar los riesgos existenciales, según The Precipice?

  • Desenlaces catastróficos: Ignorar los riesgos existenciales podría llevar a desenlaces catastróficos, como la extinción o daños irreversibles al potencial de la humanidad. Ord subraya que hay muchísimo en juego y que las consecuencias de no actuar podrían ser terribles.
  • Pérdida del potencial futuro: El libro sostiene que no abordar los riesgos existenciales podría provocar la pérdida del potencial a largo plazo de la humanidad. Eso significaría perder la oportunidad de que las generaciones futuras prosperen y logren grandes cosas.
  • Fracaso moral: Ord presenta el descuido de los riesgos existenciales como un fracaso moral. Considera que tenemos la responsabilidad de proteger el futuro y que ignorar estos riesgos menoscaba nuestras obligaciones éticas tanto con las generaciones actuales como con las futuras.

Sobre el autor

Toby Ord es un filósofo e investigador australiano que trabaja en la Universidad de Oxford. Es una figura destacada del movimiento del altruismo eficaz e investigador sénior en el Future of Humanity Institute. Su trabajo se centra en las prioridades globales, el riesgo existencial y el futuro a largo plazo de la humanidad. Realizó sus estudios de posgrado bajo la supervisión de Derek Parfit, destacado filósofo moral. Ord es conocido por su compromiso con el uso del análisis racional para determinar cómo hacer el mayor bien posible en el mundo. Sus investigaciones han influido en muchas personas de los campos de la filosofía, la ética y la reducción del riesgo de catástrofes globales.

Descargar PDF

Para guardar este resumen de El precipicio para más tarde, descarga el PDF gratis. Puedes imprimirlo o leerlo sin conexión cuando quieras.
Download PDF

Descargar EPUB

Para leer este resumen de El precipicio en tu dispositivo o aplicación de lectura, descarga el EPUB gratis. El formato de libro digital .epub es ideal para leer libros electrónicos en teléfonos, tabletas y lectores electrónicos.
Download EPUB
¿Quieres leer el libro completo?
Seguir
Escuchar
Inicio
Swipe
Biblio
App
Prueba el acceso completo por 3 días
Escucha, guarda y mucho más
Comparar funciones Gratis Pro
📖 Leer resúmenes
Lee resúmenes ilimitados. Los usuarios gratuitos obtienen 3 al mes
🎧 Escuchar resúmenes
Escucha resúmenes ilimitados en 40 idiomas
—
❤️ Marcadores ilimitados
Usuarios gratuitos limitados a 4
—
📜 Historial ilimitado
Usuarios gratuitos limitados a 4
—
📥 Descargas ilimitadas
Usuarios gratuitos limitados a 1
—
Cronología sin riesgo
Hoy: Obtén acceso instantáneo
Escucha resúmenes completos de más de 26.000 libros. ¡Son más de 12.000 horas de audio!
Día 2: Recordatorio de prueba
Te enviaremos una notificación de que tu prueba está por terminar.
Día 3: Tu suscripción comienza
Se te cobrará el 25 nov,
cancela en cualquier momento antes.
Consume 2.8× More Books
2.8× libros más Escucha Lectura
Nuestros usuarios nos adoran
1M+ lectores
Trustpilot Rating
TrustPilot
4.6 Excelente
Este sitio es un antes y un después. He leído resúmenes como nunca antes. Lo recomiendo muchísimo.
— Dave G
Vale cada centavo y cada minuto, y está muy bien hecho. Nunca había visto esta calidad de resúmenes en otros sitios. ¡Muy útil!
— Em
¡Muy recomendado! Servicio fantástico. Perfecto para quienes quieren algo más que una sinopsis, pero no todos los detalles de un audiolibro completo.
— Greg M
Ahorra un 62%
Anual
$119.88 $44.99/año/año
$3.75/mes
Mensual
$9.99/mes
Inicia tu prueba gratuita de 3 días
3 días gratis, luego $44.99/año. Cancela cuando quieras.
Unlock a world of fiction & nonfiction books
Más de 26.000 libros por el precio de 2
Lee cualquier libro en 10 minutos
Descubre libros nuevos como en Tinder
Solicita cualquier libro si no está resumido
Lee más libros que cualquiera que conozcas
La app nº 1 para amantes de los libros
Lifelike & immersive summaries
Garantía de devolución de 30 días
Descarga resúmenes en EPUB o PDF
Cancela en cualquier momento con unos clics

¿Por qué solo un resumen?

Escáner
Busca un código de barras para escanear

⭐
⭐
⭐
Tenemos un regalo especial para ti
Abrir
38% de descuento
DESCUENTO PARA TI
⭐
⭐
⭐
$79.99
$49.99/año
Solo $4.16 al mes
Continuar
Empieza con 2 toques y cancela fácilmente
Configuración
General
Widget
Cargando...