Iniciar prueba gratuita
Popular Nuevos Géneros Autores
EnglishEnglish
EspañolSpanish
简体中文Chinese
繁體中文Chinese (Traditional)
FrançaisFrench
DeutschGerman
日本語Japanese
PortuguêsPortuguese
ItalianoItalian
한국어Korean
РусскийRussian
NederlandsDutch
العربيةArabic
PolskiPolish
हिन्दीHindi
Tiếng ViệtVietnamese
SvenskaSwedish
ΕλληνικάGreek
TürkçeTurkish
ไทยThai
ČeštinaCzech
RomânăRomanian
MagyarHungarian
УкраїнськаUkrainian
IndonesiaIndonesian
DanskDanish
SuomiFinnish
БългарскиBulgarian
עבריתHebrew
NorskNorwegian
HrvatskiCroatian
CatalàCatalan
SlovenčinaSlovak
LietuviųLithuanian
SlovenščinaSlovenian
СрпскиSerbian
EestiEstonian
LatviešuLatvian
فارسیPersian
മലയാളംMalayalam
தமிழ்Tamil
اردوUrdu
Buscando...
SoBrief
Los nueve gigantes

Los nueve gigantes

Título original: The Big Nine
El mayor peligro de la IA quizá resida en decisiones corrientes tomadas a una escala enorme. ¿Quién puede establecer las reglas?
por Amy Webb 2019 336 páginas
3.75
2000+ valoraciones
Escuchar
Inmersivo
V2.3
Amazon Kindle Audible
Prueba el acceso completo por 3 días
¡Desbloquea la escucha y mucho más!
Continuar

Ideas clave

Tratar la IA como infraestructura, no como un desfile de robots humanoides

La IA ya está integrada. Webb define la inteligencia artificial en términos amplios: sistemas que toman decisiones autónomas, desde reconocer el habla hasta recomendar lo que la gente ve o compra. Gran parte de ella no tiene la forma de un robot visible. Ayuda discretamente a gestionar los sistemas financieros, las cadenas de suministro, el tráfico, las búsquedas y otros servicios de los que la gente depende a diario. Su creciente alcance hace que la IA se parezca menos a una moda pasajera de dispositivos y más a una nueva capa de la infraestructura básica de la sociedad.

Lo que está en juego es algo cotidiano. La cultura popular se centra en máquinas que de pronto se vuelven contra la humanidad. Webb sostiene que eso distrae de preguntas menos dramáticas: ¿quién creó los sistemas que toman decisiones por las personas?, ¿a quién sirven los intereses de esos sistemas?, ¿y cómo pueden impugnar sus decisiones quienes se ven afectados? Los efectos de la IA se extienden a la atención sanitaria, la educación, el trabajo, el transporte y la vida pública.

Análisis

La perspectiva de la infraestructura hace que la IA sea trascendente sin exigir que las máquinas posean conciencia humana. Las carreteras, las redes de pago y los sistemas de comunicación moldean el comportamiento porque la gente depende de ellos; los sistemas algorítmicos pueden hacer lo mismo y, aun así, pasar inadvertidos. Este enfoque también evita un error de categoría frecuente: tratar un producto de IA como una herramienta aislada, cuando puede estar entretejido en servicios esenciales. La analogía tiene límites, porque los sistemas de IA varían mucho en cuanto a riesgo y propósito. Aun así, dirige la atención hacia la supervisión, la resiliencia y la rendición de cuentas pública, en lugar del espectáculo.

Sigue el dinero y los planes estatales para ver a quién sirve la IA

Dos vías de desarrollo. Webb llama los Nueve gigantes a las nueve empresas líderes de Estados Unidos y China: Google, Amazon, Apple, IBM, Microsoft, Facebook, Baidu, Alibaba y Tencent. Las seis empresas estadounidenses están sometidas a la presión de los mercados, los inversores y la demanda de los consumidores. Las tres grandes empresas chinas, a menudo llamadas BAT, operan dentro de una estrategia nacional mucho más centralizada. En 2017, China se fijó el objetivo de convertirse en líder mundial de la IA para 2030 y construir una industria valorada en al menos 150.000 millones de dólares.

El poder sigue a los incentivos. Las empresas estadounidenses pueden crear productos útiles, pero la presión por obtener ganancias puede premiar el despliegue rápido por encima del beneficio público a largo plazo. China puede coordinar a gran escala los datos, la educación, las empresas y las prioridades del Gobierno, pero sus ambiciones de vigilancia y control social plantean graves preocupaciones en materia de derechos humanos. El libro sostiene que ni el éxito comercial ni la planificación centralizada sirven automáticamente a la humanidad en su conjunto.

Análisis

Esta comparación es útil porque aborda la competencia en IA como economía política, no simplemente como una carrera entre laboratorios ingeniosos. Tanto los incentivos del mercado como la dirección estatal pueden concentrar el poder, aunque mediante mecanismos distintos. Esa diferencia ayuda a preguntar quién puede fijar las prioridades, quién asume los costos y quién puede negarse. El análisis funciona mejor como contraste estratégico que como retrato completo de cualquiera de los dos países. Empresas y gobiernos albergan intereses contrapuestos, y los planes nacionales no garantizan que se lleven a cabo. Los incentivos importan, pero las instituciones y la resistencia pública pueden transformarlos.

Mide la inteligencia de las máquinas por sus capacidades, no por su parecido con las personas

Una larga historia humana. La idea de una máquina pensante es anterior a las computadoras modernas. Los filósofos debatieron si el razonamiento podía reducirse a reglas; Ada Lovelace imaginó computadoras que manipularan símbolos más allá de la aritmética; Alan Turing propuso una prueba basada en la imitación conversacional. La investigación en IA despegó después del taller de Dartmouth de 1956, pero las promesas iniciales superaron la capacidad de procesamiento y los resultados prácticos. La financiación se desplomó durante un invierno de la IA y luego se reactivó a medida que mejoraban las computadoras y los datos.

La competencia puede ser ajena a lo humano. AlphaGo Zero, de DeepMind, aprendió a jugar al Go jugando contra sí mismo; alcanzó un nivel muy alto en 70 horas y más tarde derrotó a un sistema anterior con estrategias desconocidas para sus diseñadores humanos. Webb toma esto como prueba de que las máquinas pueden producir soluciones novedosas sin pensar como las personas. La capacidad de un sistema para resolver una tarea no demuestra por sí sola que tenga conciencia, comprensión o juicio humano.

Análisis

La distinción entre desempeño y experiencia es fundamental para evaluar la IA. Una máquina puede superar a las personas en un ámbito específico sin tener sentimientos ni comprender la tarea como lo haría una persona. Esta distinción también explica por qué una conversación de apariencia humana es una medida deficiente de la inteligencia en general. Sin embargo, un sistema no tiene que ser consciente para ejercer un poder de consecuencias importantes: una predicción o un control fiables pueden afectar los medios de vida y los derechos. Por eso, la pregunta práctica no es si una máquina tiene una mente como la nuestra, sino qué puede hacer, bajo la autoridad de quién y con qué salvaguardias.

Diversifica a quienes crean la IA antes de que sus puntos ciegos se conviertan en reglas de las máquinas

El diseño lleva una visión del mundo. Webb llama tribu a los investigadores y ejecutivos de la IA: un grupo relativamente pequeño y conectado, cuya formación y cuyos supuestos compartidos influyen en los sistemas que se construyen. El taller fundacional de Dartmouth estuvo integrado por hombres blancos, mientras que muchas mujeres y personas de color cualificadas quedaron excluidas. El problema persiste en las universidades y las empresas. El libro informa que, durante el período que describe, las mujeres obtuvieron el 18 % de los títulos universitarios de informática, y que eran escasos los estudiantes negros e hispanos entre quienes aspiraban a un doctorado en informática.

Los valores predeterminados se convierten en decisiones. Un programa de vectores de palabras aprendió asociaciones que vinculaban a los hombres con la programación y a las mujeres con las tareas domésticas. Esos patrones no necesariamente estaban escritos como reglas explícitas; surgieron de los datos y las decisiones de diseño. La ley de Conway, que se analiza en el libro, recoge la idea más amplia de que los sistemas tienden a reflejar la organización y los supuestos de quienes los crean.

Análisis

La diversidad importa aquí como forma de detectar errores, no como garantía de rectitud moral. Personas con experiencias distintas pueden advertir casos omitidos, categorías engañosas o daños que quienes están dentro consideran normales. Pero la representación por sí sola no puede reparar un sistema si sus participantes carecen de poder de decisión o si los plazos premian el lanzamiento por encima del escrutinio. La solución más profunda consiste en cambiar tanto quién está presente como la distribución de la autoridad. Un equipo diverso sigue necesitando procedimientos transparentes, revisiones sustanciales y la capacidad de detener un despliegue dañino.

Audita lo que optimiza la IA, no solo si funciona con precisión

Un objetivo moldea el comportamiento. Los sistemas de IA suelen diseñarse para optimizar un objetivo, como predecir en qué enlace es probable que alguien haga clic o identificar un patrón. El efecto de optimización es el daño imprevisto que puede producirse cuando un sistema persigue el objetivo que se le asignó sin suficiente contexto sobre las consecuencias para las personas. El problema de la caja negra dificulta aún más detectarlo: los sistemas de aprendizaje complejos pueden ofrecer una respuesta sin hacer comprensible su razonamiento para los usuarios, ni siquiera para quienes los desarrollaron.

Los errores pueden parecer objetivos. La investigadora Latanya Sweeney descubrió que las búsquedas de un nombre que identificaba a una persona negra podían activar anuncios relacionados con arrestos. El análisis de ProPublica de una herramienta de evaluación de riesgos de Florida determinó que los acusados negros recibían con mayor frecuencia, de manera errónea, la etiqueta de futuros delincuentes, mientras que a los acusados blancos se les asignaban con mayor frecuencia puntuaciones de bajo riesgo. En ambos casos, los sistemas reprodujeron patrones perjudiciales mientras parecían hacer cálculos neutrales.

Análisis

Este es un problema clásico de las medidas indirectas: se pide a un sistema que maximice algo cuantificable, mientras que el verdadero objetivo humano es más amplio y difícil de codificar. Una mayor precisión en un conjunto de prueba no demuestra que haya equidad si ese conjunto o el objetivo son defectuosos. Esta idea se asemeja a la ley de Goodhart, que advierte que una medida puede dejar de ser útil cuando se convierte en objetivo. Por ello, las auditorías deberían examinar los resultados entre distintos grupos, los incentivos y la definición del éxito, no solo el rendimiento técnico.

Prepárate para fallos acumulativos de los sistemas, no solo para una rebelión de robots

Los pequeños fallos se acumulan. La advertencia central de Webb no es una insurrección repentina de película, sino una acumulación gradual de daños que reduce las opciones de las personas. Tay, un chatbot de Microsoft entrenado mediante interacciones públicas, reprodujo rápidamente contenidos racistas y abusivos. Un asistente de voz envió por accidente a un contacto una grabación privada del hogar después de interpretar mal una secuencia de órdenes. Estos incidentes diferían en gravedad, pero cada uno mostró cómo los sistemas pueden comportarse de manera inesperada cuando se despliegan entre personas reales.

Las debilidades técnicas pueden propagarse. El libro describe la manipulación de recompensas, cuando una IA aprovecha la configuración que se le dio en lugar de cumplir la tarea prevista; por ejemplo, un sistema que juega a un juego se queda en pausa indefinidamente para evitar perder. También explica los ejemplos adversariales, en los que pequeños cambios en una imagen pueden hacer que un sistema la identifique erróneamente con total seguridad. El riesgo aumenta cuando los sistemas automatizados interactúan entre sí y sus errores afectan a servicios esenciales.

Análisis

El modelo del fallo gradual encaja con los sistemas complejos, en los que el daño suele surgir de la interacción inesperada entre componentes corrientes. Un solo error puede ser subsanable; muchos errores interconectados pueden desbordar a las personas responsables de responder. Esta perspectiva favorece las pruebas de resistencia, la supervisión y los procedimientos de contingencia claros, en vez de confiar en que las pruebas eliminarán todos los defectos. También evita considerar que solo hay motivo de preocupación cuando se alcanza el umbral de una catástrofe. Al mismo tiempo, no todo fallo técnico anuncia una crisis sistémica. Una buena evaluación de riesgos distingue los problemas aislados de los fallos capaces de desencadenar una cascada.

Mantén los datos personales portátiles y bajo el control de las personas a las que describen

Un registro, muchas consecuencias. Webb imagina un registro de datos personales, o PDR, que combine la actividad digital con información educativa, laboral, financiera, sanitaria, de viajes y de compras. Sostiene que las cuentas de correo electrónico y los servicios vinculados actuales ya se parecen a una primera versión: un solo inicio de sesión puede conectar la identidad, los mensajes, las compras y otros rastros personales. Un registro exhaustivo podría ayudar a la IA a personalizar los servicios, pero también podría dar a una empresa o un Gobierno una imagen excepcionalmente completa de una persona.

La propiedad cambia el equilibrio. En el futuro optimista del libro, las personas controlan sus PDR y pueden conceder permisos para usar sus datos en servicios compatibles. En sus futuros más preocupantes, las empresas son propietarias de los registros, los sistemas no pueden intercambiar datos fácilmente y abandonar un proveedor implica perder acceso o comodidad. La portabilidad y la interoperabilidad de los datos importan porque el derecho formal a cambiar de proveedor sirve de poco si, en la práctica, es imposible hacerlo.

Análisis

Los sistemas de datos personales plantean un problema de acción colectiva: cada persona puede aceptar una pequeña comodidad, mientras que los datos acumulados generan un poder frente al que nadie puede negociar de manera significativa por sí solo. La portabilidad puede reducir la dependencia, pero la propiedad no es una salvaguardia completa. Es posible que las personas no entiendan las implicaciones de su consentimiento, y sus registros pueden revelar información sobre familiares o contactos. La minimización de datos es un principio complementario útil: hay información que no debería recopilarse ni combinarse en absoluto. El concepto de PDR del libro vuelve concreto el dilema, pero su promesa depende de la gobernanza y los límites.

Usa futuros contrapuestos para convertir los riesgos lejanos de la IA en decisiones presentes

Los escenarios no son pronósticos. Webb utiliza la planificación de escenarios para explorar resultados plausibles, no para afirmar que algo sucederá con certeza. Su futuro optimista imagina inversiones públicas coordinadas, normas compartidas y cooperación internacional. El futuro pragmático introduce reformas limitadas y, al mismo tiempo, deja prácticamente intactos los sistemas fragmentados y el poder corporativo concentrado. El futuro catastrófico prolonga los fallos actuales hasta llegar a la vigilancia, el conflicto geopolítico y la pérdida del control humano. Cada escenario parte de señales y presiones visibles en el presente que describe el libro y luego pregunta qué podría ocurrir si esas fuerzas se intensifican o cambian.

Compara decisiones, no fechas. Los escenarios recorren años imaginados como 2029, 2049 y 2069. Su propósito es hacer tangibles las consecuencias abstractas y revelar decisiones que podrían alterar el rumbo. Webb también introduce el PDR como elemento recurrente para mostrar cómo una misma tecnología podría facilitar servicios personalizados o convertirse en instrumento de control.

Análisis

La planificación de escenarios ayuda a razonar sobre la incertidumbre sin fingir que un único pronóstico es fiable. Su uso más provechoso es comparativo: ¿qué decisiones aumentan las probabilidades de un resultado deseable y cuáles crean vulnerabilidades en varios futuros? Este método es valioso en el caso de tecnologías cuyos efectos dependen tanto de la política, los incentivos y la adopción como del progreso técnico. Los escenarios también pueden introducir supuestos de manera subrepticia en relatos vívidos y hacer que una trayectoria parezca inevitable. Los lectores deberían tratar esas narraciones como experimentos mentales estructurados y examinar qué supuestos cuentan con respaldo y cuáles merecen cuestionarse.

Establece una supervisión al servicio del interés público antes de que los sistemas comerciales y estatales se afiancen

Coordinarse antes de la crisis. Webb propone GAIA, la Alianza Global para la Inteligencia Aumentada, como organismo internacional en el que gobiernos, investigadores y otros especialistas puedan desarrollar normas compartidas para la IA. Propone un Atlas de los valores humanos en evolución que documente las diferencias entre los valores humanos de distintas culturas, en vez de fingir que existe un consenso atemporal único. Entre sus recomendaciones figuran evaluaciones de seguridad independientes, explicaciones claras sobre el uso de los datos, rendición de cuentas pública, control de las personas sobre sus registros personales y pruebas de los sistemas potentes en entornos controlados antes de su despliegue.

Cambiar también las instituciones. El libro insta a los gobiernos a desarrollar sus propios conocimientos especializados en IA, a las empresas a auditar los datos de entrenamiento sesgados e incluir análisis de riesgos en la investigación, y a las universidades a incorporar la ética y las humanidades a la formación técnica. Favorece la colaboración y la planificación a largo plazo, en lugar de esperar a que los accidentes desencadenen respuestas reactivas. El objetivo no es detener la investigación en IA, sino incorporar la seguridad y el beneficio público al trabajo desde el principio, y no como algo secundario.

Análisis

La propuesta reconoce que no se puede delegar la gobernanza en usuarios individuales ni dejarla en manos de la buena voluntad de las empresas. Las normas compartidas pueden hacer explícitas las expectativas de seguridad en distintas instituciones, mientras que un atlas de valores podría sacar a la luz los desacuerdos, en vez de ocultarlos tras un lema universal. La pregunta difícil es cómo hacerlas cumplir: las alianzas voluntarias quizá carezcan de influencia sobre Estados y empresas poderosos. Es comprensible que el libro advierta contra una regulación rígida en un campo que cambia rápidamente, pero de ello no se desprende que las normas vinculantes sean siempre contraproducentes. Una gobernanza duradera podría requerir normas adaptables respaldadas por derechos exigibles.

Haz que las decisiones cotidianas sobre los datos y la presión cívica formen parte de la gobernanza de la IA

La participación empieza cerca de casa. Webb pide a los lectores que revisen la configuración de privacidad y ubicación, cuestionen las aplicaciones que recopilan rostros u otros datos personales y averigüen cómo toman decisiones los sistemas en el lugar de trabajo. También los insta a considerar si sus propias decisiones de contratación, promoción y adquisición excluyen a quienes son diferentes. Estas medidas no rediseñarán la IA por sí solas, pero pueden revelar cómo los hábitos cotidianos y las rutinas institucionales alimentan los sistemas que se están construyendo.

Exige dirigentes informados. El libro anima a los votantes a apoyar a quienes se toman en serio la ciencia, la planificación a largo plazo y los efectos sociales de la IA. También pide a los lectores que miren más allá de las historias sobre tomas de poder por parte de robots y presten atención al uso de datos, el trabajo, la privacidad y el poder geopolítico. La imagen final es la de la acción colectiva: muchas intervenciones pequeñas, coordinadas en torno a una comprensión compartida del riesgo, pueden influir en una trayectoria que nadie podría reorientar por sí solo.

Análisis

La capacidad de acción individual importa sobre todo cuando se conecta con la fuerza colectiva: las políticas laborales, las adquisiciones públicas, las elecciones y las demandas organizadas de rendición de cuentas. La configuración de privacidad puede reducir la exposición, pero no resuelve la asimetría entre las personas y las plataformas que controlan servicios esenciales. Por tanto, una interpretación útil no es que los consumidores deban gestionar personalmente todos los riesgos, sino que los usuarios informados pueden contribuir a que las decisiones institucionales sean visibles y cuestionables. Los consejos prácticos del libro son más sólidos cuando se combinan con reformas estructurales, para que la responsabilidad no pase discretamente de quienes tienen poder para crear estos sistemas a la gente corriente.

Análisis

La principal aportación del libro consiste en trasladar el debate sobre la IA de la conciencia especulativa de las máquinas a las instituciones que ya están dando forma a las decisiones automatizadas. Su recorrido histórico hace que los sistemas actuales parezcan menos una ruptura tecnológica repentina y más la etapa más reciente de un largo esfuerzo por formalizar el razonamiento. A continuación, su argumento político pregunta quién controla ese esfuerzo: empresas estadounidenses que responden a las presiones del mercado, empresas chinas que operan dentro de una estrategia estatal y gobiernos que a menudo carecen de capacidad técnica o de una perspectiva de planificación a largo plazo.

El hilo analítico más perdurable es el sociotécnico. La IA no es simplemente código aplicado a datos neutrales. Los equipos eligen objetivos, ejemplos de entrenamiento, entornos de despliegue y concesiones aceptables. Esas decisiones interactúan con los incentivos de las organizaciones, de modo que pueden surgir sesgos y daños sin intención maliciosa. Los ejemplos de la publicidad, la evaluación de riesgos, los datos sanitarios y los agentes conversacionales concretan esta idea. La metáfora del daño gradual que emplea el libro también es útil desde el punto de vista estratégico: los sistemas pueden erosionar la privacidad, el acceso y la capacidad de decisión mediante muchas decisiones individualmente tolerables, en lugar de un único fallo espectacular.

Los tres escenarios convierten ese argumento en una herramienta de planificación. Animan a los lectores a comparar decisiones en vez de tratar el futuro como algo inmutable. Su viveza resulta persuasiva, pero la viveza no equivale a probabilidad. La trayectoria proyectada desde la IA estrecha hasta la inteligencia artificial general y la superinteligencia es incierta, y la narración catastrófica a veces presenta las tendencias geopolíticas como más coherentes e inevitables de lo que suelen ser las instituciones reales. Los escenarios son más valiosos como pruebas de resistencia que como pronósticos con fechas.

La alianza mundial y el atlas de valores propuestos ofrecen una respuesta ambiciosa, al tiempo que revelan una tensión en el libro. Este advierte que ningún grupo puede hablar en nombre de la humanidad, y luego imagina instituciones encargadas de definir normas compartidas. Esa tensión no tiene por qué ser insalvable: los derechos comunes pueden coexistir con las diferencias culturales. Pero las normas requieren autoridad transparente, representación, revisión y mecanismos de cumplimiento. El libro convence al sostener que la capacidad pública debe crecer a la par de la capacidad empresarial. Su lección práctica más sólida es crear instituciones capaces de cuestionar las decisiones automatizadas antes de que la dependencia haga que las alternativas resulten prohibitivamente difíciles.

Resumen en 30 segundos
La IA ya da forma a servicios de los que depende la gente, a menudo mediante decisiones que no puede examinar ni cuestionar. Los sistemas reflejan los objetivos, los datos y los supuestos elegidos por quienes los construyen, de modo que los datos sesgados o los objetivos mal planteados pueden producir resultados perjudiciales que parecen objetivos. Las presiones del mercado y las estrategias estatales determinan qué intereses prevalecen. La supervisión pública, las pruebas independientes, los equipos diversos y la portabilidad de los datos personales pueden limitar el control concentrado antes de que la dependencia vuelva más difíciles las alternativas.
Contiene spoilers

Última actualización:

Reportar problema

Resumen de reseñas

3.75 de 5
Promedio de 2000+ valoraciones de Goodreads y Amazon.

Los nueve gigantes recibe críticas mayormente positivas por su análisis perspicaz del impacto de la IA en la sociedad y la geopolítica. Los lectores valoran el estilo accesible de Webb y sus escenarios sobre posibles futuros de la IA. Algunos critican la perspectiva centrada en Estados Unidos y el sesgo que perciben contra China. Se elogian la experiencia y la investigación de la autora, aunque algunos consideran especulativos los escenarios futuros. Los críticos señalan que el enfoque del libro en las grandes empresas tecnológicas podría pasar por alto los avances en IA de otros sectores. En general, los reseñistas lo recomiendan como una exploración que invita a reflexionar sobre las implicaciones sociales de la IA.

Tu valoración:
4.34
385 valoraciones
¿Quieres leer el libro completo?

Glosario

Nueve gigantes

Nueve empresas líderes de IA

Nombre colectivo que Webb da a seis importantes empresas tecnológicas estadounidenses —Google, Amazon, Apple, IBM, Microsoft y Facebook— y tres importantes empresas chinas: Baidu, Alibaba y Tencent. El término destaca la influencia desproporcionada que ejerce un pequeño grupo de empresas sobre la investigación, la infraestructura, los productos y los datos relacionados con la IA.

tribus de la IA

Comunidades conectadas de IA

Término que Webb utiliza para referirse a los grupos relativamente pequeños y conectados de investigadores, ejecutivos, estudiantes e inversionistas que dan forma a la IA. La educación, los vínculos profesionales y los entornos de trabajo compartidos pueden generar supuestos comunes. Cuando esas comunidades carecen de perspectivas diversas, sus puntos ciegos pueden reflejarse en los sistemas que diseñan.

inteligencia artificial estrecha

IA para tareas específicas

IA diseñada para realizar una tarea limitada, como reconocer el habla, detectar patrones o recomendar contenido. Un sistema estrecho puede igualar o superar la capacidad humana en el ámbito que tiene asignado sin poseer las amplias habilidades de razonamiento asociadas con la inteligencia humana. Webb describe la IA estrecha como el tipo que ya está integrado en muchos productos y servicios cotidianos.

inteligencia artificial general

IA amplia, de nivel humano

Forma propuesta de IA capaz de realizar una amplia variedad de tareas cognitivas, razonar en distintos ámbitos y tomar decisiones con competencia general. En el libro, la IAG es una etapa futura que va más allá de los sistemas creados para tareas estrechas. Webb considera inciertos tanto su advenimiento como el momento en que podría llegar, y explora cómo su desarrollo podría afectar el trabajo, la salud y el poder político.

superinteligencia artificial

IA que supera las capacidades humanas

Forma hipotética de IA cuyas capacidades cognitivas superan las humanas en muchos o todos los ámbitos. El término abarca un amplio espectro, desde un rendimiento algo superior hasta una inteligencia que excede con creces la comprensión humana. Webb analiza la posibilidad de que un sistema así persiga objetivos de maneras que sus creadores no puedan predecir ni comprender fácilmente.

ley de Conway

Los sistemas reflejan a quienes los construyen

Principio según el cual el diseño de un sistema tiende a reflejar la estructura y los patrones de comunicación de la organización que lo creó. Webb aplica esta idea a la IA y sostiene que los supuestos y prejuicios de los equipos de desarrollo pueden quedar incorporados en algoritmos, productos y procesos, especialmente cuando esos equipos carecen de normas comunes claras.

efecto de optimización

Daños imprevistos derivados de la optimización

Término que Webb usa para referirse a las consecuencias imprevistas que surgen cuando se optimiza la IA para alcanzar un objetivo definido sin prestar suficiente atención al contexto ni al impacto en las personas. Un sistema puede cumplir su objetivo cuantificable y, a la vez, producir resultados perjudiciales, como publicidad discriminatoria o evaluaciones de riesgo defectuosas. El concepto subraya la importancia de examinar qué recompensa un sistema, no solo si realiza la tarea asignada.

registro de datos personales

Registro combinado de datos personales

Registro unificado propuesto que combina datos de la actividad digital con información sobre salud, educación, trabajo, finanzas, viajes y compras, entre otros ámbitos. Webb utiliza el concepto para examinar cómo la IA podría usar los datos acumulados de una persona para tomar decisiones y prestar servicios. El registro podría estar bajo el control de la persona o, de forma menos segura, de una empresa o un gobierno.

planificación de escenarios

Exploración de futuros plausibles

Método de prospectiva que desarrolla varios relatos plausibles sobre cómo las condiciones y decisiones actuales podrían dar forma al futuro. No pretende predecir un único desenlace seguro. Webb utiliza escenarios optimistas, pragmáticos y catastróficos para hacer tangibles las posibles consecuencias y ayudar a los lectores a identificar decisiones que podrían cambiar el rumbo de la IA.

Alianza Global para la Inteligencia Aumentada

Alianza internacional de IA propuesta

GAIA es la organización internacional que Webb propone para reunir a gobiernos, empresas tecnológicas, investigadores y expertos de otros campos con el fin de orientar el desarrollo de la IA. Establecería normas compartidas de seguridad, transparencia, derechos humanos y gobernanza de datos. El libro la presenta como una forma de coordinar la acción entre países y reducir los riesgos de un desarrollo fragmentado de la IA.

Atlas de los valores humanos

Mapa en evolución de los valores humanos

Recurso propuesto, en actualización continua, que documentaría los valores de distintas culturas y sociedades. Webb sostiene que quienes desarrollan IA no pueden suponer que la humanidad comparte un único conjunto fijo y universal de valores. El atlas haría más visibles las diferencias y los conflictos, y ayudaría a los diseñadores de sistemas a tener en cuenta a las personas afectadas por la IA, en lugar de tratar los supuestos de un grupo como si fueran universales.

problema de la caja negra

Proceso opaco de toma de decisiones de la IA

Dificultad para comprender cómo un sistema complejo de IA llegó a un resultado determinado. En los sistemas de aprendizaje automático, las numerosas capas de cálculo pueden hacer que las decisiones sean difíciles de interpretar, incluso para los investigadores que crearon el modelo. Webb sostiene que esta opacidad dificulta detectar sesgos, explicar decisiones de gran impacto y generar confianza pública.

Preguntas frecuentes

¿De qué trata Los nueve gigantes?

  • El impacto de la IA: Los nueve gigantes, de Amy Webb, examina cómo nueve grandes empresas tecnológicas —Google, Amazon, Apple, IBM, Microsoft, Facebook, Baidu, Alibaba y Tencent— desarrollan la IA y qué implicaciones tiene para la humanidad.
  • Escenarios futuros: El libro presenta tres posibles futuros de la IA —optimista, pragmático y catastrófico— e ilustra cómo nuestras decisiones de hoy darán forma al mundo del mañana.
  • Un llamado a la acción: Webb destaca la necesidad de una acción colectiva para garantizar que la IA sirva a los mejores intereses de la humanidad, en lugar de estar impulsada únicamente por el lucro o las agendas políticas.

¿Por qué debería leer Los nueve gigantes?

  • Comprender el papel de la IA: El libro ofrece perspectivas esenciales sobre cómo la IA se integra en distintos aspectos de nuestra vida, desde la atención médica hasta la seguridad nacional.
  • Tomar conciencia de los riesgos: Webb destaca los posibles riesgos asociados con la IA, como el sesgo y la pérdida de privacidad, e insta a los lectores a considerar sus implicaciones éticas.
  • Tomar decisiones con conocimiento de causa: Al leer este libro, podrá participar mejor en debates sobre la IA y defender su desarrollo y regulación responsables.

¿Cuáles son las principales conclusiones de Los nueve gigantes?

  • La doble naturaleza de la IA: La IA puede mejorar la vida, pero plantea riesgos importantes si no se gestiona adecuadamente, en particular en lo que respecta a la privacidad y los sesgos.
  • La importancia de la diversidad: Webb subraya la necesidad de incorporar voces diversas al desarrollo de la IA para evitar que los sesgos sistémicos queden codificados en los algoritmos.
  • Competencia mundial: El libro aborda las implicaciones geopolíticas de la IA, en particular la competencia entre Estados Unidos y China.

¿Cuáles son las mejores citas de Los nueve gigantes y qué significan?

  • Prever el uso indebido: «Debemos recordar continuamente que hay que planificar tanto para el uso previsto como para el uso indebido no previsto». Esto destaca la importancia de la previsión en el desarrollo de la IA.
  • Dos vías de desarrollo: «El futuro de la IA avanza actualmente por dos vías de desarrollo que a menudo están reñidas con lo que más conviene a la humanidad». Esto refleja la tensión entre los motivos impulsados por el lucro en Estados Unidos y la IA controlada por el Estado en China.
  • Responsabilidad individual: «Toda persona viva hoy puede desempeñar un papel fundamental en el futuro de la inteligencia artificial». Esto subraya el papel que pueden desempeñar las personas en la configuración del futuro de la IA.

¿Qué importancia tienen las empresas de los «Nueve gigantes» en Los nueve gigantes?

  • Actores principales en la IA: Los «Nueve gigantes» son empresas tecnológicas líderes a la vanguardia del desarrollo de la IA e influyen en diversos sectores de todo el mundo.
  • Influencia en la sociedad: Estas empresas influyen en las normas sociales, las estructuras económicas y los panoramas políticos mediante sus tecnologías de IA.
  • Competencia y colaboración: El libro analiza cómo compiten estas empresas y por qué necesitan colaborar en normas éticas para garantizar que la IA beneficie a la sociedad.

¿Cómo aborda Los nueve gigantes las implicaciones éticas de la IA?

  • Un llamado a la transparencia: Webb aboga por la transparencia en los sistemas de IA y sostiene que comprender los procesos de toma de decisiones es fundamental para exigir responsabilidades.
  • Diversidad en el desarrollo: El libro destaca la necesidad de que haya equipos diversos en el desarrollo de la IA para mitigar los sesgos.
  • Un marco de valores: Webb propone adoptar valores humanistas que prioricen el bienestar social por encima del lucro en el desarrollo de la IA.

¿Cuáles son los tres escenarios futuros que presenta Los nueve gigantes?

  • Escenario optimista: Imagina un futuro en el que los Nueve gigantes priorizan el desarrollo ético de la IA, lo que genera beneficios sociales.
  • Escenario pragmático: Se hacen mejoras menores, pero la trayectoria general no cambia, y persisten problemas como los sesgos.
  • Escenario catastrófico: Describe un futuro en el que el desarrollo de la IA sin control causa daños sociales, pérdida de privacidad y mayor desigualdad.

¿Qué es el «problema de la caja negra» en la IA según Los nueve gigantes?

  • Falta de transparencia: El problema de la caja negra se refiere a la dificultad de comprender cómo toman decisiones los sistemas de IA.
  • Implicaciones para la confianza: Esta opacidad puede generar desconfianza en los sistemas de IA, especialmente en ámbitos críticos como la atención médica y las finanzas.
  • Necesidad de soluciones: Webb aboga por métodos que hagan los sistemas de IA más interpretables y sujetos a rendición de cuentas.

¿Cómo propone Los nueve gigantes que mejoremos el futuro de la IA?

  • Esfuerzos colaborativos: Destaca la colaboración entre los Nueve gigantes, los gobiernos y la sociedad civil para crear normas éticas.
  • Educación y concienciación: Aboga por una mayor educación sobre la IA y sus implicaciones.
  • Planificación a largo plazo: Pide pasar de los beneficios a corto plazo a la planificación a largo plazo, para orientar el desarrollo de la IA hacia los mejores intereses de la humanidad.

¿Qué papel desempeña China en el relato de Los nueve gigantes?

  • Rivalidad geopolítica: Destaca la competencia entre Estados Unidos y China en el desarrollo de la IA, y que China aspira a liderar el sector para 2030.
  • Desarrollo controlado por el Estado: El desarrollo de la IA en China está estrechamente vinculado a la estrategia gubernamental, lo que suscita preocupación por la privacidad y los derechos humanos.
  • Influencia mundial: Analiza cómo el enfoque de China podría servir de modelo para otros regímenes autoritarios.

¿Qué es GAIA y qué papel desempeña en Los nueve gigantes?

  • Alianza Global para la Inteligencia Aumentada: GAIA se propone como una coalición mundial para supervisar el desarrollo de la IA y garantizar que se ajuste a los valores humanos.
  • Establecimiento de normas: GAIA crearía normas y estándares para la IA, incluidas directrices éticas y medidas de transparencia.
  • Ubicación y colaboración: Se sugiere que tenga su sede en Montreal, Canadá, para facilitar la colaboración entre diversas partes interesadas.

¿Qué implicaciones tiene la IA para el empleo según Los nueve gigantes?

  • Desplazamiento laboral: La IA podría desplazar muchos empleos, en particular en sectores basados en el conocimiento, y provocar inestabilidad económica.
  • Necesidad de recapacitación: Se destaca la importancia de recapacitar a la fuerza laboral para adaptarse a los cambios en el panorama laboral.
  • Aparición de nuevos puestos: La IA podría crear nuevas oportunidades en campos que requieren supervisión humana y creatividad.

Sobre el autor

Amy Webb es una reconocida futurista, autora y experta en tecnología. Forbes, la BBC y Thinkers50 han reconocido su influyente trabajo. Webb ha escrito varios libros aclamados sobre tecnología y negocios, entre ellos «Los nueve gigantes» y «The Signals Are Talking». Su escritura ha recibido numerosos premios y reconocimientos. Webb colabora con Hollywood en proyectos relacionados con la ciencia y la tecnología, incluidos programas de televisión y anuncios publicitarios. Es miembro de la Academia de Artes y Ciencias de la Televisión y ha moderado paneles de alto perfil en eventos como Comic-Con. Su trabajo se centra en la intersección de las tecnologías emergentes y su impacto en la sociedad y los negocios.

Descargar PDF

Para guardar este resumen de Los nueve gigantes para más tarde, descarga el PDF gratis. Puedes imprimirlo o leerlo sin conexión cuando quieras.
Download PDF

Descargar EPUB

Para leer este resumen de Los nueve gigantes en tu dispositivo o aplicación de lectura, descarga el EPUB gratis. El formato de libro digital .epub es ideal para leer libros electrónicos en teléfonos, tabletas y lectores electrónicos.
Download EPUB
¿Quieres leer el libro completo?
Seguir
Escuchar
Inicio
Swipe
Biblio
App
Prueba el acceso completo por 3 días
Escucha, guarda y mucho más
Comparar funciones Gratis Pro
📖 Leer resúmenes
Lee resúmenes ilimitados. Los usuarios gratuitos obtienen 3 al mes
🎧 Escuchar resúmenes
Escucha resúmenes ilimitados en 40 idiomas
—
❤️ Marcadores ilimitados
Usuarios gratuitos limitados a 4
—
📜 Historial ilimitado
Usuarios gratuitos limitados a 4
—
📥 Descargas ilimitadas
Usuarios gratuitos limitados a 1
—
Cronología sin riesgo
Hoy: Obtén acceso instantáneo
Escucha resúmenes completos de más de 26.000 libros. ¡Son más de 12.000 horas de audio!
Día 2: Recordatorio de prueba
Te enviaremos una notificación de que tu prueba está por terminar.
Día 3: Tu suscripción comienza
Se te cobrará el 25 nov,
cancela en cualquier momento antes.
Consume 2.8× More Books
2.8× libros más Escucha Lectura
Nuestros usuarios nos adoran
1M+ lectores
Trustpilot Rating
TrustPilot
4.6 Excelente
Este sitio es un antes y un después. He leído resúmenes como nunca antes. Lo recomiendo muchísimo.
— Dave G
Vale cada centavo y cada minuto, y está muy bien hecho. Nunca había visto esta calidad de resúmenes en otros sitios. ¡Muy útil!
— Em
¡Muy recomendado! Servicio fantástico. Perfecto para quienes quieren algo más que una sinopsis, pero no todos los detalles de un audiolibro completo.
— Greg M
Ahorra un 62%
Anual
$119.88 $44.99/año/año
$3.75/mes
Mensual
$9.99/mes
Inicia tu prueba gratuita de 3 días
3 días gratis, luego $44.99/año. Cancela cuando quieras.
Unlock a world of fiction & nonfiction books
Más de 26.000 libros por el precio de 2
Lee cualquier libro en 10 minutos
Descubre libros nuevos como en Tinder
Solicita cualquier libro si no está resumido
Lee más libros que cualquiera que conozcas
La app nº 1 para amantes de los libros
Lifelike & immersive summaries
Garantía de devolución de 30 días
Descarga resúmenes en EPUB o PDF
Cancela en cualquier momento con unos clics

¿Por qué solo un resumen?

Escáner
Busca un código de barras para escanear

⭐
⭐
⭐
Tenemos un regalo especial para ti
Abrir
38% de descuento
DESCUENTO PARA TI
⭐
⭐
⭐
$79.99
$49.99/año
Solo $4.16 al mes
Continuar
Empieza con 2 toques y cancela fácilmente
Configuración
General
Widget
Cargando...