Iniciar prueba gratuita
Popular Nuevos Géneros Autores
EnglishEnglish
EspañolSpanish
简体中文Chinese
繁體中文Chinese (Traditional)
FrançaisFrench
DeutschGerman
日本語Japanese
PortuguêsPortuguese
ItalianoItalian
한국어Korean
РусскийRussian
NederlandsDutch
العربيةArabic
PolskiPolish
हिन्दीHindi
Tiếng ViệtVietnamese
SvenskaSwedish
ΕλληνικάGreek
TürkçeTurkish
ไทยThai
ČeštinaCzech
RomânăRomanian
MagyarHungarian
УкраїнськаUkrainian
IndonesiaIndonesian
DanskDanish
SuomiFinnish
БългарскиBulgarian
עבריתHebrew
NorskNorwegian
HrvatskiCroatian
CatalàCatalan
SlovenčinaSlovak
LietuviųLithuanian
SlovenščinaSlovenian
СрпскиSerbian
EestiEstonian
LatviešuLatvian
فارسیPersian
മലയാളംMalayalam
தமிழ்Tamil
اردوUrdu
Buscando...
SoBrief
Inteligencia artificial (Guías WIRED)

Inteligencia artificial (Guías WIRED)

Título traducido
Título original: Artificial Intelligence (WIRED guides)
La IA ya influye en la sanidad, la policía y el trabajo. ¿Quién decide sus límites?
por Matthew Burgess 2021
3.71
147 valoraciones
Escuchar
Inmersivo
V2.3
Amazon Kindle Audible
Prueba el acceso completo por 3 días
¡Desbloquea la escucha y mucho más!
Continuar

Ideas clave

Trate la IA como una infraestructura que ya da forma a las decisiones cotidianas

Ya está en segundo plano. La IA no espera en un laboratorio una llegada espectacular. Los feeds de las redes sociales ordenan las publicaciones según el interés previsto, los servicios de streaming recomiendan programas, los teléfonos reconocen rostros, los mapas calculan rutas y los asistentes de voz interpretan solicitudes. Estas interacciones son tan rutinarias que quizá los usuarios no adviertan las predicciones y clasificaciones que hay detrás.

Más que comodidad. Se están aplicando métodos similares a imágenes médicas, detección de fraudes, descubrimientos científicos y administración pública. La idea central del libro es que la influencia de la IA crece a través de muchos sistemas cotidianos, no solo mediante robots futuristas. Por eso es fácil pasar por alto sus beneficios y subestimar sus efectos en la privacidad, las oportunidades y los derechos civiles.

Análisis

Lo llamativo es cómo este enfoque desplaza la atención de las máquinas espectaculares hacia las decisiones corrientes. La infraestructura es poderosa, en parte, porque se vuelve invisible: las personas se adaptan a recomendaciones, clasificaciones y controles automatizados sin considerar cada uno como una decisión con consecuencias. Por eso, la pregunta útil no es simplemente si la IA es impresionante, sino dónde interviene en una cadena de decisiones, quién puede impugnar sus resultados y quién paga el costo de los errores. La comodidad puede ser real, pero una sucesión de pequeños empujones puede influir en lo que la gente ve y en lo que las instituciones consideran normal.

La IA avanza cuando por fin convergen los datos, los procesadores y los algoritmos

Una historia larga y desigual. Los investigadores se reunieron en Dartmouth en 1956 y dieron nombre al campo, pero los primeros ordenadores no podían ofrecer las capacidades humanas que se habían prometido. El Perceptrón de Frank Rosenblatt, una máquina entrenable para reconocer patrones, reavivó el interés por las redes neuronales, mientras que sus limitaciones contribuyeron a profundizar el escepticismo. Los recortes de financiación y las promesas incumplidas dieron lugar a periodos conocidos como inviernos de la IA.

Los ingredientes convergieron. La victoria de Deep Blue en ajedrez en 1997 volvió a poner la IA en primer plano, pero el auge reciente dependió de una informática más barata y rápida, de procesadores gráficos aptos para cálculos paralelos y de enormes cantidades de datos digitales. En 2012, un equipo de Google entrenó un sistema con diez millones de miniaturas de YouTube; el sistema agrupó imágenes de gatos con un 74,8 por ciento de precisión, sin que se le hubieran proporcionado etiquetas de gatos. El salto se debió a avances de ingeniería, no a la conciencia de una máquina.

Análisis

La historia nos advierte contra explicar el cambio tecnológico como una marcha constante del genio. El progreso depende de recursos complementarios: un algoritmo que no puede entrenarse a gran escala quizá se quede en una demostración ingeniosa, mientras que una abundancia de datos sin métodos sólidos puede amplificar el ruido. También importa el ciclo recurrente de promesas exageradas y decepciones. La confianza pública puede adelantarse a las capacidades reales y luego desplomarse con tal fuerza que el trabajo útil pierda apoyo. Una explicación más fiable pregunta qué cambió en los datos, el hardware y la implementación, en vez de presentar cada avance como una súbita aparición de inteligencia.

No confunda la habilidad sobrehumana en una tarea con la inteligencia general

Una forma limitada de destreza. La mayoría de la IA actual se crea para una tarea acotada. Deep Blue podía derrotar a un campeón de ajedrez, pero no jugar a ningún otro juego. AlphaGo venció al destacado jugador de go Lee Sedol por cuatro partidas a una; después, AlphaGo Zero aprendió a jugar al go desde cero y lo superó. AlphaFold utilizó aprendizaje automático para predecir estructuras proteicas complejas, un avance potencialmente valioso para la biología. Son capacidades extraordinarias, no pruebas de una mente polivalente.

La prueba más amplia sigue siendo difícil. La inteligencia artificial general, o IAG (AGI, por sus siglas en inglés), se refiere a un sistema capaz de aprender y desenvolverse en una amplia variedad de tareas y entornos. Los expertos discrepan sobre qué significa la inteligencia y cuándo podría llegar la IAG. A los robots todavía les cuesta manipular objetos cotidianos, algo que los niños pequeños hacen sin dificultad; esto revela cuánto conocimiento físico flexible sigue estando fuera del alcance de las máquinas.

Análisis

La distinción entre rendimiento y generalidad es esencial, porque una puntuación en una competición cuidadosamente delimitada dice poco sobre la competencia fuera de ella. La inteligencia humana incluye transferir conocimientos, improvisar, coordinar el cuerpo y aprender con poca experiencia. La IA puede superar a las personas cuando una tarea tiene reglas claras y abundantes ejemplos, y al mismo tiempo fracasar en tareas que a un niño le parecen triviales. Eso no resta valor a los logros. Aclara qué demuestran y desalienta tanto el desprecio por los sistemas especializados como la atribución de una comprensión humana a las máquinas.

Ponga a prueba la IA en instituciones reales, no solo en laboratorios controlados

Buenos resultados en condiciones concretas. La visión artificial puede detectar en imágenes médicas patrones que los médicos quizá no adviertan. En un estudio de Moorfields Eye Hospital y DeepMind, un sistema identificó cincuenta afecciones oculares en escaneos con un 94,5 por ciento de precisión, tras entrenarse con las evaluaciones de especialistas. Una revisión de estudios de diagnóstico por imágenes médicas halló que el rendimiento del aprendizaje profundo era comparable al de los profesionales sanitarios, pero solo 82 de 31.587 artículos contenían información suficiente para un análisis completo. Una investigación prometedora no equivale a una práctica clínica probada.

El contexto cambia el rendimiento. En un ensayo de detección de enfermedades oculares en Tailandia, las diferencias en el equipo de las clínicas, las salas luminosas, la mala conexión a internet y la reticencia de los pacientes a desplazarse para una consulta de seguimiento perjudicaron la implementación. Cerca del 21 por ciento de las imágenes no tenía calidad suficiente para evaluarse. La precisión importa, pero también el flujo de trabajo, el acceso, la comunicación y lo que ocurre después de obtener un resultado.

Análisis

Esto corrige de manera valiosa la costumbre de tratar la puntuación de referencia de un modelo como si fuera el producto entero. Las instituciones no son recipientes neutrales: el personal, el equipo, el tiempo, el idioma y las opciones de derivación determinan si una herramienta técnicamente sólida ayuda a alguien. La lección vincula la evaluación de la IA con la ciencia de la implementación, que estudia cómo funcionan las intervenciones eficaces en condiciones cotidianas. También plantea una cuestión de equidad: un sistema que solo funciona en clínicas bien dotadas puede mejorar los promedios y, a la vez, agravar las disparidades en la atención. Las pruebas en el mundo real deberían medir los resultados para las personas, no solo para las imágenes.

Los datos históricos pueden automatizar y ampliar la discriminación de ayer

Los datos arrastran la historia. El Ministerio del Interior del Reino Unido utilizó una herramienta de solicitud que clasificaba los casos de visado según el riesgo, en parte según la nacionalidad. Una impugnación legal sostuvo que ese enfoque perjudicaba injustamente a personas de ciertos países; el gobierno lo abandonó. Otro algoritmo, empleado para calificar exámenes, provocó protestas estudiantiles al utilizar el rendimiento escolar previo para predecir los resultados individuales. Ninguno de los dos sistemas necesitaba una IA sofisticada para mostrar cómo los patrones históricos pueden convertirse en reglas injustas.

El mismo problema aparece en el aprendizaje automático. Un algoritmo sanitario evaluaba las necesidades en parte según el gasto previo, que era menor para pacientes negros con afecciones de salud similares. En consecuencia, derivó al 17,7 por ciento de los pacientes negros para que recibieran atención adicional, aunque el estudio estimó que, con un trato igualitario, se habría derivado al 46,5 por ciento. Eliminar la raza de un conjunto de datos no necesariamente resuelve el sesgo cuando la ubicación u otras variables sirven como sustitutos.

Análisis

El problema de fondo es que la predicción puede convertir silenciosamente un trato desigual en una afirmación sobre el mérito o el riesgo de una persona. Cuando los resultados pasados reflejan un acceso desigual, usarlos como objetivos neutrales hace que el sistema resultante parezca objetivo, aunque conserve la disparidad original. Es un problema conocido en la administración pública: medir puede aumentar la coherencia sin mejorar la justicia. La respuesta adecuada no es rechazar toda decisión basada en datos, sino examinar cómo se generó el objetivo, qué grupos soportan los errores y si la institución puede justificar la inferencia.

La vigilancia y los medios sintéticos hacen de la privacidad una decisión de diseño

Identificación a gran escala. El reconocimiento facial convierte un rostro detectado en un mapa numérico y lo compara con registros almacenados. En un ensayo de la policía británica, solo el 8 por ciento de las personas señaladas como coincidencias figuraban realmente en la lista de vigilancia. Como muchos sistemas se entrenaron principalmente con rostros de piel clara, también han sido menos fiables con personas de piel más oscura, lo que ha contribuido a identificaciones erróneas. Durante los confinamientos por la pandemia, la policía india utilizó drones y visión artificial para vigilar las concentraciones y hacer cumplir las restricciones.

La falsificación también puede escalar. Los deepfakes utilizan el aprendizaje automático para crear imágenes, vídeos y audios alterados o sintéticos. Una empresa de supervisión contabilizó 49.081 deepfakes en línea en junio de 2020; la mayoría contenía material pornográfico dirigido a mujeres. Los medios sintéticos también pueden facilitar la comunicación, por ejemplo, traduciendo un mensaje político a un dialecto. Las mismas herramientas pueden favorecer la accesibilidad o la manipulación, según el consentimiento, la divulgación y el control.

Análisis

Estos ejemplos muestran que el significado social de una tecnología depende de quién la utiliza y de quién puede negarse a ello. El escaneo facial en una función voluntaria del teléfono no equivale a la vigilancia pública continua, aunque ambos recurran a métodos técnicos similares. Del mismo modo, los medios sintéticos pueden facilitar el acceso a la información y, a la vez, abaratar la suplantación de identidad. Las políticas deben distinguir entre contextos en vez de tratar todos los usos como una innovación inofensiva o una amenaza inherente. El consentimiento, la limitación de la finalidad y las vías para impugnar una identificación son salvaguardias prácticas, no ideales abstractos.

Rediseñe los empleos en torno al criterio humano, no a los titulares sobre sustitución

La automatización se enfrenta al desorden del trabajo. Los robots de almacén de Ocado se desplazan con rapidez y ayudan a preparar pedidos de comestibles, mientras el software vuelve a calcular las rutas de reparto. Sin embargo, recoger objetos sigue siendo difícil: un robot debe agarrar las uvas delicadas de forma distinta de una lata resistente y empaquetarlas en un orden seguro. Para que la adopción generalizada tenga sentido económico, el sistema de la empresa tendría que acercarse a los 600 o 700 artículos que una persona puede recoger en una hora.

El modelo más eficaz suele ser la colaboración. En un estudio, los psiquiatras que utilizaron recomendaciones correctas de tratamiento generadas por IA tomaron mejores decisiones, mientras que las recomendaciones incorrectas los llevaron en la dirección equivocada. Las empresas también informan de resultados desiguales: una encuesta halló retornos significativos de la inversión en IA en solo el 10 por ciento de los casos. La IA puede encargarse de tareas rutinarias o señalar patrones, pero la supervisión humana, la formación y la asignación clara de responsabilidades siguen siendo esenciales.

Análisis

Es mejor plantear la cuestión laboral como un rediseño de tareas que como una competición binaria entre personas y máquinas. Los empleos agrupan acciones rutinarias, criterio contextual, interacción social y responsabilidad. La automatización puede eliminar algunas tareas y aumentar la importancia de otras, pero esta transición no es justa automáticamente para los trabajadores. Los datos sobre los médicos también ponen de manifiesto el sesgo de automatización: las personas pueden deferir a una máquina incluso cuando se equivoca. Por tanto, para que la colaboración sea eficaz no basta con que haya una persona presente: debe contar con tiempo, autoridad y conocimientos suficientes para discrepar.

Haga que la IA sea examinable e incluya en su diseño a las personas afectadas

Quién la desarrolla importa. El libro informa que cerca del 80 por ciento de los profesores de IA eran hombres, mientras que las grandes empresas tecnológicas divulgaban muy pocos datos sobre su plantilla. El estudio Gender Shades, de Joy Buolamwini y Timnit Gebru, puso a prueba sistemas comerciales de análisis facial y halló tasas de error mucho mayores para las mujeres de piel más oscura que para los hombres de piel más clara. El escrutinio público contribuyó a que las empresas mejoraran el rendimiento, lo que demuestra la importancia de la evaluación independiente.

La rendición de cuentas necesita una estructura. Las auditorías pueden detectar sesgos, mientras que las evaluaciones de impacto examinan las consecuencias probables antes o después de la implementación. Ámsterdam y Helsinki empezaron a publicar registros abiertos que describían los algoritmos utilizados por los departamentos municipales. La carta del gobierno de Nueva Zelanda sobre algoritmos gubernamentales pedía explicaciones en lenguaje claro, supervisión humana y consultas con las comunidades afectadas. Estos mecanismos facilitan que periodistas y residentes pregunten qué hace un sistema y cuestionen su uso.

Análisis

La transparencia va más allá de publicar documentación técnica. Para que el escrutinio sea significativo, hace falta suficiente información que permita vincular el diseño de un modelo con las decisiones institucionales y los daños reales. Las auditorías independientes pueden revelar patrones que las pruebas internas de una empresa no detectan, mientras que las comunidades afectadas pueden señalar riesgos que los desarrolladores no piensan medir. La representación no garantiza la equidad, pero la exclusión reduce el abanico de preguntas que probablemente se haga un equipo. La gobernanza más sólida combina pruebas técnicas, explicaciones públicas y poder para las personas sujetas a decisiones con consecuencias importantes.

Proteja los sistemas de IA tanto de la manipulación como del uso indebido geopolítico

Es posible engañar a los modelos. Los investigadores demostraron que pequeños cambios cuidadosamente diseñados en imágenes pueden hacer que los sistemas de IA interpreten mal los objetos. Por ejemplo, una señal de stop manipulada puede confundir a un coche autónomo. Un ataque adversario altera una entrada para producir un resultado incorrecto; un ataque troyano oculta un activador dentro de un modelo o de su proceso de entrenamiento, de modo que el sistema se comporta con normalidad hasta que aparece dicho activador. Estos riesgos complican el uso de la IA en el transporte, la seguridad y otros ámbitos de alto riesgo.

El poder va más allá de los piratas informáticos. China anunció su ambición de liderar la IA para 2030, mientras que gobiernos de todo el mundo invertían en capacidades de IA y tecnologías de vigilancia. El libro describe el debate sobre si la legislación vigente es suficiente o si los sistemas de alto riesgo necesitan nuevas normas. Los investigadores se opusieron ampliamente a las armas que seleccionan y matan objetivos sin intervención humana. Se necesitan tanto seguridad técnica como límites políticos cuando la IA puede reforzar el poder del Estado.

Análisis

La seguridad de la IA no consiste solo en mantener los datos confidenciales. También abarca la posibilidad de manipular las entradas, la presencia de comportamientos ocultos en un modelo adquirido y el uso de un sistema por parte de un gobierno contra personas que tienen pocas posibilidades de recurrir. Esto amplía el concepto conocido de superficie de ataque de la ciberseguridad hasta abarcar ámbitos institucionales y políticos. La competencia internacional puede estimular la inversión y la investigación, pero también premiar la rapidez por encima de la prudencia. Un enfoque creíble de la seguridad debe someter los sistemas a pruebas adversarias y establecer qué usos deben seguir prohibidos, independientemente de que sean técnicamente viables.

Regule la IA actual de consecuencias importantes antes de debatir sobre una IAG lejana

El horizonte lejano es incierto. La inteligencia artificial general se describe de distintas maneras como una inteligencia de nivel humano o de amplias capacidades, pero los investigadores no concuerdan en una definición. En una encuesta de 2017 a investigadores de aprendizaje automático, la estimación media fue de 45 años para que hubiera un 50 por ciento de probabilidades de alcanzar una inteligencia artificial de nivel humano, aunque las cifras variaban considerablemente entre regiones. Tales pronósticos son especulativos, porque nadie sabe qué avances técnicos o pruebas demostrarían que se ha alcanzado ese hito.

Los sistemas actuales ya importan. La IA actual puede influir en la atención médica, la actuación policial, el empleo, el transporte y el acceso a los servicios, sin poseer inteligencia general. El libro sostiene que los desarrolladores no deberían preguntarse solo qué pueden hacer los ordenadores, sino qué deberían hacer y si los sistemas mejoran la vida de las personas o propician abusos. Merece la pena prestar atención a los daños actuales, tanto si la IAG llega a existir como si no.

Análisis

Los debates sobre sistemas futuros extremos pueden aclarar cuestiones de control, pero también pueden absorber la atención que corresponde a decisiones que ya se están tomando. La distinción ética práctica es la que existe entre capacidad y legitimidad: un sistema puede ser capaz de clasificar, predecir u optimizar y, aun así, no tener una función defendible en una decisión determinada. Centrarse en las aplicaciones actuales no implica desestimar los riesgos a largo plazo. Permite crear hábitos institucionales de evaluación, rendición de cuentas y prudencia que resultan útiles en situaciones de incertidumbre, en vez de apostar la gobernanza a un pronóstico controvertido.

Análisis

La idea organizadora más sólida del libro es que la IA se entiende mejor como un sistema sociotécnico, no como un algoritmo aislado. Su aparente inteligencia depende de los datos, el hardware, las decisiones sobre el entrenamiento y las organizaciones que determinan cuándo se considerarán pruebas sus resultados. Esta perspectiva explica por qué los mismos métodos generales pueden ayudar a identificar enfermedades, clasificar mal un rostro o reproducir una decisión administrativa sesgada. El modelo es solo un eslabón de una cadena de decisiones humanas.

El recorrido histórico también complica la historia popular del progreso inevitable. La IA ha pasado por ciclos de afirmaciones ambiciosas, límites técnicos, disminución de la financiación y nuevas inversiones. La aceleración actual es real, pero está ligada a condiciones concretas: grandes conjuntos de datos, procesadores especializados e infraestructura comercial. Esto hace que el progreso sea poderoso, pero contingente. Puede ser desigual entre idiomas, entornos y comunidades, y conlleva costos — como el consumo de energía — que las puntuaciones de precisión por sí solas no reflejan.

A lo largo del libro se mantiene una distinción crucial: el rendimiento no equivale a la comprensión, y la precisión no equivale al valor social. Los sistemas pueden superar a los especialistas en pruebas acotadas y fallar cuando cambian el equipo, el flujo de trabajo o las circunstancias de los pacientes. Del mismo modo, una predicción puede ser estadísticamente útil para una organización y, a la vez, injusta para la persona clasificada. Por tanto, la evaluación requiere varios criterios: fiabilidad técnica, distribución de los errores, utilidad práctica y posibilidad de impugnar una decisión.

La implicación política del libro no es que haya que detener la IA ni que la innovación vaya a resolver automáticamente sus daños. Es que la gobernanza debe acompañar a la implementación. Los equipos diversos, las auditorías independientes, los registros transparentes, la experiencia humana y los límites a los usos especialmente coercitivos abordan distintos tipos de fallos. Estas salvaguardias no son intercambiables. Un equipo diverso no puede reemplazar una auditoría, y una auditoría no sustituye la rendición de cuentas pública. La contribución más duradera del libro es este cambio de pregunta: dejar de preguntarse si la IA es inteligente y preguntarse si los sistemas que construimos están justificados, son fiables y responden ante quienes afectan.

Resumen en 30 segundos
La IA actual obtiene su poder de la combinación de grandes conjuntos de datos, procesadores especializados y algoritmos, pero un buen rendimiento en una tarea limitada no equivale a inteligencia general. Los sistemas pueden fallar al pasar de las pruebas de laboratorio a instituciones reales, y los datos históricos pueden codificar la discriminación: un algoritmo sanitario derivó al 17,7 % de los pacientes negros para que recibieran atención adicional, aunque un trato igualitario habría supuesto derivar al 46,5 %. Las auditorías, la transparencia, la supervisión humana y la rendición de cuentas pública ayudan a que se puedan cuestionar los usos de consecuencias importantes.
Contiene spoilers

Última actualización:

Reportar problema

Resumen de reseñas

3.71 de 5
Promedio de 147 valoraciones de Goodreads y Amazon.

Artificial Intelligence recibe opiniones diversas, con una calificación media de 3,72/5. Los lectores valoran su concisión y carácter informativo, y elogian su panorama de las aplicaciones de la IA, las consideraciones éticas y las implicaciones futuras. A algunos les parece una excelente introducción para principiantes, mientras que otros la consideran demasiado básica. Se elogia la claridad del libro, su enfoque práctico y su tratamiento de la gobernanza y la rendición de cuentas. Los críticos señalan que carece de la profundidad y la complejidad de otras obras sobre el tema. En general, se considera una introducción útil a la IA, en particular para quienes se inician en el campo.

Tu valoración:
4.36
130 valoraciones
¿Quieres leer el libro completo?

Glosario

Red neuronal

Sistema de aprendizaje de patrones por capas

Sistema informático inspirado, de manera general, en las células cerebrales interconectadas. Contiene nodos de procesamiento enlazados mediante pesos numéricos ajustables. Durante el entrenamiento, el sistema modifica esos pesos para que las entradas produzcan resultados más útiles. Las redes neuronales pueden reconocer patrones, clasificar imágenes, hacer predicciones y realizar otras tareas de aprendizaje automático.

Aprendizaje profundo

Aprendizaje mediante múltiples capas de una red

Forma de aprendizaje automático que utiliza redes neuronales con múltiples capas de procesamiento. Cada capa puede aprender características de los datos y transmitirlas a la siguiente, lo que permite al sistema identificar patrones complejos. Su crecimiento reciente ha dependido de grandes conjuntos de datos, hardware informático más potente y algoritmos mejorados.

Aprendizaje supervisado

Aprendizaje a partir de ejemplos etiquetados

Método de entrenamiento en el que un sistema recibe ejemplos acompañados de respuestas conocidas. Para el reconocimiento de imágenes, por ejemplo, las personas pueden etiquetar las fotografías con los objetos que contienen. El sistema aprende patrones que relacionan las entradas con las etiquetas y luego los utiliza para predecir respuestas para nuevos ejemplos.

Aprendizaje no supervisado

Detección de patrones sin etiquetas

Método de aprendizaje automático que busca patrones recurrentes o grupos en datos sin etiquetar. Como las personas no identifican primero la categoría correcta de cada ejemplo, el método puede revelar estructuras que no se especificaron de antemano. Los grupos resultantes no necesariamente tienen un significado humano, a menos que las personas los interpreten.

Aprendizaje por refuerzo

Aprendizaje mediante recompensas y penalizaciones

Método en el que un sistema persigue un objetivo mediante prueba y error. Recibe retroalimentación cuando una acción tiene éxito o fracasa y luego ajusta su comportamiento para mejorar los resultados futuros. Se ha utilizado para jugar a juegos y puede ayudar a entrenar sistemas para optimizar objetivos como la seguridad o la eficiencia.

Inteligencia artificial general (IAG; AGI)

Inteligencia artificial amplia y flexible

Forma propuesta de inteligencia artificial capaz de aprender y desenvolverse en una amplia variedad de tareas y entornos, en lugar de estar diseñada para un único propósito limitado. No existe una definición acordada ni un calendario fiable para la IAG. Entre los criterios propuestos figuran las capacidades de nivel humano, la transferencia amplia de conocimientos y la capacidad de aprender nuevas habilidades.

Procesamiento del lenguaje natural (PLN; NLP)

Computación con lenguaje humano

Campo de la inteligencia artificial que busca permitir a las computadoras procesar y producir lenguaje humano. Entre sus aplicaciones se encuentran la traducción, el reconocimiento del habla, el resumen de textos, el autocompletado, los chatbots y la generación de textos. Los sistemas de PLN aprenden patrones a partir de datos lingüísticos, pero la fluidez de sus respuestas no garantiza que el sistema comprenda o verifique lo que dice.

Red generativa antagónica (GAN)

Sistema que genera datos nuevos

Enfoque de aprendizaje automático que se utiliza habitualmente para crear imágenes sintéticas y otros datos. Emplea dos componentes que compiten entre sí: uno genera ejemplos y el otro evalúa si se parecen a ejemplos reales. Gracias a esta competencia, el material generado puede resultar más convincente, capacidad que se utiliza en los deepfakes y otros medios sintéticos.

Ataque adversario

Manipulación de entradas que engaña a la IA

Intento de hacer que un sistema de aprendizaje automático produzca un resultado incorrecto mediante la alteración cuidadosa de sus entradas. En los ataques basados en imágenes, los cambios pueden ser difíciles de percibir para las personas, pero pueden hacer que un modelo clasifique mal un objeto. Estos ataques revelan vulnerabilidades en sistemas utilizados para tareas como el reconocimiento de imágenes y la conducción autónoma.

Ataque troyano

Un activador oculto en un modelo de IA

Ataque que introduce un comportamiento malicioso en un modelo o en su proceso de entrenamiento. El sistema puede parecer funcionar con normalidad durante las pruebas habituales y luego producir un resultado dirigido cuando aparece un activador determinado. Esto puede ser especialmente difícil de detectar cuando las organizaciones compran modelos a proveedores externos.

Gender Shades

Auditoría de la precisión del análisis facial

Estudio de Joy Buolamwini y Timnit Gebru que probó sistemas comerciales de análisis facial en distintos grupos según el tono de piel y el género. Halló tasas de error mucho más altas para las mujeres de piel más oscura que para los hombres de piel más clara. Los resultados llamaron la atención sobre las prácticas sesgadas de entrenamiento y evaluación y dieron lugar a un mayor escrutinio público de estos sistemas.

Preguntas frecuentes

1. ¿De qué trata «Artificial Intelligence (WIRED guides): How Machine Learning Will Shape the Next Decade», de Matt Burgess?

  • Panorama integral de la IA: El libro ofrece una introducción clara y accesible a la inteligencia artificial (IA) y al aprendizaje automático, y recorre su historia, sus aplicaciones actuales y su potencial futuro.
  • Enfoque en el impacto social: Explora cómo la IA ya está integrada en la vida cotidiana, desde las noticias de las redes sociales hasta la sanidad, y examina su creciente influencia en las empresas, la sociedad y las personas.
  • Perspectiva equilibrada: Burgess analiza tanto los beneficios como los inconvenientes de la IA, incluidos los sesgos, la vigilancia y las preocupaciones éticas.
  • Análisis orientado al futuro: El libro mira hacia la próxima década y considera cómo la IA podría transformar el trabajo, la gobernanza e incluso las estructuras de poder mundial.

2. ¿Por qué debería leer «Artificial Intelligence (WIRED guides): How Machine Learning Will Shape the Next Decade», de Matt Burgess?

  • Accesible para todos los lectores: El libro está escrito para un público general, por lo que los conceptos complejos de la IA resultan comprensibles sin necesidad de conocimientos técnicos.
  • Actual y pertinente: Aborda las preguntas más apremiantes sobre el papel de la IA en la sociedad, con ejemplos del mundo real e investigaciones recientes.
  • Crítico y matizado: Burgess no evita los desafíos de la IA, como los sesgos, la falta de diversidad y los dilemas éticos, y ofrece una visión equilibrada.
  • Ideas prácticas: Los lectores se hacen una idea de cómo la IA afectará sus vidas y su trabajo, y de qué deben estar atentos a medida que evoluciona la tecnología.

3. ¿Cuáles son las principales conclusiones de «Artificial Intelligence (WIRED guides): How Machine Learning Will Shape the Next Decade»?

  • La IA está en todas partes y sigue creciendo: La IA ya está profundamente integrada en la vida cotidiana y será aún más generalizada y potente.
  • Oportunidades y riesgos: Aunque la IA ofrece eficiencia, innovación y nuevas capacidades, también conlleva riesgos como los sesgos, la vigilancia y la alteración del empleo.
  • Se necesita un diseño centrado en las personas: Para implementar la IA con éxito, es necesario considerar las necesidades humanas, la transparencia y la rendición de cuentas, no solo la precisión técnica.
  • Implicaciones mundiales y éticas: El futuro de la IA estará condicionado por la competencia internacional, la regulación y la necesidad de un desarrollo diverso e inclusivo.

4. ¿Cómo define Matt Burgess la inteligencia artificial y sus conceptos clave en el libro?

  • La inteligencia como logro de objetivos: La IA se define como la capacidad de un agente para alcanzar objetivos en una variedad de entornos, en consonancia con las definiciones de investigadores como Shane Legg y Marcus Hutter.
  • Inteligencia limitada frente a inteligencia general: El libro distingue entre la IA limitada (especializada en una tarea) y la inteligencia artificial general (IAG; AGI), que igualaría o superaría las capacidades humanas en distintos ámbitos.
  • Explicación de conceptos fundamentales: Se definen y contextualizan claramente términos clave como redes neuronales, aprendizaje profundo, aprendizaje supervisado y no supervisado, aprendizaje por refuerzo y procesamiento del lenguaje natural.
  • Inteligencia humana frente a inteligencia artificial: Burgess analiza las dificultades de comparar la inteligencia artificial con la humana y señala las complejidades culturales, históricas y éticas.

5. ¿Cuáles son los hitos históricos más importantes del desarrollo de la IA según el libro?

  • Conferencia de Dartmouth (1956): El nacimiento de la IA como campo, donde se acuñó el término «inteligencia artificial».
  • Primeras redes neuronales: La creación del Perceptron y MADALINE, modelos fundamentales para las redes neuronales modernas.
  • Inviernos de la IA: Periodos de estancamiento en las décadas de 1970 y 1980, debidos a expectativas incumplidas y limitaciones técnicas.
  • Avances en los juegos: La victoria de Deep Blue, de IBM, sobre Garry Kasparov en ajedrez (1997) y la de AlphaGo, de DeepMind, sobre el campeón mundial de Go (2016), como momentos decisivos.
  • Avances recientes: El auge del aprendizaje profundo, los macrodatos y el hardware potente, que impulsó rápidos progresos en el reconocimiento de imágenes, el procesamiento del lenguaje y las aplicaciones del mundo real.

6. ¿Cómo explica «Artificial Intelligence (WIRED guides)» los principales tipos de aprendizaje automático y sus aplicaciones?

  • Aprendizaje supervisado: Los sistemas se entrenan con datos etiquetados para hacer predicciones o clasificaciones; se usa ampliamente en el reconocimiento de imágenes y el diagnóstico médico.
  • Aprendizaje no supervisado: Los algoritmos encuentran patrones en datos sin etiquetar; resulta útil para agrupar datos y descubrir estructuras ocultas, como se vio en los primeros experimentos de Google.
  • Aprendizaje por refuerzo: La IA aprende mediante prueba y error y recibe recompensas por alcanzar objetivos, como ejemplifican AlphaGo y los vehículos autónomos.
  • Aprendizaje profundo: Utiliza redes neuronales multicapa para procesar grandes cantidades de datos y sustenta avances en visión artificial y procesamiento del lenguaje natural.

7. ¿Cuáles son las aplicaciones actuales de la IA con mayor impacto que describe el libro?

  • Tecnología cotidiana: La IA impulsa las noticias de las redes sociales, los sistemas de recomendación (Netflix, Amazon), los asistentes de voz (Alexa, Siri) y los motores de búsqueda.
  • Sanidad: La IA ayuda con las imágenes médicas, la detección temprana de enfermedades y el descubrimiento de fármacos; a veces supera a los especialistas humanos en tareas específicas.
  • Vehículos autónomos: Los coches autónomos utilizan IA para percibir, planificar y tomar decisiones, aunque la autonomía total todavía está en desarrollo.
  • Procesamiento del lenguaje natural: Modelos avanzados como GPT-3 generan textos similares a los humanos, traducen idiomas y automatizan la atención al cliente.
  • Comercio minorista y logística: La IA optimiza las operaciones de almacén, las rutas de entrega e incluso las tiendas sin cajeros.

8. ¿Cuáles son los principales riesgos e inconvenientes de la IA que destaca Matt Burgess?

  • Sesgos y discriminación: Los sistemas de IA pueden perpetuar o amplificar los sesgos sociales existentes, sobre todo cuando se entrenan con datos poco representativos o prejuiciosos.
  • Vigilancia y privacidad: El reconocimiento facial y otras herramientas de vigilancia impulsadas por IA plantean importantes preocupaciones sobre las libertades civiles y la privacidad.
  • Deepfakes y desinformación: Los medios sintéticos generados por IA pueden utilizarse con fines maliciosos, como la creación de noticias falsas, el fraude y el acoso.
  • Falta de transparencia: Muchos sistemas de IA son «cajas negras», por lo que resulta difícil comprender o cuestionar sus decisiones.
  • Alteración del empleo: La automatización amenaza ciertos empleos, especialmente los que implican tareas repetitivas o centradas en datos, aunque también pueden surgir nuevas funciones.

9. ¿Cómo aborda «Artificial Intelligence (WIRED guides)» la cuestión de los sesgos y la diversidad en la IA?

  • Sesgos en los datos: El libro detalla cómo los datos de entrenamiento sesgados producen resultados injustos en ámbitos como la policía, la sanidad y la contratación.
  • Falta de diversidad en el sector de la IA: La mayoría de la IA es desarrollada por un grupo homogéneo (predominantemente compuesto por hombres blancos), lo que puede sesgar el diseño y las prioridades.
  • Estudios de caso: Se incluyen ejemplos de algoritmos defectuosos para visados y exámenes, reconocimiento facial sesgado y herramientas discriminatorias de evaluación de riesgos.
  • Llamamiento a la inclusión: Burgess defiende equipos más diversos, un diseño inclusivo y la participación de las comunidades afectadas en el desarrollo de la IA.

10. ¿Qué dice el libro sobre la rendición de cuentas, la transparencia y la regulación de la IA?

  • Necesidad de auditorías: Las auditorías periódicas y estructuradas (como el estudio «Gender Shades», de Joy Buolamwini) son esenciales para detectar y corregir sesgos.
  • Iniciativas de transparencia: Algunas ciudades y gobiernos están creando registros y estatutos de algoritmos para aumentar la transparencia sobre el uso de la IA.
  • Enfoques regulatorios: El libro analiza los esfuerzos de la Unión Europea por regular la IA de alto riesgo y el debate sobre la necesidad de nuevas leyes.
  • Responsabilidad empresarial: Se insta a las empresas tecnológicas a publicar datos sobre su plantilla, abordar las diferencias salariales y garantizar la supervisión ética en todas las etapas del desarrollo de la IA.

11. ¿Cómo imagina Matt Burgess el futuro de la IA y el camino hacia la inteligencia artificial general (IAG; AGI)?

  • La IAG sigue estando lejos: La mayoría de los expertos cree que faltan décadas para la IAG —una IA que iguale la inteligencia humana—, y las estimaciones van de 30 a 75 años.
  • Progreso gradual: Lo más probable es que la IA amplíe sus capacidades poco a poco, con sistemas cada vez más generales, pero no plenamente humanos.
  • Desafíos éticos y prácticos: El libro subraya la importancia de considerar no solo lo que la IA puede hacer, sino también lo que debería hacer, y destaca el beneficio y la seguridad de las personas.
  • Responsabilidad permanente: Los desarrolladores y los responsables políticos deben centrarse en hacer que los sistemas de IA actuales sean justos, transparentes y beneficiosos, en vez de distraerse con las exageraciones sobre la IAG.

12. ¿Cuáles son las mejores citas de «Artificial Intelligence (WIRED guides)», de Matt Burgess, y qué significan?

  • «La IA puede ser una enorme fuerza para el bien: ya ha cambiado el mundo de manera profunda. Pero la próxima década será crucial para determinar hasta dónde llegará ese cambio y en qué medida terminará beneficiando a la sociedad».
    Esto destaca el mensaje central del libro: el impacto de la IA es profundo, pero su futuro depende de las decisiones que se tomen ahora sobre su desarrollo y gobernanza.
  • «Si se introducen datos deficientes en un sistema, se obtienen datos deficientes».
    Una advertencia concisa sobre los peligros de los datos sesgados o defectuosos en los sistemas de IA, que subraya la necesidad de seleccionar cuidadosamente los datos.
  • «La tecnología se volverá plug-and-play. Para entonces, quizá apenas notemos cómo interactúa con nuestra vida cotidiana».
    Burgess predice que la IA estará tan integrada y será tan fácil de usar que pasará inadvertida en el trasfondo de la vida diaria.
  • «Lo que realmente importa, a fin de cuentas, es quién construye y da forma al sistema de IA».
    Un llamamiento a la diversidad y la inclusión en el desarrollo de la IA, que reconoce que la trayectoria de quienes la crean influye en los resultados de la tecnología.
  • «La actitud básica debería ser que la tecnología mejore la condición humana, en vez de reemplazar a las personas».
    Un principio rector para una IA ética, que insta a poner la tecnología al servicio de la humanidad en lugar de sustituirla.

Sobre el autor

Matthew Burgess es el autor de «Artificial Intelligence», un libro que ofrece una introducción al campo de la inteligencia artificial. Aunque la información proporcionada no incluye detalles específicos sobre la trayectoria y la experiencia de Burgess, su obra parece centrarse en presentar conceptos tecnológicos complejos de manera accesible. El contenido del libro sugiere que Burgess conoce el desarrollo histórico de la IA, sus aplicaciones actuales y sus posibles repercusiones futuras. Su estilo de escritura se describe como conciso y claro, lo que indica que sabe condensar información compleja para un público general. Burgess también aborda las consideraciones éticas y las cuestiones de gobernanza relacionadas con la IA, lo que sugiere un enfoque integral del tema.

Descargar PDF

Para guardar este resumen de Inteligencia artificial (Guías WIRED) para más tarde, descarga el PDF gratis. Puedes imprimirlo o leerlo sin conexión cuando quieras.
Download PDF

Descargar EPUB

Para leer este resumen de Inteligencia artificial (Guías WIRED) en tu dispositivo o aplicación de lectura, descarga el EPUB gratis. El formato de libro digital .epub es ideal para leer libros electrónicos en teléfonos, tabletas y lectores electrónicos.
Download EPUB
¿Quieres leer el libro completo?
Seguir
Escuchar
Inicio
Swipe
Biblio
App
Prueba el acceso completo por 3 días
Escucha, guarda y mucho más
Comparar funciones Gratis Pro
📖 Leer resúmenes
Lee resúmenes ilimitados. Los usuarios gratuitos obtienen 3 al mes
🎧 Escuchar resúmenes
Escucha resúmenes ilimitados en 40 idiomas
—
❤️ Marcadores ilimitados
Usuarios gratuitos limitados a 4
—
📜 Historial ilimitado
Usuarios gratuitos limitados a 4
—
📥 Descargas ilimitadas
Usuarios gratuitos limitados a 1
—
Cronología sin riesgo
Hoy: Obtén acceso instantáneo
Escucha resúmenes completos de más de 26.000 libros. ¡Son más de 12.000 horas de audio!
Día 2: Recordatorio de prueba
Te enviaremos una notificación de que tu prueba está por terminar.
Día 3: Tu suscripción comienza
Se te cobrará el 25 nov,
cancela en cualquier momento antes.
Consume 2.8× More Books
2.8× libros más Escucha Lectura
Nuestros usuarios nos adoran
1M+ lectores
Trustpilot Rating
TrustPilot
4.6 Excelente
Este sitio es un antes y un después. He leído resúmenes como nunca antes. Lo recomiendo muchísimo.
— Dave G
Vale cada centavo y cada minuto, y está muy bien hecho. Nunca había visto esta calidad de resúmenes en otros sitios. ¡Muy útil!
— Em
¡Muy recomendado! Servicio fantástico. Perfecto para quienes quieren algo más que una sinopsis, pero no todos los detalles de un audiolibro completo.
— Greg M
Ahorra un 62%
Anual
$119.88 $44.99/año/año
$3.75/mes
Mensual
$9.99/mes
Inicia tu prueba gratuita de 3 días
3 días gratis, luego $44.99/año. Cancela cuando quieras.
Unlock a world of fiction & nonfiction books
Más de 26.000 libros por el precio de 2
Lee cualquier libro en 10 minutos
Descubre libros nuevos como en Tinder
Solicita cualquier libro si no está resumido
Lee más libros que cualquiera que conozcas
La app nº 1 para amantes de los libros
Lifelike & immersive summaries
Garantía de devolución de 30 días
Descarga resúmenes en EPUB o PDF
Cancela en cualquier momento con unos clics

¿Por qué solo un resumen?

Escáner
Busca un código de barras para escanear

⭐
⭐
⭐
Tenemos un regalo especial para ti
Abrir
38% de descuento
DESCUENTO PARA TI
⭐
⭐
⭐
$79.99
$49.99/año
Solo $4.16 al mes
Continuar
Empieza con 2 toques y cancela fácilmente
Configuración
General
Widget
Cargando...