Iniciar prueba gratuita
Popular Nuevos Géneros Autores
EnglishEnglish
EspañolSpanish
简体中文Chinese
繁體中文Chinese (Traditional)
FrançaisFrench
DeutschGerman
日本語Japanese
PortuguêsPortuguese
ItalianoItalian
한국어Korean
РусскийRussian
NederlandsDutch
العربيةArabic
PolskiPolish
हिन्दीHindi
Tiếng ViệtVietnamese
SvenskaSwedish
ΕλληνικάGreek
TürkçeTurkish
ไทยThai
ČeštinaCzech
RomânăRomanian
MagyarHungarian
УкраїнськаUkrainian
IndonesiaIndonesian
DanskDanish
SuomiFinnish
БългарскиBulgarian
עבריתHebrew
NorskNorwegian
HrvatskiCroatian
CatalàCatalan
SlovenčinaSlovak
LietuviųLithuanian
SlovenščinaSlovenian
СрпскиSerbian
EestiEstonian
LatviešuLatvian
فارسیPersian
മലയാളംMalayalam
தமிழ்Tamil
اردوUrdu
Buscando...
SoBrief
La máquina de la igualdad

La máquina de la igualdad

Título traducido
Título original: The Equality Machine
Los algoritmos pueden revelar la discriminación, pero solo si medimos a quiénes dejan atrás.
por Orly Lobel 2022 412 páginas
3.89
154 valoraciones
Escuchar
Inmersivo
V2.3
Amazon Kindle Audible
Prueba el acceso completo por 3 días
¡Desbloquea la escucha y mucho más!
Continuar

Ideas clave

Implementar la IA mediante comparaciones, no como promesa de decisiones perfectas o neutrales.

Comparar alternativas reales. La tesis central del libro es que la tecnología debe evaluarse frente a los sistemas humanos que puede mejorar, no frente a un estándar imaginario de perfección. Las personas toman decisiones sesgadas con información limitada; los algoritmos pueden procesar más datos, revelar patrones y revisarse. Elinor, la hija de la autora, ilustra personalmente esa promesa: un sensor de glucosa y una bomba inteligente de insulina comparten información, lo que permite que la bomba ajuste automáticamente la insulina y alivia la labor constante que exige controlar la diabetes.

Exigir que las mejoras rindan cuentas. Una máquina no es justa automáticamente por ser coherente o rápida. El objetivo práctico es combinar el criterio humano con las fortalezas computacionales, seguir los resultados, corregir los fallos y decidir qué cuenta como progreso. Durante la pandemia, las herramientas digitales facilitaron la atención médica y el trabajo a distancia, mientras que las grabaciones de abusos hicieron más difícil negar daños que antes permanecían ocultos.

Análisis

La prueba comparativa es más sólida que preguntarse si un sistema es infalible: ningún proceso decisorio importante lo es. También se parece a la evaluación médica, donde un tratamiento nuevo se compara con la atención existente. Sin embargo, un punto de referencia deficiente puede hacer que una mejora modesta parezca un éxito. En ámbitos que afectan la libertad, la salud o el sustento, la precisión por sí sola no otorga legitimidad. Una comparación justa debe incluir quién se beneficia, quién carga con los errores y si las personas pueden impugnar las decisiones.

Hacer mensurable la desigualdad antes de pedirle a la tecnología que la corrija.

Encontrar el patrón oculto. Los registros digitales pueden revelar disparidades que las quejas aisladas no permiten detectar. Un estudio de más de un millón de subastas de eBay halló que las mujeres que vendían productos nuevos idénticos recibían unos 80 centavos por cada dólar que recibían los hombres. La brecha persistía incluso después de que los investigadores tuvieran en cuenta factores como la reputación de los vendedores y los precios de publicación. En Airbnb, las solicitudes de huéspedes con nombres distintivamente afroamericanos tenían un 16 por ciento menos de probabilidades de ser aceptadas que otras solicitudes idénticas.

Convertir las pruebas en diseño. Las plataformas pueden probar cambios como ocultar las fotos de perfil hasta que se confirme una reserva o mostrar a los vendedores precios comparables. Los registros en línea permiten repetir los análisis, pero detectar el problema es solo un primer paso. También importa la información que falta: sin datos sobre quién participa y qué le ocurre, las instituciones pueden confundir la invisibilidad con la igualdad.

Análisis

La medición da una forma operativa a una injusticia imprecisa: permite localizar una disparidad, hacerle seguimiento y contrastarla con una solución propuesta. Es un puente poderoso entre las ciencias sociales y el diseño de productos. Sin embargo, recopilar datos no es un acto neutral. Las categorías pueden identificar mal a las personas, y la vigilancia puede exponer a usuarios vulnerables. Los investigadores independientes necesitan acceso a información suficiente para poner a prueba las afirmaciones, mientras que las plataformas deben limitar la identificación innecesaria y proteger a quienes están representados en los datos.

Permitir que los algoritmos consideren la identidad cuando la equidad exige detectar resultados desiguales.

La ceguera tiene límites. Eliminar la raza o el género de un conjunto de datos no necesariamente los elimina de un modelo. Los algoritmos pueden inferir esas identidades mediante indicadores indirectos como la ubicación, los nombres, el idioma o los patrones de actividad. El libro describe un enfoque alternativo, la equidad mediante la conciencia de la identidad (fairness through awareness): proporcionar información sobre identidades protegidas cuando sea necesaria para medir y corregir resultados desiguales.

Definir la equidad en función de la tarea. Por ejemplo, en la evaluación del riesgo delictivo, ignorar el género puede hacer que las mujeres parezcan más propensas a reincidir de lo que realmente son si el modelo les aplica patrones masculinos de reincidencia. Pero la equidad puede significar cosas distintas, como representación igualitaria, precisión igualitaria o tener en cuenta desventajas históricas. Esos objetivos pueden entrar en conflicto, por lo que cada sistema necesita normas explícitas y una revisión continua, en lugar de una vaga promesa de neutralidad.

Análisis

Este argumento pone de manifiesto un error común: tratar la ausencia de variables sensibles como prueba de imparcialidad. En la práctica estadística, un indicador indirecto puede mantener la misma discriminación y hacerla más difícil de ver. Aun así, corregir las desigualdades teniendo en cuenta la identidad exige salvaguardias. Los grupos pertinentes, las tasas de error aceptables y las soluciones previstas son decisiones sociales y políticas, no descubrimientos del software. Las auditorías técnicas pueden aclarar las disyuntivas, pero no pueden decidir qué disyuntiva debería aceptar una sociedad.

Sustituir los filtros de contratación heredados por medidas validadas de la capacidad real.

Los éxitos del pasado pueden perpetuar la exclusión. En un experimento con currículos que incluyó más de 5.000 solicitudes, los currículos idénticos con nombres que sonaban blancos recibieron un 50 por ciento más de invitaciones a entrevistas que los que tenían nombres que sonaban afroamericanos. La selección automatizada puede facilitar la comprobación de estos patrones, pero entrenar los sistemas con contrataciones anteriores puede reproducirlos. Amazon abandonó una herramienta de selección de personal después de que esta rebajara la puntuación de currículos que mencionaban actividades de mujeres y egresadas de universidades para mujeres, reflejo de la historia predominantemente masculina de los datos de entrenamiento.

Comprobar qué predice el desempeño laboral. Algunos empleadores usan juegos estructurados u otras evaluaciones para mirar más allá del prestigio de las universidades y las recomendaciones personales. Una firma de inversión descrita en el libro amplió su contratación: pasó de un puñado de centros educativos locales a más de sesenta, y aumentó la contratación de mujeres y minorías. Estas herramientas deben someterse a escrutinio: hay que demostrar que la puntuación de un juego o el análisis de un video miden aptitudes pertinentes para el puesto, en lugar de limitarse a promocionarlos como libres de sesgos.

Análisis

Los sistemas de contratación confunden familiaridad con mérito cuando aprenden de los perfiles de quienes ya fueron seleccionados. Las evaluaciones más amplias pueden descubrir talentos que los filtros basados en credenciales académicas dejan pasar, del mismo modo que los concursos abiertos de resolución de problemas han permitido que personas ajenas a un campo aporten soluciones novedosas. Pero las nuevas evaluaciones pueden crear nuevos indicadores indirectos. La pregunta decisiva no es si un proceso parece novedoso, sino si predice resultados laborales significativos entre distintos grupos y sigue abierto a una validación independiente.

Hacer públicos los datos salariales y dejar de usar los sueldos anteriores para fijar los nuevos.

La opacidad protege las brechas. En Estados Unidos, las mujeres ganan en promedio unos 82 centavos por cada dólar que ganan los hombres, y las brechas son mayores para muchas mujeres de color. El software puede comparar la remuneración según el puesto, las aptitudes, la experiencia y el desempeño. El año siguiente a las primeras correcciones, Salesforce encontró otros tres millones de dólares en brechas salariales, un recordatorio de que la equidad exige medir de forma reiterada, no hacer una sola auditoría.

Romper el ciclo de los antecedentes salariales. Un sueldo anterior más bajo puede anclar las ofertas futuras y perpetuar una brecha existente en cada nuevo empleo. Una investigación citada en el libro halló que el 93 por ciento de las estudiantes de MBA aceptó su oferta salarial inicial, frente al 43 por ciento de los hombres. Cuando se informó explícitamente a todos los solicitantes que el sueldo era negociable, un experimento de campo encontró que desaparecía la diferencia de género en la negociación. La transparencia y los rangos salariales claros pueden reducir la dependencia de un poder de negociación desigual.

Análisis

La transparencia salarial cambia las condiciones de negociación, no solo la confianza individual. Da a los trabajadores información que los empleadores suelen tener, pero mantienen en secreto, y reduce así una asimetría de información clásica. Sin embargo, divulgar información no redistribuye el dinero por sí solo: las organizaciones pueden publicar una brecha sin corregirla, o exponer innecesariamente los datos personales de los trabajadores. La transparencia eficaz combina datos comparables con la obligación de explicar y abordar las disparidades, a la vez que protege los registros salariales individuales.

Hacer más seguras las denuncias y mantener proporcional la vigilancia en el lugar de trabajo.

Crear un registro sin presionar. El libro calcula que el 70 por ciento de las víctimas de acoso nunca presenta una denuncia formal. Herramientas como Spot permiten a los empleados documentar sus experiencias en una conversación con sello de tiempo y decidir si presentan la denuncia de inmediato o conservan el registro. Otros sistemas pueden ayudar a identificar denuncias reiteradas o buscar pruebas de conductas indebidas en los mensajes del lugar de trabajo. Herramientas de datos relacionadas han ayudado a los investigadores a vincular una fotografía antigua de una víctima de trata con anuncios en línea e identificar a otras víctimas.

No confundir vigilancia con seguridad. La vigilancia automatizada puede detectar conductas que nadie denuncia, pero los mensajes pueden malinterpretarse si se los saca de contexto. Algunos proveedores afirman que sus sistemas detectan mucho acoso que de otro modo pasaría inadvertido, pero las pruebas transparentes de su eficacia siguen siendo escasas. Las falsas alarmas pueden inhibir la expresión cotidiana o señalar a personas cuya forma de comunicarse difiere de las normas dominantes. Son esenciales la revisión humana, las protecciones de privacidad y una vía clara para impugnar los hallazgos.

Análisis

Una denuncia con sello de tiempo puede funcionar como memoria institucional, sobre todo cuando las represalias o la presión informal silencian a las personas. Pero un aumento de las denuncias no demuestra por sí mismo que una organización sea ahora más segura. La vigilancia también desplaza el poder hacia los empleadores, que pueden usar los mismos registros para fines ajenos a la protección. Los sistemas fiables necesitan límites claros a la recopilación, evaluaciones independientes y procedimientos que distingan una señal de alerta de una conclusión de conducta indebida.

Cambiar los valores predeterminados digitales que enseñan a la sociedad quién pertenece a cada lugar.

Los valores predeterminados transmiten un significado social. Los asistentes de voz suelen presentarse con voces femeninas, haciendo que las mujeres suenen como ayudantes siempre disponibles, mientras que las voces autoritarias suelen ser masculinas. También se ha informado que el reconocimiento del habla es un 13 por ciento más preciso con los hombres que con las mujeres. Proyectos como Common Voice, de Mozilla, recopilan muestras de voz de hablantes de distintas procedencias y lenguas para ayudar a los sistemas a entender algo más que las voces mejor representadas en los datos comerciales.

Hacer que la representación sea algo habitual. Las imágenes de archivo, los resultados de búsqueda y las etiquetas automatizadas moldean lo que la gente ve una y otra vez. La imagen de Getty más utilizada para la búsqueda «mujer» pasó, en el transcurso de una década, de mostrar a una modelo desnuda posando a una mujer que hacía senderismo en un paisaje. Ese cambio sugiere cómo las colecciones de imágenes pueden ofrecer modelos más amplios de la vida de las mujeres, aunque las colecciones especializadas tengan menos impacto si los usuarios deben buscarlas deliberadamente.

Análisis

Los valores predeterminados son una forma discreta de gobierno: la mayoría de los usuarios los acepta, por lo que pequeñas decisiones de diseño pueden convertirse en señales sociales que se repiten ampliamente. Voces e imágenes diversas pueden ampliar la idea de quién puede ser líder, experto o cuidador. Sin embargo, la representación por sí sola no equivale a la inclusión. Una imagen más equilibrada puede coexistir con un acceso desigual al empleo, la influencia y la autoridad técnica. Los cambios de diseño importan más cuando van acompañados de cambios en quién construye los sistemas y quién se beneficia de ellos.

Usar la IA para corregir los puntos ciegos de la medicina, no para automatizarlos.

Cerrar las brechas de investigación. La salud de las mujeres se ha estudiado menos que la de los hombres, y las minorías raciales también han estado infrarrepresentadas en la investigación clínica. Regina Barzilay y sus colaboradores entrenaron un sistema con 70.000 imágenes de lesiones mamarias cuyos desenlaces se conocían. El modelo identificó patrones asociados al riesgo futuro de cáncer de mama hasta cinco años antes del diagnóstico tradicional, y ofreció a los médicos una herramienta para evaluar antes ese riesgo.

Auditar los datos de entrada. Un algoritmo utilizado para asignar recursos sanitarios tomó el gasto en atención médica como indicador indirecto de enfermedad. Como los pacientes negros solían recibir menos atención, el sistema concluyó erróneamente que estaban más sanos que los pacientes blancos con necesidades similares. La IA puede reducir el costo de los diagnósticos y detectar patrones invisibles para los médicos, pero solo si hay representación de pacientes diversos y los resultados se comprueban en contextos clínicos reales. El libro aboga por la supervisión humana y una revisión pública rigurosa.

Análisis

La medicina muestra tanto la promesa como el peligro de la predicción: un sistema puede detectar señales tempranas y, al mismo tiempo, aprender una desigualdad oculta en una medida que parece razonable. Esto nos recuerda que la precisión predictiva depende del resultado elegido y de las experiencias representadas en los datos de entrenamiento. La implementación clínica debe comprobar el desempeño en distintas poblaciones y preguntarse si el acceso a la herramienta es tan equitativo como su desempeño medido.

Diseñar plataformas de citas para ampliar los contactos, no afianzar la segregación racial.

El emparejamiento es una decisión de diseño. Las aplicaciones de citas pueden conectar a personas más allá de los círculos sociales y las limitaciones geográficas que antes restringían la elección de pareja. Las investigaciones descritas en el libro relacionan el auge de las citas en línea con el aumento de los matrimonios interraciales, aunque una correlación por sí sola no demuestra que las aplicaciones causaran ese cambio. Otras pruebas muestran que persisten las preferencias raciales: en algunas plataformas, las mujeres negras y los hombres asiáticos se encuentran entre quienes menos mensajes reciben, mientras que muchos usuarios prefieren a personas de su propia raza.

Auditar la arquitectura de las opciones. Las aplicaciones deciden qué perfiles aparecen, si los usuarios pueden filtrar por origen étnico y cómo los deslizamientos anteriores determinan las sugerencias futuras. Eliminar un filtro racial puede reducir la exclusión explícita, pero también puede dificultar que los usuarios marginados encuentren una comunidad. El objetivo no es dictar a quién deben amar los usuarios. Es entender cómo el diseño de las plataformas estrecha o amplía discretamente las opciones con las que se encuentran.

Análisis

Las aplicaciones de citas ponen de manifiesto una frontera difícil entre las preferencias personales y los sistemas que las moldean. Una recomendación no es un simple reflejo del deseo: puede influir en qué personas conocen los usuarios y sobre cuáles aprenden. Al mismo tiempo, una plataforma no puede fabricar intimidad imponiendo un resultado social preferido. Un mejor diseño hace visibles las opciones de selección, estudia sus efectos y preserva la autonomía de los usuarios sin tratar los patrones existentes como incuestionables.

Tratar los robots sexuales como un diseño controvertido, no como remedio para la desigualdad.

El producto refleja a quienes lo crean. La mayoría de los robots sexuales siguen siendo rudimentarios, pero muchos se comercializan recurriendo a fantasías de obediencia femenina y estereotipos raciales. Los críticos advierten que esos diseños pueden normalizar la cosificación; sus defensores señalan posibles beneficios de compañía y placer, y su utilidad para personas que afrontan obstáculos para la intimidad. El libro presenta estos beneficios como posibilidades, no como prueba concluyente de que los robots reduzcan la violencia o la trata.

El diseño y las pruebas importan. Un dispositivo incapaz de tomar decisiones autónomas no puede dar un consentimiento significativo, aunque esté programado para actuar como si aceptara. Por eso importan el diseño, las expectativas de los usuarios y la regulación. Una prohibición general puede eludir preguntas difíciles sin abordar la cultura que moldea los productos. Un punto de partida más serio sería contar con diseñadores más diversos, formas menos estereotipadas, protecciones de privacidad e investigaciones sobre los efectos reales.

Análisis

El debate es más sólido cuando evita dos atajos: suponer que toda representación causa daño directamente o que las fantasías privadas carecen de consecuencias sociales. Las tecnologías sexuales se sitúan entre la imaginación y la conducta, y ni la alarma moral ni las afirmaciones comerciales resuelven la cuestión causal. La investigación debería distinguir el uso consentido entre adultos de la explotación y examinar cómo el diseño representa las relaciones de poder, sin dejar de tomar en serio que los dispositivos construidos a partir de normas desiguales pueden reproducirlas.

Usar robots de cuidado para apoyar la conexión humana, bajo supervisión pública.

Apoyar, no sustituir. Paro, un robot terapéutico peludo con forma de foca, se ha utilizado en entornos de atención para aliviar la ansiedad y la soledad. Estudios descritos en el libro hallaron que podía ayudar a los pacientes a comunicarse e interactuar con quienes los cuidaban, y en 2009 la FDA lo reconoció como dispositivo terapéutico neurológico. También se están explorando los robots sociales para la rehabilitación, la educación y el apoyo a niños con diferencias del desarrollo.

Contabilizar el trabajo que sostiene los cuidados. Las mujeres realizan mucho más trabajo de cuidados no remunerado que los hombres: según una estimación, el total anual de las mujeres supera los 1,1 billones de horas, frente a menos de 400.000 millones de horas en el caso de los hombres. Los robots pueden reducir las tareas repetitivas y ofrecer un apoyo constante, pero no pueden resolver si los cuidadores están mal pagados o si las familias carecen de servicios. La privacidad, el consentimiento y el acceso son especialmente importantes cuando los robots recopilan datos de niños o pacientes.

Análisis

Un robot de compañía puede ser útil precisamente porque fomenta la interacción humana en lugar de reemplazarla. Esa distinción importa en los cuidados, donde el apoyo emocional y la asistencia práctica suelen ir de la mano. El riesgo es que un beneficio mensurable se convierta en una excusa para financiar insuficientemente la atención humana. Por eso, la evaluación debe considerar no solo los resultados de los pacientes, sino también la carga de trabajo y la dignidad de quienes los cuidan, y si la tecnología amplía o restringe el contacto significativo.

Exigir auditorías independientes antes de llamar a cualquier tecnología una máquina de la igualdad.

Tratar los datos como infraestructura compartida. El libro sostiene que los datos y los avances que se construyen a partir de ellos deberían servir a objetivos públicos, en lugar de quedar bajo el control exclusivo de unas pocas empresas. Los investigadores necesitan acceso para comprobar si los sistemas discriminan, y las instituciones públicas pueden apoyar la recopilación abierta de datos, la competencia y las auditorías independientes. Entre las herramientas propuestas están las fichas de modelos, informes breves que describen el desempeño de un modelo en distintos grupos demográficos.

Regular todo el ciclo de vida. La supervisión debería comenzar en la fase de diseño y continuar durante la implementación, con seguimiento, divulgación de información y mecanismos para que las personas afectadas impugnen las decisiones automatizadas. Las autoevaluaciones de las empresas son un punto de partida útil, no una prueba de equidad. Como objetivos como la precisión, la igualdad, la privacidad y la seguridad a veces entran en conflicto, las instituciones deben declarar qué normas aplican y quién rinde cuentas cuando los sistemas fallan.

Análisis

La propuesta más perdurable del libro es institucional, no técnica: convertir la igualdad en un requisito que pueda inspeccionarse, cuestionarse y revisarse. Esto vincula la rendición de cuentas algorítmica con la regulación ambiental y la seguridad de los productos, ámbitos donde la divulgación y las pruebas hacen más verificables las afirmaciones privadas. Para que las auditorías independientes importen, necesitan autoridad, acceso y consecuencias. De lo contrario, el lenguaje ético puede servir de cobertura reputacional mientras los datos, las decisiones y las ganancias siguen concentrados.

Análisis

La propuesta distintiva del libro es rechazar la disyuntiva entre la fe acrítica en la tecnología y la desconfianza absoluta hacia ella. En cambio, trata los algoritmos, las plataformas y los robots como instrumentos capaces de revelar patrones sociales, modificar los entornos de decisión y, en ocasiones, superar el criterio humano sesgado. Sus ejemplos abarcan desde los precios de subastas y la contratación hasta el diagnóstico médico, las denuncias de acoso, las citas y los cuidados. En todos estos ámbitos se repite la misma cadena causal: las sociedades generan datos desiguales, los sistemas aprenden de ellos y el diseño o la supervisión determinan si el patrón resultante se repite, se revela o se corrige.

Este enfoque comparativo resulta convincente porque ofrece a los lectores una pregunta práctica: ¿qué hace este sistema en relación con el proceso al que sustituye? También mantiene el argumento anclado en aplicaciones reales, en vez de apoyarlo en pronósticos abstractos sobre la superinteligencia artificial. Sin embargo, la comparación puede minimizar el peligro de partir de una referencia deficiente. Un sistema un poco menos sesgado que un proceso humano aún puede distribuir daños graves a una escala mucho mayor. Tampoco más datos son automáticamente mejores: pueden intensificar la vigilancia, codificar indicadores indirectos y transferir poder a instituciones que las personas no pueden impugnar.

El libro es más sólido cuando presenta la equidad como una elección que exige normas explícitas, no como una propiedad técnica que espera ser descubierta. Sus propuestas de auditorías continuas, participación más amplia, investigación pública y acceso compartido a los datos se derivan de esa premisa. La tensión central queda sin resolver deliberadamente: algunas intervenciones requieren información sobre la identidad para detectar resultados desiguales, pero recopilar esa información puede amenazar la privacidad o permitir la discriminación. La conclusión útil no es que la tecnología traerá la igualdad, sino que negarse a moldearla deja que las estructuras de poder existentes lo hagan. El progreso depende de objetivos mensurables, escrutinio independiente y atención sostenida a quién controla los sistemas y quién carga con sus errores.

Resumen en 30 segundos
Los sistemas digitales pueden revelar disparidades que las quejas individuales no detectan: por productos idénticos en eBay, las vendedoras recibían unos 80 centavos por cada dólar que recibían los vendedores, mientras que las solicitudes de huéspedes con nombres característicamente negros tenían un 16 % menos de probabilidades de ser aceptadas en Airbnb. Eliminar la raza o el género de los datos no borra su influencia, ya que los modelos pueden inferir la identidad a partir de indicadores indirectos. Las herramientas para la contratación, la remuneración, la atención médica y la denuncia de problemas en el lugar de trabajo necesitan medidas pertinentes, datos diversos, revisión humana y auditorías independientes periódicas. La equidad de un sistema depende de objetivos explícitos, rendición de cuentas pública y de que las personas afectadas puedan impugnar sus decisiones.
Contiene spoilers

Última actualización:

Reportar problema

Resumen de reseñas

3.89 de 5
Promedio de 154 valoraciones de Goodreads y Amazon.

The Equality Machine recibe críticas diversas, aunque en general positivas. Muchos lectores elogian su perspectiva optimista sobre el potencial de la tecnología para promover la igualdad y abordar problemas sociales. Valoran el enfoque matizado de la autora y su extensa investigación. Algunas personas critican que el libro sea demasiado académico o que presente argumentos débiles. Sus detractores sostienen que carece de soluciones convincentes y que quizá no logre atraer a lectores ajenos al ámbito académico. Sin embargo, la mayoría de quienes lo reseñan encuentra valor en su análisis del impacto de la IA en distintos aspectos de la sociedad, desde el empleo hasta la atención médica y las relaciones.

Tu valoración:
4.43
132 valoraciones
¿Quieres leer el libro completo?

Glosario

la máquina de la igualdad

Tecnología orientada a la equidad

Un marco y una mentalidad para utilizar sistemas digitales con el fin de identificar y reducir la desigualdad. Combina mejores datos, diseño inclusivo, participación humana, supervisión y evaluación reiterada. La expresión no se refiere a un dispositivo ni a un algoritmo en particular. Describe un esfuerzo deliberado por orientar la tecnología hacia resultados más equitativos, en lugar de suponer que la innovación es inherentemente perjudicial o automáticamente beneficiosa.

equidad mediante la conciencia de la identidad (fairness through awareness)

Usar la identidad para detectar disparidades

Un enfoque de la equidad algorítmica que permite que un sistema utilice características protegidas, como la raza o el género, cuando sea necesario para medir resultados desiguales. Cuestiona la idea de que eliminar las etiquetas de identidad garantice la neutralidad, ya que otros datos pueden servir como indicadores indirectos. El enfoque se centra en supervisar y corregir los resultados, reconociendo que los criterios de equidad varían según el contexto.

sistemas de confianza entre desconocidos

Reputación digital entre desconocidos

Funciones en línea, como las calificaciones, las reseñas y los historiales de usuario, que ayudan a las personas a decidir si realizar una transacción con alguien a quien no conocen. Estos sistemas pueden hacer que los intercambios sean más seguros y confiables que un encuentro sin registro. También pueden reproducir sesgos, porque los juicios de los usuarios y el diseño de los sistemas de calificación pueden perjudicar a las personas por su identidad.

déficit de negociación

Frecuencia desigual de negociación

El patrón, analizado por Lobel, según el cual, en promedio, las mujeres negocian con menos frecuencia que los hombres los salarios, los ascensos y otros beneficios laborales. El libro relaciona esta diferencia con las expectativas en el lugar de trabajo y las presiones sociales, en vez de tratarla como un rasgo personal fijo. Decir explícitamente a todas las personas solicitantes que las condiciones son negociables puede reducir la brecha.

penalización por negociar

Reacciones negativas ante la negociación de las mujeres

Los juicios negativos que pueden recibir las mujeres por pedir un salario más alto o mejores condiciones. En los experimentos descritos en el libro, las mujeres que iniciaban negociaciones podían ser percibidas como exigentes o antipáticas, mientras que una asertividad similar en los hombres se aceptaba con mayor facilidad. Esta penalización ayuda a explicar por qué aconsejar a las mujeres que negocien no basta para resolver las condiciones desiguales de negociación.

brecha en la eliminación de antecedentes penales mediante leyes de segunda oportunidad (second chance expungement gap)

Antecedentes que reúnen los requisitos pero no se eliminan

Término que designa la diferencia entre las personas que reúnen los requisitos para que se eliminen sus antecedentes penales en virtud de leyes de segunda oportunidad y quienes realmente consiguen que se los eliminen. El libro atribuye la brecha, en parte, a organismos sobrecargados de trabajo, datos faltantes o inexactos y procesos de solicitud costosos. Los sistemas automatizados podrían ayudar a identificar a las personas que reúnen los requisitos, pero requieren registros confiables y medidas de protección.

hipótesis del valle inquietante

Inquietud ante robots casi humanos

La hipótesis de que un robot o una figura artificial puede resultar cada vez más familiar a medida que se vuelve más humano, pero luego provocar incomodidad cuando su apariencia se acerca a la humana sin ser lo bastante convincente. El libro señala que la exposición y el contexto cultural pueden influir en esta reacción, por lo que el límite entre un diseño atractivo y uno inquietante no es necesariamente fijo.

fichas de modelos

Informes sobre el rendimiento de los modelos

Documentos breves propuestos para acompañar los modelos de aprendizaje automático y divulgar su rendimiento en distintos grupos demográficos y usos. Su propósito es ayudar a usuarios y auditores a comprender las limitaciones que pueden quedar ocultas tras la complejidad técnica o el secreto comercial. En el libro, las fichas de modelos se presentan como una ayuda práctica para la transparencia, no como sustituto de las pruebas independientes.

Sobre el autor

Orly Lobel es una destacada jurista y autora. Es titular de la cátedra Don Weckstein de Derecho en la Universidad de San Diego y obtuvo sus títulos de doctorado y Derecho en la Universidad de Harvard. Durante su infancia, participó en estudios de su madre, psicóloga, sobre el juego con muñecas Barbie. Autora galardonada, entre sus obras anteriores se encuentra «Talent Wants to Be Free». Sus conocimientos abarcan el derecho, la tecnología y las cuestiones sociales, lo que le permite ofrecer un análisis perspicaz de la intersección de estos campos. Actualmente vive en La Jolla, California, donde continúa investigando y escribiendo sobre temas relacionados con la igualdad, la innovación y el impacto de la tecnología en la sociedad.

Descargar PDF

Para guardar este resumen de La máquina de la igualdad para más tarde, descarga el PDF gratis. Puedes imprimirlo o leerlo sin conexión cuando quieras.
Download PDF

Descargar EPUB

Para leer este resumen de La máquina de la igualdad en tu dispositivo o aplicación de lectura, descarga el EPUB gratis. El formato de libro digital .epub es ideal para leer libros electrónicos en teléfonos, tabletas y lectores electrónicos.
Download EPUB
¿Quieres leer el libro completo?
Seguir
Escuchar
Inicio
Swipe
Biblio
App
Prueba el acceso completo por 3 días
Escucha, guarda y mucho más
Comparar funciones Gratis Pro
📖 Leer resúmenes
Lee resúmenes ilimitados. Los usuarios gratuitos obtienen 3 al mes
🎧 Escuchar resúmenes
Escucha resúmenes ilimitados en 40 idiomas
—
❤️ Marcadores ilimitados
Usuarios gratuitos limitados a 4
—
📜 Historial ilimitado
Usuarios gratuitos limitados a 4
—
📥 Descargas ilimitadas
Usuarios gratuitos limitados a 1
—
Cronología sin riesgo
Hoy: Obtén acceso instantáneo
Escucha resúmenes completos de más de 26.000 libros. ¡Son más de 12.000 horas de audio!
Día 2: Recordatorio de prueba
Te enviaremos una notificación de que tu prueba está por terminar.
Día 3: Tu suscripción comienza
Se te cobrará el 25 nov,
cancela en cualquier momento antes.
Consume 2.8× More Books
2.8× libros más Escucha Lectura
Nuestros usuarios nos adoran
1M+ lectores
Trustpilot Rating
TrustPilot
4.6 Excelente
Este sitio es un antes y un después. He leído resúmenes como nunca antes. Lo recomiendo muchísimo.
— Dave G
Vale cada centavo y cada minuto, y está muy bien hecho. Nunca había visto esta calidad de resúmenes en otros sitios. ¡Muy útil!
— Em
¡Muy recomendado! Servicio fantástico. Perfecto para quienes quieren algo más que una sinopsis, pero no todos los detalles de un audiolibro completo.
— Greg M
Ahorra un 62%
Anual
$119.88 $44.99/año/año
$3.75/mes
Mensual
$9.99/mes
Inicia tu prueba gratuita de 3 días
3 días gratis, luego $44.99/año. Cancela cuando quieras.
Unlock a world of fiction & nonfiction books
Más de 26.000 libros por el precio de 2
Lee cualquier libro en 10 minutos
Descubre libros nuevos como en Tinder
Solicita cualquier libro si no está resumido
Lee más libros que cualquiera que conozcas
La app nº 1 para amantes de los libros
Lifelike & immersive summaries
Garantía de devolución de 30 días
Descarga resúmenes en EPUB o PDF
Cancela en cualquier momento con unos clics

¿Por qué solo un resumen?

Escáner
Busca un código de barras para escanear

⭐
⭐
⭐
Tenemos un regalo especial para ti
Abrir
38% de descuento
DESCUENTO PARA TI
⭐
⭐
⭐
$79.99
$49.99/año
Solo $4.16 al mes
Continuar
Empieza con 2 toques y cancela fácilmente
Configuración
General
Widget
Cargando...