Iniciar prueba gratuita
Popular Nuevos Géneros Autores
EnglishEnglish
EspañolSpanish
简体中文Chinese
繁體中文Chinese (Traditional)
FrançaisFrench
DeutschGerman
日本語Japanese
PortuguêsPortuguese
ItalianoItalian
한국어Korean
РусскийRussian
NederlandsDutch
العربيةArabic
PolskiPolish
हिन्दीHindi
Tiếng ViệtVietnamese
SvenskaSwedish
ΕλληνικάGreek
TürkçeTurkish
ไทยThai
ČeštinaCzech
RomânăRomanian
MagyarHungarian
УкраїнськаUkrainian
IndonesiaIndonesian
DanskDanish
SuomiFinnish
БългарскиBulgarian
עבריתHebrew
NorskNorwegian
HrvatskiCroatian
CatalàCatalan
SlovenčinaSlovak
LietuviųLithuanian
SlovenščinaSlovenian
СрпскиSerbian
EestiEstonian
LatviešuLatvian
فارسیPersian
മലയാളംMalayalam
தமிழ்Tamil
اردوUrdu
Buscando...
SoBrief
Código roto

Código roto

Título original: Broken Code
La hija de un ingeniero de Facebook denuncia acoso, y la plataforma descarta silenciosamente su queja.
por Jeff Horwitz 2023 528 páginas
3.88
500+ valoraciones
Escuchar
Inmersivo
V2.3
Amazon Kindle Audible
Prueba el acceso completo por 3 días
¡Desbloquea la escucha y mucho más!
Continuar

Ideas clave

Juzgue una plataforma por lo que amplifica, no solo por lo que elimina.

El feed es una elección. El debate público sobre Facebook solía centrarse en si debían eliminarse determinadas publicaciones. Pero los sistemas de clasificación de la plataforma decidían qué publicaciones tenían más probabilidades de ver miles de millones de personas. El argumento central del libro es que la amplificación puede moldear la vida pública con tanta fuerza como la eliminación: una publicación no tiene que infringir una norma para alcanzar una audiencia enorme, y una publicación dañina puede difundirse ampliamente sin dejar de ser técnicamente admisible.

Un sistema de denuncias muestra la diferencia. El exingeniero Arturo Bejar descubrió que Facebook había sustituido un método cuidadosamente diseñado para que los usuarios denunciaran malas experiencias por un proceso confuso que podía descartar denuncias sin avisar. Su hija había sufrido acoso sexual en Instagram, pero la plataforma no lo consideró una infracción. El problema no eran solo las decisiones individuales de moderación. Era un producto diseñado para escuchar algunas señales e ignorar otras.

Análisis

Lo sorprendente es cómo esto desplaza la cuestión del control del discurso a la infraestructura. Una plataforma puede dejar técnicamente disponibles todas las publicaciones y, aun así, decidir qué voces reciben un megáfono. La distinción se parece a la que hay entre una biblioteca que tiene un libro y una emisora que lo programa en horario de máxima audiencia. Ambas implican acceso, pero solo una concentra activamente la atención. Este planteamiento también evita una respuesta fácil: la amplificación no es intrínsecamente mala, y la clasificación puede ayudar a la gente a encontrar material útil. La pregunta más difícil es qué criterios deberían regir un sistema que distribuye la atención a escala industrial.

Las métricas de interacción pueden convertir un objetivo de producto en un riesgo social.

La métrica cambió el feed. En 2018, Facebook anunció que daría prioridad a las Interacciones sociales significativas, una puntuación basada en acciones medibles como los comentarios, las veces que se comparte una publicación y las reacciones. El objetivo sonaba humanitario: fomentar la conexión en lugar del desplazamiento pasivo por la pantalla. En la práctica, el sistema premiaba las interacciones sin juzgar su tono. Una reacción de enojo contaba como interacción, igual que una de apoyo.

La indignación se difundía bien. Las propias investigaciones de Facebook descubrieron que las reacciones negativas ayudaban a difundir las publicaciones. Estrategas políticos de Polonia y España dijeron a los investigadores que se inclinaban cada vez más por los ataques porque las publicaciones agresivas tenían mejores resultados. Un partido informó que había pasado de publicar aproximadamente la mitad de mensajes positivos a cuatro quintas partes de mensajes negativos. Facebook dijo que el cambio redujo el uso diario en 50 millones de horas, pero ese sacrificio no demostraba que la medida hubiera mejorado la experiencia de los usuarios.

Análisis

Este es un ejemplo vívido de la ley de Goodhart: cuando una medida se convierte en un objetivo, la gente se adapta a la medida en lugar de perseguir el propósito subyacente. Los comentarios pueden indicar conexión, pero también expresar furia, burla o conflicto. La distinción importa porque la métrica de una plataforma no se limita a describir el comportamiento. Cambia los incentivos que lo moldean. Conviene reconocer que ninguna puntuación única de clasificación puede captar el significado de todas las interacciones. El fallo consistió en tratar una señal fácil de contar como si representara de manera fiable un bien humano difícil de medir.

Diseñe para quienes actúan de mala fe, no solo para los usuarios corrientes.

Quienes actúan de mala fe aprenden las reglas. Los sistemas de Facebook estaban diseñados en torno a patrones de uso corriente, mientras que los oportunistas aprendían qué señales les daban más alcance. El ex científico de datos Jeff Allen llamó a una táctica «viralidad fabricada»: tomar material popular de una comunidad existente, volver a publicarlo desde una página grande y dejar que las propias recomendaciones de la plataforma lo distribuyeran. El periodismo original solía ser más arriesgado y lento que reciclar una publicación que ya había demostrado su popularidad.

La escala era llamativa. En una revisión, 33.000 páginas —alrededor del 0,175 % del total— representaban una cuarta parte de las visualizaciones de páginas, aunque generaban solo el 0,14 % de los ingresos de Facebook. Una muestra aparte reveló que el 40 % de los grandes editores recurría a material robado, recopilado o alterado mínimamente. La lección no era que toda republicación fuera malintencionada. Era que un éxito predecible y de poco esfuerzo puede revelar los incentivos explotables de un sistema.

Análisis

La ingeniería de seguridad parte de la premisa de que habrá personas que pongan a prueba los sistemas sin compartir las intenciones de quienes los diseñaron. Las plataformas sociales necesitan la misma mentalidad adversarial. Si la difusión se obtiene copiando una y otra vez, la plataforma debería preguntarse si está premiando la selección de contenidos, el spam o ambas cosas. El desafío es que copiar y remezclar también son prácticas culturales corrientes, por lo que unas reglas demasiado tajantes pueden castigar a creadores legítimos. Las mejores defensas examinan patrones de comportamiento, propiedad y distribución, en vez de tratar una republicación aislada como prueba de abuso.

Otorgue capacidad de decisión a los equipos de integridad, no solo mejores paneles de control.

Las pruebas carecían de autoridad. Facebook contrató a investigadores e ingenieros para estudiar la desinformación, la polarización y otros daños. Sus hallazgos a menudo daban lugar a propuestas de mejora, pero estas podían debilitarse o bloquearse cuando amenazaban el crecimiento o las relaciones políticas. La propuesta de Difusión moderada (Sparing Sharing) de Carlos Gomez-Uribe pretendía reducir la influencia de cuentas hiperactivas que impulsaban las recomendaciones de forma desproporcionada. Mark Zuckerberg aprobó una versión que aplicaba apenas una quinta parte del cambio de ponderación previsto.

Los incentivos siguieron intactos. La empresa trataba el número de usuarios diarios como una medida casi sagrada, mientras que se esperaba que los equipos de integridad repararan los daños sin modificar sustancialmente la maquinaria de crecimiento que contribuía a producirlos. El personal de Políticas Públicas también revisaba las decisiones sobre productos por sus posibles riesgos políticos, y a veces tenía la última palabra. El resultado fue un patrón recurrente: la empresa podía documentar un problema y debatir soluciones, pero aun así dejar prácticamente intactos los incentivos centrales.

Análisis

La lección organizativa es más contundente que la simple afirmación de que los directivos ignoraban a los expertos. Se puede escuchar, financiar y elogiar a los investigadores y, aun así, impedirles alterar las decisiones importantes. En términos de gobernanza, tener voz sin autoridad no es rendición de cuentas. Separar las decisiones de seguridad de los intereses de presión política podría reducir los conflictos, aunque no eliminaría las decisiones difíciles ni garantizaría políticas acertadas. La prueba crucial es si los equipos responsables de los daños pueden detener un lanzamiento, cambiar un objetivo de clasificación o exigir pruebas antes de que se implementen cambios orientados al crecimiento.

Frene los mecanismos virales antes de que estalle la crisis; los filtros de contenido no pueden seguirles el ritmo.

La fricción puede impedir la difusión. Las medidas de emergencia del Protocolo de emergencia (Break the Glass) de Facebook cambiaron la forma en que la plataforma distribuía contenido durante períodos de alto riesgo. En Myanmar, limitar las veces que se compartían publicaciones redujo en un 25 % las publicaciones incendiarias virales y en un 49 % las fotos virales de bulos. El cambio no redujo las sesiones de los usuarios, aunque disminuyó alrededor de un 2 % las Interacciones sociales significativas. Facebook tenía previsto poner fin a la intervención después de las elecciones.

El freno de emergencia llegó tarde. Antes de las elecciones estadounidenses de 2020, la empresa aplicó algunas medidas para limitar el crecimiento de los grupos y la interacción con contenido de odio. Después de las elecciones, revirtió muchas de ellas. Cuando los grupos de Stop the Steal crecieron de forma explosiva y se desató la crisis del 6 de enero, Facebook restableció las restricciones de emergencia, pero solo después de que el movimiento hubiera crecido. Las pruebas que presenta el libro sugieren que frenar el reenvío y las recomendaciones puede reducir el alcance sin depender por completo de una moderación de publicaciones individuales, que es imperfecta.

Análisis

Esto se parece a la ingeniería de seguridad en ámbitos donde prevenir un peligro resulta más fiable que detectar todos los fallos una vez que empiezan. Frenar un canal de distribución puede ser menos intrusivo que eliminar expresiones individuales y quizá proteja el debate legítimo para que no quede ahogado por oleadas coordinadas. Sin embargo, los controles de emergencia plantean preguntas auténticas: quién declara una crisis, cuánto duran las restricciones y si los usuarios pueden impugnarlas. El ejemplo de Myanmar también muestra que un coste modesto en interacciones puede coexistir con una reducción considerable de la difusión dañina.

Una aplicación traducida no es una plataforma gobernada localmente.

El idioma es parte de la seguridad. Facebook se expandió rápidamente por distintos países sin acompañar ese crecimiento con suficientes moderadores, investigadores ni sistemas de detección específicos para cada idioma. Las herramientas automatizadas capaces de identificar ciertos contenidos visuales no podían adaptarse fácilmente al discurso de odio o la incitación arraigados en culturas específicas. En Myanmar, se esperaba que una de las primeras personas encargadas de revisar contenido en birmano cubriera un país de más de 50 millones de habitantes, mientras los usuarios se encontraban con propaganda contra los rohingya y llamamientos a la violencia.

Los puntos ciegos tuvieron consecuencias. Durante un período de tensión militar, a una cuenta de prueba en India se le recomendaron rápidamente contenidos nacionalistas, imágenes gráficas e historias falsas. Facebook tampoco abordó de forma sistemática la trata de personas en Instagram hasta que Apple amenazó con retirar sus aplicaciones. Las respuestas más contundentes de la empresa solían llegar tras la presión pública o comercial, incluso cuando los empleados locales y los defensores de derechos ya podían ver el daño humano.

Análisis

Un servicio puede estar disponible en todo el mundo y, sin embargo, ofrecer protección efectiva solo a nivel local en mercados ricos y bien dotados de recursos. Es un problema de diseño y gobernanza, no solo de traducción: el idioma, el contexto político y las estructuras de poder locales determinan qué se considera una amenaza. Los sistemas automatizados pueden ayudar, pero no sustituir el conocimiento contextual. Al mismo tiempo, la aplicación de las normas a nivel local entraña sus propios riesgos, entre ellos la presión gubernamental y la incoherencia de los criterios. La equidad exige tanto capacidad local como salvaguardias contra la captura política.

Cuente lo que experimentan los usuarios, incluidos los daños que sus reglas no reconocen.

Las infracciones de las normas no lo son todo. Los investigadores internos de Instagram descubrieron que la aplicación podía agravar las preocupaciones sobre la imagen corporal de algunas adolescentes, sobre todo de quienes ya estaban descontentas con su aspecto o su posición social. En una encuesta, el 40 % de las usuarias que se sentían poco atractivas atribuyeron ese sentimiento a Instagram. Las comparaciones visuales de la plataforma podían hacer daño sin que ninguna publicación infringiera las normas.

Bejar midió la señal que faltaba. Su Encuesta sobre experiencias emocionales negativas preguntaba a los usuarios por experiencias perjudiciales, no solo por contenido denunciable. En una presentación, el 51 % de los usuarios de Instagram dijo haber tenido una experiencia mala o perjudicial durante la semana anterior; sin embargo, solo el 1 % denunció el contenido, y la empresa actuó únicamente sobre una pequeña parte de esas denuncias. Entre los usuarios de 13 a 15 años, el 24 % dijo recibir semanalmente insinuaciones no deseadas.

Análisis

Esta distinción recuerda a los resultados de salud informados por los pacientes en medicina: las mediciones de laboratorio importan, pero no sustituyen el testimonio de la persona sobre el dolor, su capacidad funcional o su calidad de vida. Se puede aplicar correctamente el reglamento de una plataforma y, aun así, la experiencia puede seguir siendo insegura o degradante. Las encuestas a usuarios también tienen limitaciones, como los errores de memoria y la dificultad para establecer causalidad. Aun así, descartar el daño subjetivo porque resulta difícil de medir crea un punto ciego sistemático. Lo más útil es combinar denuncias, encuestas, pruebas conductuales y evaluaciones cuidadosas.

Las excepciones para personas importantes convierten las reglas neutrales en protección del poder.

El estatus elevado alteraba la aplicación de las normas. El sistema XCheck de Facebook enviaba algunas cuentas destacadas a una revisión adicional antes de que se aplicaran las sanciones ordinarias. Esa revisión puede evitar errores costosos que afecten a figuras públicas, pero el sistema se amplió hasta abarcar millones de cuentas, carecía de supervisión sistemática y, en ocasiones, retrasaba la actuación ante infracciones graves. Las revisiones internas descubrieron que se había protegido a cuentas abusivas y a infractores persistentes.

Las consecuencias fueron concretas. Neymar, estrella brasileña del fútbol, publicó imágenes íntimas de una mujer que lo había acusado de violación. Como su cuenta recibía un trato especial, las imágenes permanecieron publicadas durante más de un día y llegaron a 56 millones de usuarios. Los propios procedimientos de Facebook exigían retirarlas, pero la empresa mantuvo activas sus cuentas. El sistema mostró cómo el temor a la reacción de usuarios poderosos podía hacer que, en la práctica, unas reglas supuestamente universales se aplicaran de forma desigual.

Análisis

Una revisión adicional en casos de gran repercusión puede ser defendible: los errores que afectan a dirigentes electos o activistas de derechos humanos pueden tener consecuencias excepcionalmente graves. El peligro es que la revisión se convierta en inmunidad. Las garantías procesales necesitan criterios transparentes, equipos suficientes, plazos y auditorías independientes; de lo contrario, se transforman silenciosamente en privilegios. Este episodio también ilustra una asimetría institucional más amplia: las organizaciones suelen temer más los errores visibles contra las élites que los daños difusos sufridos por los usuarios corrientes. Tratar a todos por igual exige más que publicar una misma regla para todos.

Trate la investigación interna como supervisión, no como un riesgo que haya que ocultar.

Personas de dentro documentaron los riesgos. Frances Haugen se incorporó a Facebook con la esperanza de ayudar a combatir la desinformación y proteger la democracia. Ella y otros empleados encontraron pruebas internas de daños causados por los productos, propusieron cambios y observaron repetidas veces cómo las iniciativas se estancaban. Finalmente, Haugen entregó a periodistas miles de documentos, entre ellos investigaciones sobre la salud mental de los adolescentes y debates internos sobre clasificación e integridad. Sus revelaciones contribuyeron a hacer visible la brecha entre lo que la empresa sabía y lo que comunicaba al público.

La respuesta redujo el escrutinio. Después de que los documentos se hicieran públicos, Facebook restringió el acceso a la investigación interna y publicó directrices que instaban a los investigadores a limitar sus audiencias, matizar sus conclusiones y evitar vincular la actividad en la plataforma con daños fuera de ella. La empresa afirmó que seguía valorando la investigación. Pero los nuevos controles dificultaban que los empleados pusieran a prueba, compartieran y cuestionaran los supuestos que daban forma a productos utilizados por miles de millones de personas.

Análisis

La investigación interna es un mecanismo de rendición de cuentas solo cuando sus hallazgos pueden llegar a quienes toman las decisiones y resistir el desacuerdo. La seguridad psicológica, unas normas claras para conservar documentos y la revisión independiente ayudan a las organizaciones a aprender de las malas noticias en vez de tratarlas como una muestra de deslealtad. Al mismo tiempo, las filtraciones pueden exponer a empleados y comunidades vulnerables, por lo que la transparencia necesita protecciones de privacidad y una cuidadosa supresión de datos. El objetivo no es divulgar al máximo todas las notas de trabajo. Es crear un sistema donde se puedan examinar los hallazgos incómodos sin depender del enorme riesgo personal que asume una sola persona.

Las medidas de seguridad pueden mejorar la interacción una vez que pasan sus costes a corto plazo.

La supuesta disyuntiva era incompleta. Los equipos de Facebook solían considerar que los cambios de integridad perjudicaban el crecimiento porque los primeros experimentos mostraban menos interacciones o visitas. Un estudio interno posterior hizo un seguimiento de los efectos acumulados de las intervenciones de integridad y los comparó con un grupo de referencia. Descubrió que el uso disminuía inicialmente, pero que la diferencia se desvanecía al cabo de unos seis meses. Después de aproximadamente un año, las intervenciones se asociaban con un aumento modesto, pero estadísticamente significativo, del uso, sobre todo entre usuarios más jóvenes y menos frecuentes.

El hallazgo cuestionó la ortodoxia de la empresa. Otro análisis interno calculó que las medidas de integridad aumentaban un 0,9 % el uso diario entre los usuarios nuevos. Estos hallazgos no demuestran que todas las medidas de seguridad vayan a compensar sus costes, pero cuestionan la suposición de que reforzar la integridad necesariamente perjudica al negocio. Facebook retrasó la difusión más amplia de la investigación porque sus implicaciones resultaban incómodas.

Análisis

El horizonte temporal es fundamental. Un experimento breve puede captar la alteración que provoca un cambio en el producto y pasar por alto si la gente vuelve, confía más en el servicio o invita a otras personas. Es un problema conocido en la salud pública y las infraestructuras: los costes de la prevención aparecen de inmediato, mientras que los daños evitados y los beneficios duraderos tardan en manifestarse. No hay que exagerar las pruebas y presentarlas como demostración de que toda intervención de moderación impulsa el crecimiento. Sí muestran que las empresas necesitan pruebas a largo plazo y medidas de bienestar de los usuarios antes de declarar que la seguridad y la interacción son objetivos opuestos.

Análisis

Código roto es un reportaje de investigación estructurado como una revelación gradual. Comienza con Arturo Bejar, un ingeniero que antes creía que Facebook podía mejorar la interacción social y que descubre que el sistema de comentarios que había diseñado se ha convertido en una barrera. La narración se amplía para abarcar a investigadores, responsables de producto, lobistas y a la denunciante Frances Haugen; luego vuelve a las consecuencias de las decisiones de diseño durante las elecciones, la violencia política y el uso entre adolescentes. Ese recorrido concreta la afirmación más importante del libro: los daños de la plataforma no eran simplemente un conjunto de publicaciones nocivas. Surgían de los sistemas de recomendación, los incentivos del producto, la falta de personal dedicado a la seguridad y las decisiones sobre qué quejas merecían atención.

El libro es más sólido cuando vincula mecanismos concretos con los incentivos de la organización. Una métrica que premia los comentarios, un sistema de recomendación que interpreta los intercambios repetidos como interés y una cultura empresarial que prioriza a los usuarios diarios pueden combinarse para amplificar material que ningún directivo se propuso promover explícitamente. Esta explicación es más útil que el determinismo tecnológico o que la afirmación de que una plataforma es neutral. El diseño no determina todos los resultados, pero sí modifica qué comportamientos se vuelven eficientes y visibles.

También conviene tener presentes los límites de las pruebas. Los documentos internos revelan lo que los empleados medían y temían, pero algunos estudios son correlacionales y resulta difícil aislar los efectos causales a escala de una plataforma. La empresa cuestiona aspectos del reportaje, y el archivo de la denunciante es un registro selectivo, no una historia institucional completa. Esas cautelas no borran el patrón reiterado: riesgos documentados, intervenciones propuestas y una puesta en práctica desigual. Sí aconsejan no afirmar que Facebook por sí solo causó elecciones, polarización o violencia.

La contribución más amplia es plantear una cuestión de gobernanza. Cuando una plataforma privada se convierte en un canal importante de noticias, contacto social y organización política, sus decisiones de clasificación operan como infraestructura pública, aunque siga respondiendo ante la dirección de una empresa. La solución más duradera no es un clasificador perfecto. Es una gobernanza que permita a la supervisión independiente acceder a las pruebas, otorgue a los equipos de seguridad autoridad para cambiar los mecanismos y evalúe los resultados a lo largo del tiempo, en vez de medirlos únicamente por la interacción inmediata.

Resumen en 30 segundos
La clasificación basada en la interacción puede premiar la indignación y el material reciclado, aunque ninguno de los dos infrinja las normas. En Myanmar, limitar los reenvíos redujo un 25 % las publicaciones incendiarias virales y un 49 % las fotos engañosas, sin disminuir el tiempo de sesión. Una investigación interna reveló que el 51 % de los usuarios de Instagram había tenido una experiencia dañina en una semana, mientras que solo el 1 % denunció el contenido. Las medidas de seguridad necesitan autoridad, experiencia local y supervisión independiente, no solo mejores sistemas de detección.
Contiene spoilers

Última actualización:

Reportar problema

Resumen de reseñas

3.88 de 5
Promedio de 500+ valoraciones de Goodreads y Amazon.

Código roto, de Jeff Horwitz, ofrece una mirada detallada al funcionamiento interno de Facebook y revela cómo la empresa priorizó el crecimiento y la interacción por encima de la seguridad de los usuarios y la integridad del contenido. Los lectores consideraron que el libro era informativo, revelador e inquietante, y elogiaron la minuciosidad de los reportajes de Horwitz y sus explicaciones claras de cuestiones complejas. A muchos les inquietaron las repetidas decisiones de Facebook de ignorar las consecuencias dañinas de su plataforma. Aunque a algunos la escritura les pareció a veces árida, la mayoría lo consideró una lectura esencial para entender el impacto de las redes sociales en la sociedad y la política.

Tu valoración:
4.4
211 valoraciones
¿Quieres leer el libro completo?

Glosario

Interacciones sociales significativas

Interacción social ponderada

Un objetivo de clasificación de Facebook introducido para favorecer las interacciones que se consideraba que acercaban a las personas. El sistema asignaba más peso a acciones como comentar y compartir de nuevo que a los «me gusta», pero no distinguía los intercambios de apoyo de los hostiles. Por tanto, la métrica trataba la interacción cuantificable como un indicador del valor social, incluso cuando el contenido resultante fomentaba el conflicto.

Difusión moderada (Sparing Sharing)

Limita la influencia de los usuarios hiperactivos

Una intervención en la sección de noticias de Facebook concebida para reducir el efecto desproporcionado de las cuentas muy activas en las recomendaciones de contenido. Su premisa era que un grupo pequeño de usuarios generaba una proporción excesiva de la interacción, incluida la interacción con la desinformación y el material extremo. La intervención atenuaba la difusión del contenido favorecido por estos usuarios, pero la dirección aprobó una versión sustancialmente debilitada.

Protocolo de emergencia (Break the Glass)

Medidas de protección de emergencia de la plataforma

Un conjunto de intervenciones planificadas de antemano que Facebook podía activar en periodos de mayor riesgo, como elecciones o amenazas de violencia. Las medidas incluían sanciones más estrictas en la clasificación, límites a los reenvíos o al crecimiento de grupos, y la desactivación de funciones con problemas de integridad conocidos. Estas acciones podían cambiar rápidamente los mecanismos de la plataforma, a menudo reduciendo la viralidad en lugar de esperar a que los sistemas automatizados identificaran cada publicación dañina.

XCheck

Revisión adicional para cuentas destacadas

El sistema de verificación cruzada de Facebook derivaba parte del contenido de personas y páginas destacadas a una revisión adicional antes de aplicar medidas. El objetivo declarado era evitar errores con cuentas de gran repercusión. En la práctica, el sistema creció de forma desigual, llegó a millones de cuentas y, en ocasiones, retrasó o impidió consecuencias para usuarios que habían infringido las normas de la plataforma.

CORGI

Detecta comportamientos coordinados entre cuentas

Una herramienta interna de Facebook para identificar cuentas que parecían actuar de manera coordinada o bajo un control central. Buscaba señales como una actividad inusualmente similar, la creación sincronizada de cuentas, rastros técnicos compartidos y formulaciones repetidas. El sistema ayudaba a detectar comportamientos inauténticos coordinados y se consideró utilizarlo tanto contra operaciones de influencia extranjera como contra redes nacionales.

Corredor de información (Information Corridor)

Vías por las que circulan narrativas dañinas

Un modelo para rastrear cómo se desplazan los mensajes entre usuarios, cuentas y funciones de Facebook conectados. El análisis de los partidarios de Stop the Steal agrupó a los participantes según funciones como iniciadores, amplificadores y personas que conectaban distintas comunidades. El enfoque se centraba en interrumpir las rutas por las que se difundían los mensajes de un movimiento, no solo en eliminar publicaciones individuales después de que hubieran circulado.

Encuesta sobre experiencias emocionales negativas

Encuesta sobre experiencias dañinas de los usuarios

Un método de encuesta desarrollado por Arturo Bejar para registrar las experiencias desagradables de los usuarios en Instagram, incluidos el acoso y la exposición a material angustiante. Su objetivo era medir aquello que los sistemas habituales de denuncia no detectaban, porque muchas experiencias perturbadoras no infringían claramente las normas formales. Los resultados podían ayudar a la empresa a comprender la experiencia vivida por los usuarios, en vez de depender únicamente de las eliminaciones y las métricas de interacción.

FB Learner

Plantilla para desarrollar aprendizaje automático

Un sistema interno de Facebook que organizaba métodos de aprendizaje automático en plantillas que los ingenieros podían utilizar sin ser especialistas en el campo. Ayudaba a los equipos a realizar experimentos y desarrollar funciones basadas en IA con mayor rapidez. La herramienta aceleró la expansión del aprendizaje automático en distintos productos, incluidas las recomendaciones de contenido y la moderación, a la vez que facilitaba que los equipos implementaran modelos cuyo funcionamiento quizá no comprendieran del todo.

Preguntas frecuentes

¿De qué trata Broken Code: Inside Facebook and the Fight to Expose Its Harmful Secrets?

  • El impacto de Facebook: El libro explora la influencia de Facebook en el discurso político, la salud mental y las interacciones sociales, y revela las consecuencias de sus algoritmos para la sociedad.
  • Revelación de prácticas dañinas: Expone las dificultades de Facebook para afrontar la desinformación, los discursos de odio y la manipulación del sistema, y destaca la tensión entre crecimiento e integridad.
  • Historias personales y testimonios de una denunciante: Jeff Horwitz comparte testimonios de antiguos empleados y de Frances Haugen, quien denunció irregularidades, y ofrece una perspectiva humana de la cultura interna de Facebook y sus dilemas éticos.

¿Por qué debería leer Código roto, de Jeff Horwitz?

  • Comprender el papel de las redes sociales: El libro es fundamental para entender los profundos efectos de las redes sociales en la democracia y el discurso público, en especial a través de plataformas como Facebook.
  • Perspectiva sobre la ética empresarial: Profundiza en los desafíos éticos que afrontan las empresas tecnológicas e invita a reflexionar sobre las responsabilidades de las plataformas de redes sociales.
  • Narración cautivadora: Horwitz combina el periodismo de investigación con la narración, y vuelve accesibles y atractivas cuestiones complejas mediante historias personales de empleados.

¿Cuáles son las principales conclusiones de Código roto?

  • Crecimiento frente a integridad: El libro destaca el conflicto entre los objetivos de crecimiento de Facebook y la integridad ética, y muestra cómo las decisiones orientadas a la interacción suelen comprometer la seguridad de los usuarios.
  • Influencia algorítmica: Explica cómo los algoritmos de Facebook priorizan el contenido sensacionalista, lo que contribuye a la polarización y a la desinformación, y reclama una moderación responsable del contenido.
  • Llamamiento a la rendición de cuentas: La narración subraya la necesidad de que las empresas tecnológicas rindan cuentas por su impacto social y aboga por la transparencia y el desarrollo ético de la tecnología.

¿Cómo aborda Código roto la desinformación en Facebook?

  • La desinformación como tema central: El libro detalla cómo se difundió la desinformación en Facebook, especialmente durante las elecciones, y cómo la plataforma no logró gestionarla eficazmente.
  • Desafíos algorítmicos: Horwitz explica que los algoritmos de Facebook favorecían el contenido sensacionalista, contribuyendo a la viralidad de la desinformación y poniendo de relieve la necesidad de reevaluar cómo se prioriza el contenido.
  • Esfuerzos para combatir la desinformación: El libro critica las iniciativas de Facebook contra la desinformación por ser a menudo demasiado lentas e insuficientes, y subraya la necesidad de medidas más sólidas.

¿Qué papel desempeñan los antiguos empleados y Frances Haugen en Código roto?

  • Testimonios personales y perspectivas de una denunciante: Los antiguos empleados y Frances Haugen, quien denunció irregularidades, aportan información de primera mano sobre la cultura y los procesos de toma de decisiones de Facebook.
  • Crítica de las prácticas empresariales: Ofrecen perspectivas críticas sobre las prácticas de Facebook, en particular en cuanto a la seguridad de los usuarios y la moderación del contenido, y destacan los conflictos internos.
  • Una narración más humana: Sus historias hacen que estos problemas resulten más cercanos, subrayan las consecuencias reales de las decisiones empresariales y muestran la necesidad de transparencia.

¿Cómo explora Código roto el concepto de «viralidad»?

  • La viralidad, un arma de doble filo: El libro analiza cómo el diseño de Facebook fomenta la viralidad, a menudo a expensas de la calidad del contenido, lo que amplifica información dañina o engañosa.
  • Impacto en el comportamiento de los usuarios: Explica que la búsqueda de viralidad influye en las interacciones de los usuarios y prioriza el sensacionalismo por encima de la exactitud, con efectos en el discurso público y las normas sociales.
  • La necesidad de un diseño responsable: La narración reclama una reevaluación de los incentivos a la viralidad y aboga por equilibrar la interacción con la promoción de contenido exacto.

¿Qué dilemas éticos destaca Código roto?

  • Equilibrar el crecimiento y la responsabilidad: El libro ilustra la tensión entre los objetivos de crecimiento de Facebook y sus responsabilidades éticas, y cuestiona las consecuencias de priorizar los beneficios por encima de la seguridad.
  • Manipulación de los algoritmos: Explica cómo actores malintencionados pueden aprovecharse de los algoritmos para difundir desinformación y discursos de odio, lo que plantea importantes desafíos éticos.
  • Responsabilidad empresarial: La narración subraya que las empresas tecnológicas deben rendir cuentas por su impacto social y aboga por la transparencia y el desarrollo ético de la tecnología.

¿Cómo retrata Código roto la cultura interna de Facebook?

  • La filosofía de «presuponer buenas intenciones»: El libro describe una cultura de confianza entre los empleados, criticada por ser demasiado simplista ante desafíos complejos.
  • Presión para crecer: Destaca la intensa presión sobre los empleados para priorizar las métricas de crecimiento, a menudo a expensas de las consideraciones éticas.
  • Resistencia al cambio: La narración revela la reticencia de la empresa a abordar problemas sistémicos, lo que obstaculiza el avance hacia prácticas éticas.

¿Qué soluciones propone Código roto para los desafíos de Facebook?

  • Reevaluar los algoritmos: El libro aboga por priorizar la calidad por encima de la interacción en los algoritmos para mitigar la desinformación y promover un discurso más saludable.
  • Más transparencia: Horwitz reclama mayor transparencia en las operaciones de Facebook, especialmente en la moderación del contenido y la toma de decisiones algorítmicas.
  • Medidas de rendición de cuentas: Subraya la importancia de exigir a las empresas tecnológicas que rindan cuentas por su impacto social y de fomentar prácticas responsables.

¿Cómo aborda Código roto las consecuencias de las redes sociales para la salud mental?

  • Atención a la salud mental de los adolescentes: El libro destaca los efectos negativos de Instagram en las adolescentes y subraya la necesidad de que las plataformas aborden estos problemas.
  • Resultados de investigaciones internas: Revela estudios de Facebook que indican que el diseño de las redes sociales agrava la sensación de insuficiencia entre los usuarios.
  • Llamamiento a un diseño responsable: La narración aboga por rediseñar las plataformas de redes sociales para priorizar el bienestar de los usuarios y mitigar los efectos dañinos.

¿Qué importancia tiene el programa XCheck mencionado en Código roto?

  • Trato preferencial para las figuras prominentes: El programa XCheck permitía a usuarios de alto perfil eludir las normas habituales de moderación de contenido, creando un sistema de dos niveles.
  • Reconocimiento interno de sus deficiencias: El libro revela que revisiones internas concluyeron que XCheck traicionaba el compromiso de Facebook con la equidad.
  • Impacto en la confianza pública: XCheck alimenta el escepticismo sobre el compromiso de Facebook con la seguridad y la igualdad de los usuarios, y suscita dudas sobre la rendición de cuentas.

¿Cómo plantea Código roto que las plataformas de redes sociales pueden mejorar el bienestar de los usuarios?

  • Rediseñar para ofrecer seguridad: El libro aboga por rediseñar las plataformas para priorizar el bienestar de los usuarios por encima de las métricas de interacción y replantearse los algoritmos de contenido dañino.
  • Transparencia y rendición de cuentas: Subraya la necesidad de transparencia en la gestión del contenido y las interacciones de los usuarios, y de exigir a las empresas que rindan cuentas por su impacto.
  • Enfoques centrados en los usuarios: La narración propone adoptar enfoques que tengan en cuenta las consecuencias para la salud mental y trabajar activamente para mitigar las experiencias negativas.

Sobre el autor

Jeff Horwitz es periodista especializado en tecnología para The Wall Street Journal, conocido por sus investigaciones sobre Facebook. En 2021 publicó la serie «Facebook Files», que sacó a la luz documentos internos que revelaban que la empresa conocía los efectos negativos de su plataforma. Los reportajes de Jeff Horwitz se han centrado en la influencia de la industria tecnológica sobre la sociedad, la política y el bienestar de los usuarios. Su trabajo ha sido elogiado por su profundidad y su capacidad para explicar cuestiones tecnológicas complejas a un público general. Su trayectoria en el periodismo de investigación y el acceso a fuentes internas han situado a Horwitz entre las voces destacadas que cuestionan a las empresas de redes sociales y sus prácticas.

Descargar PDF

Para guardar este resumen de Código roto para más tarde, descarga el PDF gratis. Puedes imprimirlo o leerlo sin conexión cuando quieras.
Download PDF

Descargar EPUB

Para leer este resumen de Código roto en tu dispositivo o aplicación de lectura, descarga el EPUB gratis. El formato de libro digital .epub es ideal para leer libros electrónicos en teléfonos, tabletas y lectores electrónicos.
Download EPUB
¿Quieres leer el libro completo?
Seguir
Escuchar
Inicio
Swipe
Biblio
App
Prueba el acceso completo por 3 días
Escucha, guarda y mucho más
Comparar funciones Gratis Pro
📖 Leer resúmenes
Lee resúmenes ilimitados. Los usuarios gratuitos obtienen 3 al mes
🎧 Escuchar resúmenes
Escucha resúmenes ilimitados en 40 idiomas
—
❤️ Marcadores ilimitados
Usuarios gratuitos limitados a 4
—
📜 Historial ilimitado
Usuarios gratuitos limitados a 4
—
📥 Descargas ilimitadas
Usuarios gratuitos limitados a 1
—
Cronología sin riesgo
Hoy: Obtén acceso instantáneo
Escucha resúmenes completos de más de 26.000 libros. ¡Son más de 12.000 horas de audio!
Día 2: Recordatorio de prueba
Te enviaremos una notificación de que tu prueba está por terminar.
Día 3: Tu suscripción comienza
Se te cobrará el 25 nov,
cancela en cualquier momento antes.
Consume 2.8× More Books
2.8× libros más Escucha Lectura
Nuestros usuarios nos adoran
1M+ lectores
Trustpilot Rating
TrustPilot
4.6 Excelente
Este sitio es un antes y un después. He leído resúmenes como nunca antes. Lo recomiendo muchísimo.
— Dave G
Vale cada centavo y cada minuto, y está muy bien hecho. Nunca había visto esta calidad de resúmenes en otros sitios. ¡Muy útil!
— Em
¡Muy recomendado! Servicio fantástico. Perfecto para quienes quieren algo más que una sinopsis, pero no todos los detalles de un audiolibro completo.
— Greg M
Ahorra un 62%
Anual
$119.88 $44.99/año/año
$3.75/mes
Mensual
$9.99/mes
Inicia tu prueba gratuita de 3 días
3 días gratis, luego $44.99/año. Cancela cuando quieras.
Unlock a world of fiction & nonfiction books
Más de 26.000 libros por el precio de 2
Lee cualquier libro en 10 minutos
Descubre libros nuevos como en Tinder
Solicita cualquier libro si no está resumido
Lee más libros que cualquiera que conozcas
La app nº 1 para amantes de los libros
Lifelike & immersive summaries
Garantía de devolución de 30 días
Descarga resúmenes en EPUB o PDF
Cancela en cualquier momento con unos clics

¿Por qué solo un resumen?

Escáner
Busca un código de barras para escanear

⭐
⭐
⭐
Tenemos un regalo especial para ti
Abrir
38% de descuento
DESCUENTO PARA TI
⭐
⭐
⭐
$79.99
$49.99/año
Solo $4.16 al mes
Continuar
Empieza con 2 toques y cancela fácilmente
Configuración
General
Widget
Cargando...