Cómo la obsesión de las redes sociales por la escala sobrealimentó la desinformación

Los modelos de negocios de Facebook y Twitter han llevado al crecimiento astronómico, pero ¿a qué costo?
Resumen.

El ataque al edificio del Capitolio de los Estados Unidos fue la culminación de años de teorías de desinformación y conspiración que habían sido convertidas en armas en las redes sociales. ¿Podría haberse evitado esa militarización? Tal vez. El modelo de negocio dominante de estas plataformas, que hacía hincapié en la escala por encima de otras consideraciones, las hacía particularmente vulnerables a las redes de desinformación y a la reacción violenta relacionada contra esas redes, tanto por la pérdida de soporte de infraestructura, como en el caso de Parler, como por la amenaza de represión regulatoria, como en el caso de Facebook y Twitter. Si bien el modelo de negocio centrado en la escala dio sus frutos a corto y medio plazo, los riesgos ignorados de ese modelo han llevado a estas plataformas al ajuste de cuentas que enfrentan hoy en día.


En los últimos cuatro años, la desinformación se ha convertido en un lema global. Tras la intromisión rusa en las redes sociales durante las elecciones presidenciales estadounidenses de 2016, los expertos expresaron su preocupación de que los medios sociales seguirían siendo convertidos en armas, advertencias que a menudo se descartaban por hiperbólicas.

Pero el asedio del 6 de enero al edificio del Capitolio de los Estados Unidos ilustra cuán poderosa puede ser una conspiración en red cuando se amplifica a través de las redes sociales. El ataque fue la culminación de años de desinformación del presidente Trump, que se intensificó después de que Biden fuera declarado presidente electo, y en gran parte el producto de la incapacidad de las empresas de medios sociales para controlar la militarización de sus productos.

A lo largo de los años, hemos sido testigos de cómo diferentes enfoques de la armamentización han ido tomando forma. Si bien la intromisión rusa ilustró el potencial de que la desinformación bien situada se difundiera en las redes sociales, el evento «Unamos a la derecha» de 2017 en Charlottesville, Va., mostró cómo un grupo de supremacistas blancos podía usar las redes sociales para planificar una manifestación violenta. El asedio del Capitolio tenía elementos de ambos: implicaba un espectro ideológico más amplio que Charlottesville, y los participantes no se habían coordinado simplemente a través de las redes sociales, sino que se habían reunido a través de ellos. Los insurrectos estaban unidos por su apoyo a Donald Trump y su falsa creencia de que le habían robado las elecciones. En la cúspide del momento, Trump redes sociales usadas para enviar un mensaje a la multitud rabiosa en tiempo real desde su teléfono móvil en un lugar seguro.

Esto ha suscitado interrogantes fundamentales sobre el futuro de las plataformas en las que todo esto se desarrolló. Las plataformas convencionales como Facebook y Twitter se ven obligadas a tener en cuenta sus políticas de moderación y enfrentan llamamientos a la regulación. Y la conservadora red social Parler, que se enorgullece de su enfoque minimalista de la moderación de contenidos, ha perdió todo el soporte de infraestructura de Apple, Android y Amazon Web Services sobre publicaciones que incitan a la violencia, incluidas la planificación y la coordinación en torno al ataque al Capitolio. Sin la aceptación de los servicios de infraestructura, puede resultar difícil que las aplicaciones y los sitios web permanezcan en línea.

Pero para saber qué viene después, debemos preguntarnos: ¿Cómo se convirtieron las redes sociales en una máquina de desinformación? ¿Y cómo explican los modelos de negocio de estas empresas tecnológicas cómo sucedió eso?

Todo lo abierto será explotado.

Durante más de una década, el modelo de negocio de los gigantes actuales de las redes sociales, Facebook, YouTube y Twitter, ha sido perseguir la escala. Excelentes ideas, como la plataforma para compartir vídeos Vid, quedaron rezagados en esta búsqueda, mientras que los KPI de los accionistas se vincularon a la ampliación de la base de usuarios. Este enfoque tiene una debilidad significativa: cuando el crecimiento de una plataforma depende de la apertura, es más vulnerable al uso malicioso. Como podemos ver ahora, este modelo de negocio abierto puede dejar a las empresas expuestas de formas que ahora estas empresas se ven obligadas a tener en cuenta.

Ha habido algunas fases críticas que han llevado a este momento. Cada uno, a su manera, ilustró cómo se podía explotar la vulnerabilidad del modelo de negocio abierto y centrado en la escala de las plataformas de redes sociales.

Relativamente pronto, el enfoque en el crecimiento estableció las condiciones para el desarrollo de un industria en la sombra de seguidores falsos y compromiso artificial. Según los expertos, esto era bien conocido, pero las empresas de redes sociales evitó discusiones sobre el abuso de sus productos. Se perdieron miles de millones de dólares publicitarios por impresiones falsas y clics a medida que más y más actores malos aprovechaban la apertura como una oportunidad financiera.

Sin embargo, cuando el marketing online se convirtió en una herramienta política, el campo de los malos actores se expandió enormemente, al igual que el posible daño que podían causar. La conexión entre las redes sociales y los acontecimientos políticos como el Brexit y la victoria de Trump se hizo evidente después de que Carole Cadwalladr rompiera el Cambridge Analytica escándalo. El incidente proporcionó un estudio de caso sobre cómo los datos recopilados de las redes sociales podrían reutilizarse para dirigirse a audiencias específicas con contenido que inflamara las tensiones políticas y fracturara las coaliciones, por no hablar de las noticias basura de las plantas y, en general, hacer reinar el caos y la confusión.

Ese desarrollo coincidió con un ataque similar a la sensibilidad de los usuarios de redes sociales: la creación de fan fiction militar conocido como «QAnon» en 2017. Surgiendo de las cenizas de la conspiración Pizzagate, que afirmaba que Hilary Clinton formaba parte de una red de explotación infantil en D.C., una misteriosa cuenta llamada «Q» comenzó a publicar misivas crípticas en un tablero de mensajes conocido por memes, pornografía de anime y organización supremacista blanca. Aunque de amplio alcance, la narrativa central de QAnon fue que Trump estaba involucrado en secreto en una guerra con el «estado profundo» para arrestar a Clinton y detener a una camarilla demócrata de pedófilos que adoraban a Satanás involucrados en la trata de personas a gran escala. Durante años, a los seguidores de QAnon se les dijo que «confiaran en el plan». (Sí, sé que parece una locura, pero la narrativa se vinculó al ciclo de noticias y cada giro y giro en los medios de comunicación que parecía impedir que Trump llevara a cabo su agenda proporcionó forraje adicional).

Con QAnon, la franja se trasladó a la corriente principal, con hilos de discusión Q apareciendo en Facebook, Reddit y Twitter. El modelo de crecimiento de las plataformas significó que el contenido y los grupos que produjeron un alto nivel de participación recibieron una mayor prioridad en las recomendaciones. En otras palabras, las comunidades de QAnon entregaron el tipo de contenido que las redes sociales premian y se beneficiaron en consecuencia. Algunos eventos específicos, como el arresto de Jeffery Epstein y el tiroteo masivo de Las Vegas, generaron nuevos estallidos de interés en las publicaciones de Q y en el análisis de las mismas. Las redes Q también incorporaron el surgimiento del Covid-19, lanzando un engaño afirmando que la pandemia era un complot demócrata contra Trump y organizaron varias protestas con este fin.

Con retraso, algunas empresas tecnológicas respondieron. Facebook y Twitter tomaron algo de acción a eliminar redes Q en sus productos este verano. Reddit no tenía los mismos problemas porque tomaron medidas pronto para eliminar los foros de Q, y la teoría de la conspiración nunca se afianzó en la plataforma. Pero para cuando Twitter y Facebook tomaron medidas, las comunidades Q ya habían planeado la desplataforma, creando redes redundantes en otras aplicaciones con redes más pequeñas, como Gab y Parler.

Con la elección de Joe Biden en noviembre, los efectos de estas tendencias se hicieron evidentes. El resultado de las elecciones fue discordante para aquellos que estaban saturados por estas teorías conspirativas. La sensación de estar alienado políticamente, aunque también aislado durante una pandemia, había despertado a muchos seguidores de Q hasta el punto de que Trump solo necesitaba encender el partido en las redes sociales para difundir conspiraciones electorales como la pólvora digital.

En todos los casos previos al 6 de enero, el deber moral era reducir la escala y prestar más atención a la calidad del contenido viral. Vimos el costo de no hacerlo.

A dónde vamos desde aquí.

En su libro Medios antisociales, escribe Siva Vaidhyanathan: «Si una empresa de publicidad global aprovecha su amplia gama de expedientes sobre sus dos mil millones de usuarios para limitar la competencia e invitar a las fuerzas antidemocráticas a infestar sus canales de desinformación, los estados democráticos deberían actuar para disolverlos y limitar lo que las empresas pueden aprender y utilizar sobre los ciudadanos». Tras el ataque al Capitolio, estamos viendo un interés creciente en hacer precisamente eso.

A medida que nosotros, como sociedad, consideramos los próximos pasos, debemos tener en cuenta que hacer hincapié en la escala tiene una relación con la seguridad. Además, no actuar sobre la desinformación y la conspiración viral no significa que eventualmente desaparezcan; de hecho, ocurre lo contrario. Debido a que las redes sociales parecen mover la marginalidad hacia la corriente principal, al conectar a personas con intereses similares de lo mundano a lo absolutamente extraño, las empresas tecnológicas deben idear un plan para la curación de contenido y la moderación de la comunidad que refleje una escala más humana.

Las empresas tecnológicas, incluidas las startups que desconfían de los extrascos, y las empresas de riesgo deberían comenzar a elaborar políticas modelo para que las consideren los reguladores, teniendo en cuenta que la apertura y la escala plantean riesgos significativos no solo para las ganancias, sino también para las democracias.


Escrito por
Joan Donovan



Related Posts
Cómo los CMOs crean marcas colaborando en los silos

Cómo los CMOs crean marcas colaborando en los silos

Esta publicación es parte del Centro HBR Insight Haciendo trabajo de colaboración. El desafío para el director de marketing es crear un edificio de marketing y marca que sea excepcional y eficiente frente al país, producto y silos funcionales. Para estudiar ese problema, entrevisté a más de 40 cmóviles y me pregunté por Silo [...]
Leer más
Cómo los CMOs crean marcas colaborando en los silos

Nada me preparó para controlar el sida

El problema con casi todo lo que leí sobre el SIDA o el SIDA en el lugar de trabajo es que está demasiado cortado y seco. Los consejos populares para los gerentes son sorprendentemente inútiles porque siempre parece involucrar opciones que son limpias y fáciles. La confidencialidad, la equidad y el alojamiento se encuentran entre las prácticas gerenciales prescritas, pero estas palabras describen un [...]
Leer más
Cómo los CMOs crean marcas colaborando en los silos

El cuadro de mando equilibrado: medidas que impulsan el rendimiento

Lo que mides es lo que obtienes. Los ejecutivos senior entienden que el sistema de medición de su organización afecta firmemente el comportamiento de los gerentes y los empleados. Los ejecutivos también comprenden que las medidas de contabilidad financiera tradicionales como el retorno-inversión y las ganancias, por acción pueden dar señales engañosas para la mejora continua y las actividades de la innovación, las demandas de entorno competitivo de hoy. Las medidas de desempeño financiero tradicionales funcionaron bien [...]
Leer más
Cómo los CMOs crean marcas colaborando en los silos

Medicina de patentes

Para la mayor parte de dos siglos, el sistema de patentes de los Estados Unidos ha impulsado la extraordinaria innovación de Estados Unidos. Sin embargo, en las últimas dos décadas, sin embargo, el sistema de leyes que durante tanto tiempo alimentó el motor de innovación se ha convertido en arena en sus engranajes. Dos cambios aparentemente mundanos en la ley y la política han transformado el sistema de patentes. ¿Los resultados? [...]
Leer más

Newsletter

Avanza tu carrera profesional, con el resumen semanal de las publicaciones, un libro de negocio resumido en 10 minutos y entrevistas con líderes de negocio