Asegúrese que sus productos no se utilicen con fines discriminatorios

Asegúrese que sus productos no se utilicen con fines discriminatorios

Lecciones de los esfuerzos de Airbnb para combatir el racismo en su plataforma.

Eleva tus habilidades de liderazgo y negocios

Súmate a más de 52,000 líderes en 90 empresas mejorando habilidades de estrategia, gestión y negocios.


por Michael Luca, Elizaveta Pronkina, y Michaelangelo Rossi

La discriminación es un problema tanto social como empresarial. Y la medida en que se permite que la discriminación afecte a una empresa es una decisión que toman los líderes empresariales. Afortunadamente, hay un conjunto de herramientas cada vez mayor para los líderes que quieren crear una empresa y una sociedad más inclusivas. A continuación, los autores exponen cuatro pasos que todo líder debe tomar para lograr este objetivo.

•••

Las crisis suelen llevar a la gente a buscar a «alguien» a quien culpar, y la culpa a menudo recae en los grupos étnicos o religiosos marginados. Los trágicos acontecimientos llevaron a campos de internamiento japoneses durante la Segunda Guerra Mundial y al sentimiento antimusulmán tras el 11 de septiembre,

En el contexto de la Covid-19, nuestras investigaciones en curso han descubierto que el uso de chivos expiatorios y el sentimiento antiasiático durante las primeras etapas de la pandemia causaron daños tanto emocionales como económicos. Si observamos cientos de miles de reservas en Airbnb, descubrimos que hubo un aumento en la discriminación contra los usuarios asiático-estadounidenses de Airbnb a principios de la pandemia.

Los líderes empresariales deben ser conscientes de estos riesgos. También necesitan herramientas para identificar, medir y mitigar los prejuicios, y un enfoque proactivo que anticipe e identifique la discriminación.

En este artículo, ofrecemos un resumen de nuestra investigación, centrándonos en Airbnb como caso práctico. A continuación, proporcionamos un marco para que los líderes ayuden a crear entornos que sean menos susceptibles a los sesgos.

Aumenta la discriminación contra los estadounidenses de origen asiático

Analizamos datos de En AirBnB, un proyecto que proporciona datos y promoción sobre el impacto de Airbnb en las comunidades residenciales. Estudiamos más de 300 000 estancias en Airbnb en 17 000 anfitriones. Usamos algoritmos estadísticos para inferir la raza de los anfitriones en función de sus nombres, un enfoque que le hemos propuesto como parte de un conjunto de herramientas para medir la discriminación en las plataformas y que ahora utilizan empresas como Uber. Combinamos esto con datos detallados sobre las características, los precios y la información de reserva de los anuncios.

Los resultados fueron sorprendentes: identificamos un aumento grande y rápido de la discriminación contra los anfitriones asiático-estadounidenses a lo largo de 2020. Si bien todos los anfitriones se vieron afectados por la pandemia, el impacto en los anfitriones asiático-estadounidenses fue mucho mayor en comparación con los anfitriones blancos, los anfitriones hispanos y los anfitriones negros.

Nuestros resultados sugieren que el aumento de la discriminación provocó que los anfitriones asiático-estadounidenses perdieran alrededor del 12% de sus huéspedes durante la pandemia. Una explicación de este descenso podría ser que los huéspedes asiático-estadounidenses fueron más selectivos por miedo al riesgo de contraer el virus. Sin embargo, nuestros resultados fueron consistentes incluso entre los anfitriones que «reservan al instante», que aceptan automáticamente todas las consultas sobre reservas, lo que sugiere que cualquier caída en las reservas (en relación con otros alojamientos con reserva inmediata) puede atribuirse a las decisiones de los huéspedes.

Descubrimos que la discriminación era generalizada, afectaba tanto a los anfitriones más nuevos como a los más experimentados, y provocó una caída en el negocio incluso para los estadounidenses de origen asiático  anfitriones con buena reputación en la plataforma. Por el contrario, los anfitriones negros o hispanoamericanos no experimentaron ninguna caída significativa en el negocio durante la pandemia, en comparación con los anfitriones blancos. La reducción del número de huéspedes solo es evidente para los anfitriones asiático-estadounidenses, el principal grupo de chivos expiatorios durante la pandemia de Covid-19.

Mucho antes de la pandemia de Covid-19, había pruebas de discriminación en Airbnb. Una investigación de uno de nosotros (Mike, junto con los colaboradores Ben Edelman y Dan Svirsky) documentó la discriminación contra los afroamericanos anfitriones y invitados. Esta investigación comenzó hace más de ocho años e inició una nueva bibliografía que documentaba y proporcionaba herramientas para combatir la discriminación en los mercados en línea.

Los comportamientos discriminatorios se ven facilitados, en parte, por la presencia de información que revela la raza, por lo general nombres o fotos. Airbnb se ha enfrentado recientemente demandas de usuarios que han sufrido discriminación por su nombre, una posibilidad que se ha planteado en nuestras investigaciones anteriores. En términos más generales, en contextos que van desde los mercados en línea hasta los procesos de contratación, eliminar esos marcadores cuando se produce discriminación ha sido una forma de mitigar los prejuicios.

Airbnb ha dado pasos importantes en la dirección correcta. Después de 2015, Airbnb empezó a eliminar las fotos de los anfitriones de las principales páginas de resultados de búsqueda y, en 2018, eliminó la posibilidad de que los anfitriones vieran las fotos de los huéspedes hasta que se tomaran las decisiones de reserva. Sin embargo, las fotos y los nombres de los anfitriones siguen apareciendo en las páginas de anuncios, lo que creemos que provocó el aumento de la discriminación que documentamos en nuestra investigación.

Crear un ecosistema empresarial más inclusivo

Los líderes empresariales deben tomar medidas para garantizar que sus decisiones empresariales y de productos no faciliten la discriminación. Afortunadamente, hay un conjunto de herramientas cada vez mayor para los líderes que quieren crear una empresa y una sociedad más inclusivas. A continuación, presentamos cuatro pasos que todo líder debe tomar para lograr este objetivo.

1. No niegue que se ha producido discriminación (si es que ha ocurrido).

Los líderes deben reconocer que los prejuicios siguen siendo generalizados en la sociedad moderna y que pueden desempeñar un papel a la hora de ayudar a entender y reducir los prejuicios. Esto comienza por pensar en cómo podría manifestarse esto en su organización. ¿Cómo pueden afectar los prejuicios a sus clientes, sus empleados y sus operaciones? ¿Cómo van a exacerbar o mitigar sus decisiones la discriminación?

También es importante entender que los prejuicios evolucionan. En tiempos de crisis, es especialmente importante pensar en los tipos de sesgos que también podrían ir en aumento. Airbnb se sorprendió con nuestros resultados más recientes y se ha comprometido a seguir estudiando el tema. Tras este proyecto, Mike recibió una llamada de un consultor sénior de la empresa preguntándole qué pensabamos que debían hacer. Puede ser difícil anticipar la evolución del panorama de la discriminación. Y hay ejecutivos de Airbnb que parecen realmente interesados en reducir la discriminación en la plataforma. Pero podrían haber identificado este problema antes si hubieran reconocido el aumento del sentimiento antiasiático y cómo esto podría afectar a su plataforma.

2. Mida la discriminación siempre que sea posible.

Puede resultar difícil para las empresas mirarse al espejo y pensar en la discriminación que se produce dentro de sus organizaciones, ya sea en la contratación o en sus plataformas. Sin embargo, este es un paso importante para abordar la discriminación.

En nuestro análisis de Airbnb, medimos la discriminación en la plataforma analizando los nombres de los anfitriones. Otros enfoques incluyen codificar fotos, cosa que Mike hizo en un estudio de 2014realizado con Benjamin Edelman (y de nuevo en un proyecto posterior) y encuestando a los usuarios para entender su origen étnico.

Las empresas también pueden consultar las quejas que reciben. Por ejemplo, tras una investigación anterior, Mike recibió un correo electrónico de un usuario de Airbnb que describía que había sido objeto de discriminación en Airbnb. Su queja fue desestimada por el departamento de atención al cliente de Airbnb. En cambio, deberían haberlo reconocido y haber analizado sistemáticamente si había patrones más amplios de discriminación en las quejas.

3. Haga que su empresa sea lo más a prueba de discriminación posible.

En los últimos años se ha desarrollado un conjunto creciente de herramientas con el objetivo de reducir los prejuicios en diferentes contextos. En algunos casos, esto puede implicar aumentar el anonimato (por ejemplo, en el contexto de Airbnb, implicaría mostrar la identidad de los huéspedes y los anfitriones solo después de que se haya tomado la decisión de reservar), una solución que hemos propuesto y estudiado a lo largo de los años. Esto también puede implicar un uso cuidadoso de la automatización y de las ayudas a la toma de decisiones algorítmicas (hay que hacerlo con cuidado, ya que los algoritmos también tienen el potencial reforzar o exacerbar los sesgos también). Y las empresas pueden pensar en el diseño de sus ecosistemas de manera más amplia y centrarse en el diseño de procesos inclusivos para todo, desde la contratación y los ascensos hasta la experiencia en la plataforma y el diseño de productos

4. Experimente con sus procesos y perfeccione sus procesos.

Es tentador pensar en la discriminación como un problema único que hay que resolver. Sin embargo, abordar estos problemas complejos es un proceso continuo, no un problema que se pueda solucionar de una vez. En este caso, la experimentación puede ayudar a los líderes a desarrollar marcos para reducir la discriminación a lo largo del tiempo y responder a los desafíos actuales.

Las empresas tienen que incluir la posibilidad de discriminación en sus análisis experimentales. Cuando se hagan cambios en los productos, por supuesto, deberían pensar en el efecto no solo en las métricas de productividad a corto plazo (que normalmente se controlan y evalúan), sino también en las métricas de inclusión, y si el cambio aumentó el sesgo. Los líderes pueden pensar en esto como poner barandas.

Además de esto, también deberían utilizar experimentos para poner a prueba diferentes ideas y ver cuáles son las más eficaces a la hora de reducir la discriminación. Aquí, señalamos la de Airbnb experimento en curso en Oregón. Cuando los huéspedes con sede en el estado solicitan reservar una propiedad, el anfitrión solo ve las iniciales del posible huésped, en lugar de su nombre completo. Por ejemplo, una solicitud de reserva de Jamal Smith y una solicitud de reserva de James Smith aparecerían como solicitud de reserva de JS. Este experimento se produjo en respuesta a una demanda en la que tres usuarios acusaron a la plataforma de discriminación.  Si bien el diseño del experimento tiene limitaciones, esto va en la dirección correcta de probar e implementar estrategias sistemáticamente para reducir los sesgos.

Los líderes empresariales no pueden simplemente quedarse al margen cuando se trata de abordar los problemas sociales. Los problemas sociales son asuntos comerciales. Ya sea que se centren en el diseño de una plataforma o en la gestión de los empleados, los líderes deben crear un ecosistema sólido que se anticipe a la posibilidad de discriminación. Si una organización es susceptible a la discriminación antes de una crisis, será más difícil contener la propagación de la discriminación cuando las crisis y las tensiones raciales se produzcan inevitablemente en el mundo. Y, cuando llega una crisis, los líderes tienen que pasar a la acción y responder rápidamente.

•••

Michael Luca es profesor asociado de Administración de Empresas Lee J. Styslinger III en la Escuela de Negocios de Harvard y coautor (con Max H. Bazerman) de The Power of Experiments: Decision Making in a Data-Driven World (de próxima aparición en MIT Press).

Elizaveta Pronkina es investigadora postdoctoral en la Universidad Paris Dauphine.

Michaelangelo Rossi es profesor adjunto en Telecom París.


Eleva tus habilidades de liderazgo y negocios

Súmate a más de 52,000 líderes en 90 empresas mejorando habilidades de estrategia, gestión y negocios.