Deberíamos, pero seguimos sin fiarnos de los coches autónomos

Quizá es el momento de liberarnos de los prejuicios sobre las drogas
Quizá es el momento de liberarnos de los prejuicios sobre las drogas

El 7 de mayo de 2016, Joshua Brown, un emprendedor y entusiasta de la tecnología de 40 años de edad, residente enCanton, Ohio (EE.UU.), se encontraba al volante de su sedán Modelo S de Tesla cuando un semirremolque se cruzó en su camino al realizar un giro en la carretera. El Tesla, que tenía activada la prestación de conducción autónoma Autopilot, no detectóel semirremolque blanco contra el fondo del despejado cielo soleado de Florida (EE.UU.). El señor Brown tampoco accionó los frenos manualmente.Su Tesla chocó contra el semirremolque a una velocidad en torno a 118 kilómetros por hora.Brown murió casi al instante.

Más de 30.000 personas mueren cada año en accidentes de tráfico en Estados Unidos.En el 90% de los casos, la culpa es de un error humano.Por tanto, la mayoría de los expertos se muestran de acuerdo en que la tecnología de conducción autónoma reducirá el número de accidentes y muertes. Los coches autónomos,escribe Adrienne LaFrance enThe Atlantic,podrían salvar hasta 1,5 millones de vidas tan sólo en Estados Unidos y casi 50 millones de vidas en el mundodurante los próximos 50 años. Pero según unaencuesta de mayo de 2016 realizada por la Asociación Automovilística Estadounidense, el 75% de los encuestados afirmaron no estar preparados para dejarse llevar por uncocheautónomo.

Conducir es una de las cosas más personales –y peligrosas– que hacemos.Es comprensible que la gente seaescéptica ante la idea de entregar las llaves a un algoritmo sin caray limitarse a disfrutar del viaje. Cuando uno piensa en la palabra “algoritmo”, podría imaginar un ordenador que realiza cálculos de acuerdo a una fórmula o sigue una secuencia de pasos preprogramados. Sin embargo, los algoritmos han avanzado mucho durante la última década: pueden ingerir datos, aprender de ellos y generar versiones más sofisticadas de sí mismos. Hasta pueden conducir un coche.

Dependemos de los algoritmos para muchas de nuestras decisiones y acciones, desde actividades sin apenas riesgo como decidir qué ver en Netflix o comprar en Amazon hasta decisiones importantes como invertir nuestros ahorros.Incluso nos parece bien que sea unpiloto automático el que controle los aviones en que viajamos.Por eso, el escepticismo actual frente a los coches autónomos suscita una pregunta: ¿Por qué confiamos en los algoritmos en algunos casos, pero no en otros?

Nuestra confianza selectiva en los algoritmos

Los humanos no siempre somos reacios a los algoritmos.Una investigación realizada por uno de nosotros (Kartik) sobre los algoritmos de recomendaciones automáticas deproductos -como “La gente que compró X también compró Y” enAmazon-,encontró quea la gente le gustan las recomendaciones algorítmicas y a menudo sigue su consejo. Por ejemplo, en unestudio realizado recientementejunto alprofesor de la Universidad de Carnegie Mellon (EE.UU.), Dokyun Lee, asignamos de manera aleatoria consumidores a uno de los cinco principales minoristas en línea de Canadá y creamos dos grupos: uno recibiría recomendaciones de algoritmos, el otro no. Descubrimos que las recomendaciones con algoritmos aumentaron un25% el número de productos vistos por los consumidores y un 35% el número de productos comprados.

Enotra investigaciónpudimos comprobarque la influencia de los algoritmos de recomendación sobre las decisiones es mayor para productos hedónicos – caracterizados por unconsumo orientado alplacer (como películas, perfume, obras de arte)– que para productos funcionales cuyoconsumo está motivado por una necesidad(como los clips, loslavavajillas y las aspiradoras).

Enotro estudio, encontramos que incluso recomendaciones de producto generadas al azar fueron capaces de impulsar un modesto aumento de las compras cuandose etiquetaron comopersonalizadas. Puede que fuera unefecto placebo. Una encuesta tras el experimentoreveló que la confianza de los consumidores en las recomendaciones aleatorias no era menor que si las ofrecía unmotor de recomendaciones sofisticado y personalizado. Más allá de la compra deproductos, la rápida expansión de”roboconsejeros” comoWealthfrontyBettermentdemuestra que la gente está dispuesta a confiar en un algoritmo para las mismas decisiones importantes de inversión que antes preparaban humanos.

Aun así,existen importantes diferencias entre las recomendaciones de producto, la gestión de inversiones y los coches autónomos.Estas diferencias tienen que ver con el nivel de subjetividad del juicio, los tipos de usuarios a los que se dirigenestos sistemas y la capacidad decontrol del usuario sobre la toma de decisiones. La investigadora de la Universidad de California en Berkeley (EE.UU.) Jennifer Loggdiseñó cuatro estudiospara averiguar por qué a veces desconfiamos de los algoritmos a pesar de nuestradependencia cada vez mayor de ellos. En el primer estudio, los participantes realizaron dos estimaciones del peso de una persona en una foto. La primera estimación se basaba en el juicio del propio participante. Para la segunda, se les proporcionaron consejos a los participantes: a algunos se les dio una estimación de otras personas y a otros se les presentó una estimación generada por un algoritmo. Logg pudo medir el grado en el cual los participantes se fiaron más del algoritmo que de otras personas en función de cómo cambiaron susestimaciones entre la primera y la segunda respuesta.

Para las estimaciones y predicciones que tienen una respuesta correcta verificable –no sólo el peso de una persona, sino también preguntas como qué película tendría más éxito en taquilla o la probabilidad de un acontecimiento global determinado–, Logg averiguó quees más probable que las personas se fíen de los cálculos de un algoritmoque de los de otras personas.En otro estudio de la misma serie –en el que los participantes identificaron qué preguntas confiarían a un algoritmo en vez de a humanos–, Logg demostró que la gente confía más en los consejeros humanos que en los algoritmos para las decisiones más subjetivas. Quela gente confíe más en los algoritmos para decisiones objetivas y menos para decisiones subjetivas no sorprende. Sin embargo, Logg descubrió que la confianza en un algoritmo nodepende solo dela cuestión entre manos, sino también decaracterísticas personales: la gente con una capacidad algebraica mayorconfió más en la estimación del algoritmo que las personas con menos habilidad para las números.

A pesar de que resulta difícil trasladar los resultados de Logg al caso de los coches autónomos, sí que apuntan una hipótesis interesante. ¿Puede ser que las personas se muestren más reacias a la conducción autónoma porque la consideran una experiencia subjetiva y personal? ¿Sería más prudente, en lugar de dirigirse a todo el mercado, promocionar la conducción autónoma antes entre las personasmás familiarizadas con las matemáticas y la ciencia, y por tanto con la tecnología?

Por supuesto,la mayoría de los avances tecnológicos son adoptados primero por la élite científica y tecnológica. Estos usuarios pioneros permiten resolver los defectos y facilitan que el público masivo pueda comprender las nuevas tecnologías.No obstante, la magnitud del avance que suponenlos coches autónomos –un reemplazo total del control humano por una máquina guiada por algoritmos– podría ser especialmentevulnerable frenteobstáculos como el que acecha hoy aTesla.

Considere loshallazgos descritos por nuestros compañerosde la Escuela de Negocios Wharton de la Universidad de Pensilvania (EEUU): Berkeley Dietvorst, Joseph Simmons, yCade Massey. Su trabajo ha demostrado que lagente pierde confianza en los algoritmos mucho más que en loshumanos cuando cometen el mismo error.Además, la gente presenta menos posibilidades de escoger un algoritmo frente a un humano incluso si el algoritmo había rendido mejor que el humano en general. En resumidas cuentas,no perdonamos demasiado los errores cometidos por algoritmos aunque nosotroscometamos los mismoscon mayor frecuencia. Lasimplicaciones que supone sonescalofriantes para los fabricantes y promotores involucrados en la conducción autónoma. La gente podría perder rápidamente la confianza en la tecnología si ocurren suficientes accidentes como el deTesla sin importar que sedemuestreque la tecnología, desde una perspectiva global, resultamás segura. Pocos accidentes mortales podrían poner al público en contra de los coches autónomos con gran rapidez. Los fabricantes deben valorar con cuidado cuándo y cómo introducir prestaciones de conducción autónoma.

Dietvorst, Simmons y Massey sí descubrieron algunas buenas noticias para los algoritmos que se equivocan.En otro estudio, los autores enuncian quelos participantes aceptaban más los errores algorítmicos y optaban por escogerlos frente a un humano si tenían la opción de modificar sus previsiones. Durante la investigación, se pidió a los participantes que predijeran los resultados de un grupo de alumnos en pruebas estandarizadas a partir de nueve puntos de referencia.

Los participantes podían decidir en qué medida dependían de un algoritmo imperfecto.Las personas que podían modificar el algoritmo tenían muchas más probabilidades de depender de él que quienes no tenían esa posibilidad.La implicación para los coches autónomos es esperanzadora.Si las personas tienen la posibilidad de controlar algunos aspectos de la experiencia de conducir–como la velocidad o la ruta–, podría mostrarse másdispuestas a permitir que los coches se encarguen de la conducción. Por el contrario, eliminar por completo de la ecuación las decisiones personales, como Google y muchas automovilísticas piensan hacer, podría ser recibido con escepticismo entre los clientes.

A medida que maduren y se consoliden los avances de inteligencia artificial (IA) yaprendizaje profundo –una rama del aprendizaje de máquinas centrada en recrear el proceso natural de las neuronas cerebrales–,los algoritmos controlarán una parte cada vez mayor de nuestrasvidas. Dicho esto, el escepticismo respecto al vehículo autónomo de Tesla no hace más que demostrar que labuena tecnología no garantiza el éxito de por sí. La IA y los algoritmos inteligentes tienen que introducirsede forma que se ganen laconfianza de sus usuarios humanos.


por
trad. Teresa Woods

Imran Cronk es analista del Sistema Sanitario Monte Sinaí (EEUU) y el cofundador de Ride Health, una ‘start-up’ de fase temprana.

Related Posts