Resumen:
Durante años, la preocupación pública por el riesgo tecnológico se ha centrado en el uso indebido de datos personales. Sin embargo, a medida que las empresas incorporan cada vez más inteligencia artificial en los productos y procesos, la atención se está centrando en la posibilidad de tomar decisiones malas o sesgadas mediante algoritmos, en particular del tipo complejo y en evolución que diagnostican cánceres, conducen automóviles o aprueban préstamos. Inevitablemente, muchos gobiernos considerarán que la regulación es esencial para proteger a los consumidores de ese riesgo.
En este artículo se explican los movimientos que tienen más probabilidades de hacer los reguladores y los tres desafíos principales que las empresas deben tener en cuenta al adoptar e integrar la IA. El primero es garantizar la equidad. Esto requiere evaluar el impacto de los resultados de la IA en la vida de las personas, si las decisiones son mecánicas o subjetivas, y qué tan equitativa funciona la IA en distintos mercados. El segundo es la transparencia. Es muy probable que los reguladores exijan a las empresas que expliquen cómo toma decisiones el software, pero a menudo no es fácil de desconectar. El tercero es averiguar cómo gestionar algoritmos que aprenden y se adaptan; si bien pueden ser más precisos, también pueden evolucionar de forma peligrosa o discriminatoria.
Aunque la IA ofrece a las empresas un gran valor, también aumenta su riesgo estratégico. Las empresas deben asumir un papel activo en la redacción del libro de reglas de algoritmos.
Idea en resumen
El desafío
A medida que las empresas incorporan cada vez más la inteligencia artificial en sus productos, procesos y toma de decisiones, el enfoque de las discusiones sobre el riesgo digital está cambiando a lo que hace el software con los datos.
¿Por qué es esto un problema?
La IA mal aplicada y no regulada puede dar lugar a resultados injustos, principalmente porque puede amplificar los sesgos en los datos. Y los algoritmos a menudo desafían la explicación fácil, lo que se complica por el hecho de que cambian y se adaptan a medida que llegan más datos.
Cómo solucionarlo
Los líderes empresariales deben examinar explícitamente una serie de factores. Para garantizar decisiones equitativas, deben evaluar el impacto de los resultados injustos, el alcance de las decisiones adoptadas, la complejidad operativa y las capacidades de gobernanza de sus organizaciones. Al establecer normas de transparencia, deben examinar el nivel de explicación requerido y las compensaciones implicadas. Al controlar la evolución de la IA, deben tener en cuenta los riesgos, la complejidad y la interacción entre la IA y los seres humanos.
Eleva tus habilidades de liderazgo y negocios
Súmate a más de 52,000 líderes en 90 empresas mejorando habilidades de estrategia, gestión y negocios.
