Los riesgos que plantean los dispositivos inteligentes pronto superarán la magnitud de los asociados con los desastres naturales. Se están incrustando decenas de miles de millones de sensores conectados en todo, desde robots industriales y sistemas de seguridad hasta automóviles y refrigeradores autónomos. Al mismo tiempo, las capacidades de los algoritmos de inteligencia artificial (IA) están evolucionando rápidamente. Nuestra creciente dependencia de tantos dispositivos inteligentes conectados está abriendo la posibilidad de apagados a escala global. La buena noticia es que los desastres naturales, que se estima han causado 330 mil millones de dólares en pérdidas económicas a nivel mundial en 2017, proporcionan una plantilla para mitigar el riesgo catastrófico. No es demasiado tarde para prepararse para los desastres de IA si las empresas, las aseguradoras y los responsables políticos pueden centrarse en aumentar la resiliencia de la sociedad. Como lo han hecho cuando se trata de fenómenos meteorológicos extremos y desastres naturales, las empresas deberían comenzar a establecer protocolos y estándares internacionales para gobernar la IA no solo dentro de sus propios muros, sino también a trabajar con otras compañías, aseguradoras y responsables políticos.
Los riesgos que plantean los dispositivos inteligentes pronto superarán la magnitud de los asociados con los desastres naturales. Se están incrustando decenas de miles de millones de sensores conectados en todo, desde robots industriales y sistemas de seguridad hasta automóviles y refrigeradores autónomos. Al mismo tiempo, las capacidades de los algoritmos de inteligencia artificial (IA) están evolucionando rápidamente. Nuestra creciente dependencia de tantos dispositivos inteligentes conectados está abriendo la posibilidad de apagados a escala global.
La buena noticia es que los desastres naturales en sí mismos, que Munich Re dice que causó 330 mil millones de dólares en pérdidas económicas a nivel mundial en 2017, proporcionar una plantilla para mitigar el creciente y catastrófico riesgo que representa la IA. Como lo han hecho para las condiciones meteorológicas extremas y los desastres naturales, las empresas pueden comenzar a establecer protocolos y estándares internacionales para gobernar la IA no solo dentro de sus propios muros, sino también para poner en marcha procesos para trabajar con otras compañías, aseguradoras y responsables políticos.
Planes de recuperación de dispositivos inteligentes
Hoy en día, muchas empresas están expuestas a riesgos de dispositivos inteligentes que podrían dañar tanto sus propias operaciones como a sus clientes. Sin embargo, pocos han cuantificado formalmente el tamaño de sus ingresos en riesgo y su posible responsabilidad. Tampoco han establecido protocolos de seguridad para posibles eventos de IA de Black Swan.
Deberían hacerlo. Al igual que los riesgos asociados a los desastres naturales, las empresas no pueden protegerse por completo contra los riesgos de dispositivos inteligentes comprando un seguro; deben tener planes de recuperación en el peor de los casos. Los gerentes tienen que averiguar sus vulnerabilidades de dispositivos inteligentes de mayor y menor riesgo, agregar sistemas redundantes y, potencialmente, configurar el equivalente de IA de los sistemas de alerta temprana de tsunamis. Además, necesitan la capacidad de cambiar a entornos controlados manualmente en caso de que los sistemas inteligentes artificialmente se tengan que apagar y recuperar productos inteligentes defectuosos.
Los planes de contingencia deben ir más allá de un manual de estrategias para desastres naturales. Dados los numerosos puntos potenciales de conectividad, será mucho más difícil predecir, identificar y corregir la causa de los fallos de los dispositivos inteligentes a gran escala. La depuración y reprogramación de un dispositivo inteligente defectuoso es aún más complicado que crear un parche para luchar contra un ciberataque malévolo porque no está claro qué reglas siguen las máquinas.
Como resultado, ninguna empresa podrá recuperarse por sí sola. Para recuperarse del impacto potencial de un conjunto en cascada de choques globales relacionados con la IA, los gerentes tendrán que considerar las vulnerabilidades que existen en todas partes, desde sus proveedores hasta sus clientes. Abordar esas vulnerabilidades requerirá la coordinación entre un gran número de proveedores de servicios tecnológicos y otras empresas que podrían detectar o propagar una infección de IA a otros, independientemente de quién tenga la culpa.
Productos y servicios de seguros de IA
Las aseguradoras deben cuantificar su exposición a una fusión global de dispositivos inteligentes, ofrecer nuevos productos y asesorar a empresas y gobiernos. Incluso con unos 700 000 millones de dólares en capital disponible en los Estados Unidos y cientos de miles de millones de dólares más en todo el mundo, los balances de las aseguradoras de propiedades y accidentes son demasiado pequeños para cubrir todas las pérdidas potenciales de un desastre global de dispositivos inteligentes. Sin embargo, las aseguradoras pueden utilizar los datos recopilados sobre las pérdidas en todas las industrias para asesorar a las empresas y los gobiernos sobre la mejor manera de cuantificar su posible exposición a un escenario peor de los casos.
Como lo han hecho para las catástrofes naturales, las aseguradoras también pueden alentar las salvaguardias del sector público. Dado que las aseguradoras no pueden mitigar por completo los enormes riesgos que plantean los fenómenos meteorológicos extremos, los gobiernos de muchos países desarrollados y organizaciones internacionales proporcionan alivio natural para catástrofes a través de agencias gubernamentales como la Agencia Federal de Gestión de Emergencias y los programas públicos de seguro contra inundaciones. Las aseguradoras deben ayudar a movilizar recursos del sector público similares para ayudar a las posibles víctimas de un desastre de dispositivos inteligentes habilitados para IA.
Además, pueden comenzar a asesorar a los clientes sobre cómo pueden mejorar sus protocolos de seguridad y protección para hacer frente a las peligrosas repercusiones de una fusión de dispositivos inteligentes. En la actualidad, algunas aseguradoras líderes sugieren procedimientos de seguridad que las empresas podrían seguir para atender las violaciones e interrupciones de la información en caso de fallo global de los sistemas interconectados. Pero también deberían comenzar a explorar los pasos a seguir cuando los dispositivos inteligentes se vuelven aún más sofisticados y potencialmente establecen y siguen sus propios objetivos.
Protocolos internacionales de IA
Por último, los responsables políticos deben establecer directrices éticas y de confianza internacionales para gobernar el desarrollo y la implementación de productos y sistemas de IA cada vez más avanzados. Para reducir el impacto futuro de los desastres naturales, los gobiernos y organizaciones internacionales como la Cruz Roja y el Banco Mundial recopilan y comparten datos sobre las ramificaciones destructivas y el apoyo necesario para ayudar a las víctimas. Una inteligencia similar será fundamental para frenar el impacto de los posibles choques de los dispositivos inteligentes a medida que evoluciona la inteligencia artificial y el número de dispositivos, sensores y actuadores de Internet de las cosas (Internet de las cosas) conectados alcanzará más de 46 000 millones en 2021, según Juniper Research.
Alrededor de una docena de gobiernos, empresas tecnológicas y organizaciones internacionales como el Institute for Electrical and Electronics Engineers y el Foro Económico Mundial están empezando a explorar los protocolos de confianza y ética de IA globales para mantener el control de los sistemas y productos interconectados impulsados por la IA. Estos foros están empezando a profundizar en la comprensión del daño potencial que los dispositivos inteligentes podrían causar y de la necesidad de mejores prácticas. Pero hay que hacer mucho más.
Establecer los recursos necesarios para reducir los riesgos que conlleva la transición mundial a redes más inteligentes e interconectadas será difícil y costoso. Pero no podemos permitirnos no hacerlo y nuestra experiencia al responder a algunas de las peores «tormentas de 100 años» del mundo ofrece un valioso punto de partida para averiguar cómo adelantarnos a desastres potencialmente más graves. Solo necesitamos que las empresas, las aseguradoras y los responsables políticos reconozcan que tales esfuerzos son una inversión esencial en nuestro futuro.
