Gerenciando ferramentas de tomada de decisão de IA

Gerenciando ferramentas de tomada de decisão de IA
Gerenciando ferramentas de tomada de decisão de IA

A natureza das microdecisões requer algum nível de automação, especialmente para decisões em tempo real e de maior volume. A automação é habilitada por algoritmos (as regras, previsões, restrições e lógica que determinam como uma microdecisão é tomada). E esses algoritmos de tomada de decisão são frequentemente descritos como inteligência artificial (IA). A questão crítica é: como os gerentes humanos gerenciam esses tipos de sistemas alimentados por algoritmos. Um sistema autônomo é conceitualmente muito fácil. Imagine um carro sem motorista sem volante. O motorista simplesmente diz ao carro para onde ir e espera o melhor. Mas no momento em que há um volante, você tem um problema. Você deve informar o motorista quando ele pode querer intervir, como ele pode intervir e quanto aviso você dará a ele quando surgir a necessidade de intervir. Você deve pensar cuidadosamente sobre as informações que apresentará ao motorista para ajudá-lo a fazer uma intervenção apropriada.


O uso da IA pela sua empresa só vai aumentar, e isso é uma coisa boa. A digitalização permite que as empresas operem em um nível atômico e tomem milhões de decisões todos os dias sobre um único cliente, produto, fornecedor, ativo ou transação. Mas essas decisões não podem ser tomadas por humanos trabalhando em uma planilha.

Chamamos essas decisões granulares e baseadas em IA de “microdecisões” (emprestadas da Taylor e Raden” Sistemas inteligentes o suficiente”). Eles exigem uma mudança completa de paradigma, uma mudança da tomada de decisões para a tomada de “decisões sobre decisões”. Você deve gerenciar em um novo nível de abstração por meio de regras, parâmetros e algoritmos. Essa mudança está acontecendo em todos os setores e em todos os tipos de tomada de decisão. Neste artigo, propomos uma estrutura para pensar sobre essas decisões e como determinar o modelo de gerenciamento ideal.

Microdecisões exigem automação

A natureza das microdecisões requer algum nível de automação, especialmente para decisões em tempo real e de maior volume. A automação é habilitada por algoritmos (as regras, previsões, restrições e lógica que determinam como uma microdecisão é tomada). E esses algoritmos de tomada de decisão são frequentemente descritos como inteligência artificial (IA). A questão crítica é: como os gerentes humanos gerenciam esses tipos de sistemas alimentados por algoritmos?

Um sistema autônomo é conceitualmente muito fácil. Imagine um carro sem motorista sem volante. O motorista simplesmente diz ao carro para onde ir e espera o melhor. Mas no momento em que há um volante, você tem um problema. Você deve informar o motorista quando ele pode querer intervir, como ele pode intervir e quanto aviso você dará a ele quando surgir a necessidade de intervir. Você deve pensar cuidadosamente sobre as informações que apresentará ao motorista para ajudá-lo a fazer uma intervenção apropriada.

O mesmo vale para qualquer microdecisão. No momento em que há um ser humano envolvido, você precisa pensar cuidadosamente sobre como projetar um sistema de decisão que permita ao ser humano ter uma interação significativa com a máquina.

Os quatro principais modelos de gestão que desenvolvemos variam de acordo com o nível e a natureza da intervenção humana: Nós os chamamos de HITL, HITLFE, HOTL, HOOTL. É importante reconhecer que este é um espectro e, embora tenhamos retirado os principais modelos de gerenciamento, existem subvariantes baseadas na divisão entre humano e máquina e no nível de abstração de gerenciamento no qual o ser humano se envolve com o sistema.

A variedade de opções de gerenciamento

Humano no loop (HITL): Um ser humano é assistido por uma máquina. Nesse modelo, o ser humano está fazendo a tomada de decisão e a máquina está fornecendo apenas suporte à decisão ou automação parcial de algumas decisões, ou partes de decisões. Isso geralmente é chamado de amplificação de inteligência (IA).

Coletar e descartar resíduos e reciclagem é um negócio complexo onde tudo, desde o clima até as leis locais de ruído, layouts de estacionamento a fechaduras de portões, tipos de reciclagem para locais de despejo, disponibilidade de motoristas e recursos de caminhões, todos desempenham um papel em uma operação eficiente. Uma empresa da Fortune 500 está investindo pesadamente no uso de IA para melhorar suas operações. Eles reconhecem que o valor da IA geralmente vem de ajudar os humanos a fazer seu trabalho melhor. Um exemplo é ajudar os despachantes a lidar com bilhetes e rotas de forma mais eficaz. Muitas coisas podem impedir um evento de serviço tranquilo, por exemplo, a necessidade de uma chave ou código específico, janelas de tempo onde a coleta é ou não possível, restrições de largura e comprimento, instruções para mover ou abrir as coisas, construção temporária e muito mais.

Um bot desenvolvido recentemente rastreia todos os tickets e solicitações em vários sistemas para identificar qualquer coisa que possa afetar uma parada específica e chamá-la à atenção do despachante. Ele identifica proativamente todos os possíveis problemas para a rota conforme configurado atualmente (e refaz isso quando as paradas são adicionadas, movidas ou removidas durante o dia) e pode ser usado reativamente pelos despachantes enquanto eles trabalham para encontrar a melhor maneira de adicionar solicitações às rotas de bordo. O despachante humano monitora o sistema enquanto ele trabalha para liberar 20-25% do dia, automatizando milhares de decisões sobre tickets de serviço

Humano no loop por exceções (HITLFE): a maioria das decisões é automatizada nesse modelo, e o humano só lida com exceções. Para as exceções, o sistema requer algum julgamento ou contribuição do ser humano antes de poder tomar a decisão, embora seja improvável que peça ao humano que tome a decisão completa. Os seres humanos também controlam a lógica para determinar quais exceções são sinalizadas para revisão.

Uma marca de beleza desenvolveu um algoritmo de aprendizado de máquina (ML) para prever o aumento das vendas para diferentes tipos de promoção para substituir uma abordagem existente movida a humanos. A previsão de ML levou em consideração fatores como a oferta, o suporte de marketing, a sazonalidade e a canibalização para criar uma previsão automatizada. Para muitas promoções, a previsão de ML funcionou bem, mas os gerentes rapidamente perderam a confiança depois que o sucesso inicial foi rapidamente seguido por algumas falhas extremas, o que resultou em perdas significativas de vendas. Quando os cientistas de dados analisaram as previsões, eles descobriram que o algoritmo de ML se esforçava para prever certos tipos de promoção. Em vez de abandonar o projeto, eles desenvolveram uma abordagem HITLFE. A chave era codificar o nível de confiança da máquina em suas previsões e fazer com que os humanos revisassem as previsões em uma base de exceção, onde a máquina tinha baixa confiança.

Humano no loop (HOTL): Aqui, a máquina é assistida por um humano. A máquina toma as microdecisões, mas o ser humano analisa os resultados da decisão e pode ajustar regras e parâmetros para decisões futuras. Em uma configuração mais avançada, a máquina também recomenda parâmetros ou mudanças de regras que são aprovadas por um ser humano.

Uma empresa europeia de entrega de alimentos precisava gerenciar sua frota de ciclistas e usou uma planilha para planejar o número de “slots de entrega” necessários na próxima hora/dia/semana. Em seguida, eles implantaram vários incentivos, por exemplo, aumentando a taxa por entrega para combinar a oferta de motoristas com a demanda esperada. Esse foi um processo altamente manual e impreciso, e eles decidiram desenvolver um sistema totalmente automatizado para testar sua abordagem manual. Os resultados foram interessantes. Às vezes, os humanos tiveram melhor desempenho, às vezes a máquina teve um desempenho melhor. Eles perceberam que haviam enquadrado mal o problema. A verdadeira questão era como fazer com que os humanos e as máquinas colaborassem. Isso levou a uma segunda abordagem na qual, em vez de os humanos gerenciarem no nível do motorista, eles projetaram um conjunto de parâmetros de controle que permitiam aos gerentes fazer uma troca de risco, custo e serviço. Essa abordagem reconheceu a natureza dinâmica do sistema, a necessidade de fazer compensações que podem mudar com o tempo e a necessidade crítica de manter os trabalhos interessantes!

Humano fora do circuito (HOOTL): Neste modelo, a máquina é monitorada pelo ser humano. A máquina toma todas as decisões e o humano intervém apenas estabelecendo novas restrições e objetivos. A melhoria também é um circuito fechado automatizado. Os ajustes, com base no feedback de humanos, são automatizados.

O Navio Autônomo Mayflower está explorando o oceano do mundo usando radar, GPS, câmeras alimentadas por IA, dezenas de sensores e vários dispositivos de computação de ponta. Mas não tem tripulação. Com os humanos completamente fora do circuito, o Mayflower deve sentir seu ambiente, prever cursos, identificar perigos, aplicar regulamentos de colisão e obedecer às regras do mar. Seu capitão de IA faz isso de forma autônoma, movendo-se para atingir as metas previamente estabelecidas pelos humanos responsáveis pelo projeto. Os humanos, de volta à terra, simplesmente dizem para onde ir.

O que pode dar errado

Uma empresa de viagens dos EUA implementou um sistema HOOTL totalmente automatizado para marketing de palavras-chave no Google. A equipe de marketing conseguiu inserir um orçamento e um objetivo e, em seguida, o sistema determinou automaticamente a alocação ideal de gastos e lógica de lances em milhões de palavras-chave. O sistema funcionou bem no início e proporcionou ganhos de eficiência e melhores resultados. No entanto, quando o sistema começou a ter um desempenho menos bom, a equipe não conseguiu explicar o porquê ou tomar qualquer ação corretiva. Este era um sistema totalmente preto baseado em algoritmos proprietários, mas era incontrolável na prática, e a equipe voltou ao seu antigo sistema baseado em regras.

Se o desempenho melhorar (mesmo por um tempo), os gerentes ficarão felizes, mas se as decisões começarem a ter um desempenho ruim, é uma tarefa extremamente complexa desvendar qual elemento do novo processo é o culpado. Por exemplo: uma decisão algorítmica pode ser opaca demais para ser aprovada na análise regulatória ou para ser explicada a clientes insatisfeitos. Mudanças automatizadas no algoritmo em resposta ao feedback coletado pelo algoritmo podem criar uma condição de corrida em que o algoritmo gira fora do curso. Muitas decisões podem ser encaminhadas para revisão manual, limitando drasticamente o valor do algoritmo. Ou o envolvimento humano no algoritmo pode estar no nível errado, fazendo com que o algoritmo seja deixado de lado por usuários humanos.

Parte da solução é escolher o modelo certo para o engajamento humano para uma determinada decisão. Além disso, todo sistema de tomada de microdecisão deve ser monitorado, independentemente de quanto envolvimento humano exista. O monitoramento garante que a tomada de decisão seja “boa” ou pelo menos adequada ao propósito agora, ao mesmo tempo em que cria os dados necessários para detectar problemas e melhorar sistematicamente a tomada de decisões ao longo do tempo. Também é fundamental que você avalie a eficácia da tomada de decisões: pelo menos duas métricas devem ser capturadas com foco na eficácia da tomada de decisões. Nenhuma decisão de negócios do mundo real pode ser otimizada concentrando-se em apenas uma métrica, sempre há uma troca. Além disso, você deve sempre capturar informações sobre como o sistema tomou a decisão, não apenas a decisão real tomada. Isso permite a explicação efetiva de decisões “ruins” e a correspondência de resultados abaixo do ideal com as especificidades da maneira como a decisão foi tomada. Finalmente, você deve acompanhar o resultado do negócio e mapeá-lo para como as decisões foram tomadas.

Decidir qual modelo é ideal para você

É importante reconhecer que esses sistemas evoluirão ao longo do tempo, possibilitados por novas tecnologias, o desejo das organizações de tomar decisões cada vez mais cirúrgicas e maior confiança da gerência na automação. Você deve decidir qual nível de gerenciamento humano é possível e desejável, e seu apetite por risco e iteração. Não existe uma resposta correta.

Seja qual for o modelo que você adotar, acreditamos que é fundamental colocar a IA no organograma e no design do processo para garantir que os gerentes humanos se sintam responsáveis por sua produção. A necessidade de sistemas mais autônomos, a demanda do consumidor por respostas instantâneas, a coordenação em tempo real das cadeias de suprimentos e ambientes remotos e automatizados estão se combinando para tornar o aumento do uso da IA em sua organização uma inevitabilidade. Esses sistemas tomarão microdecisões cada vez mais refinadas em seu nome, impactando seus clientes, funcionários, parceiros e fornecedores. Para ter sucesso, você precisa entender as diferentes maneiras de interagir com a IA e escolher a opção de gerenciamento certa para cada um dos seus sistemas de IA.



  • MR
    Michael Ross is a cofounder of DynamicAction, which provides cloud-based data analytics to retail companies, and an executive fellow at London Business School.

  • JT
    James Taylor is the founder and CEO of Decision Management Solutions. He’s an expert in how to use decision modeling, business rules, and analytic technology for digital decision-making. He’s the author of several books, including Digital Decisioning: Using Decision Management to Deliver Business Impact from AI (MK Press, 2019).
  • Related Posts
    Os novos líderes do século XXI

    Enfrentando problemas de negócios

    Pare de amarrar o pagamento ao desempenho, a evidência é esmagadora: não funciona. por Bruno S. Frey e Margit Osterloh Tempo: na próxima semana | Grau de dificuldade: operacionalmente fácil, psicologicamente difícil | Barreira: ganância, teoria econômica que falamos sobre isso desde o colapso financeiro. Agora é hora de fazer isso: desvincular o pagamento do desempenho. O […]
    Leer más
    Os novos líderes do século XXI

    Como superar as mentiras dos seus clientes

    É bem estabelecido pesquisa de mercado que os clientes mentem. A história comercial oferece inúmeras histórias de empresas que lançam novos produtos com base em pesquisas quantitativas extensivas de clientes apenas para descobrir que os clientes não acabaram fazendo o que eles disseram que fariam. Mas de que outra forma as empresas para obter uma alça sobre o que [...]
    Leer más
    Os novos líderes do século XXI

    Plantações Praticadas Gestão Moderna

    A descoberta: as plantações de escravos do século XIX usaram técnicas de gestão científica - e algumas aplicá-las de forma mais extensiva do que as fábricas consideradas seus originadores. A Pesquisa: Caitlin Rosenthal, por mais de centenas de livros de contas das plantações da U.S. e do Oeste, que operavam de 1750 a 1860. Ela descobriu que seus proprietários empregavam [...] contabilidade avançada.
    Leer más
    Os novos líderes do século XXI

    Hedging clientes

    Os clientes são indivíduos e querem ser tratados como tal - o que torna a rentabilidade de cada difícil prever. Tendem a eles como você deseja, mas você pode gerenciar melhor os clientes - e fazer seu comportamento coletivo menos difícil de antecipar e planejar - se você pensa neles como gostaria de estoques em um portfólio.
    Leer más
    Os novos líderes do século XXI

    A busca disciplinada de menos

    Por que pessoas e organizações de sucesso não são muito bem sucedidas? Uma explicação importante é devido ao que eu chamo de "o paradoxo de clareza", que pode ser resumido em quatro fases previsíveis: Fase 1: Quando realmente temos clareza de propósito, leva ao sucesso. Fase 2: Quando temos sucesso, leva a mais opções [...]
    Leer más
    Os novos líderes do século XXI

    O que estamos seguindo no comportamento do consumidor

    As pessoas amam sua independência. E eles podem ser contados para responder a qualquer ameaça percebida à sua liberdade de agir, escolher, decidir, se movimentar, e assim por diante com o psicólogo Jack Brehm, em 1966, denominou comportamentos de reatância, incluindo hostilidade, resistência à resistência e resistência para persuasão. Ei, especialista, não me diga o que fazer ... Reatância, [...]
    Leer más
    Os novos líderes do século XXI

    Co-Opt the Old Boys’ Club: Faça com que funcione para as mulheres

    Catalisador, onde eu sou CEO, aconselhou empresas por décadas sobre como criar redes femininas, programas de orientação e outras iniciativas que impulsionam o avanço da carreira das mulheres. Esses esforços fazem grandes pontos de fala em conferências, mas eles não mudaram drasticamente a paisagem para mulheres na liderança empresarial. As mulheres há muito se constituem cerca de metade [...]
    Leer más