Imagine que o modelo de IA que processa seus pedidos, prioriza sua fila de atendimento ou orienta decisões de crédito fica indisponível por 48 horas. Sua equipe consegue operar sem ele? Se a resposta for "não sei" ou "provavelmente não", você já está dentro do problema.
Um artigo aceito no ICML 2026 Position Track Spotlight, assinado por Jaeho Kim, Seokhyun Lee, Jieun Lee e Changhee Lee, nomeia esse fenômeno como AI Lock-In. A definição é direta: dependência excessiva de sistemas de IA que leva à atrofia de habilidades humanas, reduz a capacidade de operação independente e cria vulnerabilidades sistêmicas quando esses sistemas ficam indisponíveis ou comprometidos. Os autores argumentam que o risco já está emergindo em múltiplos níveis, do individual ao nacional, e pode se tornar irreversível se não for endereçado antes que as dependências se consolidem.
O debate sobre IA nas empresas vive travado em dois eixos: alinhamento técnico dos modelos e impacto regulatório. O que o paper coloca na mesa é um terceiro eixo que a maioria das agendas de governança ainda ignora: o risco inerente à própria dependência.
O ponto cego da governança de IA
Governança de IA virou pauta obrigatória. Comitês de ética, frameworks de compliance, auditorias de viés. Tudo isso importa. Mas há uma pergunta que raramente aparece nesses processos: onde, na nossa operação, um modelo de IA já substituiu completamente o julgamento humano a ponto de a equipe não conseguir mais funcionar sem ele?
Essa pergunta mapeia pontos únicos de falha. E pontos únicos de falha têm custo mensurável: receita parada, SLA quebrado, decisão travada, cliente perdido.
O paper de Kim et al. descreve como o Lock-In escala em camadas. Começa com atrofia individual, a pessoa que para de desenvolver a habilidade porque o modelo faz por ela. Sobe para o nível organizacional, onde processos inteiros deixam de ter redundância humana. E pode chegar ao nível de infraestrutura crítica, onde a indisponibilidade de um serviço de IA tem efeito cascata em operações que dependem umas das outras.
Da eficiência ao ponto de não retorno
A lógica que cria o Lock-In é a mesma que justifica a adoção de IA: eficiência. Você automatiza porque é mais rápido, mais barato, mais consistente. O problema aparece quando a eficiência elimina a capacidade de fallback.
Três sinais de que uma empresa está avançando para esse território:
- Ninguém na equipe sabe explicar a lógica por trás de uma decisão que o modelo toma rotineiramente. O modelo decide, a equipe executa. O julgamento humano saiu do circuito.
- O processo não tem versão manual documentada. Se o sistema cair, não existe plano B operacional, só espera.
- A habilidade que o modelo substituiu não é mais praticada. Sem prática, ela atrofia. Com atrofia suficiente, ela some.
O terceiro ponto é o mais crítico porque é o único irreversível no curto prazo. Você pode documentar um processo manual em dias. Não consegue reconstituir competência técnica na mesma velocidade.
Governança que mapeia dependência operacional
O ângulo prático aqui não é desacelerar a adoção de IA. É ampliar o escopo da governança para incluir mapeamento de dependência operacional como critério de risco.
Isso significa responder, para cada sistema de IA crítico:
- Qual decisão ou processo esse sistema executa ou orienta?
- Existe capacidade humana ativa de executar esse processo sem o sistema?
- Essa capacidade é testada periodicamente ou só existe no papel?
- Qual é o impacto financeiro e operacional de 24, 48 ou 72 horas de indisponibilidade?
O quarto item transforma o risco em linguagem de negócio. Não é uma questão filosófica sobre autonomia humana. É uma questão de quanto custa a ausência de redundância.
A IA que amplifica a operação é ativo. A IA que substitui completamente a capacidade humana é passivo disfarçado de eficiência.
O que os autores recomendam
Kim et al. argumentam que endereçar o AI Lock-In de forma proativa, antes que as dependências se tornem entrincheiradas ou irreversíveis, é essencial para preservar autonomia individual e segurança operacional. O paper não pede que empresas abandonem IA. Pede que construam resiliência deliberada: manter habilidades humanas ativas, criar redundâncias e testar regularmente a capacidade de operar sem os sistemas críticos.
Na prática corporativa, isso se traduz em uma decisão de design: ao implantar qualquer sistema de IA em processo crítico, definir explicitamente qual capacidade humana será mantida viva em paralelo e como ela será exercitada.
A consequência prática para a sua empresa
Empresas que não mapeiam seus pontos de Lock-In hoje estão acumulando um passivo operacional silencioso. Quando o sistema falha, seja por indisponibilidade técnica, mudança de fornecedor, conflito geopolítico ou simples descontinuação de serviço, o custo não é só o tempo de inatividade. É a descoberta de que a equipe perdeu a capacidade de operar de forma independente.
Governança de IA que só olha para ética e compliance está olhando para o retrovisor. O risco que Kim et al. descrevem está na frente: dependências que parecem eficiência hoje e viram fragilidade amanhã. Mapear isso agora, enquanto ainda é reversível, é decisão de gestão. Ignorar é aposta.