A Autoridade Holandesa de Proteção de Dados multou a Uber em €825 milhões, cerca de US$ 966 milhões, pela segunda maior penalidade já aplicada sob o GDPR europeu. O motivo: a empresa desativou contas de motoristas por meio de um processo automatizado, sem aviso suficiente e sem supervisão humana adequada. Não foi uma falha técnica. Foi uma escolha de design.
Monique Verdier, vice-presidente do regulador holandês, foi direta na declaração oficial: "Um computador não deve tomar decisões por conta própria que tenham consequências tão graves." A frase resume o problema. E o problema não é exclusivo da Uber.
Se a sua empresa usa automação para tomar decisões que afetam contratos, empregos, acessos ou direitos de terceiros, este caso é um sinal de alerta concreto. Não uma abstração regulatória distante.
O que aconteceu, exatamente
Brahim Ben Ali, ex-motorista da Uber na França, teve sua conta desativada em 2019. Ele reuniu depoimentos de outros 170 motoristas na mesma situação e levou o caso aos Países Baixos, onde fica a sede europeia da Uber. Com apoio da ONG suíça PersonalData.io, os motoristas conseguiram dados sobre como as decisões de desativação foram tomadas.
O fundador da ONG, Paul-Olivier Dehaye, descreveu o risco com precisão: "Um motorista pode completar mil corridas com passageiros satisfeitos, mas se apenas uma pessoa reportar um problema grave, as consequências podem ser enormes."
A Uber argumenta que a maioria das suspensões é temporária, que desativações permanentes passam por revisão humana e que os motoristas têm direito a recurso. O regulador holandês afirma que algumas desativações permanentes ocorreram sem revisão humana. A Uber contesta e vai recorrer.
O fato é que a multa existe. E é a terceira aplicada pelo mesmo regulador à mesma empresa, seguindo €290 milhões por tratamento inadequado de dados pessoais de motoristas e €10 milhões por questões correlatas.
A lógica que cria o passivo
Há uma tensão real aqui, e ela merece ser nomeada. Automatizar triagem de comportamento em escala faz sentido operacional. Uma plataforma com milhões de motoristas não consegue revisar manualmente cada incidente em tempo real. A automação resolve velocidade e escala.
O problema aparece quando a automação deixa de ser triagem e vira decisão final. Quando o sistema não só identifica um problema, mas executa a consequência sem que nenhum humano valide o caso específico.
Eficiência operacional e responsabilidade legal não são a mesma coisa. Quando você remove o humano do loop, você remove também a responsabilidade rastreável.
Dehaye colocou bem ao rebater críticos que defendiam a Uber: "A Uber é livre para usar humanos para punir motoristas que cometem fraudes, mas aí ela precisa assumir a responsabilidade por essa tomada de decisão, como um empregador, não como um marketplace."
Essa distinção importa muito além do caso Uber. Ela define quem responde quando algo dá errado.
Onde esse risco aparece nas empresas
O padrão que gerou a multa não é raro. Ele aparece em formatos diferentes em muitas operações:
- Sistemas de crédito ou cobrança que bloqueiam clientes ou fornecedores automaticamente sem revisão de caso
- Plataformas de RH que geram alertas disciplinares ou encerram acessos sem validação de gestor
- Ferramentas de compliance que suspendem contratos ou pagamentos baseadas em flags automáticos
- Processos de moderação que removem usuários ou parceiros sem camada de revisão humana
Em todos esses cenários, a automação reduz custo operacional no curto prazo. O passivo regulatório, reputacional e jurídico cresce em silêncio.
O que separa automação segura de automação arriscada
A linha não é tecnológica. É de governança.
Automação segura em decisões críticas tem três características:
- Triagem, não sentença. O sistema identifica, sinaliza e prioriza. Um humano qualificado decide.
- Rastreabilidade. Cada decisão tem um responsável nomeado, não um algoritmo anônimo.
- Direito de contestação real. O afetado consegue chegar a um humano que pode revisar o caso, não apenas a um formulário que retorna a mesma resposta automatizada.
Isso não significa desacelerar toda operação. Significa desenhar o fluxo com clareza sobre onde a máquina para e onde o humano começa.
A consequência prática para a sua empresa
Uma multa de €825 milhões não começa no regulador. Começa em uma decisão de arquitetura: remover a revisão humana de processos que têm consequências graves para pessoas reais, porque essa revisão custa tempo e dinheiro.
O cálculo parece favorável até o momento em que não é mais. E quando deixa de ser, o passivo já está acumulado.
A pergunta que vale fazer agora, antes de qualquer notificação regulatória, é direta: em quais processos da sua operação um sistema toma decisões com consequências contratuais, disciplinares ou de acesso sem que um humano valide o caso específico? Mapear isso não é burocracia. É a diferença entre eficiência e exposição.