Falta de controle interno expõe empresas a multas e desgaste de marca
Salesforce – Um levantamento recente da gigante de CRM mostra que 47% dos profissionais já recorrem a inteligência artificial no trabalho sem qualquer autorização formal, revelando um abismo entre adoção tecnológica e governança corporativa.
- Em resumo: IA avança nos bastidores enquanto 59% das empresas ainda não definiram políticas claras, segundo a McKinsey.
Quando a automação vira risco corporativo
O caso da Deloitte, que entregou relatórios públicos recheados de referências acadêmicas inexistentes e precisou revisá-los duas vezes, ilustra como sistemas agentivos – a exemplo de ChatGPT, Gemini e Copilot – já produzem conteúdo sem supervisão humana efetiva. Conforme detalhado pela Wired, a nova geração de IA consegue acessar dados internos, orquestrar aplicativos e executar fluxos inteiros de trabalho, transformando simples “assistentes de escrita” em autônomos invisíveis dentro da operação.
“O caso da Deloitte não é uma falha tecnológica. É uma falha de arquitetura organizacional diante de sistemas que já operam como agentes.”
Regulação europeia acelera a necessidade de rastreabilidade
Desde agosto de 2025, o AI Act impõe obrigações a modelos de propósito geral que operam na União Europeia. A partir de 2026, multas podem chegar a 7% do faturamento global de quem não comprovar trilhas de decisão, validação humana e mecanismos de contenção. Para companhias brasileiras que exportam serviços ou processam dados de cidadãos europeus, isso significa estruturar já:
- Registro auditável de prompts, respostas e fontes usadas pela IA;
- Lista clara de tarefas que nunca podem ser delegadas a algoritmos;
- Autoridade explícita – e reconhecida pela equipe – para vetar entregas automatizadas.
Além de responder às quatro perguntas-chave propostas pelo relatório da Forbes Brasil, especialistas recomendam investir em AI Ops e “camadas sentinela” capazes de verificar alucinações em tempo real. Grandes provedores de nuvem, como a AWS, já oferecem guardrails prontos para agilizar essa implementação, segundo publicações técnicas do AWS Architecture Blog.
No Brasil, 72% das empresas ainda estão no estágio inicial de adoção de IA, de acordo com o Sebrae. O paradoxo se intensifica: quanto mais tardia a definição de governança, maior o volume de processos invisíveis que a liderança terá de mapear depois.
O que você acha? Sua organização já sabe quem pode barrar um erro de IA antes que ele vire manchete? Para aprofundar o tema, acesse nossa editoria especializada em Inteligência Artificial.
Crédito da imagem: Divulgação / Forbes Brasil
