Especialista vê risco real de ataques e vazamentos em agentes autônomos
Microsoft – Em entrevista recente durante a conferência RSAC, Ram Shankar Siva Kumar, líder do AI Red Team, classificou o atual ecossistema de modelos de IA independentes como um “Velho Oeste” digital, onde a falta de controles mínimos abre caminho para golpes e vazamentos de dados.
- Em resumo: o executivo recomenda aplicar as mesmas práticas de segurança usadas em softwares tradicionais antes de confiar em qualquer agente de IA.
Por que os agentes autônomos viraram alvo fácil
Com pouca ou nenhuma auditoria de código, muitos aplicativos baseados em IA são lançados por equipes enxutas, sem pipelines de DevSecOps, criptografia em repouso ou políticas de governança de dados. A combinação de acesso amplo a APIs poderosas e infraestrutura barata torna a superfície de ataque quase ilimitada, aponta um dossiê publicado pelo The Hacker News.
“Aplicar velhos hábitos de segurança – como verificar a procedência do software e limitar permissões – continua sendo a barreira mais eficaz contra ameaças modernas”, reforçou Kumar à PCWorld.
Pressão sobre startups e o mercado corporativo
A recomendação tem impacto direto em pequenas AI-first startups que prosperam na agilidade. Para ganhar tração empresarial, essas empresas precisarão comprovar conformidade com frameworks como SOC 2, ISO 27001 e as recém-anunciadas diretrizes NIST para IA. Caso contrário, corporações tendem a priorizar suites fechadas, como o Microsoft Copilot, que já contam com auditoria contínua e programas de bug bounty.
Analistas da Gartner lembram que, só em 2023, incidentes envolvendo Large Language Models custaram ao setor financeiro global mais de US$ 50 milhões em multas e repatriações de dados – valor semelhante ao observado durante o auge dos malwares de compartilhamento de música no final dos anos 90.
E você, confia nos agentes de IA que instala? Participe nos comentários. Para acompanhar outras análises sobre inteligência artificial, acesse nossa editoria especializada.
Crédito da imagem: Divulgação / Microsoft Newsroom
