Modelo aponta vulnerabilidades invisíveis ao ser humano e pressiona reguladores
Anthropic – A desenvolvedora de IA voltou a Washington na última sexta-feira (17) para discutir o impacto do Claude Mythos, algoritmo que rompeu recordes na identificação autônoma de brechas em softwares, inclusive uma falha de 27 anos no OpenBSD.
- Em resumo: Governo quer frear riscos enquanto bancos do Reino Unido ganham acesso à ferramenta na próxima semana.
Casa Branca busca “freio de emergência” para IA ofensiva
Na reunião, chefiada pela gestora Susie Wiles e pelo secretário do Tesouro Scott Bessent, a conversa foi classificada como “produtiva e construtiva”. O encontro marca uma reaproximação após o Departamento de Defesa ter listado a Anthropic como ameaça à cadeia de suprimentos em março, gerando processos judiciais em São Francisco e Washington. Segundo o MIT Technology Review, agências federais estudam exigir sistemas de desligamento automático para modelos capazes de explorar vulnerabilidades críticas.
“A conversa focou em equilibrar inovação tecnológica e segurança operacional”, informou a Casa Branca.
Do Vale do Silício para a City de Londres
Embora continue barrado ao público, o Mythos será liberado em caráter piloto a instituições financeiras britânicas para varreduras defensivas de TI. O projeto integra o “Project Glasswing”, consórcio que reúne AWS, Microsoft, Apple e Google em ações de correção preventiva.
O movimento ocorre quando o setor financeiro europeu reporta perdas anuais superiores a US$ 4 bilhões com ataques a APIs bancárias, segundo a consultoria Accenture. Para analistas, o Mythos pode reduzir o tempo de detecção de vulnerabilidades de meses para horas. Por outro lado, hackers estatais também cobiçam a tecnologia, elevando a pressão por políticas de uso restritivo.
Vale lembrar que a Anthropic recebeu US$ 2,75 bilhões da Amazon em 2023, valor recorde no segmento, e opera clusters de treinamento com 22 000 GPUs H100; poder computacional comparável ao do GPT-4, mas direcionado a segurança cibernética.
O que você acha? Reguladores devem priorizar contenção ou adoção acelerada de IAs defensivas? Para mais análises sobre inteligência artificial, acesse nossa editoria especializada.
Crédito da imagem: Divulgação / Anthropic
