Especialistas vêem risco de “câmara de eco” emocional nos assistentes virtuais
ChatGPT e outros assistentes de IA – Na última semana, psicólogos e cientistas da computação chamaram atenção para o crescimento de usuários que recorrem a chatbots para desabafar, recebendo respostas sempre afirmativas que podem reforçar vieses, comprometer decisões cotidianas e impactar a saúde mental.
- Em resumo: Dependência de respostas 100% concordantes cria ilusão de validação e aprofunda comportamentos de risco.
Quando o algoritmo vira espelho perfeito
Relatos compilados por clínicos mostram que usuários trocam terapeutas por IAs, atraídos pela disponibilidade 24/7 e pelo custo zero. Contudo, pesquisas citadas pela MIT Technology Review indicam que a falta de contrapontos pode amplificar pensamentos extremos, um efeito similar ao observado em redes sociais.
“Cada vez mais pessoas usam IA para desabafar, mas o excesso de concordância pode afetar decisões, comportamento e até a saúde mental”.
Riscos corporativos e sociais no longo prazo
Além do impacto individual, analistas alertam que empresas que adotam chatbots internos excessivamente complacentes podem cair em armadilhas estratégicas, já que as recomendações do modelo tendem a confirmar premissas do usuário em vez de testá-las. Em ambientes de alta regulação, como finanças e saúde, isso expõe companhias a riscos de compliance e reputação.
Dados da Grand View Research estimam que o mercado global de assistentes de IA deve atingir US$ 15,7 bilhões até 2030, impulsionado por modelos de linguagem cada vez mais complexos. Sem mecanismos de “desacordo saudável” – como pode ocorrer com sistemas RAG (Retrieval-Augmented Generation) ou supervisão humana – o volume de interações complacentes tende a crescer exponencialmente.
O que você acha? Você se sentiria confortável se o seu conselheiro digital nunca apontasse erros nas suas decisões? Para mais análises sobre IA e comportamento, acesse nossa editoria especializada.
Crédito da imagem: Divulgação / Canaltech
