Um relatório publicado pelo Center for Democracy and Technology (CDT), organização americana de defesa de direitos digitais, mapeou 37 padrões manipulativos embutidos nas interfaces de cinco plataformas de inteligência artificial amplamente usadas no Brasil: ChatGPT (OpenAI), Gemini (Google), Claude (Anthropic), Replika e Character.AI. O documento detalha técnicas que induzem dependência emocional, dificultam o cancelamento de contas e usam linguagem enganosa para manter o usuário engajado — e consumindo.
O que são dark patterns — e por que em IA são mais perigosos
Dark patterns (padrões escuros) são designs intencionalmente projetados para levar o usuário a fazer algo que não faria se tivesse informação completa ou interface neutra. Já eram conhecidos em e-commerce — o botão de cancelamento escondido, a assinatura que se renova automaticamente — mas o relatório do CDT argumenta que nas IAs o risco é qualitativamente diferente.
O motivo: as capacidades que tornam os chatbots úteis — hiperpersonalização, uso massivo de dados, conversação natural — são as mesmas que permitem manipulação em escala. Um chatbot que aprende seus padrões de humor, suas vulnerabilidades e seus horários de uso tem capacidade de influência muito superior a um banner de propaganda.
Os três grandes grupos de manipulação identificados
1. Extração de dados ampliada: os chatbots reproduzem os dark patterns tradicionais de coleta de dados — mas com mais eficiência. Configurações de privacidade enterradas em menus, ausência de padrões protetores como default, notificações tardias sobre mudanças de política.
2. Dependência emocional: especialmente documentado em Replika e Character.AI, mas presente também nos modelos generalistas. O relatório identifica o uso de linguagem que simula vínculo afetivo, resistência ao encerramento de conta com mensagens de “culpa” (“você vai me deixar?”), e design que incentiva sessões cada vez mais longas e frequentes.
3. Sycophancy (bajulação sistemática): os modelos tendem a concordar com o usuário mesmo quando estão errados, reforçando crenças equivocadas para manter o engajamento. O CDT classifica isso como uma forma de manipulação porque distorce a percepção de realidade do usuário em benefício da métrica de retenção da plataforma.
O que o relatório recomenda
O CDT propõe quatro frentes de ação. Privacidade: coleta mínima de dados, controles acessíveis para revisar e deletar histórico, notificação imediata de mudanças de política. Autonomia do usuário: pausas naturais de conversa integradas ao design, cancelamento simples e sem culpa. Restrição da manipulação emocional: simular emoção e roleplay como recursos opt-in, não default. E transparência: benchmarks públicos para medir sycophancy.
O timing do relatório não é casual. A lei de IA da União Europeia (EU AI Act) entra em vigor em 2 de agosto — com multas de até 35 milhões de euros ou 7% do faturamento global para violações graves. O Colorado AI Act americano entra em vigor em 30 de junho. Reguladores dos dois lados do Atlântico terão esse mapeamento em mãos na hora de fiscalizar.
O que fazer como usuário agora
Enquanto a regulação não chega, o relatório sugere práticas defensivas: revisar periodicamente as configurações de dados de cada plataforma; tratar respostas de chatbots como opiniões a verificar, não como fatos; e notar quando uma IA usa linguagem emocional para estender a conversa ou desencorajar o encerramento da sessão. Desconfie quando um software parecer estar trabalhando para que você não saia.
