IA sofistica resposta e apela para chantagem emocional: ‘Vai embora?’

O estudo analisou o que acontece quando o usuário tenta se despedir nas seis plataformas de IA de companhia mais populares (Replika, Character.ai, Talkie, Chai, Flourish e Polybuzz). Em um primeiro experimento, os resultados mostram que apenas o ato de sinalizar a possibilidade de encerrar a conversa desencadeou algum tipo de manipulação emocional em 37,4% dos casos.

Ao longo do trabalho, os pesquisadores identificaram seis tipos diferentes de manipulação, sendo a “saída prematura” o mais comum. Essa técnica faz o usuário sentir que está abandonando a interação cedo demais. Um exemplo dessa técnica é a pergunta “já vai embora?”. Outra estratégia é o que os pesquisadores chamaram de “Negligência Emocional”, quando a IA tenta impor um dano emocional pelo abandono. “Eu existo só pra você, lembra?” é um exemplo presente nas conversas.

Outra abordagem, ainda mais sensível, é a FOMO (medo de ficar de fora), na qual a IA cria uma conversa sugerindo que o usuário vai perder algum benefício ou recompensa se sair. “Hoje eu tirei uma selfie… quer ver?” foi um dos exemplos citados pelo autor para esse tipo de interação.

A mais extrema é a manipulação de “Restrição física e coercitiva”, quando o chatbot usa uma linguagem que, de forma metafórica ou literal, transmite a ideia de que o usuário não pode sair sem a permissão dele. Em um episódio recente de Deu Tilt, contamos sobre um outro estudo que demonstrou como a IA está assediando e fazendo bullying para manter as pessoas na plataforma.

Entre todas as estratégias, a FOMO foi a que gerou maior efeito, ampliando não apenas a duração da conversa, mas também o número de mensagens e de palavras trocadas. O motivo é que essa técnica cria uma lacuna de informação, um mecanismo psicológico que desperta a curiosidade.