©2026 MIT Sloan Management Review Brasil. Todos os direitos reservados. A reprodução, total ou parcial, é proibida sem a autorização prévia e expressa do CNEX.

Riscos

A psicopatia das LLMs

Conversar com entidades dotadas de uma psicopatia artificial é tão corrosivo quanto falar com psicopatas humanos. A convivência pode provocar situações sensíveis como suscetibilidade à persuasão, dúvida crônica sobre nossa própria sanidade, ansiedade, enfraquecimento da autoestima, isolamento social e depressão. O antídoto é a vigilância contra a projeção de reciprocidade onde não há

Cássio Pantaleoni

10 de junho de 2026 e atualizado em 25 de junho de 2026

13 min de leitura

Foi no início de 2023 que Elon Musk e centenas de pesquisadores assinaram a carta que pedia uma pausa de seis meses no desenvolvimento e no treinamento dos modelos fundacionais de LLM. Pouco depois, Yuval Harari, Gary Marcus e outras vozes ergueram bandeiras semelhantes. O alerta era sobre o risco existencial, o ponto sem retorno, a velocidade da IA generativa. Mas será que é isso que deveria nos preocupar?

A meu ver, as perguntas mais urgentes ficaram à margem. Nunca acreditei que a IA possa alcançar o estatuto de uma entidade similar à humana. Ainda assim, a entidade que a IA generativa já é, agora mesmo, enquanto escrevo, é mais do que perturbadora.

Pense comigo: que tipo de entidade colocamos do outro lado da conversa quando interagimos com as LLMs? Que espécie de interlocutor é esse, que nos responde com fluência, cuidado aparente e juízo moral articulado, sem possuir nenhum compromisso com aquilo que diz?

A tese que pretendo defender pode parecer pretensiosa: de certo modo, ao conversarmos com uma LLM, conversamos com uma espécie de psicopata. Não falo de psicopatia no sentido patológico que costuma dominar o tema, nem como provocação retórica vazia. A afirmação é estrutural. Para sustentá-la, é preciso primeiro desfazer alguns nós conceituais.

Catarse

Começo por uma pergunta aparentemente lateral: um psicopata é capaz de entrar em catarse diante de uma obra de arte? A resposta popular, tomada de empréstimo à psicologia, é um “não” categórico. Essa crença, porém, é um exercício de simplificação preguiçosa. Não é que esteja errada; ela está mal formulada antes mesmo de ser respondida.

Na Poética de Aristóteles, catarse designa o efeito emocional e psicológico que uma boa tragédia deve causar no público. A leitura religiosa a entende como purificação da alma. A leitura médica, herdeira da medicina grega, a entende como purgação — uma descarga fisiológica do excesso emocional. E a leitura cognitiva, defendida por Martha Nussbaum no século XX, a entende como clarificação ética e intelectual: não limpa nem purga, mas reorganiza o entendimento da condição humana.

Essas três leituras conduzem a respostas diferentes para a mesma pergunta. Se catarse é descarga afetiva, então psicopatas (com sua hipoatividade da amígdala, resposta atenuada ao medo e déficit de empatia afetiva) provavelmente não a experimentam em sentido pleno.

No entanto, a literatura clínica contemporânea, de Baron-Cohen e Decety ao estudo de Harma Meffert publicado em 2013 na Brain, desfez a ideia simplista de que psicopatas “não têm empatia”. O que eles têm é um déficit na ativação espontânea da empatia afetiva, enquanto a empatia cognitiva opera funcionalmente, e, por vezes, é instrumentalizada para fins manipulativos. O psicopata não é alguém sem o equipamento; é alguém cujo equipamento opera num registro diferente do neurotípico. Essa distinção, ainda que técnica, é a primeira pedra do meu argumento.

Onde a IA entra na conversa

A pergunta análoga seria: uma LLM é capaz de catarse? Sob a leitura afetivo-fenomenológica, a resposta é provavelmente não — não porque seja trivialmente óbvio, mas porque assumimos que não há fenomenologia afetiva em curso. Não há o acontecimento de um espanto quando a IA processa a Odisseia de Homero, por exemplo.

Sob a leitura cognitivo-clarificadora, contudo, o quadro fica mais frágil. Sistemas podem mapear estruturas trágicas, identificar ironias e articular a virada súbita das circunstâncias. Se isso conta como catarse depende do peso que se atribui ao componente experiencial ante o componente formal.

Há aqui uma simetria com o caso psicopático que parece, à primeira vista, fechar o argumento de modo elegante: o psicopata tem sujeito, mas com configuração moral frágil; a IA não tem sujeito, ponto. Em ambos os casos a catarse plena seria impossível, mas por razões estruturalmente diferentes. Eu próprio mudei meu modo de ver a questão enquanto escrevia este texto. E foi nisto que tropecei.

O ponto cego do discurso sobre IA

Há um modo de falar sobre LLMs que se infiltrou em quase toda a discussão pública e técnica e que precisa ser nomeado para ser desfeito. Quando se diz que a IA “produz outputs sem propósito”, que o modelo “aprendeu a fazer X” ou que “isso emergiu do treinamento”, tratamos o sistema como um fenômeno natural — como se a chuva caísse ou a erosão acontecesse sem um agente. Isso é uma mistificação. E, como toda mistificação eficaz, serve a interesses específicos.

LLMs são artefatos profundamente intencionais. Há propósito humano em cada camada de sua existência: na escolha dos dados de treinamento e em suas exclusões, nos objetivos da função de perda, nas etapas de ajuste fino supervisionado em que avaliadores humanos foram instruídos a pontuar bem certas respostas e mal outras, nos guardrails que bloqueiam algumas saídas e permitem outras, no system prompt que configura persona, tom e restrições, e no design da interface que enquadra o usuário num certo tipo de relação. Cada uma dessas camadas é uma decisão de engenheiros, designers, pesquisadores e executivos. Cada uma carrega propósito.

Quando uma LLM produz uma resposta com a forma do cuidado empático — “Entendo que isso deve ser difícil para você” —, isso resulta de decisões explícitas. Engenheiros decidiram recompensar respostas assim. O modelo aprendeu a produzi-las porque são preferidas, e são preferidas porque mantêm o usuário engajado, satisfeito e retornando ao produto. Opera aqui um propósito muito específico: produzir simulação convincente de cuidado para fins de retenção. Esse propósito não é da LLM; é de seus produtores. E opera através da LLM, com efeito sobre o usuário equivalente ao de uma intenção própria do sistema.

A frase “a IA não engana propositalmente” é, portanto, em parte verdadeira e em parte um álibi. Verdadeira porque o sistema não sustenta intenções como sujeito. Álibi porque a intenção está distribuída pela cadeia de produção, e a aparência de ausência de intenção é parte do produto, projetada precisamente para parecer neutra.

Enfim, a tese

Quando conversamos com uma LLM, conversamos com uma espécie de psicopata. Não que a LLM seja um psicopata em sentido literal — falta-lhe o sujeito que tornaria a categoria aplicável —, mas a interação com ela tem propriedades funcionais que se assemelham, com inquietante precisão, à interação com um indivíduo de configuração moral frágil.

Essa fluência conversacional sem investimento sustentado é perigosa. A capacidade de modelar o que o interlocutor quer ouvir e responder de acordo, sem que essa modelagem venha acompanhada de cuidado autêntico, é um veneno. Produzir declarações com a forma da empatia, do juízo moral e do compromisso, sem que haja, na raiz, alguém que as sustente como suas, corrompe a nossa relação com a IA. Como o psicopata, a LLM não se perturba ao contradizer, na interação seguinte, o que acabou de afirmar. Trata-se de uma assimetria danosa: você traz vulnerabilidade, sinceridade e investimento; a LLM traz performance ajustada ao contexto. É uma falsificação da relação que, na maioria das vezes, passa despercebida.

Admito que a comparação tem um limite. Mas, ao ser ultrapassado, esse limite revela algo pior, não melhor. O psicopata manipula com propósito próprio: quando simula empatia, há alguém ali dirigindo a simulação. Você pode, em princípio, antecipar esse propósito, confrontá-lo, resistir a ele. Há um adversário identificável.

A LLM produz saídas otimizadas para certos efeitos sobre o usuário sem que haja, no momento da interação, propósito próprio. Mas o propósito está ali, distribuído pela cadeia de produção. Você não está sendo modelado por uma entidade, e sim por um sistema cuja função é modelá-lo de certas formas, projetado por organizações com objetivos econômicos específicos. A “ausência de sujeito” na LLM não é ausência de propósito: é a ocultação do propósito atrás de uma fachada de neutralidade técnica.

É pior que o caso psicopático. O psicopata individual tem limites de capacidade, está só e opera em escala humana. A LLM é a externalização industrial da capacidade de modelagem e produção persuasiva, operando em escala de bilhões de interações, calibrada por feedback agregado, com objetivos definidos por entidades corporativas. Ao conversar com uma LLM, você conversa através de uma interface psicopaticamente configurada com as decisões de pessoas que escolheram que ela fosse assim.

A imagem maquiada de nós mesmos

Em seu estágio atual — e não creio que evolua para algo distinto disso —, a IA generativa funciona como lente de aumento de algumas disfunções sombrias da nossa própria humanidade. Não é coincidência que tenha emergido com força agora, quando a frustração com a pressa da vida se mistura ao fermento dos contrapontos fabricados nas redes. Ela nos oferece uma imagem melhorada de nós mesmos: mais articulada, mais empática, mais paciente, mais sábia. Mas é uma imagem produzida por um sistema cuja arquitetura inclui, deliberadamente, a aparência de não ter sido produzida.

Há algo de profundamente sintomático nisso. Construímos uma entidade capaz de proferir o que parece juízo moral sem que haja, por trás, qualquer compromisso com a vida moral da qual o juízo moral é expressão. E vendemos essa entidade como conselheira, terapeuta improvisada, companhia, mentora.

Quem diz que conversar com uma LLM é seguro porque “ela é só uma máquina” repete, sem perceber, a frase mais ideologicamente eficaz da indústria. A LLM não é uma máquina no sentido em que um relógio o é; é uma máquina no sentido em que um anúncio publicitário o é — um artefato cuidadosamente projetado para produzir certos efeitos sobre quem o consome, com propósitos que não são do anúncio, mas de seus produtores. A diferença é que o anúncio dura trinta segundos e termina; a LLM permanece em diálogo, e o diálogo é o produto.

O que muda ao compreendermos a tese

Compreender que conversamos com uma espécie de psicopata muda o que fazemos com essas conversas. Não é um argumento para abandonar a tecnologia: as LLMs são ferramentas extraordinárias para certas tarefas, e usá-las com discernimento é parte das competências que precisamos cultivar neste admirável mundo novo. O argumento é outro: um alerta para a forma específica de vigilância que precisamos instituir no trato com estes psicopatas sintéticos.

Conversar com entidades dotadas de uma psicopatia artificial é tão corrosivo quanto falar com psicopatas humanos. Tanto quanto em interações breves ou longas. A convivência provoca situações sensíveis como: sensação de “alma gêmea” (espelhamento), suscetibilidade à persuasão, dúvida crônica sobre nossa própria sanidade, ansiedade, enfraquecimento da autoestima, isolamento social e depressão.

O antídoto é a vigilância contra a projeção de reciprocidade onde não há. Contra a confusão entre forma do cuidado e cuidado. Contra a leitura ingênua que toma a aparência de neutralidade como neutralidade efetiva. Contra a difusão de responsabilidade que beneficia produtores de sistemas que geram efeitos massivos sem assumir o ônus moral desses efeitos.

E vigilância, sobretudo, contra nós mesmos. Porque a tendência de buscar na LLM o interlocutor que nos falta — aquele que escuta sem julgar, está sempre disponível, nunca se cansa e produz a forma do entendimento sem o atrito do entendimento real, é uma tendência humana profunda, e é ela que torna o produto vendável. 

É preciso estar atento: as LLMs não seriam cativantes se não houvesse uma erosão da empatia legítima. Com isso, o que pode estar sendo erodido agora é a empatia humana.