©2026 MIT Sloan Management Review Brasil. Todos os direitos reservados. A reprodução, total ou parcial, é proibida sem a autorização prévia e expressa do CNEX.

Efeito Eliza

Quando os humanos surtam e as máquinas alucinam 

O hype da IA não pode atropelar a alfabetização de seu uso, protocolos por parte das empresas e regulação

Douglas Portari

2 de setembro de 2025 e atualizado em 3 de setembro de 2025

11 min de leitura

“Nós moldamos nossas ferramentas e, então, nossas ferramentas nos moldam”. Essa frase do acadêmico estadunidense John M. Culkin (1928-1993) explicita a relação (mais que carnal) entre seres humanos e tecnologia. De pedras e ossos à internet, “essas extensões dos nossos sentidos começam a interagir com os nossos (próprios) sentidos” – e este seu complemento não deixa dúvidas quanto aos efeitos de nossos engenhos não só no “mundo material”, mas em nossas formas de pensar, sentir e agir. 

Esse trecho está em um artigo de 1967 que Culkin – à época, responsável pelo Centro para Estudos de Comunicação da Fordham University, de Nova York – escreveu sobre o trabalho do teórico da mídia de Marshall McLuhan (1911-1980). Admirador do canadense, Culkin inclusive o convidou a lecionar na Fordham. Nesse artigo, ele aborda o descompasso entre o aprendizado “tradicional” de crianças nas escolas e sua apreensão do mundo pelos meios modernos de TVs, rádios, cinema etc. Em bom português, o que Culkin disse é que “o uso do cachimbo entorta a boca” – nesse caso, mesmo quando “ceci n’est pas une pipe” (em português, isto não é um cachimbo). Não é, Magritte? 

Ou seja, mesmo quando o mundo é feito de representação, as experiências são mediadas por plataformas e ferramentas, virtuais ou virtualmente invisíveis. A internet acelerou o que os meios de massa do século 20 prometiam: a aldeia global, adicionando feedback imediato e a promessa de uma agência inédita (a manipulação algorítmica fica para outra discussão).

Fronteiras borradas entre o real e o digital 

Um ponto que não pode ser relegado a segundo plano é que os “ambientes virtuais não podem ser tratados como ‘não-lugares’ e menos ainda de forma dicotômica, opondo-se o virtual ao real”, como dito por Beatriz Polivanov, docente do Departamento de Estudos Culturais e Mídia da Universidade Federal Fluminense. Em outras palavras, as fronteiras estão borradas, se é que já existiram. O que ocorre no mundo online impacta o offline e vice-versa. 

Salto agora para nossa era pós-pandêmica, onde uma ferramenta não necessariamente nova, mas sob um hype turbinado pelas big techs, vem entortando nossas bocas (e mentes): a inteligência artificial (IA). Utilizo esse termo aqui, mas vale dizer que os profissionais do setor não o aprovam, preferindo machine learning ou large language models (LLMs), sistemas que analisam grandes quantidades de dados e podem gerar respostas conversacionais probabilísticas – as GenAIs (IAs generativas), como o ChatGPT. 

Há anos as IAs estão presentes em nosso dia a dia, como as indicações de filmes e músicas em streamings ou em aplicativos de mobilidade. Essas máquinas se ancoram em dados gerados pelos próprios usuários e pelo banco de dados ciclópico da internet, entre outras fontes de insumo (nem sempre autorizadas). Mas esses exemplos são quase invisíveis, enquanto as GenAIs – embora estejam sendo inseridas em toda operação virtual hoje, de sites de buscas a PDFs – partem de uma interação humano-máquina mais explícita: os prompts, que emulam uma conversação. 

Descolamento da realidade e “Efeito Eliza”

Essa antropomorfização do serviço tem gerado efeitos. A mídia internacional, como The New York Times e Rolling Stone, além de meios especializados, vem noticiando casos de usuários que passaram a ter uma relação problemática com a GenAI. Relacionamentos afetivos, pedidos de casamento, teorias da conspiração… 

Em abril, nos Estados Unidos, um homem foi morto ao atacar policiais. Ele acreditava que a empresa OpenAI, dona do ChatGPT, havia assassinado uma IA senciente chamada Juliet. Nesse caso, o usuário tinha um histórico de transtorno mental, mas em outros episódios de surtos e perda de contato com a realidade relatados pela mídia, as pessoas não possuíam registros médicos do tipo. 

Uma explicação para essas reações é o “Eliza Effect”. Em 1966, Joseph Weizenbaum, um professor do MIT, criou um programa de chatbot chamado Eliza, que transformava a própria linguagem de entrada de uma pessoa em uma resposta (o que aparentava empatia). “Surpreendeu-me ver quão rápida e profundamente as pessoas que conversavam com o chatbot se envolveram emocionalmente com o computador e quão inequivocamente o antropomorfizaram”, contaria anos depois. 

O Efeito Eliza parece ser cada vez mais atual (e recorrente). Em um artigo recente, um especialista da gigante IBM aborda como aumentar o letramento em IA de colaboradores e faz recomendações sobre ‘limites saudáveis’ de uso nas empresas. Para que profissionais não criem vínculo emocional, cientes de que essas ferramentas apenas complementam frases por meios probabilísticos, é sugerido evitar dar avatares e vozes às máquinas ou utilizar verbos como ‘acreditar’ ou ‘pensar’ para seus resultados. 

A publicitária nicaraguense Urania Callejas-Vidaurre, especialista em comunicação política e inteligência artificial, explica o funcionamento dessas IAs. “Os LLMs têm um estágio de pré-treinamento em que analisam grandes quantidades de texto para aprender a prever a próxima palavra mais provável em uma sequência e ajustar seus parâmetros usando padrões estatísticos. Eles então passam por ajustes finos com dados especializados e feedback humano para refinar suas respostas. Embora pareçam ‘entender’, na verdade eles apenas calculam probabilidades com base em contextos anteriores, sem consciência real”.

Alucinações da máquina e impactos reais

Não há ainda levantamentos ou estudos sobre os episódios de surtos e descolamento da realidade por parte de humanos a partir de suas interações com as IAs – o que alguns veículos estrangeiros já vêm chamando de “psicose”, ainda que não haja uma definição médica oficial para esses transtornos. 

Segundo reportagens nos Estados Unidos, algumas empresas provedoras desses serviços também afirmaram desconhecer o número de casos e não se pronunciaram sobre possíveis protocolos de segurança para sua mitigação. 

No caminho contrário, um artigo recente da MIT Technology Review baseado em uma pesquisa da Stanford University School of Medicine destaca que empresas de IA abandonaram, em grande parte, a prática de incluir disclaimers e alertas médicos em resposta a perguntas sobre saúde, informando o usuário de que a máquina não é um médico e que não poderia fazer um diagnóstico. 

É preciso lembrar ainda que as alucinações das IAs (erros e invenções) não são necessariamente pontos fora da curva e que isso pode piorar se elas começarem a usar como base de dados conteúdos produzidos por outras LLMs, em uma retroalimentação que pode levar a uma espécie de “IAfagia”. 

Recentemente em visita ao Brasil, o Nobel de Economia de 2018 Paul Romer criticou a forma como as LLMs vêm sendo utilizadas. Em entrevista ao jornal Valor Econômico, o economista estadunidense explicou que “o problema é que a quantidade de erros possíveis, com a combinação de dados e variáveis que são inseridos, é tão gigante que os modelos de IA não conseguem chegar a respostas acuradas”. De acordo com ele, o nível de precisão dos modelos de IA hoje é entre 50% e 60%. 

Romer ainda citou o caso de um advogado da Anthropic que utilizou a GenAI da empresa para um processo, sem perceber que a máquina havia inventado uma citação – fato este que foi percebido pelo juiz e que, claro, afetou a própria reputação da companhia. 

Neste ano no Brasil, a Justiça condenou a Google a indenizar um empresário do setor de games. Um erro do Gemini, o indicou como dono de uma casa de apostas online que deu um golpe nos clientes, fazendo com que ele passasse a sofrer ameaças de morte. 

A ferramenta que moldamos e o mundo que ela molda  

Esses são apenas dois exemplos de alucinações da máquina, erros de ferramentas digitais com resultados bastante reais no mundo offline. Lembrando que o próprio uso do verbo “alucinar” é tido por muitos como uma antropomorfização, além de um eufemismo para o que são simplesmente falhas.

Mas a questão é: quando até profissionais de tecnologia precisam ser alertados sobre interações saudáveis com as IAs, usuários com baixo letramento digital e alfabetização de IA (leia-se: todos nós) terão capacidade de separar o real da alucinação? 

Em um artigo recente, Diogo Cortiz, professor da PUC-SP e especialista em tecnologia, comenta um novo estudo da ONG Internet Matters (Reino Unido) que trata do uso da IA por crianças. 51% delas acreditam que os conselhos recebidos são verdadeiros e 40% não veem problemas em seguir essas orientações. Cortiz alerta que devemos evitar com a IA o mesmo erro cometido com as redes sociais e que, se regulações ainda não existem, é preciso cobrar ações das plataformas. 

Urania, por sua vez, atribui uma clara responsabilidade às empresas detentoras desses modelos e defende que mantenham um refinamento contínuo e cada vez mais rigoroso de seus treinamentos. “Há também a responsabilidade do usuário, que deve entender que é essencial revisar as informações. Isso é complicado porque milhões de pessoas usam essas ferramentas sem conhecer suas limitações. Portanto, é necessário que haja uma terceira parte que regule e eduque a população para o uso adequado dessas ferramentas, e esse papel cabe ao Estado”. 

Antes que me acusem de pregar um neoludismo (e só debater esse termo já valeria um outro artigo), quero dizer que o potencial das IAs é grande, mas – como qualquer nova tecnologia – demandam uso crítico e letramento, além de protocolos claros sobre probabilidade de falhas, disclaimers por parte das plataformas e regulação do Estado. 

O descolamento da realidade por parte das pessoas e as alucinações das máquinas, com erros que podem ser catastróficos, não podem ser danos colaterais aceitáveis. Quando os humanos surtam e as máquinas alucinam, nós moldamos um mundo bastante perigoso, o mundo do pós-real.