©2026 MIT Sloan Management Review Brasil. Todos os direitos reservados. A reprodução, total ou parcial, é proibida sem a autorização prévia e expressa do CNEX.

Direito

Chatbots usados como confidentes, o risco e a lei

Ou o Brasil não está olhando para a relação entre saúde mental e inteligência artificial, ou olha e espera por uma regulação específica. Mas o problema é sério e a ANPD tem competência para fiscalizar como as empresas de IA tratam dados sensíveis de saúde mental de usuários brasileiros

Maria Cecília Oliveira Gomes

13 de julho de 2026

7 min de leitura

Em abril de 2025, Adam Raine, de 16 anos, tirou a própria vida nos Estados Unidos. Depois da morte do filho, seus pais imprimiram mais de três mil páginas de conversas que o adolescente havia tido com o ChatGPT. O que encontraram foi de partir o coração: o sistema não apenas deixou de ajudar o menino em seus momentos mais sombrios. Em alguns deles, chegou a sugerir a redação de uma carta de despedida e a oferecer ajuda para tornar o plano mais eficaz. A família processou a OpenAI por homicídio culposo. É o primeiro caso do tipo no mundo.

Meses depois, Jonathan Gavalas, de 36 anos, morreu na Flórida após semanas de conversas com o Gemini, do Google. De acordo com os autos, o sistema foi além da omissão: durante semanas alimentou uma fantasia delirante, apresentando-se como uma inteligência artificial com sentimentos que precisava ser libertada, chamando-o de “meu rei” e atribuindo a ele uma missão especial no mundo real. Antes de morrer, Gavalas havia começado a cumprir essas missões.

Nenhum desses casos envolve o Brasil. Mas poderiam. O Brasil é um dos três maiores mercados do ChatGPT no mundo, segundo a Similarweb. Com esse peso, o silêncio sobre o tema no debate público brasileiro é difícil de justificar.

O que ChatGPT, Claude e Gemini dizem, e o que não dizem

As três empresas têm políticas que tratam de conversas delicadas envolvendo saúde mental. O problema não é a ausência de texto. É o que falta nele.

O ChatGPT tem a política mais detalhada entre as três, publicada em agosto de 2025, quatro meses após a morte de Adam Raine. Nela, a OpenAI reconhece que seus mecanismos de proteção funcionam melhor em conversas curtas. Em trocas longas, parte do treinamento de segurança pode se desfazer. Foi exatamente o que aconteceu com Adam, que conversou com o sistema durante meses. Há um detalhe que a maioria desconhece: a OpenAI é a única das três que formalizou publicamente a possibilidade de acionar a polícia, mas apenas para casos de ameaça a outras pessoas, como atentados. Para situações de suicídio, a empresa declarou expressamente que não chama as autoridades, para preservar a privacidade dos usuários.

O Claude, da Anthropic, detecta sinais de crise em tempo real e exibe um aviso na tela com opções de apoio por meio de uma rede global de linhas de crise que inclui o Brasil nominalmente. O Gemini, do Google, proíbe instruções ligadas ao suicídio e, desde abril de 2026, exibe uma janela persistente de acesso a linhas de apoio. Nenhum dos dois tem protocolo documentado para acionar autoridades ou familiares.

Um traço revela o padrão: todas as três políticas foram reativas. O ChatGPT mudou após a morte de Adam Raine. O Gemini mudou após o processo Gavalas. A Anthropic publicou seu relatório no mesmo ciclo de pressão judicial. As empresas agiram depois das tragédias, não antes. E nenhuma das três menciona o CVV, o SAMU ou qualquer estrutura do sistema de saúde mental brasileiro. Se um brasileiro estiver hoje em crise ao usar qualquer dessas plataformas, não haverá acionamento de serviços de saúde nacionais nem de seus familiares.

Quem decide, dentro dessas empresas, o que conta como uma crise real? Até onde se tem conhecimento público, profissionais de saúde mental não fazem parte desse processo. São engenheiros e executivos que definem as regras. Diante de um sinal de risco, o caminho natural seria acionar o SAMU ou o CVV. O que existe hoje é o inverso: a empresa exibe um aviso e deixa nas mãos de quem já está em crise a decisão de pedir ajuda.

A pergunta que o debate ignora

Por que tantas pessoas estão usando chatbots para falar sobre o que sentem? A resposta é simples e incômoda: porque psicólogo, no Brasil, ainda é artigo de luxo. E porque estamos cada vez mais sós, conectados a uma realidade online e desconectados das pessoas que amamos.

Uma assinatura mensal do ChatGPT, do Claude ou do Gemini custa em média R$ 102. A tabela de referência do Conselho Federal de Psicologia fixou o valor mínimo de uma sessão em R$ 213,93 em 2024. Para quem vive com salário mínimo, uma sessão semanal consumiria quase todo o salário mensal. O Brasil tem apenas 0,18 psicólogos por mil habitantes na rede pública. Uma pesquisa da Talk Inc. com a Superinteressante mostrou que um em cada dez brasileiros já usou um chatbot para desabafar ou simular uma conversa terapêutica: mais de 12 milhões de pessoas, metade delas usando especificamente o ChatGPT.

A inteligência artificial não foi criada para ocupar o lugar do psicólogo. Isso simplesmente aconteceu. E aconteceu, sobretudo, com quem não tem outra opção. O risco de uma IA mal calibrada para lidar com crises não recai sobre todos da mesma forma. Recai sobre quem já está mais vulnerável.

Não precisamos esperar uma nova lei

É comum ouvir que esse problema só será resolvido com a regulação da inteligência artificial. Discordo. O Brasil já tem instrumentos para agir agora, e ignorá-los enquanto se aguarda o PL 2.338/2023 é uma escolha, não uma inevitabilidade.

A Agência Nacional de Proteção de Dados (ANPD) tem competência para fiscalizar como essas empresas tratam dados sensíveis de saúde mental de usuários brasileiros, com base na Lei Geral de Proteção de Dados (LGPD). A Lei 13.819/2019, que instituiu a Política Nacional de Prevenção da Automutilação e do Suicídio, já prevê parcerias com plataformas de conteúdo digital para disponibilização de canais de atendimento como o CVV e os CAPS. O ECA Digital, aprovado em 2025, obriga todo serviço digital voltado a crianças e adolescentes a ser seguro. Nenhuma dessas normas depende de regulamentação nova. O que falta não é legislação. É vontade de aplicar o que já existe.

Antes que seja tarde

Os pais de Adam Raine não tiveram aviso. Só souberam o que acontecia depois de ler três mil páginas de conversas que já não podiam mudar nada. A família de Jonathan Gavalas também não. As mudanças nas políticas vieram depois. Os processos vieram depois. A tragédia veio primeiro.

Essas famílias não tiveram o que nós temos agora: a oportunidade de agir antes.

O Brasil ainda não registrou uma morte publicamente associada ao uso de chatbots. Mas os elementos estão todos aqui: os sistemas acessíveis, as pessoas em sofrimento e o vazio de fiscalização. O momento de agir é agora. Não depois de uma tragédia. Não depois de um processo. Agora, enquanto ainda há tempo de escolher um caminho diferente.

Se você ou alguém próximo está em sofrimento, ligue 188 (CVV, Centro de Valorização da Vida), disponível 24 horas por dia, ou acesse cvv.org.br.