O império da personalização – e o que vem depois

Lembro de uma aula de física no colégio, no interior de São Paulo, quando meu professor fez uma pausa na explicação para uma reflexão filosófica e perguntou a um colega de sala: “Quem é você?”

Meu amigo, pego de surpresa e sob o peso de todos os olhares, tentou formular uma resposta, mas se atrapalhou. No fim, sorriu sem graça e soltou: “Essa é uma ótima pergunta.”

Agora, imagine essa mesma pergunta sendo feita em 2025. Mas, dessa vez, quem responderia por esse amigo seria uma big tech em algum lugar do mundo. Talvez, com mais precisão do que ele próprio.

Não se trata apenas de saber seu nome, profissão ou interesses — isso é só a superfície. Essa (hipotética) empresa teria construído um perfil muito mais profundo, indo além do que você clica, de onde mora ou com quem interage. Ela decifraria seus medos, anseios e, talvez, até seus planos futuros.

E o mais impressionante? Ela nunca precisou te perguntar nada. Foi você quem a alimentou, sem perceber, por meio de suas interações com a inteligência artificial generativa que ela desenvolveu. Essa “inteligência” acessou suas camadas mais íntimas — não para compreendê-lo, mas para gerar novas informações sobre você.

É fato: a tão anunciada era da personalização deu um salto de dois anos para cá. Antes, definir perfis era essencial para negócios, campanhas de marketing e estratégias políticas, mas a segmentação era rudimentar — baseada em idade, gênero, renda e localização. Com o avanço dos smartphones, aplicativos e redes sociais, esse cenário mudou drasticamente.

Não basta mais saber onde você mora; agora, sua localização em tempo real, seus hábitos de navegação e cada interação digital transformaram o antigo retrato estático em um holograma dinâmico, que se reconfigura a cada clique, a cada pausa, a cada decisão não tomada.

Ainda assim, parece haver uma camada interna do nosso ser intransponível — pensamentos ainda não verbalizados, emoções não expressas. Parece. Talvez essa fronteira esteja prestes a ser ultrapassada. Ou, quem sabe, já tenha sido!

Recentemente, tenho refletido sobre como a popularização do ChatGPT da OpenAI e de outros modelos semelhantes e me levantado uma questão intrigante: o que exatamente essas IAs conseguem captar sobre nós a partir dessas interações livres?

Em busca da resposta, resolvi indagar diretamente à IA com a qual interajo diariamente. O prompt foi: “Construa um perfil com tudo o que sabe sobre mim.” Em meu caso, a IA conta com meses de registros. Analisando-os, a IA traçou minha trajetória acadêmica, mencionou os idiomas que estou aprendendo, destacou meus interesses e até fez referência a alguns planos futuros. Muitas das informações realmente haviam sido compartilhadas ao longo de nossas interações, e alguns pedidos de ajuda com a gramática italiana foram suficientes para ela deduzir meu esforço de aprender o idioma sem eu mencioná-lo.

Mas, sabendo que já existem modelos capazes de analisar padrões de linguagem e traços emocionais, surgiu uma nova questão: seria possível que a IA captasse aspectos mais profundos da minha personalidade, indo além do que conscientemente compartilhei? Perguntei isso, com um novo prompt. Poderia ela analisar meu vocabulário, minhas indagações, meu tom emocional e os padrões mais recorrentes para traçar um perfil psicológico mais completo? O resultado me levou a escrever este artigo, pensando nas diversas aplicações que isso poderia trazer conforme sua evolução.

O prompt inicial foi: “Construa um perfil com tudo o que sabe sobre mim”. O segundo prompt pediu para ela captar aspectos mais profundos da minha personalidade analisando padrões de linguagem e traços emocionais

A IA analisou meu vocabulário, tom emocional e padrões recorrentes de temas, extrapolando a interpretação para identificar traços de personalidade, tendências emocionais e até possíveis medos e desafios internos que, segundo sua própria análise, estavam implícitos na forma como formulei minhas perguntas. O que veio foi uma tradução sofisticada de algo que se aproxima, sim, da minha identidade.

A IA construiu isso a partir de correlações sutis entre a escolha das palavras, a frequência com que determinados assuntos surgiram, o estilo de argumentação e os padrões subjacentes ao meu raciocínio—tudo isso sem que eu tivesse fornecido respostas diretas a um questionário estruturado.

Veja: não acredito que a IA já esteja, neste momento, apta a definir um perfil psicológico completo e rigorosamente preciso. Mas vale a pena fazer estudos na área da psicologia para entender até onde vai esse potencial. O demonstrado, afinal, sugere que estamos avançando – rápido – para um futuro em que isso pode ser possível. A forma como a IA já consegue organizar e entender aspectos subjetivos a partir de interações espontâneas levanta um questionamento inevitável: se, mesmo sem acesso direto a dados emocionais ou relatos pessoais, ela foi capaz de estruturar um esboço do meu perfil psicológico, o que aconteceria em cenários onde indivíduos compartilham abertamente seus dilemas emocionais e experiências de vida?

Outra observação importante é: na minha interação, a IA trabalhou essencialmente com informações voltadas a trabalho, estudo e pesquisa, pois são essas as áreas nas quais a aciono. No entanto, é cada vez mais comum o relato de pessoas que recorrem à IA para conversar sobre emoções, angústias e questões psicológicas. Imagine o que pode ocorrer com adolescentes, que desde cedo, expõem suas inseguranças e dilemas mais profundos para um sistema integrado a algo maior. Como será a identidade digital dessas pessoas no futuro? E até que ponto isso ainda é personalização — e quando se torna manipulação?

O limiar entre personalização e manipulação

Quando aplicada corretamente, a personalização aprimora a experiência do usuário. A Netflix sugere filmes alinhados aos seus interesses, e o Spotify recomenda músicas que correspondem ao seu estilo. Essas sugestões economizam tempo e tornam a navegação mais fluída e intuitiva.

Contudo, os mesmos algoritmos que otimizam escolhas também têm o poder de moldar percepções, influenciar hábitos de consumo e até alterar a noção de tempo, mantendo os usuários imersos em um ciclo constante de engajamento. O problema surge quando essa personalização ultrapassa decisões triviais e começa a impactar escolhas mais profundas — um risco que se amplifica à medida que perfis psicológicos são construídos e utilizados.

Esse fenômeno não é novo. Um exemplo emblemático do uso dessa abordagem para manipulação em larga escala foi o escândalo da Cambridge Analytica. A empresa coletou e analisou dados de milhões de usuários do Facebook, criando mensagens políticas altamente personalizadas e explorando vulnerabilidades emocionais para influenciar votos sem que o público percebesse estar sendo manipulado. O impacto foi global, com repercussões tanto nas eleições americanas quanto no referendo do Brexit no Reino Unido.

Naquele momento, a empresa utilizou um simples quiz de personalidade para construir perfis detalhados dos usuários, combinados com informações públicas do Facebook. Porém, a questão que se coloca agora é: se essa estratégia já era eficaz em 2018, o que dizer do potencial uso de dados coletados pelas Inteligências Artificiais Generativas, combinados com as interações nas redes sociais? Esses modelos avançados poderiam aumentar ainda mais os riscos de manipulação.

Sempre que ocorrem debates intensos sobre temas polêmicos — seja em redes sociais, fóruns ou plataformas de vídeo — os usuários se posicionam, reagem emocionalmente e interagem de maneira intensa. Cada curtida, comentário e compartilhamento não apenas revela opiniões políticas e sociais, mas também expõe traços psicológicos profundos, níveis de polarização e padrões de comportamento coletivo. Essas interações se tornam uma fonte rica de dados que, quando combinada com tecnologias avançadas, pode ser usada para ajustar mensagens e influenciar ainda mais as escolhas dos indivíduos.

Essas reações e o engajamento gerados durante esses debates são valiosos para as plataformas, pois aumentam o tempo de permanência dos usuários. No entanto, o real valor dos dados vai além da simples retenção de atenção: eles oferecem uma compreensão detalhada de como diferentes grupos reagem a determinados discursos e eventos. Com essas informações, é possível prever tendências políticas, ajustar narrativas e até antecipar crises sociais. Esse processo não se limita mais à personalização de preferências individuais, mas pode ter implicações profundas no comportamento coletivo e na manipulação de massas.

Portanto, os dados provenientes das interações nas redes sociais, combinados com as interações com IAs, tornam-se uma poderosa fonte de influência — da decisão de compra aos rumos políticos e econômicos das nações. 

A nova corrida tecnológica e suas implicações geopolíticas

Ao analisar uma das diversas aplicações dos dados gerados pela inteligência artificial, é possível compreender que o domínio dessas tecnologias concede a algumas nações uma influência sem precedentes sobre populações estrangeiras, podendo impactar desde negociações comerciais até estratégias de desinformação e guerra híbrida.

O controle da informação, especialmente na criação de perfis, não é menos relevante que outras aplicações tecnológicas. Essa importância pode ser vista à luz do contexto histórico. O controle da informação sempre foi uma ferramenta crucial para os países. No passado, serviços postais como os Correios no Brasil eram considerados vitais para a segurança nacional e a integração territorial. Para proteger sua soberania informacional, os Estados limitavam o capital estrangeiro nessas empresas, além de controlarem as concessões de rádio e TV.

Entretanto, com a queda das barreiras físicas e a ascensão da comunicação digital, o tema dos dados se expandiu para uma escala global. Com exceção de alguns países que ainda buscam se proteger do poder de influência externa, o acesso e o uso das informações dos usuários tornaram-se questões centrais, marcando inclusive o embate geopolítico entre duas superpotências, China e Estados Unidos, que coincidentemente disputam a liderança e, por consequência, o controle dos dados globais

Recentemente os Estados Unidos exigiu que TikTok efetuasse a venda do controle por questões de segurança nacional. Paralelamente, a China adota políticas próprias, bloqueando produtos e serviços digitais americanos em seu território. Neste cenário de disputa, os americanos anunciaram um investimento de US$ 100 bilhões nos próximos quatro anos para fortalecer sua infraestrutura de IA e assegurar a liderança de suas Big Techs. Enquanto isso, os Chineses avançaram de maneira estratégica, surpreendendo o mundo com o DeepSeek, um modelo de IA capaz de competir com os principais players ocidentais, utilizando apenas uma fração do poder computacional.

Diante desse cenário, a regulação e o controle dessas tecnologias emergem como fatores decisivos para definir os limites e o alcance desse poder. A Europa, por exemplo, além de anunciar um investimento de 200 bilhões de euros para reduzir sua dependência tecnológica externa, tem buscado desenvolver formas de regulamentação e proteção para preservar sua posição estratégica no novo cenário digital global. 

A regulação das tecnologias emergentes

Considerando o contexto atual, fica claro que o debate sobre o uso de dados pessoais vai muito além da proteção dos direitos individuais. Ele se tornou uma questão central sobre como as nações serão influenciadas no futuro. Recentemente, a Europa consolidou seu papel de liderança na regulação do uso de dados pessoais, com a introdução do Regulamento Geral de Proteção de Dados (GDPR) e, mais recentemente, com o avanço da AI Act, a primeira legislação abrangente voltada para a regulação da inteligência artificial.

O Brasil também tem se destacado, ao implementar a Lei Geral de Proteção de Dados (LGPD), que estabelece diretrizes claras para a coleta, uso e tratamento de dados pessoais, oferecendo maior transparência e controle aos usuários.

No entanto, a regulação enfrenta desafios crescentes em termos de fiscalização e implementação. A personalização extrema das interações digitais ameaça redefinir a própria noção de privacidade, principalmente à medida que camadas psicológicas mais profundas dos indivíduos começam a ser analisadas e utilizadas. Nesse cenário, a opacidade no uso de IAs generativas cria incertezas sobre quem realmente controla essas informações e como elas serão usadas.

Sem ética e transparência no tratamento desses dados, o caminho parece claro: uma reação regulatória mais intensa, a perda de confiança dos consumidores e restrições severas para empresas que não priorizarem o consentimento explícito. Mais do que multas ou sanções, essas empresas poderão ser vistas como facilitadoras da exploração psicológica em larga escala.

Além disso, governos que utilizarem dados de maneira indiscriminada enfrentarão riscos estratégicos significativos, como a fuga de capital e inovação, além da migração de usuários e empresas de tecnologia para ecossistemas digitais mais seguros e estáveis.

O FUTURO NÃO SERÁ MOLDADO apenas pelos avanços tecnológicos, mas pelas escolhas regulatórias, empresariais e sociais que fizermos nos próximos anos. Se a personalização extrema se consolidar sem uma base de transparência, podemos estar abrindo caminho para uma nova forma de influência invisível — uma que opera abaixo da nossa percepção consciente. E, quando essas tecnologias começarem a explorar nossos medos, desejos e padrões psicológicos para criar perfis ultra-segmentados, ainda poderemos afirmar que temos controle sobre nossas próprias decisões?