O fim da lua de mel com o ChatGPT

A inteligência artificial (IA) é antiga – já existe como um campo da ciência há 70 anos. Aplicamos seus progressos há muito tempo, sem, no entanto, nos darmos conta, no fenômeno conhecido como “odd-paradox”.

Silenciosamente, a IA vem sendo usada em jogos desde a década de 1950, evoluindo de tomadas de decisão simples no Jogo da Velha para comportamentos complexos em títulos modernos, incorporando técnicas avançadas como aprendizado de máquina e redes neurais para aprimorar a jogabilidade e o realismo. Há décadas, algoritmos de IA são o tempero secreto das buscas no Google, nos filtros anti-spam e nos antivírus.

Em 2018, na University of California em Berkeley, nos Estados Unidos, tive o primeiro contato com os grandes modelos de linguagem (LLMs, na sigla em inglês) e com a arquitetura de rede neural transformers, que são usadas no ChatGPT. Inicialmente, com interesse no impacto na mídia, trabalhei na geração automatizada de notícias e até de horóscopo, com resultados muito interessantes. Também trabalhei em soluções para ajudar em minhas pesquisas, como aplicação de processamento da linguagem natural para ler e resumir os papers científicos de meus campos de interesse para me manter atualizado. Com a evolução, acabei entrando em alguns projetos de automação, atendendo demandas de negócios ou mesmo desenvolvendo casos de uso em caráter experimental ou de pesquisa.

Era previsível que a nova versão do ChatGPT traria grandes surpresas para o público geral, algo que apontei como tendência na edição do início de 2022 do relatório “xTech Trends”, da Singularity University. De fato, como esperado, a versão 3.5 do ChatGPT, lançada no fim de 2022, causou um enorme alvoroço. A IA finalmente saiu do silêncio com a adoção sem precedentes do ChatGPT. Em apenas cinco dias, a ferramenta atingiu 1 milhão de usuários – hoje são mais de 180 milhões. O poder da IA generativa alcançou o grande público, e os surpreendentes resultados com as experiências iniciais criaram um hype em torno das muitas possibilidades.

Apesar de ser um grande entusiasta do tema e usuário desses modelos e ferramentas, percebi que o deslumbramento em torno foi muito grande, principalmente entre executivos, empreendedores e investidores, a ponto de criar uma sensação de “fomo” (sigla em inglês para “medo de ficar de fora”). Durante alguns meses em reuniões com a liderança de várias empresas, ouvia comentários como: “Precisamos fazer algo rápido com o ChatGPT” ou “O CEO está cobrando uma solução com ChatGPT”.

Ao explorar essas necessidades, percebi que muitas das expectativas do que se desejava fazer com o ChatGPT em curtíssimo prazo não eram realistas. Mas, mesmo ao tentar, cuidadosamente, explicar isso, os ouvidos não estavam abertos. O problema é que a crença nos superpoderes do ChatGPT criou nas pessoas expectativas de desempenho em aplicações e casos de uso para os quais a tecnologia ainda não está preparada. Isso cria ao menos quatro problemas.

Para explicar tais problemas, recorrerei ao Hype Cycle, a famosa representação gráfica desenvolvida pelo Gartner Group que explica os estágios da relação entre expectativa dos usuários e a maturidade de uma tecnologia – e também o que podemos esperar nos diferentes estágios dessa relação. Posso testemunhar sobre a utilidade do modelo por ter vivenciado e observado a aderência de todos os seus estágios para alguns progressos tecnológicos, como a internet para telefones celulares no início dos anos 2000. Atualmente, o modelo explica bem o que está acontecendo com o tema ChatGPT e IA generativa.

No modelo, a relação entre maturidade tecnológica e expectativa dos usuários é dividida em cinco fases. Na primeira, ocorre o “gatilho da inovação tecnológica”, em que surge uma nova tecnologia e as informações sobre ela se difundem por meio de seus usuários iniciais. O ChatGPT, como produto aberto ao público, foi lançado em novembro de 2022, após uma série de versões, que os desenvolvedores ainda não consideraram adequadas para lançar.

Essas primeiras informações misturam fatos com opiniões pessoais sobre possibilidades atuais e futuras, sem rigor científico, bem como demonstrações de exemplos que são impressionantes, mas que não necessariamente generalizam ou funcionam em qualquer situação. Essa enxurrada de informações demasiadamente otimistas inunda o imaginário de todos e direciona a curiosidade da mídia em falar com especialistas e pseudo-especialistas. Muita gente imagina ganhar dinheiro com consultorias milagrosas em cima de novas possibilidades.

Com isso, o hype está criado, e as expectativas ficam desproporcionalmente maiores do que aquilo que a tecnologia realmente pode oferecer. É a segunda fase do ciclo, chamada de “lua de mel com a tecnologia”. O ano de 2023 foi marcado por esse encantamento irreal com a ferramenta, e muita gente ainda deve ficar nessa “lua de mel” por um tempo.

Atualmente, aquilo que o senso comum acredita ser possível fazer com o estágio atual de desenvolvimento dessas tecnologias é desproporcionalmente maior do que a realidade diante do nível atual de maturidade delas. Quanto maior for esse pico, maiores serão as consequências dos quatro problemas que apresento a seguir:

Primeiro problema. Sem dúvida, investimentos malfeitos saem na frente. Isso porque a maior parte das informações é, na verdade, ruído. Elas misturam opiniões pessoais, com visões de futuro, generalizações e distorções. Esse ruído, combinado com o “fomo”, embasa a tomada de decisão de profissionais para aplicações mais sérias. Essas decisões envolvem investimentos em pessoas, tempo e recursos financeiros consideráveis, vinculados a expectativas de retorno. Infelizmente, na maior parte das vezes, o retorno não acontece, pelo menos não da forma otimista que levou àquela decisão.

Segundo problema. É a consequência do uso incorreto. No caso desse tipo de tecnologia, não é simples validar a qualidade do que está sendo gerado, pois ela foi desenvolvida para ser convincente nos textos que gera. E tal objetivo gera alguns efeitos colaterais, como mentiras e delírios. Mas, diante da crença de que se trata de uma inteligência superior, em muitas aplicações, não é considerado o investimento necessário em garantia de qualidade. E, então, a solução é utilizada com problemas que acabam, durante algum período, despercebidos. Dependendo do ramo, os impactos podem ser graves.

Um exemplo do segundo problema é o uso tentador do ChatGPT nas tarefas de um advogado e até no Judiciário. Num momento inicial, faz todo sentido, pois os textos são a “matéria-prima” utilizada pelos profissionais da área em seus processos. No entanto, esse uso tem sido desastroso.

Nos EUA, vários advogados perderam sua licença por escreverem peças utilizando o ChatGPT, que se baseou em jurisprudência falsa. Ou seja, para criar um texto convincente, que pudesse persuadir juízes a uma decisão favorável, a ferramenta delirou. Ao usar uma jurisprudência falsa, ou seja, o conjunto de decisões, interpretações e aplicações das leis feitas pelos tribunais, que servem como referência para casos futuros semelhantes, os advogados, mesmo sem intenção, cometeram um crime. Isso porque tiveram a expectativa irreal de que a IA poderia ser usada dessa forma com segurança. Vale ressaltar que os casos mostrados na mídia americana são apenas aqueles em que o fenômeno foi percebido.

A mesma coisa está acontecendo nas empresas. Em meados de 2023, comecei a ser procurado por executivos com demandas por consultoria em projetos em andamento (em alguns casos com investimentos bem elevados), que se propunham a criar casos de uso demasiadamente ambiciosos. Por estarem comprometidos com a alta liderança da empresa, eles precisavam a qualquer custo que aquilo funcionasse.

Terceiro problema. Por conta do compromisso estabelecido, somado ao viés cognitivo de aversão à perda, vem o problema de número três: aumenta-se o investimento e o tamanho da aposta para entregar a promessa. Em várias ocasiões, depois de entender o caso de uso, minha resposta foi diferente daquilo que se desejava ouvir: “Infelizmente não há como fazer isso funcionar por completo com o grau atual da tecnologia”. Geralmente existem estratégias para se fazer um soft landing ao gerar valor com uma parte do caso de uso (e elas podem evitar ou reduzir a magnitude do quarto problema, apresentado a seguir).

Quarto problema. Imagine que haja uma segunda fase de lua de mel com a tecnologia, em que ninguém vê ou presta atenção em seus defeitos, apesar de eles existirem. Essa analogia ajuda a explicar a origem do quarto problema com a IA generativa, quando os defeitos ficam visíveis. Quanto maior a expectativa não atendida, maior será a decepção, e infelizmente o tempo que leva para essa transição e para a atenção aos problemas é muitas vezes recheado por investimentos e compromissos consideráveis. Sem os resultados compatíveis, chega-se ao “vale da desilusão”, caracterizado pela redução drástica do interesse pela inovação, pois as expectativas não se concretizaram.

Ocorre que a falta de interesse leva geralmente ao outro extremo, em que, algumas vezes, a expectativa em relação à tecnologia fica mais baixa do que o que ela pode oferecer naquele grau de maturidade. Vale ressaltar que à medida que o tempo passa, novas versões e atualizações da tecnologia surgem, e o progresso tecnológico continua a ocorrer independentemente da montanha-russa entre entusiasmo e desapontamento. O desinteresse pode levar os usuários decepcionados a ignorar até aplicações úteis a eles. Surge assim um flanco que pode levar a empresa a perder oportunidades e espaço para os competidores.

Mas, como a inovação não para de evoluir, aos poucos a expectativa das pessoas volta a crescer, caracterizando a quarta fase do Ciclo de Hype, conhecida como “ladeira do esclarecimento”. Nessa fase, o excesso de ruído já passou, pois o tema já caiu em desinteresse. Como ele não gera mais audiência, a grande mídia também deixa de acompanhar de perto. Com menos ruído, os verdadeiros especialistas ganham mais voz e conseguem aos poucos ajudar as empresas a explicar como a tecnologia realmente funciona, como ela pode ser útil e como ela pode ser aplicada de modo mais realista. Com isso, novos investimentos são feitos e o retorno começa a aparecer.

Por fim, quando a expectativa dos usuários se torna compatível com o grau de maturidade da tecnologia ao longo do tempo, chegamos ao quinto estágio do ciclo de inovação do Gartner, conhecido como “platô da produtividade”. Com isso, a montanha-russa do grau de expectativa se estabiliza em um patamar mais realista, e a adoção da tecnologia é retomada de maneira mais estável, permanente e generalizada. Vale ressaltar que às vezes isso ocorre com a ferramenta em franca evolução para se tornar parte de um produto novo ou para ressurgir com uma nova cara, o que muitas vezes muda a forma como ela é percebida e utilizada.

Como a adoção e o interesse em relação ao ChatGPT ocorreram a uma velocidade sem precedentes na história das inovações tecnológicas, os usuários, nas esferas pessoal e profissional, chegaram rápido demais à “lua de mel com a tecnologia”. O estágio do ciclo em que os usuários e as empresas se encontram hoje difere. De fato, como pude perceber no segundo semestre de 2023, vários já estavam caminhando para o “vale da desilusão” – o pragmatismo deles definirá quais serão os próximos passos desse casamento. Há ainda alguns usuários que já atingiram a “ladeira do esclarecimento”.

A mesma análise se aplica a outras inovações tecnológicas. Observar a evolução da expectativa geral frente ao grau de maturidade é importante porque, ao compreendermos a evolução desse ciclo, podemos gerenciar expectativas e investimentos de maneira adequada tanto no plano pessoal quanto no plano profissional, reduzindo as chances de sermos atingidos pelos quatro problemas que descrevi.