Mastercard: como lidar com IA generativa e governança

Se você assistiu ao filme Tudo em Todo o Lugar ao Mesmo Tempo, pode ter tido a mesma reação que tivemos. Excitante e impressionante? Sem dúvida, é uma das razões para ter levado sete Oscars. Um presságio? Talvez. Já que os cientistas têm explorado a ideia do multiverso, o filme oferece uma amostra de como pode ser. Um tanto bizarro e confuso? Bom, ao menos para nós.

JoAnn Stonier, CDO (chief data officer) da Mastercard até pouco tempo atrás, fez uma comparação bastante adequada entre o filme a IA generativa em um painel de que participou recentemente. “Tudo em Todo o Lugar ao Mesmo Tempo” é uma boa maneira de caracterizar essa tecnologia: excitante, confusa e importante, de uma vez só. Já escrevemos antes sobre Stonier e seu posicionamento incomum como um dos poucos CDOs fortemente dedicados às questões éticas relacionadas ao uso de dados ao longo do tempo. Nós a entrevistamos em um de seus últimos dias nessa posição, uma vez que agora irá trabalhar com temas voltados à ética e uso de dados em IA.

É quase um alívio descobrir que Stonier e a Mastercard ainda estão tateando para achar o rumo no que tange à IA generativa. Mais da metade dos que responderam a uma pesquisa recente da Venture Beat disseram que as empresas em que trabalham estão testando o uso de IA, mas apenas 18% começaram sua implantação. O mesmo percentual disse que mais deve ser gasto em tecnologia no próximo ano.

É um alívio descobrir que Stonier e a Mastercard ainda estão tateando para achar o rumo no que tange à IA generativa. Mais da metade dos que responderam a uma pesquisa recente da Venture Beat disseram que as empresas em que trabalham estão testando o uso de IA, mas apenas 18% começaram sua implantação. O mesmo percentual disse que mais deve ser gasto em tecnologia no próximo ano.

É claro que a Mastercard tem um longo histórico com dados, análises e inteligência artificial. Sabe-se há mais de um ano de seus esforços para se tornar uma usina geradora. É uma empresa com mais de uma década fazendo experiências nesse assunto, principalmente em cibersegurança. Deve ser um conforto para o mercado ver uma empresa com tamanho porte e experiência estar ainda trabalhando em detalhes de sua estratégia de uso de IA generativa.

O que a Mastercard já sabe

A larga experiência da Mastercard com formas mais antigas de IA levou à constituição de uma governança e metodologia bastante sólidas. Esse processo envolve o entendimento dos dados e dos modelos, revisão dos produtos e outros resultados de um alto patamar.

Cada uma dessas etapas será aplicada na avaliação de modelos generativos, mas é provável que de maneiras diferentes. Claro que a empresa conta com grandes volumes de dados numéricos, mas os que são usados em IA generativa incluem muitas imagens e textos pouco estruturados. Dado o porte e complexidade dos modelos generativos, entender exatamente o que uma certa entrada irá gerar é muito desafiador. Isso aumenta a importância de revisar os resultados em relação à precisão, vieses ou linguagem tóxica, valor para o usuário, assim como consequências involuntárias para indivíduos, organizações, e ecossistemas em que venha a ser usado.

Apesar das incertezas inerentes à tecnologia, a Mastercard já estabeleceu algumas políticas em relação à IA generativa. Logo depois da chegada do ChatGPT em novembro de 2022, a empresa publicou diretrizes para garantir que os funcionários usassem a nova tecnologia de forma responsável. Isto estimula a experimentação interna de modelos oferecidos pelos fornecedores ao mesmo tempo que protege informações confidenciais.

Algumas empresas chegaram a proibir o uso do ChatGPT e outros modelos de linguagem, mas a Mastercard não entrou nessa onda. “Alguns usos que tivemos foram mais criativos que outros, mas não tivemos problemas até agora”, disse Stonier. Talvez porque, observou, “todos na organização estão hoje mais ligados e engajados digitalmente, e percebem a governança como parte do seu trabalho.”

Se edealmente toda organização deveria proporcionar um aprendizado sobre IA generativa aos seus executivos e membros do conselho, a Mastercard cuidou disso, como seria de esperar. Foram oferecidas múltiplas sessões ao grupo executivo e ao conselho para cobrir diferentes aspetos, como as oportunidades que traz, a regulamentação necessária, e o processo que a empresa deveria seguir para implantação. Diversos especialistas de mercado foram chamados para esses encontros, e Stonier pôde notar que muitos dos participantes já sabiam bastante sobe a tecnologia.

A Mastercard tem um conselho permanente formado por líderes de todas as áreas da companhia e que conhecem IA e que avaliam cada caso de uso da tecnologia antes de seu lançamento e a IA generativa foi incluída nessas avaliações. Alguns dos usos desenvolvidos até agora se destinam a detecção de fraudes, gestão interna de conhecimento e personalização, por exemplo. Outros estão em testes e ainda não devem entrar em operação.

Embora o governo norte-americano ainda não tenha lançado normas detalhadas para a IA generativa, Stonier acrescenta que já está claro que deverão existir diferentes políticas para as muitas aplicações da IA generativa. Como a Mastercard depende fortemente de sistemas de informação confiáveis, por exemplo, o uso de IA generativa para programação terá que ser tratado de forma diferente das ações de marketing.

Também está claro que será preciso usar uma abordagem interdisciplinar e multifuncional para gerir essa tecnologia. Advogados, profissionais de RH, engenheiros e arquitetos de sistemas e dados já estão engajados no desenvolvimento dessa abordagem. À medida que os usos forem se voltando para os clientes (hoje, são predominantemente internos), é provável que mais áreas sejam envolvidas. Entidades regulatórias externas vão querer saber sobre a construção das “caixas pretas”, as fontes de dados em que se apoiam ou o que não é visível aos usuários. A ex-CDO diz que a governança da IA generativa é um desafio, por causa das muitas aplicações e aspectos da organização envolvidos. Ela espera que, coerentemente com os processos de desenvolvimento até agora, a governança terá que dar conta não só do que os usuários buscam, mas também do que provavelmente será produzido.

O que ainda está em evolução

Stonier nos disse que muitos aspectos da nova tecnologia ainda estão sendo discutidos, como se esperava. Este é um período de experimentação para a empresa e para seus funcionários e ela observou que ninguém quer que isso seja impedido, contanto que os princípios da empresa de responsabilidade para com os dados sejam seguidos. A Mastercard quer usar a IA generativa como uma oportunidade de aprendizado e, logicamente, beneficiar-se dela, tanto quanto já o fez da IA convencional, nos casos de redução de fraudes e cibersegurança.

Até o momento, os ganhos obtidos foram de produtividade interna, nos próprios processos. Aplicações para uso dos clientes, inclusive estabelecimentos comerciais, virão depois. Há potencial para análises altamente personalizadas e mensagens para clientes no futuro.

A Mastercard já tem um processo bem definido para lançamento de produtos de dados e até uma unidade de negócios, chamada “Data & Services”, sobre a qual Tom escreveu há uns dois anos, para disponibilizar esses produtos para clientes. Stonier prevê que as unidades “Data & Services“ e “Cyber & Intelligence” provavelmente serão as que irão implantar produtos baseados em IA no futuro, somando-os a uma longa lista de soluções de IA que já existem.

Ela acredita que esses usos da IA generativa vão requerer diversos tipos de modelos de linguagem e serão necessários muitos profissionais no processo, talvez para reforçar o aprendizado com feedback humano. Haverá testagem extensiva, disse, para garantir que não haja alucinações significativas ou outros resultados problemáticos. Nós achamos que isso é importante: se o machine learning for como análise de esteroides, então a IA generativa vai ser machine learning a parir de LSD. Isto ilustra a face imprevisível da tecnologia.

As arquiteturas específicas para os modelos de IA generativa também ainda não estão finalizadas. Stonier acha que definitivamente serão modelos múltiplos, mas não tem certeza se eles serão cumulativos – combinados para um certo uso – ou alinhados, com um sistema do tipo front-end definindo qual o mais apropriado para um dado contexto.

Questionada sobre se achava que a IA generativa era incremental ou extremamente transformadora, Stonier respondeu: “Até agora tem sido incremental, mas acabrá sendo transformadora”, respondeu. “Mas nada será como um big-bang, vai acontecer aos poucos. Melhorias operacionais surgirão relativamente rápido, mas mudanças em produtos e serviços demorarão mais”.

Se sua empresa está se debatendo com como implantar a governança e extrair vantagens da IA generativa, a experiência da Mastercard deve fazer você se sentir mais tranquilo. Essa tecnologia pode ou não transformar seu negócio, mas certamente levanta novas questões e oportunidades. Não é preciso responder a tudo da noite para o dia.”