©2026 MIT Sloan Management Review Brasil. Todos os direitos reservados. A reprodução, total ou parcial, é proibida sem a autorização prévia e expressa do CNEX.

Em outubro de 2023, a cidade de Nova York (EUA) divulgou seu plano de ação para IA, comprometendo-se publicamente com o uso responsável e transparente da inteligência artificial. O plano incluía princípios orientadores, como responsabilidade, justiça e transparência, além da criação de um novo cargo para supervisionar sua implementação: responsável por gestão de algoritmos e políticas. 

No entanto, no início de 2024, as ambições de IA de Nova York passaram a ser alvo de questionamentos. Descobriu-se que um chatbot implementado para fornecer orientação sobre normas regulatórias a pequenos empresários tinha tendência a oferecer informações e conselhos enganosos. Relatórios revelaram que o sistema estava dando orientações erradas aos usuários sobre leis trabalhistas e requisitos de licenciamento e, em alguns casos, sugerindo ações que poderiam levar a violações regulatórias. 

Observadores passaram a questionar não apenas a precisão técnica do sistema, mas também os protocolos de governança da cidade, seus mecanismos de supervisão e os processos de implementação. O episódio se tornou um alerta não só para instituições públicas, mas para qualquer organização que utilize ferramentas de IA em larga escala.

Esse caso representa apenas um exemplo de um padrão mais amplo. Em diversos setores, as empresas adotaram a linguagem da IA responsável, enfatizando justiça, responsabilidade e transparência. No entanto, a implementação muitas vezes fica muito aquém da ambição, já que sistemas de inteligência artificial continuam a produzir resultados tendenciosos, não atendem aos requisitos de clareza na interpretação e explicação, e provocam reações negativas entre os usuários.

Em resposta, os reguladores introduziram uma onda de novas políticas, incluindo a Lei de IA da União Europeia, a Lei de Inteligência Artificial e Dados do Canadá e as regulamentações atualizadas de IA da Coreia do Sul – todas exercendo novas pressões sobre as organizações para operacionalizarem transparência, segurança e supervisão humana.

Ainda assim, mesmo entre empresas que entendem os potenciais riscos, esse avanço permanece desigual, e elas correm o risco de incorporar erros ou vieses em seus processos ou cometer violações éticas inesperadas e até graves em larga escala.

Cuidado com os gaps da IA responsável

Com base em entrevistas com mais de 20 líderes de IA, especialistas em ética e executivos seniores de diferentes setores – incluindo tecnologia, serviços financeiros, saúde e administração pública –, analisamos as dinâmicas internas que moldam as iniciativas de IA responsável. Observamos que, em alguns casos, os frameworks de IA responsável funcionam mais como uma vitrine reputacional, sem que haja um compromisso efetivo com a implementação de boas práticas. Ao mesmo tempo, descobrimos obstáculos estruturais e culturais que podem impedir as organizações de traduzir seus princípios em práticas sustentáveis.

Em particular, identificamos três armadilhas recorrentes. A seguir, exploramos cada uma delas e propomos ações práticas para superá-las:

1. A lacuna de responsabilidade

De todos os desafios que as organizações enfrentam em relação à implementação da IA responsável, um continua mais arraigado: a responsabilização. Mesmo quando as empresas publicam princípios para o uso ético da IA, poucas definem quem é responsável por incorporá-las no trabalho cotidiano, e ainda menos estabelecem como essa responsabilidade deve ser exercida na prática. O resultado é que ela é amplamente compartilhada, mas raramente assumida, e boas intenções não são respaldadas por processos claros. 

Essa desconexão geralmente começa na forma como os princípios éticos são introduzidos. Como observou um especialista em IA responsável: “As empresas definem princípios com base no que já fazem. Isso legitima as práticas atuais. Não exige mudanças significativas”. Nesses casos, os princípios acabam criando uma sensação de progresso, sem que existam as estruturas e os sistemas necessários para torná-los, de fato, acionáveis.

Mesmo quando as intenções são sinceras e há políticas concretas disponíveis, a implementação esbarra na ausência de processos definidos de responsabilização. Quem aprova as avaliações de justiça? Quem dá o aval às avaliações de equidade? O que acontece quando surgem preocupações? Na maioria dos casos, os processos são “ad hoc”. “Não temos treinamentos estruturados ou auditorias”, disse um responsável por conformidade. E complementou: “Apenas uma lista de verificação que engenheiros e equipes de conformidade revisam. Não há verificação independente”. 

Essa abordagem fragmentada faz com que questões críticas frequentemente passem despercebidas. Em alguns casos, as avaliações de equidade são conduzidas pelas mesmas equipes responsáveis pelo desenvolvimento dos modelos. Vieses presentes em dados históricos permanecem sem tratamento. “Ainda não temos uma forma estruturada de corrigi-los, e ninguém, de fato, é responsabilizado por isso”, reconheceu um executivo do setor financeiro. 

Na prática, o investimento em IA responsável tem sido uma reflexão tardia para muitas empresas

A fragmentação agrava ainda mais o problema. Um especialista descreveu a revisão de um sistema costurado a partir de ferramentas internas e componentes de terceiros: “Era como fita adesiva. Ninguém realmente entendia o que estava acontecendo. Quando perguntamos ao cliente, ele disse: ‘Para nós, é uma caixa preta’.” 

Mesmo organizações com culturas de auditoria maduras acham a IA difícil de governar. “Sabemos como auditar demonstrações financeiras”, explicou um executivo. “Mas sistemas algorítmicos? Não existem princípios contábeis geralmente aceitos para justiça.” 

Por fim, a responsabilidade significativa deve ser respaldada por sistemas de incentivos, que raramente parecem incorporar avaliações da prática da IA responsável. A maioria dos profissionais que lidam com inteligência artificial ainda é avaliada pela velocidade, precisão e entrega – não pela capacidade de construir modelos que sejam justos, explicáveis ou socialmente responsáveis. “Não há incentivos para desacelerar e refletir sobre os trade-offs éticos”, reconheceu um dos profissionais entrevistados. E complementou: “Somos recompensados por entregar o modelo”. 

A verdade é que, sem uma titularidade clara, responsabilidade pela execução e um processo constante e completo de supervisão, os esforços da IA responsável tendem a caminhar para o cumprimento simbólico. Políticas são publicadas, valores declarados e equipes lembradas de “serem éticas”. Sem uma governança dedicada, porém, não há um acompanhamento sistemático.

2. A lacuna estratégica

Apesar da generalizada declaração de compromissos, a ética da IA frequentemente permanece desconectada de como o valor é criado ou como o sucesso é medido. Essa desconexão define o que chamamos de “lacuna estratégica”: a falha em integrar considerações éticas de IA à lógica comercial e operacional da organização. Descobrimos que os princípios da IA responsável muitas vezes não fazem parte de decisões centrais sobre desenvolvimento de produtos, estratégia de mercado e alocação de recursos.

Com frequência, os esforços de IA responsável ficam concentrados em áreas como conformidade, privacidade ou risco – funções que, em geral, não participam diretamente das decisões de produto e de negócio. “Ainda é visto como algo lateral”, observou um líder de IA responsável. “Somos acionados apenas depois que o produto já foi desenvolvido, não enquanto está sendo projetado.” 

Quando as etapas de IA responsável são incorporadas aos fluxos de trabalho, fica claro quem é o responsável por sua execução

Em organizações que incentivam a inovação acelerada, a ética pode ser percebida como um entrave. Uma assessora jurídica relatou diversos programas-piloto interrompidos não por falhas técnicas, mas por levantarem questões sensíveis sobre possíveis usos indevidos. “As equipes estavam empolgadas com a tecnologia, mas não perceberam que o produto poderia não estar alinhado aos valores da empresa”, explicou. Isso reforça a necessidade de incorporar considerações éticas às decisões estratégicas desde o começo, e não como algo acessório no futuro.

Esse desalinhamento se torna ainda mais evidente em empresas que colocam a eficiência no centro da estratégia. Nesses contextos, iniciativas de IA responsável voltadas à justiça e à equidade podem ser vistas como incompatíveis com metas de desempenho. Com isso, a IA responsável passa a ser interpretada como uma limitação à inovação, em vez de um catalisador para aumentar a confiança do cliente, melhorar a qualidade, sustentar a resiliência no longo prazo ou alcançar outros objetivos estratégicos. Quando os princípios éticos não estão estruturalmente conectados à estratégia, as decisões de produto ficam desprotegidas e os mecanismos de governança perdem capacidade de influência.

3. A falta de recursos

Mesmo quando havia compromisso genuíno com práticas éticas de IA, descobrimos que as incompatibilidades entre o que as organizações aspiravam fazer e o que suas estruturas, equipe e ferramentas realmente davam conta eram amplas. De acordo com a visão de um conselheiro entrevistado: “É tudo muito impulsionado por pessoas que se importam. Ainda não há força organizacional por trás disso”. 

Na prática, a busca por IA responsável parece ser algo secundário para muitas empresas. Um líder de dados se queixou da falta de treinamentos ou procedimentos estruturados. Segundo ele, há apenas “uma lista de verificação de todas as coisas que devem ser feitas, mas é mais sobre cumprimento mínimo dos requisitos do que mudança significativa”.

Avaliações de justiça são um exemplo claro. Embora tecnicamente viáveis, é raro receberem os recursos devidos. Entrevistados nos disseram que suas equipes de IA frequentemente não tinham acesso a funcionários treinados em mitigação de vieses. E mesmo quando esses recursos estavam disponíveis, as equipes frequentemente não tinham nem capacidade nem influência política para desacelerar ou interromper um projeto com base em preocupações éticas. Outros descreveram, ainda, conselhos de governança bem-intencionados, mas com poucos recursos, que caíram na irrelevância devido a demandas concorrentes. “Isso tudo vira ‘ruído de fundo’, a menos que alguém se dedique em tempo integral”, explicou um líder de políticas de IA. 

A tecnologia, por sua vez, também se revela fragmentada. Um cientista de dados de uma instituição financeira descreveu ter acesso a um kit de ferramentas de equidade de código aberto que não se integrava ao fluxo de trabalho nem orientações sobre quando e como usá-lo. “Então não usamos”, admitiram.

No fim das contas, as organizações estão investindo menos do que o necessário nas pessoas, processos e infraestrutura necessários para tornar operacional a IA responsável. Sem papéis dedicados, treinamento abrangente, ferramentas avaliativas adequadas e incentivos que apoiem a diligência ética, a IA responsável continua sendo o que um líder chamou de “uma aspiração bem-intencionada”, ou seja, importante em princípio, mas ausente na prática.

O framework SHARP para passar dos princípios à prática

Embora a distância entre as aspirações e a prática da IA responsável ainda seja significativa, ela pode ser reduzida. Em diferentes setores, algumas organizações já conseguem incorporar a ética ao núcleo operacional do desenvolvimento e da implementação de sistemas de IA.

Essas organizações adotam cinco estratégias, conhecidas pelo acrônimo em inglês SHARP, cujas abordagens são descritas a seguir:

• Sinalize quem tem as responsabilidades por projeto. (S de Structure ownership at the project level.)
• Habilite a ética incorporando-a aos procedimentos do dia a dia. (H de Hardwire ethics into everyday procedures.)
• Alinhe o risco ético ao risco empresarial. (A de Align ethical risk with business risk.)
• Recompense comportamentos responsáveis. (R de Reward responsible behavior.)
• Pratique o julgamento ético, não apenas a conformidade. (P de Practice ethical judgment.)

O SHARP vai ao cerne dos obstáculos estruturais e culturais para IA responsável. As estratégias que o compõem não são passos lineares nem modelos universais. Pelo contrário, refletem as diversas formas pelas quais as organizações podem reconfigurar suas estruturas, incentivos e rotinas para apoiar a IA responsável na prática. Vamos analisar cada estratégia em detalhes.

S de SHARP: sinalize quem tem as responsabilidades por projeto

Um ponto claro de responsabilidade em projetos individuais ajuda a tornar a supervisão ética consistente e sistemática, e não ad hoc. Pesquisas sobre sistemas aumentados por IA mostraram que os usuários frequentemente abdicam de sua agência quando confrontados com resultados algorítmicos. Isso ressalta a importância de ter estruturas formais de responsabilização ao longo do desenvolvimento e da implementação desses sistemas.

Para enfrentar esse desafio, diversas organizações passaram a designar um líder de IA responsável para cada iniciativa de maior impacto. Em vez de concentrar a supervisão apenas nas áreas jurídica ou de conformidade, esses papéis são incorporados às equipes de desenvolvimento. Seu mandato inclui antecipar riscos éticos, estruturar a documentação necessária e atuar como elo entre decisões de produto e os valores da organização.

Uma empresa global de manufatura ilustra bem essa abordagem. Sua equipe de ética digital atua de maneira transversal, apoiando iniciativas em toda a organização e influenciando decisões para além de ações simbólicas. Como descreveu um de seus líderes: “Eu me conecto com diferentes áreas do negócio para ser a voz da ética, garantindo que nossos valores orientem, de fato, as decisões em iniciativas digitais”. A abertura para esse diálogo reflete o quanto a empresa leva seus princípios a sério e cria espaço para reflexão ética em todos os níveis. Nesse modelo, as pessoas que cuidam da IA responsável não atuam à margem. O acesso e a integração deles permitem que intervenham cedo, façam perguntas difíceis e influenciem os resultados.

Da mesma forma, em uma empresa de serviços financeiros, a introdução de líderes éticos a partir do projeto gerou maior clareza e engajamento entre as equipes. “Se é trabalho de todos, não é trabalho de ninguém”, disse o líder de governança de IA. Nomear um indivíduo específico dava às equipes um ponto claro de contato e responsabilidade: alguém encarregado de identificar riscos éticos cedo e chamar a atenção sobre eles quando necessário. Isso evitou a diluição de responsabilidades, comum em contextos em que se presume que outra área cuidará de eventuais impactos.

Com essa abordagem, os líderes de IA responsável deixam de ser vozes isoladas e passam a integrar processos que conectam equipes técnicas às áreas de conformidade, jurídica e governança. Como resultado, preocupações éticas emergem mais cedo e passam a fazer parte dos processos formais de decisão, em vez de serem tratadas tarde demais – ou completamente ignoradas.

Ao conferir autoridade para exigir esses padrões, as empresas fortalecem a aplicação efetiva de práticas responsáveis de IA. Essa estratégia reflete uma mudança organizacional mais ampla: sair de declarações genéricas e avançar para papéis estruturados, com legitimidade e capacidade real de atuação.

H de SHARP: habilite a ética incorporando-a aos procedimentos do dia a dia

Várias organizações começaram a formalizar práticas éticas em seus ciclos de desenvolvimento de produtos, mas esse esforço precisa ir além das listas de verificação. Ferramentas como a Ethical Matrix e os frameworks de Explainable Justice são ótimas para começar, mas, como enfatizam especialistas em IA responsável, a auditoria ética deve incluir uma avaliação das comunidades afetadas e uma avaliação de danos específicos por contexto. Isso reforça a necessidade de mecanismos de supervisão humana que vão além das listas de verificação de conformidade e envolvam as partes interessadas em uma revisão significativa.

Por exemplo, em uma empresa da área de saúde, equipes codesenvolveram um checklist de ética que deve ser concluído antes que qualquer modelo de IA chegue à produção. Inclui requisitos para validação dos dados de treinamento, consulta a stakeholders e documentação de danos previsíveis. Importante: essa lista de verificação está integrada ao pipeline DevOps, assim como testes automatizados ou protocolos de implantação. “Não queríamos que fosse um obstáculo”, disse o líder de engenharia da empresa. “Tinha que parecer algo que fazemos, não algo que outros nos obrigam a fazer.”

Ao incorporar etapas do processo de IA responsável aos fluxos de trabalho, também fica mais evidente quem é responsável por executá-las. Além disso, processos padronizados facilitam o acompanhamento de quais decisões foram tomadas e por quê.

A de SHARP: alinhe o risco ético ao risco empresarial

Em muitas empresas, a IA responsável permanece desconectada dos indicadores principais do negócio. Para que os esforços da IA responsável ganhem tração, os riscos éticos precisam ser reformulados em termos que ressoem com os tomadores de decisão executiva: reputação, exposição regulatória e disrupção operacional.

Uma seguradora europeia fez essa mudança ao modelar os impactos financeiros e reputacionais potenciais do viés algorítmico sendo exposto na mídia. Usando exemplos do mundo real, a equipe de risco mostrou como uma falha relacionada à IA pode desencadear custos em cascata – desde o abandono dos clientes até danos à marca. Um dos executivos ouvidos, explicou: “Depois que mostramos os riscos possíveis, a conversa mudou”.

Já em outra organização, indicadores de IA responsável passaram a integrar os painéis de risco corporativos, ao lado de temas como cibersegurança e integridade operacional. Com isso, a ética em IA deixou de ser tratada apenas como uma questão de valores e passou a ocupar um lugar claro na gestão de riscos do negócio.

O impacto não foi apenas um aumento da atenção: houve também uma antecipação do envolvimento. As equipes de produto passaram a considerar riscos éticos dentro de suas próprias responsabilidades, em vez de aguardar avaliações em etapas posteriores do processo.

R de SHARP: recompense comportamentos responsáveis

Se os gestores realmente querem que desenvolvedores de IA incorporem considerações éticas ao seu trabalho, é preciso incentivar esse comportamento de maneira explícita. Isso se torna ainda mais relevante porque, muitas vezes, essas práticas entram em tensão com outras prioridades organizacionais, como velocidade de execução ou cumprimento de prazos de lançamento.

Uma empresa nórdica do setor de energia enfrentou esse desafio ao incluir a dimensão de “consciência de impacto” nas avaliações de desempenho de equipes de IA e dados. Cientistas de dados passaram a ser reconhecidos por engajamento em auditorias de equidade, aumento da transparência e por levantar questões éticas durante o desenvolvimento e a implementação de modelos. “Não se trata apenas de criar estruturas. É sobre deixar claro o que valorizamos”, afirmou o vice-presidente de dados. 

De modo semelhante, uma empresa europeia de telecomunicações instituiu um prêmio interno de inovação responsável para destacar equipes que tomaram decisões éticas difíceis, como descontinuar um modelo promissor por questões de equidade ou priorizar transparência em detrimento de desempenho.

Embora possam parecer ajustes pontuais, essas mudanças transmitem uma mensagem crítica: o comportamento responsável é visível, valorizado e diretamente associado ao sucesso profissional.

P de SHARP: pratique o julgamento ético, não apenas a conformidade

Poucos processos podem substituir totalmente a necessidade do julgamento humano, especialmente em contextos em que tensões éticas são sutis ou estão em evolução. Assim, para apoiar suas iniciativas de treinamento, várias organizações criaram fóruns onde os funcionários podem desenvolver maturidade ética por meio da prática e da reflexão. 

Uma agência pública instituiu “laboratórios de ética em IA” recorrentes, com sessões facilitadas para equipes multifuncionais analisarem casos reais de uso e trabalharem dilemas éticos. Esses encontros eram deliberadamente informais: menos focados em chegar a decisões finais e mais orientados ao desenvolvimento de vocabulário comum, raciocínio compartilhado e segurança para levantar preocupações.

Em uma empresa de logística, as retrospectivas do sprint (reunião ágil realizada no final de cada sprint, momento de reflexão sobre o trabalho realizado) foram adaptadas para incluir perguntas (prompts) rotativas sobre uso de dados, consentimento e possíveis consequências não intencionais. Essas breves discussões ajudaram a incorporar a reflexão ética de modo natural aos fluxos de trabalho ágeis.

Em ambos os casos, as organizações dependiam fortemente de processos de tomada de decisão apoiados por IA. O objetivo, portanto, era evitar que os usuários se tornassem apenas receptores passivos de recomendações algorítmicas, preservando seu papel como agentes morais ativos. Como alertam pesquisadores de IA responsável, a dependência excessiva desses sistemas pode enfraquecer hábitos de reflexão ética. Sem o reforço intencional do raciocínio ético na prática, mesmo soluções bem projetadas podem levar à erosão gradual da capacidade de julgamento individual.

Em última instância, o foco dessas iniciativas não era a conformidade, mas o fortalecimento da capacidade das equipes de exercer julgamentos éticos. A tomada de decisão melhora quando as equipes não apenas estão equipadas com checklists, mas também têm a oportunidade de trabalhar juntas em questões complexas.

Fechando o gap da IA responsável

Princípios bem elaborados, por si só, não garantem a adoção ampla da IA responsável. Nossa pesquisa sugere que a principal barreira não está na falta de compromisso ou consciência, mas na dificuldade de traduzir princípios abstratos em práticas concretas em ambientes complexos e frequentemente com recursos limitados. Nesse sentido, a IA responsável não pode ser reduzida a um desafio apenas técnico ou ético: ela se torna, essencialmente, uma questão organizacional. Exige que as empresas construam a infraestrutura operacional (pessoas, processos, incentivos e rotinas) capaz de sustentar a intenção ética ao longo do tempo.

As organizações que estão avançando significativamente não são aquelas com declarações de valores mais aspiracionais. O progresso depende menos de soluções perfeitas e mais da construção de padrões mais robustos – hábitos, estruturas e ciclos de feedback que orientam equipes para decisões mais responsáveis. Empresas que estão à frente investem em responsabilidade estruturada, alinham incentivos com impacto ético e criam espaço para que equipes multifuncionais raciocinem juntas sobre trade-offs complexos. Nesses casos, o pensamento ético deixa de ser um princípio abstrato e passa a estar incorporado às operações cotidianas.

A liderança executiva é central nesse processo – não como única dona da IA responsável, mas como facilitadora das condições culturais e estruturais necessárias para que ela se consolide. Como vimos até aqui, a IA responsável não é uma lista de verificação, mas uma capacidade de longo prazo que coloca à prova o alinhamento, a adaptabilidade e a disposição da liderança organizacional diante da ambiguidade.

Nesse contexto, a pergunta mais urgente não é mais “o que acreditamos sobre a IA?”, mas, sim, “o que estamos fazendo, de maneira sistemática e consistente, para agir com base nessas crenças?”. 

Salvar conteúdo 0