O que perdemos quando deixamos a IA decidir por nós

Já se passaram mais de 50 anos desde que o HAL, o computador maligno do filme 2001: Uma Odisseia no Espaço, aterrorizou audiências ao se voltar contra os astronautas que deveria proteger. O filme captura o que muitos de nós ainda tememos quanto à inteligência artificial (IA): que ela possa adquirir poderes sobre-humanos e nos subjugar. Em vez de nos preocuparmos com pesadelos futuristas de ficção científica, deveríamos despertar para um cenário igualmente alarmante que se revela a nossos olhos: estamos cada vez mais, de modo insuspeita, mas proposital: o fato de abdicarmos do poder de tomada de decisão com base em nosso próprio julgamento. O que acreditamos ser “certo” corre o risco de se tornar não mais uma questão de ética, mas simplesmente o resultado “correto” de um cálculo matemático.

Os computadores já tomam muitas decisões por nós, todos os dias, e até parecem estar fazendo um bom trabalho. Infelizmente, um olhar mais detido sugere que podemos estar errados ao presumir que esse poder é para o bem. Por mais que boa parte da crítica ainda seja baseada em distopias, a forma como a IA está sendo usada hoje é perigosa. Não porque Google e Alexa estejam liberando o mal, mas porque confiamos em máquinas para tomar decisões por nós e assim substituímos o bom-senso humano por cálculos orientados por dados. Corremos o risco, assim, de mudar nossa moral de maneiras talvez irreversíveis.

ExclusivoEste conteúdo faz parte da edição #11 do MIT SMR Brasil.Já tem acesso? Fazer loginAssinarComprar edição