Por Redação O Sul | 11 de outubro de 2021
Stuart Russell, professor da Universidade da Califórnia em Berkeley (EUA), dedica-se há décadas ao estudo da IA (Inteligência Artificial), mas também é um de seus mais conhecidos críticos – ao menos do modelo de IA que ele ainda vê como “padrão” pelo mundo.
Russell tem advertido que o modelo predominante de Inteligência Artificial é, em sua opinião, uma ameaça à sobrevivência dos seres humanos.
Mas – à diferença dos enredos de filmes de Hollywood sobre o assunto – não porque ele ache que essas tecnologias vão se tornar conscientes e se voltar contra nós.
A preocupação principal de Russell é com a forma como essa inteligência tem sido programada por seus desenvolvedores humanos: elas são incumbidas de otimizar o máximo possível suas tarefas, basicamente a qualquer custo.
E, assim, tornam-se “cegas” e indiferentes aos problemas (ou, em última instância, à destruição) que podem causar aos humanos.
Para explicar isso à BBC News Brasil, Russell usa a metáfora de um gênio de lâmpada atendendo aos desejos de seu mestre: “você pede ao gênio que te torne a pessoa mais rica do mundo, e assim acontece – mas só porque o gênio fez o resto das pessoas desaparecerem”, diz.
“(Na IA) construímos máquinas com o que chamo de modelos padrão: elas recebem objetivos que têm de conquistar ou otimizar, (ou seja), para os quais encontrar a melhor solução possível. E aí levam a cabo essa ação.”
Mesmo que essa ação seja, na prática, prejudicial aos humanos, ele argumenta. “Se construirmos a Inteligência Artificial de modo a otimizar um objetivo fixo dado por nós, elas (máquinas) serão quase como psicopatas – perseguindo esse objetivo e sendo completamente alheias a todo o restante, até mesmo se pedirmos a elas que parem.”
Um exemplo cotidiano disso, opina Russell, são os algoritmos que regem as redes sociais – que ficaram tão em evidência nos últimos dias com a pane global que afetou Facebook, Instagram e WhatsApp durante cerca de seis horas no último dia 4.
A tarefa principal desses algoritmos é favorecer a experiência do usuário nas redes sociais – por exemplo, coletando o máximo de informações o possível sobre esse usuário e fornecendo a ele conteúdo que se adéque a suas preferências, fazendo com que ele permaneça mais tempo conectado.
Mesmo que isso ocorra às custas do bem-estar desse usuário ou da cidadania global, prossegue o pesquisador.
“As redes sociais criam vício, depressão, disfunção social, talvez extremismo, polarização da sociedade, talvez contribuam para espalhar desinformação. E está claro que seus algoritmos estão projetados para otimizar um objetivo: que as pessoas cliquem, que passem mais tempo engajadas com o conteúdo”, pontua Russell.
“E, ao otimizar essas quantidades, podem estar causando enormes problemas para a sociedade.”
No entanto, prossegue Russell, esses algoritmos não sofrem escrutínio o bastante para que possam ser verificados ou “consertados” – dessa forma, seguem trabalhando para otimizar seu objetivo, indiferentes ao dano colateral.
“(As redes sociais) não apenas estão otimizando a coisa errada, como também estão manipulando as pessoas, porque ao manipulá-las consegue-se aumentar seu engajamento. Se posso tornar você mais previsível, por exemplo transformando você em uma ecoterrorista extremista, posso te mandar conteúdo ecoterrorista e ter certeza de que você vai clicar, e assim maximizar meus cliques.”
Essas críticas foram reforçadas no último dia 5 pela ex-funcionária do Facebook (e atual informante) Frances Haugen, que depôs em audiência no Congresso americano e afirmou que os sites e aplicativos da rede social “trazem danos às crianças, provocam divisões e enfraquecem a democracia”. O Facebook reagiu dizendo que Haugen não tem conhecimento suficiente para fazer tais afirmações. As informações são da BBC News.
