A cada dez posts em redes sociais, quatro trazem desinformação sobre IA generativa

Pesquisadores do grupo Understanding Artificial Intelligence (UAI), ligado ao Instituto de Estudos Avançados da (IEA) da USP, estão trabalhando com dados relativos à comunicação sobre IAs generativas produzidas entre 2022 e 2025. A primeira análise de 5 mil postagens disponíveis no Instagram e TikTok demonstrou que o conteúdo produzido nas redes sociais sobre inteligência artificial não coincide com as utilidades reais da IA, sendo influenciado pelo imaginário social.

As informações coletadas no levantamento atribuem atividades que não podem ser realizadas pelas IAs generativas, como operações matemáticas e criação textos originais. A qualidade na discussão se perde em muitos casos, à medida que tentam abordar mais de um fator, como segurança e veracidade.

O levantamento, publicado em uma nota técnica, contou com a análise qualitativa e quantitativa desse conteúdo, identificadas através da raspagem de dados aliadas ao uso de hashtags como “#inteligenciaartificial”, “#tecnologia” e “#chatgpt”.

Luiz Joaquim Nunes é doutorando em Psicologia Social e do Trabalho pelo Instituto de Psicologia (IP) e bacharel em Matemática Aplicada e Computacional pelo Instituto de Matemática, Estatística e Computação (IME), com habilitação em Comunicação Científica na Escola de Comunicações e Artes (ECA), todos da USP. O autor explica que já trabalhava em seu mestrado com a problemática em torno da comunicação sobre IA e que, no contexto da abordagem utilizada pelo grupo UAI, decidiu analisar técnica e socialmente a maneira como são formulados e discutidos os conteúdos sobre o tema.

Os materiais foram classificados em quatro dimensões analíticas, definidas com base na análise historiográfica do mestrado de Nunes, sendo elas profundidade, fidedignidade, segurança e aplicabilidade. Para realizar o levantamento, os pesquisadores utilizaram a própria IA generativa no processo, uso justificado pelo grande volume de dados.  Posteriormente, também foi realizada a verificação manual. “As classificações, qualitativamente falando, são mais manuais nesse sentido. A gente consegue até ter ajuda de certas IAs generativas para fazer a classificação dentro desses conceitos, já que o comparativo entre textos é uma coisa que essas tecnologias conseguem fazer bem.”

Apesar das dimensões funcionarem e serem classificadas individualmente, o levantamento demonstrou que todos os critérios estão correlacionados, ainda que em muitos conteúdos eles não apareçam simultaneamente. Em alguns casos, a ligação entre os critérios pode ser mais sutil, em vídeos que comentam sobre a segurança na IA e fazem uso de informações fidedignas, por exemplo. Contudo, o problema é quando se trata de pontos específicos da IA sem fazer pré-concepções a respeito de como aquela tecnologia funciona.

Victor de Sales Alexandre, doutor em Psicologia Escolar e Desenvolvimento Humano pelo IP e coautor da nota técnica, explica que é importante entender essa particularidade do discurso informativo em torno da inteligência artificial.

“O fato é que nos últimos anos a gente tem observado uma aderência muito grande a diversos mecanismos de IA, muitos deles embutidos em ferramentas, ainda que não queiramos utilizá-los. E quando fazemos uma análise, até superficial, sobre os diferentes discursos que a gente tem sobre a IA, é possível observar uma dualidade entre quem enaltece e quem entende como ela funciona.”

Nunes comenta que a falta de compreensão que as pessoas têm sobre tecnologia é a raiz de muitos problemas relacionados a ela. Ao tratar como senso comum o que é e como se usa a IA, informações extremamente relevantes são perdidas.

Um exemplo disso são conteúdos que recomendam que cálculos sejam feitos pela IA generativa, embora ela tenha melhor desempenho para gerar conteúdos, em especial textos. Essa capacidade se baseia em padrões aprendidos em dados existentes, estando longe de ser a ferramenta ideal para cálculos matemáticos, afirmam os pesquisadores.

O alcance desse tipo de comunicação também preocupa os especialistas. Segundo a publicação, a cada dez posts, quatro apresentam desinformação; a cada 30 posts, 16 abordam a utilização e quatro falam dos riscos das IAs generativas; apenas dois tratam de ambos. “Ao meu ver, a mídia não está contribuindo com esse problema; na verdade, está piorando. Porque existe um grande nível de desinformação a respeito do assunto, fato que acaba intensificando alguns desses riscos com o passar do tempo”, afirma Nunes.

“Se nossa cultura não promove o desenvolvimento pleno das pessoas, não desenvolve uma relação de trabalho mais adequada, uma relação com a educação, quando a inteligência artificial é incluída nas práticas sociais, ela apenas intensifica aquilo que já está posto”, diz Victor de Sales Alexandre.

Outro fator importante para entender seus impactos é o contexto cultural em que a inteligência artificial foi inserida. Atualmente, o discurso técnico e tecnológico está sendo atravessado por essa ferramenta, seja no trabalho, estudo ou no lazer. A aderência das IAs nas relações sociais tem a tendência de excluir o fator humano das produções, repercutindo diferenças já existentes no contexto sócio-histórico das relações humanas.

“As IAs não inauguraram essas relações fragilizadas, mas sim estão fazendo coro com a tendência já estabelecida culturalmente há muito tempo. Enquanto a gente não resolver algumas contradições históricas, por exemplo, na relação de produção do próprio trabalho, o que vamos observar é uma reedição do conflito com novas técnicas e novas tecnologias, porque elas acompanham o desenvolvimento da nossa cultura”, pontua Sales.

“As pessoas não estão sendo levadas a pensar criticamente sobre como a tecnologia funciona e como ela deve ou não ser utilizada”, diz Luiz Joaquim Nunes.

Os pesquisadores defendem que devemos parar de tratar a inteligência artificial como algo “autoevidente” – sem possibilidade de discussão. Grande parte dos desenvolvimentos técnicos e tecnológicos têm implicações muito grandes para a forma que a sociedade se organiza, e por isso é crucial observar as potencialidades, limitações e narrativas construídas em torno da IA, além do contexto sociocultural em que ela está inserida.

Discussões em alta na atualidade sobre a regulação do uso da inteligência artificial e das redes sociais entram em consonância com os resultados observados pelo trabalho. Ainda que a cautela parta do uso individual das tecnologias, o debate deve ser inserido na relação de governança e na análise do contexto social atual. A monitoria e o letramento digital podem ser soluções possíveis para conter a desinformação percebida no estudo.

A nota técnica A produção de conteúdo sobre IAs generativas colocada em números pode ser lida neste link.

Mais informações: luiz.nunes@usp.br, com Luiz Joaquim Nunes, e victor.alexandre@usp.br, com Victor de Sales Alexandre.

*Luana Mendes é estagiária e escreveu sob orientação de Tabita Said.