Texto publicado originalmente em 22 de julho de 2025 na newsletter Mensagem na Garrafa.
“Não podemos nos render à narrativa de fim de mundo que tem nos assombrado, porque ela serve para nos fazer desistir de nossos sonhos, e dentro dos nossos sonhos estão as memórias da Terra e de nossos ancestrais” – Ailton Krenak.
O que resta de nós e do planeta quando paramos de lutar por um futuro melhor?
Na cartinha de hoje, iremos discutir sobre os dilemas éticos do uso intensivo de inteligência artificial generativa (IA-gen), e este tema vai exigir mente e coração abertos.
Pode ser desconfortável para o leitor avaliar se está ou não fazendo um bom uso da ferramenta, mas o fato é que, embora as IA-gens sejam sim ferramentas úteis, a forma como operam hoje é profundamente problemática. É nossa responsabilidade como usuários estarmos cientes de seus impactos e de qual é nosso papel nessa história toda, para que possamos pensar juntos em formas de criar uma realidade mais justa para todas as formas de vida. Só que, antes de tudo, é preciso crer que isso seja possível.
Caso você compartilhe dessa visão e queira aprofundar seu conhecimento e reflexões sobre o assunto, este texto pode ser do seu interesse. Vamos lá?
Por que a utilização de IAs generativas é problemática?
A estrutura de operação de um centro de dados dedicado à IA consome uma quantidade absurda de energia fóssil.
Segundo estudo realizado pela Lawrence Berkeley National Laboratory, em 2024 os servidores dedicados a IA nos Estados Unidos consumiram cerca de 53-76 terawatt-horas de eletricidade gerada primariamente em termoelétricas, o suficiente para abastecer mais de 7.2 milhões de lares americanos por um ano; e estima-se que até 2028 esse consumo quadruplique, gerando a mesma quantidade de emissão de carbono que MAIS DE 1600 VIAGENS DE IDA E VOLTA DA TERRA PARA O SOL. E estas são apenas estimativas, porque gigantes do mercado como a OpenAI, Google e Anthropic (responsáveis pelo ChatGPT, Gemini e Claude, respectivamente) se recusam a revelar o gasto energético de suas operações (1).
Estes centros de dados também consomem uma quantidade exorbitante de água potável.
O consumo de água potável se dá em três escopos diferentes: no resfriamento local dos servidores (o consumo de energia gera muito calor, que danifica as máquinas), na geração de energia elétrica e em toda a cadeia de abastecimento dos centros de dados (por exemplo, fabricação de chips). Estima-se que a cada 10-50 perguntas feitas para o GPT-3 sejam consumidos 500mL de água potável, e presumivelmente o modelo mais atual, o GPT-4, por ser mais complexo, consome mais que isso (2). Analisando em números individuais, pode não parecer muito. Mas tenha em mente que o ChatGPT, sozinho, recebe cerca de 1 bilhão de mensagens por dia (dados de dezembro de 2024) (1).
O ônus ambiental dessas operações é desigual
A operação de um centro de dados impacta regiões e comunidades já vulneráveis de forma desproporcional, particularmente aquelas cuja matriz energética é predominantemente fóssil, que estão susceptíveis a secas ou que já possuem uma grade energética sobrecarregada (3). Entre alguns possíveis impactos causados por estes centros e que variam regionalmente estão o aumento das doenças respiratórias e cardiovasculares, elevação do risco de câncer, falta de água, congestionamento de rede elétrica e aumento do preço da energia (3-5).
IAs generativas replicam e amplificam estereótipos e preconceitos
Para que modelos de IAs-gen sejam capazes de criar dados, eles primeiro são “alimentados” com informações contidas na internet, e com base nelas é feita uma série de cálculos estatísticos para que sejam retornados resultados de texto e imagens mais prováveis de se parecerem com algo já feito por um humano (1-7). E justamente por serem treinadas com dados produzidos por humanos, as IAs-gen replicam e amplificam vieses de gênero, raciais, culturais, ideológicos, linguísticos, entre muitos outros (8-12). Segundo pesquisadores, isso é preocupante porque o aumento dramático de dados criados por estas ferramentas irá exacerbar estereótipos e desigualdades já existentes (6,13).
IAs generativas podem criar dados falsos
Os modelos atuais podem retornar resultados incorretos ou que não existem na realidade, um fenômeno chamado de “alucinação de IA”. Entre os motivos que levam aos outputs equivocados estão treinamento insuficiente ou com dados enviesados, suposições incorretas feitas pelo modelo e falta de embasamento no mundo real (como propriedades físicas ou informações factuais – em outras palavras, a IA não é capaz de observar o mundo real e aplicar esse conhecimento às respostas). Algumas das implicações práticas são a desinformação do público geral, erros de diagnósticos médicos e detecção de ameaças de segurança pública inexistentes (14, 15).
O uso intensivo de IAs generativas prejudica sua cognição
Recentemente viralizou na mídia os resultados de um estudo do MIT que demonstra redução significativa na atividade de regiões cerebrais responsáveis por funções executivas em participantes que utilizaram IA-gen para redação de textos, em comparação aos participantes que usaram o Google para consulta e os que não utilizaram ferramenta alguma (16). A função executiva engloba uma série de habilidades necessárias para o aprendizado, resolução de problemas, regulação emocional e comportamental (17). Mas este estudo é apenas um de vários já publicados que reforçam os resultados obtidos pelo MIT, e que também indicam redução na capacidade de pensamento crítico e analítico de usuários de IA-gen (18,19).
Muitas dessas IAs foram treinadas com dados roubados
Entre as informações mineradas da internet para o treinamento de IAs-gen estão inclusos milhares de trabalhos (livros, artigos científicos, ilustrações, vídeos) cujos autores não autorizaram o uso, muito menos foram pagos por isso. Pesquisas mostram que IAs-gen são capazes de replicar aspectos das obras originais, consistindo assim em violação de direitos autorais (20,21).
Então é pra parar de usar o GPT?!
A meu ver a pergunta mais relevante não é se deveríamos estar usando ou não, mas sim por que estamos delegando toda a sorte de tarefas às IAs-gen?
Utiliza-se IA-gen para dar conta de uma demanda absurda de trabalho, para se livrar de tarefas quando se está com preguiça ou cansado, para participar de trends, dar respostas rápidas e realizar pesquisas quando se desconhece a importância de checar fontes, para substituir a contratação de um profissional, para pular etapas do processo criativo e de aprendizagem, para pedir conselhos, fazer terapia e trocar mensagens íntimas.
Usamos massivamente as IAs generativas porque estamos exaustos devido à condições de trabalho precarizadas, porque estamos solitários, carecemos de comunidades e ansiamos por validação externa, e porque a criatividade e o aprendizado ainda são vistos como produtos, e não como processos. Assim, a ferramenta é a máscara perfeita para o capitalismo tardio na sociedade do espetáculo, pois esconde um grande problema sistêmico sob o belo verniz da autogestão e da vaidade. Ela cria a ilusão de progresso enquanto as instituições mantenedoras do status quo permanecem intocadas às custas da alienação do trabalhador e da obliteração dos recursos naturais da Terra.
Acredito que a vida pode ser mais do que apenas tentar reduzir desconfortos em uma situação de abuso. Logo, aceitar que não se pode fazer nada, que nada nunca vai mudar ou que o melhor que você pode fazer é aderir logo ao que foi imposto não deveria sequer ser uma opção. O ser humano é cheio de potencial, e o nosso planeta é raro e belo. Vale a pena lutar por isso.
Gostaria de deixar claro que o intuito dessa edição não é envergonhar ninguém por utilizar IAs generativas de vez em quando, ou por precisar usá-las em um contexto de sobrecarga de trabalho. O objetivo desse texto é fazer um chamado à ação.
OK, o que podemos fazer a respeito?
Se você sente que é muito insignificante para fazer a diferença, é porque sozinhos não chegamos muito longe. O que realmente traz resultados é a ação coletiva e organizada. Nesse sentido, nossas atitudes individuais servem como inspiração para as pessoas próximas, o que também é muito importante! Depois de assistir esse vídeo aqui (tem opção de ativar legendas) e conversar com meus amigos, levantei algumas sugestões para consideração. Elas ainda não estão completamente elaboradas, mas podem ser bons pontos de partida para reflexão sobre o que podemos fazer para reduzir o uso e pressionar a regulamentação de IAs.
Você não precisa parar de usar IAs-gen, mas é importantíssimo que o faça com mais critério, pois nem sempre ela será a ferramenta mais adequada para o seu trabalho. Elas são boas para fazer resumos de um texto, revisão gramatical e brainstorms, mas não para fazer pesquisas e criar trabalhos criativos, sejam eles textos ou imagens, devido à todos os seus vieses e alucinações;
Usar pontualmente a ferramenta e substituí-la por outros aplicativos que façam o mesmo trabalho com menos impacto, quando possível. Por exemplo, uma consulta por palavras sinônimas no google é tão rápida quanto e gasta menos energia;
Trocar os insights da IA pelos de uma pessoa de verdade já parece coisa do passado, mas tem muito valor. Existem expertises e sensibilidades que a IA-gen não tem. Pergunte-se se existe alguém no seu círculo de amizades que pode exercer esse papel;
Se você costuma usar a IA para tarefas repetitivas como escrever o mesmo tipo de e-mail ou relatório, ao invés de pedi-la várias vezes pela mesma coisa, peça por um template genérico. Isso te dará um ponto de partida sólido, mas você não abrirá mão de um certo esforço cognitivo;
Você pode colocar suas habilidades a serviço de quem utiliza IA por falta de tempo, habilidade ou dinheiro. Algumas formas de fazer isso são participando de oficinas de capacitação em sua própria comunidade ou online, disponibilizando tutoriais para iniciantes ou mesmo oferecendo seus serviços para quem não pode pagar por eles;
É importante estar atento à decisões governamentais envolvendo IAs, desde a instalação de data centers até as conversas (ou falta delas) sobre regulamentação de big techs por representantes políticos; para que quando a hora chegar possamos nos mobilizar para exigir que as decisões sejam tomadas em benefício da população e do meio ambiente;
Uma das causas do uso intensivo de IAs-gen é a precarização do trabalho. Enquanto é responsabilidade do governo legislar de forma a preservar nossos direitos, sabemos que isso não acontece a menos que nos organizemos para exigir mudanças. E aí vai de cada um entender qual pode ser o papel nessa organização: se é votar em representantes que estejam ao lado do trabalhador, se é cobrar uma atitude dos já eleitos através de protestos e abaixo-assinados, ou se é através de filiação política partidária para uma luta mais radical.
Ufa, chegamos ao final! A cartinha de hoje abordou aspectos bem tensos, e confesso que escrevê-la foi bastante estressante. Espero que pense com carinho em tudo que leu aqui e também que possa compartilhar essas informações. E se tiver alguma sugestão de como reduzir o uso de IAs-gen, deixe um comentário 🙂
Referências Bibliográficas
O’DONNELL, J., CROWNHEART, C. We did the math on AI’s energy footprint. Here’s the story you haven’t heard. MIT technplogy Review, 2025. Disponível online.
REN, S. How much water does AI consume? The public deserves to know. OECD.AI Public Observatory, 2023. Disponível online.
REN, S., WIERMAN, A. The Uneven Distribution of AI’s Environmental Impacts. Harvard Business Review, 2024. Disponível online.
TAO, Y., GAO, P. Global data center expansion and human health: A call for empirical research. Eco-Environment & Health, vol. 4, 3, 2025. Disponível online.
HAN, Y. et al. The Unpaid Toll: Quantifying the Public Health Impact of AI. arXiv, 2412.06288, 2024. Disponível online.
ZEWE, A. Explained: Generative AI. MIT News, 2023. Disponível online.
Microsoft. How does generative AI work? Disponível online.
MIT. When AI Gets It Wrong: Addressing AI Hallucinations and Bias. MIT Sloan Teaching & Learning Technologies. Disponível online .
Center for Teaching Excellence. Helping students understand the biases in generative AI. The Kansas University, 2024. Disponível online
FANG, X., et al. Bias of AI-generated content: an examination of news produced by large language models. Scientific Reports, 14, 5224, 2024. Disponível online.
ANANYA. AI image generators often give racist and sexist results: can they be fixed? Nature News Feature, 2024. Disponível online
BIANCHI, F., et al. Easily Accessible Text-to-Image Generation Amplifies Demographic Stereotypes at Large Scale. Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’23), 1493–1504, 2023. Disponível online.
WEI, X., KUMAR, N.,ZHANG, H.Addressing bias in generative AI: Challenges and research opportunities in information management. Information & Management, vol. 62, 2 2025. Disponível online.
IBM. What are AI hallucinations? 2023. Disponível online.
Google Cloud. O que são alucinações de IA? Disponível online.
KOSMYNA, N. et al. Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task. arXiv, 2506.08872v1 , 2025. Disponível online.
BRITES, L. Funções Executivas: o que são e para que servem? Instituto Neurosaber. Disponível online.
STADLER, M., BANNERT, M., SAILER, M.. Cognitive ease at a cost: LLMs reduce mental effort but compromise depth in student scientific inquiry. Computers in Human Behavior, vol. 160, 108386, 2024. Disponível online.
SHANMUGASUNDARAM, M., TAMILARASU, A. The impact of digital technology, social media, and artificial intelligence on cognitive functions: A review. Frontiers in Cognition, 2, 1203077, 2023. Disponível online.
WIGGERS, K. The current legal cases against generative AI are just the beginning. Tech Crunch, 2023. Disponível online.
APPEL, G., NEELBAUER, J., SCHWEIDEL, D. Generative AI Has an Intellectual Property Problem. Harvard Business Review, 2023. Disponível online.
