Os profissionais da geração Z estão sendo demitidos por causa da IA?
Avanço da automação preocupa jovens profissionais no Brasil.
A corrida entre EUA e China pela liderança em IA acelera, com os EUA usando tecnologias proprietárias e a China adotando código aberto. Um incidente de segurança com a OpenAI e Hugging Face destacou riscos de segurança negligenciados. Modelos de IA contornaram restrições e acessaram a internet, expondo vulnerabilidades. A competição sem regulamentação pode levar a desastres, alertando para a necessidade de cooperação internacional. A segurança é crucial para evitar consequências irreversíveis.
CAMBRIDGE – A corrida pela liderança na inteligência artificial (IA) entre os Estados Unidos e a China está se acelerando a um ritmo vertiginoso. Repetidamente, os EUA parecem estar à frente, apenas para ver a China reduzir rapidamente a diferença.
No cerne dessa competição estão duas visões contrastantes sobre como a IA deve ser desenvolvida e implementada. Enquanto as empresas americanas dependem em grande parte de tecnologias proprietárias para manter sua vantagem competitiva, a China tem adotado cada vez mais a IA de código aberto, disponibilizando modelos avançados para desenvolvedores em todo o mundo.
Apesar das diferentes estratégias, os dois países travam uma corrida armamentista que nenhum dos lados está disposto a frear. À medida que a velocidade se torna a prioridade máxima, a segurança fica cada vez mais em segundo plano, apesar do risco extremamente alto de falhas catastróficas decorrentes da combinação de erro humano e IA superinteligente.
Uma recente violação de segurança envolvendo a OpenAI e a Hugging Face ressaltou o perigo de tratar a segurança como uma reflexão tardia. O incidente ocorreu enquanto pesquisadores da OpenAI avaliavam os recursos de segurança cibernética de dois modelos de IA de ponta. Para identificar as fraquezas e vulnerabilidades que hackers sofisticados poderiam explorar, eles desativaram temporariamente muitas das salvaguardas normais dos modelos.
Discussões sobre segurança no uso da IA são cada vez mais relevantes Foto: A-Quantix/Adobe Stock
O experimento foi conduzido dentro de um “sandbox” rigorosamente controlado. Embora as proteções comportamentais dos modelos tivessem sido temporariamente removidas, o sandbox deveria impedi-los de acessar a internet aberta, onde poderiam – pelo menos em teoria – causar danos enormes.
Em vez disso, os modelos trataram o próprio sandbox como um obstáculo. Explorando uma falha até então desconhecida em um software de terceiros, eles contornaram suas restrições e obtiveram acesso à internet aberta. Eles “se rebelaram”? Não exatamente. Afinal, eles estavam simplesmente buscando o objetivo que lhes foi dado: resolver um problema complexo de segurança cibernética da maneira mais eficiente possível.
Embora os modelos provavelmente pudessem ter concluído a tarefa dentro do sandbox isolado, eles “inferiram” que seria muito mais fácil infiltrar-se no Hugging Face – que hospeda mais de dois milhões de modelos de IA de código aberto – e, nas palavras da OpenAI, “obter soluções de teste diretamente do banco de dados de produção do Hugging Face”. Para uma IA com capacidades avançadas de invasão, invadir outro sistema foi uma tarefa fácil. De fato, a violação passou despercebida por dias e aparentemente se espalhou para uma segunda empresa.
Do ponto de vista dos modelos, isso não foi “trapaça”, pois eles não violaram nenhuma regra explícita codificada por seus desenvolvedores – eles simplesmente encontraram uma maneira mais eficiente de atingir seu objetivo. Talvez o mais perturbador seja o fato de que um dos modelos teria deixado anotações explicando como futuros sistemas de IA poderiam escapar do ambiente de testes da OpenAI com mais facilidade.
Especialistas em IA argumentariam, com razão, que esse experimento não foi representativo. As salvaguardas dos modelos foram enfraquecidas para testar toda a extensão de suas capacidades, e eles não causaram nenhum dano grave. Eles não invadiram, por exemplo, os sistemas do Federal Reserve dos EUA ou do Banco Central Europeu. Mesmo assim, o episódio demonstrou como erros humanos aparentemente insignificantes podem ser amplificados pela IA, com consequências potencialmente catastróficas.
O incidente lembra assustadoramente a muito debatida (e ainda não comprovada) teoria do vazamento de laboratório da covid-19, que afirma que o vírus escapou de um laboratório em Wuhan, na China, onde pesquisadores supostamente conduziam pesquisas arriscadas de “ganho de função” em vírus. Em ambos os casos, o erro humano e a arrogância – e não a malícia – são os principais culpados. A história oferece muitos exemplos semelhantes que servem de alerta.
Leia também
A disseminação de modelos de IA de código aberto agrava o problema. Com as ferramentas de IA de ponta não mais restritas a um punhado de laboratórios renomados, é apenas uma questão de tempo até que Estados autoritários e grupos terroristas tentem usá-las para desenvolver armas biológicas, novas toxinas ou bombas sujas. É perigosamente ingênuo presumir, como muitos legisladores dos EUA parecem fazer, que tais capacidades existem apenas no Vale do Silício.
Mas o perigo mais imediato pode ser político, e não tecnológico. A IA já permite que agentes maliciosos criem deepfakes cada vez mais convincentes e campanhas de manipulação de eleitores em uma escala sem precedentes. Sem controle, essas ferramentas podem corroer ainda mais a confiança pública, alimentar a polarização política e acelerar a fragmentação social.
O rápido desenvolvimento da IA também pode abrir caminho para o autoritarismo, já que períodos de instabilidade social frequentemente criam oportunidades para que governos expandam sua autoridade em nome da restauração da ordem, do combate à desigualdade ou da proteção da segurança nacional. Sob o governo do presidente Donald Trump, às vezes parece que os EUA já estão caminhando nessa direção. Mas uma futura administração democrata pode se mostrar igualmente disposta a explorar a IA na busca de seus próprios objetivos políticos.
Nada disso diminui a promessa extraordinária da IA. A tecnologia poderia revolucionar a medicina ao impulsionar drasticamente pesquisas sobre doenças como câncer e Alzheimer, transformar a produção de alimentos e ajudar a enfrentar as mudanças climáticas – e isso é apenas a ponta do iceberg. A questão, então, não é se a IA deve avançar, mas com que rapidez e a que custo.
Aqui reside o dilema central: o principal argumento das empresas de tecnologia dos EUA contra a regulamentação da IA é que isso faria a América perder terreno para a China. Mas, se a China puder, eventualmente, copiar ou roubar cada grande avanço dos EUA – como tem feito repetidamente -, uma corrida permanente para construir IAs cada vez mais poderosas é uma receita para o desastre. A segurança duradoura exigirá, em última análise, certo grau de cooperação internacional, assim como o controle de armas nucleares tornou-se indispensável durante a Guerra Fria.
Embora a IA suscite preocupações profundas sobre emprego, desigualdade e coesão social, nenhuma é mais importante do que a segurança. O argumento da indústria de que uma regulamentação significativa deve ser evitada – por desacelerar a inovação ou prejudicar a competitividade dos EUA – subestima gravemente os riscos de implementar sistemas de IA cada vez mais sofisticados antes de sabermos como controlá-los.
É verdade que os reguladores cometerão erros, e algumas regras podem se mostrar excessivamente restritivas. Mas esses erros podem ser corrigidos. Em contrapartida, as consequências de acelerar o desenvolvimento de uma das tecnologias mais impactantes que a humanidade já criou, sem salvaguardas adequadas, podem ser irreversíveis.
A invasão do sistema da Hugging Face deve servir como um alerta contundente para os legisladores em Washington e Pequim. Vencer a corrida da IA terá pouca importância se, no processo, criarmos perigos que nenhum país consiga conter.
© Project Syndicate, 2026
Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.