CEOs de gigantes da IA, como Dario Amodei (Anthropic), Sam Altman (OpenAI), Elon Musk (xAI) e Satya Nadella (Microsoft), defendem cautela no desenvolvimento da tecnologia após alerta de risco de 10% de a IA acabar com a humanidade. Eles propõem padrões de segurança e avaliações independentes. Miguel Nicolelis critica a falta de evidências e vê o medo como estratégia de marketing. A desaceleração visa evitar perda de controle, segundo Carlos Rafael Gimenes das Neves, da ESPM.
Os CEOs de grandes empresas de inteligência artificial (IA) se manifestaram a favor de uma abordagem mais cautelosa no desenvolvimento da tecnologia após um ex-funcionário da Anthropic (dona do Claude) falar publicamente sobre um risco de 10% de a IA acabar com a humanidade. Dario Amodei (Anthropic), Sam Altman (OpenAI), Elon Musk (xAI) e Satya Nadella (Microsoft) apoiaram a ideia de estabelecer padrões compartilhados de segurança e avaliações independentes antes que novos modelos sejam colocados em operação. As falas derrubam os preços de ações de empresas de tecnologia no começo desta semana.
“Devemos diminuir o ritmo com que aprimoramos as capacidades dos modelos de IA. O progresso ainda parecerá rápido, e devemos usar o tempo que ganharmos com sabedoria”, escreveu Amodei em seu site, em um ensaio em que pede equilíbrio entre os benefícios e riscos da IA por meio de um desenvolvimento mais cauteloso da tecnologia.
Respondendo ao ensaio de Amodei, Musk, conhecido por alertar sobre os riscos de perda de controle da IA, escreveu: “Dario está certo.”
Executivos de empresas de inteligência artificial pedem freio no avanço da tecnologia para evitar perda de controle Foto: Dongyu Xu/Tada Images – stock.adobe.com
Altman usou as redes sociais para falar sobre como o ritmo frenético do avanço da IA pode fazer com que os humanos percam “o controle do futuro para a IA”, o que teria consequências muito ruins. Segundo ele, nenhuma pressão competitiva americana deve justificar a imprudência e, por isso, apoia uma estrutura federal que traga requisitos de segurança consistentes para o desenvolvimento de IA de ponta.
“O progresso tem sido rápido e continuará sendo”, disse Altman. “Mas deveria ser mais lento do que poderia ser; intervenções como análises de segurança e monitoramento têm custos significativos.”
O executivo sugeriu que a OpenAI possa precisar adiar sua abertura de capital na bolsa de valores, um dos eventos mais aguardados do mundo da tecnologia nos últimos anos.
Já o CEO da Microsoft, Satya Nadella, disse que a busca pela superinteligência, uma IA capaz de superar os humanos em tarefas cognitivas, deve permanecer sob controle humano.
“Qualquer busca por superinteligência deve se basear no princípio fundamental de que, se a IA que construímos não estiver ajudando a humanidade e não estiver sob controle humano, não vale a pena investir nela”, disse Nadella. “Também precisamos acelerar e disseminar os benefícios da IA, de modo que sejam amplamente difundidos por países, comunidades e empresas. Isso requer um ecossistema de vanguarda no qual tanto modelos fechados quanto de código aberto possam prosperar.”
Nadella ressaltou ainda que as empresas devem ser capazes de construir seus sistemas de IA usando dados próprios para não se tornarem dependentes de fornecedores de modelos, como OpenAI ou Anthropic, uma preocupação crescente entre executivos de tecnologia de todo o mundo.
Na visão do professor do curso de Ciência de Dados e Negócios da ESPM, Carlos Rafael Gimenes das Neves, a OpenAI e a Anthropic estão trabalhando em ritmo acelerado, subsidiando o avanço da IA, enquanto outras empresas, como o Google, podem se beneficiar no longo prazo por terem negócios lucrativos.
“O Google não pode virar um ralo de dinheiro, precisa se sustentar. Então ele desenvolve com maestria sua IA, só que a taxa de criação de modelos, de liberação e tudo mais, não é tão bruta quanto a da Anthropic e da OpenAI”, diz.
Segundo o professor, a redução no ritmo de desenvolvimento nem sempre ajuda os rivais das grandes empresas de IA a alcançarem o mesmo patamar tecnológico de quem está na liderança, e pode complicar ainda mais a situação delas.
“Essa desaceleração é para respirar e entender o que está acontecendo; será preciso regulamentar a IA. Isso poderia gerar um efeito oposto com relação às empresas menores. Dependendo do que for decidido, as companhias que estão correndo atrás podem ter mais um empecilho, como precisar criar funcionalidades específicas”, afirma.
Leia também
Data centers podem ser limitação da IA
O cientista brasileiro Miguel Nicolelis publicou um vídeo nas suas redes sociais comentando o caso da denúncia do ex-funcionário da Anthropic que teria deixado a empresa após descobrir um risco de 10% de a IA sair do controle humano e acabar com a humanidade.
Para ele, esse risco sempre esteve nesse patamar e é falado há cerca de 15 anos por membros do movimento social Effective Altruism, que recebe recursos de bilionários da tecnologia. Ele afirma que a teoria foi criada com base em histórias de ficção científica e é propagada em momentos de crise da IA. O cientista também critica a falta de evidências apresentadas pelo ex-funcionário da Anthropic e pelo Effective Altruism.
Nicolelis diz que as empresas de IA estão desesperadas por dinheiro para continuar a crescer e usam o medo da IA como estratégia de marketing. “O medo funciona muito bem; ele faz com que sociedades inteiras aceitem ser policiadas e controladas, aceitem medidas excepcionais e até que o governo proteja essas empresas da competição de outros países, como a China. A China apostou em um modelo open source de IA e está destruindo o modelo de negócios da OpenAI e da Anthropic”, afirma.
“Os americanos não aceitam ter data centers na vizinhança. Sem eles, essas empresas não conseguem rodar os seus modelos e manter a coleta, roubo infinito de dados de todos nós. Portanto, é muito importante levar em conta todos esses fatores”, disse Nicolelis.
O cientista reforça que não há nenhum fundamento para o fim do mundo por causa da IA.
Neves, da ESPM, diz que o problema dos data centers é secundário ao negócio das plataformas de IA, e que a desaceleração do avanço da tecnologia seja, essencialmente, motivada para evitar uma perda de controle, e não por preocupações sociais.