Existe uma bolha da inteligência artificial?
Alex Dias, ex-presidente do Google e fundador da São Pedro Capital, diz que as empresas estão mais maduras do que na bolha das ponto com. Crédito: Lucas Thomas e Alex Dias
A Anthropic anunciou parceria com a Accenture para avaliar a segurança de seus modelos de inteligência artificial. A startup californiana destinará US$ 1 bilhão para essa avaliação nos próximos cinco anos, com a Accenture investindo valor equivalente. A iniciativa visa garantir a revisão independente dos modelos, com consultores tendo acesso total aos sistemas da Anthropic. A colaboração não é exclusiva, e novos acordos com outros avaliadores externos serão anunciados em breve.
A Anthropic informou nesta sexta-feira, 18, que se associou à consultoria Accenture para avaliar a segurança de seus modelos de inteligência artificial (IA), com o objetivo de cumprir a promessa do CEO da empresa de tecnologia, Dario Amodei, de que observadores independentes avaliariam os modelos mais potentes da empresa.
Embora a startup californiana considere que, a longo prazo, a revisão independente da IA deveria ser financiada pelo Estado ou por um fundo específico, “devido à importância e urgência desse trabalho” vai começar a remunerar a Accenture.
A Anthropic deve destinar US$ 1 bilhão para a avaliação de sua IA nos próximos cinco anos. A Accenture planeja investir um valor equivalente nessa atividade no mesmo período.
Aplicativos de inteligência artificial generativa Foto: Lucas Agrela/Estadão
Como prometeu Amodei, a Anthropic vai dar aos consultores da Accenture os mesmos acessos aos seus sistemas que aos de seus funcionários. Os profissionais envolvidos serão da faculdade, subsidiárias da Accenture dedicadas à IA, empresa adquirida neste ano pelo grupo de consultoria.
“Os avaliados integrados podem observar como uma empresa opera, verificar se ela realmente cumpre seus compromissos de segurança e identificar pontos cegos”, explicou a Anthropic. “Também podem relatar incidentes e fornecer uma prestação de contas mais bem documentada em relação aos benefícios e riscos.”
Segundo a Anthropic, a colaboração não é exclusiva e acordos com outros avaliados externos deverão ser anunciadas nas próximas semanas./AFP