Anthropic estabelece parceria com a Faculty da Accenture para incorporar avaliadores de segurança em IA

Em um movimento significativo para a indústria de inteligência artificial, a Anthropic anunciou uma nova parceria com a unidade Faculty da Accenture para aprimorar a segurança e o alinhamento de seus modelos de fronteira. O acordo, finalizado em 18 de setembro de 2026, estabelece uma estrutura na qual avaliadores independentes trabalharão diretamente dentro das equipes de pesquisa e implantação da Anthropic. Esta iniciativa visa proporcionar um nível mais elevado de transparência e testes rigorosos para sistemas avançados de IA antes que sejam liberados ao público. Ambas as empresas se comprometeram com pelo menos 1 bilhão de dólares cada, ao longo dos próximos cinco anos, para apoiar este esforço. O financiamento será dedicado a red-teaming, avaliações de alinhamento e testes abrangentes de salvaguardas. Ao incorporar esses avaliadores, a Anthropic pretende garantir que seus processos de desenvolvimento permaneçam consistentes com suas metas de segurança declaradas. Os avaliadores terão acesso de nível de funcionário às decisões de treinamento e implantação da empresa, permitindo uma supervisão em tempo real. Esse nível de acesso destina-se a ajudar a identificar riscos potenciais que poderiam passar despercebidos apenas por auditorias externas. Dario Amodei, CEO da Anthropic, enfatizou anteriormente a importância desse ritmo interno e supervisão em seus ensaios recentes sobre o desenvolvimento de IA. A parceria não é exclusiva, e a Anthropic indicou que está atualmente testando arranjos semelhantes com outras organizações, incluindo a organização sem fins lucrativos METR. Esta estratégia reflete uma tendência crescente entre os principais laboratórios de IA em adotar abordagens mais proativas e colaborativas para a segurança. À medida que os modelos de IA se tornam mais capazes, a indústria enfrenta pressão crescente de reguladores e do público para demonstrar que esses sistemas são seguros e confiáveis. O movimento é visto como uma resposta à necessidade de uma governança mais robusta no campo da IA generativa, que evolui rapidamente. Ao integrar especialistas independentes no cerne de suas operações, a Anthropic espera estabelecer um novo padrão de responsabilidade no setor. Espera-se que a colaboração forneça dados e percepções valiosas que possam ajudar a moldar futuros protocolos de segurança em toda a indústria. À medida que o projeto avança, as descobertas desses avaliadores integrados provavelmente influenciarão a forma como outras empresas abordam o desenvolvimento de tecnologias poderosas de IA.