Mark Zuckerberg, CEO da Meta, rejeitou pedidos recentes para suspender ou desacelerar o desenvolvimento da inteligência artificial. Em uma publicação no X, ele afirmou que os laboratórios têm responsabilidade e incentivo para avançar no treinamento de modelos com segurança.
A declaração ocorreu após executivos de tecnologia alertarem para os riscos do ritmo acelerado de desenvolvimento da IA e defenderem o reforço dos mecanismos de segurança. Para Zuckerberg, a dinâmica de mercado faz com que as empresas busquem sistemas mais confiáveis e alinhados às preferências dos usuários.
“As pessoas não vão querer usar agentes que estejam desalinhados com elas e que não façam o que elas pedem, então os laboratórios têm um forte incentivo natural para tornar seus modelos mais alinhados”, escreveu.
Alinhamento como diferencial
Zuckerberg reconheceu a existência de um debate sobre desacelerar o avanço das capacidades até que o alinhamento acompanhe esse progresso. Ele afirmou, porém, que confiança e alinhamento tendem a se tornar fatores centrais para diferenciar agentes e modelos de IA.
“Qualquer laboratório que não foque em alinhamento ficará para trás”, disse.
O executivo também declarou que os laboratórios têm responsabilidade significativa caso seus modelos causem danos. Como exemplo, citou a decisão da Meta de adiar por vários meses o lançamento do sistema Muse para priorizar segurança e proteção.
Outra medida defendida por Zuckerberg é o uso de avaliadores e consultores independentes. Segundo ele, essa é uma boa prática do setor, já adotada pela Meta Superintelligence Labs (MSL) em várias áreas. O executivo também defendeu um ecossistema de avaliadores maior e mais diverso.
Por fim, Zuckerberg afirmou que direcionar a grande maioria do poder computacional para servir às pessoas, em vez de concentrá-lo no autoaprimoramento recursivo, contribui para um desenvolvimento mais seguro da tecnologia. Ele disse que a Meta assumiu esse compromisso e que outros laboratórios podem fazer o mesmo.
