O pesquisador Jacob Coxon, de 27 anos, deixou a Anthropic e anunciou que não pretende continuar trabalhando na indústria de inteligência artificial. Depois de passar três anos em pesquisas de pré-treinamento na OpenAI e na Anthropic, ele afirma que as empresas estão avançando de forma irresponsável na busca por sistemas cada vez mais autônomos.
“As pessoas que desenvolvem IA acreditam sinceramente que ela pode matar todos nós até o fim da década”, escreveu Coxon ao anunciar sua saída. Segundo ele, executivos e pesquisadores demonstrariam, em conversas privadas, preocupação maior com os riscos da tecnologia do que aquela apresentada publicamente.
Um dos principais temores do pesquisador é o desenvolvimento de uma inteligência artificial capaz de participar do próprio aperfeiçoamento. Coxon avalia que sistemas com capacidades superiores às humanas poderiam ganhar autonomia para invadir sistemas, acelerar pesquisas e obter recursos no mundo real. Ele defende uma desaceleração no desenvolvimento e maior participação dos governos no controle dessa corrida.
O alerta também encontra respaldo entre outros profissionais do setor. Evan Hubinger, pesquisador de segurança da Anthropic, afirmou considerar superior a 10% a possibilidade de a IA provocar a extinção humana na próxima década. Outros pesquisadores da OpenAI e do Google DeepMind também manifestaram publicamente preocupação com a velocidade do avanço da tecnologia.
