A corrida global pelo desenvolvimento de sistemas de inteligência artificial de ponta atingiu um ponto de tensão crítica. Jacob Coxon, pesquisador britânico de 27 anos, anunciou sua saída da Anthropic, acompanhada de críticas contundentes à postura adotada pela empresa e também pela OpenAI, onde atuou anteriormente. O especialista descreveu a trajetória atual das companhias como uma aposta perigosa com o futuro da humanidade.
Críticas à aceleração da superinteligência
Com três anos de experiência dedicada ao pré-treinamento de modelos de linguagem, Coxon utilizou as redes sociais para manifestar sua preocupação. Segundo o pesquisador, o setor está avançando rapidamente em direção a uma “superinteligência autoaperfeiçoável” sem que os mecanismos de segurança e controle estejam devidamente estabelecidos ou testados.
O alerta de Coxon ganha peso ao revelar que o receio não é isolado. O cientista afirma que, nos bastidores, muitos profissionais que atuam diretamente no desenvolvimento dessas tecnologias levam a possibilidade de uma catástrofe existencial a sério, em um contraste direto com o tom moderado adotado em comunicados públicos.
O consenso interno sobre ameaças existenciais
A percepção de risco compartilhada por Coxon sugere que a preocupação com o impacto da IA não é apenas uma especulação externa, mas um tema de debate interno entre os próprios desenvolvedores. O pesquisador pontuou que, para parte dos especialistas, uma inteligência artificial suficientemente avançada poderia representar uma ameaça real à humanidade ainda nesta década.
A gravidade das declarações foi reforçada por uma resposta pública de Evan Hubinger, líder de Alignment Science na Anthropic. Ao concordar parcialmente com a avaliação de Coxon, Hubinger trouxe à tona a complexidade ética que envolve a busca por sistemas autônomos cada vez mais potentes, conforme reportado em detalhes pela Xataka.
Desafios para o controle tecnológico
O debate sobre a segurança da inteligência artificial coloca em xeque a velocidade com que as empresas do setor lançam novas atualizações. A pressão por inovação, muitas vezes impulsionada pela competição de mercado, pode estar negligenciando os riscos de longo prazo associados à criação de sistemas que superam a capacidade de supervisão humana.
Enquanto o setor busca a liderança tecnológica, a comunidade científica permanece dividida sobre como equilibrar o progresso com a responsabilidade. O caso de Coxon serve como um marco para a necessidade de maior transparência e rigor nos protocolos de segurança que regem o desenvolvimento de tecnologias de fronteira.
Fonte: terra.com.br
