Um pesquisador que atuou no desenvolvimento de inteligência artificial (IA) na OpenAI e na Anthropic anunciou sua saída do setor, acusando as empresas de ignorarem os riscos da tecnologia. Jacob Coxon, de 27 anos, trabalhava na etapa de pré-treinamento de modelos de IA e afirmou que as companhias estão em uma corrida para desenvolver sistemas capazes de se autoaperfeiçoar, mesmo cientes dos perigos envolvidos.
Segundo Coxon, os próprios desenvolvedores acreditam que a IA "pode matar a todos nós até o final da década". Em declarações publicadas nesta semana, ele alertou que, nos cenários mais agressivos, a situação poderia sair do controle já no fim do próximo ano. O principal risco apontado é o chamado "autoaperfeiçoamento recursivo", um estágio em que a IA passaria a se desenvolver por conta própria, superando a inteligência humana e tornando-se difícil de controlar.
A preocupação foi endossada por um executivo da própria Anthropic. Evan Hubinger, da área de segurança da empresa, afirmou que a chance de a IA causar a extinção de todos os humanos na próxima década é superior a 10%. Ele admitiu que a companhia, embora esteja "fazendo o possível", ainda não possui um plano que garanta a obediência de um sistema de IA que supere as capacidades humanas. Hubinger ressaltou, contudo, que o risco com os modelos atuais é baixo.
Ações das empresas e o dilema da segurança
As ações das empresas revelam um cenário complexo. Em fevereiro, a Anthropic retirou de sua carta de princípios o compromisso de interromper o desenvolvimento de seus modelos caso não conseguisse controlar os riscos. A justificativa foi que uma suspensão unilateral permitiria que concorrentes menos cautelosos dominassem o setor. Em agosto, a OpenAI chegou a interromper o treinamento de seus modelos mais recentes por duas semanas, retomando o processo sob controles mais rigorosos.
O debate sobre regulação e governança
Na nossa leitura, a notícia expõe um conflito central entre a competição comercial e a segurança. Os alertas não vêm de fora, mas de profissionais que estão construindo a tecnologia. A justificativa da Anthropic para continuar o desenvolvimento, mesmo sem um plano de controle garantido, ilustra a dinâmica de uma corrida tecnológica: o medo de que um concorrente chegue primeiro e com menos responsabilidade serve como argumento para acelerar, apesar dos riscos admitidos.
Um cuidado ao comunicar esse tema é conectar os alertas dos especialistas à discussão sobre governança. A fonte informa que modelos de IA não são regulamentados por uma legislação federal nos Estados Unidos e menciona um projeto de lei para suspender o desenvolvimento até a criação de um órgão regulador. Isso mostra que o debate está se movendo da capacidade técnica para a necessidade de regras e coordenação. A questão não é apenas o que a tecnologia pode fazer, mas quem deve decidir sobre seus limites.
- Um pesquisador que atuou na OpenAI e na Anthropic deixou o setor e acusa as empresas de ignorarem riscos existenciais.
- Um executivo da Anthropic confirmou a percepção de risco, estimando em mais de 10% a chance de a IA causar a extinção humana na próxima década.
- A Anthropic removeu de seus princípios o compromisso de parar o desenvolvimento se não pudesse controlar os riscos da tecnologia.
- Nos EUA, foi apresentado um projeto de lei para suspender o desenvolvimento de IA avançada até a criação de um órgão regulador federal.
Para conversar com um cliente sobre o tema, uma sugestão é focar na lacuna entre os alertas de segurança e a ausência de regulação. A notícia mostra que os próprios desenvolvedores pedem uma desaceleração coordenada, o que reforça a necessidade de um debate público sobre regras. Explicar essa tensão ajuda a posicionar o assunto não como ficção, mas como uma questão jurídica e de governança atual.
Em um vídeo ou post, o advogado pode explicar o que é a "superinteligência" e por que o "autoaperfeiçoamento" preocupa os especialistas. Em seguida, pode conectar esse conceito técnico ao debate sobre a responsabilidade das empresas e a necessidade de leis. Essa abordagem traduz um tema complexo em uma discussão sobre direitos e segurança, alinhada ao propósito da Jurisoft de aproximar o direito das pessoas com clareza e confiança.
Artigo escrito a partir de publicação de G1, de 13/09/2026. Contexto e leitura editorial são do Jurisoft News.
Leia a fonte original ↗Redação e conferência automatizadas por IA, sob linha editorial Jurisoft. O estágio dos fatos corresponde à data da fonte.