“Nenhuma outra atividade humana representa esse nível de perigo”: pesquisador em segurança da Anthropic afirma que há mais de 10% de chance de que a IA “possa matar todos os seres
Um pesquisador de segurança da Anthropic afirmou que há uma chance superior a 10% de que a IA “possa matar todos os seres humanos” na próxima década e admitiu que não há um plano coordenado para impedir que isso aconteça.
A empresa norte-americana Anthropic, liderada por Dario Amodei, desenvolve o Grande Modelo de Linguagem (LLM) Claude e realiza pesquisas em IA. Ontem, um dos pesquisadores da empresa, Jacob Coxon, anunciou sua demissão no X/Twitter, acusando tanto a OpenAI, criadora do ChatGPT, quanto a Anthropic de “correrem direto para uma superinteligência que se autoaperfeiçoa e de jogarem com nossas vidas”.
“Nenhuma das duas empresas está agindo de forma responsável”, afirmou Coxon, que já trabalhou na OpenAI. “Não subestimem o poder dessa tecnologia. Em breve, esses serão sistemas sobre-humanos capazes de invadir qualquer sistema, revolucionar qualquer área da noite para o dia e adquirir poder e recursos reais”, continuou ele. “Todos nós testemunhamos o avanço em cada um desses domínios, e esse avanço não está diminuindo”.
“As pessoas que estão desenvolvendo a IA acreditam sinceramente que ela pode nos matar a todos até o final da década. Isso não é um golpe de marketing. Na verdade, muitos executivos e pesquisadores sênior tendem a moderar suas declarações à imprensa para parecerem sensatos — mas ouço essas mesmas pessoas expressarem medo em particular. Nenhuma outra atividade humana representa esse nível de perigo".
Coxon afirmou que a equipe da OpenAI, liderada por Sam Altman, “não internalizou profundamente o que está em jogo para a civilização”, e é por isso que o trabalho para aprimorar rapidamente seus modelos de IA continua, apesar dos riscos. “Na Anthropic, o que está em jogo é bem compreendido, mas eles estão presos em uma corrida para chegar lá primeiro”, insistiu ele. “Eles acreditam que ninguém mais agirá com responsabilidade, então precisam fazer isso sozinhos, apesar do risco”.
“Aceitar essa corrida e entrar na ‘fase final’ é uma aposta arrogante que não deveria ser iniciada pelo Slack de uma empresa privada. Tentar acelerar o alinhamento exigiria uma confiança extraordinária de que não há trajetórias melhores disponíveis”.
Coxon continuou dizendo que estava otimista quanto ao potencial de coordenação, mas duvidava que as empresas de IA estivessem no caminho certo para evitar uma corrida global, “o que pode exigir medidas onerosas, como uma proibição temporária do aprimoramento das capacidades dos modelos”.
Ele encerrou sua declaração exortando os pesquisadores dos laboratórios de IA a refletirem sobre o que estavam fazendo. “Vocês querem dar início a um ciclo de RL superinteligente sem uma compreensão rigorosa de sua mente?”, perguntou ele. “Devem simplesmente aceitar a situação porque ‘isso vai acontecer de qualquer maneira’ — ou aproveitar este momento para exigir condições diferentes?”. Dario Amodei. Foto por: Prakash Singh/Bloomberg via Getty Images.
A declaração de Coxon causou comoção nas redes sociais, gerando alarme e uma série de manchetes na grande mídia. Mas ela foi corroborada por Evan Hubinger, líder da área de “Ciência do Alinhamento” da Anthropic, que acrescentou um alerta ainda mais severo.
“Jacob está certo — nós realmente acreditamos sinceramente que a IA poderia matar todos os seres humanos!”, disse ele. “Pessoalmente, acho que a probabilidade é superior a 10% na próxima década. Acredito que a Anthropic está fazendo o possível, mas ainda não temos um plano para resolver o alinhamento da superinteligência e não estamos claramente no caminho certo para isso”.
Notavelmente, Hubinger destacou o mais recente Relatório de Risco da Anthropic, no qual a empresa afirmou acreditar que o risco decorrente dos modelos atuais é “baixo”, em vez de sugerir uma pausa que pudesse ajudar a evitar a extinção da humanidade. “O que me preocupa é a superinteligência resultante do auto aperfeiçoamento recursivo, que, como já dissemos, está ocorrendo mais rapidamente do que pensávamos”, acrescentou.
Os comentários foram feitos depois que o Financial Times noticiou que a Anthropic não divulgou seu modelo mais recente ao Instituto de Segurança em IA do Reino Unido, um dos principais órgãos do mundo para a avaliação de riscos relacionados à IA.
Inscreva-se no canal do IGN Brasil no YouTube e visite as nossas páginas no Facebook, Twitter, Threads, Bluesky, Instagram e Twitch!
Acompanhe a Recifes.net
Gostou desta leitura? Siga a Recifes nas redes e receba as proximas pautas no WhatsApp.
Matéria produzida com curadoria editorial assistida por IA, a partir de pauta de br.ign.com.
