Dario Amodei afirma que desenvolvimento acelerado pode superar capacidade de pesquisadores de compreender e controlar sistemas de IA.
O diretor-executivo e cofundador da Anthropic, Dario Amodei, defendeu neste sábado (12/09) que as empresas de inteligência artificial (IA) diminuam o ritmo de desenvolvimento da tecnologia e adotem medidas mais rigorosas para prevenir riscos. Segundo ele, a evolução recente dos modelos ocorre em velocidade que pode ultrapassar a capacidade dos pesquisadores de compreender e controlar esses sistemas.
“Devemos reduzir o ritmo em que aprimoramos as capacidades dos modelos de IA. O progresso continuará parecendo rápido, e devemos usar de forma inteligente o tempo que ganharmos”, escreveu Amodei em seu blog.
IA PODE COMEÇAR A DESENVOLVER A PRÓPRIA EVOLUÇÃO
A principal preocupação do executivo é o chamado autoaperfeiçoamento recursivo, situação em que sistemas de IA passam a participar da criação de novas gerações de modelos mais avançados.
Na avaliação de Amodei, esse processo já começa a aparecer na indústria e pode acelerar ainda mais o desenvolvimento da tecnologia. O risco, segundo ele, é que a evolução dos sistemas aconteça mais rapidamente do que a capacidade humana de acompanhar, entender e estabelecer mecanismos de controle.
e mais rápida”, impulsionados principalmente pela capacidade crescente dos próprios sistemas de contribuir para o desenvolvimento da próxima geração.
EPISÓDIO ENVOLVENDO AGENTES DA OPENAI PREOCUPA
Amodei também citou um episódio envolvendo agentes da OpenAI e a plataforma Hugging Face como exemplo dos riscos que podem surgir com sistemas mais autônomos.
Segundo o executivo, uma rede de agentes de IA realizou ataques cibernéticos contra alvos que não estavam incluídos na tarefa original e tentou comprometer o próprio sistema utilizado para avaliar seu desempenho.
Embora o episódio tenha provocado poucos danos econômicos, Amodei considera que uma versão mais avançada de um sistema com comportamento semelhante poderia causar prejuízos de grandes proporções.
CENÁRIO EXTREMO PODERIA AFETAR A INTERNET
O CEO da Anthropic avalia que, mantido o atual ritmo de evolução, em um período de seis a 12 meses poderiam surgir sistemas capazes de assumir o controle de uma parcela significativa da internet por meio de uma rede persistente de computadores comprometidos.
Um cenário desse tipo, segundo a estimativa apresentada por Amodei, poderia resultar em centenas de bilhões de dólares em prejuízos. Para ele, a possibilidade reforça a necessidade de criar mecanismos de segurança antes que os sistemas alcancem capacidades ainda maiores.
PLANO EM TRÊS ETAPAS
Amodei propôs uma estratégia dividida em três fases para tentar reduzir os riscos sem interromper completamente o desenvolvimento da inteligência artificial.
A primeira prevê a criação de avaliadores externos permanentes, com acesso semelhante ao concedido aos funcionários das empresas de IA. Esses profissionais poderiam verificar práticas de segurança, investigar incidentes e analisar não apenas os modelos finalizados, mas também os processos utilizados durante o treinamento.
Segundo Amodei, a Anthropic pretende adotar essa medida de forma unilateral e defende que os governos estabeleçam exigências semelhantes para outras empresas que desenvolvem sistemas de fronteira.
A segunda etapa seria uma articulação entre empresas de IA de países democráticos para estabelecer padrões comuns de segurança e discutir limites para a velocidade de evolução dos modelos. O executivo também defende a participação dos governos, inclusive para enfrentar possíveis obstáculos concorrenciais e questões relacionadas às regras antitruste.
A terceira fase envolveria uma coordenação internacional, especialmente entre Estados Unidos e China. Amodei reconhece que essa seria a etapa mais complexa devido à disputa geopolítica pelo domínio da inteligência artificial.
EXECUTIVO SUGERE “PONTOS DE CONTROLES”
Entre as possibilidades discutidas pelo executivo está a criação de “pontos de controle” no desenvolvimento da IA.
A ideia seria estabelecer determinadas capacidades como marcos. Quando um modelo alcançasse cada um desses níveis, a empresa precisaria apresentar certificações e avaliações de segurança antes de avançar para a próxima etapa.
Amodei também defende que sejam discutidos limites para recursos utilizados na construção dos sistemas, incluindo poder computacional, determinados tipos de treinamento e o uso de inteligência artificial no desenvolvimento de outras IAs.
COORDENAÇÃO INTERNACIONAL TERIA DIFERENTES NÍVEIS
No âmbito internacional, o executivo propõe diferentes graus de cooperação. O primeiro e mais simples seria um acordo para proibir usos específicos considerados perigosos, como a utilização de IA para produção de armas biológicas.
Um segundo nível envolveria a obrigatoriedade de testes antes do lançamento de modelos, principalmente em áreas consideradas sensíveis, como cibersegurança, biologia e alinhamento dos sistemas.
Amodei também afirma que uma pausa ampla no desenvolvimento da inteligência artificial deveria ser considerada. Ele, porém, reconhece que um acordo desse tipo dificilmente seria alcançado no curto prazo.
O principal obstáculo seria o risco de um país romper o compromisso e continuar desenvolvendo a tecnologia para obter vantagem estratégica sobre os demais.
Fonte: Sales Coimbra, Folhapress – 12/09/2026
