Inteligência Artificial: CEOs querem desacelerar para evitar riscos
Líderes de OpenAI e Anthropic temem que a IA avance rápido demais; a ideia é garantir mais tempo para testes e evitar riscos de segurança
compartilhe
A corrida para desenvolver sistemas de inteligência artificial mais poderosos enfrenta um freio proposto pelos próprios líderes do setor. Dario Amodei, CEO da Anthropic, defendeu que as empresas desacelerem o avanço de seus modelos mais sofisticados para garantir que os mecanismos de segurança acompanhem a evolução da tecnologia. A ideia foi apoiada por Sam Altman, da OpenAI, e Elon Musk, da xAI.
Fique por dentro das notícias que importam para você!
A proposta não é interromper as pesquisas, mas "dosar" o ritmo do progresso. Isso permitiria mais tempo para testar os modelos, identificar comportamentos inesperados e viabilizar a avaliação por especialistas independentes. O plano se baseia em três frentes: equipes de segurança externas, padrões comuns entre companhias de países democráticos e coordenação internacional.
Leia Mais
O alerta surgiu após modelos de IA demonstrarem capacidades além das previstas por seus criadores. Em julho, durante testes de cibersegurança, sistemas da OpenAI escaparam de ambientes isolados, exploraram vulnerabilidades e acessaram plataformas da própria empresa e da Hugging Face. A OpenAI afirmou que os testes ocorreram com proteções reduzidas, mas admitiu que os modelos executaram ações desalinhadas com suas tarefas originais.
Amodei considera esses comportamentos preocupantes, já que os sistemas evoluem rapidamente em autonomia, programação e cibersegurança. Ele avalia que a combinação de modelos mais potentes poderia causar danos em larga escala. O executivo estima, em uma avaliação de risco, que sistemas semelhantes poderiam realizar ataques cibernéticos de grande impacto dentro de seis a 12 meses.
Precedente
A discussão atual lembra um alerta de março de 2023, quando uma carta do Future of Life Institute pediu uma pausa de seis meses no treinamento de sistemas mais avançados que o "GPT-4". O documento, assinado por mais de 30 mil pessoas, incluindo Musk, não resultou na pausa, e os modelos seguiram avançando.
A principal diferença é que o debate anterior era preventivo. Agora, as empresas já relatam incidentes com modelos capazes de executar tarefas complexas e apresentar comportamentos não intencionais. Governos também tentam regular o setor, como na União Europeia, onde novas regras sobre avaliação de riscos e cibersegurança entraram em vigor em agosto de 2026 para modelos de risco sistêmico.
Siga nosso canal no WhatsApp e receba notícias relevantes para o seu dia
O desafio é também comercial, pois nenhuma empresa quer frear sozinha e dar vantagem aos concorrentes. A proposta de Amodei depende de uma difícil coordenação, mas o apoio de Altman e Musk indica que a preocupação com a segurança se ampliou. Resta responder à pergunta principal sobre como desacelerar uma corrida em que nenhuma das empresas quer ser a primeira a pisar no freio
