Inteligência artificial pode nos extinguir? Especialista aponta o risco real

A inteligência artificial pode representar uma ameaça à humanidade? A questão, antes restrita à ficção científica, ganha espaço em debates sobre o avanço da tecnologia. Para Fábio Tiepolo, CEO da StaryaAI, previsões de extinção devem ser vistas com cautela, mas os riscos imediatos já exigem atenção.

• IA e mortes no mundo real: a previsão surpreendente da ficção científica

Segundo o especialista, alertas de pesquisadores que atuam na fronteira do desenvolvimento da IA merecem ser levados a sério, mas não como fatos. Ele destaca que existe uma grande distância entre reconhecer um risco e afirmar que a humanidade será extinta nos próximos dez anos.

A preocupação maior, para Tiepolo, está no desenvolvimento de sistemas cada vez mais autônomos e inseridos em processos críticos. Isso exige que a governança e o controle evoluam na mesma velocidade que a capacidade dos modelos de IA.

Leia Mais

• 'Vai nos matar até o fim da década': ex-pesquisador da Anthropic alerta sobre riscos da IA

• Bill Gates alerta: IA pode causar 1 bilhão de mortes; entenda

• O mundo está certo em temer IA, mas precisa confiar nas empresas, diz chefe da OpenAI

O debate atual é relevante por mostrar que a discussão deixou de ser apenas acadêmica. A questão principal não é concordar com uma probabilidade de extinção, mas sim construir mecanismos de governança compatíveis com o poder dos sistemas de IA.

O risco real da IA hoje

O maior receio de Tiepolo não é uma IA consciente atacando a humanidade, mas sim algo mais próximo: organizações que delegam decisões importantes a sistemas que não conseguem compreender, auditar ou controlar de forma adequada.

Isso já acontece em áreas como saúde, seguros e mercado financeiro. Uma IA pode influenciar uma decisão clínica, a concessão de crédito ou uma análise de risco e, mesmo parecendo convincente, pode estar errada. À medida que a tecnologia melhora, a confiança nela aumenta, o que agrava o problema.

O risco atual está na combinação de autonomia, escala e falta de governança. Um erro humano tem alcance limitado, enquanto um erro automatizado pode se replicar milhões de vezes antes de ser percebido.

Previsão para os próximos dez anos

Tiepolo aposta que, em uma década, a inteligência artificial se tornará infraestrutura. Deixará de ser vista como um produto ou ferramenta, assim como hoje ninguém diz que uma empresa “usa internet”. A IA estará incorporada a processos e decisões.

Agentes digitais devem executar parte do trabalho intelectual hoje feito por pessoas, o que mudará profissões e modelos econômicos. Isso não significa substituir humanos, mas alterar o que consideramos trabalho humano. A transformação pode ter o impacto das grandes revoluções tecnológicas, mas em um tempo muito menor.

A perda do poder de decisão

Um risco subestimado pelo mercado é a perda gradual da capacidade humana de decidir. O processo pode ocorrer de forma silenciosa: a IA começa recomendando, depois passa a decidir e, por fim, suas decisões são aceitas por costume.

Em áreas como justiça ou gestão empresarial, isso levanta uma questão: quando o ser humano deixa de ser responsável pela decisão para apenas confirmar o que a máquina decidiu? Esse risco parece mais concreto no curto prazo do que cenários extremos.

Siga nosso canal no WhatsApp e receba notícias relevantes para o seu dia

A StaryaAI busca um papel pragmático, construindo infraestrutura para que empresas usem IA de maneira poderosa e governável. A empresa atua para transformar princípios de segurança e responsabilidade em tecnologia e processos aplicáveis. A questão central talvez não seja até onde a IA vai chegar, mas quanto controle queremos preservar sobre o que estamos construindo.