Para Harari, todas as outras tecnologias criadas antes da IA deram mais poder para os homens, mas a IA fez o inverso, uma vez que tirou poder dos seres humanos. Por ser a primeira ferramenta que o homem inventa e que pode tomar decisões por si só, e por ser a primeira tecnologia que pode criar novas ideias, Harari considera a IA um dos maiores desafios da humanidade.
Miguel Nicolelis, em entrevista ao programa Reconversa, reforça as reflexões de Harari ao apontar que estamos perdendo certas habilidades básicas - nos Estados Unidos, pesquisas apontam queda vertiginosa no vocabulário dos jovens do ensino médio, assim como nas habilidades cognitivas que envolvem interpretação de texto, raciocínio lógico etc., em decorrência do aumento do uso das telas em geral.
Apesar do preocupante cenário de formação educacional dos jovens, o que parece ser um fenômeno mundial, Nicolelis afirma que a IA não vai substituir a inteligência humana. Os algoritmos da IA nada mais são que estatística multivariada, enquanto a inteligência humana é propriedade dos organismos, emergente da matéria orgânica.
Embora a capacidade de dotação de criação de ideias pela IA de alguma forma dialogue com a noção dos "perigos binários dos algoritmos", é importante contextualizar que, do ponto de vista socioeconômico, a IA tem se configurado como a nova revolução tecnológica capaz de dar saltos de produtividade e possibilidade de rearranjos nas cadeias produtivas e de valor das economias, após décadas de estagnação. Seu sucesso social e econômico depende de regras!
Harari defende a criação de duas leis a serem adotadas pelos governos. A primeira, criaria processos de aprovação e validação de segurança da IA previamente à disponibilização para o público, assim como ocorre com as indústrias de medicamentos, de carros etc. A segunda, seria a proibição de "falsificação de seres humanos" - a ideia subjacente é o colapso humano que experimentaremos se passarmos a dialogar com máquinas.
Diane Coyle, professora de política pública da Universidade de Cambridge, em recente artigo publicado na plataforma Project Syndicate, argumenta que as plataformas digitais não obedecem, propositadamente, ao princípio da interoperabilidade - grosso modo, definido como normas técnicas comuns e acordos de reciprocidade entre as empresas do ramo. A ausência de regulação, seguramente, as favorecem.
Adicionalmente, Coyle alerta para a lacuna ou assimetria de informação entre os tomadores de decisão, responsáveis por elaborar as políticas de regulação das plataformas digitais, e os desenvolvedores ou detentores do conhecimento. A vasta gama de aplicação da IA exige, para além do conhecimento técnico, o pensar adequadamente suas políticas reguladoras, algo ainda obscuro.
O laureado Nobel de Economia Michael Spence, também em artigo recém-publicado na plataforma Project Syndicate, argumenta que a IA pode permitir a automatização de muitas tarefas e a substituição de trabalhadores humanos. No entanto, acredita que seja pouco provável que as aplicações prudentes da IA excluam os seres humanos num futuro próximo - algo que se aplica claramente às ferramentas da área de saúde, ou mesmo ao "suprimento" de informações para os Chats GPTs.
Embora Spencer, Coyle e Harari defendam a regulação e a busca pelo equilíbrio entre segurança e abertura para que o futuro do desenvolvimento da IA prevaleça em meio a compromissos de cooperação global, o que se constata, até o momento, são grandes empresas fazendo uso irrestrito das ferramentas de IA e sistemas econômicos e políticos aturdidos e enfraquecidos.
A ausência de discussão global sobre o tema mostra o poder da IA na capacidade velada de desarticular a formação de grupos sociais. Na perspectiva de Nicolelis, "para se ter um grupo social e um comportamento social, os cérebros dos indivíduos têm que se amalgamar, têm que sincronizar na mesma frequência". E a IA é capaz de quebrar essa possibilidade de construção social. Pior do que isso, parafraseando Harari, "a IA pode nos fazer perder grande parte do nosso potencial como humanos, sem que sequer nos apercebamos disso".