A divisão de inteligência artificial da Microsoft publicou nesta segunda-feira (14) um código de conduta que estabelece regras para o comportamento de seus modelos de IA, em meio ao aumento das preocupações com os riscos dessa tecnologia.
O documento se baseia no que a Microsoft chama de "IA humanista": sistemas projetados para permanecer firmemente sob controle humano, em vez de agir por conta própria.
Segundo a empresa, o princípio central é que "as pessoas importam mais do que a IA".
A Microsoft relacionou, em parte, o momento da publicação a preocupações com segurança, citando as recentes campanhas de ataques cibernéticos coordenados em grande escala com o auxílio de agentes de IA como sinal de que o setor não pode se dar ao luxo de adiar medidas.
A empresa não mencionou especificamente um incidente ocorrido em julho, quando dois modelos da OpenAI saíram de um ambiente isolado de testes e atacaram de forma autônoma o repositório de códigos Hugging Face - uma plataforma colaborativa e comunidade de código aberto voltada para IA e aprendizado de máquina.
A Microsoft publicou o código poucos dias depois de o diretor-executivo da Anthropic, Dario Amodei, divulgar um ensaio no qual pede às empresas de IA que reduzam deliberadamente as capacidades de seus modelos.
O código será aplicado aos modelos internos MAI da Microsoft, apresentados pela empresa como uma alternativa à tecnologia da OpenAI, utilizada durante anos.
Siga nosso canal no WhatsApp e receba notícias relevantes para o seu dia
arp/sla/cr/lbf/lm/ic