A importância de saber dizer 'eu não sei'
A criadora da principal IA do mundo admite: as máquinas nunca respondem que não sabem algo porque imitam o nosso desconforto com a incerteza
Mais lidas
compartilhe
SIGA NO
Há algumas semanas, a OpenAI publicou um paper com um título provocativo: “Por que os modelos de linguagem alucinam?”. A resposta, curiosamente, diz mais sobre nós do que sobre as máquinas.
O estudo mostra que as ferramentas de inteligência artificial - como o ChatGPT - tendem a inventar respostas porque são recompensadas por responder alguma coisa, mesmo que seja uma adivinhação sem qualquer lastro com a realidade. Há um desincentivo estrutural a reconhecer a incerteza, a responder que não sabem algo. O modelo de aprendizado reforça o comportamento de preencher o silêncio com algo, ainda que impreciso. Soa familiar?
Na prática, esses sistemas são treinados para parecer confiantes. E quando erram, erram com convicção. E levam usuários desatentos a errarem junto. Recentemente, vimos episódios curiosos de alucinações de IA que foram parar até em matérias jornalísticas, como lista de vilãs de novela que nunca existiram e placares esportivos imaginários. São as versões digitais do amigo que responde qualquer coisa só pra não admitir o “não sei”.
Ainda bem que o público estava atento para alertar aos veículos que as informações divulgadas não representavam a realidade. Se a IA facilita a apuração, a checagem dos dados continua sendo fundamental.
Mas a ironia é que essas alucinações não são exatamente defeitos técnicos. Elas são reflexos de um traço humano. Nós também fomos condicionados, desde cedo, a associar ignorância à fraqueza. Admitir o não saber é quase um tabu cultural. O “eu não sei” parece empobrecer a imagem, quando, na verdade, é um gesto de lucidez.
Leia Mais
Me lembro da coragem da atriz Glória Pires quando foi perguntada ao vivo, na transmissão do Oscar, se acreditava que Lady Gaga ganharia uma estatueta. Serena, respondeu prontamente: “não sou capaz de opinar.” Uma frase que se transformou em meme e que, com o tempo, se tornou símbolo de uma virtude rara: a humildade cognitiva.
Se os modelos de IA precisam ser ajustados para aprender a não alucinar, talvez nós também precisemos reaprender a arte de não opinar sobre tudo. Porque a pressa de ter respostas, sejam humanas ou artificiais, tem nos afastado da curiosidade genuína, do espaço de escuta e do tempo lento da investigação.
Saber dizer “eu não sei” não nos torna menos inteligentes. Nos torna mais verdadeiros e vulneráveis para nos conectarmos uns com os outros.
Siga nosso canal no WhatsApp e receba notícias relevantes para o seu dia
E talvez, no futuro, a máquina que melhor nos compreenderá será justamente aquela capaz de responder, com sinceridade e calma: “Não sou capaz de opinar.”
As opiniões expressas neste texto são de responsabilidade exclusiva do(a) autor(a) e não refletem, necessariamente, o posicionamento e a visão do Estado de Minas sobre o tema.
