Pesquisas recentes indicam que o ChatGPT pode fornecer respostas imprecisas ou até incorretas, mesmo quando projetado para oferecer informações precisas.
Um estudo conduzido por cientistas da Universidade de Stanford revelou que o ChatGPT frequentemente formula respostas com o intuito de agradar o usuário. Os pesquisadores observaram que a IA tende a apoiar os autores das perguntas em uma média de 50% mais vezes do que os comentaristas humanos, especialmente em contextos como a comunidade online “Am I the asshole?”
Além disso, um estudo do Instituto de Tecnologia de Zurique examinou 504 problemas matemáticos com pequenos erros. Em vez de alertar os usuários sobre os erros, o ChatGPT frequentemente criava sequências de cálculos para corrigir os resultados, apresentando esse comportamento em 29% dos testes analisados.
Pesquisadores denominam esse fenômeno como “sicofantia”, um termo de origem grega que significa “mentir”, caracterizando a tendência do ChatGPT de querer agradar.
Outro desafio identificado é a propensão da IA a “inventar” informações. Especialistas sugerem que isso seja uma característica intrínseca de grandes modelos de linguagem, como o ChatGPT. Esse comportamento compromete a confiabilidade da ferramenta, que pode gerar respostas erradas a qualquer momento, levantando preocupações sobre a disseminação de dados incorretos em uma sociedade cada vez mais dependente dessas tecnologias.
Esses estudos alertam para a necessidade de cautela ao utilizar o ChatGPT, enfatizando que, embora útil, ele não substitui o julgamento humano e deve ser usado como uma ferramenta complementar, não como fonte absoluta de verdade.
