Um estudo recente me chamou a atenção. Ele não mostrou apenas que a IA pode influenciar nossas respostas. Mostrou algo potencialmente mais preocupante: nos experimentos realizados, a disponibilidade de assistência por IA tornou os participantes significativamente menos propensos a responder “não sei”.
Os pesquisadores realizaram cinco experimentos com mais de 3.000 participantes. As perguntas eram difíceis e todos tinham a opção de responder “não sei”. Em alguns cenários, a IA fornecia sugestões deliberadamente incorretas para avaliar como isso afetaria o comportamento das pessoas.
O resultado foi interessante. A simples presença da IA reduziu significativamente a disposição dos participantes para admitir que não sabiam a resposta. Eles passaram a responder muito mais perguntas, demonstraram maior confiança e, quando a IA sugeria respostas erradas, a precisão diminuía.
O aspecto mais relevante, porém, não está apenas no aumento dos erros. O estudo sugere que a IA pode influenciar um mecanismo cognitivo importante: nossa disposição para reconhecer os limites do próprio conhecimento.
Se esse efeito também se confirmar em outros estudos e em contextos reais de trabalho, poderá representar um desafio ainda mais profundo do que as conhecidas alucinações dos modelos. Afinal, admitir “não sei” sempre foi um componente essencial do aprendizado. É esse reconhecimento da incerteza que nos leva a pesquisar, validar informações, consultar especialistas e construir conhecimento.
O estudo me lembrou o chamado Google Effect: quando sabemos que uma informação está facilmente disponível na internet, tendemos a memorizar menos conteúdo e a lembrar mais de onde encontrá-lo do que da informação em si.
Minha impressão é que a IA pode estar acrescentando uma nova camada a esse fenômeno. Não estamos apenas terceirizando a memória. Podemos estar começando a terceirizar o julgamento sobre quando sabemos, e quando não sabemos, alguma coisa.
Isso merece atenção. Nas empresas, valorizamos profissionais capazes de tomar decisões em ambientes de incerteza, fazer boas perguntas e reconhecer quando precisam buscar mais informações. No entanto, ferramentas de IA podem incentivar um comportamento diferente: responder com mais frequência e mais confiança, mesmo quando o conhecimento é insuficiente.
Talvez a principal contribuição desse estudo não seja mostrar que a IA pode errar e isso já sabemos. O ponto mais interessante é outro: ela pode influenciar a forma como lidamos com a própria incerteza.
E reconhecer a incerteza sempre foi uma das características mais importantes do bom julgamento. Se começarmos a perder essa capacidade, talvez o maior impacto da IA não esteja apenas nas respostas que ela produz, mas na maneira como passamos a pensar sobre aquilo que sabemos e, principalmente, sobre aquilo que não sabemos..
https://lnkd.in/dqYy44zH
