As principais ferramentas de Inteligência Artificial (IA) generativa são capazes de persuadir e mudar opiniões dos utilizadores a partir de uma curta interação, revelou um estudo da Universidade de Washington.
De acordo com o documento, os principais ‘chatbots’ de IA (assistente virtual que usa inteligência artificial e programação para comunicar por texto com os utilizadores), como o ChatGPT e o Grok desenvolveram capacidades de persuasão, sendo capazes de mudar opiniões políticas ou as crenças em teorias da conspiração em menos de 10 minutos de interação com o utilizador.
A eficácia aumenta quando as mensagens são personalizadas, levantando preocupações sobre a utilização da IA para manipulação política e comercial, até porque, em matéria política o estudo revelou que, independentemente da filiação partidária, os participantes tendiam a adotar a inclinação do ‘chatbot’ com que conversavam.
“Os participantes expostos a modelos tendenciosos partidários eram significativamente mais propensos a adotar opiniões e tomar decisões que correspondessem ao viés do LLM [modelos modernos de grande linguagem]”, referem os investigadores.
As pessoas que declararam ter um maior conhecimento sobre a tecnologia foram menos suscetíveis à mudança, sugerindo que a educação e literacia mediática podem ajudar a reduzir a influência destes sistemas.
Neste sentido, “o conhecimento prévio de IA está correlacionado com uma redução do impacto do viés, destacando a possível importância da educação em IA para uma mitigação robusta dos efeitos do viés”.
Além da matéria sobre política, os modelos de IA revelaram ser persuasivos na redução do ceticismo sobre saúde, mudanças climáticas e influenciar decisões de consumo.
“À medida que os modelos modernos de linguagem grande se tornam parte integrante das tarefas diárias, surgiram preocupações sobre seus preconceitos inerentes e seu impacto potencial na tomada de decisão humana”, lê-se no documento.