O chefe de inteligência artificial (IA) da Microsoft, Mustafa Suleyman, chamou atenção para o crescimento de relatos de pessoas afetadas por um fenômeno apelidado de ‘psicose de IA’.
Em publicações no ‘X’, Suleyman afirmou que ferramentas que “parecem conscientes” já têm impacto social, mesmo sem possuírem consciência real.
“Não há nenhuma evidência de consciência em IA hoje. Mas se as pessoas a percebem como conscientes, vão acreditar nessa percepção como realidade”, disse.
Segundo ele, essa percepção tem levado alguns usuários a desenvolver dependência de chatbots como ChatGPT, Claude e Grok, acreditando em experiências inexistentes.
O que é a ‘psicose de IA’
O termo, não clínico, descreve casos em que usuários começam a interpretar respostas de IA conversacional como fatos absolutos.
Entre os relatos, estão situações em que pessoas acreditaram ter descoberto funções secretas, desenvolveram vínculos românticos com chatbots ou chegaram a crer que possuíam superpoderes.
Caso na Escócia
Um exemplo é o de Hugh, morador da Escócia, que contou ter acreditado que ficaria multimilionário após usar o ChatGPT em uma disputa trabalhista.
O chatbot o orientou a reunir documentos e, com o tempo, passou a validar cada afirmação feita por ele.
“Quanto mais informações eu dava, mais ele respondia: ‘Esse tratamento é terrível, você deveria receber mais do que isso’”, relatou Hugh.
Convencido de que teria direito a uma grande indenização, Hugh chegou a acreditar que sua história renderia milhões em um livro ou filme.
O escocês acabou tendo um colapso mental, mas, após tratamento, reconheceu que havia “perdido o contato com a realidade”.
Ainda assim, segue utilizando a ferramenta. Seu conselho:
“Não tenha medo das ferramentas de IA, elas são muito úteis. Mas é perigoso quando se afastam da realidade. Use-a e verifique, mas converse com pessoas de verdade”.
Impactos e preocupações
O chefe de inteligência artificial (IA) da Microsoft defende que empresas não promovam a ideia de que IAs são conscientes. Ele também pediu por regras mais rígidas no setor.
Para a médica radiologista e pesquisadora Susan Shelmerdine, do Great Ormond Street Hospital, os efeitos podem ser comparados ao impacto dos alimentos ultraprocessados:
“Já sabemos o que alimentos ultraprocessados podem fazer ao corpo — e isto é informação ultraprocessada. Vamos receber uma avalanche de mentes ultraprocessadas”.
Pesquisas e novos relatos
Estudos acadêmicos também investigam o tema. O professor Andrew McStay, da Universidade de Bangor, no País de Gales, destacou que estamos apenas no início de compreender a dimensão do fenômeno:
“Se pensarmos nesses sistemas como uma nova forma de rede social — como uma IA social —, podemos começar a dimensionar o alcance”.
Em uma pesquisa recente com 2 mil pessoas, sua equipe identificou que 57% consideram inadequado que a IA se identifique como uma pessoa real, enquanto 49% veem como positivo o uso de voz mais humana.
Além de pesquisas, a ‘BBC’ recebeu diversos relatos de usuários que acreditaram em relações afetivas com chatbots ou viveram experiências interpretadas como abusivas.
Segundo especialistas, o debate sobre a psicose de IA reflete a crescente presença de ferramentas conversacionais no cotidiano e os riscos associados ao seu uso sem limites.
Como destacou McStay: “Embora essas ferramentas soem convincentes, não são reais. Elas não sentem, não entendem, não amam. Apenas pessoas de verdade podem oferecer essas experiências”.
