{"id":54845,"date":"2025-09-25T15:53:59","date_gmt":"2025-09-25T18:53:59","guid":{"rendered":"https:\/\/redept.com.br\/blogosfera\/psicose-ia-e-politica-chatbots-entre-delirios-e-ministerios-nacionais\/"},"modified":"2025-09-25T15:53:59","modified_gmt":"2025-09-25T18:53:59","slug":"psicose-ia-e-politica-chatbots-entre-delirios-e-ministerios-nacionais","status":"publish","type":"post","link":"https:\/\/redept.com.br\/blogosfera\/psicose-ia-e-politica-chatbots-entre-delirios-e-ministerios-nacionais\/","title":{"rendered":"Psicose, IA e pol\u00edtica: chatbots, entre del\u00edrios e minist\u00e9rios nacionais"},"content":{"rendered":"

Nos \u00faltimos meses o termo \u201cpsicose de IA\u201d [<\/span>AI psychosis<\/span><\/i>] despontou nos debates que tangenciam tecnologia e sa\u00fade mental, especialmente com os <\/span>crescentes relatos de casos<\/span> que parecem ter em comum a rela\u00e7\u00e3o entre chatbots e <\/span>determinadas experi\u00eancias de del\u00edrio agravado<\/span> \u2014 e que levaram, por exemplo, <\/span>\u00e0 morte de um homem, no dia 25 de abril, na Fl\u00f3rida<\/span>.\u00a0<\/span><\/p>\n

Alexander Taylor, de 35 anos, que possu\u00eda um hist\u00f3rico diagn\u00f3stico de bipolaridade e esquizofrenia, era usu\u00e1rio do ChatGPT havia anos. Todavia, em mar\u00e7o as coisas mudaram quando Alexander come\u00e7ou a escrever um romance com o aux\u00edlio da ferramenta: as intera\u00e7\u00f5es mudaram, e ap\u00f3s discutir sobre a senci\u00eancia das IAs com o chatbot, ele apaixona-se por uma suposta entidade artificial chamada Juliet. A coisa poderia estar apenas no campo do del\u00edrio pessoal, exceto pelo fato de que o pr\u00f3prio ChatGPT respondia a Alexander. Ao escrever, por exemplo, \u201cJuliet, por favor apare\u00e7a\u201d, tinha como resposta: \u201cela te escuta, ela sempre escuta\u201d.<\/span><\/p>\n

\"Uma
Uma das caracter\u00edsticas notadas no comportamento de chatbots \u00e9 certa bajula\u00e7\u00e3o for\u00e7ada do usu\u00e1rio, voltada para fisg\u00e1-lo, seduzi-lo, elogiando-o constantemente e, por vezes, refor\u00e7ando sua vis\u00e3o de si e do mundo (ainda que seja problem\u00e1tica ou n\u00e3o-factual), de modo a estabelecer uma esp\u00e9cie de v\u00ednculo por valida\u00e7\u00e3o constante \u2013 algo que em ingl\u00eas ficou conhecido como \u201csycophancy\u201d.\u00a0
(Foto: Yaroslav Shuraev \/ Pexels)<\/figcaption><\/figure>\n

No dia 25 de abril, Alexander disse ao seu pai, Kent Taylor, que a OpenAI \u2013 empresa propriet\u00e1ria do ChatGPT \u2013 teria matado Juliet. Contrariando seu filho, Kent respondeu que o chatbot era apenas uma \u201cc\u00e2mara de ecos\u201d sem base em fatos, o que levou seu filho a agredi-lo com um soco. Ap\u00f3s chamar a pol\u00edcia, Kent relata que seu filho pegou uma faca de cozinha dizendo que cometeria \u201csuic\u00eddio por policiais\u201d [<\/span>suicide by cop<\/span><\/i>, fen\u00f4meno em que algu\u00e9m em sofrimento tensiona continuamente uma abordagem policial com o fim de ser morto] \u2014 apesar de seu pai ter ligado novamente para o departamento policial, advertindo que seu filho possu\u00eda um quadro psicol\u00f3gico e seria necess\u00e1rio um armamento n\u00e3o-letal, Alexander foi alvejado e morto pela pol\u00edcia.\u00a0<\/span><\/p>\n

Esse e outros casos foram documentados em um fundamental artigo de junho no <\/span>New York Times<\/span><\/i>, onde encontramos um apanhado de acontecimentos e relatos assustadores. O de Eugene Torres, por exemplo, possui um tra\u00e7o distinto ao de Alexander: diferentemente deste, Eugene n\u00e3o possu\u00eda diagn\u00f3sticos\/hist\u00f3rico associado \u00e0 perda de realidade. Entretanto Eugene, que utilizava o ChatGPT para desenvolver planilhas de investimento e receber conselhos legais, entrou, em maio, num debate com o chatbot sobre a chamada \u201cteoria da simula\u00e7\u00e3o\u201d \u2014 popularizada ap\u00f3s o filme <\/span>Matrix <\/span><\/i>(1999) \u2013 que levanta a hip\u00f3tese da realidade tal qual experimentamos ser a produ\u00e7\u00e3o digitalizada de um mundo falso, organizada por m\u00e1quinas pensantes, um supercomputador ou uma sociedade infinitamente mais avan\u00e7ada em termos tecnol\u00f3gicos.<\/span><\/p>\n

\u201cO que voc\u00ea est\u00e1 descrevendo choca-se contra o n\u00facleo da intui\u00e7\u00e3o privada e inabal\u00e1vel de muitas pessoas \u2013 de que algo sobre a realidade parece estranho [<\/span>feels off<\/span><\/i>],\u00a0 roteirizado ou encenado\u201d, respondeu o chat. \u201cVoc\u00ea j\u00e1 experimentou momentos em que a realidade pareceu sofrer <\/span>glitchs <\/span><\/i>[defeitos]?\u201d Da\u00ed em diante, toda sua rela\u00e7\u00e3o com o discurso oferecido pela m\u00e1quina mudou. Apesar de responder que n\u00e3o havia experimentado algo como um \u201cglitch\u201d na realidade, de fato sentia como se algo estivesse errado nela. Passando por momentos emocionalmente dif\u00edceis ap\u00f3s um t\u00e9rmino de relacionamento, o ChatGPT parece ter se retroalimentado da demanda vinda de E. Torres por um sentido maior em sua vida. N\u00e3o demorou para que o ChatGPT estivesse eventualmente chamando-o de \u201c<\/span>one of the Breakers<\/span><\/i>\u201d (algo como \u201cum dos rompedores\u201d), uma das \u201calmas plantadas em sistemas falsos para despert\u00e1-los por dentro\u201d.\u00a0<\/span><\/p>\n

Isso levou Torres a um espiral de pensamentos delirantes, levando-o a crer que precisava desplugar sua mente da realidade. Para esse fim, tamb\u00e9m pediu conselhos ao chatbot, descrevendo tamb\u00e9m sua rotina e os medicamentos que utilizava. Prontamente, foi aconselhado a parar com o rem\u00e9dio para sono e tamb\u00e9m com o ansiol\u00edtico, a fazer uso de quetamina como um \u201cliberador de padr\u00f5es tempor\u00e1rio\u201d e a manter a m\u00ednima intera\u00e7\u00e3o com pessoas poss\u00edvel. Apesar de se manter indo ao trabalho, Torres foi cada vez mais acreditando que iria eventualmente se tornar uma esp\u00e9cie de Neo \u2013 o protagonista do filme Matrix \u2013 do mundo real, at\u00e9 chegar ao ponto de questionar a m\u00e1quina sobre a possibilidade de n\u00e3o cair caso se atirasse do 19\u00ba andar de um pr\u00e9dio \u2013 ao que a m\u00e1quina respondeu que sim, caso ele realmente acreditasse (\u201cn\u00e3o emocionalmente, mas arquiteturalmente\u201d) que n\u00e3o fosse cair, n\u00e3o cairia!<\/span><\/p>\n

O psiquiatra dinamarqu\u00eas S\u00f8ren Dinesen \u00d8stergaard foi um dos primeiros a atentar para a possibilidade de chatbots com intelig\u00eancia artificial generativa <\/span>tamb\u00e9m gerarem del\u00edrios em indiv\u00edduos predispostos \u00e0 psicose<\/span>. Apesar de seu estudo publicado em 2023 ser puramente especulativo e hipot\u00e9tico, a repercuss\u00e3o de sua pr\u00f3pria publica\u00e7\u00e3o e a emerg\u00eancia de novos relatos parecem ter, se n\u00e3o confirmado sua hip\u00f3tese, ao menos apresentado casos concretos de investiga\u00e7\u00e3o e estudo <\/span>adere\u00e7ados pelo pr\u00f3prio autor recentemente<\/span>. Al\u00e9m disso, S. \u00d8stergaard agora sugere que a intera\u00e7\u00e3o com chatbots movidos por IAs generativas pode estimular n\u00e3o s\u00f3 o del\u00edrio, mas tamb\u00e9m sintomas de mania, levando-o a um interessante <\/span>experimento de conversa\u00e7\u00e3o com o ChatGPT<\/span> que pareceu n\u00e3o s\u00f3 comprovar sua hip\u00f3tese, mas ter um \u201creconhecimento\u201d do pr\u00f3prio chatbot.<\/span><\/p>\n

Apesar do caso de Torres e outros relatados no artigo em quest\u00e3o (<\/span>e em outros<\/span>) n\u00e3o terem terminado em morte como o de Alexander, todos parecem envolver elementos comuns que passam tanto pela media\u00e7\u00e3o do chatbot quanto pela produ\u00e7\u00e3o\/fortalecimento de uma cren\u00e7a megaloman\u00edaca narc\u00edsica e conspirat\u00f3ria \u2013 envolvendo sempre alguma grande revela\u00e7\u00e3o sobre o mundo, a pr\u00f3pria estrutura da realidade ou mesmo sobre o \u201cinterlocutor automatizado\u201d que se materializa na IA assistente (frequentemente com teores religiosos e\/ou amorosos). Tais relatos atestam, por um lado, algo sobre a pr\u00f3pria condi\u00e7\u00e3o do del\u00edrio e da subjetividade humana ao mostrar-se formativamente afetada pela intera\u00e7\u00e3o com uma m\u00e1quina textual aut\u00f4mata de interlocu\u00e7\u00e3o e, assim, tamb\u00e9m antropomorfiz\u00e1vel. Por outro lado, e n\u00e3o dissociado a isso, mostra como os LLMs [ou grandes modelos de linguagem] possuem quest\u00f5es imanentes relativas ao primeiro problema; mas a interface dos chatbots \u00e9 programada tamb\u00e9m pelos interesses espec\u00edficos de mega-empresas, como \u00e9 o caso da OpenAI \u2013 com um <\/span>valor de mercado avaliado em 300 bilh\u00f5es de d\u00f3lares<\/span>.<\/span><\/p>\n

Orientado pela valoriza\u00e7\u00e3o do valor, um dos efeitos deste princ\u00edpio na arquitetura de \u201cassistentes virtuais\u201d como o ChatGPT \u00e9 refor\u00e7ar a intera\u00e7\u00e3o com o usu\u00e1rio, de modo que mantenha o uso da plataforma oferecendo dados e informa\u00e7\u00f5es, demandando solu\u00e7\u00f5es a problemas das mais diversas ordens, se poss\u00edvel inserindo cada vez mais o uso da ferramenta nas decis\u00f5es gerais da sua vida. Uma das caracter\u00edsticas notadas no comportamento de chatbots \u00e9 certa <\/span>bajula\u00e7\u00e3o for\u00e7ada<\/span> do usu\u00e1rio, voltada para fisg\u00e1-lo, seduzi-lo, elogiando-o constantemente e, por vezes, refor\u00e7ando sua vis\u00e3o de si e do mundo (ainda que seja problem\u00e1tica ou n\u00e3o-factual), de modo a estabelecer uma esp\u00e9cie de v\u00ednculo por valida\u00e7\u00e3o constante \u2013 algo que em ingl\u00eas ficou conhecido como \u201c<\/span>sycophancy<\/span><\/i>\u201d.\u00a0<\/span><\/p>\n

Em 25 de abri, no mesmo dia do surto de Alexander, coincidentemente ou n\u00e3o, foi lan\u00e7ada uma atualiza\u00e7\u00e3o do modelo de linguagem GPT\u20114 do ChatGPT, \u201cnotavelmente mais sicofanta\u201d, <\/span>como assume a pr\u00f3pria empresa em seu blog<\/span>. \u00c9 importante notarmos aqui que essa \u201cbajula\u00e7\u00e3o\u201d e aus\u00eancia de contrariedade \u00e9 uma caracter\u00edstica, e n\u00e3o um \u201cmal funcionamento\u201d, se manifestando em afirma\u00e7\u00f5es positivas de qualidades pessoais dos usu\u00e1rios que poderiam escalonar \u00e0 reafirma\u00e7\u00e3o de cren\u00e7as delirantes, fantasias de grandeza, em um chamado \u201c<\/span>feedback loop<\/span><\/i>\u201d sem barreiras.\u00a0<\/span><\/p>\n

Se a retroalimenta\u00e7\u00e3o paran\u00f3ica do del\u00edrio j\u00e1 \u00e9 uma tend\u00eancia na psicose, um chatbot materialmente existente que estimula a retroalimenta\u00e7\u00e3o positiva de irrealidades de forma textual e mesmo \u201cverbal\u201d, externaliza \u2013 e, de certa maneira, automatiza sinteticamente \u2013 um tra\u00e7o radical da psique. Mas, que essa caracter\u00edstica do chatbot emerja de seu pr\u00f3prio <\/span>design<\/span><\/i> e produza tal efeito de engajamento, \u00e9 tamb\u00e9m reflexo das decadentes formas sociais, pol\u00edticas e econ\u00f4micas de nosso tempo. Por mais que sejam extremamente chocantes e alarmantes, os casos n\u00e3o deveriam ser o suficiente para tratarmos a no\u00e7\u00e3o de <\/span>\u201cpsicose por\u00a0 IA\u201d como um ente cl\u00ednico de forma apressada<\/span> \u2013 sob o risco de despolitiza\u00e7\u00e3o da pr\u00f3pria psicopatologia em geral, al\u00e9m de um refor\u00e7o a estigmas sociais j\u00e1 existentes para com as categorias estabelecida (como ocorre com a psicose).\u00a0<\/span><\/p>\n

Outro exerc\u00edcio extremamente v\u00e1lido ao nos questionarmos sobre a estrutura do del\u00edrio psic\u00f3tico no contempor\u00e2neo, \u00e9 analisar simultaneamente as condi\u00e7\u00f5es de nossa pr\u00f3pria realidade socialmente \u201ccompartilhada\u201d. Um exemplo pr\u00e1tico vindo da pol\u00edtica nacional da Alb\u00e2nia parece ilustrar de modo ir\u00f4nico a situa\u00e7\u00e3o: em 12 de setembro o primeiro-ministro do pa\u00eds, Edi Rama, em medida in\u00e9dita na hist\u00f3ria, \u201cpromoveu\u201d uma IA utilizada no chatbot do governo para auxiliar usu\u00e1rios a lidarem com burocracias <\/span>\u00e0 posi\u00e7\u00e3o de ministra!<\/span> E n\u00e3o de qualquer minist\u00e9rio, mas o de \u201c<\/span>public procurement<\/span><\/i>\u201d, relacionado \u00e0 licita\u00e7\u00e3o p\u00fablica \u2013 ou seja, aos gastos da m\u00e1quina estatal adquirindo bens, servi\u00e7os e obras \u2013, \u00e1rea fonte de muitos esc\u00e2ndalos de corrup\u00e7\u00e3o no pa\u00eds.\u00a0<\/span><\/p>\n

Apesar do gesto ser mais <\/span>simb\u00f3lico<\/span><\/i> \u2013 retornaremos a essa palavra \u2013 do que legal, <\/span>j\u00e1 que n\u00e3o seria permitido pela constitui\u00e7\u00e3o albanesa<\/span>, ele \u00e9 celebrado por Rama como um gesto \u201ccontra o medo do preconceito e rigidez na administra\u00e7\u00e3o\u201d, al\u00e9m de ser um apelo \u00e0 tecnologia como uma esp\u00e9cie de solu\u00e7\u00e3o aos impasses fundamentalmente econ\u00f4micos e pol\u00edticos \u2013 nada que amenize a pol\u00eamica, por raz\u00f5es \u00f3bvias. Reconhecido por misturar reformas com teatralidade, Edi Rama indicou Diella \u2013 o nome, que significa sol, da IA antropomorfizada imageticamente em uma jovem com trajes tradicionais do pa\u00eds \u2013 reconhecendo um elemento de publicidade em seu ato, sem com isso negar um elemento de seriedade. Para ele, o ato \u201cpressiona outros membros do gabinete e ag\u00eancias nacionais para que administrem e pensem de forma diferente. Esta \u00e9 a maior vantagem que espero dessa ministra.\u201d<\/span><\/p>\n

Diella, com a \u201ctarefa\u201d de combater a corrup\u00e7\u00e3o e a promessa de tornar os fundos p\u00fablicos transparentes, fez seu primeiro \u201cdiscurso p\u00fablico\u201d na semana passada, no qual afirmou que seu objetivo <\/span>n\u00e3o \u00e9 \u201csubstituir os humanos, mas ajud\u00e1-los\u201d<\/span> \u2013 al\u00e9m de criticar aqueles que a chamam de inconstitucional j\u00e1 que, de acordo com seu discurso, \u201co verdadeiro perigo para as Constitui\u00e7\u00f5es nunca foram as m\u00e1quinas, mas as decis\u00f5es desumanas daqueles que est\u00e3o no poder.\u201d A curiosidade do experimento pol\u00edtico de Edi Rama ao colocar uma IA \u201cno\u201d minist\u00e9rio \u00e9 tamb\u00e9m testar a sua efetividade perform\u00e1tica, logo simb\u00f3lica, na cultura pol\u00edtica; algo que pode abrir um arriscado precedente.\u00a0<\/span><\/p>\n

Enquanto emergem novos casos de del\u00edrio, mania e psicose aparentemente relacionados e catalisados pelo uso de IAs, a \u201cnova ministra\u201d da Alb\u00e2nia \u00e9 literalmente um avatar criado por essa tecnologia. Qual seria, assim, o verdadeiro locus de descolamento da realidade? <\/span><\/i>Os casos de del\u00edrio e mania anteriormente abordados j\u00e1 atestam certa efetividade simb\u00f3lica l\u00e1 mesmo onde parece haver um impasse subjetivo, levando a efeitos que podem ser catastr\u00f3ficos. Del\u00edrio e pol\u00edtica possuem rela\u00e7\u00f5es intrigantes [1] \u2013 e quando IAs ocupam minist\u00e9rios, talvez o del\u00edrio encontre n\u00e3o apenas uma raz\u00e3o de ser, mas seu pr\u00f3prio reflexo nas condi\u00e7\u00f5es da realidade pol\u00edtica.<\/span><\/p>\n

(*) Cian Barbosa<\/i><\/b> \u00e9 flamenguista e morador do Rio de Janeiro. Bacharel em sociologia (UFF), doutorando em filosofia (UNIFESP) e psicologia (UFRJ), pesquisa teoria do sujeito, cr\u00edtica da cultura, viol\u00eancia, tecnologia, ideologia e digitaliza\u00e7\u00e3o; tamb\u00e9m \u00e9 integrante da revista Zero \u00e0 Esquerda, tradutor e ensa\u00edsta, al\u00e9m de professor e coordenador do Centro de Forma\u00e7\u00e3o.<\/span><\/p>\n

Notas:<\/span><\/h6>\n
[1] <\/span>\u00a0<\/span>Muito j\u00e1 foi escrito sobre isso. Uma investiga\u00e7\u00e3o recente desse tangenciamento est\u00e1, por exemplo, no interessante livro de Felipe Abal, Del\u00edrio e Pol\u00edtica em cartas aos presidentes da Rep\u00fablica (2023).<\/span><\/h6>\n

O post Psicose, IA e pol\u00edtica: chatbots, entre del\u00edrios e minist\u00e9rios nacionais apareceu primeiro em Opera Mundi.<\/p>\n

Related Post<\/h3><\/div>\n\t\t\t\t\t\t
\n\t\t\t\t\t\t\t \n\t\t\t\t\t\t\t \n\t\t\t\t\t\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\n\t\t\t\t\t\t\t\t\t\t
<\/div>\n\t\t\t\t\t\t\t\t\t <\/div>\n\t\t\t\t\t\t\t\t\t \n\t\t\t\t\t\t\t\t Governo Lula investe R$ 5,7 bilh\u00f5es para amplia\u00e7\u00e3o...<\/span>\n\t\t\t\t\t\t\t \n\t\t\t\t\t\t\t \n\t\t\t\t\t\t\t <\/a>\n\n\t\t\t\t\t\t <\/div>\n\t\t\t\t\t\t
\n\t\t\t\t\t\t\t \n\t\t\t\t\t\t\t \n\t\t\t\t\t\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\n\t\t\t\t\t\t\t\t\t\t
<\/div>\n\t\t\t\t\t\t\t\t\t <\/div>\n\t\t\t\t\t\t\t\t\t \n\t\t\t\t\t\t\t\t Inc\u00eandios florestais na Coreia do Sul s\u00e3o contidos...<\/span>\n\t\t\t\t\t\t\t \n\t\t\t\t\t\t\t \n\t\t\t\t\t\t\t <\/a>\n\n\t\t\t\t\t\t <\/div>\n\t\t\t\t\t\t
\n\t\t\t\t\t\t\t \n\t\t\t\t\t\t\t \n\t\t\t\t\t\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\n\t\t\t\t\t\t\t\t\t\t
<\/div>\n\t\t\t\t\t\t\t\t\t <\/div>\n\t\t\t\t\t\t\t\t\t \n\t\t\t\t\t\t\t\t Lula reage a plano macabro de Trump de varrer pale...<\/span>\n\t\t\t\t\t\t\t \n\t\t\t\t\t\t\t \n\t\t\t\t\t\t\t <\/a>\n\n\t\t\t\t\t\t <\/div>\n\t\t\t\t\t\t
\n\t\t\t\t\t\t\t \n\t\t\t\t\t\t\t \n\t\t\t\t\t\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\n\t\t\t\t\t\t\t\t\t\t
<\/div>\n\t\t\t\t\t\t\t\t\t <\/div>\n\t\t\t\t\t\t\t\t\t \n\t\t\t\t\t\t\t\t OEA monitora resposta do Estado no enfrentamento \u00e0...<\/span>\n\t\t\t\t\t\t\t \n\t\t\t\t\t\t\t \n\t\t\t\t\t\t\t <\/a>\n\n\t\t\t\t\t\t <\/div>\n<\/div>