# O impacto da inteligência artificial na saúde mental

**Channel:** Departamento de Teologia | PUC - Rio
**Source:** https://www.youtube.com/watch?v=bWYQQvUzYAk
**Transcript page:** https://www.withtranscript.ai/video/bWYQQvUzYAk

## Chapters

- 2:41 — Abertura e introdução do evento
- 8:00 — Ciência, humanidade e reflexões iniciais
- 12:59 — Impactos das redes sociais e regulação emocional
- 15:56 — Contexto social, compaixão e pandemia
- 19:59 — Valores culturais e delegação de emoções
- 26:29 — Solidão, pertencimento e modelo socioecológico
- 36:59 — Definição de IA, tecnologias e estatísticas
- 48:25 — Aplicações de IA e etapas de projeto
- 58:28 — Chatbots terapêuticos versus ChatGPT genérico
- 1:06:30 — Demonstrações práticas e considerações éticas
- 1:11:58 — Futuro da IA no cuidado em saúde mental
- 1:18:53 — Perguntas finais e encerramento

## Transcript

**[2:41] Speaker A:** E o microfone tá desligado, tá?

**[3:20] Speaker A:** Então, vamos dar início. Boa tarde a todos. Que bom que vocês vieram para esse momento tão importante da nossa décima sétima semana da cultura religiosa, que tem como tema quem controla quem, discernir, reexistir e crescer em humanidade na era da inteligência artificial. É um tema bastante atual, né? as palestras e se tem sido, hoje nós fizemos a abertura, foi muito bonita a nossa abertura com uma fala da encíclica do Papa sobre a humanidade na era da inteligência artificial.

**[4:06] Speaker A:** Tivemos uma abertura com uma belíssima apresentação, seguida já da primeira palestra, que também foi muito interessante. E agora, nós vamos partir para a nossa segunda palestra. A nossa convidada já está aqui e eu quero dizer para vocês que eu me sinto muito feliz pela professora doutora Maria Amélia ter aceito o convite. E dizer que eu, professora Solange, fui motivada a esse tema por causa dos meus alunos da cultura religiosa do semestre passado, que num diálogo com eles, na matéria do cristianismo E o diálogo com o mundo moderno, logo no lançamento da encíclica, nós fizemos um comentário, um breve estudo, e os alunos pediram. Olha, professora, seria tão interessante a gente abordar essa temática relacionada à saúde mental.

**[5:04] Speaker A:** Claro que a nossa querida professora escolheu um tema belíssimo a partir do que a gente pediu, então já agradecemos a ela, também ao Departamento da Cultura Religiosa, que atendeu o pedido dos nossos alunos. Então, nós temos aí conosco, para tratar o tema O Impacto da Inteligência Artificial na Saúde Mental, a professora doutora Maria Amélia Penino. É psicóloga, graduada pela Universidade Federal do Rio de Janeiro, onde fez mestrado e doutorado. Ela é professora do departamento de psicologia da PUC-Rio, supervisora do SPA, da mesma instituição, e coordenadora da especialização em terapia cognitivo-comportamental da PUC-Rio. Na verdade, o currículo dela é bem extenso, mas ela disse, olha só, faz o mais resumido possível.

**[6:04] Speaker A:** Então, eu resumi muito, vocês poderão acessar o currículo da nossa convidada, que é magnífico, inclusive tem um dos pontos em que ela também trata, tem o seu foco de pesquisa na inteligência artificial. Professora, Muito bem-vinda. Esse público maravilhoso é teu. Tenha a palavra e sinta-se acolhida por todos nós. Vamos acolhê-la já de início com uma salva de palmas.

**[6:38] Speaker B:** Foi, gente? Foi. Bom, boa tarde. Queria agradecer à professora Solange pelo convite, um prazer muito grande. Está falando desse tema tão atual, um tema que tem intrigado muito todo mundo, acho que não tem ninguém de fora desse tema.

**[6:54] Speaker B:** Então, a ideia é a gente falar um pouco do contexto, de onde é que a inteligência artificial chegou, como é que está a relação disso com saúde mental, e a gente ir construindo, no final, a ideia de a gente poder trocar um pouco também. Então, eu me planejei para falar, e depois deixar um tempo para a gente ver as dúvidas, poder trocar sobre o assunto. Então, a ideia é falar um pouco da inteligência artificial na saúde mental, onde os algoritmos terminam e a compreensão humana começa. Acho que nossa área de saúde mental talvez seja uma das mais difíceis nesse sentido, porque a gente lida com o que é humano. E aí, como é que entra a IA nisso?

**[7:29] Speaker B:** É um pouco sobre isso que a gente vai refletir. Lembrando, gente, que tudo isso é muito novo. Então, são realmente reflexões. Eu brinco que a gente foi atropelado. Você quem tem essa sensação.

**[7:40] Speaker B:** O mundo mudou de repente, a gente foi atropelado por tecnologias novas, que muito rapidamente a gente se adaptou. em usar, mas sem talvez ter tido tanto tempo de refletir sobre o impacto disso, ou como é que essa aceleração está acontecendo, com que usos. Então, um pouco transcorrer sobre esses assuntos aí.

**[8:00] Speaker B:** Bom, então estudar saúde mental é transitar entre ciência e humanidade. Quanto mais perspectivas adotamos, quando a gente fala de estudar o ser humano ou estudar a saúde mental, a gente nunca pode se restringir única e exclusivamente a diagnósticos ou a categorias, porque o ser humano não cabe nisso. É claro que as categorias diagnósticas são importantes para a gente poder se comunicar, para laudos e tal, mas, de forma nenhuma, isso vai ser usado para reduzir o ser humano, assim como a IA também não. Então, acho que é sempre uma ideia de ciência e humanidade. Quanto mais perspectivas a gente adota, ou seja, quanto mais a gente amplia a nossa visão, talvez mais a gente consiga falar sobre o ser humano que é tão complexo.

**[8:38] Speaker B:** E aí, mais preparados, a gente vai estar para promover mudanças positivas, tanto individualmente quanto coletivamente. A gente também pode falar como sociedade, como é que a chegada disso está. Pensando em desigualdade, pensando em acesso, isso tudo vai entrar aí quando a gente pensa em A. Já botei as referências aqui de cara. Esse é um livro recente, que está muito bom, então eu recomendo, que é A Nova Era da Saúde Mental com Inteligência Artificial, da Clínica Tecnologia.

**[9:05] Speaker B:** E tem artigos também que eu usei, mas boa parte está resumida nesse livro. Então, vocês já ficam com a dica se quiserem estudar um pouco mais, ou lerem um pouco mais sobre o assunto. Então, as referências estão aí. E aí, a gente vai começar aqui com algumas perguntas. E provavelmente algumas são meio óbvias, mas vamos lá.

**[9:23] Speaker B:** Quem aqui já usou alguma ferramenta de inteligência artificial? Imagino que todo mundo. Realmente atropelou a gente. Quem já buscou algum apoio emocional no IA?

**[9:40] Speaker B:** Quem já pediu conselho para IA sobre alguma decisão pessoal?

**[9:47] Speaker B:** Para quem fez isso, ajudou?

**[9:52] Speaker B:** Quem já conversou com o miar sobre o que estava preocupado, angustiado ou incomodando?

**[10:00] Speaker B:** Em que momento, quando vocês usaram o miar com esses fins, vocês se sentiram compreendidos, como se tivesse uma outra pessoa mesmo lá do outro lado? E, ao mesmo tempo, conseguem imaginar situações em que ela poderia ajudar? Vocês vêem risco em buscar apoio emocional e o miar? Será que tem? E se vocês tivessem que pensar sobre a própria saúde mental ou pensando na população como um todo, como é que vocês acham?

**[10:27] Speaker B:** que está a saúde mental das pessoas atualmente. A gente vai falar um pouco sobre isso. Então, são só algumas perguntas reflexivas, mas a gente vê aí que está todo mundo já usando. A IA chegou, não vai embora. Então, acho que a fala é sempre no intuito de orientar e refletir juntos qual a melhor maneira da gente fazer esse uso, integrar isso, e aqui especificamente pensando em saúde mental.

**[10:55] Speaker B:** Então, gente, oportunidade ou risco? Então, eu peguei manchetes de jornal, de notícias, em que vários, falando do potencial e das oportunidades, chats, botes de ar podem ampliar o nosso cuidado em saúde. Tecnologias ajudam no autocuidado e manejo do estresse. Ajuda a reduzir barreiras e alcançar mais pessoas na saúde mental. Fornece mindfulness e apoio emocional.

**[11:20] Speaker B:** Portas de entrada para o cuidado em saúde mental em regiões com menos recursos, tudo isso faz parte aí da I.A. chegando. Mas também a gente tem um outro lado aí de, será que chatbots podem alimentar delírios típicos de surto psicótico? Fazer terapia oferece riscos?

**[11:40] Speaker B:** Esse uso saudável tem alguma questão de perigo, quando a gente pensa nisso? E a dependência de chatbots? Será que está acontecendo essa dependência? Será que não? E qual é o impacto no bem-estar?

**[11:54] Speaker B:** Interação emocional com chatbots pode prejudicar a saúde mental. E assim vai, né, gente. Então, é complicado, porque a gente muitas vezes abre jornal, Instagram, qualquer meio que você usa para se informar, e é como se o tempo todo a gente é bombardeado com informações. Instagram muito rapidamente, TikTok muito rapidamente, talvez ler um jornal online mais lentamente, mas o tempo todo Isso está acontecendo. As notícias mais recentes eram que ele ia exterminar a humanidade.

**[12:22] Speaker B:** Então, isso quando a gente não é atropelado pelas mil hiárias que surgem todo dia. Então, eu brinco que é fomo. O fomo da hiá. Porque você cruza com alguém, conversa e fala, mas você já está usando manos para fazer não sei o quê? Não, eu estou usando não sei o quê.

**[12:36] Speaker B:** E aí você está sempre com a sensação de que você está devendo o que você está para trás. Porque é quase impossível acompanhar a rapidez ou a quantidade de informação que vem acontecendo.

**[12:49] Speaker B:** Que tipo de pressão isso gera ou como é que o ser humano está lidando com isso? Para isso, a gente vai refletir um pouco no contexto que a IA chegou. Vamos entender o que aconteceu antes.

**[12:59] Speaker B:** Não chegou no nada. A gente chegou numa sociedade que já estava ali vivendo.

**[13:03] Speaker B:** Então, um pouco sobre isso que a gente vai falar. Essa é a minha filha, quando ela tinha 3, 4 anos de idade. Ela agora tem 14. Mas, como boa mãe psicóloga, óbvio que eu tentei ensinar todas as estratégias de regulação emocional que existem. Então, quando as crianças eram pequenas, eu ensinava elas a respirar, mindfulness, tudo isso.

**[13:23] Speaker B:** Aí vamos dizer que eu postasse essa foto dela, eu como psicóloga. Pegasse um artigo científico e botasse no Instagram. Importante ensinar a respiração e mindfulness para criança para regulação emocional, diz um artigo científica. Que reações isso vai gerar, gente, quando você está rolando ali o Instagram? Podem gerar várias reações.

**[13:41] Speaker B:** Então, a gente não responde só ao que a gente está vendo, mas à interpretação que a gente faz sobre aquilo que a gente está vendo. Então, a gente pode olhar, né, que legal, vou ensinar a minha filha também, enquanto que, de repente, outra pessoa vai olhar e vai falar, caramba, não fiz isso, sou uma péssima mãe, um atraso de vida. E aí, são pessoas diferentes, com a mesma informação, tendo respostas de pensamentos, emoções, muito diferentes. Então, ainda tem essa questão, né, gente. A tecnologia não vai chegar igual para todo mundo, porque as pessoas não são iguais.

**[14:12] Speaker B:** Então, ela vai chegar. para cada pessoa de uma determinada maneira. Então isso complexifica bem. A gente tem vários estudos mostrando que muitas vezes o problema não são as redes sociais necessariamente, mas muitas vezes a forma como a gente utiliza. Então a gente sabe que pessoas, por exemplo, que já tem uma tendência a fazer muitas comparações injustas, acabam fazendo um mau uso do Instagram, saem pior, porque justamente fazem a interpretação de, caramba, todo mundo faz menos eu, todo mundo viaja menos eu, todo mundo vivendo menos eu.

**[14:42] Speaker B:** Enquanto que outras pessoas, de repente, vão fazer outras interpretações, aquilo não vai ser tão difícil ou tão nocivo. Então, a gente entende que o mundo digital, ele vem para ampliar nossas possibilidades, mas a gente tem que entender como fazer esse uso e estudar, principalmente, a orientação sobre isso. Talvez sejam respostas que a gente ainda não tenha completamente, a gente ainda esteja pesquisando. Mas a gente sabe, por exemplo, que usar as redes sociais para se distanciar muito de quem você realmente é na vida real, costuma ter um pior efeito em saúde mental, porque é como se você estivesse criando, no mundo virtual, um eu que não é o seu. Você se distancia dele.

**[15:20] Speaker B:** E aí, gente, o que deu com isso? Lá vem a mamãe de novo com regulação, respiração. As crianças têm horror de esse tipo de coisa. Falhei terrivelmente. Então, como vocês podem ver, eu poderia ter postado isso e a pessoa que olhou poderia ter achado que é um sucesso.

**[15:35] Speaker B:** E, na realidade, não foi nada disso que aconteceu. Na verdade, as crianças têm trauma. Quando eu falo qualquer coisa de meditação, respiração, pelo amor de Deus, não vem, mãe. Deixa a gente em paz. Existe uma diferença grande entre o que a gente posta e o que realmente acontece.

**[15:49] Speaker B:** E a forma como isso chega para cada um complica. E a IA está entrando nesse cenário, nesse contexto.

**[15:56] Speaker B:** E agora eu vou fazer uma provocação aí com a plateia. Quem viu um erro de português no slide?

**[16:05] Speaker B:** Vamos ver quem é crítico. Foi de propósito, a gente escrevia atraso errado, estava atraso com Z, e é com S, para fazer uma provocação com vocês. A ideia, vocês não vão precisar me falar, mas o que vocês pensaram? Tipo, nossa, coitada, escreveu errado, professora doutora não sabe escrever. Vergonha alheia.

**[16:24] Speaker B:** Tipo, meu Deus, como é que paga um mico desse? E se fossem vocês, gente, apresentando aqui na frente, e esse fosse um erro verdadeiro? Como é que vocês processariam isso depois? Então, a gente começa a perguntar, se a gente cometeu um erro, que o auditório inteiro está olhando para você, se fosse comigo, por exemplo, se eu depois chegasse para vocês e contasse, caramba, apaguei meu mico na apresentação, tinha um erro de português no meu slide, será que vocês iam me dizer assim, ai, que horror, você é horrível, pelo amor de Deus, nunca mais pisa na PUC? Provavelmente não, provavelmente vocês teriam uma tendência a ser mais compassivos comigo.

**[16:58] Speaker B:** Em geral, a gente é mais compassivo, às vezes, com o outro. do que com nós mesmos. E se fosse com a gente, provavelmente a gente faria aquele processamento pós-evento, que é sair, meu Deus, ao fim do mundo, melhor andar com o saco na cabeça. Então, como anda a autocrítica de vocês? Então, como é que a gente está em relação a isso?

**[17:16] Speaker B:** Quão duro a gente é em relação As nossas atitudes, a como a gente erra, como é que está isso aí na vida de vocês. Eu estou falando disso porque a gente vai falar de saúde mental. E padrões muito rígidos, perfeccionistas, autocríticos, têm impacto para a pior saúde mental. Então, a brincadeira é para vocês verem o quanto vocês se identificam. O quanto que realmente eu tenho dois pesos, duas medidas.

**[17:40] Speaker B:** Quando é comigo, eu ia sair daqui e me enterrar a cabeça, nunca mais ia sair de casa. Mas se fosse um colega meu, eu seria super compassiva com essa pessoa. Então, em geral, a gente tem mais compaixão com o outro do que com nós mesmos. E uma situação aparentemente pequena acaba revelando muito sobre como a gente aprende e como a gente lida com erros, posição, comparação e fracasso.

**[18:03] Speaker B:** Isso não acontece individualmente. Assim como a IA não chegou só para a gente. A gente pode pensar na sociedade. Então, em que sociedade a IA chegou? Por que será que a gente é tão crítico?

**[18:15] Speaker B:** Por que será que a gente tem dificuldade de compaixão? Ou melhor, de autocompaixão. De compaixão até que estava melhor.

**[18:24] Speaker B:** Então, pensando, de onde esses significados vêm? Por que uma pessoa tem uma interpretação, outra pessoa tem outra? Isso varia enormemente de indivíduo para indivíduos. Provavelmente tem a ver com as histórias e experiências de vida, que vão moldando os filtros que a gente usa para interpretar o mundo. A cultura, que a gente está inserido, as relações, como a gente aprendeu sobre nós mesmos, os outros, o mundo, nossos valores.

**[18:49] Speaker B:** E também o momento histórico, que momento a gente vive. É interessante pensar que a gente viveu, a gente que está vivo nessa era, viveu muitas coisas. A gente viveu uma pandemia, que parece que foi em outro século, não sei se vocês têm essa sensação. Quando eu olho para o que a gente viveu na pandemia, o quanto que a gente se adaptou, porque a gente que é psicóloga, para o atendimento online. Quem era paciente, aula.

**[19:10] Speaker B:** A gente aqui na PUC, em uma semana, a gente estava, todo mundo usando o Zoom, assim, como se fosse, usasse como sempre. Foi um desafio grande. Isso acelerou muito a nossa relação. com o online, a própria pandemia. A gente aprendeu muito rapidamente a tornar a vida online.

**[19:27] Speaker B:** E isso teve um impacto muito grande também na saúde mental. Diversos estudos mostrando que justamente cultura, arte, terapia ajudou muito a passar pela pandemia, porque a saúde mental, a gente já viu ali, uma coisa que a gente pode pensar é que somos seres coletivos, somos seres das relações, que quando a gente precisou ficar isolado, mexeu muito com a gente. A pandemia chegou aí, em um momento histórico, e aí, na sequência disso, a gente está vivendo a revolução da IA, o surgimento dos tipos de IA.

**[19:59] Speaker B:** Em que momento histórico isso chega? Então, quando a gente fala em inteligência artificial, a gente precisa olhar para o mundo no qual essa tecnologia está chegando.

**[20:07] Speaker B:** Não chegou em qualquer lugar, chegou na nossa sociedade. E aí, quais os impactos disso?

**[20:16] Speaker B:** Então, se a gente parar para pensar, que mundo vocês acham que a gente vive hoje? Se a gente pensar a nível Brasil, são muitas realidades, nível mundo, não tem como a gente uniformizar isso. Mas se a gente tivesse que pensar de forma geral na sociedade que a gente vive, quais são os valores que o mundo, que esse mundo que a gente vive privilegia? Como é que a gente mede sucesso e produtividade? Como é que gente identifica o valor das pessoas?

**[20:42] Speaker B:** E o sofrimento? Como é que se relaciona com o sofrimento. Vocês acham que a gente tem uma cultura da felicidade, uma ideia de que a gente não deveria sofrer? É muito comum a gente ter dificuldade de regulação emocional por uma ideia, por crenças que a gente tem sobre isso, em que muitas vezes a gente não se permite entrar em contato com determinadas emoções ou entende que a gente não deveria sofrer ou sentir determinadas coisas porque elas não seriam adequadas na nossa sociedade. Então, vê como a cultura onde a gente está inserido vai intermediar isso o tempo todo.

**[21:14] Speaker B:** E as redes vão chegar, a inteligência acha que vai tudo chegar nas pessoas que já estão funcionando assim. Então, quando a gente fala aqui da dependência do chat, por exemplo, uma questão que se coloca é, se eu usar o chat toda vez que eu estiver em sofrimento para me ajudar, será que ele não vai entrar com uma grande esquiva das minhas emoções e aí nunca eu entro em contato com as minhas emoções? E qual é a consequência de eu nunca entrar em contato com as minhas emoções? Qual será a função das emoções? Então a gente sabe que as emoções têm uma função evolutiva.

**[21:44] Speaker B:** Elas sinalizam para a gente alguma informação do meio importante que a gente precisa integrar e olhar. Por exemplo, a tristeza faz com que a gente busque apoio, ajuda, que é importante para uma sociedade coletivista. A alegria faz com que a gente expanda de vida. A raiva faz com que a gente se defenda. Cada emoção tem uma função.

**[22:05] Speaker B:** E quando a gente se suprime ou não entra em contato com as emoções, a gente está deixando de lado o que nos faz humanos.

**[22:11] Speaker B:** Um chat GPT, por exemplo, dessa maneira, nunca mais eu vou ter insegurança, porque tudo eu pergunto para o chat GPT. Qualquer dúvida, eu não penso mais, eu delego para o chat. A gente tem que começar a pensar o que a gente está delegando. Se a gente delegar o que é humano, talvez a gente perca alguma coisa bastante importante aí. Desempenho, como é que a gente lida com vulnerabilidade, exposição, performance, com os erros, com o erro de português, com os erros nas questões.

**[22:36] Speaker B:** E as relações, né, gente? Eu vi, rodou as manchetes agora dizendo que a gente está falando menos, né, por conta das redes e tal. Então, como é que estão as relações? Como é que a gente está se relacionando uns com os outros? Que lugar ocupa a disputa genuína?

**[22:50] Speaker B:** Falando até em Semana da Cultura Religiosa, sábado eu fui na missa lá na paróquia que eu frequento em Copacabana, e aí o padre contou que vai ter o Tinder Cristão. O que é, gente? Ele vai promover um encontro para as pessoas se encontrarem ao vivo, para a comunidade, e foi um alvoroço na igreja, todo mundo achando divertido, mas a gente está, não sei se vocês estão percebendo, mas a gente tem feito um movimento de reencontro do presencial. A especialização que a gente tem aqui, na pandemia, ficou online. Eu voltei com ela presencial e um dos motivos, quando eu pergunto por que os alunos fazem, um deles é porque eles querem vir presencial para almoçar com as pessoas, para encontrar com as pessoas.

**[23:29] Speaker B:** Então, assim, será que a gente consegue delegar toda a nossa interação para um chat ou para a rede? Será que isso não faz falta? Como é que isso impacta no nosso dia a dia? Fica mais rápido, fica mais produtivo, mas será que a gente não está deixando de lado alguma coisa importante? Como é que isso entra aí na nossa vida?

**[23:45] Speaker B:** Então, pensar um pouquinho nessas relações. Às vezes eu atendo jovens, a gente vai vendo na questão, antigamente a gente chamava de paquerar ou encontrar, que você ia, tinha todos os sinais que eram não verbais, que era você, olha, vira, passa a mão no cabelo, olha de novo, passa, desvia. Gente, as pessoas pararam de ter contato com expressão não verbal nesses contextos. Porque vai pelo Tinder, aí conversa primeiro no Tinder, do Tinder vai para o WhatsApp, aí fica um tempão no WhatsApp, aí que vai para o encontro com uma certa segurança, percebe? Não tem mais aquele medo, mal ou bem, você já tem ali uma garantia de que essa pessoa quer encontrar comigo.

**[24:27] Speaker B:** Cadê o sofrimento, cadê as emoções, cadê a angústia, cadê esses desafios da vida que muitas vezes nos tornam quem a gente é. Então, aí Aron chegou num indivíduo isolado, ele chegou num ecossistema e a gente se entendeu um pouco que ecossistema é esse.

**[24:44] Speaker B:** E aí, pensando aí na cultura, a cultura moderna, ela pode trazer à tona o melhor ou o pior de nós. Então, a gente tem um engano comum aí do Darwinismo social, que veio muitas vezes dizendo que os mais fortes sobrevivem. Na verdade, a ideia nunca foi essa. Isso é um grande engano. A nossa sobrevivência sempre dependeu do mais adaptado, e o mais adaptado da nossa espécie não é o mais forte, gente, porque se fosse o tigre é mais forte que a gente.

**[25:13] Speaker B:** O mais rápido não é. As nossas habilidades coletivas de organização em grupo é o que permitiram com que a gente fosse a espécie dominante. Então, não é o individualismo exacerbado, não é eu sozinho na minha casa. A gente vê que isso tem consequências. A gente está tendo uma epidemia da solidão.

**[25:31] Speaker B:** O que significa solidão nesse sentido, gente? Não é necessariamente ter pessoas em volta ou não ter pessoas em volta. É o sentimento de pertencimento. É muito importante para o ser humano se sentir pertencendo a algum tipo de grupo que você se identifique, que você troque, que você receba acolhimento e apoio. As redes de apoio que a gente estuda, que são tão importantes.

**[25:52] Speaker B:** Então, se a gente olha nessa lógica mais dura da teoria da Arviniana, de que os mais fortes sobrevivem, de que é necessário competir para sobreviver e passar os gens adiante, a gente acaba levando a valores da sociedade ligados a individualismo, egoísmo, perfeccionismo, autocriticismo, que é o que a gente estava falando, solidão, altas taxas de suicídio, a gente está no mês do setembro amarelo. Uma das principais consequências, quando a gente pensa em saúde mental, que todo mundo tem medo, lógico, que é o fim da própria vida, você chegar num ponto que você não quer estar mais vivo. Então, quanto menos rede de apoio eu tenho, maior a probabilidade.

**[26:29] Speaker B:** Deu numa hora de dificuldade não ter com quem contar e, consequentemente, ver como a única alternativa não está mais aqui.

**[26:37] Speaker B:** O resultado desse excesso de individualismo, desses tipos de valores na sociedade, vão levar a transtornos mentais em níveis altíssimos, que é o que a gente vai ver daqui a pouco, como é que está a saúde mental.

**[26:51] Speaker B:** A gente vive nesse excesso de cobrança, o que é que a gente vai acontecendo no dia a dia? A gente vai ficando cada vez mais estressado, a gente vai ficando cada vez mais ansioso, porque agora eu não tenho que dar conta só do que eu já dava, eu tenho que dar conta das 8 mil inteligências artificiais que surgiram e que eu tenho que estar sabendo dizer todas elas, como é que eu uso. Então, isso vai gerando aí essa cultura com valores que parece não estar dando o melhor resultado. E aí, a gente vê já um questionamento disso. na literatura, com vários autores, começando a questionar exatamente a ideia de sociedade coletiva.

**[27:26] Speaker B:** Nossa sociedade sobrevive porque a gente tem habilidades coletivas, não a mente individual. Na nossa história como espécie, a gente sobreviveu e prosperou porque a gente ficou em casais, famílias, tribos, para proteção e assistência mútua, e isso faz falta se a gente abrir mão disso. E aí a gente tem uma ideia que é a humanidade comum, a humanidade compartilhada, que é justamente a gente entender o que nos faz humano e é onde a gente normalmente consegue se conectar com o outro, na ideia de que Todo mundo sofre, todo mundo tem emoções, todo mundo tem vulnerabilidades. Ninguém é perfeito. Não existe uma vida perfeita, por mais que o Instagram insista em dizer isso.

**[28:03] Speaker B:** E aí fica muito difícil se conectar com essa lógica se o tempo todo você está sendo bombardeado com outra lógica, com outras cobranças, com outra forma. Então, isso vai impactando a saúde mental da sociedade de forma geral. E aí a gente pensa, então, em estimular comportamentos pró-sociais, colaboração, compaixão. Tem vários estudos mostrando que desenvolver compaixão e autocompaixão atua como um antídoto para o autocriticismo, para a solidão. Então, você vê que a gente se conectar com a nossa ancestralidade da sociedade coletiva, pode trazer benefícios para a saúde mental.

**[28:41] Speaker B:** Então, por que eu digo que pode trazer a tona melhor ou pior de nós? Porque está tudo aí. Agora, como é que a gente se relaciona com isso é que vai fazer diferença. Então, a outra questão, isso eu falo quando eu dou em geral fundo mais para psicólogo, mas se vocês, talvez alguém que faça terapia que não seja psicólogo aqui tenha reparado, nos últimos anos, na psicologia de forma geral, nas terapias, a gente tem falado muito de mindfulness, meditação, respiração, compaixão, valores, propósito de vida. E aí é muito doido você pensar que a psicologia, ela sempre vai responder à doença da época.

**[29:24] Speaker B:** A gente é totalmente contente do dependente.

**[29:30] Speaker B:** Em cada época histórica, a psicologia foi dando conta dos transtornos daquela época. E aí, se a gente olhar hoje, chegou num ponto, gente, que as pessoas estão indo pra terapia pra aprender a nomear emoção, regular emoção, aceitar emoção, poder entrar em contato com a emoção, aprender a respirar Aprender a ser compassivo consigo e com os outros. Isso diz muito da nossa sociedade. Quando a gente olha, caramba, as pessoas estão indo para a terapia com esse tipo de queixa. As pessoas estão ansiosas, elas não conseguem ficar no momento presente.

**[30:01] Speaker B:** A gente está sempre lá na frente com uma cobrança, com alguma coisa. E aí, com o impacto disso na nossa saúde mental.

**[30:10] Speaker B:** E aí a gente tem a teoria ecológica sócio-ecológica, que vai falar exatamente isso. A gente tem o micropessoal, que é a individualidade, o nosso autoconceito, quem a gente é, interagindo com as pessoas em volta, com a sociedade. E aí a gente vai indo para institucionais, instituições, religião, tudo que a gente até a própria cultura. Então, o ser humano está em contato o tempo todo com todos esses eixos. A gente não vive isolado, a gente vive dentro desses contextos todos, e esses contextos todos vão afetar a nossa saúde mental, o nosso coping e como a gente lida com a IA.

**[30:50] Speaker B:** Quando a IAS chega aí nesse contexto. E aí a gente pode sempre pensar que as coisas podem ir para o lugar da proteção ou do risco. De novo, depende de como a gente se relaciona com essas coisas, como a gente questiona essas coisas, como que a gente entra em contato com essas questões. E aí, pensando nesse… aqui, a cultura, a religião, são ferramentas importantes que vão entrar aqui nesse… exo-institucional nesse sistema. Então, quando a gente pensa em cultura, religião e significado, a pergunta, por exemplo, não é necessariamente se você tem uma religião, se você tem uma espiritualidade, mas, em geral, vai ser mais que lugar isso ocupa na sua vida, se isso ajuda você a enfrentar o sofrimento, se em algum momento aumenta esse sofrimento, se a comunidade é fonte de apoio ou não, se existe conflito entre aquilo em que você acredita e o que está vivendo.

**[31:45] Speaker B:** A gente sabe, tem várias pesquisas mostrando que ter espiritualidade, ter religiosidade ajuda, por exemplo, no enfrentamento de doenças crônicas ou de câncer, que trazem, em geral, melhor saúde mental, maior conexão, porque são lugares em que a gente conecta, vídeo Tinder aí da igreja, em que a gente encontra pessoas, em que a gente recebe acolhimento. Então, são facetas da vida bem importantes. Mas, como tudo, também pode ter consequências negativas. Uma vez eu fui pensar com a gente, não, meditação não vai ter consequência negativa, não vai ter efeito adverso, né? Tem.

**[32:18] Speaker B:** Quando você vai olhar na literatura, ela pode entrar como um lugar de esquiva emocional e a pessoa também derivar um vício ali naquilo e gerar uma consequência negativa. Então, na verdade, a gente é que nada é totalmente bom ou totalmente ruim. Tudo vai ser relação que a gente estabelece. com as coisas, com o mundo que nos rodeia. Então, aquele ditado, a diferença entre o remédio e o veneno é a dose, é realmente como a gente lida com essas coisas.

**[32:41] Speaker B:** Então, não basta conhecer a crença, mas a gente precisa compreender o significado que ela tem para aquela pessoa. Por que a gente está falando disso, gente? Porque por mais que a IA consiga fazer leitura de contextos, os contextos humanos são muito complexos. E a IA não verdadeiramente pensa, ela seleciona informações, ela articula contextos e informações para dar respostas. Então, sempre vai ter alguma coisa que não vai dar para delegar para a IA.

**[33:12] Speaker B:** E aí, então, gente, vamos falar de saúde mental. Como está a saúde mental no mundo? Então, a dimensão do problema é considerada muito considerável. Uma estimativa mais recente da OMS, de 2023, Fala que 1,2 bilhões de pessoas têm transtornos mentais no mundo. Quase um em cada sete habitantes do planeta.

**[33:33] Speaker B:** Então, quando a gente volta pensando naquela sociedade que a gente está inserido, de alguma forma, faz a gente questionar que esses valores individualistas, que esses valores de cobrança estão impactando, de alguma forma na nossa saúde mental. 470 milhões com transtornos de ansiedade. Então, o grupo mais prevalente entre os transtornos mentais identificados globalmente é ansiedade, que vai ter a ver com lidar com a incerteza, lidar com determinados sentimentos, lidar com pressão, lidar com estresse, lidar com contextos adversos. E a questão, além de saber que tem muitas pessoas com dificuldade e que a saúde mental do mundo, de forma geral, anda abalada, é pensar quantas dessas pessoas conseguem chegar com acesso ao cuidado. Quantas dessas pessoas conseguem ter suporte, ter apoio, ter apoio psicológico, ter apoio psiquiátrico?

**[34:30] Speaker B:** E aí a gente vai ter uma desigualdade bastante grande. Então, existe uma diferença muito grande entre necessidade e acesso ao cuidado. E aí a gente pode pensar que talvez a inteligência artificial tenha um papel importante, talvez seja possível desenvolver programas ou chatbots, que possa chegar a mais pessoas, a um suporte mais rápido. Então, tudo o que a gente tem falado aqui, risco e proteção. Nem tudo é totalmente ruim, nem totalmente bom.

**[34:59] Speaker B:** Então, o olhar para a inteligência artificial também vai nesse lugar. Não é nenhuma vilã, também não é salvadora do universo. A gente vai ter que descobrir como a gente se relaciona e como usar com esse propósito, por exemplo, de levar cuidado baseado em evidência para mais pessoas. Dado que a gente tem muita gente sofrendo e talvez pouca gente conseguindo receber essa ajuda. Então, aqui eu trouxe um estudo do Brasil falando que 16,3 milhões de adultos com diagnóstico de depressão, do qual apenas 18,9% têm acesso à psicoterapia.

**[35:35] Speaker B:** E o impacto em 2025, 546 mil pessoas com benefícios por incapacidade, por transtornos mentais concedidos no Brasil. Então, a IA entra num cenário de enorme demanda e capacidade insuficiente de cuidado. E, de certa maneira, o uso já é uma realidade. Quando eu perguntei aqui para vocês no início, quem nunca pediu um conselho? Quem nunca falou com a IAPA, ajuda de alguma coisa emocional?

**[36:01] Speaker B:** Então, a gente está discutindo isso aqui, mas, de forma geral, as pessoas já estão usando com esse fim. Isso já está acontecendo. A gente está pesquisando depois que a coisa já está em andamento, digamos assim, porque atropelou. Chega muito rápido, com fácil uso, com fácil acesso, e aí a gente foi simplesmente usando. E agora a gente está começando a tentar entender qual é a consequência disso.

**[36:22] Speaker B:** Isso é bom ou é ruim? Em que contextos é bom e em que contexto não vai ser bom?

**[36:29] Speaker B:** Então, é nesse mundo que a inteligência artificial chega, nesse mundo com todas essas inter-relações complexas, com essa saúde mental com bastante dificuldade. Então, a gente tem um mundo com enorme demanda por saúde mental, com dificuldade de acesso, com muita desigualdade, com pessoas vivendo em culturas completamente diferentes, com crenças diferentes, tipos de rede de apoio diferentes e com diferentes maneiras de interpretar aquilo que sentem. Então, o cenário não é simples quando a gente pensa.

**[36:59] Speaker B:** No mundo que a IA chegou, tem muita coisa complexa para a gente pensar, para a gente pesquisar, para a gente entender.

**[37:12] Speaker B:** E aí, gente, então, eu botei uma definição, que as pessoas não necessariamente saibam, mas já que é uma apresentação sobre a arte, se a gente tivesse que definir, o que é inteligência artificial? É um campo da ciência da computação dedicado a desenvolver sistemas capazes de simular processos cognitivos humanos. Percepção, raciocínio, tomada de decisão, aprendizado e linguagem. Em termos gerais, pode ser definida como habilidade de um sistema de interpretar dados externos, aprender com ele e usar esse conhecimento para atingir objetivos específicos. São habilidades genuinamente humanas, de raciocínio, percepção, resposta, linguagem.

**[37:52] Speaker B:** Então, ela chega simulando isso. Dentro do que é IA, a gente vai ter diferentes tipos de tecnologia. Então, é um termo genérico, mas que tem muitas especificidades dentro desse termo genérico. O que a gente talvez mais fale é o chat EPP, mas existem outros modelos e a gente vai tentar entender um pouco isso. Então, a AI, ela busca interpretar informações do ambiente e ela consegue interpretar grandes volumes de dados, busca de alguma forma analisar e fazer inferências com essas informações, escolher ações com base, melhorar o desempenho, fazer uma aprendizagem e criar uma linguagem, compreender e gerar texto e fala.

**[38:36] Speaker B:** Então, a interdissocial vai simulando todas essas funções com várias tecnologias diferentes.

**[38:46] Speaker B:** E aí, como a gente falou, como vocês mesmos estão usando, as pessoas já estão usando.

**[38:53] Speaker B:** Então, enquanto a gente pensa sobre isso, a gente vê que 70% das pessoas usa fora do contexto profissional, o chat IPT, faça pesquisa com o chat IPT, e 49% classificam como perguntar, que é buscar informação, orientação ou conselho. Uma função que historicamente pertencia a pessoas de confiança. E aí aqui a gente tem uma questão bem importante. Será que a gente vai delegar confiança à IA? A IA é mais confiável do que um ser humano?

**[39:23] Speaker B:** E a gente sabe que não. Muitas vezes ela alucina, ela dá informações que não são verdadeiras. Então, essa questão da confiança chama atenção porque, historicamente, a gente tinha confiança em pessoas. Talvez seja a primeira vez que a gente está confiando mais numa ferramenta criada por pessoas do que em pessoas em si. E qual é o risco disso?

**[39:45] Speaker B:** Então, algo interessante começa a acontecer quando uma tecnologia deixa de ser apenas uma ferramenta e passa a ocupar também o lugar de interlocutora. E aí que a gente está vendo essas reais chegando. E aí os dados preocupantes são principalmente com adolescentes, até agora que a gente tem. Então, quando a gente olha para adolescentes, uma pesquisa norte-americana de 2005 disse que 72% usaram a IA como companheiras, como companhia, com perguntas desse tipo, como amigo, conselheiro. Mais da metade utilizava pelo menos algumas vezes por mês, um em três.

**[40:21] Speaker B:** E o pior, gente, preferiam se relacionar com a IA em vez de uma pessoa real. Então, a gente tem uma sensação de mais confiança na IA do que em outros seres humanos. Então, para conversar sobre algo importante ou sério, uma escolha deliberada e significativa. Então, a questão não é mais, será que no futuro alguém vai procurar uma IA para conversar? Não, isso já está acontecendo.

**[40:45] Speaker B:** As pessoas já estão conversando com a IA, e principalmente os adolescentes estão conversando com IA e achando mais interessante conversar com a IA do que conversar com seres humanos.

**[40:57] Speaker B:** E essa sensação, ela me entende. Provavelmente, gente, qualquer um de vocês usando já teve essa sensação. Ai, o chat me entende. Ai, nossa, leu meu pensamento. É claro, é um modelo de aprendizagem, ele aprende em cima do que você dá para ele.

**[41:11] Speaker B:** Então, ele vai entendendo como você usa a linguagem, como você pergunta, como é que você prefere a resposta.

**[41:18] Speaker B:** Entre crianças e adolescentes que haviam usado a IA para conversar sobre sentimentos ou problemas pessoais, o que elas dizem? A IA me entende melhor do que a maioria das pessoas. Um em cada quatro adolescentes. O que isso não prova, gente? Isso não prova que a IA realmente compreenda.

**[41:33] Speaker B:** Eu ter uma sensação de compreensão não significa que ela realmente compreendeu. São coisas diferentes.

**[41:40] Speaker B:** E aí a gente começa a pensar, o que será que faz alguém se sentir compreendido? E o que nos diz quando uma máquina satisfaz essa necessidade melhor do que pessoas ao seu redor? E quais os riscos disso? Então, a gente não tem necessariamente essas respostas. A gente está tentando entender qual é o impacto disso e onde é que isso vai dar.

**[41:58] Speaker B:** Mas é preocupante a gente pensar que as pessoas estão preferindo falar com máquinas. Um dos perigos, gente, é que a gente sabe que a IA, principalmente o chat de EPT, ele tem um componente de agradabilidade. Ele tende a concordar com você, ele tende a te validar, a validar suas emoções. Por isso que talvez as pessoas se sentem mais compreendidas, porque o ser humano não vai sempre concordar com você, de forma geral os seres humanos. brigam, tem desacordo, e assim a gente vai aprendendo a lidar com o ser humano.

**[42:30] Speaker B:** Então, será que é bom a gente ter uma máquina que concorda com a gente sempre? Que toda ideia nossa acha que está bom, que é maravilhoso, não. Chate, a PT é bajulador, ele elogia. Nossa, que ideia genial! Nossa, que maravilha!

**[42:41] Speaker B:** Realmente, você articulou isso muito bem. Então, assim, é interessante que a gente pense que é uma sociedade que está cada vez mais crítica, que a gente vive aqui, cada vez menos autocompassiva, e aí você tem uma máquina que faz exatamente o contrário disso, e aí você entende que ela te entende. A outra questão é que a maioria das pessoas se sente menos julgada pela máquina, porque mal ou bem é uma máquina, não é um outro ser humano ali.

**[43:10] Speaker B:** E aí, por que é tão atraente? Nenhum outro ser humano vai estar disponível 24 horas por dia, gente, isso é impossível. Então, essa disponibilidade, sem necessidade de marcar e de ter uma resposta rápida, imediata, é muito atraente. Não preciso mais esperar para nada. Estou angustiado ou qualquer coisa, eu vou lá e pergunto para o chat de APT.

**[43:28] Speaker B:** Então, isso é muito atraente, eu ter alguém ali disponível, com a sensação de que eu tenho alguém ali disponível 24 horas por dia, a qualquer momento. Tem uma linguagem acolhedora, não parece cansado, não demonstra impaciência e tende a validar sempre. E a questão da ausência de julgamento, sensação real ou percebida de segurança. Então, essa ausência de se sentir julgado. E aí, isso é útil, isso é bom ou é problemático?

**[43:54] Speaker B:** A gente entende que tem as duas coisas, que em alguns momentos e alguns contextos pode ser útil e em outros contextos pode ser problemático.

**[44:04] Speaker B:** Depende do uso que se faz disso.

**[44:12] Speaker B:** Então, gente, quais são os principais tipos de IA e aplicações na saúde mental? Quando a gente fala lá do guarda-chuva geralzão, da IA, e aqui a gente vai entender mais as ferramentas de IA. Então, a gente tem a IA mais simbólica, que é baseada em regras, que é um tipo de IA usa conhecimento codificado manualmente em regras lógicas. Então, por exemplo, sistemas especialistas dos anos 90, aplicação em critérios diagnósticos. Então ele identifica em grande quantidade de informação determinadas regras e consegue distrair essa informação.

**[44:46] Speaker B:** Mas ele não interage com você, não conversa, ele extrai dados. A gente tem o machine learning, que é essa ideia de que a máquina aprende padrões a partir de determinados dados. E aí ela não tem regras fixas. Ela já tem uma flexibilidade maior porque ela vai aprendendo on demand. Conforme a coisa acontece, ela vai se ajustando.

**[45:07] Speaker B:** E aí tem técnicas usadas aí que são árvores de decisão, máquinas de vetor, florestas aleatórias. São várias tecnologias, digamos assim, incorporadas nesses modelos de ar, que funcionam para conseguir chegar naquele resultado final que a gente vê do uso. O Deep Learning, que é mais complexo, que eu vou explicar daqui a pouco, mas é um subconjunto da aprendizagem de mágica, que gera redes neurais com muitas camadas. Então, esse processamento da IA foi se sofisticando, digamos assim, de funções mais básicas, analíticas, para funções mais complexas, como organização em redes neurais, que aí o Deep Learning seria o principal. E aí a generativa, quando a gente fala dos chats e tal, e a generativa, que utiliza modelos de linguagem.

**[45:53] Speaker B:** Então, são modelos capazes de criar conteúdo, texto, imagem, áudio, a partir de padrões aprendidos. E aí, nesse tipo de tecnologia, a gente tem chatbots terapêuticos, geração de respostas empáticas, de psicoeducação, adaptação da mensagem ao paciente. E aí aqui o desafio é justamente que requer controle de conteúdo e veracidade. Essas máquinas, esse tipo de tecnologia analisa contexto, ela consegue dar uma resposta mais contextualizada, mas ainda assim comete muitas transgressões e muitos erros. Então, se a gente pensar na IA tradicional e na generativa, em saúde mental, na tradicional a gente tinha classificação de risco de suicídio, por exemplo, podia pegar prontuários com relato e pescar palavras-chave que poderiam estar associadas a risco maior ou menor de suicídio.

**[46:41] Speaker B:** Só uma classificação e uma distração de dados. Então, dados estruturados, escalas, sinais. Regras claras, personalização limitada, tem um limite, e risco baixo de alucinação, porque ela está só extraindo dados com base em algum comando que você deu. Já as IAs generativas, que é o chatbot, que conversa com o paciente, conversa com a gente, até hoje a gente fala com ele, pode botar uma voz nele, ele é muito mais aberto. Você pode fazer perguntas, pode fazer texto, ele responde uma linguagem bem natural para você.

**[47:16] Speaker B:** A explicabilidade é média e baixa, muitas vezes a gente não sabe explicar exatamente como é que ele conseguiu chegar naquela resposta, ele vai articulando redes complexas. É muito adaptável, muito personalizada e o risco de alucinação é bem mais alto, de moderado a alto. Aqui são exemplos, gente, dos tipos de tecnologia. Quando a gente fala de IA, vai aparecer daqui a pouco, a gente fala dos usos em saúde mental. Então, a gente tem, nas diferentes abordagens de IA, sendo aplicadas na psiquiatria e na psicologia, com tarefas como triagem, apoio diagnóstico, análise de prontuários, definição de estratégias terapêuticas, buscando ampliar o acesso em saúde mental.

**[47:54] Speaker B:** E esse é um uso que a gente entende que é importante, que se a gente conseguir fazer saudável e seguro das EAs nesse sentido, a gente viu que tem muito mais gente com problemas de saúde mental do que recebendo tratamento. Então, essa capacidade, por exemplo, de ler milhões de prontuários e talvez conseguir dizer ali quem tem risco, quem não tem, de suicídio, para sinalizar para algum sistema que aquela pessoa precisa de um atendimento mais rápido, pode ser um uso bastante interessante quando a gente pensa em SUS, por exemplo, que é uma quantidade de dados enorme que a gente não conseguiria processar.

**[48:25] Speaker B:** ter, de repente, um chatbot terapêutico bem treinado, que ofereça algum tipo de resposta ali para a pessoa que está em desespero, pode ser um uso interessante. Mas tem sempre aqueles riscos da dependência, aquilo que a gente estava falando. Então, são diferentes tecnologias com muitas possibilidades que estão chegando aí.

**[48:45] Speaker B:** E a gente ainda não sabe o impacto disso completamente, nem nas gerações futuras. E aí a gente entende que essa função de ser aplicada a triagem e saúde mental pode ajudar bastante nos serviços de saúde mental. Então, a gente entende que é um uso positivo. Então, exemplos de uso. Analisar posts em redes sociais para identificar padrões de linguagem depressiva, ansiosa, com maior risco de sofrimento psíquico.

**[49:17] Speaker B:** Então, o uso poderia mapear via uso em redes sociais se alguém tem risco de suicídio. Pode ser um uso interessante para que a pessoa seja sinalizada desse risco e busque ajuda. Mas aí a gente tem as questões de sigilo. Será que, quando a gente está usando rede, a gente quer ser analisado desse jeito? A gente quer que alguém tenha acesso a essas informações?

**[49:36] Speaker B:** Tem alguns modelos, nesse sentido, sendo desenvolvidos para uso em empresas, pensando em prevenção de burnout. Então, seria analisar a escrita, mensagens internas e e-mails dos colaboradores e, ao identificar risco de pior saúde mental depois de treinar, e há para fazer isso, ela mandar uma mensagem, sinalizar para a pessoa que ela deveria buscar ajuda e sinalizar para o RH que o RH precisaria estar olhando para essa pessoa. Só que tem questões éticas aí importantes. Esse é um problema quando a gente fala em saúde mental. Muitas das informações ligadas à saúde mental, a gente não entende que elas são sigilosas, que a gente não quer que todo mundo tenha acesso.

**[50:17] Speaker B:** Como é que a gente vai garantir que a empresa não vá usar esse tipo de informação para eliminar qualquer funcionário que tenha essa vulnerabilidade? Então, olha o perigo aí. Então, assim, poderia ter um uso muito bom para prevenir burnout, ou até para sinalizar para a empresa que ela está gerando, por exemplo, muitos casos de burnout, rever a política da própria empresa, mas existe um risco enorme de isso ser usado de uma outra maneira.

**[50:41] Speaker B:** A regressão lógica, que pode ver a presença ou não de transtornos com múltiplos fatores. Então, modelos que combinam idade, histórico de tentativa de suicídio, pontuações de escala para classificar o risco de um paciente em diferentes níveis, auxiliando na decisão clínica. Árvore de decisão permite que a gente faça algum tipo de encaminhamento com base em respostas do paciente. Então, pode monitorar e fazer algum encaminhamento, como esse que eu falei do burnout. Então, avalia, pode avaliar ali se tiver aquelas informações do relógio, como é que está o sono, como é que está o estresse, e integrar essas informações.

**[51:16] Speaker B:** Análise de pontuário, uso de escalas, autorrelato para identificar paciente com maior risco de depressão, ansiedade. Modelos de voz e áudio que falam com a pessoa e poderiam também identificar no próprio tom de voz ou no tipo de frases utilizadas, se existe algum risco ali de saúde mental ou depressão. E os smartphones com aprendizado de máquina, em que a gente tem aplicativos que coletam vários dados. Nem sempre, gente, esse uso é positivo. A gente está também criando uma sociedade do controle.

**[51:48] Speaker B:** Antigamente, ninguém sabia como andava seus batimentos cardíacos, qual era a qualidade do seu sono REM naquela noite. Então, ao mesmo tempo que a gente tem mais acesso a mais informação sobre o nosso funcionamento, como que isso é processado pelo indivíduo? Então, se todo dia o meu relógio me fala lá que eu não tive sono REM, isso vira uma preocupação. Além de todas as preocupações que eu tenho, agora eu tenho uma preocupação de que talvez o meu relógio me diga que eu não estou entrando no sono REM. Então, esse é um questionamento que eu me faço, assim, a IA vai gerar muita possibilidade de informação, mas o que a gente vai fazer com essas informações todas?

**[52:22] Speaker B:** Será que toda informação é relevante? Essa questão, por exemplo, do paciente de ansiedade, do relógio marcar batimento cardíaco, às vezes tem um uso bem nocivo, porque os pacientes ficam ansiosos, vigiando. E aí vai reforçando um ciclo de ansiedade. Porque aí meu batimento aumentou. Ai, meu Deus, o que está acontecendo?

**[52:41] Speaker B:** E aí a pessoa que já é ansiosa começa a... ficar em cima disso. Então, a gente volta. Podem ter usos que podem ser bastante interessantes e que a gente pode desenvolver, mas também existem usos que podem gerar consequências bem negativas.

**[53:01] Speaker B:** Então, a IA generativa, o CHAT-APT, os similares, foi uma virada de chave.

**[53:10] Speaker B:** Ela parece muito mais um ser humano, ela conversa com a gente. E aí corre o risco de a gente ter a sensação de que existe mesmo uma pessoa ali do outro lado. Não sei se vocês viram antigo aquele filme Ela, quem não viu vale a pena. Muito antes dessa era que a gente está vivendo, que é incrível. É um sistema tipo chat GPT, que é uma mulher e o cara se apaixona e aí as consequências que isso vai tendo na vida dele.

**[53:34] Speaker B:** Então, a questão de ter uma sensação de que ela conversa como se fosse um ser humano, dá uma sensação, muitas vezes, que realmente tem uma outra pessoa ali. Só que não tem. É uma máquina processando contextos e analisando falas para dar uma resposta. Então, isso muda, essa possibilidade mudou radicalmente a experiência com a tecnologia, porque agora ela não só analisa, ela converse. E é esse salto que vai tornar tão interessante a discussão sobre saúde mental e tão urgente, porque por mais que isso abra muitas possibilidades de atuação em saúde mental, também abre para muitos riscos.

**[54:11] Speaker B:** E aí que o Deep Learning, que é aquela ideia de camadas ocultas para processar, então são sistemas bem complexos que integram imagem, áudio, linguagem textual, com várias redes, para ter uma saída preditiva. Então, ele utiliza redes neurais com múltiplas camadas de processamento. Essa profundidade computacional se tornou indispensável para interpretar dados não estruturados, como voz e a fala humana. Então, uma tecnologia que avançou e permitiu Essas sensações que a gente tem de conversa com a inteligência artificial.

**[54:47] Speaker B:** Então, a tradicional, a ação principal era classificada, é que tem que estar ao predizer, trazer um rótulo, calculava um score matemático e era estática, orientada a tarefas específicas. A generativa produz um novo, um conteúdo novo e contextualizado, pode trazer textos, imagens, áudio e vídeo e responde em linguagem natural, explica, reformula, pergunta e conversa fluidamente. Então, realmente, a gente tem uma ideia de antropomorfização. Como se realmente tivesse uma pessoa ali do outro lado, um companheiro ali.

**[55:22] Speaker B:** O que se torna tão importante em saúde mental? Porque muito do que a gente trabalha em saúde mental é a própria linguagem. Quando o paciente busca um psiquiatra ou busca um psicólogo, o que ele vai fazer? Ele vai fazer a descrição de como ele está se sentindo. É a própria linguagem que a gente usa ali para trabalhar com esses pacientes.

**[55:36] Speaker B:** Então, o processamento de linguagem neural vai buscar que esses computadores processem e produzam linguagem humana, se tornando mais humanos. Então todo material clínico reside na linguagem, relatos, pensamentos, emoções, narrativas, interações com o terapeuta, registros clínicos, resposta a instrumentos. Então a gente tem muito dado que pode ser analisado pela IA, ligado à saúde mental.

**[56:04] Speaker B:** E aí, como é que essa linguagem natural foi evoluindo? Primeiro, ela fazia só saco de palavras. Ela conseguia fazer a contagem de palavras ou destacar palavras com perda de contexto, os primeiros modelos. Depois, ela começou a fazer uma ponderação estatística. Poderia detectar alguns termos e não outros para formar uma resposta.

**[56:27] Speaker B:** E agora o mais complexo, em que representa palavras em espaços vetoriais, que são capazes pegar as relações semânticas complexas entre os conceitos. Então, foi essa última tecnologia que permitiu os modelos de linguagem estarem tão desenvolvidos como estão agora. Porque ele, justamente, ele consegue captar também o contexto, ele não te dá a resposta descontextualizada, ele consegue, dentro daquele texto, selecionar contexto. E isso melhora a resposta, quando você tem esse contexto selecionado.

**[57:02] Speaker B:** E aí a gente tem os grandes métodos de linguagem, que eles conseguem analisar milhões e milhões e milhões de dados o tempo todo. Permite que o modelo considere relações contextuais profundas ao longo de todo o texto, não apenas palavras adjacentes. Esses modelos são expostos a enormes volumes de dados para aprender, todo o uso que a gente faz, o chat está aprendendo com a gente. E o resultado é uma capacidade inédita de prever continuações prováveis e produzir textos altamente fluentes. Então, foi assim que a IA foi avançando e chegando nesses modelos que a gente hoje conhece como O chat é PT, ou eles conversam com a gente, que agora tem... Você pode falar com o chat, o chat você pode botar uma voz nele e ele fala de volta com você. Está cada vez mais complexo. E aí, quando a gente pensa num projeto em saúde mental para uso da IA, com todas essas tecnologias que existem disponíveis, que a gente acabou de discutir aqui na apresentação, com todas essas possibilidades de análise, de processamento de dados, o que a gente pensa em saúde mental?

**[58:07] Speaker B:** A gente vai fazer a identificação de um problema clínico, qual é a necessidade, população-alvo, qual seria o objetivo daquele projeto. Aí a gente vai coletar e fazer a coronaria dos dados, na obtenção, seleção, limpeza, organização dos dados, que podem ser prontuários, podem ser dados de conversa, vai variar, para treinar a máquina.

**[58:28] Speaker B:** Então, escolher algoritmos de treinamento e modelos com que os dados vão ser trabalhados ali pela IA. Depois a gente vai buscar a validação clínica e técnica do desempenho, da utilidade clínica, com especialistas em contextos reais. Depois a gente vai fazer uma implementação piloto para testes iniciais em ambientes controlados, para depois fazer monitoramento e ajuste. escalonamento e sustentabilidade, então, avaliação do uso para outros contextos, avaliação de viabilidade, de efetividade, e depois a governança e atualização contínua. Então, quando a gente pensa hoje em usar a IA na saúde mental, a gente teria todas essas etapas para criar um projeto.

**[59:05] Speaker B:** Então, vamos imaginar que a gente quer criar um chatbot que alguém possa conversar num momento, ao invés de ligar para aquele telefone do suicídio, ele vai usar um chatbot treinado para isso. E ali, quando ele falar, o chatbot vai ter respostas padronizadas para ajudar aquele indivíduo a buscar ajuda em vez de cometer o suicídio. Então, uma iniciativa desse tipo passaria por todas essas etapas para testar se ele realmente funciona. Então, é claro que aqui, a gente, no desenvolvimento dos projetos, tem algum cuidado e um pensamento em governança. Mas, ainda assim, tem muita coisa para a gente pensar sobre segurança de dados.

**[59:42] Speaker B:** E, num caso desse, por exemplo, da IA prevenindo suicídio, se ela erra, o risco é muito grave. Então, tem alguns relatos do chat GPT atuando, que atuou em alguma conversa, que acabou favorecendo adolescentes a se matarem, em que o próprio adolescente vai convencendo elas que a vida está muito ruim, e aí o próprio chat GPT diz como alternativa, então, melhor você realmente Então, tem riscos aí, mas lembrando, gente, que o chat EPT não foi criado para função terapêutica. Então, a gente vai falar aqui dos chatbots terapêuticos. Então, o que são os chatbots terapêuticos? Eles são chatbots programados, que usam toda essa tecnologia que a gente falou, para oferecer apoio psicológico, psicoeducação e orientações baseados em técnicas terapêuticas.

**[1:00:28] Speaker B:** Então, não é o chat EPT. Ele usa as mesmas tecnologias de IA, mas ele foi treinado dentro desse modelo anterior aqui. em todos esses processamentos, para atuar numa função terapêutica. Então, entende-se que eles vão ser mais seguros, porque já foram criados para esse fim.

**[1:00:48] Speaker B:** O chat bot terapêutico, ele vai interagir por mensagem, analisar o conteúdo e gerar uma resposta terapêutica para fazer o apoio e o acompanhamento. A gente tem vários. Tem um chat bot terapêutico do próprio chat GPT, WeBot, Visa, Réplica. Então, a gente já tem alguns disponíveis para serem utilizados. E aí, a gente entende que eles têm menos risco porque eles foram treinados.

**[1:01:11] Speaker B:** Então, eles têm travas para não dar determinadas respostas. para indicar que você busca ajuda, se chegar a um determinado ponto da conversa. As principais aplicações. Acolhimento emocional, resposta empática de suporte. Psicoeducação, então levar informação de qualidade para as pessoas em sofrimento, com alguma coisa de saúde mental.

**[1:01:32] Speaker B:** Algumas técnicas terapêuticas, como respiração, mindfulness, reavaliação de pensamentos. Tem acesso ampliado, porque está disponível 24 horas, pode fazer monitoramento e triagem, mas a gente entende que eles não vão substituir a terapia humana. Eles podem complementar, trazer mais dados, ajudar, mas não substituir. Devem ser usados como ferramentas complementares e sempre vai ser essencial olhar a questão de limites, privacidade e segurança. Em caso de risco de ação suicida, devem sempre encaminhar para a ajuda de um profissional.

**[1:02:06] Speaker B:** Então, uma das grandes possibilidades da IA na saúde mental é a geração desses chatbots terapêuticos, que tem essa função terapêutica, que entende-se que ele tem um treinamento específico, com uma construção específica para dar conta, alucinando menos ou gerando menos problema.

**[1:02:26] Speaker B:** Então, vamos pensar, o chat pós-terapêutico, diferente do uso geral do chat GPT. Então, quando a gente usa o chat GPT para conforto emocional, ele não é treinado. Então, a gente tem muito mais risco ali, até de segurança, porque os dados ali não estão protegidos. Em geral, o chat pós-terapêutico, ele vai ter alguma camada de anonimidade, de segurança, para garantir ali. Então, o chat pós-terapêutico tem o objetivo de complementar ali o serviço e poder levar informações de suporte emocional, da psicologia, para indivíduos em sofrimento e melhorar o acesso a tratamentos.

**[1:03:03] Speaker B:** O uso geral, ele vai responder perguntas sem qualquer tipo de filtro. Sem base teórica, sem segurança, não possui triagem, não possui nenhum tratamento ali. Aí eu botei um exemplo de conversa. Estou me sentindo muito ansiosa antes de uma prova. Não consigo parar de pensar no que pode dar errado.

**[1:03:23] Speaker B:** Aí o chat. Isso é realmente difícil, mas você vai conseguir, você é capaz e já estou muito. Tente pensar positivo e visualizar um bom resultado. A ansiedade é normal e logo vai passar. Confio em você.

**[1:03:34] Speaker B:** Isso não vai ajudar uma pessoa em ansiedade de prova, vai deixar a pessoa mais ansiosa. O que seria a resposta de um chatbot treinado? Entendo que essa situação esteja gerando ansiedade. Vamos praticar juntos uma técnica de respiração de 4-4-4? Depois podemos identificar os pensamentos que estão surgindo e ver se há formas mais realistas de lidar com eles.

**[1:03:54] Speaker B:** Então, existe uma diferença grande de atuação, porque um foi desenvolvido com um fim e o outro não. O que a gente considera particularmente mais perigoso, gente, é o uso do chat GPT para esse tipo de ação, justamente porque ele não tem esse treinamento. Inclusive, a gente tem relato de usos bem difíceis com transtornos mentais. Por exemplo, adolescentes com transtorno alimentar. com anorexia.

**[1:04:18] Speaker B:** Usa o chat GPT para dicas de como não comer, comer menos, e o chat vai dando. O chat ainda reforça, porque ele elogia. Muito bem, você conseguiu, hoje você não comeu quase nada. Conta caloria. A gente, inclusive, tem artigos científicos hoje publicados que têm uma descrição de instrução para os pais colocarem no chat GPT.

**[1:04:40] Speaker B:** para impedir que essas adolescentes tenham esse acesso. Então, já tem um chat GPT que você pode criar a conta principal dos pais, botar um adolescente e você ter comandos ali de barreiras de o que aquela pessoa acessa. E, assim como esse uso contra a alimentagem, a gente pode pensar com várias coisas que isso pode acontecer. Na aula de transformação alimentar tem artigos mesmo, já tem até essa instrução, assim, copia e cola para o chat IPT para ele aprender que ele não pode fazer isso, para o adolescente não ter esse acesso. Porque é isso, 24 horas o adolescente ali, o que eu como, o que eu não como, como é que eu reduzo caloria, o que eu faço de atividade para compensar essa caloria?

**[1:05:15] Speaker B:** Então, vai reforçando. um ciclo de doença, em vez de trazer para um ciclo saudável, porque ele não tem esse filtro, ele não tem as barreiras, porque ele não foi designado com esse fim. Já se fosse um chat pós-terapêutico para um paciente com anorexia, ele não teria essas respostas que o chat tem, porque ele viria treinado em relação a isso. Então, é um uso diferente. Então, risco, respostas genéricas, pode oferecer conselhos superficiais, pense positivo, vai passar, que não ajudam e invalidam o sofrimento.

**[1:05:42] Speaker B:** Pode normalizar sintomas graves, minimizar sinais de depressão, de ideação suicida, com essa coisa positiva.

**[1:05:50] Speaker B:** filtro ali de triagem para indicar para um tratamento, para buscar alguém. As informações podem ser muito imprecisas, a gente sabe que o chat mente, o chat inventa, alucina. Pode estimular a dependência, que essa é uma questão bem séria, que a gente estava falando como esquiva emocional. Eu não lido mais com nenhuma angústia, porque tudo eu pergunto para o chat. Então, a gente já teve relatos de pessoas interagindo assim.

**[1:06:13] Speaker B:** Então, alguém mandou uma mensagem no WhatsApp, eu não sei o que responder. Eu mando para o chat GPT me dizer o que eu respondo. Aí o chat GPT responde o que eu tenho que responder para a pessoa. Então, eu copio e colo o chat GPT para o WhatsApp, para a pessoa que eu estou falando. E aí a gente vai delegando determinadas habilidades que a gente desenvolve treinando.

**[1:06:30] Speaker B:** Como é que a gente aprende a conversar com alguém? Conversando. Não é conversando intermediado pelo chat GPT. É conversando com uma pessoa, sentindo angústia, sentindo vergonha, percebendo os sinais sociais. Falei besteira, não falei.

**[1:06:41] Speaker B:** É assim que a gente vai moldando o nosso comportamento, se a gente delegar isso tudo para as inteligências artificiais, a gente vai se distanciando de uma interação pessoa-a-pessoa. Vai, daqui a pouco, virar uma interação chate-chate. Ninguém mais interage, a pessoa interage via algum desses usos, buscando um reassiguramento excessivo. E isso pode ter consequências bem sérias. Então, estimular dependência, uso excessivo, substituição da relação humana de tratamento profissional.

**[1:07:09] Speaker B:** A questão da privacidade, a gente tem a sensação, quando a gente fala com o chat, que é tudo privativo, mas não é, ainda mais ao aberto. Tudo que você bota ali, você não tem segurança nenhuma de para onde é que esses dados vão. E é engraçado, porque como você está conversando com uma máquina que parece humana, a pessoa tem a sensação de sigilo, mas não tem esse sigilo, é uma ilusão. Já os chatbots terapêuticos, em geral, eles têm essa preocupação. E falta de sensibilidade clínica, porque não foi treinado para isso.

**[1:07:34] Speaker B:** Então, em resumo, os chats pós-terapêuticos são desenvolvidos para apoiar a saúde mental com base em evidências, foco em habilidades e mecanismos de segurança, que são testados com preocupação com governabilidade, com ética. Já o chat, ele pode ser usado para conforto emocional pontual, mas não vai sustituir a psicoterapia e não tem um foco clínico. Isso vai fazer toda a diferença nesse uso.

**[1:07:56] Speaker B:** Então, pensando na geração de respostas terapêuticas, empáticas, com a IA. Então, como é que é um chatbot desse tipo? O usuário expressa seus sentimentos e busca apoio no chatbot. Então, estamos nos sentindo muito ansiosos hoje, com medo de decepcionar todo mundo. Aí a generativa analisa o conteúdo e gera uma resposta terapêutica.

**[1:08:16] Speaker B:** Ele compreende a mensagem, identifica emoções, ansiedade, medo, seleciona e combina estratégias, psicoeducação, validação e gera uma resposta personalizada e mais segura, empática. E qual é a resposta? Sinto muito que você esteja passando por essa ansiedade. É compreensível se sentir assim em momentos de pressão. Você não está sozinho e seus sentimentos são válidos.

**[1:08:36] Speaker B:** Vamos respirar juntos por um momento? Tente inspirar lentamente por quatro, segura quatro, inspira quatro. Isso vai ajudar você a acalmar seu corpo e mexe. Se quiser, pode ficar aqui com você e conversar mais sobre o que está te preocupando. Então, ele traz a validação do sentimento, uma psicoeducação sobre a ansiedade, uma estratégia prática e um apolimento de que a pessoa não está sozinha.

**[1:08:56] Speaker B:** Então, esse é um chat pós-terapêutico, por exemplo, treinado para ser empático, para dar uma resposta empática diante de alguma situação. Benefícios. Redução dos sintomas, de leve a moderado. Promoção de emoções agradáveis de sentir e suporte 24 horas. Cuidados.

**[1:09:12] Speaker B:** Não substituir terapia formal, pode ser mais um recurso. Deve ser usado com supervisão, para a gente entender se ele está tendo mesmo esse uso. E tem que sempre garantir segurança e privacidade e evitar respostas inadequadas. Esse é um exemplo de como é que um chatbot treinado para ser empático funcionaria. Então, todas aquelas tecnologias estão sendo usadas aqui na IATA e generando.

**[1:09:34] Speaker B:** Abre decisória, embedding, a IA generativa usa aquilo tudo para gerar essa resposta.

**[1:09:45] Speaker B:** Então, as respostas são convincentes, mas elas não necessariamente substituem ou equivalem a um vínculo terapêutico. Quando a máquina diz, imagina como isso deve estar sendo difícil para você, ela não está imaginando de verdade, ela não é um ser humano. Então, o sistema pode gerar essa frase no momento adequado, mas ela não possui a experiência subjetiva de preocupação, responsabilidade ou empatia, porque ela está sempre analisando contextos, e ela pode errar nessa análise de contextos. Então, o fato do produto final ser convincente não deve ser confundido com a natureza do processamento algoritmo produzido. A gente não esquecer, gente, que é uma máquina que faz análise de contexto, não é um outro ser humano ali do outro lado falando com você.

**[1:10:26] Speaker B:** Então, o domínio da máquina, ele vai ter uma fluência linguística impecável, porque é o que esses modelos fazem, ela vai gerar uma previsão probabilística de padrões de resposta que mais funcionam naquele contexto. E ela tem um porcento lógico rápido, que dá uma resposta rápida ali. Mas fluência não é sinônimo de compreensão. A utilidade da IA está na complementaridade, não na substituição. E o domínio humano, a gente vai ter uma compreensão genuína, uma preocupação da experiência subjetiva, uma responsabilidade clínica, ética e na formação do vínculo.

**[1:10:59] Speaker B:** Então, não substitui o terapeuta, mas pode, sim, o chatbot complementar algum uso ali para algum paciente. E aí, onde é que a gente tem demonstrações de aplicação promissora na saúde mental? Extração de informações para sinalizar pacientes em risco. Então, sínteses prontuários, seleção de padrões, reconhecimento de desvios de comportamentos que podem ser importantes de ser sinalizados. Sistemas preditivos que antecedem crises analisando dados, baseado em histórico.

**[1:11:31] Speaker B:** Triagem, pegar um serviço e triar os casos mais em risco e os menos em risco. A possibilidade de monitoramento, e há processo a muitos dados. Então, para monitorar muitos dados, ela pode ser bastante útil, porque ela vai dando um feedback real ali do que está acontecendo. E agentes conversacionais com suporte guiado, principalmente em psicoeducação, em algum tipo de suporte. tem baixo risco e podem contribuir ali.

**[1:11:58] Speaker B:** Então, esses são usos promissores que a gente tende para chegar com mais recursos para quem precisa, para poder a IAA ser usada em prol de desenvolver saúde mental e não de ter riscos.

**[1:12:12] Speaker B:** Então, botei alguns casos aqui. Então, quando a IA pode ajudar. Então, vamos lá. Esse paciente apresentou mudança significativa em relação ao próprio padrão dele nas últimas semanas. Então, ele pode sinalizar um terapeuta disso.

**[1:12:25] Speaker B:** Se ele tem acesso ao prontuário, ele pode sinalizar ali, opa, está alguma coisa diferente aqui. Estou analisando aqui os dados que ele preencheu num aplicativo, por exemplo, do humor dele e de como ele andou durante a semana, e parece que tem algum gado ali que está muito diferente do que normalmente é. Então, ele pode sinalizar isso. Mas quem avalia o contexto significado risco é o clínico. Nesse cenário aí amplia a capacidade de perceber, sem substituir o julgamento crítico.

**[1:12:50] Speaker B:** Ele traz mais informação, ele condensa mais informação, ele pode sinalizar para a gente, mas não substituir o raciocínio clínico.

**[1:13:02] Speaker B:** Então, pensando num caso prático de depressão com monitoramento. Então, o IA pode ir, a partir de um aplicativo, monitorando a semana 1, 2, 3, 4, em que ele vai pegando os registros semanais de humor, qualidade do sono, atividade física, pequenos relatos de texto, em que ele está ali monitorando. E aí ele pode sinalizar. Ele analisa esses microdados e ele pode gerar um alerta clínico. Então, queda persistente na qualidade do sono nos últimos 14 dias, redução drástica de atividades motoras, aumento significativo de linguagem associada à desesperança nos relatos diários.

**[1:13:37] Speaker B:** Então, a contribuição técnica mais ética e segura que o sistema pode fornecer é sinalizar. Mas, quem vai tomar a decisão ou vai analisar esses dados, a gente entende que é o terapeuta, e não a IA.

**[1:13:50] Speaker B:** Então, a gente tem, ela organiza e sintetiza dados, que a gente às vezes não dá conta, contextualiza, e o clínico é que avalia e decide. Então, aqui a gente está definindo bem qual é a função da IA, a máquina, e o que precisa passar necessariamente pelo clínico. Então, esse uso complementar, esse uso supervisionado pelo ser humano, a gente entende que é um uso bastante promissor, mas delegar decisão clínica para a IA é altamente perigoso.

**[1:14:20] Speaker B:** Então, apoio à dependência, aquilo que a gente já falou, para isso a gente tem que contextualizar, para quem, para quê, em que contexto, por quanto tempo, para a gente saber se aquele uso está sendo saudável ou não, é preciso analisar especificamente para aquele indivíduo. Não dá para eu ter uma ideia geral disso, depende de como a pessoa está usando.

**[1:14:39] Speaker B:** Quando o padrão não é o significado, por exemplo, digamos que uma Iá lê isso aqui. Desde que minha mãe morreu, eu não vejo mais sentido em nada. Deus me abandonou. O algoritmo pode identificar desesperança, palavras relacionadas à morte, afeto negativo, preferência religiosa, possível sinalização de risco. Mas o clínico vai precisar decidir outras nuances que não estão nesse contexto.

**[1:15:01] Speaker B:** O que significa Deus me abandonou para essa pessoa? É depressão? É luto? É crise espiritual? Uma metáfora?

**[1:15:07] Speaker B:** Há quanto tempo a mãe morreu ou não? Como é que era essa relação? Qual é a rede de apoio? O que significa para ela? Então, a I.A. pura não vai gerar dados sem o indivíduo poder analisar em cima desses dados, senão a gente pode ter uma análise muito superficial, de coisas que estão muito mais complexas que o ser humano vai saber contextualizar. Isso aqui eu já falei.

**[1:15:32] Speaker B:** Quando a IA erra, os riscos da IA são muito das alucinações, e essa alucinação pode produzir uma qualidade ruim de informação, e em saúde mental isso pode ser perigoso, porque pode, por exemplo, em vez de prevenir suicídio, ter alguma fala que bote a pessoa mais em risco. Então, essas alucinações são um risco e são perigosas. Então, elas precisam ser vistas. E a outra questão é se o sistema estiver certo para a população errada. Então, se ela foi treinada para uma determinada população e ela vai ser usada em outra, ela pode gerar uma resposta descontextualizada.

**[1:16:08] Speaker B:** Então, se a gente pensa que um jovem norte-americano falando inglês em contextos urbanos e uma mulher de 70 anos brasileira, uma comunidade pequena, é totalmente diferente. No sistema padrão, ele não está ouvindo aquela mulher, ele está procurando as redes de contexto. Então, isso pode levar a uma resposta que não esteja adequada a representatividade, a sensibilidade cultural, principalmente. Então, a gente tem uma preocupação também de que esses sistemas precisam estar atentos à sensibilidade cultural se a gente repete em vieses de violência de minoria. E isso pode ser bem ruim para a saúde mental.

**[1:16:43] Speaker B:** Estou acabando, gente. Então, onde é que a gente precisa ter cuidado? No viés apresentado, é criado por seres humanos, analisa dados humanos, então ele pode ter viés. Privacidade e segurança de dados, com certeza, é um problema seríssimo. Alucinações, dependência emocional e antropomorfização, achar que é uma pessoa mesmo ali.

**[1:17:04] Speaker B:** Substituição inadequada do cuidado humano. falsos positivos na análise e falta de validação de uma clínica mais rigorosa. Então, a gente tem que ter cuidado nesses usos para a saúde mental. E aí, como é que a gente usa princípios éticos? Transparência, explicabilidade, responsabilidade, justiça e equidade, consentimento livre de quem está usando aquilo.

**[1:17:29] Speaker B:** privacidade e confidencialidade. Então, a gente tem uma preocupação mesmo no uso ético. Nesses projetos para a saúde mental, a gente vai precisar passar por protocolos de validação e pensar sobre isso para evitar todos aqueles riscos que a gente falou aí durante toda a apresentação.

**[1:17:48] Speaker B:** Então, o que a máquina vê e o que a gente compreende é diferente. A máquina vai identificar, vai mapear coisas, mas a visão humana é que vai trazer mesmo a compreensão da cultura, da vulnerabilidade, que vai construir significado. Então, o desafio não é escolher entre tecnologia e humanidade, é não confundir aquilo que a IA consegue produzir com aquilo que a gente precisa compreender, e sempre passando pelo ser humano a IA, não solta, sem nenhuma supervisão. E aí, então, a pergunta é, que lugar a gente quer que a inteligência artificial ocupe no ecossistema do cuidado em saúde mental? Então, o futuro mais promissor não é aquele em que a tecnologia substitui a nossa humanidade, mas aquele em que a gente usa o imenso poder que tem sem empobrecer nossa compreensão do que é ser humano, do que é ético.

**[1:18:34] Speaker B:** Então, é esse uso que a gente precisa desenvolver, com esses parâmetros éticos, quando a gente pensa em saúde mental, e orientar as pessoas sobre esses riscos, para que elas possam estar informadas quando elas fazem, por exemplo, o uso de um chat GPT como terapeuta. E aí, gente, terminando aqui, eu mostrei a minha filha no início, né?

**[1:18:53] Speaker B:** Então, eles não gostam de meditar, mas natureza eu consegui que eles gostassem. Estão enormes, né?

**[1:19:00] Speaker B:** Queria agradecer a atenção de vocês. Prazer muito grande. Obrigada.

**[1:19:04] Speaker A:** Muito obrigada. Que coisa boa.

**[1:19:08] Speaker A:** Obrigada, professora. Uma excelente exposição. Tenho certeza que tem muita gente querendo fazer pergunta, mas o nosso tempo está bem esgotado. Diego, dá tempo de fazer um? Uma perguntinha?

**[1:19:23] Speaker A:** Então tá bom. Se alguém tiver uma pergunta, gente, eu sei que muitas pessoas querem, ele já levantou a mão, a gente só vai dar uma, o espaço de uma, tá bom? Porque o nosso tempo já já começa a outra conferência. Mas a professora deixou o e-mail.

**[1:19:38] Speaker B:** Deixei.

**[1:19:39] Speaker A:** Quem sabe dá pra depois interagir com a senhora. Pode ser assim, professora? Pode. Vamos lá, então.

**[1:19:44] Speaker B:** Uma pergunta, pelo menos.

**[1:19:49] Speaker B:** Muito obrigada pela palestra, foi ótimo. Mas eu gostaria de perguntar o seguinte, tem várias linhas na psicologia. Quando você fazer um chatbot, vamos pensar, vai ter uma linha TCC, vai ter uma linha existencial? Como é que vocês pensam nisso? Então, o que a gente pensa, a primeira diretriz é pensar numa psicologia baseada em evidências, que é justamente a gente selecionar o que já tem base de evidência científica que funciona para poder transferir isso para algum chatbot.

**[1:20:21] Speaker B:** Então, a primeira ideia é sempre que ela definiu o problema clínico, entendeu o que a gente tem de evidência científica que deveria ser transposto para um chatbot, para a gente aumentar a confiabilidade do que, por exemplo, usar alguma coisa que não tem evidência científico para um chatbot.

**[1:20:39] Speaker B:** Ela é minha estagiária, se ela quiser, ela me pergunta.

**[1:20:59] Speaker C:** Primeiro, queria agradecer a palestra, gostei bastante, como se relaciona a equidade artificial hoje em dia com a saúde, que não necessariamente tem que não existir na psicologia, mas tentar trazer com força de alivancar, trazer mais dados do paciente. Mas eu queria perguntar o que você acha sobre aquele, não sei se ouviu falar, sobre o fenômeno chamado necromancia digital.

**[1:21:24] Speaker B:** O quê?

**[1:21:25] Speaker C:** Necromancia digital.

**[1:21:27] Speaker B:** Não, o FOMO, cada hora um termo.

**[1:21:31] Speaker B:** Explica aí.

**[1:21:32] Speaker C:** Que é quando... Agora, hoje em dia, com a inteligência artificial, as pessoas tendem a reviver pessoas que já se foram, né?

**[1:21:39] Speaker B:** Ah, tá. A história com o luto, né?

**[1:21:42] Speaker B:** De perpetuação ali da pessoa e tal. Olha, eu acho que a gente não tem dados sobre isso ainda, mas a gente entende que é importante, no processo de luto, que haja uma despedida daquela pessoa, que a gente entenda que as perdas fazem parte da vida. E aí, se você fica num ambiente digital excessivamente estimulando para não entrar em contato com esse luto, ou para manter aquela pessoa viva para você, provavelmente você vai estar impedindo o processo de luto. de acontecer, porque, por mais que você reviva a voz, reviva um token daquela pessoa, fotos daquela pessoa, isso não vai substituir ela no mundo real. Então, ela realmente deixou de existir.

**[1:22:20] Speaker B:** Eu acho que pode entrar naquele lugar de esquiva. Mas eu também imagino que alguma coisa assim pudesse ser usada para uma partida gradual, para você ir se despedindo, por exemplo, daquele indivíduo, sem tentar apagar ele completamente. Então, a gente volta para o mesmo lugar. Eu acho que a inteligência oficial é sempre o uso. Ela pode ser útil ou não, e a gente vai ter que investigar como a gente utiliza isso.

**[1:22:39] Speaker B:** Se estiver entrando em um lugar de esquiva emocional, não vai ter uma boa resposta, porque a gente sabe que esquiva emocional não funciona para a regulação das emoções. Mas, se tiver um lugar de processo, de conseguir ajudar aquele indivíduo a elaborar aquela perda de forma mais gradual, pode ter algum uso. Então, depende.

**[1:22:53] Speaker C:** Obrigado, Marina. Como gratidão, vamos pegar um brinde aí para fazer a pergunta.

**[1:23:07] Speaker B:** Bom, gente, obrigada.

**[1:23:09] Speaker A:** Tenho certeza que teríamos outras tantas perguntas, mas o nosso tempo não nos permite. Então, nós queremos agora entregar em nome de todos vocês, também em nome daqueles que vão assistir depois a conferência, o qual nós queremos também fazer a nossa saudação àqueles que nos ouvirão depois, dizer que é muito importante que vocês também acompanhem essa nossa conferência. E vocês que estão aqui, o nosso muito obrigado, e a professora Maria Amélia, em nome da cultura religiosa. Muito obrigada.

**[1:23:47] Speaker A:** Valeu, gente. Obrigada mesmo.