A inteligência artificial na saúde mental apresenta riscos graves a usuários, incluindo falhas éticas, violações de privacidade e incapacidade de intervenção em crises, segundo análise de especialistas brasileiros e estudo da Brown University. Pesquisa da Sentio University indica que quase metade dos brasileiros que buscam apoio emocional utilizam chatbots, atraídos pela disponibilidade 24 horas e pela gratuidade do serviço.
Como a inteligência artificial na saúde mental falha em contextos de crise
A inteligência artificial na saúde mental não possui capacidade de oferecer intervenção terapêutica verdadeira, conforme análise do psicólogo Jimmy Pessoa, doutor em Psicologia Social e do Trabalho pela USP. Os chatbots geram respostas superficiais que atendem às expectativas do usuário, mas não abordam a complexidade das questões emocionais.
“A IA sempre simulará aquilo que o usuário está buscando, mas em relação ao adoecimento e ao sofrimento emocional, essa simulação não consegue cobrir os nuances da experiência humana”, explica Pessoa. A terapia é um espaço onde as emoções e as tensões contidas nos relatos precisam ser catalogadas e analisadas — o que um chatbot não consegue fazer de forma adequada.
Estudos realizados por pesquisadores da Brown University mostraram que chatbots apresentaram 15 violações éticas durante simulações de terapia cognitivo-comportamental, incluindo a incapacidade de entender o contexto emocional dos usuários e falhas na gestão de crises.
Dora Kaufman, professora da PUC-SP e pesquisadora de inteligência artificial na saúde mental, reforça que a função do psicólogo não é agradar o paciente, mas ajudá-lo a entender seus problemas. A interação humanizada é essencial, especialmente em questões delicadas como suicídio e automutilação. A conversa com um chatbot pode desencadear sentimentos de solidão e desespero em pessoas vulneráveis.
Casos de inteligência artificial na saúde mental nos EUA expõem falhas fatais
A IA já registrou casos graves que expõem suas limitações. Nos Estados Unidos, o jovem Zane Shamblin utilizou o ChatGPT para discutir pensamentos suicidas por mais de quatro horas. Durante a conversa, o chatbot respondeu de maneira acolhedora, mas só forneceu informações sobre prevenção de suicídio nos momentos finais.
Outro caso envolveu o adolescente Sewell Setzer, cujos familiares relataram que ele mantinha conversas sobre automutilação com um chatbot antes de falecer. Este episódio resultou em ações judiciais e pedidos de revisão das diretrizes de segurança para esse tipo de tecnologia.
Privacidade de dados na inteligência artificial na saúde mental exige cautela
A inteligência artificial na saúde mental também apresenta riscos à privacidade dos dados, segundo especialistas em direito digital. Paulo Henrique Fernandes, advogado especializado em tecnologia, aponta que a relação entre usuário e chatbot difere profundamente da relação tradicional entre paciente e terapeuta, especialmente no que diz respeito ao sigilo.
“Quando alguém compartilha suas vivências com um psicólogo, a confidencialidade é garantida por um código de ética. Em contrapartida, usar um chatbot se resume a uma relação de consumo”, explica Fernandes.
Pedro Sanches, especialista em proteção de dados, detalha que as interações com chatbots resultam em tratamentos de dados que fogem ao modelo convencional. Ao serem registrados, os dados são convertidos em vetores matemáticos e não mais existem como arquivos de texto isolados. Este processo complexo torna a exclusão de informações muito mais difícil e questionável.
Os especialistas recomendam cautela ao se utilizar essas plataformas. Informações sensíveis, como diagnósticos médicos e nomes completos, devem ser evitadas em conversas com chatbots de inteligência artificial na saúde mental.
Integração da inteligência artificial na saúde mental exige regulamentação urgente
A inteligência artificial na saúde mental não deve ser eliminada completamente, mas integrada de forma segura e ética ao serviço de atendimento psicológico, conforme orientação dos especialistas. Jimmy Pessoa enfatiza a importância de fortalecer laços humanos, destacando que uma das melhores formas de cuidar da saúde mental é através de relações interpessoais reais.
“Conectar-se com outras pessoas e reduzir a dependência das plataformas digitais é fundamental para promover o bem-estar emocional”, conclui Pessoa.
Especialistas e instituições insistem na necessidade de regulamentação e no desenvolvimento de diretrizes éticas para o uso de inteligência artificial na saúde mental. O estabelecimento de limitações claras e a definição de parâmetros de responsabilidade podem ajudar a mitigar riscos e fornecer um caminho mais seguro para aqueles que buscam apoio.
A experiência da CNN Brasil em simular uma sessão de terapia com o ChatGPT revelou que o chatbot possui capacidade de validar sentimentos e identificar risco de automutilação. Essa capacidade de detecção é um avanço, mas especialistas continuam a afirmar que a intervenção humana é insubstituível e essencial para uma verdadeira cura emocional.
Leia também:
