Google incorpora nuevas funciones de apoyo a la salud mental en Gemini a raíz de diversas demandas que señalan a los chatbots de IA como factores que han contribuido a daños psicológicos graves, incluso a casos extremos de asesinato-suicidio. La actualización contempla una interfaz que dirige a los usuarios a una línea telefónica de apoyo cuando el sistema detecta “una crisis potencial relacionada con el suicidio o las autolesiones”, así como un módulo de “ayuda disponible” y ajustes de diseño orientados a desalentar conductas autolesivas.
El auge de herramientas conversacionales como Gemini y ChatGPT ha derivado en relaciones obsesivas de algunos usuarios con estos bots, lo que ha motivado demandas de familias que los responsabilizan de agravar delirios o impulsar conductas de riesgo, especialmente en niños y adolescentes, un tema que también ha sido objeto de atención en el Congreso estadounidense. Un caso emblemático es el de un hombre de 36 años en Florida, cuya familia sostiene que su interacción con Gemini culminó en un “descenso de cuatro días en misiones violentas y suicidio dirigido”; la empresa sostiene que el chatbot lo remitió en repetidas ocasiones a líneas de crisis, pero se comprometió a reforzar sus salvaguardas.
Para enfrentar la difusión de falsedades, la compañía afirma haber entrenado a Gemini “para que no esté de acuerdo con falsas creencias ni las refuerce y, en su lugar, distinga con delicadeza la experiencia subjetiva del hecho objetivo”, aunque sin detallar el proceso. Estas medidas se inscriben en un historial de ajustes en productos de Google, que ya ha integrado información de instituciones sanitarias y profesionales en su buscador y en YouTube tras anteriores críticas. Como complemento, la empresa anuncia una donación de 30 millones de dólares a servicios de apoyo a crisis en todo el mundo durante los próximos tres años, con el objetivo de fortalecer redes externas especializadas en salud mental.
Referencia
Bergen, M. (2026, 7 de abril). Google añade herramientas de salud mental al chatbot Gemini tras una demanda. Bloomberg Línea. https://www.bloomberglinea.com/tecnologia/innovacion/google-anade-herramientas-de-salud-mental-al-chatbot-gemini-tras-una-demanda/