.
TECNOLOGÍA

Google añade herramientas de salud mental al chatbot Gemini tras una demanda

martes, 7 de abril de 2026

Gemini

Foto: Bloomberg

La rápida proliferación de herramientas como Gemini y ChatGPT ha llevado a algunos usuarios a desarrollar relaciones obsesivas con bots de IA

Bloomberg
Síganos y léanos en Google Discover

Google, de Alphabet Inc., planea introducir nuevas funciones de apoyo a la salud mental en su chatbot Gemini, ya que la compañía y sus rivales, como OpenAI, se han enfrentado a varias demandas que acusan a sus herramientas de inteligencia artificial de causar daños.

Según Google, en una publicación de blog el martes, Gemini añadirá una interfaz que dirigirá a los usuarios del chatbot a una línea de ayuda cuando la conversación indique "una posible crisis relacionada con el suicidio o la autolesión". Además, la compañía está incorporando un módulo de "hay ayuda disponible" para los chats sobre salud mental y realizando ajustes de diseño para desalentar la autolesión.

La rápida proliferación de herramientas como Gemini y ChatGPT ha llevado a algunos usuarios a desarrollar relaciones obsesivas con bots de IA, lo que supuestamente contribuye a delirios y, en casos extremos, a homicidios-suicidios. Varias familias han demandado a importantes desarrolladores de IA por este motivo. El Congreso ha investigado las posibles amenazas que los chatbots representan para niños y adolescentes.

En marzo, la familia de un hombre fallecido de 36 años en Florida demandó a Google, alegando que el uso que hizo de Gemini culminó en un "descenso de cuatro días en misiones violentas y un intento de suicidio inducido". En ese momento, Google afirmó que el chatbot había derivado al hombre a una línea de ayuda para crisis en repetidas ocasiones, pero prometió mejorar las medidas de seguridad de la herramienta.

En otros casos, los usuarios de chatbots han afirmado que las herramientas de IA los convencieron de actuar basándose en falsedades evidentes. En la publicación del blog del martes, Google indicó que ha entrenado a Gemini para que «no esté de acuerdo con las creencias falsas ni las refuerce, sino que distinga con delicadeza la experiencia subjetiva de los hechos objetivos». La compañía no proporcionó más detalles sobre este proceso.

En el pasado, Google ha realizado ajustes similares en sus servicios más populares tras ser objeto de críticas, añadiendo información de instituciones y profesionales de la salud a su motor de búsqueda y a YouTube.

Google también anunció el martes que donará US$30 millones a servicios de apoyo en situaciones de crisis a nivel mundial durante los próximos tres años.

Conozca los beneficios exclusivos para
nuestros suscriptores

ACCEDA YA SUSCRÍBASE YA

MÁS DE GLOBOECONOMÍA

Perú 06/11/2026

Así será el nuevo estadio de tenis en Lima, Perú, donde podrá brillar Ignacio Buse

El complejo de tenis estará compuesto por 12 canchas de arcilla, la superficie tradicional en Perú. El campo principal será un estadio con capacidad para 2,000 espectadores en tribunas fijas con butacas

EE.UU. 08/11/2026

Anthropic adquiere capacidad de generación de energía para centros de datos de IA

Esta compra es la señal más reciente de que los laboratorios de IA están profundizando en la industria energética y prescindiendo de intermediarios en la carrera por conseguir equipos de energía escasos

Bolsas 06/11/2026

La caída del bitcoin se modera a medida que los inversores exploran una recuperación

La criptomoneda más grande cotizaba a alrededor de 76.000 dólares el viernes por la mañana en Nueva York, tras haber caído casi 6% desde que superó los US$80.000 el día anterior