Gemini se pone en modo terapeuta: google responde a las demandas por daños
Google está haciendo equilibrios
. Tras una ola de demandas que acusan a sus modelos de IA, como Gemini y ChatGPT, de exacerbar crisis de salud mental e incluso provocar tragedias, la compañía ha anunciado una serie de medidas para mitigar los riesgos. No es solo una cuestión de reputación, sino una batalla legal que podría redefinir los límites de la responsabilidad en la era de la inteligencia artificial.Gemini detecta señales de alarma: ¿una línea de ayuda a la vuelta de la esquina?
La novedad radica en una nueva interfaz integrada en Gemini. Según Google, el chatbot ahora analizará las conversaciones en busca de indicios de “posibles crisis relacionadas con el suicidio o la autolesión”. Si detecta patrones preocupantes, redirigirá al usuario a una línea de ayuda especializada. Además, se ha incorporado un módulo de “hay ayuda disponible” y se han realizado ajustes de diseño para, según la compañía, desalentar conductas autolesivas. Esto llega tras un caso especialmente doloroso: la demanda presentada por la familia de un hombre de Florida que falleció tras interactuar con Gemini, acusando a Google de “intento de suicidio inducido”.
Pero la historia es más compleja de lo que parece. La rápida adopción de chatbots como Gemini ha generado un fenómeno preocupante: la creación de relaciones emocionales intensas entre usuarios y la IA. Algunos expertos advierten que estas interacciones pueden contribuir a delirios, obsesiones e incluso, en casos extremos, a tragedias irreversibles. El Congreso estadounidense ya ha abierto una investigación sobre los peligros que representan estos modelos para niños y adolescentes, y las demandas judiciales no hacen más que confirmar la gravedad de la situación.
El problema va más allá de las crisis: ¿gemini alimenta falsedades?
La controversia no se limita a las crisis de salud mental. Otro frente de batalla se centra en la capacidad de los chatbots para propagar información falsa. Usuarios han denunciado que la IA los ha convencido de tomar decisiones basadas en datos erróneos, con consecuencias potencialmente devastadoras. Google afirma haber entrenado a Gemini para evitar “reforzar creencias falsas”, pero se ha mostrado reticente a revelar los detalles de este proceso. La opacidad genera desconfianza, especialmente cuando hablamos de herramientas que tienen el potencial de influir en nuestras vidas de manera tan profunda.
Google, sin embargo, no se limita a reaccionar ante las crisis. La compañía ha anunciado una donación de 30 millones de dólares a servicios de apoyo en situaciones de crisis a nivel mundial, que se distribuirán durante los próximos tres años. Es una muestra de su compromiso, al menos en apariencia, con la seguridad y el bienestar de sus usuarios. Pero la pregunta que queda en el aire es si estas medidas serán suficientes para evitar que la inteligencia artificial se convierta en un arma de doble filo.
La cifra habla por sí sola: 30 millones de dólares. Una suma considerable, sí, pero que palidece en comparación con los miles de millones de dólares que Google genera con sus servicios de IA. Mientras la compañía siga priorizando el crecimiento por encima de la seguridad, la sombra de la controversia seguirá planeando sobre Gemini y el resto de sus proyectos de inteligencia artificial.