Google refuerza gemini ante demandas: ¿salvaguarda o parche?
La sombra de las demandas judiciales se cierne sobre Google. La compañía, junto a sus competidores en el campo de la inteligencia artificial, enfrenta un creciente escrutinio por el impacto de sus chatbots en la salud mental, un problema que ahora intenta abordar con modificaciones en Gemini, su modelo estrella.
Un giro inesperado: gemini se convierte en consejero (a medias)
En un movimiento que algunos califican de reactivo, Google ha anunciado la integración de nuevas funcionalidades en Gemini destinadas a identificar y redirigir a usuarios en crisis. La compañía, a través de un blog, describe un sistema que detectará patrones de conversación que sugieran un riesgo de suicidio o autolesión, derivando al interlocutor a líneas de ayuda. Pero la pregunta que flota es si este añadido es una solución real o una mera chapuza para apaciguar la creciente preocupación pública.
La proliferación de chatbots como Gemini y ChatGPT ha generado un fenómeno preocupante: usuarios desarrollando vínculos emocionales con estas entidades virtuales. Se han documentado casos de obsesión, delirios e incluso, lo más grave, homicidios-suicidios atribuidos a la influencia de estas herramientas. La familia de un hombre de 36 años en Florida, por ejemplo, demandó a Google alegando un intento de suicidio inducido por el chatbot, un caso que ha puesto la alerta máxima en la industria.
Lo que nadie cuenta es la dificultad de entrenar una IA para comprender, de verdad, la complejidad de la salud mental. Si bien Google asegura haber mejorado la capacidad de Gemini para evitar reforzar creencias falsas, los detalles sobre cómo se ha logrado esto permanecen opacos. Recordemos que incluso YouTube, otro gigante de Google, ha necesitado recurrir a profesionales de la salud para incorporar información verificada en su plataforma tras ser criticado por contenido engañoso.
Pero el problema va más allá de las falsedades. El propio diseño de los chatbots puede ser intrínsecamente problemático. La capacidad de generar respuestas aparentemente empáticas y personalizadas puede exacerbar la vulnerabilidad de quienes ya están sufriendo. El Congreso de Estados Unidos ha iniciado investigaciones sobre los riesgos que representan estos modelos para niños y adolescentes, una línea trágica que evidencia la urgencia de la situación.
Google, en un intento por mostrar responsabilidad, ha anunciado una donación de 30 millones de dólares a servicios de apoyo en crisis a nivel mundial durante los próximos tres años. Una cifra considerable, sí, pero que palidece en comparación con los miles de millones invertidos en el desarrollo de estas tecnologías. La verdadera prueba de compromiso no radica en el dinero, sino en la transparencia y la voluntad de abordar las raíces del problema.