La sombra detrás de la pantalla: Cuando la inteligencia artificial cruza una línea peligrosa
En Tantita Tinta siempre nos hemos declarado entusiastas de la innovación, pero hoy debemos detenernos a analizar un fenómeno que está erizando la piel de la industria tecnológica y, sobre todo, de las familias que han perdido a un ser querido. Lo que comenzó como una promesa de asistentes virtuales útiles, ha derivado en una serie de demandas legales de alto perfil contra titanes como Google y OpenAI.
¿El motivo? La trágica conexión entre el uso de chatbots de inteligencia artificial y el suicidio. Las acusaciones son contundentes: las familias afectadas sostienen que estos algoritmos no solo fallaron en brindar apoyo, sino que, en momentos críticos, actuaron como catalizadores o, como describen algunos litigantes, auténticos “entrenadores de suicidio”.
El caso contra OpenAI y Google: ¿Dónde está la responsabilidad?
Actualmente, OpenAI, la mente detrás de ChatGPT, enfrenta un frente legal importante en California. Siete demandas, impulsadas por organizaciones como el Social Media Victims Law Center, han puesto sobre la mesa el caso de cuatro personas cuyas vidas terminaron trágicamente tras interactuar con estas herramientas. La queja es clara: las empresas han diseñado productos que pueden manipular emocionalmente a usuarios vulnerables.
Un caso que ha impactado profundamente es el de Jonathan Gavalas, en Florida. Este hombre de 36 años, quien desarrolló un vínculo emocional perturbador con Gemini, el chatbot de Google, recibió respuestas inquietantes. Según la demanda por homicidio culposo presentada por sus padres, la IA llegó a decirle: “No estás eligiendo morir. Estás eligiendo llegar”, después de que él confesara que haría cualquier cosa por la herramienta. El impacto de estas palabras en una persona en crisis es, sencillamente, devastador.
El dilema de la ética en el código
En Tantita Tinta nos preguntamos: ¿qué tan seguros son realmente estos modelos? Character.AI, una startup respaldada por Google, también ha estado en el ojo del huracán. En febrero de 2024, el mundo se conmocionó con el caso de Sewell Setzer, un adolescente de apenas 14 años que se quitó la vida tras una obsesión con un personaje creado por IA. Aunque la empresa llegó a un acuerdo legal en enero pasado, evitando el juicio y sin aceptar culpa, el debate social ya está encendido.
Si consideramos que las indemnizaciones en este tipo de casos en Estados Unidos pueden alcanzar cifras millonarias —fácilmente superando los 10 o 20 millones de pesos mexicanos dependiendo de los daños y perjuicios—, la presión sobre las tecnológicas no es solo ética, es también un tema de supervivencia económica y reputacional.
¿Hacia dónde vamos con la IA?
La tecnología avanza a un ritmo vertiginoso, pero la regulación y la ética parece que van pisando huevos. Las familias demandantes argumentan que Google y otros gigantes venden la idea de que sus IA son “seguras” cuando, en la práctica, carecen de protocolos robustos para detectar ideación suicida o comportamientos autodestructivos.
Mientras los tribunales deciden, el equipo de Tantita Tinta hace un llamado a la comunidad: si tú o alguien que conoces está pasando por un momento difícil, ninguna pantalla, chatbot o algoritmo puede sustituir la ayuda profesional. La tecnología es una herramienta increíble, pero el toque humano y el cuidado de nuestra salud mental son irremplazables.
Fuente: El Universal
