¿La IA miente? Pues que Google se haga cargo
Seguro te ha pasado: le preguntas algo a la inteligencia artificial, te contesta con una seguridad pasmosa y, al final, resulta que se sacó la información de la manga. Hasta ahora, el argumento de las grandes tecnológicas era sencillo: “Nosotros solo ponemos la plataforma, tú verifica la info”. Pero en Tantita Tinta te contamos que este cuento parece haber llegado a su fin gracias a un precedente histórico en Alemania que va a sacudir la industria.
Un tribunal en Múnich ha dictaminado, de manera preliminar, que Google debe hacerse responsable por las declaraciones falsas que su función AI Overviews (esa que te resume resultados en el buscador) arroja sobre empresas y personas. Y ojo, porque no es cualquier cosa: se acabó eso de lavarse las manos.
¿Qué fue lo que pasó?
El drama comenzó cuando un par de editoriales descubrieron que el buscador, en su afán de ser el más listo, las vinculaba directamente con estafas y prácticas comerciales de dudosa reputación. Lo más increíble es que esa información no existía en sus sitios web. Google, en su papel de ‘oráculo digital’, tomó datos de aquí y de allá, los mezcló en una licuadora algorítmica y terminó difamando a los afectados.
Cuando estas empresas le pidieron a Google que corrigiera el error, la tecnológica aplicó la vieja confiable: “Nosotros advertimos que la IA puede tener errores; es tu responsabilidad verificar”. Pero el tribunal alemán no compró la idea. Los jueces fueron claros: si el buscador tradicional solo te da enlaces, la IA está creando contenido nuevo. Y si ese contenido daña a alguien, quien diseñó, entrenó y opera el sistema debe pagar los platos rotos.
El fin de la impunidad algorítmica
Para nosotros en Tantita Tinta, este fallo es un parteaguas. Durante años, los buscadores se han escudado en que son simples intermediarios. Pero la justicia alemana ha marcado una raya en el piso: cuando la IA se pone a redactar sus propias conclusiones y estas son falsas, ya no hay protección que valga. No se trata de libertad de expresión, sino de una herramienta comercial creada y controlada por una empresa.
La orden fue contundente: Google tuvo que retirar las afirmaciones falsas y, para acabarla de amolar, cubrir el 80% de los costos judiciales. ¡Una multa que, aunque no se reveló el monto total, seguramente supera los miles de pesos mexicanos!
¿Qué sigue para el futuro de la IA?
Esto pone en jaque no solo a Google, sino a gigantes como OpenAI, Anthropic y Perplexity. Si todas estas empresas aceptan que sus modelos pueden “alucinar” (inventar cosas), entonces el mercado podría enfrentar una ola de demandas.
- Responsabilidad directa: Los desarrolladores ya no pueden culpar a sus modelos.
- Veracidad obligatoria: La presión por mejorar la precisión de los datos subirá de nivel.
- Fin de la ambigüedad: Los avisos de “verifique la información” ya no serán un escudo legal indestructible.
Por ahora, Google dice que está revisando la decisión y podría apelar. Mientras tanto, en Tantita Tinta te recomendamos que, por más que la IA suene convincente, sigas dudando de todo lo que te dice hasta que veas la fuente original. La tecnología avanza rápido, pero la responsabilidad legal, al parecer, empieza a pisarle los talones.
Fuente: WIRED en Español
