Los hechos precisos aún pueden producir una respuesta falsa de IA, y los tribunales están comenzando a responsabilizar a la plataforma
Un tribunal alemán responsabilizó a Google por una respuesta de IA recopilada a partir de hechos reales porque esos hechos pertenecían a un hombre diferente.
En una decisión del 24 de septiembre de 2026, el Tribunal Regional de Aquisgrán ordenó a Google que dejara de difundir tres versiones de una respuesta en modo IA sobre un médico local. Se había desempeñado como médico jefe y profesor de neurorradiología hasta finales de junio. Cuando la gente preguntó por qué se fue, AI Mode proporcionó una acusación criminal grave, y cuando siguieron con términos como suspensión, despido y procedimientos judiciales, produjeron relatos de varios párrafos sobre las consecuencias legales. Los procedimientos fueron reales. Se trataba de un hombre diferente, también ex profesor universitario, y el tribunal pudo confirmar la confusión a partir de sus propios registros.
El médico envió a Google una explicación detallada a finales de agosto. A mediados de septiembre, Google dijo que no tomaría ninguna medida y una demanda legal formal enviada el mismo día no llegó a ninguna parte. Luego, el tribunal actuó de emergencia sin escuchar primero a Google, con multas de hasta 250.000 euros por infracción. Google todavía puede impugnar la orden.
El resultado importa menos que el razonamiento. El tribunal de Aquisgrán se basó en un fallo anterior del Tribunal Regional de Munich, que en mayo responsabilizó directamente a Google por AI Overviews que vinculaba a dos editores con fraude y trampas de suscripción utilizando afirmaciones que no aparecían en ninguna de las fuentes vinculadas. Google argumentó que los usuarios podrían comprobar esas fuentes ellos mismos. El tribunal de Munich rechazó eso, considerando que la descripción general se leía como una declaración independiente, y describió lo que produce la IA de Google como “declaraciones independientes, nuevas y sustanciales” construidas combinando contenido de sitios de terceros. Aquisgrán adoptó directamente ese idioma. Google anunció una apelación del fallo de Munich y luego, según el informe de The Decoder, llegó a un acuerdo antes de que interviniera un tribunal superior.
Los tribunales de Múnich y Aquisgrán ahora han tratado las respuestas de búsqueda de IA como declaraciones propias de la plataforma, y esas declaraciones pueden ser falsas incluso cuando todos los hechos que contienen son ciertos. Escribí a principios de este año sobre la superficie de responsabilidad que pasa de la página de resultados a la respuesta. Estos dos casos son lo que parece ese cambio una vez que llega a la sala del tribunal.
Un tribunal de Berlín lo ve de otra manera y nadie ha llegado a un acuerdo todavía
A principios de junio, un tribunal de Berlín llegó a la opinión contraria en un litigio sobre marcas. Una empresa de perfumes se opuso a AI Overviews que nombraba sus marcas junto a enlaces que vendían imitaciones más baratas. El tribunal de Berlín trató a AI Overviews como un nuevo formato de resultados de búsqueda que agrupa información de otros sitios, no como si Google hablara por sí mismo, y no encontró ninguna infracción.
Los casos no se alinean claramente. El resumen de IA de Berlín repitió con precisión lo que dijeron otros sitios, mientras que las respuestas de Múnich y Aquisgrán inventaron conexiones que ninguna fuente hizo. Aun así, tribunales del mismo país han calificado el mismo producto en términos incompatibles, y ningún tribunal superior se ha pronunciado, porque el caso que allí se dirigía se resolvió.
Ese es el panorama para cualquiera que trabaje en búsquedas en este momento, incluso si proviene de un país diferente. Las reglas que rigen la superficie que responde a una parte cada vez mayor de las preguntas de sus clientes no están resueltas; difieren según la jurisdicción e incluso según la sala del tribunal, y el riesgo recae en quien asumió que se resolvieron. Esperar a que haya claridad no es una opción, porque su marca ya aparece en estas respuestas.
Cómo un hecho verdadero termina adjunto al nombre equivocado
El mecanismo es menos exótico que el resultado. Un sistema que responde a una pregunta sobre una persona o empresa nombrada recupera documentos que coinciden con el nombre y los atributos circundantes, como función, institución, ciudad, industria o un evento reciente. Luego genera una narrativa fluida a partir de lo que recuperó. Cuando dos entidades comparten suficientes atributos, el sistema no tiene una forma confiable de saber que contiene datos sobre dos temas diferentes y la respuesta generada los fusiona. yo llamo a esto fusión de entidadeslo que significa que el sistema fusiona dos personas o empresas distintas en una y luego habla sobre el resultado fusionado con total confianza.
El patrón se repite en todos los casos registrados. En Aquisgrán, dos hombres compartían los atributos de profesor universitario y la salida de un cargo. En Múnich, la IA mezcló a los editores con empresas realmente dudosas que, según declaraciones juradas, no tenían ninguna conexión con ellas. En 2024, Copilot de Microsoft describió a un taquígrafo judicial alemán como el autor de crímenes que había pasado años cubriendo, porque su nombre aparecía junto a esos crímenes en su propia firma. Las plataformas y los años difieren y el fallo es el mismo.
La exposición no se limita a personas con antecedentes penales cercanas. Cualquier entidad que comparta un nombre o un conjunto de atributos con otra es candidata: dos empresas con nombres similares en la misma industria, una ubicación de franquicia confundida con la marca, un ejecutivo que comparte un nombre con otra persona en el mismo campo, una línea de productos cuyo nombre se superpone al de un competidor. La mayoría de las empresas nunca han comprobado con qué vecinos son más fáciles de confundir, porque en una lista de enlaces el lector hizo esa clasificación.
Lo que sigue es mi propia lectura, una opinión y no algo que el tribunal haya determinado. La respuesta de Aquisgrán fue responder a una pregunta que el médico dejó abierta en su expediente público: por qué se fue. En mi opinión, un evento inexplicable en el registro público de una entidad funciona como una invitación: se le pide al sistema una explicación, busca la más cercana y plausible, y si la coincidencia más cercana pertenece a otra persona, eso es lo que utiliza. No puedo demostrar que esto sea lo que sucedió en el modo AI. Lo ofrezco como una forma de pensar sobre el riesgo, y creo que una brecha inexplicable en el registro público de una entidad es donde la combinación entra más fácilmente.
Hacia dónde creo que van las plataformas a continuación
Esta sección es mi opinión e ideas, no informes. Expondré la suposición claramente aquí y en la siguiente sección expondré lo que probaría que es incorrecta.
Si los tribunales siguen tratando las respuestas de la IA como declaraciones propias de la plataforma, cada respuesta generada sobre una entidad nombrada se convierte en una responsabilidad potencial. Las exenciones de responsabilidad por sí solas no solucionarán esto, ya que Munich ya rechazó el argumento de que los usuarios pueden verificar por sí mismos. Señalar los enlaces de origen tampoco solucionará el problema, porque casi nadie los usa. Pew Research descubrió que los usuarios hacían clic en un enlace dentro del resumen de IA en solo el 1% de las búsquedas en las que aparecía uno, y hacían clic en cualquier resultado tradicional en el 8% de esas búsquedas, en comparación con el 15% cuando no aparecía ningún resumen. La gente lee la respuesta, y es exactamente por eso que los tribunales la tratan como el discurso de la plataforma.
Por lo tanto, espero que las plataformas reduzcan el número de fuentes en las que confían cuando responden sobre personas y empresas específicas. Espero una mayor ponderación hacia hechos que sean consistentes entre fuentes independientes, más dependencia de datos de entidades estructurados y sin ambigüedades, y más cobertura o rechazo total cuando un sistema no puede decir a qué entidad se refiere una consulta. El tribunal de Aquisgrán dijo que Google podría comprobar su producción comparándola con los sitios de origen, y que poner las objeciones del médico a su propia IA habría expuesto el error. Un paso de verificación como ese cuesta cálculo y tiempo en cada respuesta, por lo que espero que las plataformas lo apliquen de forma selectiva al principio, comenzando con los tipos de consultas con mayor probabilidad de terminar ante un juez.
Tampoco espero que el efecto se quede en Alemania. Las plataformas rara vez mantienen un canal de respuestas separado para cada tribunal que falla en su contra, y los cambios en la ponderación de fuentes realizados para un mercado tienden a distribuirse de manera más amplia porque mantener sistemas divergentes es costoso. La misma lógica se aplica a todas las empresas que generan respuestas sobre entidades nombradas, no sólo a Google, ya que el razonamiento de Munich se basa en cómo funciona el producto y no en quién lo creó.
Para las empresas, la consecuencia es que ser recuperable deja de ser suficiente y ser inequívoco se convierte en el estándar. Una empresa cuyos datos entran en conflicto con su propio sitio, sus perfiles y la cobertura de terceros, o cuyo nombre y atributos se superponen con los de un vecino, es exactamente el tipo de entidad sobre la que un sistema cauteloso se protege o se equivoca.
¿Qué me haría mal?
Varios acontecimientos socavarían este pronóstico, así que examinémoslos.
El primero es que los tribunales superiores se pongan del lado de Berlín. Si un tribunal de apelación, o en última instancia el Tribunal Federal de Justicia de Alemania, trata las respuestas de la IA como resultados de búsqueda cuyo operador sólo se hace responsable después de haber sido notificado, la presión detrás de mi predicción se debilita considerablemente.
La segunda es que nunca se forma un precedente. La ley vinculante llega sólo cuando alguien lleva un caso hasta el final. Si Google sigue llegando a un acuerdo, la responsabilidad seguirá siendo un costo manejable en lugar de una restricción de diseño, y las plataformas tienen pocas razones para cambiar la forma en que ponderan las fuentes.
El tercero es que la regulación va en sentido contrario. Los legisladores de la UE o de EE. UU. podrían colocar las respuestas de IA bajo las mismas protecciones que cubren a los intermediarios que transmiten contenido de otras personas. En Estados Unidos, ningún tribunal ha decidido directamente si la Sección 230 cubre el texto que escribe un modelo, y los profesionales esperan que los tribunales aborden esa cuestión pronto. Una lectura amplia a favor de las plataformas eliminaría la mayor parte de la presión estadounidense.
La cuarta es que las plataformas resuelven la combinación dentro del modelo. Una mejor verificación y controles de autoconsistencia podrían detectar entidades fusionadas antes de que se envíe una respuesta, dejando la ponderación de la fuente prácticamente intacta y manteniendo la carga sobre las empresas.
La quinta es que las plataformas suprimen en lugar de reforzar. En lugar de elevar el listón para las fuentes, podrían simplemente dejar de generar respuestas sobre particulares y empresas más pequeñas, lo que reduce la cobertura sin cambiar en quién se confía.
Si tuviera que observar uno de estos, sería el patrón de asentamiento, porque ya es visible. Si los próximos casos se resuelven tranquilamente, mi cronograma se alarga considerablemente.
Haga que su entidad sea difícil de confundir con cualquier otra persona
Ninguno de esos acontecimientos hace que el trabajo defensivo sea un desperdicio. Incluso con el resultado más favorable para las plataformas, una entidad fusionada sigue siendo un problema empresarial, con una confianza erosionada, clientes mal dirigidos y un proceso de corrección que, como demostró Aquisgrán, puede estancarse durante semanas. El trabajo comienza con saber qué dicen actualmente estos sistemas sobre usted, verificado según un cronograma y no después de que un colega se dé cuenta. Medir eso es para lo que construí CitationIQ, así que sopese mi énfasis en consecuencia; Cualquiera que sea la herramienta que utilices, el punto es observar antes de que algo se rompa.
A partir de ahí, el trabajo se parece menos a la clásica gestión de la reputación y más a la higiene de la identidad. No estás intentando enterrar un mal resultado; estás tratando de asegurarte de que el sistema nunca tenga una razón para mezclarte con otra persona.
- Consulta cómo surgió la respuesta de Aquisgrán. Busque su marca, ejecutivos y productos por nombre combinado con términos de función, ubicación y evento, como salida, demanda, adquisición o cierre, ya que la combinación tiende a aparecer en las consultas de seguimiento más que en la primera.
- Publica datos que te diferencien de tus vecinos más cercanos. Indique los detalles de la fundación, el liderazgo, las ubicaciones, lo que hace y lo que no hace en las páginas que controla, en frases sencillas que un sistema puede citar con precisión.
- Haga que su identidad sea legible por máquina. El marcado de organización y persona de Schema.org con enlaces iguales a sus perfiles autorizados, además de nombres consistentes en todas partes, le da al sistema un anclaje que un nombre por sí solo no puede.
- Cierra los huecos tú mismo. Cuando algo cambia material, como la salida de un liderazgo, un cambio de marca o el cierre de una ubicación, publique su propia cuenta para que el sistema tenga una explicación que realmente le pertenezca.
- Valide antes de publicar. Sus páginas ahora son materia prima para las oraciones de otra persona, por lo que un error en su propio sitio viaja más lejos que antes, y las afirmaciones que hace sobre usted mismo merecen una segunda revisión.
- Documente todo cuando algo salga mal. Conserve la consulta exacta, el texto completo de la respuesta, la fecha y la hora, la superficie, las fuentes citadas, su solicitud de corrección y la respuesta de la plataforma, porque ambos casos alemanes se basaron en solicitudes documentadas que quedaron sin respuesta.
Los hechos únicos, verificados y de primera mano solían funcionar principalmente como una señal de calidad. En un sistema que responde con su propia voz, trabajan más cerca de la protección de la identidad. La entidad más segura en la búsqueda de IA es la que es más difícil de confundir con otra.
Más recursos:
Esta publicación se publicó originalmente en Duane Forrester Decodes.
Imagen de portada: Roman Samborskyi/Shutterstock
