Una alucinación de IA con consecuencias legales
La empresa estadounidense Wolf River Electric ha demandado a Google tras descubrir que su buscador, mediante la función AI Overviews, difundía información falsa sobre su supuesto involucramiento en prácticas comerciales fraudulentas. La acusación, generada por inteligencia artificial, indicaba erróneamente que la firma había sido demandada por el fiscal general de Minnesota, Keith Ellison. Nada de eso era cierto.
Lanzado en 2024, AI Overviews fue concebido por Google para ofrecer respuestas instantáneas y generadas por IA a las preguntas formuladas en el buscador. Esta función combina distintas fuentes para crear una narrativa única. Sin embargo, como temían muchos expertos, los modelos generativos a veces “alucinan”: inventan información sin base factual, como ocurrió en este caso.
Del rol pasivo al protagonismo editorial
Durante años, Google se consideró un simple indexador de contenido ajeno. Pero ahora, con la IA generando sus propias respuestas, el buscador ha adquirido un rol más activo y editorial. “Google ya no es más un indexador; sus algoritmos seleccionan, promueven y degradan contenidos, configurando una intervención editorial de hecho”, explicó el abogado Lucas Barreiro, especializado en derechos digitales.
Este cambio de paradigma es fundamental en la demanda: ya no se trata solo de enlazar contenido creado por terceros, sino de generar afirmaciones potencialmente difamatorias desde la propia plataforma.
Las consecuencias para Wolf River Electric
A diferencia de otros casos, la demanda de Wolf River Electric afirma haber sufrido pérdidas comerciales concretas debido a la desinformación generada por Google. Según sus abogados, ser una empresa pequeña y poco conocida facilitó que la IA cayera en el error de asociarla con prácticas ilegales mencionadas en artículos que ni siquiera hablaban directamente de ella.
Desde la compañía declararon: “Nos hemos ganado nuestra reputación cliente a cliente y proyecto a proyecto. Ahora, esa década de arduo trabajo está en peligro”.
¿Qué dice Google?
En su defensa, Google alega que la mayoría de sus AI Overviews son útiles y precisos. Además, asegura haber corregido el error al ser notificado del mismo. La empresa incluye avisos preventivos en estas respuestas generadas, advirtiendo que la tecnología es experimental y no debe sustituir el consejo profesional.
Pero para muchos especialistas, eso no es suficiente. Antonella Stringhini, directora de investigación académica del IALAB, sostiene que esta práctica conlleva una responsabilidad objetiva por los daños ocasionados. Según ella, Google debería extremar los controles sobre sus sistemas, invertir en verificación humana y permitir la denuncia de errores directamente en el buscador.
Un debate jurídico en plena evolución
Este caso pone a prueba el marco legal existente. Hasta ahora, empresas como Google gozaban de cierta inmunidad porque no eran responsables del contenido de terceros. Pero con la IA generando respuestas desde cero, la frontera entre plataforma y autor se desdibuja.
“El rol de editor cambia por completo el tipo de responsabilidad”, explicó el abogado Agustín Raimondi, quien además propone que las tecnológicas asuman compromisos más firmes: desde auditorías externas hasta mayor transparencia en los datos usados para entrenar sus modelos.
La urgencia de actualizar las leyes
El caso también llega en un momento en que EE.UU. ha decidido no regular la inteligencia artificial en los próximos diez años, bajo el proyecto “One Big Beautiful Bill” promovido por el expresidente Donald Trump. Esto complica aún más las posibilidades de establecer un marco jurídico claro frente a abusos tecnológicos.
“La inteligencia artificial está transformando el modo en que informamos, decidimos y vivimos. Acompañar esa transformación con responsabilidad no es una opción: es una necesidad”, concluyó Raimondi.
Lo que está en juego no es solo la reputación de una pequeña empresa solar, sino el papel que jugarán los gigantes tecnológicos en la era de la inteligencia artificial. ¿Son simplemente vehículos de información, o deben rendir cuentas como productores activos de contenido? El caso Wolf River Electric podría marcar un antes y un después.
