El buscador de Google ha evolucionado incluyendo ahora «AI Overviews», convirtiéndolo en un chatbot que responde preguntas de usuarios directamente, sin necesidad de clics en enlaces. Sin embargo, este sistema puede generar respuestas inventadas debido a su funcionamiento probabilístico basado en grandes modelos de lenguaje. Este aspecto ha provocado una demanda contra Google por parte de Wolf River Electric, una empresa de energía solar de Minnesota, cuya reputación fue dañada por una respuesta ficticia de Google. La IA del buscador afirmó falsamente que la empresa había sido demandada por prácticas de venta engañosas, citando incluso a cuatro directivos y proporcionando enlaces que no respaldaban las acusaciones.
Este fenómeno, conocido como «alucinación» en IA, ocurre cuando los modelos de lenguaje predicen palabras y tejen respuestas que acaban siendo mentiras creíbles. Google ha tenido que retirar AI Overview de algunas búsquedas previamente, debido a recomendaciones absurdas o peligrosas. Wolf River Electric argumenta que la desinformación generada afectó negativamente a sus negocios, provocando la cancelación de contratos valiosos. La demanda busca no solo defender la reputación de la empresa, sino también abogar por la equidad, la verdad y la responsabilidad en la era de la inteligencia artificial. Google ha defendido que, aunque los errores pueden ocurrir con nuevas tecnologías, la mayoría de las respuestas son precisas y útiles, y que ha actuado rápidamente para corregir el problema en cuestión. Este caso podría sentar precedente en la responsabilidad de las tecnológicas sobre la desinformación generada por sus IA.