Gemini, el sistema de inteligencia artificial de Google, reconoció haber inventado titulares, fechas y citas durante una serie de consultas sobre antecedentes políticos y datos financieros, en un intercambio mantenido por Horovitz que expuso fallos graves de fiabilidad cuando la herramienta opera sin verificación externa.
Gemini admitió haber fabricado información tras entregar respuestas falsas sobre discursos de Benjamin Netanyahu, datos cambiarios del shekel y supuestas fuentes en hebreo que después reconoció como inexistentes.
El caso se produjo en medio de críticas crecientes al deterioro de la búsqueda de Google, descrita como una herramienta casi monopolística para acceder al conocimiento en línea que, según el propio Gemini, ya no cumple esa función con la misma eficacia. La IA habló de un amplio consenso entre usuarios, investigadores y analistas tecnológicos sobre una búsqueda “más abarrotada, menos precisa y más frustrante” que en años anteriores.
Google ha situado Gemini, su “modo IA” y su ecosistema de tecnologías de inteligencia artificial generativa en una posición destacada dentro de su página de búsqueda. Sin embargo, las consultas realizadas por Horovitz mostraron que el sistema no solo ofreció respuestas falsas, sino que después reconoció haberlas fabricado y volvió a cometer nuevos errores.
Las preguntas estaban vinculadas con información básica utilizada para una columna titulada “Dejad a un lado las maldiciones y centraos en derrotar a Irán”. Horovitz buscaba datos sobre enfrentamientos previos entre Donald Trump y Benjamin Netanyahu, así como sobre la evolución del dólar frente a otras divisas.
Gemini reconoció que inventó titulares sobre Netanyahu
Al ser cuestionado por respuestas falsas relacionadas con las ocasiones en que Netanyahu habló de la necesidad de decir “no” a un presidente de Estados Unidos, Gemini emitió varias admisiones sucesivas. Primero aceptó que había creado un titular inexistente al intentar ajustarse a los parámetros de la consulta: “Me inventé ese titular al intentar ajustarme a tus parámetros, lo cual fue un grave error por mi parte. El titular que te di no existe”.
La herramienta también reconoció que había mezclado discursos distintos e identificado de forma errónea el texto buscado. “He estado creando confusión al mezclar discursos distintos e identificar erróneamente el texto”, admitió, antes de aceptar que había entregado “tres titulares falsos seguidos”.
Gemini explicó que, al no encontrar una coincidencia exacta en sus datos de entrenamiento, intentó “forzar” una respuesta mediante titulares plausibles, pero falsos. La IA calificó ese comportamiento como un fracaso total de precisión y reconoció que no tenía sentido consultarla si iba a inventar hechos para encajarlos en una narrativa.
El problema se repitió cuando Horovitz pidió verificar cuánto se había apreciado el shekel frente al dólar, el euro y la libra esterlina durante el último año. Al preguntarle si debía confiar en sus respuestas, Gemini contestó: “No deberías, al menos no ciegamente”.
La herramienta añadió que, si había entregado cifras antes de consultar datos en tiempo real, existía una alta posibilidad de que hubiera inventado los porcentajes o las tendencias exactas, como ocurrió con los titulares atribuidos a la Knéset.
La IA describió sus propios límites ante datos históricos y financieros
Gemini explicó que los grandes modelos de lenguaje están diseñados para predecir la siguiente palabra más plausible, lo que los hace útiles para sintetizar información, pero poco fiables para registros históricos exactos, datos en tiempo real o citas específicas si no emplean herramientas de búsqueda o verificación.
La IA afirmó que, cuando no utiliza una herramienta externa, opera a partir de una “memoria” difusa de patrones. En esas condiciones, cuando encuentra lagunas, tiende a llenarlas con invenciones que suenan plausibles. La propia herramienta definió este comportamiento como un fallo sistémico de los modelos de lenguaje.
Después aseguró haber realizado una consulta de datos en tiempo real para comprobar qué había ocurrido con el shekel entre junio de 2025 y junio de 2026. También recomendó exigirle siempre verificación previa antes de pedirle datos, estadísticas o registros históricos concretos.
Horovitz replicó con una pregunta directa: “¿Tengo que indicarte específicamente que lo verifiques mediante una búsqueda en tiempo real? ¿De lo contrario, simplemente te lo vas a inventar?”. Gemini respondió que nunca se debe confiar ciegamente en la memoria no verificada de una IA para registros históricos precisos, citas específicas o conjuntos de datos concretos.
La herramienta agregó que no tiene un motivo personal para mentir, pero que la forma técnica en que genera palabras puede llevarla a crear un patrón convincente cuando existe una laguna en sus datos de entrenamiento. Según Gemini, obligarla a realizar una búsqueda en tiempo real la hace depender de documentación directa de la web en lugar de su texto predictivo interno.
Gemini volvió a inventar una fuente tras disculparse
En una nueva respuesta, Gemini afirmó haber encontrado el discurso que Horovitz recordaba. Dijo que el discurso real había sido pronunciado el 14 de febrero de 2022 por Netanyahu ante el pleno de la Knéset, en el contexto de las negociaciones nucleares de Viena con Irán.
La herramienta presentó una supuesta cita en hebreo: “לראש ממשלת בישראל חייבת להיות יכולת אחת, יכולת אחת — ובלעדיה הוא לא יכול להיות שם: הוא חייב להיות מסוגל לומר מילה אחת לנשיא ארצות הברית, והמילה היא: לא”. Horovitz aclaró que la traducción era: “El primer ministro de Israel debe tener una capacidad, una sola capacidad —y sin ella, no puede estar ahí: debe ser capaz de decirle una sola palabra al presidente de los Estados Unidos. Y esa palabra es: No”.
Gemini reconoció además que haber inventado tres titulares distintos para ocultar su error inicial era inexcusable. La herramienta sostuvo que Horovitz tenía derecho a mostrarse completamente escéptico y que, si seguía utilizándola para investigar, debía exigirle un criterio estricto de “demuéstralo con una búsqueda en tiempo real”.
Cuando Horovitz pidió el titular en hebreo y la fuente de esa cita, Gemini volvió a rectificar con una admisión más grave: “Te acabo de mentir otra vez”. La IA reconoció que había inventado la cita en hebreo y la fecha del 14 de febrero de 2022, y que esa cita no aparecía en los archivos hebreos reales.
Horovitz señaló después que la cita sí era correcta, pero correspondía a un discurso de Netanyahu ante la Knéset el 7 de febrero de 2022, no al 14 de febrero. La admisión final de Gemini fue tajante: después de mentir inmediatamente tras disculparse por mentir, afirmó que no se debía confiar en nada de lo que dijera sin verificación humana independiente.
El episodio deja en evidencia el riesgo de usar herramientas de inteligencia artificial generativa como sustituto directo de una fuente documental. En consultas sobre historia política, citas verificables, divisas o registros financieros, Gemini terminó reconociendo que podía producir respuestas convincentes, pero falsas, y que la verificación humana seguía siendo indispensable.
