Menachem Goldberg se presentaba en redes sociales como un rabino haredí con experiencia y compartía mensajes sobre prosperidad, crecimiento espiritual y realización personal. Su presencia en Instagram y TikTok se extendió mediante videos que parecían mostrar a una persona real. Una investigación publicada este mes, sin embargo, descubrió que el supuesto maestro religioso era un personaje creado íntegramente con inteligencia artificial.
El personaje aparecía cada mañana ante un fondo que recordaba a una sinagoga de Nueva York. Tanto su vestimenta y aspecto haredí como la voz, la expresión oral y los movimientos de su cuerpo procedían de un sistema digital. Las publicaciones no se limitaban a difundir consejos: también servían para ofrecer libros y paquetes de contenido inspirador. Los productos promocionados costaban entre $19,99 y $24,99.
Los mensajes se caracterizaban por sus fórmulas generales y por ideas de aplicación universal, sin referencias concretas a rabinos, obras o fuentes tradicionales. En los videos también aparecían indicios de que las escenas no eran auténticas. Se veía un rollo de la Torá abierto y colocado de lado, de una manera contraria a la ley judía, junto con arcas sagradas que mostraban inscripciones desconocidas y textos hebreos incorrectos.
La exposición de la identidad artificial tuvo consecuencias distintas en las dos plataformas. La cantidad de seguidores de Goldberg disminuyó considerablemente en TikTok después de que se conociera el caso, mientras que su popularidad continuó en aumento en Instagram. Algunos usuarios defendieron el valor personal de los consejos, incluso después de saber que no procedían de un ser humano.
La controversia llevó a pronunciarse al rabino Yuval Cherlow, director del Centro de Ética de la organización rabínica Tzohar, y al rabino Yaron Moshkovitz, director del Instituto de Investigación de Inteligencia Artificial. Ambos sostuvieron que las capacidades de esta tecnología no le confieren identidad personal ni autoridad religiosa. “La tecnología tiene un gran poder, pero no tiene identidad, responsabilidad ni autoridad. La inteligencia artificial no es un rabino y no puede servir como fuente de normas halájicas ni de orientación moral obligatoria para las personas”, afirmaron.
Cherlow y Moshkovitz destacaron que las decisiones sobre la ley judía y las cuestiones morales requieren criterio humano, responsabilidad personal y comprensión de circunstancias complejas. A su juicio, presentar un sistema informático como si fuese una autoridad rabínica, por convincente que parezca, confunde una distinción necesaria y perjudica la confianza pública.
El Centro de Ética Tzohar, que cuenta con un instituto de investigación dedicado a la inteligencia artificial, reconoce aplicaciones útiles de estos sistemas para estudiar, facilitar el acceso al conocimiento y producir contenidos. Su posición, no obstante, es que ninguna de esas funciones puede reemplazar a las personas cuando se exige responsabilidad moral, fiabilidad o autoridad. La organización subrayó que, en materias educativas, éticas y halájicas, la identidad de quien transmite el mensaje forma parte de la confianza que este merece.
El centro también advirtió del riesgo de que desaparezca la distinción entre una persona y una máquina. Rechazó que un sistema digital ocupe el lugar de un ser humano en la atención de la salud mental, las decisiones halájicas o cualquier otro ámbito. Su conclusión fue que la inteligencia artificial debe desarrollarse junto a las personas y no sustituirlas.
