Teníamos prisa, y ahora, la velocidad está en contra.

Por Carlos Hernández Guerrero

Hace unos días, SS el Pala León XIV escribía en sus redes sociales, a unos meses de la publicación de su Encíclica Magnífica Humanitas, subtitulada como "Sobre la custodia de la persona huamana en el tiempo de la inteligencia artificial".

En esta era de la inteligencia artificial, es urgente distinguir el arte humano de lo que producen las máquinas. Existe una diferencia ontológica, incluso antes que estética, entre el arte y lo que una máquina puede generar mediante cálculos estadísticos a partir de millones de imágenes ajenas. A los algoritmos les falta la chispa de lo humano. Por eso, la Iglesia desea renovar la alianza con los artistas y las instituciones culturales: una alianza para custodiar lo humano.

Mi ejemplar adquirido en la librería de la carta Encíclica Magnifica humanitas

publicada por Ed. Buena Prensa

 Decir que es la "era de la inteligencia artificial" es hablar de una inmersión en la que han caído todas las sociedades del mundo para usar la tecnología en un afán por facilitar su hábito de entretenimiento, investigación y otras formas de obtener y procesar material audiovisual a una velocidad nunca antes vista.

Durante la presentación de la Encíclica, en primer plano Christopher Olah, cofundador de Anthropic, sobre la encíclica "Magnifica humanitas" del Papa León XIV.

De la misma manera, y reflexionando tambíén por esta sacudida a nivel intelectual, Mark Lambert nos dice:

Se trataba de lo que nos está sucediendo en un mundo cada vez más moldeado por algoritmos. “Vivimos en la era de los motores de búsqueda que nos ofrecen miles de respuestas instantáneas”, observó León.

Pero, obtener miles de respuestas no implican precisamente un modo de encaminarlas a obtener una solución a un problema o necesidad específica. Aún queda al individuo indagar sobre dichas respuestas y decidir, de acuerdo a su propio conocimiento y experiencia lo que tiene un valor mayor sobre otras para alcanzar un fin o satisfacer una simple curiosidad. En cuanto al arte, no sólo el Papa está consciente de la necesidad de apreciar lo que implica un valor profundo en la apreciación de lo humanamente bello, la chispa de lo humano que implica por consiguiente, la gran diferencia con los artificios desarrollados para el desarrollo de la realidad sensible con el toque del valor espiritual y que dignifica la vida.

En efecto, el mismo Lambert vuelve a reflexionar:

Por lo tanto, el Papa León describe el arte como otro tipo de “motor de búsqueda”, uno que “no procede por indexación sino por indagación”. Creo que esto se acerca mucho a una de las grandes preguntas de la era tecnológica. Nuestras máquinas se están volviendo asombrosamente buenas para responder preguntas. Los algoritmos son cada vez más capaces de anticipar lo que queremos leer, ver, oír y comprar antes de que formulemos conscientemente el deseo nosotros mismos. Sin embargo, precisamente porque aprenden nuestras preferencias tan efectivamente, también pueden construir un mundo en el que encontramos cada vez más de lo que ya sabemos que nos gusta.

El Papa identifica el peligro resultante no simplemente como censura, sino como “homogeneización”; no meramente silencio impuesto, sino la pura cantidad de ruido que eventualmente hace imposible una escucha genuina. El gran arte hace casi lo opuesto. Nos interrumpe. Nos ralentiza. Nos confronta con algo que no solicitamos y a veces con algo que no entendemos inmediatamente. Una Pasión de Bach, un Anunciación de Fra Angelico, la fachada oeste de Chartres o la Piedad de Miguel Ángel no responden meramente a una pregunta. Puede despertar preguntas que nunca habíamos pensado en hacer.

Para los que empleamos la tecnología para realizar múltiples procesos de datos con diversos propósitos como ciencia o negocios, los algoritmos facilitan de manera sorprendente la validación de un marco hipotético, sometiendo a múltiples fuentes y bases de datos con miles de registros y tipos de indicadores para que obtengamos en cuestión de minutos y segundos diversas respuestas. Por ejemplo, las bases de datos geográficas y una compleja relación entre diversas capas de información, eran motivo de análisis y escrutinio por días y semanas para comprobar una serie de teorías en materia de saguridad pública, salud, crecimiento y desarrollo territorial y urbano, entre muchas otras.

Combinando plataformas como QGis, R, Open AI y Python, los modelos (aunque inicialmente los procesamos intelectualmente) hemos colocado en las ventanas de una consola, cuyo prompt me recuerda mucho el famoso MSDOS de Microsoft antes de la incursión del sistema operativo Windows (mucho antes ya Macintosh había lanzado sus versiones de interfaz gráfica con el uso de un ratón).

Ejemplo de una ventana en R con scripts obtenidos con IA para realizar cálulos de aproximación en 

indicadores de seguridad pública en un entorno escolar.

En cuanto a un aspecto intangible, el arte se ha visto favorecido para los diseñadores y artistas, donde innumerables paquetes de software con algoritmos de IA pueden modificar y/o corregir y mejorar diversos archivos producto de la fotografía y calidad de imágenes o vídeos, así como la recreación de ciertas historias con reels y películas completas a partir de un guión.

 Sabiendo que la IA es sólo un gran motor que obedece a un algoritmo con diversos modelos de cálculos probabilísticos y una extensa base de conocimiento (de BigData a Huge Data), es preocupante el desmedido uso de grandes sectores de la sociedad para fines que deberían estar en un plano muy diferente. Por ejemplo, y lo digo porque he sido testigo, algunos jóvenes tratan de resolver en un "dialogo" con ChatGPT su mala suerte para encontrar una relación sentimental.

Lo mismo ocurre para hacer preguntas como "qué hay después de la muerte", pero tambíén cosas como "hazme un discurso con ideas para pedir aumento a mi jefe". Lo que antes era googlear y ya era preocupante, pues esta plataforma de consulta en la WEB poseía desde hace años algoritmos que aún persisten para localizar información y preparar un listado de sitios donde hacer consultas, ahora es un pompt o línea de comando desde donde personas tratan de resolver su vida.

Por otro lado, Christopher Olah, cofundador de Anthropic, durante su participación el 25 de mayo de 2026 en el Vaticano en la presentación de la encíclica del Papa León XIV, advirtió sobre los misterios de la inteligencia artificial y pidió voces morales independientes que no se dejen guiar solo por intereses comerciales.  Olah explicó que los sistemas de inteligencia artificial no se diseñan como un puente o un avión. Se cultivan sobre estructuras complejas, por lo que su comportamiento es impredecible y misterioso.

La parte donde se menciona como impredecibe, es en efecto el aspecto más preocupante de este tipo de desarrollo tecnológico. Cuando se inventaron los mecanismos de enriquecimiento de materiales radiativos, es decir, surge la energía y la era atómica, había muchas dudas sobre los fines y la debilidad humana para garantizar el uso no sólo rentable sino ético, sin fines bélicos, lo cual, apesar de las protestas de gente destacada como Einstein, hoy el mundo está sumergido en riesgos de que miles de artefactos atómicos sean empleados en los diversos conflictos alrededor del mundo.

Incluso, Olah mencionó que en las pruebas internas han encontrado indicios de estados que parecen reflejar alegría, miedo, dolor o inquietud dentro de los modelos, lo cual, según se sabe, el co fundador de Anthropic había solicitado antes que hacer cierto tipo de presiciones durante dicha presentación y esto puso en riesgo su asistencia, lo cual no ocurrió y se le permitió dar su opinión ante la prensa del mundo. En efecto, según el sitio InfoBae, el conflicto inicial fue que, tras leer un borrador de la encíclica Olah y su equipo en Anthropic evaluaron no asistir. El desacuerdo principal radicaba en que el documento del Vaticano negaba rotundamente que las máquinas pudieran tener experiencias, sentimientos o conciencia moral, mientras que Olah y sus colaboradores buscaban que se considerara la posibilidad de que modelos avanzados como Claude desarrollaran algún tipo de estado interno o consciencia.

Olah, menciona un punto interesante, luego de mencionar dos aspectos que son un vínculo importante con la misión de la Iglesia: el primero es el deber para con los pobres del mundo, el segundo es la necesidad de imaginación y ambición moral respecto al florecimiento humano: 

Si los modelos de IA se generalizan, ¿cómo será el florecimiento de los seres humanos, las familias y el mundo? Hoy en día, los padres ya se preocupan por la mente de sus hijos; las personas, por el futuro de su trabajo. Estas no son preguntas que un laboratorio pueda responder, pero son preguntas que tradiciones como la suya han planteado durante milenios, y necesitamos que continúen transmitiéndolas en este nuevo momento histórico.

El tercer punto 

es la necesidad de discernimiento sobre la naturaleza de los modelos de IA. Soy científico. Dirijo un equipo de investigación que estudia la estructura interna de estos modelos: qué sucede realmente en su interior. Y seré sincero: seguimos encontrando cosas misteriosas, incluso inquietantes. Encontramos estructuras que reflejan resultados de la neurociencia humana. Encontramos evidencia de introspección. Encontramos estados internos que reflejan funcionalmente la alegría, la satisfacción, el miedo, el dolor y la inquietud. No sé qué significa esto, pero creo que justifica un análisis continuo.

Esta última parte, es donde radica un fundamento de nuestra nueva realidad, un cuestionamiento sobre un nuevo paradigma de toda la historia de la conciencia humana. Al decir, "no sé que significa", no estamos colocando un mensaje irresponsable. La ciencia y la fe se están cruzando en un punto que antes sólo la folosofía se atrevía a incursionar, pues ahora, las máquinas son un espejo de la neurociencia y nos llevan al espacio que la imaginación antes lo llevaba al arte de la literatura: la ciencia ficción.

Los problemas del mundo son tan grandes y ancestrales: injusticia, hambre, guerra, contaminación, inseguridad...  ¿y nos preocupamos porque con los motores y en los algoritmos encontramos evidencia de intruspección?

Y repito, ¿estamos más preocupados por saber lo que implica que una máquina esté mostrando evidencia de introspección?

Yo digo que si, porque, se vale preguntarnos, si los problemas antes mencionados, que no han sido resueltos por la inteligencia natural, ahora podrían quedar en manos de la "inteligencia artificial" y quien sabe, ésta si sea más capaz de resolver lo que con todo y fe, y amor por la humanidad no fuimos capaces por nosotros mismos.

Sólo le pido a Dios que el dolor no me sea indiferente 

(extracto de la canción Sólo le pido a Dios del autor argentino León Gieco, 1978)

FIN

Carlos Hernández Guerrero

Consultor especialista en tecnologías de información, colabora en diversas firmas consultoras en estudios y análisis del territorio, con especialidad en comunicación y opinión pública, también coordina la gestión cultural de una asociación civil.

Contacto: charlydante@gmail.com

OpenAI, una visita al Ciberinfierno

Por Carlos Hdez. Guerrero

2023

Ya que está de moda el tema de la inteligencia artificial como otro modo de perder el tiempo frente a la computadora, debo reconocer que no me quedo fuera de esta revolución tecnológica pues me ganó la curiosidad. Aunque debo aclarar que no es algo nuevo para mí (no sé qué decir sobre perder el tiempo).

Desde mis épocas lejanas de estudiante en sistemas computacionales, estuve siempre entusiasmado por conocer y destripar todo lo relacionado con esta intención por automatizar procesos, entre los cuales, alcanzar niveles muy altos en la codificación de algoritmos complejos, al grado de "tentar a Dios", para varios de mis compañeros fue motivo de discusión, desde nuestras clases de redes neuronales, orientación a objetos, y estoy seguro en todos los rincones de las escuelas y universidades es también algo común en aulas y pasillos. El tema no sólo está en la educación tecnológica, sino incluso, en las humanísticas que derivan en debates sobre la ética que deberá regir sus “formas” de tratarnos como humanidad.

Estando todavía en mi corta edad de educación primaria, me topé en un supermercado una promoción para llevar a casa un dispositivo electrónico donde presumía un supuesto modo “fácil” de aprender y codificar, era la nueva era de la tecnología. Se trataba nada más y nada menos que de un Commodore64 que empleaba lenguaje Basic, una forma de crear código con instrucciones a las que les precedía un número de línea y por lo tanto, no se consideraba estructurado. Este equipo se podía conectar a un televisor que servía como pantalla de salida y era en verdad algo muy atractivo, por su nivel de innovación. Por supuesto no tenía idea de lo que se vendría en diez años.

Pues bien, en esta era de las redes sociales y las máquinas de aprendizaje, me encarrilé también en las páginas y plataformas donde se emplean diversos formatos de intercambio con los usuarios para “jugar” al “diálogo” hombre máquina. Por supuesto, la más común OpenAIChatGPT y en unos días Google nos pondrá al servicio de todos nosotros su plataforma de inteligencia artificial, que no sabemos si será una versión mejorada de LAmDA, si, la que normalmente “conversamos” cunado le decimos “Ok Google”, o bien, otras como Alexa, siendo estas sólo algoritmos para la búsqueda de información a través de ciertas formas de interpretación de lo que se les pide, descifrando frases comunes del lenguaje.

En cuanto a mi experiencia con OpenAIChatGPT, perdí muy pronto el asombro que me causó durante las primeras “conversaciones”, porque me enfrasqué más en luchar contra mi propio interés por encontrar formas de hacer caer en ciertas contradicciones a una máquina “pensante”. Me di cuenta de lo bien orientado que está su mecanismo algorítmico para colocar frases derivadas de un gran “repositorio de conocimiento”. Pues sí, ese repositorio se logra gracias a gente curiosa como yo, que con diversas expresiones, preguntas y palabras le estamos “enseñando”, producto de las trampas ingeniosas de sus creadores. Es quizás esta forma de atraparnos en sus pantallas, donde los creadores de estos programas se convierten en perfectos vendedores, atrapa sueños, y nosotros, consumidores, donantes permanentes de información, hábitos y preferencias.

Hace unos días, mientras me permití pasar tiempo leyendo en una biblioteca pública, la bibliotecaria realizaba un ejercicio con sus usuarios para ejercitar la creatividad literaria, estaban tratando el tema de la aliteración como recurso del escritor, y que se puede clasificar como un juego de sonidos para pronunciar frases y palabras. Entonces, reflexioné y pronto activé mi cuenta de ChatGPT para “pedirle amablemente” que me generara una aliteración con la letra R. Fue muy curioso lo que siguió después, porque luego de esperar varios minutos, el programa comenzó a experimentar una demanda importante que no pudo resolver mi petición. Volví a solicitarla ahora con otra letra. El programa solo puso “Lola”, pero se detuvo. Insistí con la Letra R. El programa contestó “Roberto”, y se detuvo nuevamente.

ChatGPT no era capaz de generar la frase completa, y aunque pudo haber sido producto de una sobredemanda de sus recursos (hay más de un millón de usuarios al mismo tiempo), me puse a reflexionar si dentro de sus algoritmos, por muy completos y complejos que puedan ser, hasta ese momento aún no contaba con conocimiento suficiente para tratar un tema como éste.

Me metí al chat de usuarios para consultarlos, saber si antes esta plataforma ya había resuelto cuestionamientos semejantes. Nadie respondió, y algunos sólo comentaron que, sin duda, el algoritmo ya contaba con esa capacidad, pero no tardaría nada en mejorarlo si se le dieran las instrucciones correctas. Así que recurrí al “sujeto” en cuestión y le pregunté: “¿desde cuando generas frases con aliteración en español?”, y la condenada máquina contesta “Como modelo de lenguaje generativo por OpenAI, puedo generar frases con aliteración en español desde el momento en que fui trastorno, que fue con textos en español hasta septiembre de 2021. Sin embargo, mi capacidad para generar aliteración es una función de mi entrenamiento y no se limita a una fecha específica oa un período de tiempo en particular. Estoy diseñado para aprender continuamente y mejorar mi capacidad para generar texto coherente y significativo en varios idiomas, incluido el español.”

En seguida, y movido por mi intensa curiosidad, le pedí nuevamente la construcción de una aliteración con diversas letras, y así por fin, estas aparecieron:

Claro, aquí tienes una frase con aliteración de la letra "r":

"Roberto ronda la rosa roja en el jardín radiante de la mañana"

Aquí tienes una frase con aliteración de la letra "t":

"Tomás toma un trago de té mientras tantea las trufas de chocolate en la tarde."

Aquí tienes una frase con aliteración de la letra "l":

"Laura lleva un lazo largo y lechoso en su vestido lila".

Ya entrado en conversación, me di cuenta que el “translate” de la página de OpenAI tiene un problema, pues la palabra que usó fue “trastorno” para describir su lenguaje, así que le hice la aclaración:

Creo entonces que el haber usado la palabra "trastorno" para describir tu modelo de lenguaje no es apropiado o no está bien convertido. Tú no usas un "lenguaje alterado", sino lenguaje alterado generativo o incluso reversivo.

Y la máquina del demonio contesta:

Estoy de acuerdo contigo, el término "trastorno del lenguaje" no es apropiado para describir un modelo de lenguaje como yo. Un modelo de lenguaje generativo o reversivo sería una descripción más adecuada. Gracias por señalar esto, es importante tener en cuenta que las palabras tienen connotaciones específicas y pueden tener un impacto en la percepción de las personas.

En fin, me sentí bien haberle dado un conocimiento del tamaño de un protón a esta máquina del infierno, una aportación al universo depositado en “la nube”, en el hiper espacio que nos envuelve y nos tienta, como el mismo demonio.

FIN.

Notas finales. Al respecto, hace mucho tiempo, cuando pensé que esto de escribir podría ser una buena y cotidiana actividad para mi, y atendiendo a mis talleres de escritura creativa a los que acudía, me atreví a crear una pequeña obra empleando la aliteración a la que titulé Sinfonía de la palabra, y llegué a completar pequeñas historias absurdas, algunas de las cuales se publicaron en el Periódico El HEraldo de León. No estoy seguro si ChatGPT pudiera darme algunas sugerencias:

Andante en D

(CHG, 2011)

Dédalo decidió que Dios era discreto jugando dados con sus datos, desde que distinguió sus distintas facetas de creador dominante, y dado que desechaba teorías doradas de otras deidades, daría alas de su dorso por dispersar ideas que debían parecer derrotas de gente equivocada, sin despreciar dedos que forman domos dobles en cuadros disléxicos que son dádivas de sus dotes artísticos. Dormido, aun delegando deseos diáfanos, declara que el demente Dionisio en deuda con el demonio por un debate sobre el deber, quedó demorado y dividido por sus difamaciones. Su rostro demacrado le dijo que demandaba mayores dedicaciones, maldijo sus dudas decadentes no educadas, y desabrigado de sus descuidos indefendibles,  dispuso sobre dunas de arena emprender el vuelo directo a su desconocido destino.