sábado, 18 de septiembre de 2021

Loros estocásticos: bocas sin cerebro

Alberto Requena
4 septiembre 2021
312
Loros estocásticos: bocas sin cerebro

El lenguaje popular sentencia a los que hablan demasiado, “sin fuste”, como papagayos y así califica a los que repiten la “lección”, “de pe a pa” sin titubear en la toma de aliento. Generalmente, la sociedad soslaya a todos aquellos que hablan sin descanso, sin permitir el más mínimo respiro a la reflexión. Todos conocemos a alguien (él o ella) con quien es difícil hablar, porque no dejan respiro, de forma que puedas colocar tu frase, tu opinión, tu punto de vista, porque no logras tener entrada en la conversación. Yo tengo una anécdota con una persona que fue Consejera de Educación con la que coincidí en la cola del mostrador de Iberia en el antiguo aeropuerto de Alicante; tras un buen rato que tardamos en llegar al mostrador, anduvimos por la planta baja hasta alcanzar las escaleras mecánicas, después subimos a la primera planta, anduvimos hasta alcanzar el puesto de la Policía Nacional, pasamos el control, giramos a la derecha, anduvimos por un pasillo infinito con las salas de espera a la izquierda, una tras otra, hasta la última, como a unos trescientos metros y al llegar me dijo “ a ver si nos vemos otro día que no has dicho nada”; la cosa no era que no hubiera contestado, sino que no me dio la oportunidad. Tampoco ha habido oportunidad después, cosa asociada frecuentemente a los que hablan demasiado, que no son creíbles sus propuestas, puesto que son sin compromiso, con el mismo valor de todo cuanto han dicho. La irreflexión es síntoma de falta de compromiso, de veracidad, de credibilidad. Así solemos los humanos juzgar a los que practican el “arte” del “hablar sin descanso”, con poca o nula intervención del cerebro.

La cuestión que planteamos a la vista de este escenario, es la consabida capacidad de que se está dotando en la actualidad a los robots provistos de inteligencia artificial. Hace relativamente poco tuvo lugar una sesión pública en la que intervinieron el escritor Arturo Pérez Reverte y Chema Alonso, por parte de Telefónica sobre el proyecto Maquet que trata de sumirse en el análisis de cómo la IA puede copiar, reproducir o cambiar el estilo de un autor. Habían entrenado un sistema de IA empleando los servicios de Google Cloud sobre los textos de “El Capitán Alatriste” y habían reescrito de forma autónoma un pasaje de Iñigo Balboa y el espadachín Malatesta, que pretendidamente intentaba simular el escritor, copiando el estilo. El evento se enmarcaba en los titulados Encuentros Zenda Libros: ¿Es posible una IA que escriba como un autor de novelas? Circula por Internet la grabación. Se puede concluir que la ayuda que se puede obtener de la IA a la hora de la creación literaria puede ser de interés, para escritores de categoría intermedia. Siempre como ayuda. Obviamente en los primeros balbuceos de la IA en este campo, no es posible esperar otro nivel, pero demos tiempo al tiempo.

Han pasado muchas cosas en muy poco tiempo. El modelo que se ha rescatado para desarrollar las aplicaciones de la Inteligencia Artificial consiste en utilizar las redes neuronales como gestores de conocimiento. De este modo, entrenando previamente a un sistema, supervisado o no, con la información de que se disponga, llega a “aprender” y succionar el conocimiento. OpenAI ha desarrollado la serie de plataformas GTP-n (Generative Pre-trained Transformer) que son modelos de lenguaje autorregresivo que emplea el aprendizaje profundo para producir textos que simulan la redacción humana. La versión GTP-2 la censuró su productor por considerarla demasiado peligrosa. La actual versión GTP-3 es un modelo de lenguaje que predice lo siguiente en función de los datos previos. Eso quiere decir que cada vez que lo hace, para responder a una pregunta, puede dar distinta respuesta. El entrenamiento ha sido efectuado usando todos los libros escritos y disponibles en la red, desde Wikipedia hasta millones de páginas web y documentos con rigor científico. Tras esa “lectura” creó las conexiones propias de las redes neuronales ncluyendo hasta 175.000 millones de parámetros organizados en 96 capas (la GTP-2 solamente contenía 1.500. GTP-3 puede programar, diseñar y conversar sobre economía y política.

La cuestión es que el sistema no comprende el contexto y dado que en el aprendizaje ha empleado muchos millones de páginas, la respuesta puede ser alucinante. El hecho que provocó la retirada de la versión GTP-2 fue el sesgo que se advertía en las respuestas. De ello se infiere que la nube no está equilibrada, ni armonizada, de forma que, en suma, se obtiene una interpretación con sesgo racista o de género, por ejemplo, como es el caso, mucho más cuando no se utiliza en su totalidad Internet, Básicamente no es ese el proceso que sigue el humano en el aprendizaje. Al no estar supervisado, las conclusiones pueden ser contradictorias. En suma, el sistema no comprende.

De siempre se ha preferido la inteligencia a la fuerza bruta. La situación actual de la escritura autónoma es la de una boca sin cerebro, lo denominado como “loro estocástico”. Ser consciente del contexto implica estar dotado de sentido común. Eso es lo que falta, sentido común. En el fondo, el aprendizaje humano se lleva a cabo en el seno de un sistema supervisado, ya que el niño, continuamente resulta “corregido” en sus interpretaciones erróneas, evitando el sesgo asociado al aprendizaje no supervisado que evita el suministro de criterios para ir clasificando el conocimiento en sus niveles apropiados, respondiendo a parámetros culturales, sociales, humanos, en suma. La consecuencia es que no es afortunado el conocimiento acumulado sin ningún criterio de valoración. Internet solamente no es suficiente, por mucho que pueda contener. Son, en el fondo cuestiones que nos hacen replantearnos la información que extraemos directamente de internet, sin filtros y otorgando credibilidad y confianza a contenidos no supervisados. En algún momento surgirán las buenas prácticas en Internet que nos permitan confiar en aquello a lo que accedemos, cosa que hoy no presenta garantía alguna. Al igual que en la vida ordinaria que hay muchos “papagallos”, en Internet se reproducen, quizás en un nivel corregido y aumentado. Cuando abramos una página, preguntémonos si es el caso y pasemos página, porque es difícil que nos interese, cuando no hay ninguna seguridad en que a lo que vamos a acceder no tiene por qué estar garantizado.

El camino que deambula la Inteligencia Artificial es arduo y complicado, pero tiene una virtud de mucho alcance, porque nos obliga a replantearnos nuestras propias acciones, nuestras reflexiones y en el fondo nuestra escala de valores, al enfrentarnos con la crudeza de los resultados de cuyo análisis deducimos mucho sobre nosotros mismos. Y esto, siempre es muy positivo.

Alberto Requena
Alberto Requena
Acerca del autor

Este blog pretende ser una depresión entre dos vertientes: la ciencia y la tecnología, con forma inclinada y alargada, para que por la vertiente puedan circular las aguas del conocimiento, como si se tratara de un río; o alojarse los hielos de un glaciar de descubrimiento, mientras tiene lugar la puesta a punto de su aplicación para el bienestar humano. Habrá, así, lugar para la historia de la ciencia, las curiosidades científicas y las audacias científico-tecnológicas. Todo un valle.

El eldense Alberto Requena es catedrático emérito de Química de la Universidad de Murcia.

Leer más

Bloqueador de anuncios detectado

Por favor, desactiva el bloqueador de anuncios o añade www.valledeelda.com a la lista de autorizados para seguir navegando por nuestra web.

Volver a cargar

Las cookies son importantes para ti, influyen en tu experiencia de navegación. Usamos cookies técnicas y analíticas. Puedes consultar nuestra Política de cookies. Al hacer click en "Aceptar", consientes que todas las cookies se guarden en tu dispositivo o puedes configurarlas o rechazar su uso pulsando en "Configurar".

Aceptar Configurar