¡Se vienen los pitufos! Desconozco los modelos de los que se valen los psicólogos, pero ya está bien de que los documentos de los que nos valgamos los informáticos dentro del machine learning no puedan tener o echar puentes con la psicología. De hecho, me parece cuanto menos sospechoso. Así que este pequeño ensayo de mentirijilla (porque no pondré referencias) puede que sirva de puente, o de ejemplo de qué es lo que me habría gustado ver dentro de lo que se publica.
Hace tiempo me puse a hablar con un compañero de curso del paro, era en el curso de formador de formadores. Aprovechamos un descanso para frivolizar sobre el mundo de las drogas: sosteníamos una conversación paródica sobre lo fácil que es vender drogas. Creo que lo que sosteníamos en nuestra conversación común era que resultaba fácil enganchar a uno dándole droga gratis y luego empezar a vendérsela a un precio mayor.
Entonces, resultó que esa conversación la escuchó otro compañero que se tomaba muy en serio esos temas, en plan Escohotado..., fuera de lugar. Se didirigió a nosotros y quiso involucrarse en la conversación dándole un tono serio, contradiciendo nuestra frivolidad..., lo cual mató la conversación, provocó un silencio continuado. Para cuando nos dejó a solas volvimos con la conversación original frivolizando y comentando cosas.
Esta imagen fue expuesta por ese compañero ante el resto de la clase, quizá a modo de denuncia. Tuvimos la suerte de que los tres éramos varones, blancos y heteros, no había forma de asociar ninguna rareza a ese acto discriminatorio - o eso creo. Consideró interesante exponer que se dio cuenta de que la conversación había seguido sin estar él delante, y eso tenía pinta de ser un acto de odio.
Bueno..., ahora es cuando viene la aclaración - y esta aclaración tiene mucho que ver con lo que estamos viviendo con los transformers, la ética en el diálogo, lo políticamente correcto, etc... Y es lo que debería de incorporarse, de alguna manera, a los ensayos sobre protocolos que se usan para entrenar a los LLMs.
De los dos acusados, yo cogí la batuta y agradecí el tema al compañero ya que, no hay que olvidarlo, estábamos en clase de formador de formadores - y al profesor también le pareció interesante desarrollar la propuesta. Lo primero que hice fue preguntarle cómo es posible que un área tan extensa, seria y compleja como es la psicología no la haya podido usar para estudiar el comportamiento de ambas conversaciones y determinar así la malicia o no de sus miembros. Es decir, quise poner de manifiesto que debía de existir alguna clase de síndrome en psicología que explique lo que había pasado - a mí se me ocurrió llamarlo el síndrome de pitufo filósofo.
En su momento le expliqué que era normal que cuando hay un grupo de personas frivolizando sobre un tema y alguien aparece recriminando con seriedad lo que se dice el hecho de tener razón no le permite fomentar la creatividad en la conversación - la conversación no sale victoriosa. Cuando alguien se introduce y le pone seriedad a un entorno paródico esa persona se queda fuera de lugar.
Quizá el ejemplo que pude dar entonces fue el de un grupo de amigos que se han juntado para ver parodias de mafiosos. Y entonces es cuando se cuela una escena de Marlon Brandon que, sí, está muy bien, pero el entorno no es ese. Genera una sensación de ruptura, no hay forma de salir de ahí.
Yo mismo he querido experimentar con youtubers y DJ's, para ver hasta qué punto mis pesquisas sobre el cambio de modo son un error - hasta qué punto un buen influencer es capaz de amoldar lo frívolo para introducir temas serios. Y puedo decir que ese arte es de un nivel de complejidad que se sale de la gráfica. Así que no lo veremos, de antemano, en ningún LLM.
Sin embargo en mi discurso soy muy dado a explicar las limitaciones de mi propia postura y a tocar temas pasados. Entonces, tras demandarme el profesor un ejemplo más claro, expuse algo que me pasó hace años:
Mis primos y yo íbamos al derbi futbolero que enfrentaba Cartagena contra Murcia. Había mucha tensión debido a que siempre era posible encontrar entre los seguidores a gente que se pone especialmente violenta, hasta el punto de ser altamente peligrosa y en masa. Así que nos pusimos a frivolizar sobre lo estúpida que es esa gente.
Fue el caso que cuando tratas con adolescentes en ocasiones no saben dónde ponerle freno a tanta frivolidad, y el corpus del que nos valemos se confunde: hay confusión en los términos que se usan y se mezclan conceptos. Tan pronto como frivolizábamos de los fanáticos uno dijo "si es que los murcianos son idiotas", y lo dijo en el umbral de la puerta, donde estaban los policías vigilando. Es bien sabido que los policías que suelen vigilar en el estadio cartagenero se dice o se sabe que son de Murcia, así que uno de ellos saltó: "oye, un poco de respeto". Era una señal de atención ante tanta frivolidad. Un mensaje que le cortó el royo a quien dijo lo que no debía, al que confundió términos; que permitió que la conversación continuara más allá del umbral de la puerta justificando el comentario del policía. Digamos que esa señal de atención no corresponde con el síndrome que tuvo mi compañero de clase.
Efectivamente, en un momento dado alguien cree que debe frenar una serie de comentarios que mezclan churras con meninas. Así, pone ese pivote, que es una señal de aviso. Al reconocer esa señal los integrantes pueden descubrir en esa señal una manera de continuar con la conversación, con la precisión de las palabras. Sin embargo, es también posible que alguien diga verdades como templos que a nadie le importe, y es entonces cuando pareciendo que pretendía poner referencias o límites en realidad lo que hacía realmente era contarnos su puñetera vida.
Quizá sea el mismo efecto que producen mis entradas en este blog: muchos lo leerán y pensarán que no tiene valor alguno. Entonces se quedarán conque solo cuento mi vida, que yo tengo ese síndrome que comento ahora. Un LLM no tiene vida personal desarrollada como agente dentro de una red social, aunque se podría hacer. En la medida de que ese bot se desarrolle y sea capaz de crear entradas que inciten la participación estará desarrollando el corpus de manera victoriosa. Pero si introduce muchas entradas que no van a ninguna parte valiéndose de poner referencias políticamente correctas lo que veremos será a un pitufo filósofo.
Algo así como lo que le ha pasado a la ministra de Podemos..., aunque en dictaduras institucionalistas como la española si un político no progresa no es por lo que defiende sino por quienes le apoyan. Si la red social del parlamento fuera relevante podría usarse para conformar un corpus que necesiten las máquinas para discriminar a los pitufos filósofos..., sin embargo, como nadie se cree que haya democracias, no veremos ningún estudio informático o filológico o psicológico que base sus modelos en cómo se habla en los parlamentos estatales.
Las redes sociales son menos demagógicas. Lo cual debería de ser preocupante.
No hay comentarios:
Publicar un comentario