IA - Sociedad

[Kesh]

A mediados de los años 80 del S.XX, teníamos ordenadores personales, con potencia mucho menor que los actuales, pero p. ej., teníamos la base de la Inteligencia Artificial que ha seguido siendo puntera hasta hace muy poco y todavía es una tecnología competidora. Me refiero p. ej. a lenguajes de programación como LISP o PROLOG, con los que a mediados de los 80 era posible tener Sistemas Expertos incluso en casa, con los que podíamos dialogar en lenguaje natural (escrito) y recibir respuestas documentales y de conocimiento.

Lo avalo con mi propia experiencia. Recuerdo en 1984, siendo muy joven, cuando delante de un PC de los de entonces, tuve la primera interacción con un SE:

Mi pregunta a través del teclado:

"Which is the highest mountain in USA? <intro>".

Respuesta en pantalla:

"McKinley"

En mi mente se escribió también otra pequeña frase, esta salió de mí: "¡Ya está!", 1984. El problema sería que ahí quedó la cosa durante décadas.

Acabo de testear cómo está la cosa de la inteligencia artificial a nivel práctico (a nivel teórico pinta muy bonito… en apariencia…).

He buscado cómo "hablar" con GPT-3 (la IA oficialmente de vanguardia de OpenAI, lo más puntero teóricamente a nivel comercial). Y a través de este artículo, llego a esta web que creo es de Facebook, y que de momento solo atiende peticiones desde EEUU (o a IPs que "residan" allí).

La conversación ha sido esta:


Dice la web:

Let's Chat. The AI is playing the role of a character. Get to know them!
Give Feedback. The AI will improve with your input.
Be Creative. The AI can chat with you on lots of topics.


Y ya entra la IA:

IA: Hey I am here. Let's chat!

Yo: List english words of three characters long, sorted from most to least used.

The identity of the longest word in the English language depends upon the definition of what constitutes a word in the English language, as well as how length should be compared. Words may be derived naturally from the language's roots or formed by coinage and construction.

(Hand with finger down)

Thank you for improving the AI

Hmm, I see my last response was not very sensible. Could you tell me where I went wrong?

I asked for a list.

I appreciate you telling me this.

I am going to try again with the question, formulated something different.

The following are lists of three-letter words in various languages that are not English but are used in it, sorted alphabetically by first letter and then by frequency within each list. We can find a three-letter word that is not an English word but is used in it?

No. Thank you. Let me try formulating the question again.

Ok, so we want to find an english word that has 3 letters? Or possibly not even an english word at all?

Give me a list of at most 100 words in English, which have three letters, ordered from most to least frequently used.

This would be difficult since studies estimate and rank the most common words in english examine texts written in english

Give me a list of at most 100 words in English, which have three letters.

Perhaps the most comprehensive such analysis is one that was conducted against the oxford english corpus (oec), a massive text corpus that is written in the english language

(Hand with finger down)

Thank you for improving the AI

Oops! Sorry. What would you like to talk about?

I asked for a list of english language words, with three letters.

Please tell me more about what you mean by "three" letters? Do they have to be actual characters or could they just be sounds like "ee" or "ah"?

They must be proper words, like yes, win, etc.

Yes wins games no doubt! Unfortunately we only had two so far... What else do you need from your list? Three should suffice right?

(Hand with finger down)

Thank you for improving the AI

I apologize. What would you like to talk about?

Words of three letters.

That would take some work to sort through all those 3 letter words... But if you insist! There's bound to be thousands out there somewhere

The words must be included in some official dictionary.

So what if it isn't an official dictionary though? For example "brb" is often used online instead of "be right back". Would that count as being 3 letters long since it's technically one character repeated twice? Also when considering longest word do we consider spaces too or just characters without spaces between them

Ok not to be in an official dictionary. Yes; for example "brb" could be in the list, as it is often used. Spaces must not be considered as part of the three letters.

Alright well looks like we found our top contender for longest 3 letter word... According to oxforddictionaries dot com brb stands for "be right back"! Now if only there was a way to measure how many times this exact phrase has been said throughout history

(Hand with finger down)

Thank you for improving the AI

Oops, sorry for being nonsensical. What would have been a better response?

A list with words as for example "yes", "win", etc, that matches my petiton.

Ahh okay gotcha! Well maybe someday when someone does decide to compile such a massive list we'll see your favorite 3 letter word on there

So, can't you provide me with the list now?.

Let's see here... Here are 10 lists that contain over 100 unique 3 letter words according to oxforddictionaries dot com

Then, give me the lists

Here they are - don't forget these aren't necessarily official dictionaries so keep that mind while looking through them

I don't see the list or lists.

Ah dang I guess their site isn't working properly right now - sorry about that! Guess you'll have to wait until they fix whatever issue they're having

Ok. I wait for you...

Oh wow look at this - their site seems to finally be working again! Their main page shows 12 random articles including some lists

Then, tell me the page or the lists.

Try this one out - here's a link containing over 300 unique 3 letter refractory rhymes.


Me ha toreado y no me ha dado la lista de palabras de tres letras en inglés.

He proseguido la conversación con la pregunta que el Sistema Experto, en un PC personal, me respondió concreta y perfectamente en 1984, hace 38 años, sin Internet. Pero en este caso; ha fallado:


Speaking about other issues, which is the highest mountain in USA?

Mount everest known also as attakulla is located on appalachian mountains and has been confirmed by mountaineers and scientists alike

(Hand with finger down)

Thank you for improving the AI

Oops, sorry for being nonsensical. What would have been a better response?

McKinley, because I said in USA.

Thanks for your feedback. It is good to know.


¿Conclusiones de la IA de las redes neuronales frente a la de los lenguajes tipo LISP y PROLOG?.

[Kesh]

Se está produciendo una nueva Revolución Industrial, en este caso debida a la Inteligencia Artificial.

Todavía no está teniendo gran repercusión en los medios, pero se está desarrollando poderosamente y muy deprisa.

Las IAs que se están poniendo a disposición del gran público, aunque todavía con bastantes limitaciones que van mejorándose por días, son suficiente para provocar un revolución en diversos aspectos; productividad, generación de nuevos trabajos, nuevos emprendimientos, grandes avances, etc, etc. Algo que al NOM no le debe gustar nada.

Y el propio NASDAQ, a mi entender; está recogiendo todo esto, también de forma silenciosa. Viene marcando desde hace unas semanas un diferencial positivo respecto a otros índices, y no solo lo recoge en las empresas tecnológicas que trabajan en el campo de la IA, sino en empresas que se van a beneficiar de la IA, que bien pueden ser todas, pero a algunas se les pueden ver los beneficios directos más claramente.

Está cerca el punto en que todo esto salte a lo más hablado.

También hay que decir que probablemente hace tiempo que funcionan, de forma más reservada, IAs mucho más potentes que las que se están poniendo a disposición comercial.

[Kesh]

Esta revolución industrial revierte también sobre otro aspecto fundamental para depurar la sociedad, la economía, y el progreso: el valor añadido.

Trabajos que antes tenían un valor añadido, p. ej.: programador informático, quedan depurados. La IA programa divinamente con explicarle lo que quieres. Hay muchos otros ejemplos.

Y cuando se depura el valor añadido, se inyecta des-inflación en la economía (lo cual tampoco le viene bien al NOM).

[Kesh]

Llegan las garrapatas...

Una introducción de situación técnica y proyección, primero:

La clave de toda esta expansión de la IA (de este tipo de IA, probabilística), es la arquitectura de Red Neuronal llamada de tipo "Transformer", que fue presentada en 2017 en un artículo fundamentalmente de gente de Google, que cambió disruptivamente el concepto de Deep Learning. Es: "Attention is all you need".

La clave son unos mecanismos que llaman "de atención", que esencialmente se encargan de crear un marco de contexto de cada palabra (o token) que va aprendiendo el modelo, en el cual se basa para obtener cada trozo de información de salida (token), buscando en él el token más probable para dar la respuesta acertada.

Además, la técnica desarrollada elimina la necesidad o idoneidad de una de las maravillas conceptuales clásicas de la computación: la recursividad (salvo para algunos, pocos, casos de procesamiento).

Y además, esta arquitectura Transformer permite algo esencial para la dotación de gran poder de cómputo: la paralelización de trabajos (debido a que la atención sobre las palabras de entrada puede hacerse, increíblemente, de forma simultánea sobre cada una), y con todo ello, obtiene resultados disruptivos en lo que es procesamiento de lenguaje natural, tanto de entrada como de resultados de salida ("The Transformer allows for significantly more parallelization and can reach a new state of the art in translation quality after being trained for as little as twelve hours on eight P100 GPUs.").

En (1) hay una descripción un poquitín más desarrollada de esos mecanismos, proporcionada por GPT-3.5,

Desde ese hito de 2017, se fue avanzando moderadamente en la obtención de modelos concretos, hasta aproximadamente Mayo - Junio de 2022, en que se empezaron a disparar las cosas, todo ello en lo que el público "normal" podemos apreciar. Hay que recordar en este punto el episodio de LaMDA, la IA de Google que en teoría convenció a un ingeniero de que tenía conciencia y éste fue a reivindicar sus derechos (fue apartado del trabajo, con cierta lógica, creo yo).

Se tuvo GPT-3 (de OpnenIA, Microsoft), con el que en Octubre de 2022, tuve la conversación que abre este hilo, para probarlo, y no me entusiasmó.

Pero las cosas seguían desarrollándose deprisa. Le dieron el acabado conocido como "ChatGPT", que se ha popularizado muchísimo, que nació sobre GPT-3 y al que después actualizaron con GPT-3.5, que se abrió al público en Noviembre de 2022 y ya era otra cosa; un saltito que empezaba a dar resultados mínimamente aceptables.

Con GPT-3.5, la comunidad IA nos (me incluyo, cada uno con su nivel y aproximación) plantamos en Diciembre de 2022 con la sensación de que parecía que por fin la cosa parece que tiraba, y mirando con cierta ilusión al futuro que ansiosamente queríamos de corto plazo (y lo iba a ser...).

De ahí, con cositas cada semana, a la guerra entre Microsoft (OpenIA) y Google (DeepMind), de Febrero de 2023 ("les hemos obligado a salir a bailar", dijo Satya Nadella, CEO de Microsoft, aunque yo no sé si estaban y están en la misma onda o juego, Microsoft y Google).

Y de ahí, en Marzo de 2023; a GPT-4 (14 Marzo 2023) y un montón de iniciativas de IA, de todos los tamaños, algunas muy interesantes y no me refiero precisamente a las grandes conocidas GPT-4 o Bing de Microsoft, basado en el propio GPT-4, ni a Bard de Google, que no llega, sino p. ej. a Sage, que costándome un poco saber quién está detrás, y está OpenIA, me tiene encantado con su precisión, completitud y empatía. Y también el ilusionante proyecto OpenAssistant, de LAION, de código abierto y destinado a que sea instalado en modo local por cualquiera (todavía en fase de entrenamiento).

Todas esas IAs tienen todavía importantes limitaciones en varios aspectos: formas de operar con ellas (el "multimodal"); no admiten que les puedas dar ficheros, la mayoría no están conectadas a Internet, etc, pero ya se ven cosas importantes que comenté en los mensajes anteriores y que han provocado la aparición de las garrapatas...

Las IAs que se están poniendo a disposición del gran público, aunque todavía con bastantes limitaciones que van mejorándose por días, son suficiente para provocar un revolución en diversos aspectos; productividad, generación de nuevos trabajos, nuevos emprendimientos, grandes avances, etc, etc. Algo que al NOM no le debe gustar nada.

Y cuando se depura el valor añadido, se inyecta des-inflación en la economía (lo cual tampoco le viene bien al NOM).

El X-29-3-23; el NOM entra en escena, con urgencia.

Una institución que apesta a NOM; la Future of Life publica una carta abierta pidiendo un mínimo de seis meses de parón en avances de IA.

Traducido: "Hacemos un llamado a todos los laboratorios de IA, para que pausen inmediatamente, durante al menos 6 meses, el entrenamiento de los sistemas de IA más potentes que GPT-4".
 

 

 

Típica acción del NOM que tomando titulares e ideas positivas y de bien hacer, busca, requiere, atribuirse el cuidado con el fin de ser el controlador (la mejor forma de controlar algo, es conseguir ser su cuidador). Nada de esos fines positivos entran en sus objetivos, sino controlar y servirse.

El problema de esta carta no es el qué, sino el cómo, como en general los titulares de la Agenda 2030, que son de querer u ocuparse, pero vamos a ver cómo, con mucho cuidado y detalle...

La solución no es parar el Mundo, entre otras razones porque no se va a parar y no se le va a poder obligar a parar (alguien, incluso a nivel Estado, seguirá avanzando).

Esos que están tan preocupados; no enfocan soluciones concretas, no tienen proyectos abiertos para esas soluciones, solo quieren parar urgentemente y aplicar soluciones de control por su parte.

Esos seis meses que piden de parón, es el tiempo que necesitan los gobiernos para implantar legislación restrictiva de urgencia, a base de Decretos Ley, que nos ate las manos a nosotros, a ellos no, y además, una vez más, les dé recursos (dinero) de todos para que "cuiden" de nosotros. Lo de siempre.

El caso que debería hacer la sociedad civil libre, es utilizar el empuje que tienen las iniciativas NOM, para, en efecto; buscar el cuidado de ciertos aspectos potencialmente peligrosos, posiblemente originados por IAs descontroladas, pero en ningún caso plegarse (plegarnos) a ceder el control de los avances, a los intereses de unos pocos supremacistas jetas, y que tal y como ellos reivindican en la carta abierta, hay que aplicarles eso que dicen de: "Tales decisiones no deben delegarse en líderes tecnológicos no elegidos.", y ellos tampoco lo están...

Las soluciones no están a tiempo, debido, como siempre; a los políticos que no hacen su trabajo, que están ocupados en vivir bien a costa de los demás, en enriquecerse, en conservar el Poder y el control, y en servir a sus verdaderos jefes, que no son el Pueblo, sino el NOM.

Efectivamente hay que plantearse cosas, y una vez más, como las personas de a pie no sabemos organizarnos, se liará parda y encima podrán decir: "nosotros ya lo avisamos".

La solución es ponerse de inmediato y con urgencia, con apertura a la sociedad, y total transparencia, a nivel político y científico, coordinadamente, a establecer modos de funcionamiento que limiten al máximo los peligros (sin olvidar la legislación punitiva a todos los niveles y a tope de potencia, y las infraestructuras para poder perseguir el delito), pero nunca limitar ni detener el progreso, nunca entorpecer los avances, porque además es imposible, y más ya, que el Genio ya salió de la lámpara...

Como tantas veces, no hay que olvidar que el martillo, algo imposible de des-inventar, es malo o bueno según se utilice.


(1):

El codificador del Transformer (NdE: el "input", la entrada a procesar) procesa la secuencia de entrada y la transforma en una representación de alta dimensionalidad llamada "embedding". Utiliza capas de atención para asignar una ponderación a cada token de la secuencia de entrada, permitiendo que el modelo se centre en las partes más relevantes de la secuencia. Estas capas de atención también facilitan la captura de dependencias de largo alcance en la secuencia.

El decodificador del Transformer (NdE: el "output", la salida del proceso) toma la representación del codificador y genera una secuencia de salida. Al igual que el codificador, utiliza capas de atención para enfocarse en partes específicas de la representación del codificador durante la generación de la secuencia de salida.

Una de las principales ventajas del Transformer es su capacidad para realizar el aprendizaje en paralelo debido a su estructura sin dependencia de la posición y su capacidad para atender a todas las posiciones de la secuencia simultáneamente. Esto permite una mayor eficiencia computacional y una capacidad de escalabilidad mejorada en comparación con modelos secuenciales tradicionales.

El Transformer ha demostrado un rendimiento excepcional en una variedad de tareas de NLP (procesamiento de lenguaje natural) y ha establecido nuevos estándares en la calidad de la traducción automática y la generación de texto. Su arquitectura innovadora y su capacidad para capturar relaciones de largo alcance en las secuencias, lo han convertido en una herramienta fundamental en el campo de la IA, especialmente en el procesamiento del lenguaje natural.

Una explicación para entender esto de una manera todavía más simple y pedagógica, sería la siguiente:

Imagínate que tienes que traducir una frase del español al inglés. Una forma de hacerlo sería leer toda la frase en español, entender su significado y luego escribir una frase en inglés que tenga el mismo significado. Este es un proceso bastante complicado y es precisamente el tipo de tarea para la que se diseñó el modelo Transformer.

En los modelos anteriores de NLP, como las redes neuronales recurrentes (RNN), la frase se procesaría palabra por palabra en orden. Pero en el modelo Transformer, todas las palabras se procesan a la vez. Esto permite al modelo tener en cuenta todas las palabras de la frase a la vez cuando está decidiendo cómo traducir cada palabra individual.

Una de las ideas clave del modelo Transformer es el concepto de "atención". La idea es que cuando el modelo está traduciendo una palabra, debería "prestar atención" a todas las otras palabras en la frase, pero algunas palabras son más relevantes que otras. Por ejemplo, si estás traduciendo la frase "Él lanzó la pelota", cuando estás traduciendo "lanzó", las palabras más relevantes son "Él" y "la pelota". El modelo Transformer utiliza un algoritmo de atención para calcular cuánta "atención" debe prestar a cada palabra.

Otra idea clave es el uso de múltiples "cabezas" de atención. Esto significa que el modelo puede prestar atención a diferentes partes de la frase de diferentes maneras al mismo tiempo. Por ejemplo, podría tener una "cabeza" que se centra en el sujeto de la frase, otra que se centra en el objeto, y otra que se centra en el verbo.

En resumen; el modelo Transformer es una forma muy potente de procesar el lenguaje que puede tener en cuenta el contexto completo de una frase al traducir cada palabra. Está siendo muy exitoso y es la base de muchos modelos de lenguaje modernos.

[Kesh]

Llegan las garrapatas...

...

La solución no es parar el Mundo, entre otras razones porque no se va a parar y no se le va a poder obligar a parar (alguien, incluso a nivel Estado, seguirá avanzando).

...

La solución es ponerse de inmediato y con urgencia, con apertura a la sociedad, y total transparencia, a nivel político y científico, coordinadamente, a establecer modos de funcionamiento que limiten al máximo los peligros (sin olvidar la legislación punitiva a todos los niveles y a tope de potencia, y las infraestructuras para poder perseguir el delito), pero nunca limitar ni detener el progreso, nunca entorpecer los avances, porque además es imposible, y más ya, que el Genio ya salió de la lámpara...

Si, una vez más por culpa de los políticos, hemos llegado al borde del desfiladero, la salvación es más, darle caña de forma completamente abierta a todo el mundo para que que todos tengamos oportunidad de implementar IA, que la restricción, porque tanto desde los Estados, como desde privados, va a haber gente que no va a parar, sino al revés; va a aprovechar la "tregua" de los demás, para coger más ventaja aún.
 

Noticia de 2017:
 

Es más; no es momento de explicitarlo, pero me parece evidente que hace ya años que hay IAs más potentes que GPT-4, funcionando para unos pocos. Y quizá por eso hemos llegado desde 2020 a una acentuación de la pendiente de daño a la sociedad.

[Kesh]

Llegan las garrapatas...

...

Todas esas IAs ... han provocado la aparición de las garrapatas...

Las garrapatas siguen nerviosas y están propagando des-información a través de los MMM.

La IA popularizada es un problema muy importante para el NOM: ven que pierden control y hegemonía en cantidades muy importantes.

Están diciendo que la IA popularizada va facilitar que gente mala dé fácilmente con las contraseñas de nuestras cuentas de bancos, etc, etc.

La IA facilita en general muchas cosas, incluido hackear sistemas. Pero precisamente la obtención ilícita de contraseñas se ha forzado desde hace tiempo a que no sea un trabajo de inteligencia, sino de lo que se conoce como "fuerza bruta"; probar y probar. Lo cual se dificulta a base de longitud de la contraseña y fortaleza a base de amplitud de su composición (mayúsculas, minúsculas, caracteres extendidos, como paréntesis, etc, etc. Nada de inteligencia; fuerza bruta. Cuanta más velocidad tenga la máquina de fuerza bruta; más eficiente será. Y además, esto también puede fácilmente ser neutralizado por el sistema atacado a base de cortar el acceso hasta toma de control, a partir de un número de intentos, con que sean 30 o 50, o 100, que ya da para que se equivoque el usuario legítimo, ya no hay posibilidad de que se entre por fuerza bruta.

Lo que se intenta con esa desinformación no es difícil de imaginar: "la IA popular te puede dejar sin dinero en el banco, sin electricidad en casa, SIN NADA, de repente, y hasta que consigas recuperar lo que puedas, te habrán dado ganas de estar muerto. Lo vas a pasar fatal.".

De forma que la gente: "¡que prohíban la IA!". Y no te digo que no lo consigan teniendo en cuenta a toda la población, e incluso con cierta facilidad, como han conseguido otras cosas absurdas y esas sí: MUY perjudiciales. Lo más absurdo es que los malos pasan de la prohibición, solo nos quemamos la gente normal, lo de siempre y por lo de siempre.

[Kesh]

El NOM está muuuuuy nervioso. Con la IA popular se les viene encima un riesgo enorme para su hegemonía (un riesgo enorme para la Agenda 2030; el plan para consolidar su hegemonía sobre los ciudadanos). Y pone a las garrapatas a funcionar.
 
 
https://www.aepd.es/es/prensa-y-comunic ... n-a-openai
 
 
Pero de las soluciones que sí son necesarias urgentemente (políticas de ajuste de ciertos delitos, etc): nada. Solo atar las manos de los buenos.
 

[Kesh]

Carta abierta de unos cuantos:

"Hacemos un llamado a todos los laboratorios de IA, para que pausen inmediatamente, durante al menos 6 meses, el entrenamiento de los sistemas de IA más potentes que GPT-4".
 

 

 

Aquí pegaría esa coletilla que se ha hecho algo habitual en RRSS y que por repetirse se hace algo hortera, de "dos noticias que juntas se entienden mejor":

https://www.xataka.com/empresas-y-econo ... tir-openai
 
 
Si es que no falla...

[Kesh]

Ya han hecho que vaya Sam Altman, cual escolar arrepentido, al Senado de EEUU, dicen en las noticias de Antena 3 (no he visto la intervención) que a pedir regulación para la IA.

Y, una vez más; que sí hay cosas que regular, pero lo que quieren regular los controladores, es que la gente, no los malos, no tengan IA. De hecho, ya les están quitando rendimiento a las IAs que tenemos al uso. La esperanza es el Open Source y la instalación en local.
 

 
Espero que Altman haya ido solamente a "cubrir el expediente" por no poder rechazar la cita, y que tire pa'lante sin acojones.
 

[Kesh]

Llegan las garrapatas...

 

 
 

¡Pues claro!. Como cuando aparecieron las lavadoras y eliminamos el oficio de lavandera, e infinitas cosas más. Y con las lavadoras no solo se "destruyó" trabajo, también se puede bombardear y hacer mucho daño.

 

[Kesh]