El proyecto GPT-3

Otro proyecto que se está desarrollando actualmente es el llamado GPT-3: Generative Pre-trained Transformer 3, que es un modelo de lenguaje autorregresivo que emplea aprendizaje profundo para producir textos que simulan la redacción humana. Este es considerado como la tercera generación de los modelos de predicción de lenguaje perteneciente a la serie GPT. La versión completa de GPT-3 tiene una capacidad de 175.000 millones de parámetros de aprendizaje automatizado, lo cual supera la magnitud de sus predecesores. 

Este proyecto parte de una tendencia en sistemas de procesamiento de lenguaje natural (NLP) basados en representaciones de lenguaje pre-entrenadas. Gracias a este algoritmo, el usuario solo tiene que comenzar a escribir un párrafo y el propio sistema se encarga de completar el resto de la forma más coherente posible. Su gran potencial es una muestra de las posibilidades que existen para llegar a una inteligencia artificial general, capaz de aprender tareas intelectuales como las personas.

El sistema todavía tiene algunas limitaciones y replicar el trabajo que se ha hecho en el campo e la inteligencia artificial resulta complicado debido a que los costes computacionales que implica aún son muy altos. A ello se suman los obstáculos a los que tienen que hacer frente la mayoría de los algoritmos de aprendizaje automático: los sesgos. Es decir, las sutilezas del lenguaje. 

Aun así, GPT-3 se presenta como una alternativa con un gran potencial de cara al futuro. Al ser un sistema especialmente bueno en la generación de textos largos que guardan cierta coherencia entre las frases, veremos más modelos de este tipo utilizados para generar textos de forma semi-automática. Por ejemplo, para asistentes conversacionales de todo tipo, para ayudar en la escritura de noticias u otro tipo de informes, y en la búsqueda de información. 

Por supuesto que esto también representa una amenaza: es muy probable que, tal como sucede ahora con las redes sociales y los medios de comunicación, ya no haga falta nadie especializado en la redacción de textos para producir información. La inteligencia artificial nos sigue impactando.