OpenAI lanza herramienta para comprender cómo funcionan los modelos de lenguaje de IA
La empresa encargada del desarrollo de ChatGPT creó una herramienta que explica el modelo que utiliza GPT-4
OpenAI lanzó una herramienta para averiguar y explicar el funcionamiento interno de los modelos de lenguaje grandes (LLM) en la Inteligencia Artificial (IA), que utiliza GPT-4 para analizar los modelos, explicarlos y anticipar cuáles serán los posibles problemas con los sistemas de IA.
Los modelos de lenguaje en el ámbito de la IA, como por ejemplo GPT de OpenAI, llegan a conclusiones y producen resultados sorprendentes de forma independiente, por lo que cada vez se implementan en más ámbitos y situaciones del día a día, aprendiendo más y volviéndose más inteligentes.
Sin embargo, la comprensión humana de cómo funcionan internamente estos modelos de lenguaje es limitada. Es difícil conocer con certeza por qué un modelo responde de la forma en la que lo hace para cada situación. También es complicado averiguar cómo aumentan su conocimiento, si lo hacen de forma sesgada o si utilizan el engaño.
De cara a comprender mejor el funcionamiento de los LLM, OpenAI estrenó una herramienta con la que se podrá analizar qué partes del modelo son responsables de cada función y de sus comportamientos.
Esta herramienta, según explica OpenAI en un comunicado en su web, se basa en un proceso automatizado que utiliza el modelo de lenguaje GPT-4 para «producir y puntuar explicaciones en lenguaje natural del comportamiento de las neuronas» de un LLM en concreto, en este caso GPT-2 y, posteriormente, aplicarlo a las neuronas en otro modelo de lenguaje.
Los modelos LLM están conformados por neuronas que identifican patrones específicos en el texto que introduce el usuario para poder generar una respuesta en consecuencia. Teniendo esto en cuenta, la herramienta de OpenAI divide el modelo de GPT-2 en distintas piezas y realiza un proceso de tres pasos.
Fuente: dpa
(Fuente imagen referencial: Eduardo Parra, Europapress)
Visita nuestro canal de noticias en Google News y síguenos para obtener información precisa, interesante y estar al día con todo. También en Twitter e Instagram puedes conocer diariamente nuestros contenidos