Los modelos de lenguaje grande (LLM) han evolucionado drásticamente. Inicialmente, solo procesaban texto, pero ahora dominan tareas complejas con diferentes tipos de datos. Pueden entender varios idiomas, generar código, resolver problemas matemáticos e interpretar imágenes y audio. Pero, ¿cómo lo hacen?
El MIT descubre paralelismos entre las LLM y el cerebro humano
Investigadores del MIT han explorado el funcionamiento interno de las LLM para entender cómo procesan datos tan diversos. Lo que encontraron es fascinante: existen similitudes sorprendentes con el cerebro humano.
Los neurocientíficos creen que el cerebro humano tiene un ‘hub semántico’ en el lóbulo temporal anterior, que integra información semántica de diferentes modalidades, como datos visuales y táctiles. Este hub se conecta a ‘radios’ específicos de cada modalidad que enrutan la información. Los investigadores del MIT descubrieron que las LLM utilizan un mecanismo similar, procesando datos de diversas modalidades de forma abstracta y centralizada.
Un ‘hub semántico’ en las LLM
Por ejemplo, un modelo cuyo lenguaje dominante es el inglés utilizará este idioma como medio central para procesar entradas en japonés o razonar sobre aritmética y código. Los investigadores demostraron que pueden intervenir en el hub semántico de un modelo utilizando texto en su idioma dominante para cambiar sus salidas, incluso cuando el modelo procesa datos en otros idiomas.
Zhaofeng Wu, estudiante de posgrado en ingeniería eléctrica y ciencias de la computación (EECS) y autor principal del estudio, destaca la importancia de comprender estos mecanismos internos: ‘Las LLM son grandes cajas negras. Han logrado un rendimiento impresionante, pero sabemos muy poco sobre sus mecanismos internos. Espero que este sea un primer paso para entender mejor cómo funcionan, para poder mejorarlas y controlarlas cuando sea necesario’.
Cómo integran datos diversos las LLM
Los investigadores basaron su estudio en trabajos previos que sugerían que las LLM centradas en el inglés utilizan este idioma para realizar procesos de razonamiento en otros idiomas. Wu y sus colaboradores ampliaron esta idea, investigando en profundidad los mecanismos que utilizan las LLM para procesar datos diversos.
Una LLM, compuesta por muchas capas interconectadas, divide el texto de entrada en palabras o subpalabras llamadas ‘tokens’. El modelo asigna una representación a cada token, lo que le permite explorar las relaciones entre ellos y generar la siguiente palabra en una secuencia. En el caso de imágenes o audio, estos tokens corresponden a regiones particulares de una imagen o secciones de un clip de audio.
Descubrieron que las capas iniciales del modelo procesan datos en su lenguaje o modalidad específica, como los radios específicos de cada modalidad en el cerebro humano. Luego, la LLM convierte los tokens en representaciones agnósticas a la modalidad a medida que razona sobre ellos a través de sus capas internas, de forma similar a como el hub semántico del cerebro integra información diversa.
El modelo asigna representaciones similares a entradas con significados similares, independientemente de su tipo de datos, incluyendo imágenes, audio, código y problemas aritméticos. Aunque una imagen y su leyenda de texto son tipos de datos distintos, como comparten el mismo significado, la LLM les asigna representaciones similares.
Por ejemplo, una LLM dominante en inglés ‘piensa’ en una entrada de texto en chino en inglés antes de generar una salida en chino. El modelo tiene una tendencia de razonamiento similar para entradas no textuales como código, problemas matemáticos o incluso datos multimodales.
Explotando el ‘hub semántico’
Los investigadores creen que las LLM pueden aprender esta estrategia de hub semántico durante el entrenamiento porque es una forma económica de procesar datos variados.
‘Hay miles de idiomas, pero gran parte del conocimiento es compartido, como el sentido común o el conocimiento factual. El modelo no necesita duplicar ese conocimiento en todos los idiomas’, explica Wu.
También intentaron intervenir en las capas internas del modelo utilizando texto en inglés cuando procesaba otros idiomas. Descubrieron que podían cambiar las salidas del modelo de forma predecible, aunque esas salidas estuvieran en otros idiomas.
Los científicos podrían aprovechar este fenómeno para animar al modelo a compartir la mayor cantidad de información posible entre diversos tipos de datos, lo que podría aumentar la eficiencia. Sin embargo, también podría haber conceptos o conocimientos que no sean traducibles entre idiomas o tipos de datos, como el conocimiento culturalmente específico. En esos casos, los científicos podrían querer que las LLM tengan algunos mecanismos de procesamiento específicos para cada idioma.
Implicaciones futuras
Este descubrimiento abre la puerta a entrenar futuras LLM que manejen mejor la diversidad de datos. Comprender cómo las LLM procesan las entradas en diferentes idiomas y modalidades es una pregunta clave en la inteligencia artificial. Este trabajo establece una interesante conexión con la neurociencia y muestra que la ‘hipótesis del hub semántico’ se cumple en los modelos de lenguaje modernos, donde se crean representaciones semánticamente similares de diferentes tipos de datos en las capas intermedias del modelo.
En resumen, este estudio no solo profundiza nuestra comprensión de las LLM, sino que también plantea nuevas vías para mejorar su eficiencia, adaptabilidad y capacidad para procesar información compleja de manera similar al cerebro humano.
Fuente: MIT News
Leave a Comment