Los modelos de lenguaje grandes (LLM), como ChatGPT, han revolucionado la forma en que interactuamos con la inteligencia artificial. Sin embargo, hasta hace poco, estos modelos tropezaban con problemas de lógica y matemáticas. Ahora, una nueva generación de LLM, conocidos como modelos de razonamiento, están aprendiendo a resolver problemas complejos de una manera que se asemeja sorprendentemente al pensamiento humano.
El ‘costo de pensar’ en la IA: Un estudio revelador
Un reciente estudio del MIT’s McGovern Institute for Brain Research, publicado en la revista PNAS, ha revelado un hallazgo fascinante: el tiempo que un modelo de razonamiento necesita para resolver un problema está directamente relacionado con el tiempo que un humano requiere para el mismo problema. En otras palabras, el ‘costo de pensar’ para un modelo de razonamiento es similar al de un humano.
Evelina Fedorenko, profesora asociada de ciencias cognitivas y cerebrales e investigadora en el McGovern Institute, quien dirigió la investigación, señala que esta similitud no es intencional. Los creadores de estos modelos no buscan replicar el pensamiento humano, sino construir sistemas robustos que funcionen correctamente en diversas condiciones. La convergencia observada es, por lo tanto, aún más impactante.
Modelos de razonamiento: Más allá de la simple predicción de texto
A diferencia de los LLM tradicionales, los modelos de razonamiento abordan los problemas paso a paso. Andrea Gregor de Varda, becario del K. Lisa Yang ICoN Center y postdoctorado en el laboratorio de Fedorenko, explica que estos modelos necesitan más espacio para realizar los cálculos necesarios para resolver problemas complejos. Al descomponer los problemas en partes más pequeñas, su rendimiento mejora significativamente.
Para entrenar a estos modelos, los ingenieros utilizan el aprendizaje por refuerzo. Los modelos son recompensados por las respuestas correctas y penalizados por las incorrectas. De Varda explica que los modelos exploran el espacio del problema por sí mismos, reforzando las acciones que conducen a recompensas positivas y, por lo tanto, a soluciones correctas.
Tiempo vs. Tokens: Midiendo el esfuerzo mental
Para comparar el ‘costo de pensar’ entre humanos y modelos de razonamiento, los investigadores midieron el tiempo que tardaban las personas en responder a las preguntas y el número de ‘tokens’ que generaba el modelo. Los tokens representan la cadena interna de pensamiento del modelo, como si estuviera hablando consigo mismo para llegar a una solución.
Tanto a los humanos como a los modelos se les plantearon siete tipos diferentes de problemas, desde aritmética numérica hasta razonamiento intuitivo. Los resultados mostraron una correlación clara: cuanto más difícil era un problema para los humanos, más tokens generaba el modelo para resolverlo. Los problemas que más tiempo les tomaban a los humanos también eran los que requerían más tokens para los modelos.
Implicaciones y futuras investigaciones
Este estudio sugiere que, al menos en cierto modo, los modelos de razonamiento piensan como los humanos. Sin embargo, esto no significa que estén recreando la inteligencia humana. Los investigadores quieren seguir explorando si los modelos utilizan representaciones de información similares a las del cerebro humano y cómo estas representaciones se transforman en soluciones a los problemas.
También es importante destacar que, si bien los modelos de razonamiento generan monólogos internos al resolver problemas, no necesariamente utilizan el lenguaje para pensar. De hecho, el resultado de estos modelos a menudo contiene errores o fragmentos sin sentido, incluso si llegan a una respuesta correcta. Esto sugiere que los cálculos internos reales pueden tener lugar en un espacio de representación abstracto y no lingüístico, similar a cómo los humanos no usan el lenguaje para pensar.
Conclusión
La similitud en el ‘costo de pensar’ entre humanos y modelos de razonamiento es un hallazgo fascinante que abre nuevas vías para la investigación en inteligencia artificial. A medida que los modelos de razonamiento continúan evolucionando, será interesante ver si desarrollan aún más similitudes con el pensamiento humano y cómo esto podría influir en el futuro de la IA.
Fuente: MIT News – AI
Leave a Comment