¿Te imaginas tener un ChatGPT ejecutándose directamente en tu ordenador? OpenAI ha hecho esto posible con el lanzamiento de sus modelos GPT-OSS (Open Source Software). Ahora, puedes experimentar con la IA en local, sin depender de la nube. En este artículo, te mostraremos cómo instalar y usar estos modelos para crear tu propio asistente de IA personal.
GPT-OSS: Dos Modelos, Diferentes Necesidades
OpenAI ha lanzado dos modelos GPT-OSS: gpt-oss-120b y gpt-oss-20b. Aunque comparten nombre, sus características y requisitos son distintos:
- gpt-oss-120b: Este modelo grande rivaliza con el rendimiento de OpenAI o4-mini, pero exige un hardware potente. Necesitarás al menos 60 GB de memoria gráfica (VRAM). No es apto para la mayoría de ordenadores de consumo.
- gpt-oss-20b: Una versión más ligera, comparable a o3-mini según OpenAI. Puede ejecutarse en dispositivos con menos recursos, incluyendo ordenadores de consumo con al menos 16 GB de memoria (preferiblemente VRAM).
Para esta guía, nos centraremos en gpt-oss-20b, ya que es más accesible para el usuario promedio.
Consideraciones Previas
Ejecutar una IA en local consume muchos recursos. Prepárate para una posible ralentización de tu ordenador. Aunque 16 GB de RAM son suficientes, una GPU dedicada de gama alta mejorará el rendimiento. Si tu GPU tiene menos de 16 GB de VRAM, el sistema utilizará la RAM, que también debe ser de al menos 16 GB para evitar problemas.
Consejo Geek: Cierra todas las aplicaciones innecesarias para dedicar la mayor cantidad de recursos al modelo de IA.
Paso 1: Instala Ollama
Ollama es una plataforma open source que simplifica la instalación y gestión de LLMs (Large Language Models). Actúa como un ejecutor de modelos, similar a como ChatGPT es una plataforma online para interactuar con GPT-4o, pero en local. Ollama es gratuito y compatible con Windows, Mac y Linux.
Descarga Ollama desde su sitio web oficial e instálalo en tu ordenador.
Paso 2: Descarga GPT-OSS-20b
Una vez instalado Ollama, verás una interfaz sencilla. En la esquina inferior derecha, hay un desplegable con el modelo actual. Haz clic y selecciona “gpt-oss:20b”.
Al seleccionar el modelo e ingresar un mensaje, Ollama comenzará a descargar gpt-oss-20b. Ten paciencia, el archivo pesa 12.8 GB y puede tardar un tiempo dependiendo de tu conexión.
Paso 3: ¡Habla con tu IA Local!
Una vez descargado, podrás interactuar con gpt-oss-20b como si fuera ChatGPT. Ten en cuenta que, si tu GPU no cumple con los requisitos mínimos, la velocidad será menor, ya que estás utilizando los recursos de tu propio ordenador.
Alternativa: LM Studio
Si buscas más opciones de configuración, LM Studio es una alternativa más completa. Similar a Ollama, LM Studio gestiona varios modelos, incluyendo gpt-oss:20b, y está disponible para Windows, Linux y Mac. LM Studio ofrece ajustes avanzados para optimizar el rendimiento del modelo y la interacción con tu ordenador, aunque requiere conocimientos más técnicos.
Conclusión
Instalar tu propio ChatGPT en local es ahora una realidad gracias a los modelos GPT-OSS de OpenAI. Con Ollama o LM Studio, puedes experimentar con la IA directamente en tu ordenador. ¡Anímate a probarlo y descubre el potencial de la IA en tus manos!
Fuente: Xataka
Leave a Comment