Instala y usa Ollama y LM Studio en tu ordenador
En este post vamos a ver cómo empezar con la IA local, desde un punto lo menos técnico posible, lo más genérico para el común de los mortales.
¿Qué es la IA local, la IA open source?
Lo primero, aunque solemos llamar IA local e IA open source a lo mismo, no es lo mismo:
- local: Está en tu propio equipo.
- Open source: Es de «código abierto», es decir , puedes editar el modelo (en modelos LLM no sabemos el código como tal, lo que se sabe son los pesos de la red neuronal que lo compone, por eso esucharás «open weights)
Pero bueno, todos entendemos que se trata de tener un modelo libre en nuestro equipo o incluso en nuestro servidor, y quitarnos o compaginar con los grandes como chatGPT, claude o Gemini.
En este post vamos a ver los primero spasos para tener nuestro propio «chatGPT».
Software para modelos IA locales
Nos encontramos principalmente con 2 software como los más usados: Ollama y LMStudio
LMStudio : El más sencillo de usar
Empezamos por LMStudio:
Es tan sencillo como descargarlo e instalarlo como cualquier aplicación de escritorio.
Y como verás la aplicación de llama ahora Bionic … algo tendrán en mente esta gente, porque antes si se llamaba LMStudio
Y una vez la ejecutemos veremos una aplicación muy parecida a lo que todos estamos acostumbrados con chatGPT:
Verás que junto al botón de enviar te viene para elegir el modelo que quieres usar.
Los que vienen por defecto son modelos bastantes potentes que puedes usar si te conectas a su nube (porque los de LMStudio y Ollama tienen su propio modelo Saas para que puedas correr los modelos en sus servidores), pero a nosotros nos interesa montarlos nosotros, así que nos iremos a:
Settings –> Explore
Ahí veremos muuuuuchos modelos, pero muuuchos. Elegiremos el que más nos convenga .. tranqui más abajo dejo cual elegiría yo, pero como aplica tanto a LMStudio como a Ollama, lo dejo tras ver Ollama para estar unificado.
Ollama: El más usado
El otro gran player del mercado es Ollama (el de la llama):
Al igual que ocurría con LMStudio, Ollama es prácticamente instalar como cualquier app de escritorio y ya casi lo tenemos.
Pero Antonio, ¡ si has dicho que LMStudio era el fácil !
Inicialmente Ollama no tenía ni aplicación de escritorio, era por consola o terminal, de ahí que si te da susto abrir el terminal de tu equipo, quédate con LMStudio, pero si no te asusta, porque realmente vamos a ejecutar 3 instrucciones, ollama puede ser tu sistema, y si luego vamos a dar el paso a desarrollo es el más usado.
Vamos a verlo:
Te suena, eh. Al final todos intentan emular a chatGPT como norma de facto.
La diferencia viene en el manejo de los modelos, que en el caso de ollama tendremos que abrir un terminal, y con estas 3 instrucciones te serán suficiente:
ollama listMuestra el listado de modelos cargados.
ollama pull nombre_del_modeloDescarga el model «nombre_del_modelo» si no lo tenemos aún.
ollama run nombre_del_modeloCarga un modelo para poder empezar a usarlo (en el caso de no tenerlo aún, también lo descarga)
ollama rm nombre_del_modeloElimina el modelo indicado.
Como puedes ver son sencillas y sin mucho secreto, pero entiendo que hay mucha gente que ya abrir la terminal les supongo no estar cómodos, y para ellos, LMStudio es su solución.
¿Qué modelo de IA local elegir?
Este respuesta seguro que evolucionará en breve, ya que no paran de salir modelos nuevos día a día.
Así que la voy a reducir a 3 / 4 cosillas a tener en cuenta:
- Por lo general hay familias de modelos: Gemma (de Google), Mistral (la que es Europea), Nemotron (de Nvidia), Qwen (de las más usadas), DeepSeek (muy conocidas como las primeras de origen chino que plantaron cara a las principales), Llama (del equipo de Meta (facebook)) ….
- Revisad lo que ocupan, pensando que eso irá a memoria RAM o de GPU si es que podemos. Es decir que si vemos 4 gigas, serán a groso modo los que se ocupen en tu memoria, cuidado, no en tu disco duro que de ese tenemos muchos gigas, incluso Teras.
- La capacidad o potencia a veces se suele medir en los millones / billones de parámetros del modelo, y eso nos lo dan los 4B, 8B, 16B … con uno de 4B nos suele valer para tareas diarias.
Y por si esperas algún modelo, yo diría empezar probando con un gemma3:4B o un Qwen3.5:4B
Una vez lo descargues lo tendrás disponible para usar con LMStudio, y ya tienes tu IA en local funcionando, sin depender de terceros, incluso cuando no tengas internet, y con la mayor privacidad y control al estar todo en tu equipo 🥳 🥳 🥳
Si quieres bichear cientos y cientos de modelos, hay un lugar donde viven todos estos duendecillos, y se llama Huggingface, que con su filtro lateral puedes indicar que te muestre por ejemplo para LMStudio u Ollama, el tamaño, el propósito…
Y con esto queda completa la primera toma de contacto con IA local, que como has podido ver, es prácticamente instalar una app, una pequeña configuración (buscar y descargar modelo, la primera vez) y listo a chatear con nuestra propia IA.