Seguramente ya usas algún servicio de inteligencia artificial, o incluso has escuchado hablar de Ollama. Probablemente estés interesado en aumentar la productividad de tu negocio o empresa, sin introducir datos personales o sensibles en websites fuera de tu control. Tener una IA local en tu servidor o PC, te da un plus de rendimiento al disponer de modelos de lenguaje avanzados (LLM) sin pagar suscripciones. Por eso te traemos la guía paso a paso para implementar un chatbot con Ollama, todo ello de forma sencilla y en equipos Windows, MacOS y Linux. Seguro que ya conoces otras guías para uso empresarial y personal como la que tenemos para que implantes una VPN gratis con Wireguard. Seguro que ya sabes proteger tu información Cifrando tus dispositivos. Pero hoy nos toca ahorrar costes con la IA Open Source.
¿Qué es Ollama?
Probablemente has usado ya algún modelo de lenguaje avanzado como ChatGPT. Estos chatbots son herramientas útiles que han aumentado la productividad de muchos profesionales y empresas. El problema es que dependen de empresas que tienen su política de tratamiento de datos, que puede no ser acorde a tus requisitos de privacidad o los de tus clientes. Normativas como el GDPR nos obligan a asumir un alto coste al ceder datos a herramientas de terceros.
| Característica | Ollama | IA Propietaria | |
| Privacidad | ✅ Datos locales | ❌ Datos en la nube | |
| Coste | ✅ Gratis | ❌ Suscripción mensual | |
| Modelos LLM | ✅ Llama, Mistral, Qwen, Deepseek. | ❌ Limitado por propietario |
Ollama es una herramienta que te permite ejecutar modelos de lenguaje grandes (LLMs) como Llama, Mistral, Qwen , Deepseek y muchos más, directamente en tu ordenador o computadora de manera sencilla. Es un programa de código abierto, perfectamente auditable y publicado en internet. Es multiplataforma y se puede instalar en equipos Windows, MacOS y Linux. Simplifica la complejidad de ejecutar LLMs, además no requiere hardware potente para trabajar. Esto hace posible que sea instalado en pequeños servidores domésticos con acceso externo barato fijo o incluso en equipos personales tales como Notebooks. La alta comunidad que tiene la aplicación posibilita un constante desarrollo, implementando actualizaciones de forma periódica. Por último, debido a que los datos permanecen en tu dispositivo, ofrece una alta privacidad.
¿Por qué Ollama?
Este software te permite obtener privacidad en tus relaciones con la inteligencia artificial. Los datos que introduces permanecen en tu equipo de forma local, además si eres un investigador puedes instalar modelos de lenguaje grandes para tus tareas de desarrollo. El ahorro en gasto al ser sin coste de suspcripción es enorme, puesto que cada vez hay más modelos abiertos y descargables en internet. Te dará control, independencia y posibilidades de personalización al gestionarlo tú mismo. No dependes de internet y puedes implementar tus propios modelos. También tienes la posibilidad de usar programas como OpenWebUI o diversas API externas de otras soluciones. Todo ello hace que sea extremadamente sencillo implantar herramientas tipo chatbot.
Instalación de Ollama.
Es un programa Multiplataforma disponible para los principales sistemas operativos.
Ollama en Windows
Desde esta web descargar el ejecutable ollama.exe y sigue las instrucciones del asistente de instalación. Una vez terminada la instalación verifícala, abre Poweshell o el Simbolo del Sistema y ejecuta:
ollama --version
Ollama en macOS
Desde este enlace descargaremos el archivo ollama.omg. Arrastra el icono de Ollama a la carpeta de Aplicaciones. A continuación inicia el servicio abriendo la terminal y ejecutando lo siguiente:
ollama serve
Ollama en Linux
Tomando como base una distribución Ubuntu, ejecuta el siguiente comando en la terminal:
curl -fsSL https://ollama.com/install.sh | sh
Esto instalará Ollama en el directorio usr/local/bin luego verifica la instalación ejecutando:
ollama --version
Descargando los modelos de IA.
Una vez instalada la aplicación, descarga los modelos para empezar a utilizar el programa. Cabe destacar que de momento sólo estamos usando la terminal correspondiente de cada sistema operativo (Simbolo del sitema/Powershell en Windows o Terminal en macOS/Linux). Más adelante podemos aplicar interfaces gráficas como la ya nombrada OpenWebUI o LLM STUDIO. Los modelos que utiliza Ollama son los de tipo GGUF disponibles en el conocido portal Hugging Face o en el propio sitio web de Ollama, entre otros. Utilizaremos el siguiente comando para descargar el modelo y utilizarlo.
ollama run llama3.1:8B
Aquí el comando sería “ollama run” y en este caso “llama3.1:8B” el modelo a utilizar. La primera vez se descargará el modelo automáticamente. Correremos el mismo comando siempre que lo vayamos a utilizar.
Para finalizar la sesión introducimos el siguiente comando:
/exit
Ventajas.
Tendrás privacidad total debido a que los datos no salen de tu dispositivo. Todo esto a un coste cero al no necesitar de suscripciones ni gastos recurrentes. Tienes una aplicación multiplataforma y altamente personalizable que se encuentra en constante actualización.
Consideraciones Adicionales.
Ten en cuenta que Ollama corre con un hardware modesto, pero los modelos necesitan de recursos cuantos más parámetros tienen. Así para un modelo como Llama3.1:8B requieres al menos de 8Gb de VRAM de tu GPU, mejorando con cuantizaciones y ajustes. Descarga siempre los LLM de sitios confiables y manten una política correcta de actualizaciones.
Conclusiones.
Ollama es una solución ideal para empresas y usuarios que buscan privacidad, ahorrar en suscripciones y control total sobre sus modelos de IA. Su instalación es sencilla. Para aquellos profesionales o sociedades que hagan una inversión en hardware, se convierte en una alternativa poderosa a servicios como ChatGPT. Integrando herramientas para atender clientes o auxiliar a empleados. Imagina el tiempo que emplea en revisión de documentos o hacer cálculos el personal administrativo, y lo que se puede ahorrar con este software.
¿Quieres profundizar en el mundo de la IA?
Estate atengo al blog. Pronto publicaremos cursos de inteligencia artificial para que tú mismo aprendas a implementar soluciones de IA en tu empresa o proyecto personal. Mientras tantos estate atengo al apartado Software de Enclave Informático.