馃惇 Gu铆a Completa: C贸mo instalar Ollama en tu PC y correr Llama 3 de Meta

el


 

馃惇 Gu铆a Completa: C贸mo instalar Ollama en tu PC y correr Llama 3 de Meta

En los 煤ltimos a帽os, el desarrollo de modelos de lenguaje grandes (LLMs, por sus siglas en ingl茅s) ha avanzado a pasos agigantados. Uno de los m谩s destacados es Llama 3, creado por Meta, que ha logrado competir con modelos comerciales como GPT-4 o Claude, pero con una caracter铆stica esencial: puede usarse gratis y de forma local gracias a herramientas como Ollama.

Este tutorial busca ser una gu铆a detallada para que cualquier persona pueda instalar Ollama en su computadora, descargar el modelo Llama 3 y comenzar a usarlo sin complicaciones. Nos tomaremos el tiempo de explicar no solo los pasos t茅cnicos, sino tambi茅n los requisitos, configuraciones recomendadas, posibles errores comunes y c贸mo integrar Ollama en diferentes entornos de desarrollo.

馃敼 1. ¿Qu茅 es Ollama y por qu茅 usarlo?

Ollama es una plataforma que facilita correr modelos de lenguaje grandes en tu computadora de forma local. Esto significa que:

  • No dependes de la nube: puedes tener tu propio ChatGPT casero sin enviar datos a terceros.
  • Privacidad total: lo que escribes y lo que el modelo responde se queda en tu PC.
  • Sin costos ocultos: no necesitas pagar por tokens o suscripciones.
  • Compatible con diferentes modelos: no solo Llama 3, tambi茅n Mistral, Phi, Gemma, entre otros.

Meta liber贸 Llama 3 en abril de 2024 con variantes de 8B y 70B par谩metros, entrenados en una enorme cantidad de datos. El modelo de 8B es m谩s ligero y puede correr en una PC con 8-16 GB de RAM, mientras que el de 70B requiere estaciones mucho m谩s potentes (64 GB+ y GPU dedicadas).

Gracias a Ollama, la instalaci贸n y uso de Llama 3 se reduce a un par de comandos, sin necesidad de compilar ni configurar manualmente librer铆as de inteligencia artificial.

馃敼 2. Requisitos previos

馃搶 Hardware m铆nimo recomendado

  • CPU: procesador moderno con soporte AVX2 (casi todos desde 2015 en adelante).
  • RAM:
    • 8 GB para modelos peque帽os.
    • 16 GB o m谩s para un uso fluido.
  • GPU (opcional):
    • NVIDIA con CUDA 11 o superior.
    • Apple Silicon (M1, M2, M3) aprovecha la GPU integrada.
  • Espacio en disco: entre 5 GB y 50 GB, dependiendo del tama帽o del modelo.

馃搶 Software compatible

  • Linux: Ubuntu, Debian, Mint, Fedora, Arch y derivados.
  • macOS: versiones modernas, tanto Intel como Apple Silicon.
  • Windows: requiere WSL2 con Ubuntu (Windows 11 recomendado).

馃敼 3. Instalaci贸n de Ollama

馃惂 En Linux (ejemplo: Ubuntu / Mint / Debian)

curl -fsSL https://ollama.com/install.sh | sh
ollama --version

馃崗 En macOS

  1. Descarga el instalador desde la p谩gina oficial 馃憠 https://ollama.com/download
  2. Arrastra Ollama.app a la carpeta de Aplicaciones.
  3. Verifica en terminal:
ollama --version

馃獰 En Windows 11 (usando WSL2)

wsl --install

Dentro de Ubuntu en WSL2:

curl -fsSL https://ollama.com/install.sh | sh
ollama --version

馃敼 4. Descargar e instalar Llama 3

Versi贸n ligera (8B par谩metros):

ollama pull llama3

Versi贸n grande (70B par谩metros):

ollama pull llama3:70b

Ver modelos instalados:

ollama list

馃敼 5. Usar Llama 3 con Ollama

ollama run llama3

Ejemplo:

>>> Hola, ¿qu茅 es Ollama?
Ollama es una herramienta que permite correr modelos de lenguaje grandes de manera local en tu computadora.

馃敼 6. Integraci贸n con APIs y otros lenguajes

Ollama expone una API local en http://localhost:11434

Ejemplo en Python

import requests

response = requests.post("http://localhost:11434/api/generate", json={
  "model": "llama3",
  "prompt": "Expl铆came la fotos铆ntesis en 3 l铆neas"
})

for line in response.iter_lines():
    if line:
        print(line.decode())

Ejemplo en Node.js

import fetch from "node-fetch";

const res = await fetch("http://localhost:11434/api/generate", {
  method: "POST",
  headers: { "Content-Type": "application/json" },
  body: JSON.stringify({
    model: "llama3",
    prompt: "Resume la historia de M茅xico en 5 puntos"
  })
});

const data = await res.text();
console.log(data);

馃敼 7. Consejos de rendimiento

  • Prefiere GPU si est谩 disponible.
  • Usa el modelo correcto seg煤n tu RAM.
  • Administra la memoria cerrando apps pesadas.
  • Mant茅n Ollama actualizado.

馃敼 8. Problemas comunes y soluciones

  • Comando `ollama` no encontrado → reinicia terminal o source ~/.bashrc
  • El modelo no descarga → revisa internet y usa ollama pull llama3 --retry
  • Se queda sin RAM → usa modelos peque帽os o swap
  • Velocidad lenta en CPU → usa GPU compatible

馃敼 9. Comparaci贸n con otras herramientas

  • LM Studio → interfaz gr谩fica.
  • text-generation-webui → muy configurable.
  • GPT4All → multiplataforma.

Ollama destaca por su simplicidad y API unificada.

馃敼 10. Aplicaciones pr谩cticas

  • Asistente personal offline.
  • Generaci贸n de textos.
  • Tutor acad茅mico.
  • Ayuda en programaci贸n.
  • Automatizaci贸n de procesos.

馃敼 11. Seguridad y privacidad

  • Tus datos no salen de tu PC.
  • Puedes trabajar con informaci贸n sensible.
  • Ideal para empresas e investigadores.

馃敼 12. Pr贸ximos pasos

  • Explorar otros modelos:
ollama pull mistral
ollama pull gemma
  • Crear un servidor web con Ollama.
  • Conectar a un frontend en React o Vue.
  • Usarlo en VS Code como asistente de programaci贸n.

✅ Conclusi贸n

Instalar Ollama y usar Llama 3 en tu PC es un proceso sencillo que abre un mundo de posibilidades.

  • Principiantes: basta con ollama run llama3.
  • Desarrolladores: la API permite integrarlo en proyectos.
  • Usuarios preocupados por privacidad: toda la IA corre en tu PC.

En definitiva, Ollama + Llama 3 es una combinaci贸n poderosa que democratiza la inteligencia artificial.

Comentarios

Publicar un comentario