IA Y AUTOMATIZACIÓN PRÁCTICA

Ollama en Ubuntu: modelo pequeño y conocimiento de contexto

Instala Ollama, ejecuta qwen2.5:3b, añade notas fechadas y prueba respuestas antes de ampliar con recuperación de documentos.

Manabi Kōbō··10 min·598 palabras
AI AutomationOllamaLocal AIUbuntuRAG
Ollama en Ubuntu: modelo pequeño y conocimiento de contexto
ESARTÍCULO NATURAL

Instala Ollama, ejecuta qwen2.5:3b, añade notas fechadas y prueba respuestas antes de ampliar con recuperación de documentos.

Paso 1: Empieza con un modelo local pequeño

Ollama permite ejecutar un modelo en tu ordenador. Usaremos qwen2.5:3b, un modelo de texto pequeño y conocido, sin afirmar que sea el más nuevo o el mejor. Sirve para experimentar con notas breves antes de invertir en más hardware.

Necesitas espacio para descargarlo y RAM libre para pesos, contexto y sistema operativo. La GPU puede ayudar, pero mide tiempos reales con contexto corto. Este ejemplo solo procesa texto: no interpreta imágenes ni maneja el escritorio.

Comprueba la ficha oficial y licencia para tu uso.

Paso 2: Instala Ollama en Ubuntu

Descarga, revisa y ejecuta el instalador oficial. Comprueba versión y servicio. Si no hay servidor en segundo plano, ejecuta ollama serve en otra terminal; no abras otro servidor si el puerto ya está ocupado.

El servicio local normalmente usa el puerto 11434. Mantén localhost para esta práctica. Consulta la guía Linux de Ollama para servicio y GPU.

Abre el ejemplo completo para copiar — example-01.txt

# Open full code above.

Paso 3: Añade una nota de conocimiento

El contexto es información que proporcionas al responder; no reentrena los pesos. Crea notes.txt con una nota pequeña y fechada: ‘Política del laboratorio, 2026-10-09: copias en ./backups; pruebas desechables en ./scratch; no borrar originales’. Son datos del laboratorio ficticio de este tutorial.

El script consulta el chat local y muestra la respuesta. Separa notas e instrucciones y pide reconocer lo desconocido, aunque debes probar el comportamiento.

Guarda notes.txt y ask.py juntos y ejecuta python3 ask.py. Consulta la guía de API local.

Abre el ejemplo completo para copiar — ask.py

import json
import urllib.request
from pathlib import Path

Paso 4: Reutiliza instrucciones con Modelfile

Guarda el bloque como Modelfile. Ejecuta ollama create lab-helper -f Modelfile y luego ollama run lab-helper. Mantén las notas cambiantes fuera del archivo para actualizarlas y citarlas por separado.

SYSTEM define instrucciones; num_ctx solicita contexto; temperature controla el muestreo. Esto no es entrenamiento ni convierte notas en conocimiento aprendido permanente. Consulta la referencia Modelfile.

Abre el ejemplo completo para copiar — Modelfile.txt

FROM qwen2.5:3b
PARAMETER temperature 0.2
PARAMETER num_ctx 4096

Paso 5: Comprueba lo conocido y lo desconocido

Prueba ubicación de archivos desechables, contraseña del administrador y una nota nueva con otra ruta. Espera ./scratch, reconocimiento de que no hay contraseña y la ruta actualizada. No introduzcas una contraseña real.

Si inventa datos, acorta la nota, concreta la pregunta y revisa la solicitud. Una respuesta correcta no demuestra precisión futura. Repite un conjunto de preguntas al cambiar modelo o instrucciones.

Paso 6: Amplía con recuperación cuando haga falta

Con muchos documentos añade recuperación: divide material aprobado, conserva archivo, fecha y página, selecciona unos pasajes y pásalos con la pregunta. Para diez notas puede bastar una búsqueda por palabras. Los embeddings ayudan con expresiones diferentes, pero requieren mantenimiento y evaluación.

Más contexto consume más memoria y no sustituye una buena selección. RAG combina recuperación y generación; no entrena pesos. Trata los documentos como datos no confiables.

Si falla la conexión, revisa el servidor; si tarda, ollama ps y memoria; si responde fuera de tema, la nota elegida. Un modelo local descargado no requiere API en la nube, pero :cloud o servicios externos cambian la ruta de datos.

Compara la frase japonesa de lectura. Sigue con OpenClaw para añadir herramientas a tu agente.

Continúa la serie

JP日本語

UbuntuでOllama:小さなモデルに文脈知識を渡す

SubjectObjectVerbParticleTechnicalConnectorAdjectiveTime / context
CONTINÚA EN MANABI KŌBŌ

Pon esta idea en práctica

Rincón de Lectura

Practica lectura bilingüe con apoyo para japonés.

Abrir herramienta →
Curso guiado de japonés

Continúa con lecciones y práctica estructuradas.

Abrir herramienta →
Adaptive Recall

Convierte frases útiles en práctica espaciada.

Abrir herramienta →
NOTAS RELACIONADAS
← Volver a todos los artículos
Compartir esta nota Correo