RAG sobre documentos propios con AnythingLLM
路 2 min de lectura
Queremos hacer preguntas a un modelo sobre documentos privados sin enviarlos a servicios externos, y para ello usaremos AnythingLLM con Ollama como LLM runtime local.
6 publicaciones etiquetados con "Ollama"
Ejecuci贸n de modelos de lenguaje en local con Ollama
Ver Todas las EtiquetasCodex CLI con Ollama en local
路 Lectura de un minuto
Usar Codex CLI sin enviar c贸digo a servidores externos, conect谩ndolo a Ollama para inferencia completamente local.
Embeddings locales con nomic-embed-text
路 Lectura de un minuto
Generar embeddings sin enviar datos a ning煤n servicio externo usando Ollama y nomic-embed-text, 煤til para RAG privado.
Crear un asistente personalizado con Modelfile
路 Lectura de un minuto
Fijar un system prompt y ajustar par谩metros en Ollama para crear un asistente especializado sin repetirlos en cada sesi贸n.
Levantar Open WebUI con Ollama en un comando
路 Lectura de un minuto
Tener un ChatGPT local completo con Ollama integrado usando un solo comando Docker.
Ejecutar un modelo en local
路 Lectura de un minuto
En este experimento vamos a ejecutar un modelo en local, para poder hablar con un LLM en nuestra m谩quina.