Montar un LLM sin filtros
Voy a montar un LLM sin filtros, pero en Ollama. El problema es que la mayoría de HuggingFace no soportan el formato de Ollama y hay que “convertirlos” Vamos a usar: openhermes-2.5-mistral-7b 1. Descarga el modelo GGUF Ollama no permite montar directamente LLMs de HuggingFace, pero los .GGUF si, y en HaggingFace hay unos pocos. … Leer más