GGUF

.gguf Types de Fichiers

Définition

GPT-Generated Unified Format : un format de fichier pour stocker les poids quantifiés de grands modèles de langage, utilisé par llama.cpp et d'autres outils d'inférence LLM locaux.