Pourquoi convertir GGUF en BIN ?
Certaines personnes supposent qu'un ancien .bin est nécessaire pour un outil hérité, mais le format GGML .bin a été abandonné au profit du GGUF, qui a corrigé les problèmes de métadonnées et de compatibilité. Étant donné que les versions actuelles de llama.cpp ont totalement abandonné le chargement du GGML, revenir en arrière ciblerait des logiciels qui n'existent plus.
Comment convertir GGUF en BIN
Utiliser le fichier GGUF directement FREE
Chargez le .gguf dans les versions actuelles de llama.cpp, Ollama, LM Studio ou KoboldCpp ; ils lisent tous le GGUF nativement, aucun .bin n'est donc nécessaire.
Mettre à jour l'outil qui demandait du .bin OPEN-SOURCE
Recompilez ou mettez à jour l'ancien environnement d'exécution vers une version compatible GGUF plutôt que de rétrograder le modèle.
Re-quantifier à partir des poids originaux OPEN-SOURCE
Si vous avez réellement besoin d'un artefact ancien spécifique, revenez aux poids sources safetensors/PyTorch et re-quantifiez, plutôt que de convertir le GGUF.
À propos de ces formats
Un fichier .gguf est un fichier au format universel GGML (GGML Universal Format), le conteneur binaire utilisé par llama.cpp et les outils associés pour stocker un grand modèle de langage…
Ouvrir les détails de .GGUF →Un fichier BIN est le plus souvent une copie brute, secteur par secteur, d'un CD ou d'un DVD, accompagnée d'un fichier texte .cue décrivant les pistes. Montez-le avec PowerISO ou DAEMON…
Ouvrir les détails de .BIN →Qualité et points de vigilance
- La prise en charge du format hérité GGML
.bina été supprimée de llama.cpp, donc même si vous en produisiez un, il ne se chargerait pas dans les versions actuelles. - GGUF stocke des métadonnées plus riches (tokenizer, architecture, hyperparamètres) que l'ancien format
.binne peut pas contenir, une rétrogradation entraînerait donc une perte d'informations. - L'extension
.binest générique ; de nombreux fichiers.binne sont pas du tout du GGML, ce qui est une autre raison pour laquelle cette correspondance n'a pas de sens.
Foire aux questions
Existe-t-il un convertisseur GGUF vers GGML ?
convert de llama.cpp ne vont que de GGML vers GGUF, et cette voie est désormais également obsolète.Pourquoi le format GGML .bin a-t-il été remplacé par GGUF ?
.bin.