Warum GGUF in BIN konvertieren?
Einige Leute nehmen an, dass eine ältere .bin für ein veraltetes Tool benötigt wird, aber .bin GGML wurde zugunsten von GGUF eingestellt, wodurch Metadaten- und Kompatibilitätsprobleme behoben wurden. Da aktuelle llama.cpp-Builds das Laden von GGML vollständig eingestellt haben, würde ein Rückschritt auf Software abzielen, die nicht mehr existiert.
Wie man GGUF in BIN konvertiert
Die GGUF-Datei direkt verwenden FREE
Laden Sie die .gguf in aktuellem llama.cpp, Ollama, LM Studio oder KoboldCpp; diese lesen GGUF nativ, sodass keine .bin erforderlich ist.
Das Tool aktualisieren, das .bin verlangt OPEN-SOURCE
Bauen Sie die alte Laufzeitumgebung neu oder aktualisieren Sie diese auf eine GGUF-fähige Version, anstatt das Modell herabzustufen.
Neu quantisieren aus den Original-Weights OPEN-SOURCE
Wenn Sie wirklich ein spezifisches altes Artefakt benötigen, gehen Sie zurück zu den ursprünglichen safetensors/PyTorch-Weights und quantisieren Sie neu, anstatt die GGUF zu konvertieren.
Über diese Formate
Eine .gguf-Datei ist eine GGML Universal Format-Datei, der binäre Container, der von llama.cpp und verwandten Tools verwendet wird, um ein großes Sprachmodell als einzelne Datei zu…
.GGUF-Details öffnen →Eine BIN-Datei ist meistens eine sektor-für-sektor-Kopie einer CD oder DVD, die mit einer passenden .cue-Textdatei geliefert wird, welche die Spuren beschreibt. Einbinden lässt sie sich mit…
.BIN-Details öffnen →Qualität & worauf zu achten ist
- Die Unterstützung für veraltete GGML
.binwurde aus llama.cpp entfernt, sodass selbst wenn Sie eine erstellen würden, diese in aktuellen Builds nicht geladen würde. - GGUF speichert reichhaltigere Metadaten (Tokenizer, Architektur, Hyperparameter), die das alte
.bin-Format nicht enthalten kann, sodass ein Downgrade Informationen verlieren würde. - Eine
.bin-Endung ist generisch; viele.bin-Dateien sind überhaupt kein GGML, was ein weiterer Grund ist, warum die Zuordnung bedeutungslos ist.
Häufig gestellte Fragen
Gibt es einen GGUF-zu-GGML-Konverter?
convert-Skripte von llama.cpp funktionieren nur von GGML zu GGUF, und dieser Pfad ist mittlerweile ebenfalls veraltet.Warum wurde GGML .bin durch GGUF ersetzt?
.bin-Format hatte.