Varför konvertera GGUF till BIN?
Vissa antar att en äldre .bin behövs för ett äldre verktyg, men .bin GGML fasades ut till förmån för GGUF, som åtgärdade problem med metadata och kompatibilitet. Eftersom nuvarande versioner av llama.cpp helt har slutat stödja laddning av GGML, skulle en tillbakagång rikta sig mot programvara som inte längre existerar.
Hur man konverterar GGUF till BIN
Använd GGUF-filen direkt FREE
Ladda .gguf-filen i nuvarande llama.cpp, Ollama, LM Studio eller KoboldCpp; de läser alla GGUF infödda, så ingen .bin behövs.
Uppdatera verktyget som efterfrågade .bin OPEN-SOURCE
Bygg om eller uppgradera den gamla körtidsmiljön till en GGUF-kompatibel version istället för att nedgradera modellen.
Kvantisera om från originalvikterna OPEN-SOURCE
Om du verkligen behöver en specifik gammal artefakt, gå tillbaka till källans safetensors/PyTorch-vikter och kvantisera om, snarare än att konvertera GGUF-filen.
Om dessa format
En .gguf-fil är en GGML Universal Format-fil, den binära behållare som används av llama.cpp och relaterade verktyg för att lagra en stor språkmodell som en enda fil. Den innehåller…
Öppna detaljer för .GGUF →En BIN-fil är oftast en rå, sektor-för-sektor-kopia av en CD eller DVD som levereras med en matchande .cue-textfil som beskriver spåren. Montera den med PowerISO eller DAEMON Tools Lite…
Öppna detaljer för .BIN →Kvalitet & vad man bör tänka på
- Stöd för föråldrad GGML
.bintogs bort från llama.cpp, så även om du producerade en skulle den inte laddas i nuvarande versioner. - GGUF lagrar rikare metadata (tokenizer, arkitektur, hyperparametrar) som det gamla
.bin-formatet inte kan hantera, så en nedgradering skulle förlora information. - Filsuffixet
.binär generiskt; många.bin-filer är inte GGML överhuvudtaget, vilket är ytterligare en anledning till att mappningen är meningslös.
Vanliga frågor
Finns det en GGUF-till-GGML-konverterare?
convert-skript går bara från GGML till GGUF, och den vägen är nu också föråldrad.Varför ersattes GGML .bin av GGUF?
.bin-formatet hade.