Hvorfor konvertere GGUF til BIN?
Noen antar at en eldre .bin er nødvendig for et eldre verktøy, men .bin GGML ble faset ut til fordel for GGUF, som løste problemer med metadata og kompatibilitet. Siden nåværende versjoner av llama.cpp har fjernet støtte for lasting av GGML helt, ville en bakoverkonvertering vært rettet mot programvare som ikke lenger eksisterer.
Hvordan konvertere GGUF til BIN
Bruk GGUF-filen direkte FREE
Last .gguf-filen i nåværende llama.cpp, Ollama, LM Studio eller KoboldCpp; alle disse leser GGUF naturlig, så ingen .bin er nødvendig.
Oppdater verktøyet som krevde .bin OPEN-SOURCE
Bygg om eller oppgrader det gamle kjøretidsmiljøet til en GGUF-kompatibel versjon i stedet for å nedgradere modellen.
Re-kvantiser fra de originale vektene OPEN-SOURCE
Hvis du virkelig trenger en spesifikk gammel fil, gå tilbake til kilden (safetensors/PyTorch-vekter) og gjør en ny kvantisering, i stedet for å konvertere fra GGUF.
Om disse formatene
En .gguf-fil er en GGML Universal Format-fil, den binære beholderen som brukes av llama.cpp og relaterte verktøy for å lagre en stor språkmodell som en enkelt fil. Den inneholder…
Åpne .GGUF-detaljer →En BIN-fil er som oftest en rå, sektor-for-sektor-kopi av en CD eller DVD som leveres med en tilhørende .cue-tekstfil som beskriver sporene. Monter den med PowerISO eller DAEMON Tools Lite…
Åpne .BIN-detaljer →Kvalitet og hva du bør passe på
- Støtte for eldre GGML
.binble fjernet fra llama.cpp, så selv om du produserte en, ville den ikke kunne lastes i moderne bygg. - GGUF lagrer rikere metadata (tokenizer, arkitektur, hyperparametre) som det gamle
.bin-formatet ikke kan inneholde, så en nedgradering ville føre til tap av informasjon. - En
.bin-filendelse er generisk; mange.bin-filer er ikke GGML i det hele tatt, noe som er en annen grunn til at denne koblingen er meningsløs.
Ofte stilte spørsmål
Finnes det en GGUF-til-GGML-konverterer?
convert-skript går bare fra GGML til GGUF, og den metoden er nå også foreldet.Hvorfor ble GGML .bin erstattet av GGUF?
.bin-formatet hadde.