Hvorfor konvertere GGUF til BIN?
Nogle antager, at en ældre .bin er nødvendig til et ældre værktøj, men .bin GGML blev udfaset til fordel for GGUF, som løste problemer med metadata og kompatibilitet. Da nuværende llama.cpp-builds helt har fjernet indlæsning af GGML, ville en bagudgående konvertering være rettet mod software, der ikke længere eksisterer.
Sådan konverterer du GGUF til BIN
Brug GGUF-filen direkte FREE
Indlæs .gguf i den nuværende llama.cpp, Ollama, LM Studio eller KoboldCpp; de læser alle GGUF indfødt, så ingen .bin er nødvendig.
Opdater værktøjet, der bad om .bin OPEN-SOURCE
Genbyg eller opgrader den gamle runtime til en GGUF-kompatibel version i stedet for at nedgradere modellen.
Gen-kvantisér fra de originale vægte OPEN-SOURCE
Hvis du virkelig har brug for en specifik gammel artefakt, skal du gå tilbage til kildens safetensors/PyTorch-vægte og gen-kvantisere i stedet for at konvertere fra GGUF.
Om disse formater
En .gguf-fil er en GGML Universal Format-fil, den binære container, der bruges af llama.cpp og relaterede værktøjer til at gemme en stor sprogmodel som en enkelt fil. Den indeholder…
Åbn .GGUF detaljer →En BIN-fil er oftest en rå, sektor-for-sektor kopi af en CD eller DVD, der leveres sammen med en tilhørende .cue-tekstfil, som beskriver sporene. Monter den med PowerISO eller DAEMON Tools…
Åbn .BIN detaljer →Kvalitet & hvad man skal være opmærksom på
- Understøttelse af forældet GGML
.binblev fjernet fra llama.cpp, så selvom du producerede en, ville den ikke kunne indlæses i nuværende builds. - GGUF gemmer rigere metadata (tokenizer, arkitektur, hyperparametre), som det gamle
.bin-format ikke kan indeholde, så en nedgradering ville medføre tab af information. - En
.bin-filendelse er generisk; mange.bin-filer er slet ikke GGML, hvilket er endnu en grund til, at mappingen er meningsløs.
Ofte stillede spørgsmål
Findes der en GGUF-til-GGML-konverter?
convert-scripts går kun fra GGML til GGUF, og den vej er nu også forældet.Hvorfor blev GGML .bin erstattet af GGUF?
.bin-format havde.