Waarom GGUF naar PTH converteren?
Mensen converteren .gguf naar .pth wanneer ze een model willen fine-tunen of opnieuw willen quantiseren in het PyTorch-ecosysteem, maar alleen de GGUF-build hebben. Een GGUF slaat metadata (zoals een configuratie) plus tensordata (zoals een state dict) op, dus het terugkoppelen naar een PyTorch state dict is mogelijk voor ondersteunde architecturen. Het is een herstelpad, geen verliesvrij pad.
Hoe GGUF naar PTH te converteren
gguf Python-bibliotheek + PyTorch OPEN-SOURCE
Installeer gguf en torch, loop vervolgens over GGUFReader(path).tensors, voer gguf.quants.dequantize() uit op elk element en gebruik torch.save(state_dict, "model.pth"). U moet GGUF-tensornamen terugkoppelen naar de originele sleutels van het model.
gguf_to_safetensors en dan converteren OPEN-SOURCE
Voer gguf_to_safetensors uit om te dequantiseren naar een .safetensors-bestand, laad dit vervolgens met safetensors.torch.load_file en sla het opnieuw op via torch.save() om een .pth te krijgen.
llama.cpp reverse tooling FREE
De gguf-reader van llama.cpp stelt de tensoren beschikbaar; script de dequantiseringsstap en schrijf een PyTorch state dict. Alleen architecturen die llama.cpp volledig ondersteunt, zullen correct converteren.
Over deze formaten
Een .gguf-bestand is een GGML Universal Format-bestand, de binaire container die wordt gebruikt door llama.cpp en gerelateerde tools om een groot taalmodel als één enkel bestand op te…
Open .GGUF details →Een .pth-bestand is meestal een Python-padconfiguratiebestand - een klein tekstbestand dat Python vertelt welke extra mappen aan het zoekpad voor modules moeten worden toegevoegd bij het…
Open .PTH details →Kwaliteit & waar op te letten
- Gequantiseerde GGUF-gewichten zijn lossy - dequantiseren geeft een benadering, nooit de originele FP16/FP32-waarden.
- Mapping van tensornamen is architectuurspecifiek; bij niet-ondersteunde modellen zal de mapping niet werken en mislukt de conversie.
- De resulterende
.pthis een kale state dict zonder modelklasse, dus u heeft nog steeds de bijbehorende PyTorch-modelcode nodig om deze te laden.
Veelgestelde vragen
Kan ik het originele model exact terugkrijgen?
Heb ik een GPU nodig?
Waarom produceert mijn conversie verkeerde tensornamen?
Wat is beter, .pth of .safetensors?
.safetensors is veiliger om te delen (geen uitvoering van pickle-code) en laadt sneller, maar .pth is het eigen PyTorch state-dict formaat voor training.