GGUF PTH
Dateikonvertierung

GGUF in PTH konvertieren

SCHNELLE ANTWORT
Ist es möglich, GGUF in PTH zu konvertieren?
Ja - GGUF lässt sich in PTH konvertieren.

Verwenden Sie ein Python-Skript, das auf dem GGUFReader der gguf-Bibliothek und dequantize() basiert, um jeden Tensor zu lesen, ihn auf F32/F16 hochzustufen, die Namen auf ihre ursprünglichen PyTorch-Schlüssel umzumappen und torch.save() aufzurufen. Der Haken: Ein GGUF, das quantisiert wurde (Q4, Q5 usw.), erhält nie die verlorene Präzision zurück, sodass die resultierenden Gewichte dequantisierte Näherungen und nicht das Originalmodell sind.

Auf dieser Seite

Getestet auf macOS, Windows & Linux
Zuletzt verifiziert am Sep 2026

Weitere kostenlose Konverter

HEIC, PNG, WEBP, MP3 und mehr - jedes Tool hier ist kostenlos.

Toolbox öffnen

Warum GGUF in PTH konvertieren?

Benutzer konvertieren .gguf nach .pth, wenn sie ein Modell im PyTorch-Ökosystem feinabstimmen oder neu quantisieren möchten, aber nur den GGUF-Build besitzen. Ein GGUF speichert Metadaten (wie eine Konfiguration) plus Tensordaten (wie ein State-Dict), sodass das Mapping zurück zu einem PyTorch-State-Dict für unterstützte Architekturen möglich ist. Es ist ein Wiederherstellungspfad, kein verlustfreier.

Wie man GGUF in PTH konvertiert

gguf Python-Bibliothek + PyTorch OPEN-SOURCE

Installieren Sie gguf und torch, iterieren Sie dann über GGUFReader(path).tensors, führen Sie gguf.quants.dequantize() auf jedem aus und nutzen Sie torch.save(state_dict, „model.pth“). Sie müssen die GGUF-Tensornamen wieder auf die ursprünglichen Schlüssel des Modells ummappen.

gguf_to_safetensors, dann konvertieren OPEN-SOURCE

Führen Sie gguf_to_safetensors aus, um in eine .safetensors-Datei zu dequantisieren, laden Sie diese dann mit safetensors.torch.load_file und speichern Sie sie erneut über torch.save(), um eine .pth zu erhalten.

llama.cpp Reverse-Tooling FREE

Der gguf-Reader von llama.cpp macht die Tensoren zugänglich; skripten Sie den Dequantisierungsschritt und schreiben Sie ein PyTorch-State-Dict. Nur Architekturen, die llama.cpp vollständig unterstützt, lassen sich so umwandeln.

Über diese Formate

Qualität & worauf zu achten ist

  • Quantisierte GGUF-Gewichte sind verlustbehaftet - die Dequantisierung liefert eine Annäherung, niemals die ursprünglichen FP16/FP32-Werte.
  • Das Mapping der Tensornamen ist architekturspezifisch; nicht unterstützte Modelle werden nicht umgemappt und die Konvertierung schlägt fehl.
  • Die ausgegebene .pth ist ein reines State-Dict ohne Modellklasse, daher benötigen Sie weiterhin den passenden PyTorch-Modellcode, um sie zu laden.

Häufig gestellte Fragen

Kann ich das Originalmodell exakt wiederherstellen?
Nein, wenn das GGUF quantisiert war. Die Dequantisierung rekonstruiert Tensoren mit voller Präzision aus verlustbehafteten Daten, sodass kleine numerische Differenzen bestehen bleiben.
Benötige ich eine GPU?
Nein. Das Lesen und Dequantisieren von Tensoren erfolgt auf der CPU; eine GPU hilft nur, wenn Sie das Modell später verwenden.
Warum erzeugt meine Konvertierung falsche Tensornamen?
Das Namens-Mapping erfolgt pro Architektur. Wenn das Modell nicht in der Mapping-Tabelle des Skripts enthalten ist, stimmen die Schlüssel nicht mit PyTorch überein und das Laden schlägt fehl.
Was ist besser, .pth oder .safetensors?
.safetensors ist sicherer beim Teilen (keine Ausführung von Pickle-Code) und lädt schneller, aber .pth ist das native PyTorch-State-Dict-Format für das Training.