GGUF SAFETENSORS
Dateikonvertierung

GGUF in SAFETENSORS konvertieren

SCHNELLE ANTWORT
Ist es möglich, GGUF in SAFETENSORS zu konvertieren?
Ja - GGUF lässt sich in SAFETENSORS konvertieren.

Verwenden Sie einen Konverter wie gguf_to_safetensors oder GGUF2Safetensors; dieser liest das GGUF mit der gguf-Bibliothek ein, konvertiert jeden Tensor auf F16 (oder BF16) hoch und schreibt .safetensors-Dateien. Erwarten Sie, dass die Ausgabe eine Annäherung an die ursprünglichen Gewichte ist, sofern das GGUF unter F16 quantisiert war.

Auch nach SAFETENSORS: PICKLE

Auf dieser Seite

Getestet auf macOS, Windows & Linux
Zuletzt verifiziert am Sep 2026

Weitere kostenlose Konverter

HEIC, PNG, WEBP, MP3 und mehr - jedes Tool hier ist kostenlos.

Toolbox öffnen

Warum GGUF in SAFETENSORS konvertieren?

Die Konvertierung von .gguf zu .safetensors ermöglicht es Ihnen, ein Modell wieder in Hugging Face Transformers oder Diffusers zu laden, es feinabzustimmen oder anders neu zu quantisieren. GGUF ist für die llama.cpp-Inferenz optimiert, während .safetensors das standardmäßige, Pickle-freie Format für das PyTorch/HF-Ökosystem ist. Beachten Sie, dass sehr aktuelle GGUF-Formatrevisionen nicht immer konvertierbar sind.

Wie man GGUF in SAFETENSORS konvertiert

gguf_to_safetensors OPEN-SOURCE

Führen Sie python gguf_to_safetensors.py --input model.gguf --output model.safetensors aus. Standardmäßig wird F16 verwendet; fügen Sie --bf16 für eine BF16-Ausgabe hinzu.

GGUF2Safetensors OPEN-SOURCE

Konvertiert GGUF-Gewichte im Arbeitsspeicher in PyTorch-Tensoren hoch und schreibt einen Hugging Face-Ordner mit .safetensors-Shards, der direkt mit Transformers verwendbar ist.

gguf library + safetensors FREE

Laden mit GGUFReader, Aufruf von gguf.quants.dequantize() pro Tensor, dann safetensors.torch.save_file(). Volle Kontrolle über Dtype und Sharding.

Über diese Formate

Qualität & worauf zu achten ist

  • Das Dequantisieren eines quantisierten GGUF (Q4/Q5/etc.) ist verlustbehaftet - die .safetensors-Datei wird nicht Bit für Bit mit dem Originalmodell übereinstimmen.
  • Neuere GGUF-Formatversionen können bei der Konvertierung fehlschlagen, da die Tools hinter den Änderungen in llama.cpp zurückbleiben.
  • Die Ausgabe erfolgt in F16/BF16 (oder F32), sodass die Dateigröße im Vergleich zum kompakten quantisierten GGUF erheblich ansteigt.

Häufig gestellte Fragen

Ist GGUF-zu-safetensors verlustfrei?
Nur wenn das GGUF in F16/F32 gespeichert wurde. Jede niedrigere Quantisierung wird nur näherungsweise dequantisiert und kann nicht exakt rückgängig gemacht werden.
Warum ist die Konvertierung meines aktuellen GGUF fehlgeschlagen?
GGUF entwickelt sich schnell weiter; einige Konverter sind auf ältere Revisionen fixiert und können neuere Dateien oder Quantisierungstypen nicht parsen.
Kann ich das Ergebnis in Hugging Face Transformers laden?
Ja, sofern Sie einen ordnungsgemäßen HF-Ordner erstellen (Konfiguration plus gesplittete .safetensors), was das Ziel von GGUF2Safetensors ist.
F16- oder BF16-Ausgabe?
BF16 bewahrt den Dynamikbereich bei großen Modellen besser; F16 wird universeller unterstützt. Wählen Sie passend zu Ihrem Trainings-Setup.