GGUF SAFETENSORS
Конвертация файлов

Конвертировать GGUF в SAFETENSORS

БЫСТРЫЙ ОТВЕТ
Возможно ли конвертировать GGUF в SAFETENSORS?
Да - GGUF конвертируется в SAFETENSORS.

Запустите конвертер, например gguf_to_safetensors или GGUF2Safetensors; он считывает GGUF с помощью библиотеки gguf, повышает точность каждого тензора до F16 (или BF16) и записывает файлы .safetensors. Ожидайте, что результат будет лишь аппроксимацией оригинальных весов, если GGUF был квантован ниже F16.

Также в SAFETENSORS: PICKLE

На этой странице

Протестировано на macOS, Windows и Linux
Последняя проверка: Nov 2026

Больше бесплатных конвертеров

HEIC, PNG, WEBP, MP3 и другие - все инструменты здесь бесплатны.

Открыть инструменты

Зачем конвертировать GGUF в SAFETENSORS?

Конвертация .gguf в .safetensors позволяет загрузить модель обратно в Hugging Face Transformers или diffusers, дообучить её или переквантовать по-другому. GGUF оптимизирован для инференса в llama.cpp, тогда как .safetensors является стандартным форматом без pickle для экосистемы PyTorch/HF. Обратите внимание, что самые последние ревизии формата GGUF не всегда поддаются конвертации.

Способы конвертации GGUF в SAFETENSORS

gguf_to_safetensors OPEN-SOURCE

Запустите python gguf_to_safetensors.py --input model.gguf --output model.safetensors. По умолчанию используется F16; добавьте --bf16 для вывода в BF16.

GGUF2Safetensors OPEN-SOURCE

Повышает точность весов GGUF до тензоров PyTorch в памяти и записывает папку Hugging Face с фрагментами .safetensors, пригодную для прямого использования с Transformers.

Библиотека gguf + safetensors FREE

Загрузите через GGUFReader, вызовите gguf.quants.dequantize() для каждого тензора, затем safetensors.torch.save_file(). Полный контроль над dtype и шардингом.

Об этих форматах

Качество и на что обратить внимание

  • Деквантование квантованного GGUF (Q4/Q5/и т.д.) происходит с потерями - .safetensors не будет побитово соответствовать оригинальной модели.
  • Новые версии формата GGUF могут не конвертироваться, так как инструментарий отстает от изменений в llama.cpp.
  • Результат сохраняется в F16/BF16 (или F32), поэтому размер файла значительно увеличивается по сравнению с компактным квантованным GGUF.

Часто задаваемые вопросы

Является ли конвертация GGUF в safetensors побитово точной?
Только если GGUF хранился в F16/F32. Любое более низкое квантование деквантуется приблизительно и не может быть точно обращено.
Почему мой недавний GGUF не конвертируется?
GGUF быстро развивается; некоторые конвертеры привязаны к старым ревизиям и не могут парсить новые файлы или типы квантования.
Могу ли я загрузить результат в Hugging Face Transformers?
Да, если вы создадите правильную папку HF (конфиг плюс шардированные .safetensors), на что и ориентирован GGUF2Safetensors.
Вывод в F16 или BF16?
BF16 лучше сохраняет динамический диапазон для больших моделей; F16 поддерживается более универсально. Выбирайте в соответствии с вашей средой обучения.