Зачем конвертировать GGUF в BIN?
Некоторые полагают, что старый .bin нужен для устаревших инструментов, но .bin GGML был заменен на GGUF, в котором исправлены проблемы с метаданными и совместимостью. Поскольку текущие сборки llama.cpp полностью прекратили поддержку загрузки GGML, обратная конвертация была бы нацелена на ПО, которое больше не существует.
Способы конвертации GGUF в BIN
Использование файла GGUF напрямую FREE
Загрузите .gguf в текущих версиях llama.cpp, Ollama, LM Studio или KoboldCpp; все они нативно читают GGUF, поэтому .bin не требуется.
Обновление инструмента, требующего .bin OPEN-SOURCE
Пересоберите или обновите старую среду выполнения до версии, поддерживающей GGUF, вместо того чтобы понижать версию модели.
Повторное квантование из оригинальных весов OPEN-SOURCE
Если вам действительно нужен специфический старый артефакт, вернитесь к исходным весам safetensors/PyTorch и выполните квантование заново, вместо конвертации GGUF.
Об этих форматах
Файл .gguf - это файл формата GGML Universal Format, бинарный контейнер, используемый llama.cpp и сопутствующими инструментами для хранения больших языковых моделей в виде одного файла. Он…
Открыть детали .GGUF →
.BIN
CD/DVD Disc Image (BIN/CUE)
Файл BIN чаще всего представляет собой необработанную посекторную копию CD или DVD, которая поставляется вместе с сопутствующим текстовым файлом .cue, описывающим дорожки. Смонтируйте его с…
Открыть детали .BIN →Качество и на что обратить внимание
- Поддержка устаревшего GGML
.binбыла удалена из llama.cpp, поэтому даже если вы создадите такой файл, он не загрузится в современных сборках. - GGUF хранит более богатые метаданные (токенизатор, архитектура, гиперпараметры), которые старый формат
.binне может содержать, поэтому понижение версии приведет к потере информации. - Расширение
.binявляется общим; многие файлы.binвообще не являются GGML, что делает такое сопоставление бессмысленным.
Часто задаваемые вопросы
Существует ли конвертер GGUF в GGML?
convert в llama.cpp работают только в направлении из GGML в GGUF, и этот путь теперь тоже считается устаревшим.Почему GGML .bin был заменен на GGUF?
.bin.
