なぜ GGUF を BIN に変換するのですか?
古いツールのために古い .bin が必要だと考える人もいますが、.bin GGML はメタデータや互換性の問題を修正した GGUF の登場により非推奨となりました。現在の llama.cpp ビルドでは GGML のロード機能が完全に削除されているため、逆行することはもはや存在しないソフトウェアを対象にすることになります。
GGUF から BIN への変換方法
GGUF ファイルを直接使用する FREE
現在の llama.cpp、Ollama、LM Studio、または KoboldCpp で .gguf をロードしてください。これらはすべてネイティブで GGUF を読み込むため、.bin は不要です。
.bin を要求するツールを更新する OPEN-SOURCE
モデルをダウングレードするのではなく、古いランタイムを GGUF 対応バージョンに再ビルドまたはアップグレードしてください。
元のウェイトから再量子化する OPEN-SOURCE
どうしても特定の古いアーティファクトが必要な場合は、GGUF を変換するのではなく、ソースの safetensors/PyTorch ウェイトに戻って再量子化を行ってください。
これらの形式について
.gguf ファイルは GGML Universal Format ファイルであり、llama.cpp や関連ツールが大規模言語モデルを単一のファイルとして保存するために使用するバイナリコンテナです。モデルの重み、トークナイザー、およびすべてのメタデータをまとめて保持し、通常は一般的なハードウェアでモデルが動作するように量子化されています。LM…
.GGUF の詳細を開く →BINファイルは、ほとんどの場合、CDまたはDVDのセクタ単位の未加工(RAW)コピーであり、トラック情報を記述した .cue テキストファイルとセットで提供されます。PowerISO や DAEMON Tools Lite でマウント(.bin ではなく .cue を指定)するか、AnyBurn や bchunk を使用して ISO…
.BIN の詳細を開く →品質と注意点
- レガシーな GGML
.binのサポートは llama.cpp から削除されたため、たとえ作成できたとしても現在のビルドではロードできません。 - GGUF は古い
.bin形式では保持できない豊富なメタデータ(トークナイザー、アーキテクチャ、ハイパーパラメータ)を保存しているため、ダウングレードすると情報が失われます。 .bin拡張子は汎用的なものです。多くの.binファイルは GGML ではありません。これもマッピングが無意味である理由の一つです。
よくある質問
GGUF から GGML へのコンバーターはありますか?
convert スクリプトは GGML から GGUF への変換のみを行い、そのパスも現在は非推奨です。なぜ GGML .bin は GGUF に置き換えられたのですか?
.bin 形式にあった互換性の問題を修正したためです。