Dlaczego konwertować GGUF na BIN?
Niektórzy zakładają, że starszy plik .bin jest potrzebny dla przestarzałych narzędzi, ale .bin GGML został wycofany na rzecz GGUF, który naprawił problemy z metadanymi i kompatybilnością. Ponieważ obecne wersje llama.cpp całkowicie porzuciły ładowanie GGML, powrót wstecz byłby celowaniem w oprogramowanie, które już nie istnieje.
Jak przekonwertować GGUF na BIN
Użyj pliku GGUF bezpośrednio FREE
Załaduj .gguf w aktualnej wersji llama.cpp, Ollama, LM Studio lub KoboldCpp; wszystkie one czytają GGUF natywnie, więc plik .bin nie jest potrzebny.
Zaktualizuj narzędzie wymagające .bin OPEN-SOURCE
Zbuduj ponownie lub zaktualizuj stare środowisko uruchomieniowe do wersji obsługującej GGUF, zamiast degradować model.
Wykonaj ponowną kwantyzację z oryginalnych wag OPEN-SOURCE
Jeśli naprawdę potrzebujesz konkretnego starego artefaktu, wróć do źródłowych wag safetensors/PyTorch i wykonaj kwantyzację ponownie, zamiast konwertować GGUF.
O tych formatach
Plik .gguf to plik formatu GGML Universal Format, binarny kontener używany przez llama.cpp i powiązane narzędzia do przechowywania dużych modeli językowych w pojedynczym pliku. Zawiera on…
Otwórz szczegóły .GGUF →Plik BIN to najczęściej surowa kopia sektora po sektorze płyty CD lub DVD, dostarczana wraz z pasującym plikiem tekstowym .cue opisującym ścieżki. Zamontuj go za pomocą PowerISO lub DAEMON…
Otwórz szczegóły .BIN →Jakość i na co uważać
- Obsługa starego formatu GGML
.binzostała usunięta z llama.cpp, więc nawet jeśli go wygenerujesz, nie załaduje się on w obecnych wersjach. - GGUF przechowuje bogatsze metadane (tokenizator, architekturę, hiperparametry), których stary format
.binnie może pomieścić, więc degradacja spowodowałaby utratę informacji. - Rozszerzenie
.binjest ogólne; wiele plików.binto w ogóle nie GGML, co jest kolejnym powodem, dla którego takie mapowanie jest bezcelowe.
Najczęściej zadawane pytania
Czy istnieje konwerter GGUF na GGML?
convert w llama.cpp działają tylko w stronę z GGML na GGUF, a ta ścieżka jest już również przestarzała.Dlaczego GGML .bin został zastąpiony przez GGUF?
.bin.