llama.cpp
llama.cpp bereikt versie 1.0 met een stabiele API
llama.cpp en ggml staan op versie 1.0. Ontwikkelaars krijgen een vaste API en semantische versienummers, plus FP8-caches en een spraakendpoint.
llama.cpp en ggml staan op versie 1.0. Ontwikkelaars krijgen een vaste API en semantische versienummers, plus FP8-caches en een spraakendpoint.