#ai #lama #meta #llm
Llama 3.1 405B Benchmarks (nieoficjalne) - model base-niedostrojony
820GB plik
Q4_K_S 230 GB
https://huggingface.co/mradermacher/Meta-Llama-3-405B-Instruct-Up-Merge-GGUF
Czyli można powiedzieć że niewiele to dało względem 70B
@zboinek Źle patrzysz. To obok to modele 3.1, które wypuszczą razem z 405B, a ty myślałeś, że obok to stara wersja 70B
@Vorlon2 dobrze patrze. 3.1 70 vs 405, mała różnica w benchmarku. Inna sprawa, że te benchmarki to mozna sobie w buty wsadzic
@Vorlon2 Czy to znaczy że mogę na własnym PC odpalić alternatywę dla GPT 4.0?
Wypacz głupie pytanie, ale LLM'y znam jedynie z nagłówków.
Zaloguj się aby komentować