Åpen kildekode-LLM-er - Katalog med AI-anmeldelser

Åpen kildekode-LLM-er har demokratisert tilgangen til dyktige språkmodeller som kan kjøres på privat infrastruktur uten API-gebyrer eller datadeling. Llama 3 og Gemma 2 fra Meta og Google har satt nye standarder for kapasitet med åpne vekter. Ollama gjør det like enkelt å kjøre disse modellene lokalt som en enkelt kommando, mens Together AI og Groq tilbyr skyinferens for team som trenger åpne modeller i stor skala. Hugging Face er vert for økosystemet av åpen kildekode-modeller, og vLLM tilbyr serveringsmotoren med høy gjennomstrømning som driver mange utrullinger.