Open-Source-LLMs - Verzeichnis mit KI-Bewertungen

Open-Source-LLMs haben den Zugang zu leistungsstarken Sprachmodellen demokratisiert, die auf privater Infrastruktur ohne API-Gebühren oder Datenweitergabe betrieben werden können. Llama 3 und Gemma 2 von Meta und Google haben neue Maßstäbe für Open-Weight-Leistung gesetzt. Ollama macht das lokale Ausführen dieser Modelle so einfach wie einen einzigen Befehl, während Together AI und Groq Cloud-Inferenz für Teams bereitstellen, die Open Models in großem Umfang benötigen. Hugging Face hostet das Open-Source-Modell-Ökosystem, und vLLM bietet die Hochdurchsatz-Serving-Engine, die viele Bereitstellungen antreibt.

Hugging Face 1 4.9 Hugging Face Freemium Kostenloser Tarif API Open Source Enterprise 3 Bewertungen Hugging Face ist die primäre Distributionsplattform für Open-Source-Großsprachmodelle und hostet Modelle von Meta (LLaMA), Mistral, Google, Microsoft und Tausenden von Community-Mitwirkenden. Seine Transformers-Bibliothek bietet eine einheitliche Schnittstelle zum Laden, Ausführen und Fine-Tunin Ollama 2 4.8 Ollama Kostenlos Kostenloser Tarif Open Source 2 Bewertungen Ollama ist das beliebteste Tool zum lokalen Ausführen von Open-Source-LLMs und bietet einfachen Zugang zu Modellen wie LLaMA, Mistral, Gemma, DeepSeek und vielen anderen. Es handhabt das Modelldownloading, die Quantisierung und die Hardware-Optimierung, wodurch Open-Source-Sprachmodelle für jeden Together AI 3 4.8 Together AI Kostenpflichtig API Enterprise 2 Bewertungen Together AI spezialisiert sich auf das Hosting und Serving von Open-Source-Sprachmodellen und bietet schnellen und kostengünstigen API-Zugriff auf Modelle von Meta, Mistral, DeepSeek und anderen Open-Source-Anbietern. Seine Plattform macht es einfach, Open-Source-LLMs auszuführen, zu vergleichen u vLLM 4 4.8 vLLM Kostenlos Kostenloser Tarif API Open Source 1 Bewertung vLLM ist eine hochdurchsatz-, speichereffiziente Inferenz-Engine zum Betrieb großer Sprachmodelle. Entwickelt an der UC Berkeley, nutzt es PagedAttention, um Speicherverschwendung dramatisch zu reduzieren und die Serving-Geschwindigkeit zu erhöhen. Dies macht es zu einem der schnellsten Open-Sourc Text Generation Web UI 5 4.7 Text Generation Web UI Kostenlos Kostenloser Tarif API Open Source 1 Bewertung Text Generation Web UI (üblicherweise oobabooga genannt) ist eine beliebte quelloffene Gradio-basierte Schnittstelle zum lokalen Ausführen großer Sprachmodelle. Sie unterstützt eine breite Palette von Model Loadern, darunter GPTQ, GGUF, AWQ und ExLlamaV2, und bietet Funktionen wie Chat-Modus, No LocalAI 6 4.7 LocalAI Kostenlos Kostenloser Tarif API Open Source 2 Bewertungen LocalAI ist eine kostenlose, quelloffene Alternative zur OpenAI-API, die vollständig auf Consumer-Hardware ohne GPU ausgeführt wird. Es bietet eine OpenAI-kompatible REST-API zum lokalen Ausführen von LLMs, Bildgenerierung, Audiotranskription und Embeddings. LocalAI unterstützt Dutzende von Mode Jan 7 4.6 Jan Kostenlos Kostenloser Tarif API Open Source 2 Bewertungen Jan ist eine quelloffene Desktop-Anwendung zum lokalen Ausführen großer Sprachmodelle auf Mac, Windows und Linux. Sie bietet eine saubere ChatGPT-ähnliche Schnittstelle für Offline-KI-Konversationen, unterstützt beliebte Modellformate wie GGUF und beinhaltet einen integrierten Model Hub zum Her Groq 8 4.5 Groq Freemium Kostenloser Tarif API Enterprise 3 Bewertungen Groq serviert beliebte Open-Source-Sprachmodelle, darunter LLaMA, Mistral, Mixtral und Gemma, über seine ultraschnelle Inferenzplattform. Seine LPU-Hardware ermöglicht es diesen Open-Source-Modellen, mit dramatisch schnelleren Geschwindigkeiten als traditionelle GPU-Infrastruktur zu laufen, was si Replicate 9 4.5 Replicate Kostenpflichtig API Enterprise 2 Bewertungen Replicate hostet und bedient viele beliebte Open-Source-Sprachmodelle und ermöglicht es Entwicklern, Modelle wie LLaMA, Mistral und andere Community-Modelle über eine einfache API auszuführen, ohne GPU-Infrastruktur verwalten zu müssen. Die Plattform macht Open-Source-LLMs für Entwickler zugän Meta Llama 10 4.4 Meta Llama Kostenlos Kostenloser Tarif Open Source 1 Bewertung Meta Llama ist Metas Familie von Open-Source-Sprachmodellen, die zum Fundament des offenen KI-Ökosystems geworden sind. Llama-Modelle sind in mehreren Größen und Konfigurationen verfügbar, können frei heruntergeladen, fine-getuned und zu kommerziellen Zwecken bereitgestellt werden. Die Llama-Fa Whisper 11 4.3 Whisper Kostenlos Kostenloser Tarif API Open Source 2 Bewertungen Obwohl technisch gesehen eher ein Sprachmodell als ein Sprachmodell, ist Whisper eine der bedeutendsten Open-Source-KI-Veröffentlichungen von OpenAI unter der MIT-Lizenz. Seine offene Verfügbarkeit hat ein ganzes Ökosystem von Derivative-Tools und optimierten Implementierungen ermöglicht, was es Mistral AI 12 4.0 Mistral AI Freemium Kostenloser Tarif API Open Source Enterprise 1 Bewertung Mistral AI ist ein französisches KI-Unternehmen, das offene und kommerzielle große Sprachmodelle entwickelt, die Effizienz, Leistung und europäische KI-Souveränität betonen. Die Modelle reichen von kompakten Open-Source-Optionen bis zu leistungsstarken proprietären Angeboten mit starken mehrsp