أتاحت نماذج اللغة الكبيرة مفتوحة المصدر الوصول إلى نماذج لغوية قادرة يمكن تشغيلها على بنية تحتية خاصة دون رسوم واجهات برمجة أو مشاركة بيانات. وضع Llama 3 وGemma 2 من Meta وGoogle معايير جديدة للقدرة مفتوحة الأوزان. تجعل Ollama تشغيل هذه النماذج محلياً بسيطاً بقدر أمر واحد، بينما توفر Together AI وGroq استدلالاً سحابياً للفرق التي تحتاج إلى نماذج مفتوحة على نطاق واسع. تستضيف Hugging Face منظومة النماذج مفتوحة المصدر، وتوفر vLLM محرك التشغيل عالي الإنتاجية الذي يدعم العديد من عمليات النشر.
1
4.9
2
4.8
3
4.8
4
4.8
5
4.7
6
4.7
7
4.6
8
4.5
9
4.5
10
4.4
11
4.3
12
4.0