オープンソースLLMは、API利用料やデータ共有なしにプライベートなインフラ上で稼働できる高性能な言語モデルへのアクセスを民主化しました。MetaとGoogleのLlama 3とGemma 2は、オープンウェイトの能力において新たなベンチマークを打ち立てました。Ollamaはこれらのモデルをローカルで実行することを単一のコマンドのように簡単にし、Together AIとGroqは大規模にオープンモデルを必要とするチーム向けにクラウド推論を提供します。Hugging Faceはオープンソースモデルのエコシステムをホストし、vLLMは多くの展開を支える高スループットの提供エンジンを提供します。
1
4.9
2
4.8
3
4.8
4
4.8
5
4.7
6
4.7
7
4.6
8
4.5
9
4.5
10
4.4
11
4.3
12
4.0