LLM โอเพนซอร์ส - ไดเรกทอรีพร้อมรีวิว AI

LLM โอเพนซอร์สได้ทำให้การเข้าถึงโมเดลภาษาที่มีความสามารถเป็นเรื่องที่ทุกคนเข้าถึงได้ โดยสามารถทำงานบนโครงสร้างพื้นฐานส่วนตัวได้โดยไม่มีค่าธรรมเนียม API หรือการแบ่งปันข้อมูล Llama 3 และ Gemma 2 จาก Meta และ Google ได้ตั้งมาตรฐานใหม่สำหรับความสามารถของโมเดลแบบเปิดน้ำหนัก Ollama ทำให้การรันโมเดลเหล่านี้แบบโลคัลง่ายเพียงคำสั่งเดียว ขณะที่ Together AI และ Groq ให้บริการการประมวลผลบนคลาวด์สำหรับทีมที่ต้องการโมเดลแบบเปิดในวงกว้าง Hugging Face เป็นที่รวมระบบนิเวศโมเดลโอเพนซอร์ส และ vLLM ให้เอนจินการให้บริการที่มีปริมาณงานสูงซึ่งขับเคลื่อนการใช้งานจำนวนมาก