llama.cpp

AI/ML

مخزن رسمی: ggml-org/llama-cpp

llama.cpp مدل‌های کوانتیزه را روی سخت‌افزار معمولی اجرا می‌کند؛ پایه Ollama و LM Studio و قهرمان AI روی‌دستگاهی.

مشاهده در گیت‌هاب

دکمه بالا لینک nofollow به مخزن رسمی است.