本地LLM选型

llmfit：开源本地大模型硬件适配评估工具，自动筛选可流畅运行的LLM

llmfit 是由 AlexsJones 开发的开源跨平台终端工具，基于Rust开发，用于检测本地硬件资源，自动筛选适配本机硬件条件的大语言模型，解决本地部署大模型时盲目下载模型引发内...