Shimmy:轻量 OpenAI 兼容服务器,本地 LLM 推理无依赖高性能
Shimmy 是一款基于 Rust 开发的轻量级 OpenAI API 兼容服务器,专注于本地大语言模型(LLM)推理。它以 “无依赖、高性能、隐私优先” 为核心优势,提供 100% 兼容 OpenAI ...
Shimmy 是一款基于 Rust 开发的轻量级 OpenAI API 兼容服务器,专注于本地大语言模型(LLM)推理。它以 “无依赖、高性能、隐私优先” 为核心优势,提供 100% 兼容 OpenAI ...
Kimi CLI是Moonshot AI开发的开源命令行AI代理工具,旨在通过自然语言交互简化终端操作与软件开发任务。它支持类Shell交互、Zsh集成、多工具链调用(文件操作、网络搜索等)...
ViNote 是一款开源的 AI 视频处理工具,核心定位是 “视记 AI・让每个视频成为你的知识资产”。它支持 YouTube、Bilibili 等主流平台视频的解析,通过 AI 技术实现音频转录...
Windows-MCP(Windows Model Context Protocol) 一款可实现AI大模型与Windows系统的直接交互,将自然语言指令转化为实际的系统操作,无论是启动应用、调整窗口还是文本输入...
VitaBench 是一款由美团与 Sierra Research 联合开发的开源基准测试框架,专为评估大型语言模型(LLM)智能体在真实生活服务场景中的综合能力而设计。该框架通过模拟外卖、...
英伟达CUDA凭借20年技术沉淀构建了全球最大的AI开发者生态,AMD ROCm通过开源协议与跨平台兼容性开辟差异化路径,华为CANN则依托自主硬件体系与软硬协同优化实现国产化突围...
Fooocus 作为一款开源、本地化部署的AI图像生成软件,凭借其简洁直观的界面和强大的图像生成能力,迅速在创作者中掀起热潮。它脱胎于Stable Diffusion技术体系,却以“开箱...
DiaMoE-TTS 是由巨人网络联合清华大学开发的开源多方言文本到语音(TTS)框架,该框架基于 F5-TTS 架构扩展,通过统一国际音标(IPA)前端实现跨方言语音表示标准化,结合混...
Kandinsky 5.0是由ai-forever团队开源的扩散模型家族,核心聚焦视频生成(图像生成待上线),已开源的Kandinsky 5.0 T2V Lite(2B参数)在同类开源模型中排名第一,不仅优于...
dInfer 是蚂蚁集团开源的针对扩散语言模型(dLLMs)的高效可扩展推理框架,该框架通过模块化设计将推理流程拆解为模型、扩散迭代管理器、解码策略、KV 缓存管理四大组件,支...
