RedKnot:小红书开源的长上下文LLM推理优化工具,分头KV缓存加速长文本服务
RedKnot 是小红书AI Infra团队开源、面向长上下文大模型推理服务的高性能优化扩展方案。项目基于SGLang推理引擎做注意力层扩展,兼容SGLang全部原生能力。
RedKnot 是小红书AI Infra团队开源、面向长上下文大模型推理服务的高性能优化扩展方案。项目基于SGLang推理引擎做注意力层扩展,兼容SGLang全部原生能力。
RubyLLM是开源Ruby Gem库,统一封装OpenAI、Gemini、Ollama、DeepSeek等全主流大模型接口,支持对话、多模态、AI Agent、RAG向量,原生适配Rails。
Hiring Agent是HackerRank开源Python简历打分流水线,支持Ollama本地/Gemini云端大模型,自动抓取GitHub履历,输出可溯源技术候选人评分报告,适用于技术岗批量简历初筛、私...
Google Labs开源DESIGN.md标准,单文件融合机器可读设计Token与人工设计说明,配套完整CLI实现校验、对比、导出,解决AI生成UI视觉不统一问题,兼容W3C DTCG与Tailwind,适...
OpenSEO是MIT开源轻量化SEO工具,无月度订阅仅按量付费,支持Docker、Cloudflare私有化部署,内置MCP协议对接Claude/Codex,覆盖关键词调研、排名追踪、外链分析、AI品牌曝...
Persona是开源、原生Vanilla JS开发的AI聊天Widget,无需绑定React/Vue,支持流式对话、工具调用、语音交互、多布局,兼容OpenAI、LangGraph、Vercel Eve等主流后端,提供脚...
peerd是Apache2.0开源MV3浏览器AI智能体框架,本地加密存储密钥,内置Linux虚拟机沙箱,支持Ollama本地大模型、网页自动化,预览版自带WebRTC P2P分布式协同,保护网页隐私...
PhoneBuddy 是腾讯混元团队联合港中深、人大、武大等高校联合推出的开源手机智能代理(Phone-use Agent)混合强化学习训练框架,独创真机 + 仿真混合 RL 训练方案,配套 Ph...
Confucius4-TTS是网易有道推出基于LLM架构的开源跨语种零样本语音合成引擎,支持14种语言免参考文本音色克隆、无口音跨语种语音迁移、音频情感同步复刻,提供在线Gradio演示...
Penpot是西班牙团队Kaleidos打造、开源免费、支持私有化部署的浏览器端UI设计与原型协作平台,对标Figma,项目底层以SVG作为原生存储格式,布局系统原生兼容CSS Flex、CSS ...
FastContext是微软开源专用代码检索子Agent,支持并行仓库检索、精简上下文输出,配套SWE-bench评测与专用检索模型,可集成AI编程助手、自动化代码修复工具,附完整使用教程...
SpatialClaw是NVIDIA NVlabs联合KAIST AI开源发布、面向视觉语言模型(VLM)的免训练空间推理智能体框架,整套框架无需微调任何视觉语言模型,统一提示词、工具集、超参数即...
Xiaomi Miloco 2.0 是小米公司最新开源的本地全屋AI智能体,以自研MiMo多模态大模型为核心大脑,依托米家摄像头完成全屋视觉、音频全模态感知,通过OpenClaw智能体插件标...
jcode 是开源、纯 Rust 开发的下一代编码智能体运行框架(Coding Agent Harness),它并非简单大模型套壳工具,而是一套完整底层运行基座,专门解决 AI 编码智能体内存占用...
LOGOS 是阿里联合人大高瓴 AI 学院推出的多领域统一科学生成基础模型,依托统一科学语法实现逆合成、蛋白口袋识别、配体设计、新材料生成四大科研任务,无需 3D 几何网络,...