FastMTP:腾讯开源的大语言模型推理加速技术
FastMTP是由腾讯BAC团队开发的一种针对大语言模型(LLM)的高效推理加速技术,旨在通过增强多token预测(Multi-Token Prediction, MTP)能力来显著提升大语言模型的推理速度...
FastMTP是由腾讯BAC团队开发的一种针对大语言模型(LLM)的高效推理加速技术,旨在通过增强多token预测(Multi-Token Prediction, MTP)能力来显著提升大语言模型的推理速度...
在众多新兴AI编程工具中,Trae CN、Lingma IDE 和 Cursor 凭借其独特的智能化功能脱颖而出,成为当前备受关注的三大AI开发平台。相较于传统IDE(如VS Code、IDEA),它们在...
Translation Agent是由吴恩达其合作者开发的一款开源Python工具,核心依托大语言模型(LLM)构建智能体(agentic)反射工作流,实现机器翻译功能。不同于传统机器翻译系统直...
Nanobrowser是一款开源的AI网页自动化工具,以浏览器扩展程序的形式运行,作为OpenAI Operator的免费替代方案,它打破了传统网页自动化工具的局限,通过创新的多代理系统和...
SQLBot是一款基于大模型和RAG技术开发的开源智能问数系统,旨在通过自然语言交互的方式实现高质量的文本转SQL(text2sql)功能。它能够让用户无需掌握复杂的SQL语法,只需用...
FireRedTTS-2是一款开源的文本转语音(TTS)系统,专注于多角色对话场景下的长格式语音生成。该系统采用先进的深度学习架构,能够生成自然流畅的语音,同时支持多个说话人之...
DeepResearch是由阿里巴巴通义实验室(Tongyi Lab)开发的开源项目,专注于构建长周期、深度信息检索任务的智能代理模型。该项目旨在通过先进的人工智能技术,实现自动化的...
Bytebot是一个开源的AI桌面代理(Open-Source AI Desktop Agent),它为AI提供了一个完整的计算机环境来执行各种任务。与仅运行在浏览器中的代理或传统的RPA工具不同,Byte...
PromptEnhancer是一款由腾讯混元团队开发的开源提示词优化工具,它基于"思维链(Chain-of-Thought)"提示词重写方法,致力于对输入的提示词进行重构,在完整保留原始意图的...
RustGPT是一个完全基于Rust编程语言实现的大型语言模型(LLM)开源项目,该项目的核心目标是展示如何在不依赖任何外部机器学习框架的情况下,仅使用Rust生态中的ndarray库进...
