LazyCraft:基于 LazyLLM 的开源 AI Agent 应用开发与管理平台

原创 发布日期:
8

一、LazyCraft是什么?

LazyCraft是一款基于LazyLLM构建的开源AI Agent应用开发与管理平台,核心定位是“降低AI应用开发门槛、降低落地成本、提升迭代效率”。无论是缺乏专业开发经验的非技术人员,还是需要快速验证想法的技术团队,都能通过该平台快速搭建各类AI应用,并实现从原型到生产部署的全流程闭环管理。

从本质来看,LazyCraft并非单一功能工具,而是一套“AI应用研发生态系统”——它整合了大模型服务、资源管理、应用编排、部署发布、监控运维等核心能力,打破了传统AI应用开发中“模型选型、代码开发、部署上线、效果优化”各环节脱节的问题。用户无需关注底层技术实现,仅通过可视化操作、组件化拼接即可完成AI应用构建,同时支持深度自定义配置,满足从简单工具到复杂业务系统集成的多样化需求。

平台的核心价值体现在三个维度:一是低门槛接入,通过可视化画布与内置模板,让非开发者也能快速上手;二是全流程覆盖,从应用创建到监控分析的完整链路支持,无需依赖第三方工具;三是高灵活性,可插拔架构与自定义配置能力,适配不同行业、不同场景的个性化需求。无论是快速搭建一个文献综述生成工具,还是为企业业务系统集成AI问答功能,LazyCraft都能提供高效的解决方案。

二、功能特色

LazyCraft的功能体系围绕“全流程、高灵活、易操作”三大核心设计,既覆盖AI应用开发的基础需求,也提供深度定制化能力,具体可分为“平台核心特点”与“核心功能模块”两部分:

(一)平台核心特点

  1. 全流程闭环研发链路
    从应用创建、调试、发布,到上线后的监控运维与Bad Case分析,LazyCraft完整覆盖AI应用研发的全生命周期。用户无需在多个工具间切换,即可完成“想法验证→原型开发→效果优化→生产部署”的全流程操作,大幅缩短迭代周期,支持快速将AI想法转化为可用产品。

  2. 灵活可插拔架构
    平台核心模块(如向量库、RAG策略、模型服务、数据解析组件等)均支持替换与扩展。用户可根据业务需求选择适配的向量库,自定义知识库的离线解析策略与在线召回策略,甚至替换核心功能模块,无需修改整体架构即可满足差异化场景需求(如科研场景的文献解析、企业场景的私有知识库管理等)。

(二)核心功能模块

1. 应用搭建:可视化+模板化,快速上手无压力

应用搭建是LazyCraft的核心功能之一,主打“低代码、组件化”,让用户无需复杂编码即可构建AI应用:

  • 可视化组件画布:提供拖拽式操作界面,用户可通过拼接“模型调用、知识库检索、工具调用、Prompt模板”等组件,快速搭建应用逻辑,实时调试效果。

  • 内置应用模板:平台预置多种高频场景应用模板(如数据洞察师、文献综述生成器、代码理解助手等),用户可直接复用模板,或基于模板进行二次修改,大幅降低上手成本。

  • 全流程调试支持:提供实时日志查看、步骤断点调试功能,用户可清晰查看应用运行过程中的每一步输出,快速定位并修复问题。

2. 全面的模型服务:多厂商+全流程,灵活适配算力环境

LazyCraft整合了丰富的模型资源与全流程模型管理能力,彻底打破“仅能用在线模型”的限制:

  • 多厂商模型集成:支持接入多家模型厂商的本地与在线模型服务,覆盖全场景需求:

    • 基础大语言模型(文本生成、对话交互);

    • 多模态模型(图文理解、文生图、语音转文字、文字转语音);

    • 专项模型(向量模型、OCR文字识别)。

  • 模型全流程管理:支持“推理→微调→评测”的完整流程,用户可直接使用在线模型进行推理,也可基于自有数据集进行模型微调,通过内置评测工具验证效果后,无缝切换至生产环境。

  • 本地+在线混合部署:支持本地GPU部署模型(需配置相关服务),也可直接调用在线模型API,灵活适配不同算力条件,平衡效果与成本。

3. 资源创建与管理:全类型支持,满足多样化需求

平台提供完善的资源管理功能,覆盖AI应用开发所需的核心资源类型,支持从创建、编辑到优化的全生命周期管理:

资源类型 核心功能 支持格式/特性
Prompt管理 创建/编辑提示词、内置模板库、AI辅助编写 支持自定义变量、模板复用、实时预览效果
知识库 文档摄入、解析、检索、重排,自定义RAG策略与多路召回 PDF、Word、PPT、Excel、CSV、TXT、JSON、HTML、Markdown、LaTeX
工具与MCP 自定义工具创建、API接入、画布直接调用 支持外部API集成、IDE代码编写(安全限制内)、工具调用流程可视化编排
数据集 数据导入、版本管理、清洗、增强、标注 支持JSON、CSV、TXT格式导入,内置模板下载、多版本对比
  • RAG策略自定义:用户可灵活配置知识库的检索逻辑,包括离线解析策略(如文档分片大小、嵌入模型选择)与在线召回策略(如多路召回规则、重排算法),解决传统知识库“不好用还不能改”的痛点。

  • 资源联动能力:所有资源支持跨应用复用,例如创建的Prompt模板可在多个应用中调用,知识库可关联至不同AI应用的检索环节,提升资源利用率。

4. 多租户管理:企业级安全与合规,适配团队协作

LazyCraft具备完善的多租户与权限管理能力,满足企业级团队协作与合规需求:

  • 多租户/多工作空间:支持创建多个独立工作空间,不同团队或项目组可在专属空间内开展工作,数据与资源相互隔离。

  • 精细化权限控制:支持按角色分配权限(如管理员、开发者、普通用户),控制资源查看、编辑、发布等操作权限,同时提供API Key管理功能,便于集成第三方系统时的权限管控。

  • 日志与审计:内置完整的操作日志与审计功能,记录所有用户的关键操作(如应用发布、资源修改、权限变更),满足企业安全合规要求。

5. API发布:标准化接口,无缝集成业务系统

平台支持将构建完成的AI应用快速发布为标准化API,无需额外开发适配代码:

  • 提供统一的API调用规范,支持HTTP请求方式,便于各类业务系统集成;

  • 发布过程自动化,用户仅需在平台内完成“发布配置”(如API名称、调用权限),即可生成可直接调用的API地址;

  • 支持API调用监控,可查看调用量、响应时间、错误率等指标,便于优化性能。

三、技术细节

LazyCraft的技术设计围绕“稳定性、灵活性、易用性”三大目标,采用成熟的技术架构与解决方案,确保平台在不同场景下的高效运行:

(一)架构设计:前后端分离+可插拔核心模块

  1. 整体架构:采用前后端分离架构,前端负责可视化交互,后端提供核心业务逻辑与API服务,通过标准化接口通信,便于独立迭代与维护:

    • 前端:聚焦用户交互体验,实现可视化组件画布、资源管理界面、监控仪表盘等功能,支持响应式设计,适配不同设备;

    • 后端:核心业务层包括应用编排引擎、模型服务网关、资源管理模块、权限控制模块、API发布模块等,通过模块化设计确保低耦合、高内聚。

  2. 可插拔核心模块:平台核心能力(如模型接入、向量库适配、RAG策略、数据解析)均设计为可插拔模块,用户可通过配置文件或插件形式替换模块实现,例如:

    • 向量库适配模块:支持切换Milvus、Chroma、FAISS等主流向量库;

    • RAG策略模块:可自定义检索与重排算法,无需修改应用编排逻辑;

    • 模型接入模块:支持扩展新增模型厂商的接入适配。

(二)部署技术:Docker容器化,简化部署流程

LazyCraft采用Docker容器化部署方案,大幅降低环境配置复杂度,确保跨平台一致性:

  • 基于Docker Compose实现服务编排,整合前端、后端、数据库、缓存等依赖服务,一键启动;

  • 支持环境变量灵活配置,例如可修改平台登录地址(WEB_CONSOLE_ENDPOINT),适配域名部署场景;

  • 支持本地GPU资源调用,通过修改Docker Compose配置文件即可启用本地模型微调与推理服务,无需复杂的环境依赖配置。

(三)安全机制:加密与权限双重保障

  1. 数据传输加密:新增ECDH加密机制(椭圆曲线密钥交换算法),保障用户登录、数据传输过程中的安全性,防止信息泄露;

  2. 权限管控体系:基于RBAC(角色基础访问控制)模型,实现多维度权限控制,包括用户级、工作空间级、资源级权限隔离;

  3. 操作审计与日志:完整记录所有关键操作日志,包括用户登录、应用发布、资源修改、API调用等,支持日志导出与追溯,满足企业合规要求。

(四)数据处理流程:全链路优化,提升效率与效果

  1. 知识库处理全流程:采用“文档摄入→解析→分片→嵌入→存储→检索→重排”的标准化流程,支持自定义每个环节的参数(如分片大小、嵌入模型、召回数量),平衡检索速度与准确率;

  2. 数据集处理能力:内置数据清洗(去重、格式标准化)、数据增强(文本扩充、标签优化)、数据标注(支持手动标注与半自动化标注)功能,提升模型微调的数据质量;

  3. 多路召回与重排:知识库检索支持多路召回策略(如关键词召回+向量召回),结合重排算法(如交叉编码器重排),提升检索结果的相关性。

(五)模型适配能力:多厂商兼容+混合部署

  1. 模型接入适配:通过统一的模型服务网关,适配不同厂商的模型API(如Sensenova、OpenAI、阿里云等),用户仅需配置API Key即可快速接入,无需关注底层调用差异;

  2. 本地与在线混合:支持同时使用本地部署模型与在线模型,可根据场景灵活切换(如开发调试用在线模型,生产部署用本地模型降低成本);

  3. 模型微调框架:集成成熟的微调框架,支持主流大语言模型的微调(如LoRA微调),无需用户手动编写微调代码,仅需上传数据集、配置微调参数即可启动。

四、应用场景

LazyCraft的低门槛、高灵活特性使其适配多种行业与场景,无论是个人用户的轻量化需求,还是企业级的复杂业务集成,都能找到对应的解决方案:

(一)科研辅助场景

  • 应用示例:文献综述生成器、科研数据分析师、论文写作助手;

  • 核心价值:支持PDF、LaTeX等科研文档的批量解析与知识库构建,通过RAG策略快速检索相关文献内容,结合大模型生成综述报告、数据分析结论,大幅减少科研人员的文献阅读与数据处理时间;

  • 平台功能适配:知识库支持科研文档格式(LaTeX、PDF)、Prompt模板可定制科研写作规范、模型支持学术性文本生成。

(二)企业内部协作场景

  • 应用示例:内部知识库问答系统、员工培训助手、业务流程指引工具;

  • 核心价值:可将企业规章制度、业务手册、培训资料等批量导入知识库,搭建专属问答系统,员工通过自然语言查询即可获取精准答案;多租户管理支持按部门划分工作空间,确保数据安全隔离;

  • 平台功能适配:多租户权限控制、知识库多格式文件支持、API集成可嵌入企业OA系统。

(三)开发者快速原型验证场景

  • 应用示例:AI工具原型、大模型应用Demo、自定义RAG系统;

  • 核心价值:可视化组件画布可快速拼接应用逻辑,无需从零编码;支持多厂商模型快速切换,便于对比不同模型的效果;本地GPU部署支持快速验证模型微调效果;

  • 平台功能适配:组件化编排、多模型集成、本地模型微调与推理、实时调试功能。

(四)客户服务场景

  • 应用示例:智能客服助手、客户问题自动应答系统、售后工单处理辅助;

  • 核心价值:将产品手册、常见问题、售后流程等导入知识库,客服人员可通过AI助手快速获取答案,或直接让AI助手自动回复客户咨询;支持API集成至企业客服系统,实现无缝对接;

  • 平台功能适配:知识库高效检索、API标准化发布、多轮对话支持、日志审计可追溯。

(五)业务系统AI功能集成场景

  • 应用示例:电商平台智能推荐、金融行业风险分析助手、教育行业个性化学习推荐;

  • 核心价值:企业可通过LazyCraft快速构建AI功能模块(如推荐算法、风险识别),通过API无缝集成至现有业务系统,无需重构原有架构;可插拔架构支持根据业务变化灵活调整AI逻辑;

  • 平台功能适配:API标准化发布、组件化编排可快速修改业务逻辑、多模型支持适配不同业务需求。

(六)个人用户轻量化AI工具场景

  • 应用示例:个人笔记整理助手、文档格式转换工具、日常办公效率工具;

  • 核心价值:内置模板可快速搭建简单AI工具,无需技术背景;支持本地部署,保护个人数据隐私;

  • 平台功能适配:可视化操作、内置应用模板、本地Docker部署支持。

LazyCraft:基于 LazyLLM 的开源 AI Agent 应用开发与管理平台

五、使用方法

LazyCraft提供两种核心使用方式:快速部署(基于预置镜像,适合快速上手)与自定义构建镜像(基于源码构建,适合个性化需求),以下为详细步骤:

(一)快速开始(推荐新手,基于Docker预置镜像)

1. 环境准备

  • 安装Docker与Docker Compose(需确保Docker服务正常运行);

  • 若为Mac系统,Docker Compose命令找不到时,可通过以下方式安装:

    • 方式1:brew install --cask docker(安装完整Docker套件,包含Docker Compose);

    • 方式2:brew install docker-compose(单独安装Docker Compose,后续命令需替换为docker-compose up -d)。

2. 克隆代码

打开终端,执行以下命令克隆项目源码:

git clone https://github.com/LazyAGI/LazyCraft.git
cd LazyCraft

3. 配置环境变量

设置平台登录地址(默认本地地址,若已配置域名并做好反向代理,可修改为自定义域名):

export WEB_CONSOLE_ENDPOINT="http://127.0.0.1:30382"

4. 启动服务

进入Docker目录,启动服务:

cd docker
docker compose up -d

5. 启用本地模型微调推理(可选,需本地有GPU)

若需使用本地GPU进行模型微调与推理,需修改docker-compose.yml文件,取消对cloud-service服务的注释,保存后重新执行docker compose up -d

6. 访问与登录

  • 打开浏览器,输入地址:http://127.0.0.1:30382

  • 默认账号:admin;

  • 默认密码:LazyCraft@2025。

7. 首次使用注意事项

  • 登录后,平台预置了部分已发布应用,使用前需确保应用依赖的模型已配置好API Key(如Sensenova模型需同时配置ak和sk,格式为“ak:sk”);

  • 通过docker ps命令可查看服务启动状态,确认所有容器正常运行后再访问平台;

  • 若访问失败,可检查端口是否被占用,或查看Docker容器日志定位问题(docker logs 容器ID)。

(二)自定义构建镜像(适合进阶用户,Linux环境下)

若需对平台进行二次开发或自定义配置,可基于源码构建镜像:

1. 环境准备

  • 确保操作系统为Linux;

  • 安装Docker、Git、Wget工具;

  • 确保网络通畅,可正常访问GitHub。

2. 克隆代码并初始化子模块

git clone https://github.com/LazyAGI/LazyCraft.git
cd LazyCraft
git submodule update --init

3. 下载公共数据集

mkdir -p back/src/parts/data/common_datasets
wget https://github.com/LazyAGI/LazyCraft/releases/download/common_datasets/common_datasets.zip \
   -O back/src/parts/data/common_datasets/common_datasets.zip

4. 构建后端服务镜像

cd back
# 使用在线模型构建镜像
docker build --build-arg COMMIT_SHA=$(git rev-parse HEAD) -t lazycraft-back:latest .

5. 构建前端服务镜像

cd ../front
docker build --build-arg COMMIT_SHA=$(git rev-parse HEAD) -t lazycraft-front:latest .

6. 配置环境变量并启动服务

# 设置平台登录地址(替换为自定义域名或本地地址)
export WEB_CONSOLE_ENDPOINT="http://your-console-url"
# 指定自定义构建的镜像名称
export BACK_IMAGE="lazycraft-back:latest"
export FRONT_IMAGE="lazycraft-front:latest"
# 启动服务
cd ../docker
docker compose up -d

7. 验证启动

访问http://your-console-url(或本地地址),使用默认账号密码登录,确认平台功能正常即可。

(三)基础使用流程(以搭建“文献综述生成器”为例)

  1. 创建知识库:进入“资源管理→知识库”,上传多篇PDF格式的科研文献,配置解析策略(如分片大小),等待文档解析完成;

  2. 创建Prompt模板:进入“资源管理→Prompt管理”,创建文献综述生成模板,包含“总结核心观点、提炼研究方法、对比研究结论”等指令;

  3. 搭建应用:进入“应用搭建”,使用可视化画布拼接组件:

    • 组件1:接收用户输入(如“生成关于XX主题的文献综述”);

    • 组件2:知识库检索(关联步骤1创建的知识库,配置召回策略);

    • 组件3:调用大模型(选择合适的大语言模型,传入Prompt模板与检索结果);

    • 组件4:输出结果(展示生成的文献综述);

  4. 调试应用:点击“调试”按钮,输入测试关键词,查看运行结果,调整Prompt模板或检索策略优化效果;

  5. 发布应用:调试完成后,点击“发布”,选择发布为“平台应用”(可在平台内使用)或“API”(可集成至其他系统);

  6. 监控效果:进入“监控中心”,查看应用调用量、响应时间、用户反馈等,针对Bad Case优化知识库或Prompt模板。

六、常见问题解答(FAQ)

1. 启动服务时提示“docker compose: 命令未找到”怎么办?

  • 若为Mac系统,可通过brew install --cask docker安装完整Docker套件,包含Docker Compose;

  • 若已单独安装Docker Compose,需将命令替换为docker-compose up -d(横线连接);

  • 若为Linux系统,可通过sudo apt-get install docker-compose-plugin(Ubuntu)或yum install docker-compose-plugin(CentOS)安装。

2. 登录平台后,预置应用无法使用,提示“模型未配置”怎么办?

  • 进入“模型管理→模型配置”,找到应用依赖的模型(如Sensenova、OpenAI等);

  • 按模型厂商要求申请API Key(Sensenova需同时申请ak和sk);

  • 在模型配置页面填入Key,格式需符合要求(如Sensenova为“ak:sk”);

  • 保存配置后,重启应用即可正常使用。

3. 上传文档至知识库时,提示“文件格式不支持”怎么办?

  • 检查文件格式是否在支持列表内(PDF、Word、PPT、Excel、CSV、TXT、JSON、HTML、Markdown、LaTeX);

  • 若文件格式正确但仍无法上传,检查文件大小是否超过限制(建议单次上传不超过100MB,可分批次上传);

  • 若为特殊格式的Word/Excel文件(如加密文件、旧版本格式),可转换为PDF或CSV格式后再上传。

4. 如何使用本地GPU进行模型微调?

  • 确保本地GPU支持CUDA,且已安装对应的CUDA驱动;

  • 按照“快速开始”步骤,修改docker-compose.yml文件,取消对cloud-service服务的注释;

  • 启动服务后,进入“模型管理→微调任务”,上传数据集,选择本地模型(如Llama、ChatGLM等),配置微调参数(如学习率、迭代次数);

  • 启动微调任务,可在“任务监控”中查看进度,微调完成后即可在应用中调用该本地模型。

5. 多租户管理中,如何创建新的工作空间并分配权限?

  • 登录管理员账号,进入“系统管理→工作空间管理”,点击“创建工作空间”,设置名称与描述;

  • 进入“用户管理”,创建新用户并分配角色(管理员、开发者、普通用户);

  • 进入“权限配置”,将新用户关联至目标工作空间,设置该用户在工作空间内的权限(如资源查看、应用发布、配置修改);

  • 新用户登录后,即可在专属工作空间内开展工作,数据与其他工作空间隔离。

6. 知识库检索效果不佳,如何优化?

  • 调整知识库解析策略:减小文档分片大小(如从1000字/片改为500字/片),提升检索精准度;

  • 优化RAG策略:启用多路召回(关键词召回+向量召回),增加相关结果覆盖;

  • 更换嵌入模型:在“知识库配置”中选择更适合当前文档类型的向量模型(如针对科研文献的专业嵌入模型);

  • 补充知识库数据:上传更多相关文档,丰富知识库内容,减少检索空白。

7. 如何将搭建的应用集成至自有业务系统?

  • 在应用发布页面,选择“发布为API”,配置API名称、调用权限(如公开/私有)、请求频率限制;

  • 发布后,平台会生成API地址、请求参数说明与调用示例(如curl命令、Python代码);

  • 在自有业务系统中,按示例调用API,传入相关参数(如用户输入、上下文信息);

  • 接收API返回的结果(如AI生成内容、检索结果),并在业务系统中展示或进一步处理。

8. 忘记管理员密码怎么办?

  • 若已配置邮件服务,可通过登录页面“忘记密码”功能,输入管理员邮箱接收重置链接;

  • 若未配置邮件服务,可通过Docker容器修改密码:

    1. 执行docker ps找到后端服务容器ID(名称含lazycraft-back);

    2. 执行docker exec -it 容器ID bash进入容器;

    3. 执行平台提供的密码重置脚本(具体脚本可参考项目README或官方文档);

    4. 重启容器,使用新密码登录。

七、相关链接

八、总结

LazyCraft作为基于LazyLLM的开源AI Agent应用开发与管理平台,以“低门槛、全流程、高灵活”为核心优势,通过可视化组件编排、灵活可插拔架构、多厂商模型集成等核心功能,为非开发者与技术团队提供了从AI应用搭建到落地的完整解决方案。平台覆盖应用创建、调试、发布、监控的全生命周期,支持知识库管理、模型微调、多租户权限控制等关键能力,兼容多种文件格式与RAG策略,可快速适配科研、企业协作、客户服务、业务系统集成等多样化场景。无论是个人用户快速搭建轻量化AI工具,还是企业团队实现AI技术的规模化落地,LazyCraft都能通过简化开发流程、降低技术门槛、提升迭代效率,助力用户快速将AI想法转化为实际价值,是一款兼具易用性与扩展性的开源AI应用开发利器。

打赏
THE END
作者头像
AI工具集
工具不孤岛,AI集大成——这里有你要的一切智能解法