PocketPal AI(轻量级智能AI助手)

PocketPal AI是什么

PocketPal AI 是一款轻量级、可随身携带的智能AI助手应用，专为 iOS 和 Android 用户打造。它基于小型语言模型（Small Language Models, SLMs），直接在设备上运行，无需依赖网络连接，确保用户数据完全保留在本地，保障隐私安全。无论是日常聊天、信息查询，还是个性化AI角色创建，PocketPal AI 都能提供高效、安全、灵活的使用体验。

PocketPal AI 采用先进的本地化AI推理技术，支持多种开源语言模型，如 Danube 2 和 3、Phi、Gemma 2、Qwen 等。用户可自由下载、切换模型，并根据需求调整系统提示、温度参数、聊天模板等设置。应用内置 Hugging Face Hub 集成，用户可直接在应用内浏览、下载模型，并支持访问需认证的私有模型。

软件功能

1. 本地AI推理

• 支持在手机上直接运行语言模型，无需联网。

• 所有对话和数据处理均在本地完成，保护用户隐私。

2. 多模型支持

• 提供多种小型语言模型供选择（如 Phi、Gemma、Qwen 等）。

• 可从 Hugging Face Hub 下载新模型或上传本地模型。

3. 个性化AI助手（Pals）

• 创建不同个性的AI角色，如“助理型”或“角色扮演型”。

• 自定义系统提示、角色设定、聊天界面颜色等。

4. 性能测试与对比

• 内置基准测试工具，可测试不同模型的响应速度、吞吐量等指标。

• 支持上传测试结果至 PocketPal AI 性能排行榜。

5. 高级交互功能

• 支持消息编辑与重新生成回复。

• 复制响应内容（整段或选段）。

• 屏幕保持唤醒状态，避免在生成过程中熄屏。

6. 多语言与多设备支持

• 支持中文、日文等多语言界面（持续扩展中）。

• 适配手机和平板（包括 iPad 的横屏模式）。

7. 后台下载与自动加载

• iOS 支持后台模型下载。

• 模型在后台自动卸载/加载，节省内存资源。

软件特色

隐私优先

• 所有对话和数据处理均在本地进行，不上传服务器。

• 唯一可能上传的数据为用户主动分享的反馈和基准测试结果。

跨平台支持

• 同时支持 iOS 和 Android 系统。

• 完美适配手机与平板设备（包括 iPad）。

灵活模型管理

• 支持多种 SLM 模型下载与切换。

• 支持 Hugging Face 私有模型访问（需设置 Token）。

个性化AI助手

• 自定义 AI 角色与人格设定，打造专属助手。

• 支持角色扮演设定，增强交互趣味性。

性能可视化

• 实时显示生成速度（tokens/秒）、延迟（ms/token）等指标。

• 可进行多模型性能对比测试。

使用方法

1. 下载与安装

• iOS 用户可在 App Store 下载安装。

• Android 用户可在AI铺子或Google Play 获取安装包。

2. 模型下载

• 打开应用后点击菜单（☰）→ 进入“模型”页面。

• 可选择预设模型下载，或点击“+”添加来自 Hugging Face 的 GGUF 模型。

3. 加载模型

• 在“模型”页面点击“加载”，或在聊天界面点击输入框左侧的下拉箭头选择模型。

4. 开始聊天

• 进入“聊天”页面，输入问题即可与 AI 助手互动。

• 可随时切换模型、编辑消息、复制响应内容。

5. 创建个性化AI助手（Pals）

• 使用“Pals”功能创建助理型或角色扮演型 AI。

• 设置系统提示、角色背景、颜色主题等。

6. 性能测试

• 进入“基准测试”页面，选择模型进行性能测试。

• 可将结果上传至排行榜，与其他用户对比。

收费价格

PocketPal AI 是一款完全免费的应用，用户可免费下载、使用全部功能，并访问开源模型资源。部分 Hugging Face 上的私有模型需用户自行申请访问权限，但应用本身不收取任何费用。

常见问题解答（FAQ）

Q1：PocketPal AI 是否需要联网？

• 不需要。所有模型推理均在本地完成，支持完全离线使用。

Q2：是否支持中文界面？

• 是的。当前版本已支持中文和日文界面，未来将支持更多语言。

Q3：如何访问 Hugging Face 上的私有模型？

• 需在应用内设置 Hugging Face 访问 Token（可在 Hugging Face 账户中获取）。

Q4：是否可以在 iPad 上使用？

• 是的。自 v1.8.12 版本起，全面支持 iPad，包括横屏模式。

Q5：如何提交反馈或建议？

• 在应用中进入“App Info”页面，点击“Sharing your thoughts”即可提交反馈。

Q6：是否支持后台下载模型？

• 是的，iOS 设备支持后台模型下载功能。

总结

PocketPal AI 是一款集隐私保护、本地AI推理、个性化定制、模型灵活性于一体的移动 AI 助手。它不仅适合日常使用，也适合开发者、研究人员和 AI 爱好者进行模型测试与性能分析。其离线运行机制、多语言支持、Pals 个性化助手等功能，使其在众多 AI 应用中脱颖而出。无论你是追求高效办公，还是想体验 AI 角色扮演，PocketPal AI 都是你的理想选择。