雨晴LLM最新版本

雨晴 LLM是一款面向安卓设备的本地离线大模型推理工具，区别于需要联网调用云端接口的AI软件，它可以直接在手机硬件上加载大模型文件，完成推理运算。所有对话数据保存在本机，不会上传到外部服务器，适合注重隐私，想要在手机本地体验大语言模型能力的技术爱好者。

软件简介

雨晴LLM面向AI技术爱好者、重视对话隐私的用户群体，对标各类安卓端本地大模型客户端。解决普通AI工具必须联网、聊天内容上传云端、网络差无法使用AI的痛点。软件专注本地模型推理，支持导入对应格式模型权重，脱离网络也能实现问答、文案生成、文本总结等能力，安卓手机即可运行离线大模型。

雨晴LLM怎么加载本地大模型文件？

打开雨晴LLM软件，授予存储读取

获取悬浮窗权限

准备好适配的模型文件，放到手机方便查找的文件夹目录。

在软件模型管理页面，选择导入本地模型，选中权重文件。

等待模型解析加载完成，模型越大，加载耗时会越长。

加载完毕之后就可以开启对话，离线进行AI推理交互。

手机运行雨晴LLM卡顿、回复速度慢该如何处理？

优先选择参数量更小的模型，小模型对手机硬件压力更低。
运行前关闭后台其他应用，释放手机运行内存。
在软件设置内调低线程数、上下文窗口大小参数。
高负载推理时机身会发热，发热降频会进一步拖慢推理速度。

雨晴LLM对话记录怎么管理？

全部会话数据存储在手机本地，不会自动上传网络。
支持新建多条会话，不同对话之间互相隔离。
可以手动删除单条会话，清空对应的全部聊天上下文。
没有云同步功能，更换设备需要手动导出备份会话数据。

相关问题与解答

Q：雨晴LLM必须联网才可以使用吗？
A：推理过程完全离线，仅下载新模型的时候需要网络，对话无需网络。
Q：是不是所有大模型都可以直接导入使用？
A：只支持适配格式的权重文件，部分模型需要转换之后才能加载。
Q：对手机硬件有什么硬性要求？
A：内存越大体验越好，大参数量模型需要高内存安卓机型。
Q：软件支持哪些功能？
A：支持问答、文本改写、文案创作、内容总结等基础大模型能力。
Q：推理的时候手机发热属于正常现象吗？
A：本地大模型运算占用硬件资源，发热属于正常情况。

用户实测评价

本地运行的思路很不错，不用联网就可以调用大模型。
大参数量模型对手机内存要求高，低配手机建议用小模型。
会话全部保存在本机，隐私方面让人很安心。
推理速度受手机硬件影响，旗舰机型体验会更加流畅。

更新日志

版本 v1.0.0(113)
实现安卓端本地大模型基础推理核心功能。
完善本地模型导入、切换管理模块。
优化内存调度策略，降低部分机型加载崩溃概率。
修复会话记录异常丢失bug，完善基础设置选项。