项目说明
本工具由本地 Qwen + Deepseek 大模型联合编写，本人已做二次修改与优化，用于实测离线模型运行效率。
核心用途：
- 主动预加载大模型，大幅缩短首次交互响应时间
- 手动卸载模型，快速释放显存资源
重要说明
本程序仅适用于 Ollama，且基于 Ollama 默认 11434 端口。
其他大模型工具 / 非默认端口环境，请勿使用。
其他大模型工具 / 非默认端口环境，请勿使用。
使用注意事项
- 运行前确保 Ollama 主程序已正常启动
- 预加载模型后，需在交互客户端选择对应模型名称
- 本工具仅负责：将模型载入显存 / 从显存卸载，无其他功能
补充说明
采用永久加载策略，无需设置闲置时效，更贴合手动管理场景。
免费资源
© 版权声明
© 版权声明 All Rights Reserved
THE END
青龙脚本合集-4-小鑫の小屋">
萌ICP备20262066号
暂无评论内容