Ollama本地大模型管理器(AI写的) 

Ollama本地大模型管理器(AI写的) 

用本地Qwen+Deepseek大模型写的,自己也修改了一部分
想用来测试一下离线模型的效率~~~~~~
主要用来主动提前加载大模型,以节省首次和大模型交互的响应时间
或者手动从显存中卸载大模型,以便快速释放显存
**程序主要用于Ollama且基于默认的11434端口**
其他大模型调试软件,或者非Ollama默认端口的,请忽略!!
使用时注意点:
1.需要Ollama主程序正常运行中;
2.预加载大模型后还需要在交互客户端选择预加载的模型名称;

重申:本程序只时起到将模型提前载入显存或卸载出显存而已!!!
考虑到已经是手动操作了,就直接默认是永久加载,再设闲置时效好像意义不大!!!

Ollama本地大模型管理器(AI写的)
Ollama本地大模型管理器(AI写的)
Ollama本地大模型管理器(AI写的)
Ollama本地大模型管理器(AI写的)
Ollama本地大模型管理器(AI写的) -龙龙资源网・免费PHP网站源码模板,插件软件资源分享平台!
Ollama本地大模型管理器(AI写的) 
此内容为免费资源,请登录后查看
龙币0
限时特惠分享
龙币999
本站资源均为作者提供和网友推荐收集整理而来,仅供学习和研究使用,请在下载后24小时内删除,谢谢合作!
本站资源均为网友收集整理而来,仅供学习和研究使用。赞助不支持退款,谢谢合作!
客服3479539
免费资源
已售 579
© 版权声明
THE END
喜欢就支持一下吧
点赞714 分享
评论 抢沙发

请登录后发表评论

    暂无评论内容