josStorer's recent timeline updates josStorer's recent timeline updates |
josStorerV2EX member #618626, joined on 2023-03-13 19:14:41 +08:00 |
github.com/josStorer
| RWKV-Runner 发布并开源，可商用的大语言模型，一键启动管理， 2-32G 显存适配， API 兼容，一切前端皆可用 程序员 • josStorer • May 23, 2023 • Lastly replied by josStorer | 2 |
josStorer's recent replies
May 23, 2023 Replied to a topic by josStorer › 程序员 › RWKV-Runner 发布并开源，可商用的大语言模型，一键启动管理， 2-32G 显存适配， API 兼容，一切前端皆可用 |
@jones2000 可以，网盘里有全依赖的包： https://pan.baidu.com/s/1wchIUHgne3gncIiLIeKBEQ?pwd=1111
此外你可以用本体 exe ，在联网环境把所有依赖都装上，然后整个目录打包，就是离线包了，所有依赖都在文件夹内
API 部分做了简单的加锁，可以内网多人使用，理论上可以套个负载均衡集群部署，不过我没测试过
此外你可以用本体 exe ，在联网环境把所有依赖都装上，然后整个目录打包，就是离线包了，所有依赖都在文件夹内
API 部分做了简单的加锁，可以内网多人使用，理论上可以套个负载均衡集群部署，不过我没测试过
Select Language