nvida 的 12g 显卡
本来跑 stable diffusion webui 和 chatglm2 正常
换成 stable diffusion api 模式后
chatglm2 就跑不起来了
顺便说下
用 wx 模块接入了微信机器人
本来跑 stable diffusion webui 和 chatglm2 正常
换成 stable diffusion api 模式后
chatglm2 就跑不起来了
顺便说下
用 wx 模块接入了微信机器人
This topic created in 1038 days ago, the information mentioned may be changed or developed.
 |
1
l0wkey Aug 4, 2023
俩都是吃显存的。。
你放一起跑估计得至少 16 甚至 24G 的卡 |
 |
2
Ericxiaoshuang OP @l0wkey 确实，我感觉至少 24g 起步
|
 |
3
nomagick Aug 4, 2023
那你用 int4 量化的版本
|
 |
4
litchinn Aug 4, 2023
我以为你说的单独跑跑不起来，结果是两个同时运行吗。。。。
|
 |
5
israinbow Aug 4, 2023
|
|
6
Ericxiaoshuang OP @israinbow 跑的就是 int4
|
|
7
Ericxiaoshuang OP @litchinn 想实现的就是 aigc 应用在微信机器人，智能对话，以及/img ，文字生成图片
chatgpt 又要收费，又要科学的，成本挺高 |
 |
8
mmdsun Aug 4, 2023 via iPhone
上 4090 24GB 吧
|
Select Language